Segun MarkTechPost (AI/ML News), el equipo de Prime Intellect ha lanzado la versión 0.6.0 de su framework prime-rl, diseñado para entrenar modelos de mezcla de expertos (MoE) de trillones de parámetros mediante aprendizaje por reforzamiento agente. Esta actualización se enfoca especialmente en tareas de ingeniería de software de larga duración, como la escritura de código complejo en secuencias extensas. En pruebas específicas, el modelo GLM-5 fue entrenado en tareas de desarrollo de software (SWE) con longitudes de secuencia hasta 131 mil pasos, logrando tiempos por paso inferiores a cinco minutos. El proceso se ejecutó con un tamaño de lote de 256 simulaciones y utilizó solo 28 nodos de GPU H200.
La arquitectura de prime-rl emplea un enfoque asíncrono que separa el sistema de entrenamiento de los procesos de inferencia. Esto permite que ambos componentes operen de forma independiente, evitando que los recursos de GPU queden inactivos mientras esperan tareas que pueden durar horas. La inferencia se optimiza mediante el uso de precisión FP8, técnicas de expansión de datos (Wide EP), descomposición de procesos (P/D), desalojamiento de datos de contexto (KV) y reutilización de rutas (router replay). Durante el entrenamiento, se aplica una paralelización tridimensional que combina FSDP, descomposición de procesos (EP) y paralelismo de contexto (CP), junto con el uso de precisión FP8 escalada por bloques.
Este avance no solo valida el potencial de modelos de gran escala, sino que también ofrece una solución práctica para el desarrollo de inteligencias artificiales capaces de ejecutar tareas complejas y largas en entornos reales. Los modelos testados incluyen zai-org/GLM-5.1, moonshotai/Kimi-K2.7-Code y nvidia/NVIDIA-Nemotron-3-Ultra-550B-A55B-BF16, siendo el lanzamiento compatible con otros grandes modelos de MoE. La ejecución completa comienza con una sola orden en un cluster Slurm, como "uv run rl @ examples/glm5_llmd/rl.toml --output-dir /shared/outputs/glm5-llmd".
Para el lector peruano, este desarrollo representa un paso clave en la evolución de las herramientas de inteligencia artificial aplicadas al desarrollo tecnológico. Aunque los modelos aún están en fases de investigación, su capacidad para manejar tareas complejas de código de larga duración —como las que enfrentan desarrolladores en entornos de software de alto rendimiento— puede transformar la forma en que se construyen aplicaciones digitales en el país. El acceso a infraestructuras eficientes y escalables, como las que utiliza prime-rl, podría eventualmente permitir a pymes y startups locales implementar soluciones de IA más robustas, sin depender exclusivamente de plataformas extranjeras. A medida que el sector tecnológico crece en Perú, estas innovaciones pueden servir como base para una mayor autonomía en el diseño de tecnologías clave.