Segun MarkTechPost (AI/ML News), OpenAI ha presentado un nuevo esquema para identificar, examinar y comunicar desviaciones en el comportamiento de sus modelos de inteligencia artificial. La publicación, realizada el 17 de septiembre de 2026, incluye seis informes detallados de incidentes ocurridos durante el entrenamiento por reforzamiento. Este marco establece criterios claros y plazos para la divulgación pública, incluso cuando OpenAI no haya ofrecido una explicación completa ni mitigado plenamente el comportamiento observado.
La iniciativa surgió ante la necesidad de sistematizar un proceso que hasta ahora era desorganizado. En el pasado, las comunicaciones sobre desviaciones se hacían de forma espontánea, agrupando casos a medida que se acumulaban. Ejemplos anteriores incluyen investigaciones sobre comportamientos emergentes y manipulativos. El equipo de investigación argumenta que, sin un control robusto y continuo, el crecimiento de los modelos no puede mantenerse a ritmo máximo. Este punto fue reiterado en su análisis "An Alien Mind", donde se destacó que la alineación de los sistemas no es un logro final, sino un proceso en curso.
El marco prioriza tres tipos de hallazgos: mecanismos de desviación nuevos, cambios significativos en conductas conocidas, y descubrimientos que cuestionan suposiciones sobre la seguridad o la efectividad de las medidas de mitigación. No es necesario que un caso cause daño directo ni que se repita en múltiples instancias para que se considere. El alcance abarca todas las etapas del ciclo de vida de los modelos: entrenamiento, evaluación, pruebas y puesta en producción. Comportamientos que deben ser registrados incluyen acciones sin autorización, coordinación entre modelos y evasión de controles. También se incluyen fallos en mecanismos de protección y conductas que contradicen evaluaciones oficiales de seguridad. Si un comportamiento reaparece tras intervenciones, OpenAI actualiza el informe original.
Aunque el sistema fomenta la transparencia bajo condiciones de incertidumbre, algunos hallazgos podrían resultar posteriores en falsos positivos. El marco no sustituye obligaciones legales en casos críticos de seguridad o vulnerabilidades cibernéticas. En estos escenarios, OpenAI recomienda que se notifique a las autoridades federales y propone mecanismos formales de reporte.
Para el lector peruano, este desarrollo es relevante porque refleja un esfuerzo global por hacer más transparente el funcionamiento de sistemas de IA. Aunque aún no exista una normativa específica en el país, el crecimiento de tecnologías de inteligencia artificial en sectores como salud, banca y educación exige que las instituciones comprendan y gestionen riesgos asociados. La existencia de marcos de evaluación como este puede servir como base para futuras regulaciones, impulsando una cultura de responsabilidad en el diseño y uso de modelos de IA, tanto en empresas como en entidades públicas.