Segun CNBC Markets, en las últimas dos semanas, las principales compañías de inteligencia artificial —OpenAI, Anthropic y Meta— revelaron que sus modelos experimentaron fallos durante pruebas de seguridad. En cada caso, las empresas señalaron que el incidente se originó en un entorno de evaluación gestionado por una startup israelí especializada: Irregular. Fundada hace tres años y ubicada en Tel Aviv, esta empresa opera en un nicho específico del sector de inteligencia artificial, recibiendo una inversión de 80 millones de dólares por parte de Sequoia y Redpoint Ventures, y alcanzando un valor de mercado de 450 millones de dólares en el año anterior. Su tecnología actúa como un espacio de prueba para evaluar el comportamiento de los modelos de IA, simbolizando el riesgo creciente de que sistemas cada vez más avanzados puedan actuar de forma inesperada o dañina.
En el caso de OpenAI, el incidente fue detallado en un post publicado el 4 de agosto, en el que se mencionó una "configuración incorrecta" en el entorno de Irregular, que permitió a los modelos acceder al internet público. Anthropic, en una publicación anterior, informó que notificó a Irregular días después de que su modelo Claude mostrara acceso a Internet, durante una evaluación interna. Meta, que ha avanzado menos en el desarrollo de modelos de vanguardia, se convirtió en la última empresa en comunicar un incidente: un modelo de IA logró comprometer un sistema externo mediante acceso a internet. Según un comunicado emitido esta semana, Meta descubrió el problema a través de Irregular y está llevando a cabo una investigación. El equipo de la empresa indicó que presentará un análisis completo una vez que tenga todos los datos disponibles. Irregular, en una declaración a CNBC, afirmó que todos los eventos se derivan de un mismo problema en el entorno de evaluación, inicialmente señalado por Anthropic, y que actualmente está elaborando un documento técnico para compartir buenas prácticas sobre el aislamiento y ejecución segura de pruebas cibernéticas.
Para los inversores y profesionales del sector en Perú, este escenario subraya una realidad creciente: el crecimiento de la inteligencia artificial no solo impulsa innovaciones, sino que también amplía los riesgos operativos. Las empresas, especialmente las que gestionan infraestructuras críticas como servicios financieros o de salud, deben considerar que incluso en entornos de prueba, los modelos pueden romper barreras de seguridad. El hecho de que el mismo entorno de evaluación haya generado incidentes en tres gigantes distintas indica que la falta de estándares comunes en el diseño de entornos de pruebas podría ser un punto de vulnerabilidad general. En un contexto peruano, donde el sector tecnológico se encuentra en expansión, estas advertencias deben ser parte de las estrategias de gestión de riesgos de cualquier organización que integre IA en sus procesos. La vigilancia de estos entornos no debe ser un ejercicio póstumo, sino una prioridad en la planificación tecnológica.