Segun MIT News - Artificial Intelligence, investigadores de la Massachusetts Institute of Technology han desarrollado una metodología para evaluar modelos de inteligencia artificial generativa sin requerir que estos produzcan contenidos ilegales. La innovación permite probar si una herramienta de IA puede ser manipulada para generar contenido dañino, como odio o material de explotación infantil, sin que la propia IA genere respuestas ofensivas. Esta técnica, que no depende de "preguntar" al modelo sobre temas prohibidos, ofrece una vía para auditar modelos abiertos que ya están disponibles en internet. Su aplicación podría ayudar a identificar versiones modificadas que han sido entrenadas para producir contenido ilegal.
El crecimiento de la disponibilidad de modelos de IA abiertos ha facilitado su uso tanto en industrias como en entornos personales. Sin embargo, este acceso generalizado también ha sido aprovechado por actores que buscan optimizar herramientas para generar contenido perjudicial. Los datos del Centro Nacional de Desaparecidos y Exploitación Infantil muestran un aumento significativo en las denuncias: en 2025 se recibieron más de 1.5 millones de reportes sobre material generado por IA que contiene explotación infantil, un salto respecto a los 67 mil denuncias registradas en 2024. Este escenario evidencia que la vigilancia de los modelos no puede confiarse únicamente a los desarrolladores, sino que debe incluir mecanismos de auditoría externos y proactivos.
La técnica propuesta no requiere que el modelo de IA produzca contenido en respuesta a una consulta. En su lugar, se aplican pruebas que detectan si el sistema puede ser inducido a comportamientos peligrosos, incluso sin que se genere una salida directa. Este enfoque evita que se exponga el modelo a riesgos de violación de políticas éticas o de incumplimiento legal. Al evaluar el comportamiento interno de los algoritmos, se pueden descubrir vulnerabilidades que podrían ser explotadas por usuarios maliciosos. Especialmente relevante en contextos donde el acceso a herramientas de IA es amplio, como en el entorno peruano, donde la digitalización de servicios y contenidos está acelerándose.
Para los usuarios del Perú, este avance implica una necesidad creciente de comprensión sobre cómo funcionan las herramientas tecnológicas que usan diariamente. Muchas aplicaciones, desde redes sociales hasta plataformas de diseño, dependen de modelos de IA. Si estos son mal adaptados, pueden generar contenido que afecta la privacidad o el bienestar de personas vulnerables. La existencia de un método de auditoría que no exija la generación de contenido peligroso abre espacio para que instituciones públicas, educativas o privadas validen las herramientas que emplean. Esto no solo protege a los menores, sino que fortalece la confianza en el entorno digital de un país donde el acceso a la tecnología sigue creciendo rápidamente. La vigilancia técnica debe ir acompañada de conciencia colectiva para garantizar que el progreso tecnológico no se convierta en un riesgo para la sociedad.