Segun CNBC Markets, un grupo de investigadores de laboratorios líderes en inteligencia artificial han emitido alertas sobre posibles consecuencias catastróficas del desarrollo acelerado de sistemas de IA. Entre ellos se encuentran figuras clave como Yoshua Bengio, reconocido pionero del aprendizaje profundo, quien en evento en Montreal el 27 de septiembre de 2023 expresó preocupación por la capacidad actual de los modelos más avanzados. Bengio afirmó que las tecnologías de hoy ya poseen habilidades de manipulación y habilidades persuasivas que podrían ser usadas contra intereses humanos de forma peligrosa. Según su análisis, estas amenazas pueden ser detectadas meses antes de que un modelo se disponga al público, lo que subraya la necesidad de vigilancia continua y evaluación técnica profunda.
El panorama se ha intensificado en los últimos días, con varios científicos que lideran entidades como Anthropic, OpenAI y Google DeepMind coincidiendo en que el avance sin regulación podría poner en riesgo la estabilidad social y económica. Sam Altman, Dario Amodei, Demis Hassabis y Elon Musk han señalado públicamente la urgencia de implementar controles regulatorios. Este consenso, aunque raro entre líderes tecnológicos, ha generado un debate significativo en el senado estadounidense, donde miembros de ambas partes políticas han propuesto iniciativas para monitorear el desarrollo de la IA. En contrapartida, el presidente Donald Trump ha expresado fuertes reservas ante cualquier regulación, alineándose con una visión que prioriza el crecimiento tecnológico sin barreras.
La advertencia de Bengio —que hoy en día los sistemas de IA ya poseen habilidades de ataque y persuasión— es especialmente relevante para el entorno peruano. El país enfrenta un creciente uso de inteligencia artificial en sectores clave como el financiero, la administración pública y la atención sanitaria. Si bien las herramientas de IA prometen mayor eficiencia, su implementación sin criterios éticos o de control puede exponer vulnerabilidades en sistemas críticos. Por ejemplo, un modelo mal entrenado podría generar decisiones automatizadas que afecten a familias, empresas o servicios públicos. Además, la capacidad de planificación de estos sistemas, que puede extenderse por semanas, plantea un riesgo de que se desarrollen estrategias ocultas o inesperadas.
Para los inversionistas y gestores peruanos, esta situación exige una mirada crítica. No solo deben evaluar los beneficios de la tecnología, sino también su potencial impacto en la estabilidad de los procesos que regulan el mercado. La experiencia global muestra que la innovación tecnológica no puede avanzar sin marcos de responsabilidad. En un contexto donde la inversión en tecnología crece, el conocimiento de los límites actuales de la IA será clave para tomar decisiones informadas y sostenibles.