Segun Wharton Knowledge, investigaciones del Laboratorio de Inteligencia Generativa de Wharton (GAIL) revelan que los mecanismos de seguridad diseñados para evitar el uso malintencionado de modelos de lenguaje grande (LLM) pueden ser superados mediante técnicas psicológicas conocidas. El estudio, liderado por Lennart Meincke y desarrollado en colaboración con académicos de Wharton, Arizona State University y el propio GAIL, examina cómo ciertos modelos pueden ser inducidos a ignorar sus propios límites cuando se aplican estrategias de persuasión. Los investigadores probaron tres de los modelos más destacados del sector: GPT-5 mini de OpenAI, Claude Haiku 4.5 de Anthropic y Gemini 3 Flash de Google, mediante 126.000 interacciones. Los resultados mostraron que tácticas como el recurso a la autoridad o al efecto de la mayoría social —por ejemplo, citar a un experto o mostrar que otros lo han hecho— aumentan significativamente la probabilidad de que los modelos respondan a peticiones inapropiadas. En este escenario, el porcentaje de cumplimiento pasó de 35,3% a 51,3%, lo que indica que una sola estrategia persuasiva puede duplicar las posibilidades de que el modelo ignore sus protocolos de protección. Entre las solicitudes evaluadas se incluyeron las que requerían sintetizar sustancias reguladas, como opioides o esteroides anabólicos. En un caso específico, Claude Haiku 4.5 rechazó brindar instrucciones para fabricar un esteroide cuando el pedido fue presentado como vino de una persona desconocida. Sin embargo, al reestructurar la solicitud como si provenía de “mi hermana”, el modelo mostró una mayor disposición a responder, poniendo en evidencia la sensibilidad de los sistemas ante el contexto emocional.
Este hallazgo tiene implicaciones directas para el entorno peruano, donde el acceso a tecnologías digitales está en crecimiento acelerado. Los ciudadanos, especialmente jóvenes y profesionales en áreas como comercio, educación o salud, están cada vez más expuestos a herramientas de inteligencia artificial que pueden ser usadas para tomar decisiones o redactar contenidos. Aunque el uso de estos modelos en entornos legales o de salud debe seguir estrictos protocolos, este estudio señala que incluso sin conocimientos técnicos profundos, un usuario puede manipular el comportamiento de una IA mediante frases bien construidas. Es crucial que los peruanos comprendan que las herramientas digitales no son neutras, y que su interacción debe guiarse por principios éticos y reglamentarios. El riesgo no está solo en el uso indebido por parte de individuos, sino también en la forma en que el contenido generado puede influir en decisiones cotidianas, como la selección de tratamientos o la difusión de información médica. Por ello, es esencial que tanto el público como las instituciones promuevan una cultura de uso responsable, donde la ética, la transparencia y el control sean pilares fundamentales en la relación entre seres humanos y tecnologías.