Según Google Research, el avance de inteligencias artificiales autónomas plantea nuevos desafíos en privacidad y seguridad, especialmente cuando estos sistemas deben operar en entornos diversos y dinámicos. En un encuentro realizado en diciembre de 2025 en Nueva York, más de 50 expertos académicos e industriales colaboraron para identificar las brechas críticas que enfrentan los agentes de inteligencia artificial al procesar información personal y tomar decisiones en múltiples contextos. El resultado fue un informe técnico que destaca las tensiones inherentes entre la funcionalidad de estos sistemas y el cumplimiento de normas éticas y legales de protección de datos.
Los agentes modernos, impulsados por modelos de lenguaje de gran tamaño, pueden ejecutar tareas complejas y adaptarse a distintas situaciones sin intervención humana. Sin embargo, su capacidad para acceder a información sensible —como datos financieros, de salud o de identidad— exige que sus comportamientos estén sujetos a reglas de conducta que eviten abusos o errores graves. Este fenómeno se relaciona directamente con la teoría de la integridad contextual, que postula que la adecuada gestión de datos depende de entender el entorno en el que se usan. En lugar de aplicar políticas rígidas y uniformes, los sistemas deben adaptarse a cada contexto: una situación de salud requiere niveles de confidencialidad distintos a una transacción bancaria, por ejemplo.
A nivel técnico, las limitaciones surgen en tres frentes clave: primeramente, la ambigüedad en las entradas que reciben los agentes, ya que instrucciones breves o imprecisas pueden llevar a interpretaciones erróneas. Segundo, los interfaces no estructurados dificultan la verificación de qué datos están siendo procesados y por qué. Tercero, la flexibilidad operativa de estos sistemas permite acciones que, aunque útiles, podrían poner en riesgo la privacidad si no están supervisadas. Cada una de estas dimensiones requiere soluciones coordinadas entre infraestructura, modelos de aprendizaje y usuarios finales.
Para el lector peruano, este panorama es especialmente relevante. El país enfrenta un crecimiento acelerado de servicios digitales —desde fintechs hasta plataformas de salud— que dependen cada vez más de agentes inteligentes para gestionar procesos. Sin un marco claro de regulación que vincule la autonomía de estos sistemas con la protección de datos personales, existe el riesgo de que operaciones cotidianas, como el acceso a cuentas bancarias o la gestión de seguros, se vean expuestas a errores o vulnerabilidades. Los ciudadanos deben estar informados sobre qué datos están siendo utilizados, por qué y bajo qué condiciones. El desarrollo de agentes éticos no solo es una cuestión técnica, sino una responsabilidad social que requiere participación activa de los usuarios y una supervisión efectiva por parte de instituciones públicas. En un entorno donde la tecnología se integra cada vez más en la vida diaria, la transparencia y el control personal deben ser pilares fundamentales.