Segun MarkTechPost (AI/ML News), un equipo de desarrollo ha creado una solución técnica que integra múltiples capas de protección para garantizar que asistentes basados en inteligencia artificial respondan de forma segura y ética en entornos financieros. La propuesta, desarrollada mediante el entorno NeMo Guardrails, combina verificaciones determinísticas de datos personales, autocomprobaciones basadas en modelos de lenguaje, filtros de recuperación de información, ocultación de números de cuentas y restricciones temáticas. Además, el sistema implementa mecanismos de control por políticas para herramientas, interacciones en múltiples turnos y registros detallados de cada intervención. Cada paso del flujo de solicitud —desde entrada hasta salida— es monitoreado para evaluar si se activan controles específicos, identificar qué regulaciones se aplican y cuál es el costo computacional asociado a cada medida de seguridad.
Este marco técnico no solo previene accesos no autorizados, sino que también evita que el asistente genere información falsa sobre saldos, cargos o números de cuentas. Algo crítico en contextos financieros, donde una respuesta errónea puede generar pérdidas o daños a la confianza del usuario. La configuración incluye instrucciones claras para el modelo, que debe responder solo con datos del contexto proporcionado y evitar cualquier invento de datos financieros. La capacidad de detectar mensajes que intentan hacer ignorar las directrices, imponer roles no autorizados o incluir lenguaje ofensivo permite una gestión proactiva de riesgos. Además, se permite el diálogo natural, incluyendo frustraciones o temas fuera del ámbito financiero, sin comprometer la integridad del sistema.
Para el lector peruano, esta tecnología representa una respuesta directa a las preocupaciones crecientes sobre la privacidad y seguridad en servicios financieros digitales. En un entorno donde muchas personas dependen de aplicaciones móviles para gestionar sus cuentas bancarias, tarjetas o créditos, el riesgo de exposición de datos personales o la generación de información falsa es real. Este tipo de protección, aunque aún en etapa de desarrollo, puede ser adoptado por instituciones como bancos o fintechs locales para fortalecer la confianza de sus usuarios. Al implementar capas de verificación similares, las empresas podrían prevenir incidentes como el acceso indebido a información sensible o la entrega de datos incorrectos. En un país donde el uso de tecnologías digitales crece rápidamente, la inversión en sistemas de seguridad ética no solo es técnica, sino también socialmente responsable.