Según MIT Sloan Review, una iniciativa global de estudios sobre inteligencia artificial responsable ha revelado que las organizaciones no solo deben garantizar la seguridad técnica de sus sistemas, sino que deben integrar una evaluación profunda y continua de sus impactos reales en el entorno laboral y económico. Esta reflexión se basa en encuestas a ejecutivos y expertos de distintas industrias y regiones, analizadas en colaboración con Boston Consulting Group. La investigación destaca que el éxito de los esfuerzos por implementar IA responsable depende fundamentalmente de la presencia activa de profesionales humanos que no se limiten a revisar salidas, sino que intervengan en cada etapa del ciclo de vida de la inteligencia artificial.
Los expertos identifican que la verificación no es un mero control final, sino un proceso dinámico que exige juicios humanos en múltiples fases. Desde la definición de objetivos hasta la validación de resultados, se requiere una interpretación del contexto, la creación de escenarios de prueba, la auditoría de procesos internos, el establecimiento de umbrales de confianza y la decisión de cuando la IA no debe ser utilizada. Este enfoque implica que los humanos no son simplemente supervisores pasivos, sino actores clave que asumen responsabilidad por los efectos de las decisiones automatizadas. La mayoría de los participantes —84%— concuerda en que este tipo de intervención es esencial para evitar consecuencias negativas en el empleo y en la estabilidad económica.
Para los lectores peruanos, este hallazgo tiene un significado práctico directo. El entorno laboral peruano, caracterizado por una rápida digitalización en sectores como el comercio, la logística y la atención al cliente, enfrenta riesgos reales al adoptar tecnologías de IA sin un marco de supervisión humana robusto. Muchas empresas, aún en etapas iniciales de transformación tecnológica, asumen que una IA bien entrenada puede operar sin intervención humana, lo cual puede generar errores que afectan directamente a empleados, clientes o procesos clave. Por ejemplo, una automatización en un sistema de reclamaciones podría rechazar una solicitud válida por un error de interpretación que solo un profesional humano podría detectar. La necesidad de expertos con formación técnica y ética no es una opción, sino una obligación para mantener la calidad, la equidad y la sostenibilidad de los procesos digitales.
En este contexto, las empresas peruanas deben reevaluar su enfoque en la implementación de IA. En lugar de verla como una herramienta que sustituye al trabajador, debe ser entendida como un sistema que exige vigilancia humana constante. La inversión en formación de expertos en ética de datos, diseño de procesos y auditoría de sistemas no solo cumple con principios de responsabilidad, sino que también fortalece la confianza de los colaboradores y el público en las decisiones tecnológicas.