Según Harvard Business Review, una investigación reciente revela que los usuarios de inteligencia artificial rara vez desafían las sugerencias que reciben de los sistemas. A pesar de que se ha propuesto que una mayor transparencia en los procesos de toma de decisiones de la IA podría reducir sesgos en sus resultados, el estudio muestra que la mayoría de los profesionales no evalúan críticamente las propuestas generadas por la tecnología. Esto ocurre incluso cuando los modelos pueden estar entrenados con datos sesgados o representativos de grupos específicos, lo que introduce riesgos en la equidad de sus recomendaciones.
El análisis indica que los usuarios tienden a confiar en las respuestas de las herramientas de inteligencia artificial como si fueran neutras o objetivas, sin considerar que los algoritmos pueden reflejar patrones históricos de discriminación o sesgos estructurales. En muchos escenarios laborales, como la selección de candidatos o la asignación de tareas, esta falta de cuestionamiento puede perpetuar desigualdades. La investigación también destaca que los empleados no reciben formación suficiente para identificar cuando una recomendación de IA podría estar basada en datos incompletos o sesgados, lo que limita su capacidad de intervención.
Este fenómeno no es solo un problema técnico, sino una cuestión de comportamiento humano. Los individuos tienden a aceptar la autoridad de los sistemas digitales sin descomponer su lógica interna. La confianza en la IA se convierte así en una barrera, no una ventaja, al momento de evaluar si una decisión es justa o equitativa. La evidencia sugiere que incluso cuando se exponen a los procesos de toma de decisiones, los usuarios no desarrollan hábitos críticos que les permitan detectar inconsistencias o sesgos potenciales en las respuestas generadas.
Para los lectores peruanos, este hallazgo tiene implicaciones directas en contextos como el acceso al crédito, la asignación de empleos o la gestión de inversiones. En el mercado peruano, donde la tecnología está integrándose rápidamente en servicios financieros y de empleo, los sistemas de inteligencia artificial pueden influir en decisiones que afectan a comunidades marginadas. Si los usuarios no cuestionan las recomendaciones, existe el riesgo de que políticas o decisiones se basen en patrones históricos de desigualdad, como el sesgo racial o de género que persisten en algunos sectores. Por ejemplo, un sistema que sugiere tasas de interés más altas para ciertos grupos demográficos podría reforzar brechas económicas sin que el usuario lo perciba.
Además, en entornos como el sector de servicios públicos o las empresas de microfinanzas, donde la inclusión es clave, es fundamental que los usuarios desarrollen una postura crítica frente a las herramientas digitales. La educación en cuestionamiento de tecnologías automatizadas debe ser parte de los programas de formación, tanto en el ámbito laboral como en el académico. Solo así se podrá garantizar que las innovaciones tecnológicas no amplifiquen desigualdades, sino que las reduzcan en el contexto peruano.