Segun Forbes Business, dos empresas tecnológicas principales han retirado en menos de una semana características de inteligencia artificial que generan imágenes sintéticas, tras verificarse su potencial para ser malinterpretadas como evidencias reales. En julio, Google implementó en Google Earth una herramienta que permite a los usuarios crear imágenes fotográficas realistas a partir de datos satelitales y 3D de ubicaciones específicas. Aunque el sistema no modifica las imágenes originales del producto, produce imágenes sintéticas que pueden ser capturadas, descargadas y compartidas fuera de la plataforma. En horas posteriores, investigadores generaron escenas falsas: refugiados en la frontera mexicana, una central nuclear en Irán y un cráter de bomba en un hospital de Gaza. Aunque Google afirma que estas imágenes están etiquetadas como producidas por inteligencia artificial, el hecho de que se puedan reproducir y difundir fuera del entorno de uso limitado, evidencia una brecha entre los controles técnicos y la percepción pública de confiabilidad.
Un mes antes, Meta lanzó una función similar en Instagram, que permitía a los usuarios citar perfiles públicos como referencia para generar imágenes mediante su modelo Muse. En este caso, los propietarios de cuentas no eran notificados, y por defecto, se incluían perfiles de contenido adulto. La reacción de la comunidad se intensificó en días, generando críticas sobre consentimiento, uso de representaciones personales y riesgo de producir contenido no consensuado. La empresa declaró que la funcionalidad "falló en su objetivo", y la retiró en menos de tres días. Este patrón de lanzamiento, seguimiento rápido de impacto social y reacción de eliminación, se repite en el historial de las empresas de tecnología, mostrando que los riesgos de uso indebido de la IA no son solo teóricos, sino que surgen con claridad en el ámbito público.
Para los peruanos, este escenario plantea una reflexión clave: en un entorno donde la información digital es el eje de la economía y la comunicación, la credibilidad de las imágenes se vuelve crucial. Si una herramienta tecnológica puede generar imágenes que parecen reales, pero que no lo son, el público puede tomar decisiones basadas en información engañosa. En contextos como el desarrollo de políticas públicas, la gestión de crisis o incluso la opinión sobre eventos sociales, la confiabilidad de las fuentes visuales se ve directamente afectada. Es vital que tanto usuarios como instituciones comprendan que no todas las imágenes digitales son auténticas, y que las herramientas de IA, aunque útiles, deben ser usadas con rigor ético y vigilancia técnica. En el Perú, donde la comunicación digital es un pilar de la vida cotidiana, este riesgo no es solo una cuestión técnica, sino una cuestión de responsabilidad colectiva.