Segun Google Research, un equipo liderado por investigadores de Google Cloud ha presentado un nuevo enfoque para garantizar la fiabilidad de los trabajos generados por inteligencias artificiales en investigación científica. Este marco, denominado Science One Framework, busca resolver una falla estructural clave: la imposibilidad de verificar si el contenido producido por modelos de lenguaje es real o ficticio. Aunque los sistemas actuales pueden redactar manuscritos que se parecen a los escritos por humanos, su capacidad para presentar referencias reales, describir métodos precisos y permitir la reproducción de experimentos sigue siendo limitada. Se han registrado casos de citaciones que no existen, discrepancias entre el código ejecutado y las explicaciones textuales, y resultados experimentales que no se pueden replicar con los datos proporcionados.
El marco propuesto, denominado Chain-of-Evidence (CoE), establece una cadena de pruebas que vincula cada afirmación científica con evidencia tangible, como datos experimentales, código abierto o referencias verificables. La implementación del Science One Framework permite que cada paso de la investigación —desde la revisión de literatura hasta la ejecución de experimentos— se guarde como un registro verificable. Además, CoE Audit, un protocolo automático, evalúa la coherencia entre el texto generado y el código, así como la validez de las afirmaciones científicas frente a los datos reales. Los resultados muestran que los sistemas tradicionales pueden generar hasta un 21% de referencias ficticias, mientras que el Science One Framework logra cero citaciones ficticias y reproducibilidad plena en pruebas de alto nivel, como MLE-Bench y Parameter-Golf.
Para el lector peruano, este avance representa un punto de inflexión en la confianza que se puede depositar en los contenidos generados por tecnología. En un contexto donde la información científica influye en decisiones económicas, educativas y de salud, la capacidad de verificar si un estudio es auténtico o producto de un error algorítmico es crucial. Los ciudadanos, profesionales y emprendedores que dependen de datos de investigación para sus decisiones deben estar conscientes de que, aunque las herramientas de inteligencia artificial han avanzado, su uso requiere una evaluación crítica. La existencia de marcos como el Science One Framework no elimina la necesidad de juicio humano, sino que los potencia, al ofrecer una base sólida para evaluar la autenticidad de los hallazgos. En un país donde la innovación tecnológica y la formación científica son pilares de desarrollo, esta evolución permite que el conocimiento sea más accesible, pero también más responsable.