Según Google Research, existe una necesidad creciente de evaluar si los sistemas de inteligencia artificial pueden "olvidar" información sensible de sus entrenamientos sin necesidad de reentrenarlos desde cero. Este proceso, conocido como machine unlearning, es clave para cumplir normativas como el "Derecho al Olvido" del GDPR, así como para garantizar la seguridad y calidad de los modelos. A medida que los conjuntos de datos que procesan las IA crecen en tamaño y sensibilidad, la verificación de que estos modelos han eliminado información específica se ha transformado de una cuestión teórica en una obligación técnica. Los auditores, sin acceso a los datos originales ni a las capas internas del modelo, deben evaluar el comportamiento del sistema mediante consultas y análisis de sus respuestas.
Una técnica ampliamente utilizada para este propósito es el testing de muestras, que compara si dos conjuntos de salidas provienen de distribuciones estadísticas distintas. Por ejemplo, se puede contrastar la respuesta de un modelo que nunca vio un registro específico con otro que supuestamente ha "olvidado" ese dato. Si las respuestas son estadísticamente distintas dentro de un umbral definido, se concluye que el olvido no se produjo. Sin embargo, a medida que los modelos se vuelven más complejos y voluminosos, este método enfrenta limitaciones. La capacidad estadística para detectar una verdadera variación frente al ruido inherente en los modelos disminuye, y para obtener resultados significativos, se requieren miles de muestras. Este proceso se vuelve extremadamente costoso en términos computacionales, limitando su aplicación en entornos reales.
Para superar esta barrera, Google Research presenta una nueva metodología: los Pruebas de Kernel de Divergencia Regularizada (Regularized f-Divergence Kernel Tests), presentada en el evento AISTATS 2026. Esta herramienta mejora la sensibilidad del análisis, permitiendo detectar diferencias mínimas entre distribuciones de datos con una precisión estadística más robusta. A diferencia de los métodos tradicionales, que dependen de una gran cantidad de ejemplos para alcanzar significancia, esta nueva estructura reduce el número de muestras necesarias para obtener resultados confiables. Esto implica una reducción considerable en el costo computacional y en el tiempo de evaluación, lo que abre la puerta a auditorías más frecuentes y accesibles.
Para los inversionistas y profesionales del sector peruano, esta evolución es clave. El crecimiento de datos sensibles en sectores como salud, finanzas y seguridad pública exige que las tecnologías de IA sean no solo eficientes, sino también transparentes y éticas. La capacidad de auditar con precisión si un modelo ha eliminado información personal o sensible, sin reentrenar el sistema, permite una gestión más responsable de los riesgos. En un contexto donde las empresas deben cumplir normativas de privacidad, esta herramienta no solo fortalece la confianza en las tecnologías, sino que también permite una adaptación más rápida a cambios regulatorios sin comprometer la calidad del servicio.