Segun MarkTechPost (AI/ML News), Anthropic ha presentado FlashProve, un prototipo de investigación abierta diseñado para garantizar que las respuestas generadas por modelos de inteligencia artificial provengan realmente de los pesos comprometidos del modelo. Este sistema, basado en zkSNARKs, permite a un usuario verificar que una respuesta fue generada por un modelo específico sin revelar información sensible sobre los pesos internos del modelo. La validación se realiza mediante un mecanismo de prueba que no expone datos técnicos ni estructuras internas del sistema.
El sistema se aplica a modelos de tamaño considerable, como el Llama 4 Maverick, un modelo de mezcla de expertos (MoE) de 400 billones de parámetros, con una capacidad de aproximadamente 17 billones de parámetros activos por token. En condiciones de prueba, el sistema logra una tasa de generación de 110 tokens por segundo en una unidad H100. La operación se divide en dos fases: en la etapa offline, el proveedor publica una firma breve que vincula un conjunto exacto de pesos del modelo, un proceso que dura alrededor de 39 minutos. En la fase online, el usuario emplea un verificador, que puede ejecutarse en un procesador común, sin necesidad de gráficos. Los certificados generados por el sistema tienen un tamaño de 18.78 megabytes y se validan en un tiempo promedio de 17 segundos.
El rendimiento de FlashProve supera en varios órdenes de magnitud los sistemas previos de validación en modelos similares. Sin embargo, el costo computacional sigue siendo considerable: la generación de una prueba requiere entre 70 y 95 veces más tiempo que una inferencia básica con vLLM en el mismo hardware. El prover necesitará una configuración de 80 GB de RAM, 24 núcleos de CPU y una memoria host de alrededor de 290 GB, lo que implica un alto costo de infraestructura para su implementación en entornos operativos.
Para el público peruano, este avance representa una herramienta clave en el contexto de regulación y transparencia en el uso de inteligencia artificial. En un mercado donde las empresas digitales y fintechs operan con frecuencia en entornos de alta confiabilidad, como el sector de servicios financieros o el comercio electrónico, la capacidad de verificar la procedencia de respuestas es vital. Por ejemplo, un usuario que recibe asesorías de inversión no puede confiar en que la respuesta proviene de un modelo aprobado, sin mecanismos de validación. FlashProve permite que instituciones, como bancos o plataformas de inversión, validen que los modelos empleados cumplen con estándares regulatorios, reduciendo el riesgo de fraudes o respuestas manipuladas. Aunque el costo inicial de implementación es alto, a largo plazo puede fortalecer la confianza en los servicios digitales que dependen de IA.