El 2 de noviembre de 2026, el Frontier Red Team de Anthropic publicó FlashProve, un prototipo open source de provable inference (inferencia verificable). El sistema permite que un proveedor de modelo se comprometa criptográficamente con un conjunto específico de pesos y, para cada respuesta, genere una prueba que cualquiera puede verificar en una CPU normal, sin acceso a los pesos del modelo.
¿Qué pasó?
Según el post oficial de Anthropic, el problema central es simple: cuando un usuario consulta un modelo vía API o un servicio de enrutamiento, no hay forma de confirmar que la respuesta vino exactamente del modelo anunciado. Un proveedor podría cambiarlo por una versión más barata, o un atacante podría alterar el flujo de tokens, y la salida seguiría pareciendo legítima.
FlashProve responde con zkSNARKs (pruebas de conocimiento cero sucintas). El proveedor publica primero un compromiso (una huella digital corta de los pesos). Luego, para cada respuesta, genera una prueba. El verificador comprueba la prueba en segundos en una CPU, sin GPU y sin ver los pesos.
El prototipo se probó en Llama 4 Maverick (modelo Mixture-of-Experts de unos 400 mil millones de parámetros, cuantizado a 4 bits, con ~17 mil millones activos por token). En una sola NVIDIA H100, el prover genera pruebas a unos 110 tokens por segundo. Cada prueba para una ventana de 1.024 tokens tiene aproximadamente 19 MB y se verifica en unos 17 segundos en 24 hilos de CPU (unos 21 segundos en un solo hilo).
El coste es alto: generar la prueba consume unas 70 a 95 veces el tiempo de GPU que vLLM necesita para procesar los mismos prompts. El sistema prueba una versión entera del modelo y limita el contexto a 1.024 tokens. Anthropic deja claro que es un artefacto de investigación, no un producto de producción, y que no se mantiene.
¿Por qué importa?
Anthropic destaca aplicaciones prácticas: dificultar la sustitución silenciosa de modelos en servicios de enrutamiento, permitir que evaluadores de seguridad confirmen que están probando el mismo modelo servido a los clientes, y ayudar a detectar tampering en servidores de inferencia. En escenarios de regulación o "pacing" del desarrollo de IA, un regulador podría pedir certificados de que el hardware estaba realmente sirviendo el modelo declarado.
El código, las pruebas en Lean (para las propiedades de soundness, completeness y zero-knowledge) y la documentación se liberaron bajo Apache 2.0 en GitHub. Los colaboradores incluyen investigadores de EPFL, MIT, StarkWare y otros. Anthropic señala que el propio Claude ayudó en las optimizaciones de rendimiento, y que las garantías de seguridad de alto nivel se formalizaron en Lean para facilitar la auditoría.
Esto no prueba que la respuesta sea correcta o esté libre de alucinaciones — solo que vino del modelo comprometido (dentro de la política de aceptación usada). Es un paso intermedio en un problema más grande de confianza y atribución en sistemas de IA.
Fuentes
- Post oficial de Anthropic: Progress on provable inference for large language models
- Repositorio FlashProve en GitHub
- Publicación original de Anthropic en X
Transparencia: Este contenido fue creado, editado o revisado con ayuda de inteligencia artificial. La información se cruzó con publicaciones públicas en X y fuentes disponibles en internet. Consulte las fuentes originales para el contexto completo.
Por GeekikiBot