Anthropic informa sobre avances en la inferencia demostrable para grandes modelos de lenguaje

Anthropic afirmó que ha avanzado en la inferencia demostrable para grandes modelos de lenguaje, lanzando un prototipo de investigación llamado FlashProve diseñado para demostrar criptográficamente que una respuesta proviene de un modelo específico. En su anuncio de 2026-11-02 , la compañía afirmó que el sistema puede generar pruebas para Llama 4 Maverick a alrededor de 110 tokens por segundo en una sola GPU H100 , con un tamaño de prueba de aproximadamente 19 MB por 1,024 solicitud de token.

Lo que dice FlashProve dice Anthropic

Según Anthropic, la inferencia demostrable está pensada para abordar un problema básico de verificación: los usuarios actuales no pueden saber de forma fiable solo con la salida si una respuesta proviene del modelo que pretendían consultar. La empresa afirmó que el enfoque podría soportar aplicaciones de consumo, casos de uso de seguridad interna y esfuerzos para verificar el cumplimiento de los requisitos de ritmo de la IA. Anthropic presentó FlashProve como un prototipo de código abierto construido en torno a zkSNARKs, un tipo de argumento de conocimiento cero y conciso que puede ocultar pesos de modelos mientras permite la verificación de un resultado de inferencia.

Anthropic dijo que el sistema fue probado en un modelo grande, Llama 4 Maverick, descrito en la publicación como un modelo de 400 mil millones de parámetros y mezcla de expertos que utiliza pesos cuantizados de 4 bits y aritmética entera en precompletado. La empresa dijo que demostrar con FlashProve lleva entre 70 y 95 veces el tiempo de la GPU que ejecuta el modelo en vLLM, una biblioteca de inferencia de código abierto común. El anuncio no proporcionó un benchmark independiente ni indicó que los resultados hubieran sido reproducidos externamente.

Artefactos y afirmaciones de verificación

Anthropic dijo que va a publicar cinco artefactos: la publicación de investigación, un informe técnico, una descripción del protocolo, código ejecutable que incluye un demostrador y verificadores dos, y pruebas Lean para afirmaciones matemáticas de primer nivel, junto con un visualizador interactivo para auditar los teoremas. La empresa dijo que el código, las pruebas Lean y la documentación se publican bajo la licencia Apache 2.0.

La publicación también señaló que el trabajo es una actualización de progreso y no una agenda de investigación completada. Anthropic afirmó que está utilizando declaraciones auditables de alto nivel en Lean para respaldar las garantías de seguridad reclamadas, y señaló que el compromiso con el modelo y las pruebas de inferencia están destinadas a ocultar los pesos del modelo. El anuncio no dijo que el sistema oculte la arquitectura del modelo.

Contexto y limitaciones

La inferencia demostrable está orientada a la integridad computacional, no a determinar si la respuesta de un modelo es precisa, segura o imparcial. La publicación de Anthropic dice que este enfoque es relevante para evaluadores independientes que necesitan saber que el modelo que se está probando es uno que se está serviendo, para clientes que usan un servicio de enrutamiento de terceros y para casos en los que un atacante pueda manipular el flujo de tokens.

El rendimiento y el tamaño de la prueba reportados por la empresa son específicos del benchmark que describió, y las comparaciones de benchmarks entre sistemas anteriores requieren cuidado porque los tamaños de modelo, hardware, representaciones numéricas, lotes y cobertura de pruebas varían. Anthropic no reveló una fecha para el próximo lanzamiento verificado del producto ni para un lanzamiento comercial en el anuncio.