Anthropische Berichte über Fortschritte bei beweisbaren Inferenzen für große Sprachmodelle

Anthropic teilte mit, dass es Fortschritte bei beweisbaren Inferenzen für große Sprachmodelle gemacht hat und einen Forschungsprototyp namens FlashProve veröffentlicht hat, der kryptografisch beweisen soll, dass eine Antwort von einem bestimmten Modell stammt. In seiner 2026-11-02 Ankündigung erklärte das Unternehmen, dass das System Beweise für Llama 4 Maverick mit etwa 110 Token pro Sekunde auf einer einzelnen H100 GPU erzeugen kann, mit einer Beweisgröße von etwa 19 MB pro 1,024-Token-Anfrage.

Was Anthropic sagt, dass FlashProve tut

Laut Anthropic soll beweisbare Inferenz ein grundlegendes Verifikationsproblem lösen: Nutzer können heute nicht zuverlässig allein anhand der Ausgabe feststellen, ob eine Antwort vom Modell stammt, das sie abfragen wollten. Das Unternehmen sagte, der Ansatz könnte Verbraucheranwendungen, interne Sicherheitsanwendungen und Bemühungen zur Überprüfung der Einhaltung der KI-Pacing-Anforderungen unterstützen. Anthropic stellte FlashProve als Open-Source-Prototyp dar, der auf zkSNARKs basiert, einer Art Zero-Knowledge-Kurzargument, das Modellgewichte verbergen und gleichzeitig die Verifikation eines Inferenzergebnisses ermöglicht.

Anthropic sagte, das System sei an einem großen Modell namens Llama 4 Maverick getestet worden, das im Beitrag als 400 Modell mit einer Mischung von Experten mit Milliardenparametern und 4-Bit-Quantisierungen und ganzzahliger Arithmetik im Prefill beschrieben wird. Das Unternehmen sagte, dass das Nachweisen mit FlashProve etwa 70 bis 95 Mal die GPU-Zeit für die Ausführung des Modells auf vLLM, einer gängigen Open-Source-Inferenzbibliothek, in Anspruch nimmt. Die Ankündigung lieferte keinen unabhängigen Benchmark und sagte, dass die Ergebnisse extern reproduziert wurden.

Artefakte und Verifizierungsansprüche

Anthropic teilte mit, dass es fünf Artefakte veröffentlicht: den Forschungsbeitrag, einen technischen Bericht, eine Protokollbeschreibung, ausführbaren Code mit einem Prover und zwei Verifizierern sowie Lean-Beweise für hochrangige mathematische Aussagen sowie einen interaktiven Visualisierer zur Überprüfung der Theoreme. Das Unternehmen teilte mit, dass der Code, Lean-Beweise und Dokumentation unter der Apache 2.0-Lizenz veröffentlicht werden.

Der Beitrag erklärte außerdem, dass die Arbeit ein Fortschrittsupdate und keine abgeschlossene Forschungsagenda sei. Anthropic erklärte, dass es oberstufe, prüfbare Aussagen in Lean verwendet, um die behaupteten Sicherheitsgarantien zu untermauern, und wies darauf hin, dass das Engagement für das Modell und die Inferenzbeweise dazu dienen, die Gewichtungen des Modells zu verbergen. In der Ankündigung wurde nicht gesagt, dass das System die Architektur des Modells verbirgt.

Kontext und Einschränkungen

Beweisbare Schlussfolgerung zielt auf die Rechenintegrität ab, nicht darauf, festzustellen, ob die Antwort eines Modells genau, sicher oder unvoreingenommen ist. Anthropics Beitrag sagt, dass der Ansatz für unabhängige Evaluatoren relevant ist, die wissen müssen, dass das getestete Modell eins bedient wird, für Kunden, die einen Drittanbieter-Routingdienst nutzen, sowie für Fälle, in denen ein Angreifer den Tokenstrom manipulieren könnte.

Der gemeldete Durchsatz und die Beweisgröße des Unternehmens sind spezifisch für den beschriebenen Benchmark, und Benchmark-Vergleiche über frühere Systeme hinweg erfordern Sorgfalt, da Modellgrößen, Hardware, numerische Darstellungen, Batching und Beweisabdeckung unterschiedlich sind. Anthropic gab in der Ankündigung kein Datum für eine nächste verifizierte Produktveröffentlichung oder einen kommerziellen Markteinstieg bekannt.