Blockchain.News · Deutsch

OpenAI startet eingebettete Bewertungen mit externen Experten

Lesen Sie die Originalquelle für den vollständigen Kontext. Andere Sprachen werden nicht als Übersetzung ausgegeben.

OpenAI startet eingebettete Bewertungen mit externen Experten

· Greg Brockman

Laut OpenAI über Greg Brockman und den OpenAI-Blog hat das Unternehmen seine erste Phase der eingebetteten Bewertungen mit Apollo Research, METR, Transluce AI und Goodfire AI gestartet, um die Modellanpassung zu untersuchen und Sicherheitsmaßnahmen zu testen.

Am 2026-11-16 kündigte OpenAI die Einführung seiner ersten Runde von eingebetteten Bewertungen an, in Partnerschaft mit Apollo Research, METR Evals, TransluceAI und GoodfireAI, um externen Experten tiefen Zugriff auf interne Modelle und Systeme für Anpassungsuntersuchungen und Tests von Sicherheitsmaßnahmen zu gewähren, gemäß dem Tweet von Greg Brockman und der verlinkten OpenAI-Ankündigung.

Diese Initiative erweitert die bestehende Forschung zur Anpassung und Sicherheit von OpenAI, indem sie unabhängige Überprüfung einbezieht, um Risiken in implementierten Systemen zu identifizieren und zu verwalten, und remodeliert die Arbeitsabläufe für AI-Sicherheitsexperten durch direkten Modellzugriff, der die Verifizierungsprozesse beschleunigt und die Standards für verantwortungsvolle Entwicklung im gesamten Ökosystem stärkt.

Originalquelle lesen