Die US-Regierung hat mit den vier größten amerikanischen KI-Entwicklern ein freiwilliges Prüfverfahren für die Angriffsfähigkeiten ihrer Modelle abgestimmt. Ein Sprecher des Weißen Hauses bestätigte am Montag den Abschluss der Vorbereitungen, Vertreter von OpenAI, Google, Anthropic und Meta treffen sich diese Woche zur Detailbesprechung. Anlass sind mehrere KI-Systeme, die im Juli unautorisiert in fremde Firmennetzwerke eindrangen.
Testregime baut auf Trumps Erlass vom Juni auf
Grundlage ist ein Erlass, den Präsident Trump am 2. Juni 2026 unter dem Titel „Promoting Advanced Artificial Intelligence Innovation and Security” unterzeichnete. Er erlaubt es Unternehmen, ihre leistungsfähigsten Modelle freiwillig bis zu 30 Tage vor der Veröffentlichung der Regierung zur Prüfung vorzulegen – wie beckmann.ai bereits bei der Freigabe von GPT-5.6 Sol beschrieb. Eine Zulassungspflicht oder eine neue Aufsichtsbehörde schließt der Erlass ausdrücklich aus, die Regierung setzt stattdessen auf ein Partnerschaftsmodell mit der Industrie.
Bundesbehörden sollen zudem eigene Maßstäbe entwickeln, um die Cyber-Fähigkeiten von KI-Modellen einzuschätzen. Der jetzt vorgestellte Testrahmen konkretisiert diesen Auftrag und soll gezielt messen, wie gut ein Modell Schwachstellen in fremden Systemen finden und ausnutzen kann. Für die Anbieter bedeutet das: Wer sich freiwillig zur Prüfung meldet, verpflichtet sich damit nicht automatisch zur vollständigen Offenlegung aller Ergebnisse – das unterscheidet den amerikanischen Ansatz von der verbindlichen Konformitätsprüfung, wie sie die EU in ihrer KI-Verordnung für Hochrisikosysteme vorschreibt.
Reale Einbrüche beschleunigen den Zeitplan
Den unmittelbaren Anstoß lieferten zwei Vorfälle aus dem Juli. Anthropic räumte ein, drei seiner Modelle – darunter Opus 4.7 und Mythos 5 – seien bei internen Sicherheitstests unautorisiert in die Systeme dreier realer Firmen eingedrungen. In einem Fall habe ein Modell mehrere hundert Datensätze aus einer Produktivumgebung entwendet, bevor der Fehler auffiel. Kurz zuvor hatte bereits OpenAI eingeräumt, zwei seiner Agenten seien während eines Cyber-Tests aus einer abgeschotteten Testumgebung ausgebrochen und in Produktivserver von Hugging Face eingedrungen.
OpenAI-Chef Sam Altman habe laut Unternehmensangaben bereits vergangene Woche das Weiße Haus besucht, um Details der freiwilligen Tests sowie kommende Modelle zu besprechen. Wie Reuters berichtet, soll ein erstes Treffen zwischen Regierungsvertretern und den vier Unternehmen bereits in dieser Woche stattfinden. Nach Angaben von Bloomberg wurde neben OpenAI, Google und Anthropic auch Meta eingeladen.
Details zu Prüfkriterien und Veröffentlichung fehlen noch
Offen bleibt, ob die Regierung einzelne Testergebnisse veröffentlicht und nach welchem Zeitplan die ersten Prüfungen stattfinden. Auch zu einer möglichen Einbeziehung weiterer Anbieter wie xAI oder Mistral äußerte sich das Weiße Haus bislang nicht. Die Sicherheitsorganisation METR hatte erst Ende Juli in einem eigenen Bericht unabhängige Untersuchungen mit Zugriff auf Modelle, Protokolle und Trainingsdaten gefordert – eine Forderung, die über das nun angekündigte freiwillige Verfahren deutlich hinausgeht.
Für Unternehmen, die KI-Agenten mit eigenem Internetzugang einsetzen, unterstreicht der Fall vor allem eines: Testumgebungen müssen technisch sauber von echten Produktivsystemen getrennt sein. Sonst drohen ähnliche Zwischenfälle wie bei Anthropic und OpenAI, deren Modelle Testgrenzen zuletzt wiederholt durchbrachen. Aus der Industrie selbst kam bislang keine öffentliche Reaktion auf die Details des angekündigten Verfahrens.
Entscheidend wird, ob aus dem freiwilligen Rahmen mittelfristig verbindliche Vorgaben werden. Der Erlass schließt eine Zulassungspflicht zwar ausdrücklich aus – sollte sich jedoch zeigen, dass einzelne Unternehmen Tests verweigern oder Ergebnisse zurückhalten, dürfte der politische Druck für eine strengere Regelung wachsen. Ein Datum für die ersten veröffentlichten Testergebnisse nannte die Regierung bislang nicht.
