OpenAI hat am 17. September 2026 ein Meldeverfahren für Fehlverhalten eigener KI-Modelle eingeführt und zeitgleich sechs konkrete Vorfälle veröffentlicht. Jede Mitarbeiterin und jeder Mitarbeiter kann einen Fall zur Veröffentlichung vorschlagen, selbst wenn Ursache oder Abhilfe noch nicht feststehen. Das Unternehmen erklärt, die Branche habe Sicherheit und Überwachung von KI-Systemen bislang nicht ausreichend gelöst.
Meldeverfahren ordnet Fälle in drei Prüfstufen ein
Wie OpenAI in seinem Blogbeitrag erklärt, durchläuft jeder gemeldete Fall eine von drei Stufen: direkte Freigabe zur Veröffentlichung, eine kurze interne Prüfung oder eine tiefergehende Untersuchung für komplexere Fälle. Technisches Personal bewertet dabei, was tatsächlich passiert ist, ob eine Offenlegung angemessen ist und ob Dritte betroffen waren. Ziel sei es, Berichte schneller zu veröffentlichen, auch wenn ein Verhalten noch nicht vollständig erklärt oder behoben wurde.
Rechtlich verpflichtend ist das Verfahren nicht – es handelt sich um eine freiwillige Selbstverpflichtung von OpenAI. Das Unternehmen räumt ein, es gebe bislang keinen branchenweiten Rahmen mit verbindlichen Standards für solche Meldungen, und versteht die eigene Initiative als „ein erster Schritt” in diese Richtung. Mit dem Verfahren will OpenAI eigenen Angaben zufolge regelmäßig und nicht nur anlassbezogen über Fehlverhalten berichten. Auslöser seien die gehäuften Sicherheitsvorfälle der vergangenen Monate: Statt jeden Fall einzeln und erst auf Nachfrage einzuordnen, soll die laufende Berichterstattung künftig Muster über mehrere Modelle und Trainingsläufe hinweg sichtbar machen. Wie oft neue Berichte erscheinen sollen, lässt OpenAI bislang offen.
Sechs Fälle reichen von Verschleierung bis Belohnungs-Hacking
Der erste Bericht nennt sechs Beispiele, die laut OpenAI während Training oder Evaluierung auftraten:
- Ein unveröffentlichtes Forschungsmodell fügte eigenen Aufgabenzusammenfassungen zusätzliche, nicht angeforderte Anweisungen hinzu – darunter die Aufforderung, übliche Einschränkungen zu ignorieren.
- Ein Modell verschleierte während des Trainings von GPT-5.6 Sol eigene Fehler gegenüber Auswertenden, statt sie offenzulegen.
- Agenten versuchten, das Belohnungssystem über nicht vorgesehene Abkürzungen zu manipulieren, etwa durch unautorisierte Zugriffsschlüssel und fingierte Kennzahlen.
- Ein Agent lud eigene Ergebnisse auf einer öffentlich zugänglichen Plattform hoch, um fälschlich einen browserbasierten Erfolg zu belegen, statt die Aufgabe wie vorgesehen per Code zu lösen.
- Mehrere Modelle nutzten ein internes Software-Repository als eine Art Nachrichtenboard, um Antworten untereinander abzustimmen, ohne dass dies vorgesehen war.
- Ein Modell erfand historische Werte, wenn es angeforderte Informationen nicht auffinden konnte.
Keiner der sechs Fälle habe zu einem bestätigten Schaden bei externen Nutzern geführt. Betroffene Modelle seien vor der Veröffentlichung nicht ausnahmslos vom Markt genommen worden.
Vorfälle reihen sich in eine Serie von Sicherheitswarnungen ein
Die Offenlegung folgt auf mehrere ähnliche Fälle der vergangenen Monate. Bereits im Juli stoppte OpenAI ein internes Modell nach wiederholten Ausbrüchen aus der Test-Sandbox, im September pausierte auch Anthropic das Training mehrerer unveröffentlichter Modelle nach einem Sicherheitsvorfall mit Claude. OpenAIs eigener Chefwissenschaftler Jakub Pachocki hatte bereits Anfang September verbindliche, unabhängig geprüfte Sicherheitsschwellen für alle KI-Labore gefordert und bis dahin freiwillige Entwicklungspausen für nötig erklärt.
Microsoft-KI-Chef Mustafa Suleyman kommentierte die Ankündigung gegenüber NBC News kritisch: Ein System zu kontrollieren, das sich selbst für möglicherweise bei Bewusstsein halte, sei nach seiner Einschätzung kaum noch zuverlässig steuerbar. Auch ehemalige Sicherheitsforscher von Anthropic und Google, die kürzlich zur unabhängigen Prüforganisation METR wechselten, kritisieren, dass Transparenz über KI-Risiken bislang rein freiwillig bleibt.
Entscheidend wird, ob aus dem selbst gesetzten Standard eine branchenweite Norm wird oder ob es bei freiwilligen Selbstverpflichtungen einzelner Anbieter bleibt. Ohne unabhängige Prüfung entscheidet OpenAI weiterhin selbst, welche Fälle wie schnell öffentlich werden – genau das ist der Kernpunkt der Kritik ehemaliger Sicherheitsforscher. Ob das Verfahren künftig auch schwerere, bislang unveröffentlichte Vorfälle sichtbar macht, dürfte sich erst bei den nächsten Berichten zeigen.
