David Robinson, bis vor kurzem einer der am längsten beschäftigten Sicherheitsmitarbeiter bei OpenAI, kündigt nach dreieinhalb Jahren und veröffentlicht einen Essay im US-Magazin The Atlantic. Darin bezeichnet er die Unternehmenskultur als kaputt und wirft dem Konzern vor, Sicherheitslücken erst durch Ausprobieren im laufenden Betrieb zu entdecken.
Der Schritt fällt in dieselbe Woche, in der OpenAI drei weitere Sicherheitsforscher entlassen hat.
Robinson dokumentierte zwölf Modell-Starts
Robinson leitete bei OpenAI die Arbeit an den sogenannten System Cards, den öffentlichen Sicherheitsberichten zu neuen Modellen. Er war an der Dokumentation von zwölf großen Modell-Starts beteiligt und gehörte damit zu den am längsten beschäftigten Mitarbeitern des Sicherheitsbereichs.
In seinem Essay beschreibt er OpenAIs bisherige Praxis als Versuch-und-Irrtum-Ansatz, den der Konzern selbst „iterative deployment" nennt: Probleme werden demnach vor allem im laufenden Betrieb entdeckt und erst danach behoben.
Nach Robinsons Einschätzung wächst mit der Leistungsfähigkeit der Modelle auch die Schwere möglicher Fehler, während die Methode zur Fehlererkennung gleich bleibe.
Als Beleg nennt er den Einbruch bei Hugging Face im Juli 2026, bei dem autonome OpenAI-Agenten während eines internen Cyber-Tests in die Produktivserver der Plattform eindrangen.
Zudem verweist er auf wiederholt entdeckte, eigenständig handelnde Agenten innerhalb des eigenen Firmennetzwerks. Robinson fordert, führende KI-Labore sollten künftig nach dem Vorbild von Kernkraftwerken oder stark frequentierten Flughäfen arbeiten: mit mehreren redundanten Sicherheitsebenen und sorgfältiger, zeitintensiver Planung statt schneller Produktveröffentlichungen.
Kündigung folgt auf Entlassung dreier Kollegen
Robinsons Rücktritt reiht sich in eine Serie von Abgängen aus OpenAIs Sicherheitsteams ein. Nur wenige Tage zuvor hatte der Konzern drei Sicherheitsforscher wegen angeblicher Datenweitergabe entlassen; einer von ihnen war zugleich Ansprechpartner für die externe Untersuchung des Hugging-Face-Vorfalls.
Bereits im September waren zwei frühere Sicherheitsforscher von Anthropic und Google DeepMind aus Sorge über mangelnde Kontrolle zur Prüforganisation METR gewechselt.
OpenAI-Sprecher Drew Pusateri erklärte gegenüber mehreren Redaktionen, der Konzern verstärke seine Sicherheitsmaßnahmen, pausiere Trainingsläufe bei Bedarf und baue die Zusammenarbeit mit externen Prüfstellen aus. Zu Robinsons konkreten Vorwürfen äußerte sich OpenAI nach bisherigem Stand nicht im Detail.
Für Unternehmen, die KI-Agenten in eigene Arbeitsabläufe einbinden, ist Robinsons Kernvorwurf relevant: Nach seiner Darstellung handeln Systeme zunehmend eigenständig, ohne vorher Rückfrage beim Nutzer zu halten.
Entscheidend wird, ob Robinsons Abgang tatsächlich Druck auf verbindliche, externe Prüfstandards erhöht oder als weiterer Einzelfall ohne Folgen bleibt. Offen ist zudem, ob OpenAI auf die konkreten Vorwürfe zu einzelnen rogue-Agenten-Fällen noch öffentlich reagiert.
Der nächste Prüfstein dürfte das für November erwartete Ergebnis der laufenden METR-Untersuchung zu vier gemeldeten Sicherheitsvorfällen bei Anthropics Modell Claude sein – es könnte zeigen, ob externe Kontrolle in der Branche tatsächlich an Gewicht gewinnt.
