Google, OpenAI und Anthropic bauen laut einem Bericht des Fachmediums The Information vom 24. September 2026 gemeinsam eine unabhängige Prüfstelle für besonders leistungsfähige KI-Modelle auf. Als möglichen Chef fragten die drei Konzerne den früheren Weißes-Haus-Berater Sriram Krishnan an. Die geplante Stelle soll Sicherheitstests und Zwischenfallmeldungen festlegen und frühestens Ende 2026 starten.
Ex-Regierungsvertreter im Gespräch für Führungsposten
Für den Chefposten der vorläufig Frontier AI Standards Agency genannten Stelle nennt The Information den früheren Weißes-Haus-Berater Sriram Krishnan als Kandidaten, den Google, OpenAI und Anthropic demnach direkt angefragt haben. Krishnan beriet die Regierung von Präsident Trump bis Juni 2026 in KI-Fragen und verließ das Weiße Haus mit der Aussage, es werde “keine FDA für KI” geben - eine Anspielung auf die für ihre langsamen Zulassungsverfahren bekannte US-Arzneimittelbehörde. Als weitere mögliche Führungskräfte nennt der Bericht die frühere Bundestechnologie-Beamtin Arati Prabhakar aus der Regierung Biden sowie die frühere US-Außenministerin Condoleezza Rice, die unter Präsident George W. Bush diente.
Zusätzlich sollen die Wissenschaftler Beth Barnes, Gründerin der Prüforganisation Metr, und Paul Christiano, Berater der staatlichen Prüfstelle Center for AI Standards and Innovation, die neue Stelle fachlich beraten. Eine förmliche Zusage der genannten Personen liegt bislang nicht vor, die Gespräche gelten als frühes Stadium. Offen ist auch, wie die Stelle finanziert werden soll: Nach Hassabis’ ursprünglichem Vorschlag müsste die Finanzierung deutlich ausfallen, um glaubwürdige Prüfungen zu ermöglichen, konkrete Zusagen der drei Konzerne dazu nennt der Bericht bislang nicht. Weder die drei Unternehmen noch die genannten Personen äußerten sich bislang öffentlich zu den Plänen.
Freiwillige Selbstkontrolle statt ausgebliebener Regierungsaufsicht
Vorbild für die neue Stelle ist ein Vorschlag von Google-DeepMind-Chef Demis Hassabis vom 14. Juli 2026, der eine an die Finanzaufsicht Finra angelehnte Kontrollinstanz für Spitzenmodelle forderte. Google, OpenAI und Anthropic hatten zunächst auf eine staatlich beaufsichtigte Partnerschaft mit der Trump-Regierung gehofft. Ein entsprechender Entwurf für eine Exekutivverordnung liegt jedoch weiterhin auf Eis, seit Finanzminister Scott Bessent ihn im Sommer vorbereitete. Statt einer solchen Behörde kündigte Trump am 19. September lediglich die Bundesinstitution AI Force an, die ausdrücklich ohne verbindliche Industrieregeln auskommt.
Die drei Konzerne hatten bereits seit Wochen direkt über gemeinsame Sicherheitsstandards gesprochen, wie OpenAI-Politikchef Chris Lehane Mitte September bestätigte, ohne dafür eine Ausnahme vom Kartellrecht zu beantragen. Die nun geplante Prüfstelle wäre der erste konkrete institutionelle Schritt aus diesen informellen Gesprächen. Für den Start ist keine gesetzliche Grundlage durch den Kongress nötig; eine spätere behördliche Registrierung könnte dem Bericht zufolge aber nötig werden, sobald die Stelle mehr als nur freiwillige Empfehlungen aussprechen will.
Prüfstelle soll Sicherheitstests und Meldepflichten festlegen
Die geplante Stelle soll gemeinsame Standards für Sicherheitstests vor der Veröffentlichung neuer Modelle entwickeln, Meldepflichten für Zwischenfälle festlegen und Modellkarten mit technischen Kennwerten vorschreiben. Vorgesehen sind zudem Vorgaben zur Überprüfung von Mitarbeitenden und zu Cybersicherheitsstandards in den beteiligten Laboren sowie eine Zusammenarbeit mit Bundesbehörden und den staatlichen National Labs bei sicherheitsrelevanten Tests. Die Teilnahme soll zunächst freiwillig bleiben, ähnlich wie bei Hassabis’ ursprünglichem Modell mit einer bis zu einmonatigen Vorabprüfung neuer Modelle.
Nicht alle in der Branche begrüßen den Vorstoß. Cohere-Chef Aidan Gomez kritisiert eine gemeinsame Selbstkontrolle der großen Anbieter als “Kartell unter anderem Namen”, das kleinere Konkurrenten und Open-Source-Entwickler benachteilige. Er schlägt stattdessen unabhängige Tests vor, die sich auf konkret gefährliche Fähigkeiten wie Cyberangriffe oder biologische Risiken beschränken und von öffentlich finanzierten Stellen statt von den Laboren selbst kontrolliert werden. Eine breitere Beteiligung von Interessengruppen jenseits der drei größten Anbieter fordert er zudem für die Festlegung der Regeln selbst.
Offen bleibt, ob sich weitere Anbieter wie Meta oder Cohere der Stelle später anschließen oder ob sie ein reines Drei-Konzerne-Projekt bleibt. Ebenso unklar ist, ob eine zunächst freiwillige Prüfstelle angesichts der ungeklärten Bundesaufsicht ausreicht, um Kritiker wie Gomez zu überzeugen. Der nächste konkrete Meilenstein wäre eine offizielle Gründungscharta oder eine bestätigte Personalentscheidung, mit der noch vor Jahresende zu rechnen sein soll.
