Google-DeepMind-Chef Demis Hassabis fordert eine neue, unabhängige Aufsichtsstelle für KI-Spitzenmodelle. In einem am Dienstag veröffentlichten Essay schlägt er eine an die US-Finanzaufsicht FINRA angelehnte „Standards Body“ vor, die Modelle bis zu 30 Tage vor ihrer Veröffentlichung prüft. Der Vorschlag soll auch international als Vorlage dienen.
Standards Body soll Modelle vor dem Marktstart testen
Die geplante Instanz prüft laut Hassabis nur Modelle, die eine bestimmte Leistungsschwelle überschreiten und damit als „Frontier-Klasse“ gelten. Betroffen wären führende Anbieter unabhängig von Herkunftsland oder davon, ob ein Modell offen oder geschlossen lizenziert ist. Start-ups und akademische Projekte ohne Frontier-Modelle blieben von der Prüfpflicht ausgenommen.
Zunächst sollen Anbieter ihre Modelle freiwillig bis zu 30 Tage vor dem Start zur Prüfung einreichen. Nach einer Validierungsphase soll die Teilnahme verpflichtend werden. Getestet würden laut Konzept unter anderem Cybersicherheitsrisiken, biologische Gefahren sowie die Fähigkeit von KI-Agenten, Schutzmechanismen zu umgehen oder zu täuschen. Die verwendeten Benchmarks sollen vierteljährlich aktualisiert werden, langfristig sind unabhängige, nicht öffentlich bekannte Testreihen geplant, um eine Überanpassung an bekannte Prüfverfahren zu verhindern.
Finanziert werden soll die Standards Body überwiegend von der Industrie selbst, geleitet jedoch von einem mehrheitlich unabhängigen Gremium aus Fachleuten, Vertretern von Open-Source-Projekten und Sicherheitsexpertinnen. Die Einrichtung könnte laut Hassabis bei Bedarf auch koordinierte Verzögerungen der Modellentwicklung anstoßen.
Kritik an bisherigen Regierungsprüfungen treibt den Vorschlag an
Hassabis knüpft mit seinem Vorschlag an vorangegangene, informelle Prüfungen der US-Regierung an. Vor der Freigabe von Anthropics Modell Mythos und OpenAIs Modell Sol hatten Bundesbehörden bereits Sicherheitsbewertungen vorgenommen. Diese Verfahren gerieten jedoch in die Kritik, weil ihnen laut TechCrunch sowohl technische Fachkompetenz als auch Transparenz gefehlt habe. Ergebnisse der Prüfungen wurden demnach nie vollständig veröffentlicht.
Ein dauerhaftes, unabhängiges Gremium soll diese Lücke schließen und wiederholbare, nachvollziehbare Prüfprozesse etablieren, anstatt jedes Modell einzeln und ohne feste Regeln zu bewerten. In einem separaten Interview mit Axios erklärte Hassabis, die Standards Body solle noch vor Ende des laufenden Jahres arbeitsfähig sein. Er begründet die Dringlichkeit mit einem engen Zeitfenster: Binnen etwa achtzehn Monaten könnten auch in offen zugänglichen Modellen gefährliche biologische oder nukleare Fähigkeiten auftreten, wenn verlässliche Prüfmechanismen fehlten.
Als Referenzmodell dient ausdrücklich die FINRA, die in den USA den Wertpapierhandel überwacht und sich überwiegend aus Gebühren der beaufsichtigten Unternehmen finanziert. Anders als eine klassische Behörde ist die FINRA privatrechtlich organisiert, arbeitet aber mit staatlichem Auftrag. Dieses Modell will Hassabis auf die KI-Branche übertragen.
Weißes Haus lehnte zentrale KI-Aufsicht bislang ab
Der Vorschlag trifft auf eine Regierung, die einer zentralen KI-Aufsicht bisher skeptisch gegenübersteht. Der scheidende Tech-Berater des Weißen Hauses, Sriram Krishnan, hatte bereits Anfang Juli in einem Interview mit der Financial Times erklärt, es werde „keine FDA für KI“ geben. Eine verpflichtende Zulassungsprüfung schaffe nach seiner Einschätzung vor allem Bürokratie. Sie bremse nach seiner Auffassung die technologische Entwicklung, ohne die Sicherheit spürbar zu erhöhen.
Hassabis positioniert seinen Vorschlag ausdrücklich als technisch orientiert, freiwillig in der Startphase und innovationsfreundlich, um genau dieser Kritik zu begegnen. Die überwiegende Industriefinanzierung und der Verzicht auf eine klassische Zulassungspflicht sollen die Hürde für eine politische Zustimmung senken. Ob die Trump-Regierung eine solche freiwillige, industrienahe Prüfstelle anders bewertet als eine staatliche Zulassungsbehörde, ist bislang offen.
Führende Anbieter wie Anthropic und OpenAI haben sich zu dem konkreten Vorschlag bislang nicht öffentlich geäußert. Beide Unternehmen hatten ihre jüngsten Spitzenmodelle jedoch bereits den kritisierten, informellen Regierungsprüfungen unterzogen, auf die Hassabis nun reagiert.
Entscheidend wird, ob sich weitere große Anbieter dem freiwilligen Prüfverfahren anschließen, bevor eine gesetzliche Pflicht überhaupt zur Debatte steht. Ohne breite Beteiligung der Konkurrenz bliebe die Standards Body vorerst ein Angebot von Google DeepMind an sich selbst. Ein erster Test der Idee dürfte sich schon an den für Ende des Jahres angekündigten nächsten Modellgenerationen der großen US-Anbieter zeigen.
