Mehr als 1.200 Beschäftigte führender KI-Unternehmen haben einen gemeinsamen Aufruf an die US-Regierung unterzeichnet. Unter dem Titel Pacing the Frontier verlangen sie Werkzeuge, mit denen sich das Tempo automatisierter KI-Forschung gezielt steuern lässt. Eine sofortige Pause oder Verlangsamung fordert der Text ausdrücklich nicht.
Aufruf verlangt Werkzeuge, nicht deren sofortigen Einsatz
Der Aufruf richtet eine einzige konkrete Bitte an Washington: Die Regierung solle eine internationale Anstrengung unterstützen, um die technischen und regulatorischen Werkzeuge zu entwickeln, mit denen sich die Grenze automatisierter KI-Entwicklung bewusst takten lasse. Begründet wird das mit der Einschätzung der Unternehmen selbst, sie könnten der Automatisierung der KI-Forschung nahe sein – also dem Punkt, an dem KI-Systeme die Entwicklung ihrer Nachfolger wesentlich mitübernehmen.
Daraus ergebe sich das Risiko, dass die Entwicklung der Fähigkeiten schneller voranschreite, als sich die entstehenden Systeme verstehen oder kontrollieren ließen. Zugleich benennt der Text das Kernproblem der Branche: Wettbewerbsdruck hindere einzelne Unternehmen daran, im Alleingang langsamer zu machen, und weltweit fehlten die Mittel, um das Tempo an der Forschungsfront überhaupt gemeinsam zu steuern. Welche Instrumente das sein könnten, lässt der Aufruf offen; er verlangt ihre Entwicklung, nicht ihren sofortigen Einsatz. Organisatorische Unterstützung leisten die beiden unabhängigen gemeinnützigen Organisationen Guidelight AI Standards und Encode AI.
Unterschriften reichen bis in die Chefetagen
Die Unterzeichnerliste reicht bis in die Führungsebenen. Zu den namentlich Genannten zählen Anthropic-Chef Dario Amodei sowie die Mitgründer Jared Kaplan und Jack Clark, OpenAI-Chefwissenschaftler Jakub Pachocki, Metas Chefwissenschaftler Shengjia Zhao und Anca Dragan, bei Google für KI-Sicherheit zuständig. Auch John Schulman, Chefwissenschaftler beim Unternehmen Thinking Machines, hat unterschrieben. Anthropic und OpenAI unterstützen den Aufruf nach Angaben von The Next Web offiziell, was ihn von früheren Appellen einzelner Beschäftigter unterscheidet.
Die Zahl der Unterschriften wächst laufend. Am 28. Juli zählte das Fachportal 1.134 Unterzeichnende, auf der Website des Aufrufs waren es einen Tag später 1.224. Eine unabhängige Prüfung der Angaben, etwa der Zugehörigkeit einzelner Unterzeichnender zu den genannten Unternehmen, liegt nicht vor. Vorausgegangen war unter anderem ein Vorstoß von Anthropic für einen überprüfbaren Pausenmechanismus. Bemerkenswert ist dabei, dass der Text keine Selbstverpflichtung enthält: Die Unternehmen versprechen nichts, sondern bitten den Staat um einen Rahmen. Zur Finanzierung der Kampagne machen die beteiligten Organisationen keine Angaben.
Widerspruch kommt aus den eigenen Reihen
Widerspruch kommt aus mehreren Richtungen. Der Ökonom Christian Catalini fragt, weshalb China sich an einer solchen Abstimmung beteiligen sollte. Der frühere Microsoft-Manager Steven Sinofsky verweist darauf, dass die Unternehmensspitzen die Entwicklung jederzeit selbst anhalten könnten – viele von ihnen haben den Aufruf unterschrieben, ohne dies zu tun.
Deutlicher fällt die Kritik von Meta-Chef Mark Zuckerberg aus, dessen eigener Chefwissenschaftler zu den Unterzeichnenden gehört. Er bezeichnet die Debatte der Konkurrenz als von Untergangsstimmung durchzogen und wertet eine enge Kontrolle von KI als Abkehr von den eigenen Werten. Damit verläuft die Trennlinie nicht zwischen den Unternehmen, sondern quer durch sie hindurch: Forschungsabteilungen fordern Leitplanken, die ihre eigenen Vorstände ablehnen oder zumindest nicht selbst setzen. Wie viele der Unterschriften auf Beschäftigte unterhalb der Führungsebene entfallen, weist der Aufruf nicht aus. Konkrete Anlässe für die Sorge liefert der Betrieb derweil selbst: Bei Hugging Face führte ein autonomer Agent über ein Wochenende mehr als 17.000 Einzelaktionen aus, um in interne Systeme einzudringen.
Offen bleibt, ob der Aufruf in Washington überhaupt Anschluss findet. Die US-Regierung, die zuletzt eine eigene Prüfbehörde nach Vorbild der Finanzaufsicht erwog, hat sich zu einer internationalen Taktung bislang nicht geäußert. Ob die Unterschrift eines Vorstands mehr wiegt als sein Handeln im Wettbewerb, dürfte sich erst zeigen, wenn ein konkretes Instrument zur Abstimmung steht.
