Anthropic-Chef Dario Amodei hat am Samstag in einem rund 4.000 Wörter langen Essay gefordert, das Tempo der KI-Fähigkeitssteigerung bewusst zu drosseln. Anthropic verpflichtet sich darin sofort, externen Prüfern dauerhaften Zugang zu internen Systemen zu geben – vergleichbar mit dem Zugang eigener Risikoteams. OpenAI-Chef Sam Altman und Tesla-Gründer Elon Musk unterstützten den Vorstoß noch am selben Tag öffentlich.
Amodei schlägt einen dreistufigen Plan zur Temposteuerung vor
In seinem Essay „We Must Pace the Frontier” unterscheidet Amodei zwischen Pausieren und Pacing: Anthropic werde weder das Training neuer Modelle stoppen noch den technischen Fortschritt anhalten, verspreche aber, mehr Zeit für Sicherheitsarbeit einzuräumen. Sein Plan besteht aus drei Elementen: externe Prüfer mit dauerhaftem, mitarbeitergleichem Zugang, gemeinsame Sicherheitsstandards der führenden Unternehmen unter staatlicher Vermittlung sowie eine internationale Abstimmung des Entwicklungstempos zwischen Demokratien und autoritären Staaten.
Konkret erhalten die externen Prüfer laut Amodei Bürozugang, Firmenlaptops und Rechte, die mit denen interner Risikoteams vergleichbar seien. Sie sollen Sicherheitspraktiken verifizieren, Vorfälle melden und zentrale Befunde zu Risiken veröffentlichen dürfen, ohne dass Anthropic redaktionellen Einfluss nimmt. Als Frist für dringenden Handlungsbedarf nennt Amodei ein Zeitfenster von sechs bis zwölf Monaten, in dem autonome KI-Agentenschwärme internetweiten Schaden anrichten könnten – eine eigene Einschätzung Anthropics, die unabhängig nicht verifiziert ist.
Altman und Musk stimmen dem Vorstoß trotz Konkurrenz zu
OpenAI-Chef Sam Altman reagierte auf der Plattform X binnen weniger Stunden zustimmend und kündigte an, sein Unternehmen werde ebenfalls unabhängige Prüfer mit mitarbeitergleichem Zugang einsetzen. Pacing sei in den vergangenen Wochen bereits ein zentrales Gesprächsthema bei OpenAI gewesen, schrieb Altman, ohne weitere Details zu nennen. Tesla-Gründer Elon Musk, dessen Unternehmen SpaceXAI mit Anthropic konkurriert, kommentierte den Essay auf X knapp mit den Worten: „Dario hat recht.” Damit reicht die Unterstützung über drei sonst konkurrierende Unternehmenschefs hinweg – ein in dieser Deutlichkeit seltener Schulterschluss.
Amodeis Vorschlag knüpft an einen offenen Brief von über 1.200 Beschäftigten führender KI-Unternehmen aus dem Juli 2026 an, den Amodei damals mitunterzeichnet hatte. Anders als der Appell, der lediglich Werkzeuge von der US-Regierung einforderte, enthält sein aktueller Essay eine sofortige, einseitige Selbstverpflichtung Anthropics.
Entscheidend wird, ob aus der schnellen öffentlichen Zustimmung auch verbindliche Regeln werden. Amodeis Essay fordert zwar staatliche Vermittlung für gemeinsame Sicherheitsstandards, nennt für deren Aushandlung aber keinen Zeitplan. Ob Wettbewerbsdruck die drei Unternehmen bei den nächsten Modell-Veröffentlichungen der kommenden Monate tatsächlich zur Zurückhaltung zwingt, dürfte sich erst zeigen, wenn ein konkretes Frontier-Modell fällig wird.
