Nvidia-Chef Jensen Huang hat sich bei der Dreamforce-Konferenz in San Francisco gegen eine gesetzliche Regulierung der KI-Sicherheit ausgesprochen. Er widersprach damit offen Anthropic-Chef Dario Amodei, der auf derselben Bühne strengere Sicherheitsstandards für die Branche forderte. Sicherheit sei laut Huang ein technisches Problem, keine Aufgabe für neue Gesetze.
Huang setzt auf Marktkräfte statt neue Gesetze
Auf der Bühne des Salesforce-Klassikers Dreamforce erklärte Huang laut einem Blogbeitrag von Nvidia, Sicherheit sei ein technisches Problem und keine rechtliche Frage. Neue Gesetze oder Vorschriften brauche die Branche nicht, bestehende Marktkräfte reichten aus, so Huang laut TechCrunch. Wer an der Funktionsfähigkeit oder Sicherheit eines Produkts zweifle, solle es schlicht nicht veröffentlichen, empfahl er den anwesenden Firmenchefs. Innovation, Tempo und sichere Produkte seien kein Widerspruch, sondern gleichzeitig erreichbar.
Als Beleg für das Tempo der Branche nannte Huang laut Nvidia einen Anteil offener Modelle von 70 Prozent an allen neuen Veröffentlichungen, gegenüber 30 Prozent noch zu Jahresbeginn – eine von Nvidia selbst genannte, unabhängig nicht verifizierte Zahl. TechCrunch verweist in seiner Berichterstattung zugleich auf Gegenbeispiele aus der Praxis: Erst kürzlich musste sich der Meta-Konzern zu einer Zahlung von 18 Milliarden Dollar wegen Schäden durch Social-Media-Algorithmen für Jugendliche verpflichten, und OpenAI sieht sich mit Klagen im Zusammenhang mit einem Chatbot und Suizidfällen von Jugendlichen konfrontiert. Beide Fälle zeigen laut dem Bericht, dass Marktmechanismen allein Schäden nicht zuverlässig verhindert haben.
Amodei wirbt für gemeinsame Sicherheitsstandards
Amodei argumentierte auf derselben Bühne für einen anderen Weg. Laut einem Vergleich von TechRadar schlug der Anthropic-Chef vor, zunächst die eigenen Sicherheitspraktiken zu verbessern, dann den offenen Branchendialog zu suchen und langfristig internationale Standards zu etablieren. Unternehmen wüchsen inzwischen schneller, als irgendjemand erwartet habe, räumte Amodei ein – das habe ihn selbst überrascht.
Er hatte bereits Anfang September in einem Essay eine bewusste Tempobremse für die Entwicklung immer leistungsfähigerer KI-Systeme gefordert; Sam Altman und Elon Musk stimmten damals öffentlich zu. Amodei bekräftigte in Dreamforce, die Investitionen der Branche in Sicherheitsforschung hätten mit dem Tempo der wachsenden Modell-Fähigkeiten nicht Schritt gehalten. Er forderte die anwesenden Führungskräfte auf, gemeinsam höhere Standards für die gesamte Branche zu setzen, statt Sicherheit als Wettbewerbsnachteil zu behandeln. Transparenz gegenüber der Öffentlichkeit sei dabei ein zentraler Baustein: Unternehmen sollten offenlegen, wie sie mit Risiken der eigenen Modelle umgehen, statt Sicherheitsvorfälle intern zu behandeln. Huang und Amodei vertreten damit zwei gegensätzliche Lager: Modellentwickler pochen auf gemeinsame Regeln, Chiphersteller auf unternehmerische Eigenverantwortung.
Streit reiht sich in wochenlange Tempodebatte ein
Der Schlagabtausch setzt eine bereits laufende Debatte fort. Erst am Wochenende hatten sich US-Präsident Donald Trump und Microsoft-Chef Satya Nadella gegensätzlich zu Amodeis Tempobremse geäußert, wie beckmann.ai berichtete – Nadella kündigte einen eigenen Verhaltenskodex für Microsofts KI-Modelle an, Trump lehnte staatliche Eingriffe unter Verweis auf den Wettlauf mit China ab.
Der Anfang der Woche vorgestellte Kodex-Entwurf nennt vier verbindliche Grundregeln für Microsofts eigene Modelle:
- sich nicht gegen eine Korrektur oder Abschaltung zu wehren,
- den eigenen Handlungsspielraum nicht ohne Freigabe zu erweitern,
- keine nicht zugewiesenen Ziele zu verfolgen,
- die eigene Argumentation gegenüber menschlichen Prüfern nicht zu verschleiern.
Weder Google noch Meta haben sich bislang offiziell dazu geäußert. Laut Seoul Economic Daily ist der Auftritt in San Francisco bereits die zweite öffentliche Auseinandersetzung zwischen Huang und Amodei zu diesem Thema. Für Unternehmen, die KI-Systeme im Arbeitsalltag einsetzen, bedeutet der Streit vorerst: Verbindliche, branchenweite Regeln sind kurzfristig nicht in Sicht, freiwillige Selbstverpflichtungen einzelner Anbieter bleiben der einzige Maßstab.
Entscheidend wird, ob aus dem öffentlichen Schlagabtausch bindende Regeln entstehen oder ob es bei rhetorischen Attacken zwischen Chipherstellern und Modellentwicklern bleibt. Microsofts Konsultationsfrist zum eigenen Kodex läuft noch bis Ende Oktober; bis dahin dürfte sich zeigen, ob Wettbewerber wie Google oder Meta eigene Vorschläge nachlegen oder Huangs Linie eines rein marktbasierten Ansatzes folgen.
