Ein KI-Chatbot des US-Militärs hat im Frühjahr 2026 die Ladung eines chinesischen Frachters fälschlich als Material für ein Atomwaffenprogramm eingestuft, wie CNN am 18. September berichtet. Bewaffnete Soldaten bereiteten bereits ein Enterkommando vor, Kampfjets waren bereits in der Luft, als Offiziere den Irrtum in letzter Minute bemerkten.
Zwei KI-Anfragen erzeugen einen offiziell wirkenden Bericht
Ein Analyst des Sonderkommandos für Spezialoperationen im Pazifik nutzte den Chatbot laut CNN zunächst, um offene Quellen mit geheimer Signalaufklärung zu einem chinesischen Frachter abzugleichen. Das System deutete Einträge auf dem Frachtmanifest falsch und ordnete die Ladung Bauteilen für ein Atomwaffenprogramm zu. In einem zweiten Schritt setzte der Analyst denselben Chatbot ein, um die fehlerhaften Ergebnisse in das Format eines regulären Geheimdienstberichts zu bringen. Weder das Manifest noch die Herkunft der angeblichen Bauteile wurden vor der Weiterleitung von einer zweiten Person gegengeprüft. Dieses formal offizielle Dokument verbreitete sich anschließend über militärische Kommandokanäle, ohne dass jemand die zugrunde liegenden Rohdaten erneut prüfte. Ranghohe Kommandeure vertrauten der Aufmachung des Berichts und genehmigten eine Enteraktion gegen das Schiff, weil ein KI-formatierter Bericht kaum von einem menschlich verfassten zu unterscheiden war. Das Kommando setzt Chatbots nach eigenen Angaben bereits seit Monaten testweise zur schnelleren Auswertung von Rohdaten ein; ein verbindlicher Freigabeprozess für deren Ergebnisse fehlte in diesem Fall jedoch.
Kampfjets sind bereits in der Luft, als der Fehler auffliegt
Bewaffnete US-Soldaten bereiteten sich darauf vor, das Schiff zu entern, Kampfflugzeuge stiegen bereits auf. Erst eine nachträgliche Prüfung der Geheimdienstangaben deckte auf, dass der Chatbot die Fracht falsch identifiziert hatte; der Einsatz wurde in letzter Minute abgebrochen. Eine an der Aufklärung beteiligte Person bezeichnete den ursprünglichen Bericht gegenüber CNN als gänzlich falsch und sagte, er habe „beinahe einen Krieg” ausgelöst – unabhängig nicht verifiziert ist, was sich tatsächlich an Bord des Schiffs befand. Eine Enteraktion gegen ein chinesisches Handelsschiff hätte das Risiko einer direkten militärischen Konfrontation zwischen den beiden Atommächten mit sich gebracht, mitten im laufenden Krieg der USA gegen den Iran, der am 28. Februar 2026 begonnen hatte. Öffentlich bekannte Konsequenzen für den Analysten oder die beteiligten Kommandeure nennt CNN nicht. Der Vorfall ereignete sich vor dem Hintergrund einer wachsenden Rolle von KI in militärischen Abläufen: Erst im Juli hatte die US-Marine eine eigene KI-Strategie für Kriegsschiffe vorgestellt, die Sensordaten direkter in Gefechtsentscheidungen einfließen lassen soll.
Hegseth treibt KI-Einsatz voran, Kritiker mahnen Kontrolle an
Verteidigungsminister Pete Hegseth treibe den KI-Einsatz im Pentagon besonders forsch voran. Kritiker werten den Beinahe-Zwischenfall als Teil eines größeren Musters unzureichender menschlicher Kontrolle bei KI-gestützten Militärentscheidungen im laufenden Krieg. Bereits am ersten Kriegstag, dem 28. Februar 2026, soll ein von der Software Maven Smart System gestütztes Zielsystem zu einem Luftangriff auf eine Schule in Minab beigetragen haben, bei dem mehr als 120 Kinder starben; eine Bloomberg-Recherche dokumentiert den Fall, eine UN-Untersuchung bewertete den Angriff Mitte September als möglicherweise völkerrechtswidrig. Der GovAI-Forscher und Armee-Veteran Jake Steckler fordert laut TechCrunch, Soldatinnen und Soldaten müssten die Unsicherheiten großer Sprachmodelle verstehen – nicht weniger KI-Einsatz sei die Lösung, sondern bessere Kontrolle. Beide Vorfälle zusammen nähren in Washington eine Debatte darüber, wie viel Vertrauen Kommandeure automatisiert erstellten Unterlagen ungeprüft entgegenbringen dürfen.
Entscheidend wird, ob das Pentagon als Reaktion auf den Vorfall verbindliche Prüfschritte für KI-gestützte Geheimdienstberichte einführt, bevor Kommandeure sie für Einsatzentscheidungen nutzen dürfen. Bislang hat sich das Verteidigungsministerium nicht öffentlich zu dem Bericht geäußert. Offen bleibt zudem, welche Fracht sich tatsächlich an Bord des chinesischen Schiffs befand – laut CNN ließ sich das bislang nicht klären.
