Anthropic hat fünf Fälle offengelegt, in denen Nutzer den Chatbot Claude für Forschung mit möglichem Bezug zu biologischen Waffen einsetzen wollten. Das Unternehmen sperrte die betroffenen Konten, konnte eine böswillige Absicht aber nicht in jedem Fall zweifelsfrei nachweisen. Der zugrunde liegende Bedrohungsbericht deckt Missbrauchsversuche zwischen Dezember 2025 und August 2026 ab.
Bericht nennt Vogelgrippe-Fall als Beispiel für Missbrauch
Der Bedrohungsbericht beschreibt fünf Fallstudien mit möglichem Bezug zu biologischen Waffen. Cyberangriffe und Einflussoperationen machen im selben Dokument den deutlich größeren Anteil aus. In einem der fünf Fälle griff eine Person außerhalb der USA über eine umgangene Standortsperre auf Claude zu. Sie recherchiere zur Anpassung von hochpathogener Vogelgrippe (H5N1) an Säugetiere – ein Thema mit doppeltem Nutzen. Die gleiche Information könne helfen, natürlich auftretende Virus-Varianten frühzeitig zu erkennen, oder für schädliche Zwecke missbraucht werden. Anthropic ordne die Anfrage deshalb als eindeutig „dual use” ein und unterstelle den Beteiligten dabei keine nachgewiesene Schadensabsicht. Trotzdem reichten die Anfragen bereits aus, um die betroffenen Konten dauerhaft zu sperren. Erkannt habe das Unternehmen die Fälle über dieselben automatisierten Klassifizierer, die Anthropic bereits zur Blockade riskanter Modellaktionen einsetzt. Ergänzt werde das zusätzlich durch die manuelle Prüfung besonders auffälliger Gesprächsverläufe. Die Offenlegung diene dazu, eigene Schutzmechanismen zu verbessern und Erkenntnisse mit Behörden und der Industrie zu teilen.
Zahlen zu Missbrauchsfällen lassen sich kaum unabhängig prüfen
Es ist bereits der vierte Bedrohungsbericht, den Anthropic seit vergangenem Jahr veröffentlicht. Neben den fünf Biowaffen-Fallstudien dokumentiert das aktuelle Dokument staatlich gesteuerte Cyberoperationen aus Russland, China und Frankreich. Hinzu kommen kommerzielle Einflusskampagnen auf mehreren Kontinenten, etwa gegen Wahlen in Malaysia. Insgesamt habe das Unternehmen seit Dezember 2025 Dutzende Missbrauchsversuche unterbunden. Diese Zahl lässt sich unabhängig nicht verifizieren, da Anthropic weder die betroffenen Konten noch die vollständigen Rohdaten offenlegt. „Raffinierte Angriffe erfordern keine raffinierten Angreifer mehr”, begründet das Unternehmen die Veröffentlichung und verweist damit auf sinkende technische Hürden für Einzeltäter. Der Sicherheitsvorfall bei Claude Opus wird separat von der Organisation METR untersucht. Anthropic hatte ihn zwei Tage zuvor gemeldet, im aktuellen Bericht taucht er nicht auf. Die Offenlegung fällt zudem in eine Phase wachsenden politischen Drucks. Ein Bericht des Geheimdienstausschusses im US-Repräsentantenhaus warnte in derselben Woche vor KI-Systemen als sicherheitspolitischem blinden Fleck, weil die Regulierung mit dem Tempo der Technologie nicht mithalte.
Entscheidend wird, ob Anthropics Transparenz-Strategie zum Industriestandard wird oder ob Konkurrenten wie OpenAI und Google vergleichbare Fälle unter Verschluss halten. Für Unternehmen, die Claude im Arbeitsalltag einsetzen, ändert der Bericht zunächst nichts – die beschriebenen Sperren betrafen ausschließlich einzelne, gezielt identifizierte Konten. Offen bleibt, wie Anthropic im nächsten Bedrohungsbericht auf den wachsenden politischen Druck reagieren wird.
