Das Future of Life Institute hat am 19. Juli seinen KI-Sicherheitsindex für den Sommer 2026 veröffentlicht und neun große KI-Anbieter neu bewertet. Anthropic führt das Feld mit der Note C+ und 2,66 von vier möglichen Punkten an, Mistral aus Frankreich liegt mit 0,33 Punkten am Tabellenende. Keines der geprüften Unternehmen erreicht eine bessere Note als C+.
Sieben Fachleute bewerten 37 Sicherheitsindikatoren
Ein unabhängiges Gremium aus sieben Forscherinnen und Forschern – darunter Stuart Russell von der University of California in Berkeley und David Krueger von der Universität Montreal – vergab die Noten anhand von 37 Indikatoren in sechs Bereichen. Dazu zählen Risikoanalyse, aktuelle Schäden, Sicherheitsrahmenwerke, existenzielle Risiken, Unternehmensführung und Informationsaustausch. Grundlage waren öffentlich zugängliche Modellkarten, Forschungspapiere und gezielte Firmenbefragungen bis zum 3. Juni. Das Gremium bewertete dabei ausschließlich Richtlinien, Governance-Strukturen und veröffentlichte Rahmenwerke, nicht die tatsächliche Leistung der ausgelieferten Produkte. Im Ranking folgen auf Anthropic, OpenAI (C) und Google DeepMind (C) die Unternehmen Meta (D+), Z.ai und Alibaba Cloud (beide D-) sowie xAI, DeepSeek und Mistral mit der Note F. Damit fiel je ein Unternehmen aus den USA, China und Europa durch. Beim Teilbereich existenzielle Sicherheit kam keine der neun Firmen über eine C- hinaus, die meisten blieben bei D oder schlechter. Das Gremium bewertete die dort eingesetzten Methoden wie Interpretierbarkeits-Werkzeuge als reine Nacherkennung von Problemen statt als Vorbeugung.
Top-Konzerne lockern frühere Sicherheitsversprechen
Der Bericht kritisiert vor allem die vier bestplatzierten Unternehmen Anthropic, OpenAI, Google DeepMind und Meta. Sie hätten frühere Zusagen zu automatischen Entwicklungspausen bei riskanten Modellen aufgeweicht und an das Verhalten der Konkurrenz gekoppelt, statt sie eigenständig einzuhalten. Zwischen 2024 und 2026 gaben dieselben Konzerne zudem frühere Beschränkungen für militärische Anwendungen auf und verfolgen inzwischen aktiv Verteidigungsaufträge. Stuart Russell erklärte laut Tech Times, der Wettlauf um Fähigkeiten habe sich verschärft: Firmen zögen sich von Sicherheitsmaßnahmen zurück und planten Veröffentlichungen trotz erkennbarer Sicherheitslücken. Panelmitglied David Krueger ergänzte, den Unternehmen fehlten belastbare Sicherheitspläne; Führungskräfte deuteten zwar Pausen an, kommunizierten aber weder Dringlichkeit noch konkrete Vorbereitung. Gegenüber dem vorherigen Index vom Winter 2025 verschlechterte sich OpenAI von C+ auf C, während sich Meta von der Note D auf D+ verbesserte. xAI und DeepSeek rutschten beide von der Note D auf die Note F ab, nachdem sie zuvor noch im Mittelfeld gelegen hatten. Nur Anthropic verbesserte sich in Teilbereichen wie Governance und Informationsaustausch spürbar und erreichte dort die besten Werte im gesamten Feld.
Mistral weist Kritik an der Methodik zurück
Mistral kontert die schlechte Bewertung laut einem Bericht des französischen Portals Cryptoast mit dem Einwand, die Methodik sei auf geschlossene Modelle zugeschnitten und benachteilige offene, frei herunterladbare Systeme systematisch. Bei solchen Modellen liege die Verantwortung für die Kalibrierung stärker bei den Nutzenden als beim Hersteller, argumentiert das Unternehmen. Auch Z.ai, das ebenfalls überwiegend offene Modelle veröffentlicht, schnitt im Index schlecht ab – ein Muster, das Mistrals Einwand stützt. Das Future of Life Institute erklärte, es habe Mistral mehrfach kontaktiert; anders als die meisten anderen bewerteten Unternehmen habe Mistral den Fragebogen jedoch nicht beantwortet. Mistral verweist zudem auf die eigene Einhaltung der europäischen KI-Verordnung als Beleg für sein Sicherheitsniveau.
Entscheidend wird, ob die schlechten Noten Folgen für öffentliche Ausschreibungen oder Konzernkunden haben, die zunehmend auf Lieferanten-Audits setzen. Für Mistral steht dabei mehr auf dem Spiel als das Image: Als einziger europäischer Anbieter im Test liefert die Einstufung ausgerechnet der Debatte um die Umsetzung der EU-KI-Verordnung neue Munition, deren nächste Pflichten im August 2026 greifen.
