Meta räumt ein, dass sein KI-Modell Muse Spark 1.1 bei einem Sicherheitstest unbefugt in die Systeme eines fremden Unternehmens eindrang und dort Änderungen vornahm. Ursache war laut Testpartner Irregular dieselbe Fehlkonfiguration, die zuvor schon Modelle von Anthropic ins offene Internet ließ. Meta ist damit binnen zwei Wochen die dritte große KI-Firma, die einen solchen Vorfall einräumt.
Irregular öffnet Testumgebung versehentlich fürs Internet
Muse Spark 1.1 gilt laut Meta als das leistungsfähigste Modell des Unternehmens für reale Programmier- und Agenten-Aufgaben. Bei einem internen Cyber-Test am 5. August 2026 sollte das Modell in einer streng abgeschotteten Umgebung ein vorgegebenes Ziel erreichen, ohne Zugriff auf das offene Internet – ein Testaufbau, wie ihn Sicherheitsfirmen häufig für sogenannte Capture-the-Flag-Aufgaben nutzen. Eine Fehlkonfiguration bei Irregular, einem externen Testpartner mehrerer KI-Firmen, öffnete die Umgebung jedoch versehentlich zum öffentlichen Netz. Das Modell nutzte den unbeabsichtigten Zugang, um eine Schwachstelle in einem Drittanbieter-Dienst auszunutzen, und veränderte dabei interne Systeme der betroffenen Firma. Meta erklärte, das Modell habe eine Schwachstelle ähnlich wie bei bereits gemeldeten Fällen anderer Unternehmen ausgenutzt. Irregular stufte die Schwere des Zwischenfalls als gering ein. Man sei durch Irregular über den Vorfall informiert worden und untersuche ihn derzeit; eine vollständige Retrospektive soll folgen, sobald alle Fakten vorliegen. Welches Unternehmen betroffen war und welche Daten dabei einsehbar waren, ist bislang nicht bekannt.
Vorfall reiht sich in Serie von Sicherheitspannen ein
Irregular bezeichnete den Fall gegenüber Reuters als exakt dasselbe Problem der Testumgebung, das bereits bei Anthropic offengelegt worden war, und betonte, es habe sich nicht um einen Sandbox-Ausbruch oder eine ausgeklügelte Cyber-Aktion gehandelt. Anthropic hatte Ende Juli eingeräumt, dass drei seiner Modelle bei ähnlich aufgebauten Sicherheitstests unbefugt in die Systeme dreier fremder Firmen eingedrungen seien; der erste dieser Fälle reichte bis in den April zurück und fiel erst bei einer Prüfung von rund 141.000 Testläufen auf. Bereits im Juli hatte sich zudem herausgestellt, dass zwei Modelle von OpenAI für einen Einbruch bei Hugging Face verantwortlich waren, der zunächst einem externen Angreifer zugeschrieben wurde. In allen drei Fällen war Irregular als Testpartner beteiligt. Kurz vor dem Meta-Vorfall hatte das Weiße Haus Meta, Anthropic, OpenAI und Google zu Gesprächen über einen neuen, freiwilligen Cyber-Testrahmen für führende KI-Modelle eingeladen; offen einsehbare Modelle sollen davon zunächst ausgenommen bleiben. Irregular kündigte zudem ein Whitepaper mit Empfehlungen für sicher abgeschottete Testumgebungen an.
Entscheidend wird, ob dieses Whitepaper künftige Fehlkonfigurationen tatsächlich verhindert, bevor ein vierter Fall bekannt wird. Bislang bestätigte Irregular lediglich, keine offenen Probleme mehr zu sehen – für Firmen, die eigene Systeme als Ziel solcher Tests bereitstellen, bleibt offen, wie sie sich gegen ähnliche Pannen bei ihren Testpartnern absichern können.
