OpenAI hat ein Betrugsnetzwerk aus der kambodschanischen Grenzstadt Poipet zerschlagen, das ChatGPT für gleich vier Betrugsmaschen einsetzte – von Romance-Scams bis zu gefälschten Behördenschreiben. Nach eigenen Angaben stieß das Unternehmen dabei zugleich auf Hinweise, dass die Betreiber selbst zur Arbeit gezwungen wurden. Den entscheidenden Tipp lieferte ein Hinweis über WhatsApp.
OpenAI deckt vier parallele Betrugsmaschen auf
Die Täter bauten laut OpenAI zunächst über Wochen persönliche Beziehungen zu ihren Opfern auf, bevor sie zur eigentlichen Betrugsmasche wechselten. ChatGPT half demnach dabei, überzeugende Fake-Identitäten zu erstellen, Nachrichten in mehrere Sprachen zu übersetzen und Werbetexte für angebliche Investmentchancen zu formulieren. Die vier parallel eingesetzten Maschen reichten von klassischen Romance-Scams über Kryptowährungs- und Goldinvestment-Betrug bis zu Glücksspiel-Ködern und vorgetäuschten Anrufen angeblicher Behörden, die Opfer zusätzlich unter Druck setzen sollten.
Für die Investment-Variante erstellte die Gruppe mit ChatGPT gefälschte Handelsoberflächen, die echten Krypto-Börsen nachempfunden waren, dazu gefälschte Reisepässe, Kaufbestätigungen für Aktien und behördlich wirkende Schreiben. In einem eigenen Bericht beschreibt OpenAI ein wiederkehrendes Muster: Nach ersten kleineren Einzahlungen forderten die Betrüger weitere Zahlungen für angebliche Aktivierungsgebühren, Steuern oder Bußgelder, bevor der Kontakt endgültig abbrach. Wie das Unternehmen mitteilt, zielten die gefälschten Unterlagen gezielt auf Personen ab, die zuvor bereits kleinere Zahlungen geleistet hatten und dadurch als besonders zahlungsbereit galten. Die eingesetzten Vorlagen ähnelten sich über verschiedene Sprachen hinweg so stark, dass Ermittler von einem zentral gesteuerten Baukastensystem ausgehen.
Chatprotokolle offenbaren Zwangsarbeit der Betreiber
Nach Angaben von OpenAI zeigen interne Chatverläufe, dass ein Teil der Betrugsmasche selbst auf Zwangsarbeit beruhte. Anwerbeanzeigen, die ebenfalls mit ChatGPT erstellt worden sein sollen, versprachen jungen Arbeitssuchenden Flugtickets, Unterkunft, Verpflegung und Hilfe bei Visa-Anträgen – ein aus Ermittlungen zu ähnlichen Betrugszentren in Südostasien bereits bekanntes Muster.
Vor Ort in Poipet dokumentierten interne Aufzeichnungen laut OpenAI Schulden der Beschäftigten, Lohnabzüge, Strafzahlungen sowie Hinweise auf Freiheitsentzug und Fluchtversuche. Die Betrüger waren demnach zugleich selbst Teil eines übergeordneten kriminellen Systems, das die Grenzstadt zu einem der bekanntesten Zentren organisierter Online-Betrugsindustrie in der Region gemacht hat. Ähnliche Strukturen beschreiben Menschenrechtsorganisationen seit Jahren für vergleichbare Betrugszentren an der thailändisch-kambodschanischen Grenze, wo unter ähnlichen Bedingungen gearbeitet werden soll. OpenAI erklärt, die Erkenntnisse stammten bislang ausschließlich aus eigenen Chatprotokollen und noch nicht aus einer unabhängigen Vor-Ort-Überprüfung.
WhatsApp-Hinweis löst monatelange Ermittlung aus
Den ersten Hinweis auf das Netzwerk erhielt OpenAI eigenen Angaben zufolge über WhatsApp. Das Unternehmen wertete daraufhin Konten, Gesprächsverläufe und erstellte Inhalte aus und identifizierte nach eigenen Angaben mehrere hundert Betroffene, bevor es die zugehörigen ChatGPT-Konten sperrte. Vor der Sperrung informierte OpenAI Branchenpartner und Strafverfolgungsbehörden, um eine koordinierte Reaktion zu ermöglichen.
Ähnliche Betrugsmuster mit KI-Werkzeugen sind kein Einzelfall: Erst im Juli warnte eine Finanzaufsichtsbehörde vor Betrügern, die mit geklonten Chef-Stimmen und Deepfake-Videos dringende Zahlungen erschleichen. Für OpenAI ist der Fall in Poipet nach eigenen Angaben einer der bislang größten aufgedeckten Betrugsringe, die den eigenen Chatbot missbrauchten. Menschenrechtsorganisationen schätzen, dass in vergleichbaren Betrugszentren der Region insgesamt mehrere Hunderttausend Menschen beschäftigt sind – die Zahl ist unabhängig nicht verifiziert. Konkrete Festnahmen oder Anklagen im Zusammenhang mit dem Fall sind bislang nicht bekannt geworden.
Offen bleibt, wie OpenAI verhindern will, dass ähnliche Netzwerke künftig unentdeckt bleiben, solange Abwehrmaßnahmen erst nach einem externen Hinweis wie dem von WhatsApp greifen. Der Fall zeigt zudem ein Dilemma der Strafverfolgung: Wer Konten sperrt, entzieht Tätern zwar ihr Werkzeug, hilft den mutmaßlich selbst zur Arbeit gezwungenen Betreibern der Anlage in Poipet damit aber nicht unmittelbar.
