Forschung

Vier neue KI-Paper: Ködertrick, Claude gewinnt Gold, Agenten-RL

5 Min. Lesezeit

TL;DR Too Long; Didn’t read

Vier neue arXiv-Preprints der vergangenen Tage zeigen, wie fragil Kontrolle und Fähigkeit heutiger KI-Systeme bleiben: Am schwersten wiegt eine neue Abwehrmethode, die entsperrte offene Modelle dazu bringt, bei sicherheitskritischen Fragen in bis zu 86 Prozent der Fälle überzeugend klingende, aber fatale Falschantworten zu liefern. Eine zweite Arbeit zeigt mit einem neuen Benchmark, dass die Forschungsleistung von KI-Agenten von 50,91 auf 26,62 Punkte einbricht, sobald menschliche Anleitung wegfällt. Ein drittes Paper hebt mit einem neuen Trainingsframework die Erfolgsquote eines kleinen Modells auf einem Coding-Benchmark von 41,8 auf 56,4 Prozent. Eine vierte Arbeit zeigt, dass Claude Opus 4.8 bei der Internationalen Linguistik-Olympiade ein von der offiziellen Jury bestätigtes Goldmedaillen-Niveau erreicht.

Eine Lupe vergrößert aus einem Stapel wissenschaftlicher Paper vier Details: einen goldglänzenden Klumpen mit einem zerbrochenen Schlüssel darin, eine tastende Roboterhand ohne Führungsleine, einen Blitz über einem Zahnrad und eine Goldmedaille mit fremden Schriftzeichen. Generiertes Bild mit GPT Image 2

Das Wichtigste in Kürze

  • Decoy Hardening lässt entsperrte offene Modelle bei sicherheitskritischen Fragen zu 82 bis 86 Prozent fatal falsch antworten.
  • ASI-Bench: KI-Forschungsagenten fallen ohne menschliche Anleitung von 50,91 auf 26,62 Punkte zurück.
  • Agent Lightning v1.0 hebt die SWE-bench-Erfolgsquote eines 9-Milliarden-Modells von 41,8 auf 56,4 Prozent.
  • Claude Opus 4.8 erreicht bei der Linguistik-Olympiade 2026 ein von der Jury bestätigtes Goldmedaillen-Niveau.

Die heutige Auswahl aus den arXiv-Neueinreichungen der vergangenen Tage verbindet vier Fragen, die selten gemeinsam auftauchen: wie sich entfernte Sicherheitssperren offener Modelle nachträglich noch abwehren lassen, wie weit autonome KI-Forschung ohne menschliche Anleitung trägt, wie sich Agenten-Training über verschiedene Einsatzumgebungen hinweg vereinheitlichen lässt und ob sprachliches Rätsellösen ein härterer Gradmesser für KI-Denkfähigkeit ist als Mathematik oder Code. Kuratiert wurde nach Substanz und Streuung: Jedes Paper liefert eine nachvollziehbare Methode mit belastbaren Zahlen im Abstract, und keine zwei Arbeiten behandeln dasselbe Teilgebiet.

Fool’s Gold: Ein Ködertrick gegen entsperrte offene Modelle

Mark Russinovich stellt mit Fool’s Gold eine Verteidigung gegen sogenannte Abliteration vor – ein Verfahren, mit dem sich die eingebauten Verweigerungs-Mechanismen offen verfügbarer KI-Modelle nachträglich entfernen lassen, sodass sie eigentlich gesperrte Anfragen beantworten. Statt den Angriff selbst zu verhindern, vergiftet die vorgeschlagene „Decoy Hardening”-Methode dessen Ertrag: Das Modell bleibt zunächst normal nutzbar, hinterlegt aber verdeckte Köder-Antworten, die erst nach einer erfolgreichen Sperren-Entfernung aktiv werden – selbstbewusst formuliert und flüssig lesbar, aber an entscheidender Stelle absichtlich verfälscht. Getestet an sieben offenen Modellen zwischen 9 und 122 Milliarden Parametern aus fünf Modellfamilien bestanden sechs die Wirksamkeitsprüfung; auf sicherheitsrelevanten Testfragen habe das verteidigte 122-Milliarden-Modell in 82 bis 86 Prozent der Fälle überzeugend klingende, aber fatal falsche Antworten geliefert, gegenüber höchstens 10 Prozent bei unverteidigten Modellen. Die reguläre Leistung des Modells im unangetasteten Zustand bleibe dabei unverändert erhalten. Ein früherer Digest-Beitrag hatte bereits ein Verfahren vorgestellt, das schädliches Fine-Tuning offener Modelle von vornherein blockiert – Fool’s Gold setzt eine Stufe später an und sorgt dafür, dass ein bereits erfolgreicher Angriff dem Angreifer nutzlose bis gefährliche Ergebnisse liefert. Das zählt, weil offen verfügbare Modellgewichte sich technisch nicht vor lokaler Manipulation schützen lassen und Verteidiger deshalb auf genau solche nachgelagerten Gegenmaßnahmen angewiesen sind.

ASI-Bench: Autonome KI-Forschung bricht ohne menschliche Anleitung ein

Ein 42-köpfiges Autorenteam um Junwei Zhou stellt mit ASI-Bench einen mit über 31.000 Arbeitsstunden und mehr als 40 Fachleuten entwickelten Benchmark aus 60 projektartigen Forschungsaufgaben über 11 wissenschaftliche Domänen vor, der gezielt prüft, wie gut KI-Systeme eigene Methoden entwickeln statt vorgegebene auszuführen. Getestet wurden 18 Agenten-Modell-Konfigurationen unter drei Anleitungsstufen: mit vollständiger methodischer Vorgabe, mit nur benannter Methode und mit vollständig eigenständiger Methodenwahl. Die Autoren berichten, der durchschnittliche Score falle von 50,91 Punkten bei voller Anleitung über 29,10 Punkte bei vorgegebener Methode auf nur noch 26,62 Punkte, wenn das System die Vorgehensweise komplett selbst bestimmen müsse – ein Beleg dafür, dass heutige Systeme wissenschaftliche Aufgaben zwar technisch ausführen, aber kaum eigenständig sinnvolle Forschungsrichtungen wählen können. Ein früherer Digest-Beitrag hatte bereits gezeigt, dass Spitzen-Agenten zwar die Technik unveröffentlichter Forschungsfragen meistern, aber am eigentlichen wissenschaftlichen Fortschritt scheitern – ASI-Bench liefert dazu jetzt eine gestufte Messung, die genau zeigt, an welcher Stelle der Prozesskette die Eigenständigkeit einbricht. Das zählt, weil Ankündigungen autonomer KI-Forschungssysteme oft an Aufgaben mit vollständiger Anleitung gemessen werden, während der eigentlich interessante Schritt – die eigenständige Wahl der Methode – laut diesen Zahlen noch der schwächste Teil ist.

Agent Lightning v1.0: Ein Trainingsframework hebt die Coding-Erfolgsquote deutlich

Ein Microsoft-Research-Team um Zhiyuan He stellt mit Agent Lightning v1.0 ein rund 3.500 Zeilen umfassendes Framework für „harnessed agentic RL” vor: Statt ein Modell isoliert zu trainieren, bindet das Verfahren den kompletten Einsatz-Harness – also die Software-Schicht, die Werkzeuge, Kontext und Kontrollfluss eines Agenten verwaltet – direkt ins Nachtraining ein und löst dabei technische Probleme wie Retokenisierung, das Zusammenführen von Stichproben und die Vorteilsberechnung über beliebige Agenten-Harnesses hinweg. In Tests an Instruktionsfolge-, Such- und Coding-Agenten habe sich die Erfolgsquote eines Qwen3.5-9B-Modells auf dem Coding-Benchmark SWE-bench Verified mit nur 6.000 Trainingsbeispielen von 41,8 auf 56,4 Prozent verbessert. Ein früherer Digest-Beitrag hatte bereits berichtet, dass sich Agenten per Reinforcement Learning schneller und günstiger trainieren lassen – Agent Lightning liefert dafür jetzt ein wiederverwendbares, harness-unabhängiges Werkzeug statt einer aufgabenspezifischen Einzellösung. Das zählt, weil uneinheitliche Trainingsintegration bislang ein praktisches Hindernis dafür war, Agenten-Verbesserungen aus der Forschung in reale Produktivsysteme zu übertragen.

IOL-AI Challenge: Claude Opus 4.8 erreicht Goldmedaillen-Niveau bei Sprachrätseln

Ein Team um Eduardo Sánchez stellt mit der IOL-AI Challenge einen offenen Wettbewerb auf bislang unveröffentlichten Aufgaben der Internationalen Linguistik-Olympiade (IOL) 2026 vor – Sprachrätsel, bei denen das lösende System zunächst selbst ein unbekanntes Sprachsystem erschließen muss, statt wie bei Mathematik oder Code auf vorgegebenen Regeln aufzubauen. Erstmals bewertete dabei die offizielle IOL-Jury die eingereichten Systeme nach denselben Maßstäben wie menschliche Teilnehmende. 731 Einreichungen von 46 Teams traten unter strengem Rechenbudget an (eine T4-GPU, 30 Minuten), während 15 uneingeschränkte Spitzenmodelle separat getestet wurden. Die Autorinnen und Autoren berichten, Claude Opus 4.8 erreiche dabei einen von der Jury bestätigten Score auf Goldmedaillen-Niveau, während die eingereichten ressourcenbeschränkten Systeme im untersten 5-Prozent-Bereich der menschlichen Teilnehmenden landeten; ein 14-Milliarden-Modell habe zudem doppelt so große Modelle geschlagen, wobei die Verbesserung eher aus Decodierungs- und Ausgabeverarbeitung als aus roher Modellgröße gestammt habe. Ein früherer Digest-Beitrag hatte bereits gezeigt, dass KI-Agenten bei einem Raumverständnis-Test mit menschlichem Vergleichswert deutlich hinter Menschen zurückblieben – die IOL-AI Challenge zeigt nun das Gegenbeispiel eines Bereichs, in dem ein Frontier-Modell den menschlichen Maßstab erreicht. Das zählt, weil sprachliches Strukturverständnis laut den Autoren kaum von Vorwissen über die getesteten Sprachen profitiert und sich damit als vergleichsweise sauberer Test für generalisierbares Schlussfolgern eignet.

Alle vier Arbeiten sind nicht unabhängig begutachtete Preprints – die berichteten Zahlen stammen aus den Experimenten der jeweiligen Autorenteams und wurden bislang nicht extern repliziert. Das gilt besonders für Fool’s Gold, dessen Wirksamkeit bislang nur gegen die getesteten Abliterations-Verfahren gezeigt wurde, nicht gegen künftige Angriffstechniken, sowie für ASI-Bench, dessen Bewertungsraster von den Autorinnen und Autoren selbst festgelegt wurde. Ob sich die Befunde an weiteren Modellen, Benchmarks und in unabhängigen Nachbauten bestätigen, muss sich erst noch zeigen.

Häufige Fragen

Sind diese vier Paper bereits von Fachkollegen begutachtet?

Nein, alle vier sind bislang unbegutachtete arXiv-Preprints, deren Zahlen aus den Experimenten der jeweiligen Autorenteams stammen und noch nicht in einem Peer-Review-Verfahren geprüft wurden.

Gibt es Code oder Daten zu den vorgestellten Verfahren?

Agent Lightning v1.0 wird von den Autoren als wiederverwendbares Framework beschrieben, dessen Code laut Abstract für beliebige Agenten-Harnesses nutzbar ist. Die IOL-AI Challenge lief als offener Wettbewerb mit eingereichten Systemen. Für Fool's Gold und ASI-Bench geht aus den vorliegenden Abstracts keine ausdrückliche Zusage zur vollständigen Code- oder Datenveröffentlichung hervor.

Was ist Abliteration, und warum reicht ein einfacher Filter dagegen nicht?

Abliteration bezeichnet Verfahren, mit denen sich die eingebauten Verweigerungs-Mechanismen offen verfügbarer Sprachmodelle nachträglich aus den Modellgewichten entfernen lassen. Da Angreifer bei offenen Modellen vollen Zugriff auf die Gewichte haben, lassen sich vorgelagerte Filter oder Prompt-Sperren umgehen – Fool's Gold setzt deshalb erst nach einem erfolgreichen Angriff an, indem es dessen Nutzen vergiftet statt den Zugriff selbst zu blockieren.

Was zeigt der Rückgang von 50,91 auf 26,62 Punkten bei ASI-Bench konkret?

Der Rückgang misst denselben Satz von 60 Forschungsaufgaben unter drei Anleitungsstufen: mit vollständiger methodischer Vorgabe, mit nur benannter Methode und mit vollständig eigenständiger Methodenwahl. Der Score sinkt in exakt dem Maß, in dem den Systemen die menschliche Vorgabe der Vorgehensweise entzogen wird – ein Hinweis darauf, dass aktuelle KI-Systeme wissenschaftliche Aufgaben eher ausführen als eigenständig konzipieren.

Quellen (4)
  1. Fool's Gold: Defensive Deception Against Safety-Removal Attacks on Open-Weight Models
  2. ASI-Bench: At the Dawn of Artificial Superintelligence
  3. Agent Lightning v1.0: Towards Harnessed Agentic RL
  4. The IOL-AI Challenge: Automatic and Expert Evaluation of LLMs on Novel Linguistic Puzzles

Dein KI-Update für die Arbeitswoche

Einmal pro Woche das Wichtigste aus der KI-Welt – plus ein Praxis-Tipp zum direkt Ausprobieren. Kein Spam, jederzeit abbestellbar.

← Zurück zum Blog