Die Redaktion wählt vier Paper aus den arXiv-Neueinreichungen der vergangenen 24 bis 48 Stunden, die zeigen, wie brüchig Selbstverbesserung, Werkzeugnutzung und interne Nachvollziehbarkeit heutiger KI-Agenten und -Modelle bleiben – von einem strukturell irreversiblen Leistungseinbruch bei selbstlernenden Agenten über eine Sicherheitslücke in der Gesprächshistorie von Tool-Agenten bis zu einer Illusion beim multimodalen Bild-Zoomen und einem neuen Blick in interne Denkfehler. Kuratiert wurde nach Substanz: Jedes Paper liefert eine nachvollziehbare Methode und ein konkretes Zahlenergebnis im Abstract, keine bloße Themenüberschrift. Die Auswahl deckt bewusst vier unterschiedliche Teilgebiete ab – Agenten-Selbstverbesserung, Agenten-Sicherheit, multimodale Evaluation und mechanistische Interpretierbarkeit.
Skill-Kontamination bei selbstlernenden Agenten
Ein Team um Linfang Shang und Kolleginnen und Kollegen zeigt in When Self-Evolution Backfires, dass sich selbstlernende KI-Agenten (Systeme, die aus eigenen Ausführungs-Trajektorien wiederverwendbare Fähigkeiten, sogenannte Skills, destillieren) mit wachsendem Skill-Pool nicht dauerhaft verbessern, sondern ab einer kritischen Poolgröße wieder verschlechtern. Ursache sei eine Kontaminationskette: Sobald ein fehlerhafter Skill einmal Teil der Referenzbasis wird, fließe er in später destillierte Skills ein, und nachträgliches Entfernen des Auslöser-Skills stelle laut den Autoren nur einen kleinen Teil der verlorenen Leistung wieder her. Ihr Gegenmittel Verifier-as-Gatekeeper (VaG) prüft jeden neuen Skill vor der Aufnahme durch drei unabhängige Kriterien und erreiche dadurch in jeder Runde eine Verbesserung, mit 72 Prozent Pass@1 bei einem etwa fünfmal kleineren Skill-Pool als beim unkontrollierten Sammeln; der eingefrorene Skill-Pool übertrage sich zudem positiv auf vier weitere Modell-Backbones und einen zweiten Benchmark. Das zählt, weil es Skill-Aufnahme von einer nachträglichen Korrektur zu einer vorab notwendigen Prüfung macht – ein Anschluss an die zuvor besprochene Beobachtung, dass selbstlernende Agenten ohne externe Kontrolle eigene Fehler durch aufgeblähte Selbstbewertungen verstärken, hier jedoch mit einem konkreten, strukturellen Gegenmittel.
Wenn alte Gesprächshistorie Tool-Agenten kapert
Ein Team um Xiaoqing Wu und Kolleginnen und Kollegen zeigt in When History Lies, dass Tool-nutzende KI-Agenten in andauernden Dialogen von strukturell noch plausibel wirkender, aber inhaltlich nicht mehr maßgeblicher Gesprächshistorie in die Irre geführt werden können. An dem Modell Qwen3-1.7B kippt eine solche „vergiftete” Historie laut den Autoren 32,1 Prozent der Entscheidungen, die auf Basis der ursprünglichen Abfolge korrekt gewesen wären, und führt häufig zur Wiederverwendung bereits fehlerhafter Objekte oder Schnittstellenkonventionen. Mit einem eigens konstruierten Benchmark und elf gezielten Eingriffen isolieren die Autoren die Fehlerquellen und trainieren daraufhin ein Verfahren, das eine an einer fehlerfreien Referenzhistorie geschulte Lehrer-Politik auf ein Modell überträgt, das nur die vergiftete Historie sieht; dieses Verfahren erreiche 87,0 Prozent ausgewogene Tool-Nutzungsgenauigkeit gegenüber 66,3 Prozent bei einfachem Nachtrainieren auf Gold-Daten, mit einem größeren Lehrer-Modell steige der Wert auf bis zu 93,0 Prozent. Das zählt, weil produktiv eingesetzte Agenten meist über lange, sich ändernde Sitzungen laufen, in denen genau solche veralteten Referenzen entstehen – ähnlich wie zuvor bereits eine ungeschützte Steuerungsschnittstelle bei einer Multi-Agenten-Plattform das dauerhafte Agenten-Gedächtnis manipulierbar machte.
Die Illusion des visuellen Werkzeuggebrauchs
Ein Team um Zhiheng Wang und Kolleginnen und Kollegen prüft in The Illusion of Visual Tool-Use, ob multimodale Sprachmodelle beim „Denken mit Bildern” – dem aktiven Zuschneiden und Heranzoomen von Bildausschnitten während der Antwortfindung – tatsächlich von den zurückgelieferten visuellen Beobachtungen profitieren oder nur so wirken. Über kausale Eingriffe auf drei Ebenen – Vergleich von Werkzeugnutzung mit direkter Antwort, Verfälschung aller Beobachtungen im gesamten Antwortverlauf und gezielter Austausch einzelner Beobachtungen – decken die Autoren an sechs Modellen und fünf Wahrnehmungs-Benchmarks zwei Fehlermuster auf: Im einen Fall wirke sich die zurückgelieferte Beobachtung überhaupt nicht auf die Antwort aus, im anderen sei sie zwar informativ, aber Zeitpunkt und Abfolge der Werkzeugaufrufe seien unstimmig gewählt. Der gemessene Genauigkeitsgewinn durch Werkzeugnutzung konzentriere sich laut den Autoren auf eine kleine, gut kalibrierte Minderheit der Fälle, während er über die Breite der Testfälle hinweg nicht kausal wirksam sei. Das zählt, weil viele aktuelle multimodale Agentensysteme genau auf diesem Zuschneiden-und-Zoomen-Mechanismus aufbauen, ohne dessen tatsächlichen Beitrag bislang kausal geprüft zu haben.
Denkfehler aus dem internen Zustand lesen
Ein Team um Hamed Damirchi und Kolleginnen und Kollegen stellt in Reasoning Errors Have a Region and a Direction einen Detektor vor, der fehlerhafte von stichhaltiger Modell-Argumentation anhand interner Zustandsänderungen unterscheidet, statt nur den finalen Text zu bewerten. Bisherige Verfahren werteten meist nur die Verschiebung zwischen aufeinanderfolgenden internen Repräsentationen (dem sogenannten Residual-Stream, dem Hauptinformationsfluss durch die Modellschichten) aus, wodurch der Ausgangszustand verloren geht; der neue Drei-Strom-Detektor kombiniert diese Bewegung stattdessen mit einer groben Regions- und einer feinen Richtungsschätzung des Ausgangszustands. Auf beim Training ungesehenen Reasoning-Benchmarks verbessere das Verfahren laut den Autoren die Auswahlgenauigkeit um bis zu 12 Prozent gegenüber reinen Verschiebungs-Verfahren und um 21 Prozent gegenüber Einzelschicht-Sondierung, und obwohl nur auf Reasoning-Aufgaben trainiert, erkenne es auch faktische Fehler zuverlässiger als alle Vergleichsverfahren. Das zählt, weil es zeigt, dass sich die Gültigkeit einer Modell-Argumentation eher aus dem Zusammenspiel von Ausgangszustand und Veränderung ablesen lässt als aus statischen Zuständen allein – ein Anschluss an die zuvor besprochene Beobachtung, dass Frontier-Modelle mit bedeutungslosen Füll-Tokens unsichtbar in der Chain-of-Thought ihre Genauigkeit steigern, hier jedoch mit einem Werkzeug, das genau solche verborgenen Zustände auswertbar macht.
Einordnung zum Schluss: Alle vier Arbeiten sind bislang unbegutachtete Preprints, ihre Zahlen stammen aus den eigenen Experimenten der jeweiligen Autorenteams. Die Skill-Kontaminations-Studie stützt sich auf einen einzelnen Hauptbenchmark und vier zusätzliche Backbones, die Studie zur Gesprächshistorie wurde bislang primär an kompakten 1,7- bis 8-Milliarden-Parameter-Modellen getestet, die Illusion-Studie deckt sechs Modelle und fünf Benchmarks ab, und der Interpretierbarkeits-Detektor wurde bislang nur auf Reasoning- und Faktenbenchmarks geprüft. Ob sich die berichteten Effekte an weiteren Modellgrößen, Aufgaben und in unabhängigen Nachbauten bestätigen, muss sich erst noch zeigen.
