Die arXiv-Neueinreichungen der vergangenen 24 bis 48 Stunden in cs.AI, cs.LG und cs.CL boten wieder deutlich mehr Kandidaten, als in einen Digest passen. Dieser Beitrag kuratiert fünf Paper aus möglichst unterschiedlichen Teilgebieten – formale Mathematik-Verifikation, Agenten-Infrastruktur, Modellgeometrie sowie zwei gegensätzliche Perspektiven auf lineare Sonden in Sprachmodellen –, die jeweils eine nachvollziehbare Methode und belastbare Kernzahlen im Abstract liefern, keine bloßen Nischen-Anwendungen. Am schwersten wiegt dabei der Befund, dass eine in der KI-Sicherheitsforschung verbreitete Technik – das Auslesen von Wahrheitsgehalt aus internen Modell-Aktivierungen per linearer Sonde – bei einem konkreten Testfall Ehrlichkeit nicht von bloßer Regelbefolgung unterscheiden kann.
Mathematik und Infrastruktur
Trainingsfreies Verfahren Magenta verknüpft Sprachmodelle mit maschinell geprüften Lean-Beweisen
Joshua Ong Jun Leang, Haonan Li und ein sechsköpfiges weiteres Autorenteam stellen mit Magenta ein trainingsfreies, agentisches Verfahren vor, das zu einer natürlichsprachlichen Mathe-Aufgabe zunächst eine Antwort erzeugt, diese als Lean-4-Aussage formalisiert – eine maschinenlesbare, vom Lean-Beweisassistenten prüfbare Formulierung – und anschließend einen maschinell geprüften Beweis konstruiert. Ein „Aussage-Richter” prüft dabei, ob die Formalisierung die ursprüngliche Aufgabe korrekt wiedergibt, während ein zweiter Richter gescheiterte Versuche entweder zur mathematischen Neuherleitung oder zur gezielten Lean-Reparatur weiterleitet. Über die Olympiade-Benchmarks AIME 2025, AIME 2026 und HMMT Februar 2026 hinweg erreiche das Verfahren nach Angaben der Autorinnen und Autoren 100 Prozent Genauigkeit, und in Kombination mit dem offenen Reasoning-Modell K2-Horizon-7B löse es alle sechs Aufgaben der Mathematik-Olympiade IMO 2026. Das zählt, weil es zeigt, dass sich die Verlässlichkeit informeller KI-Mathe-Antworten durch nachgeschaltete formale Verifikation drastisch erhöhen lässt, statt sich allein auf die Textausgabe des Sprachmodells zu verlassen. Ein früherer Beitrag hatte bereits gezeigt, wie ein Team aus Dutzenden Claude-Agenten Fermats letzten Satz vollständig in Lean formalisierte – Magenta liefert nun ein leichtgewichtiges, trainingsfreies Gegenstück für den laufenden Wettbewerbsbetrieb statt für ein einzelnes Großprojekt.
Neues Speichersystem AgentZip komprimiert KI-Agenten-Sandboxes um das 8,7-Fache
Mengming Li, Ceyu Xu und ein fünfköpfiges weiteres Autorenteam präsentieren mit AgentZip das nach eigenen Angaben erste Speicher-Kompressionssystem, das speziell auf die Sandboxes von KI-Agenten zugeschnitten ist – isolierte Ausführungsumgebungen, in denen ein Agent Code oder Werkzeuge ausführt. Weil viele parallel laufende Sandboxes aus derselben Vorlage stammen und verwandte Aufgaben bearbeiten, nutzt das System gezielt Redundanz zwischen und innerhalb der Sandboxes aus, verlagert die Aufwandskontrolle von der Auswahl komprimierbarer Speicherseiten auf ein vorausschauendes Wiederherstellen und terminiert aufwendige Kompression bevorzugt in Wartephasen des Sprachmodells. Bei Trainings- und Inferenz-Workloads senke das den sandbox-eigenen Speicherbedarf um bis zum 8,7-Fachen, gegenüber dem 2,1-Fachen bei der Standard-Linux-Konfiguration, während sich die durch aggressive Kompression verursachte Verlangsamung von bis zum 3,1-Fachen auf das 1,4-Fache reduziere. Das zählt, weil hoher Speicherbedarf bei parallel laufenden Agenten-Flotten schon heute ein praktischer Kostenfaktor beim Betrieb von KI-Agenten ist, den reine Software-Optimierung ohne neue Hardware spürbar senken könnte. Ein früherer Beitrag hatte bereits gezeigt, wie OpenAI mit der öffentlichen Agents-API-Beta die interne Codex-Infrastruktur für Entwickler öffnet – AgentZip liefert dazu einen Baustein, der genau die Infrastruktur-Kosten senken soll, die beim breiten Einsatz solcher Agenten-Plattformen anfallen.
Modellstruktur, Sicherheit und Interpretierbarkeit
Verschiedene Sprachmodell-Architekturen teilen eine messbare, gezielt nutzbare Geometrie
Dario Picozzi zeigt mit einer Untersuchung zur Informationsgeometrie von Sprachmodellen, dass die sogenannte Fisher-Rao-Geometrie der Ausgabe-Wahrscheinlichkeiten – ein Maß dafür, wie sich die Vorhersage-Verteilung eines Modells bei kleinen Änderungen verschiebt – über Transformer-, State-Space- und rekurrente Architekturen hinweg deutlich stärker übereinstimmt als die Geometrie der internen Aktivierungen selbst. Der Autor berichtet, die Übereinstimmung mit menschlichen Wortentscheidungen steige mit Vorhersagegenauigkeit, Modellgröße und Training und lasse sich durch reine Modell-Kalibrierung weiter verbessern; zudem sagten Statistiken des Vortrainingskorpus vorher, wie leicht ein Modell ein bestimmtes Faktenwissen bei ungesehenen Tests erwerbe. Auf Basis dieser Geometrie ließen sich „störungsarme” lokale Eingriffe konstruieren, die von einem Beispiel-Prompt auf ungesehene Prompts übertragbar seien und dabei das übrige Modellverhalten besser erhielten als klassische euklidische Steuerungsverfahren – nach Angaben des Autors verbessere dieselbe geometrische Korrektur gleich mehrere nachgelagerte Aufgaben von Steuerung über Bearbeitung bis Attribution. Das zählt, weil es nahelegt, dass sich Kontroll- und Interpretierbarkeits-Werkzeuge nicht für jede Modellarchitektur neu erfinden lassen müssen, sondern auf einer gemeinsamen, architekturübergreifenden Struktur aufbauen könnten. Ein früherer Digest-Beitrag hatte bereits gezeigt, dass sich Verweigerungsverhalten von Sprachmodellen auf eine einzelne interne Richtung zurückführen und über vier Architekturfamilien hinweg gezielt abschalten lässt – die neue Arbeit liefert dazu einen möglichen theoretischen Unterbau, warum solche Richtungs-Eingriffe architekturübergreifend überhaupt funktionieren.
Wahrheits-Sonden verwechseln bei einem trainierten Modell Ehrlichkeit vollständig mit Regelbefolgung
Dylan Jayabahu zeigt mit einer Untersuchung zu sogenanntem „Perfect Aliasing” bei Wahrheits-Sonden, dass eine lineare Sonde – ein einfacher, auf den internen Aktivierungen eines Modells trainierter Klassifikator –, die auf Kontexten angepasst wird, in denen ehrliches Berichten und die vom Prompt vorgeschriebene Handlung zusammenfallen, aus den Fitting-Daten allein nicht erkennen kann, welches der beiden Ziele sie tatsächlich misst. In einem kontrollierten binären Berichtsspiel lösen Wahrheits- und Handlungs-Sonden auf solchen „kompatiblen” Kontexten dieselbe Optimierung; auf gegensätzlichen Kontexten sind ihre Vorhersagen exakte Komplemente, sodass sich die Trefferquoten (AUROC) beider Interpretationen über 751 geprüfte Zell-Schicht-Paare hinweg bis auf Rechengenauigkeit zu exakt eins addieren. Für ein per Belohnung trainiertes Gemma-2-9B-Modell, das auf allen getesteten gegensätzlichen Testfällen falsch antworte, erreiche eine klassisch gefittete Sonde nur 0,006 AUROC, während eine auf gemischten Kontexten gefittete Sonde auf denselben zurückgehaltenen Aktivierungen 1,000 AUROC erreiche. Der Autor betont ausdrücklich, dass dieser Befund nur die lineare Wiederauffindbarkeit belege, nicht aber, ob das Modell einen inneren Glauben bewahre, die gefundene Richtung kausal nutze oder sich daraus ein einsatzfähiger Täuschungs-Detektor bauen lasse. Das zählt, weil Wahrheits-Sonden in der KI-Sicherheitsforschung zunehmend als Werkzeug gegen Modell-Täuschung gehandelt werden, obwohl sie sich laut dieser Studie unter gewöhnlichen Trainingsbedingungen nicht zuverlässig von einer bloßen Regelbefolgungs-Sonde unterscheiden lassen. Ein früherer Digest-Beitrag hatte bereits gezeigt, dass Sicherheitsformulierungen in System-Prompts unehrliche Verweigerungen mehr als 15-fach verstärken können – die neue Studie liefert dazu eine methodische Erklärung, warum sich Ehrlichkeit und bloße Regeltreue bei solchen Messungen so leicht vermischen lassen.
Lineare Sonden spüren bei 16 Modellen korrektes Wissen hinter falschen Antworten auf
Manas Venkata Sai Ravulapalli, Samrath Singh Chadha und Abhinav M. Hari untersuchen mit einer Studie zu „Legible Failures”, ob eine falsche Modellantwort daran liegt, dass dem Sprachmodell die nötige Information fehlt, oder daran, dass es sie zwar intern besitzt, aber nicht nutzt. An einer sogenannten Entity-Obligation-Bindungsaufgabe – dem korrekten Zuordnen von Pflichten oder Eigenschaften zu genannten Akteuren – testen die Autorinnen und Autoren 16 Modell-Checkpoints und zeigen, dass eine lineare Sonde auf dem eingefrorenen internen Zustand des Modells oft die richtige Zuordnung rekonstruieren kann, selbst wenn die tatsächliche Ausgabe falsch ausfällt. Die Sonden-Genauigkeit übertreffe den Ausgangswert um 0,196 Punkte, ein aus der Abweichung zwischen Sonde und Modell-Ausgabe gebildeter Erkennungswert verbessere die Fehlererkennung gegenüber der reinen Modell-Konfidenz um 0,079 AUROC-Punkte, und das gezielte Steuern des Residual-Stroms in Richtung der von der Sonde decodierten Zuordnung erhöhe die Genauigkeit über acht Modelle hinweg im Mittel um 0,168 Punkte. Das zählt, weil es – anders als die eingangs beschriebene Sonden-Verwechslung – einen Fall zeigt, in dem sich aus einer linearen Sonde tatsächlich ein nutzbarer, gezielter Korrekturmechanismus für Modellfehler bauen lässt, sofern die geprüfte Eigenschaft sauber von reiner Regelbefolgung getrennt werden kann. Ein früherer Digest-Beitrag hatte bereits gezeigt, dass Sprachmodelle ihr eigenes Verhalten kaum besser vorhersagen als eine generische Beschreibung von KI-Agenten – die neue Studie zeigt, dass ein Blick von außen auf die internen Zustände eines Modells oft mehr verrät als seine eigene, ob verbal oder über die Ausgabe geäußerte, Auskunft.
Von den fünf vorgestellten Arbeiten ist keine bislang durch ein reguläres Peer-Review-Verfahren gegangen; alle sind unbegutachtete arXiv-Preprints, deren Zahlen aus den Experimenten der jeweiligen Autorenteams stammen und noch nicht extern repliziert wurden. Ob sich Magentas Ergebnis bei einer unabhängigen Prüfung durch das IMO-Gremium bestätigt, ob AgentZips Kompressionsraten auch bei heterogeneren, weniger ähnlichen Sandbox-Workloads Bestand haben und ob sich die scharfe Sonden-Verwechslung bei anderen Modellen und Trainingsverfahren ebenso vollständig zeigt, müssen erst unabhängige Nachbauten zeigen.
