Aus den arXiv-Neueinreichungen der vergangenen 24 bis 48 Stunden in cs.AI, cs.LG und cs.CL wählt dieser Digest fünf Preprints aus, die Training, Bewertung und Selbstverständnis von KI-Systemen konkret berühren: wie sich Rechenzeit beim Reinforcement Learning sinnvoller verteilen lässt, wie weit ein vollständig offenes Modell mit Riesen mithalten kann, wie brüchig die Identität eingesetzter Agenten tatsächlich ist – und wie sich Fehlerdiagnose sowie latentes Denken gezielt verbessern lassen. Kuratiert wurde nach nachvollziehbarer Methodik im Abstract, konkreten Kernergebnissen und thematischer Streuung statt fünffacher Wiederholung desselben Teilgebiets.
Training und offene Modelle
Reinforcement Learning bevorzugt leichte Aufgaben – ein Trick soll das korrigieren
Michael Noukhovitch, Hamish Ivison, Nathan Lambert und Aaron Courville beschreiben in ihrer Arbeit einen „Matthäus-Effekt” beim Training von Sprachmodellen per Reinforcement Learning: RL-Training verbessere Aufgaben, die ein Modell ohnehin schon gut lösen könne, deutlich stärker als schwere Aufgaben – Standardverfahren verschwendeten laut den Autoren zu viel Rechenzeit auf bereits gelöste Fälle. Ihre Gegenmaßnahme „Never Give Up” (NGU) generiert für jede Aufgabe so lange neue Lösungsversuche, bis einer richtig ist, und verlagert dadurch automatisch mehr Rechenaufwand auf schwierige Fälle. Auf dem Mathe-Benchmark Deepscaler verbessere dies die Leistung pro Recheneinheit spürbar, besonders bei schwereren Aufgaben; bei der Programmieraufgabe Manufactoria löse Standard-GRPO gemischt schwere Testfälle gar nicht vollständig, während NGU sich iterativ bis zur vollständigen Lösung vorarbeite. Das zählt, weil Rechenzeit beim RL-Training von Sprachmodellen einer der größten Kostenfaktoren ist und eine gezieltere Verteilung diese Kosten senken könnte, ohne die Trainingsqualität zu opfern – ein verwandtes Muster hatte bereits eine frühere Schach-Studie zum Verhältnis von Pretraining-Umfang und RL-Nachtraining gezeigt.
ZGCM-1: ein vollständig offenes 7B-Modell tritt gegen Riesen an
Ein 22-köpfiges Autorenteam um Jiyan He und Guang Liang veröffentlicht mit ZGCM-1 ein von Grund auf trainiertes, dichtes 7-Milliarden-Parameter-Modell, das kompakte Modellgröße mit aktiver Werkzeugnutzung statt reinem Faktenwissen kombiniert. Über abgestufte Kontext-Skalierung bis 256.000 Token, eine kombinierte Architektur aus geschichtetem Sliding-Window- und vollem Attention-Mechanismus sowie einen stabilen FP8-Optimierer erreicht das Modell laut den Autoren rund die 4,2-fache Trainings-Effizienz gegenüber dem bisherigen Ansatz bei 16.000-Token-Kontext. Bei anspruchsvollen Mathematik- und Agenten-Suchaufgaben bleibe ZGCM-1 konkurrenzfähig zu um Größenordnungen größeren Modellen wie Qwen3-235B-A22B und GLM-5.1. Das Team veröffentlicht nicht nur die fertigen Gewichte, sondern auch Zwischen-Checkpoints, Trainingscode, die Daten jeder Trainingsphase und die vollständigen Trainingsprotokolle – ein selten vollständiger Öffnungsgrad, der externe Nachbauten und Anschlussforschung erheblich erleichtert.
Agenten: Identität und Fehlersuche
Wenn Agenten ihre Identität kennen, aber nicht danach handeln
Zhenyu Zhao und Roy Zhao stellen mit PAI-Bench einen anbieterneutralen Test vor, der Identitäts-Abruf klar von tatsächlich gelebter Identität trennt – etwa ob ein Agent eine ihm zugewiesene Rolle nur benennen oder auch konsistent danach handeln kann. In einem geprüften Datensatz aus 1.536 Antworten nannten die getesteten Systeme in allen 48 direkten Nachfragen korrekt ihre übergeordnete Identität, in impliziten Selbstporträts jedoch nur einmal. Schon kleine Änderungen an der Aufgabenstellung hatten große Effekte: Explizite Formularhinweise erhöhten das gemeinsame Auftreten dreier Identitätsmerkmale von 0 auf 7 von 8 Profilen, ein einfacher Namensaustausch bei der Systemkonfiguration von 1 auf 7 von 8. Bei identischen Antworten fiel zudem die Bewertung durch das Modell Claude im Schnitt 12,5 Prozentpunkte niedriger aus als durch Astra – ein Hinweis darauf, dass nicht nur das Agentenverhalten, sondern auch das bewertende Richtermodell die gemessene Identitätsstärke beeinflusst. Das zählt, weil Unternehmen zunehmend auf stabile, wiedererkennbare Agenten-Personas setzen, ohne dass bislang systematisch geprüft würde, ob diese Persona auch im Verhalten und nicht nur auf Nachfrage Bestand hat – ein verwandtes Bild hatte bereits eine frühere Arbeit zu einer steuerbaren Persona-Struktur in Sprachmodellen gezeichnet.
Iteratives Nachfragen verbessert die Fehlerursachen-Suche in Agenten-Protokollen um mehr als 40 Prozent
Harsh Raj, David Lee und ein achtköpfiges weiteres Autorenteam adressieren mit Continual Search ein praktisches Problem beim Betrieb von KI-Agenten: Je länger ein Ausführungsprotokoll wird, desto eher übersieht ein einmalig befragtes KI-Richtermodell die eigentliche Fehlerursache und einigt sich vorschnell auf eine plausible, aber falsche Diagnose. Continual Search lässt das Richtermodell stattdessen über mehrere Runden hinweg gezielt nach noch ungeklärten Hinweisen weitersuchen. Auf dem neu vorgestellten Benchmark MegaRCA-Mix mit 50 von Menschen annotierten Fehlerfällen aus langen, ausführungsintensiven Aufgaben steigert das Verfahren den F1-Wert von GPT-5.5 laut den Autoren um mehr als 40 Prozent, von 0,349 auf 0,498; leistungsschwächere Modelle können mit dem Verfahren sogar stärkere Modelle ohne diese Suchstrategie übertreffen. Das zählt, weil Unternehmen KI-Agenten zunehmend für lange, mehrstufige Aufgaben einsetzen und die Fehlerdiagnose in den dabei anfallenden Protokollen bislang oft händisch oder nur oberflächlich automatisiert erfolgt – ein Bereich, in dem ein früherer Digest-Beitrag bereits eine gezielte Verbesserung der Fehlerursachen-Zuordnung in Agenten-Teams um bis zu 8,27 Prozentpunkte vorgestellt hatte.
Warum latente Denkzustände mehr behalten sollten, statt zu vergessen
Hongyu Gu, Chang Liu und Jingwen Fu untersuchen in einer theoretischen Arbeit (arXiv:2609.13747), wie Sprachmodelle mit kontinuierlichem, nicht in Token übersetztem Denken – etwa in rekurrenten oder latenten Reasoning-Verfahren – ihre bisherigen Zwischenergebnisse im internen Zustand speichern sollten. Die naheliegende Annahme, nur die aktuell wahrscheinlichsten Alternativen zu behalten und ältere Zwischenschritte zu verwerfen, sei laut den Autoren nicht optimal: Bei gleichem Rechenaufwand benötige ein Zustand, der die gesamte bisherige Überlegungshistorie überlagert speichert, tendenziell eine geringere Darstellungsdimension als einer, der nur die jüngste Alternative hält – weil sich informative, zueinander passende Zwischenschritte gegenseitig verstärken, während unpassende Alternativen sich nur als Störrauschen addieren. Die Autoren zeigen zudem mathematisch, dass eine gleichmäßige Gewichtung aller gespeicherten Zwischenschritte robuster für zukünftiges Schlussfolgern ist als eine, die neuere oder auffälligere Schritte bevorzugt. Das zählt, weil latentes Reasoning als rechenzeit-sparende Alternative zu ausführlichen Chain-of-Thought-Ketten gilt und die hier hergeleiteten Design-Prinzipien beeinflussen könnten, wie effizient und verlässlich künftige Architekturen mit begrenztem internem Speicherplatz umgehen.
Alle fünf Arbeiten sind unbegutachtete Preprints, veröffentlicht in den vergangenen Tagen; die referierten Zahlen stammen aus den Abstracts und Angaben der jeweiligen Autorenteams und sind bislang nicht durch unabhängige Begutachtung oder Replikation bestätigt. Ob sich ZGCM-1s Effizienzgewinne bei noch größeren Modellen halten, ob sich die 40-prozentige Verbesserung der Fehlerursachen-Suche auf reale Produktionsumgebungen übertragen lässt und ob die PAI-Bench-Befunde auch bei anderen Modellfamilien in dieser Deutlichkeit auftreten, werden erst unabhängige Nachbauten und Peer-Review zeigen.
