Die heutige Auswahl aus den arXiv-Neueinreichungen der vergangenen Tage verbindet vier Fragen, die selten gemeinsam auftauchen: wie verlässlich angebliche Erklärungen für KI-Entscheidungen wirklich sind, ob sich Verhandlungsgeschick gezielt in kleine Modelle trainieren lässt, wie sich einmal gespeichertes Faktenwissen gezielt wieder löschen lässt und wie KI-Systeme selbst effizienter forschen können. Kuratiert wurde nach Substanz und Streuung: Jedes Paper liefert eine nachvollziehbare Methode mit belastbaren Zahlen im Abstract, und keine zwei Arbeiten behandeln dasselbe Teilgebiet. Da arXiv am Wochenende keine neuen Listungen veröffentlicht, stammt die Auswahl größtenteils aus der jüngsten verfügbaren Ausgabe vom Donnerstag und Freitag.
Erklärbarkeits-Nachweise für KI: Uneinig schon bei vertretbaren Methodenwahlen
Ajay Pravin Mahale prüft in Explanation Multiplicity, ob mechanistische Interpretierbarkeit – die Suche nach den internen Schaltkreisen, die eine bestimmte KI-Entscheidung erklären sollen – robuste Ergebnisse liefert, wenn Analystinnen und Analysten gleichermaßen vertretbare methodische Entscheidungen treffen. Getestet wird das kleine Sprachmodell GPT-2 an der Aufgabe der indirekten Objekt-Identifikation, mit einem Gitter aus sieben unabhängig variierten Analyse-Freiheitsgraden, das 15.840 Spezifikationen und 7.561 auswertbare Erklärungs-Aussagen erzeugt. Der Autor berichtet, abgeleitete Erklärungs-Aussagen kippten je nach gewählter Methodenkombination in 73,2 Prozent aller Spezifikationspaare von zutreffend zu nicht zutreffend; selbst wenn nur die Bewertungsmetrik standardisiert wird, bleibt die Kipprate bei 59,4 Prozent, und der mittlere Überlappungsgrad zwischen zwei als Erklärung identifizierten Schaltkreisen liegt bei nur 4 Prozent. Das zählt, weil Interpretierbarkeits-Befunde zunehmend als Nachweisdokument für Regulierungsbehörden dienen sollen – die Studie zeigt, dass ein und dasselbe Modell je nach vertretbarer Analysewahl fast beliebig unterschiedliche „Erklärungen” liefert.
SocialRL: Ein 4-Milliarden-Modell verhandelt wie die GPT-5-Familie
Wenyue Hua und ein Team, dem unter anderem Forschende von Microsoft Research angehören, zeigen mit SocialRL, dass sich strategisches Verhandlungsgeschick gezielt in kleine Sprachmodelle trainieren lässt. Ihr Trainingsverfahren kombiniert Reinforcement Learning mit optionalem Theory-of-Mind-Gerüst – einer expliziten Modellierung der vermuteten Ziele der Gegenseite – und wird an einem 4-Milliarden-Parameter-Modell über sechs Verhandlungsdomänen getestet, von einfachen Feilsch-Spielen bis zu Gehaltsverhandlungen und Terminabstimmungen. Die Autorinnen und Autoren berichten, das trainierte Modell erreiche oder übertreffe die GPT-5-Modellfamilie je Domäne und schließe damit 73 bis 122 Prozent der Lücke zwischen Ausgangsmodell und Referenzsystemen; vor dem Training eröffneten Käufer-Agenten nur in 3 Prozent der Fälle unter dem eigentlichen Zielwert, danach in 78 Prozent. Im Schnitt über alle Umgebungen erreiche das trainierte Modell einen Nutzwert von 0,627 und liege damit vor GPT-4.1 (0,625), GPT-5.1 (0,619) und GPT-5.2 (0,613). Das zählt, weil es zeigt, dass für verhandlungsstarke KI-Assistenten offenbar kein Frontier-Modell nötig ist, sondern gezieltes Training eines kleinen, günstig zu betreibenden Modells reicht.
AdaPop: Populäre Fakten sind schwerer zu löschen – und bekommen jetzt eigene Behandlung
Anna Borisiuk, Andrey Savchenko, Alexander Panchenko und Elena Tutubalina adressieren mit AdaPop ein bekanntes Problem beim maschinellen Vergessen (Unlearning): Populäre, oft wiederholte Fakten lassen sich aus einem Sprachmodell schwerer vollständig entfernen als seltene. Ihr Verfahren kombiniert eine lokale Token-Konfidenz mit einem von der Popularität eines Fakts abhängigen Exponenten und einer automatischen Ausgleichsanpassung, getestet an drei Modellfamilien über zwei Benchmarks hinweg. Die Autorinnen und Autoren berichten, AdaPop reduziere das Wiederauftauchen eigentlich gelöschter Inhalte bei umformulierten Anfragen um etwa das Fünffache und bei gezielt adversarial umformulierten Anfragen um etwa das 1,6-Fache gegenüber Vergleichsverfahren, während sich die eigentlich zu erhaltenden Modellfähigkeiten kaum verschlechtern. Eine frühere Digest-Ausgabe hatte bereits gezeigt, dass Quantisierung memorierte Trainingsdaten trotz sinkendem Speicherbedarf nicht zuverlässig löscht – AdaPop geht das verwandte Problem von der anderen Seite an: gezieltes Löschen, das gerade an den populärsten, hartnäckigsten Fakten oft scheitert. Das zählt, weil Unternehmen zunehmend gesetzlich verpflichtet sein könnten, personenbezogene oder urheberrechtlich geschützte Trainingsdaten auf Anfrage aus einem bereits trainierten Modell zu entfernen.
Forschungsagenten sparen Rechenzeit: Vorhersagemodelle statt voller Testläufe
Ein großes Autorenteam um Thomas Simon Foster stellt mit AI Research Preference Models einen Weg vor, das teuerste Nadelöhr autonomer KI-Forschungsagenten zu entschärfen: Ein Kandidaten-Experiment lässt sich in Minuten entwerfen, seine vollständige Auswertung kann aber Stunden bis Tage GPU-Zeit kosten. Die vorgestellten Preference Models (RPMs) sagen vorab ein, welche Kandidatenlösungen eine vollständige, teure Auswertung überhaupt verdienen, ohne diese Auswertung selbst durchführen zu müssen. In Tests auf dem AIRS-Bench-Benchmark verbessere der beste Selektionsansatz den durchschnittlichen normierten Score den Autorinnen und Autoren zufolge von 0,684 auf 0,729 und erreiche das nach 24 Stunden übliche Ergebnisniveau bereits nach rund 15 Stunden bei weniger als zwei Dritteln des sonst nötigen Ausführungsbudgets, mit Bestwerten auf zwei der Benchmark-Teilaufgaben. Ein früherer Digest-Beitrag hatte bereits gezeigt, dass Spitzen-Agenten zwar die Technik unveröffentlichter Forschungsfragen meistern, aber am eigentlichen wissenschaftlichen Fortschritt scheitern – die neue Arbeit setzt tiefer an: nicht bei der Forschungsidee selbst, sondern bei der Frage, welche Ideen überhaupt das knappe Rechenbudget verdienen. Das zählt, weil steigende Rechenkosten zum limitierenden Faktor für autonome KI-Forschung werden und jede Einsparung bei der Auswertung direkt mehr getestete Ideen pro Rechenbudget bedeutet.
Alle vier Arbeiten sind nicht unabhängig begutachtete Preprints – die berichteten Zahlen stammen aus den Experimenten der jeweiligen Autorenteams und wurden bislang nicht extern repliziert. Das gilt besonders für die Erklärbarkeits-Studie, die ihre Befunde bislang nur an einem einzigen, vergleichsweise kleinen Modell und einer einzelnen Aufgabe demonstriert, sowie für SocialRL, dessen Verhandlungsdomänen simulierte Spiele statt realer Geschäftsabschlüsse sind. Ob sich die Befunde an weiteren Modellen, Aufgaben und in unabhängigen Nachbauten bestätigen, muss sich erst noch zeigen.
