Neurosymbolisch, ein Jahr später: Was die Forschung 2026 tatsächlich zeigt
Vor einem Jahr war das Argument noch überwiegend ein Argument
Im November 2025 veröffentlichten wir "The neuro-symbolic renaissance", einen Essay mit der These, dass die nützlichsten KI-Systeme der nächsten Jahre nicht allein größere Sprachmodelle sein würden. Sie würden gelernte Modelle, die gut in Wahrnehmung, Sprache und Mustererkennung sind, mit expliziter symbolischer Struktur verbinden, die gut in Regeln, Constraints, Provenienz und Beweis ist. Wir haben dieses Argument aus ersten Prinzipien und aus unserer eigenen Engineering-Erfahrung heraus entwickelt, denn so ist Dweve aufgebaut: Loom, unsere Reasoning-Engine, leitet Arbeit über Loom, von denen viele symbolische Solver, Verifier und Rule Engines statt neuronaler Netze sind, und die zurückgegebene Antwort trägt eine Spur dessen mit sich, welche Teile was beigetragen haben.
Ein Argument aus ersten Prinzipien ist ein vernünftiger Ausgangspunkt. Es ist kein Beleg. Daher lohnt sich ein Jahr später die Frage, was die veröffentlichte Forschung inzwischen zeigt. Nicht die Pressemitteilungen und nicht die allgemeine Begeisterung für das Wort "neurosymbolisch", das inzwischen so in Mode ist, dass es auf fast alles angewendet wird. Sondern die konkreten, gemessenen Ergebnisse.
Zwei Arbeiten aus dem Jahr 2026 sind besonders aufschlussreich, weil sie die Kernaussagen direkt prüfen und Zahlen berichten, die sich nachvollziehen lassen. Die eine befasst sich mit Agenten, die in einer Welt handeln müssen: Werden die Pläne eines Sprachmodells ausführbar, wenn man symbolische Constraints und Suche ergänzt? Die andere befasst sich mit der Beantwortung von Fragen über Wissen: Werden Antworten besser nachvollziehbar, wenn man die Wissensstruktur deterministisch aus autoritativen Quellen aufbaut, statt sie mit einem Sprachmodell zu extrahieren? Beide antworten mit Ja, und zwar mit deutlichem Abstand. Und beide sind sorgfältig darin, was sie nicht gezeigt haben, was mindestens ebenso lehrreich ist wie das, was sie gezeigt haben.
Plausibel ist nicht dasselbe wie ausführbar
Die erste Arbeit, "Neurosymbolic Embodied Agents" von Albinhassan, Feng, Russo und Madhyastha, im August 2026 auf arXiv veröffentlicht, beginnt mit einer Beobachtung, die jeder wiedererkennt, der ein Sprachmodell als Planer einzusetzen versucht hat. Sprach- und Vision-Language-Modelle, heißt es im Abstract, "generate plausible embodied plans but do not guarantee executability, as their outputs can violate environment dynamics or act on incorrectly grounded entities."
Der Unterschied zwischen plausibel und ausführbar ist das ganze Problem in einem Satz. Ein Modell, das in einer simulierten Küche Tee zubereiten soll, erzeugt eine Abfolge von Schritten, die sich gut liest: in die Küche gehen, den Kessel nehmen, ihn füllen, ihn einschalten. Aber es versucht vielleicht, einen Kessel zu nehmen, der nicht da ist, oder einen Kessel zu füllen, der in einem geschlossenen Schrank steht, oder aus einem Kessel zu gießen, der nicht gekocht hat. Jeder Schritt ist plausibel. Der Plan als Ganzes scheitert, weil das Modell den Zustand der Welt und die Regeln, wie Handlungen ihn verändern, nicht mitverfolgt.
Der Agent der Arbeit zerlegt langfristige Haushaltsaufgaben in zwei Phasen. In der ersten erfassen ein Vision-Language-Modell und ein Exploration Harness zielrelevante Prädikate und Instanzbindungen aus egozentrischen Beobachtungen und verankerten Interaktionen und erzeugen eine symbolische Beschreibung des Ausgangszustands: dieser Kessel ist hier, dieser Schrank ist geschlossen, diese Tasse ist leer. In der zweiten schränkt ein PDDL-Übergangsmodell, eine formale Beschreibung dessen, welche Handlungen in welchen Zuständen anwendbar sind und was sie verändern, "restricts decoding to tokens that extend applicable actions." Das Sprachmodell kann nur Handlungen erzeugen, die das symbolische Modell für möglich erklärt. Eine Monte-Carlo-Baumsuche bewertet dann ausführbare Fortsetzungen anhand einer domänenunabhängigen Planungsheuristik.
Die Konsequenz ist, in den Worten der Autoren, dass "die resultierenden Pläne konstruktionsbedingt unter dem Übergangsmodell ausführbar sind, wobei die Übertragung in die Umgebung an eine korrekte visuelle Verankerung geknüpft ist." Dieser letzte Teilsatz ist wichtig, und wir kommen weiter unten darauf zurück.
Kleine eingeschränkte Modelle schlagen ein großes uneingeschränktes
Die Ergebnisse sind beeindruckend. Auf zwei gängigen Benchmarks für Haushaltsaufgaben, VirtualHome und ALFWorld, berichtet das Abstract, dass "offene 4B-27B-Modelle in beiden Umgebungen über 90% Erfolg erzielen und unser kleinster Agent in jeder Umgebung einen 27B-Direkt-Visual-Policy deutlich übertrifft." In den Ergebnissen der Arbeit reichen die Erfolgsraten über die Modellgrößen hinweg von 94,5 bis 99,5 Prozent auf VirtualHome und von 90,3 bis 97,8 Prozent auf ALFWorld. Der Agent mit 4 Milliarden Parametern übertrifft die direkte visuelle Policy mit 27 Milliarden Parametern um 32,0 Prozentpunkte auf einem Benchmark und um 63,4 auf dem anderen.
Dieses zweite Ergebnis verdient es, langsam gelesen zu werden. Ein Modell von etwa einem Siebtel der Größe, ausgestattet mit expliziter Struktur über die Welt und einem Suchverfahren über ausführbare Aktionen, schneidet deutlich besser ab als ein viel größeres Modell, das direkt handeln soll. Der Unterschied ist kein marginales Feintuning. Es ist der Unterschied zwischen einem System, das überwiegend funktioniert, und einem, das überwiegend nicht funktioniert.
Für alle, die sich mit Kosten, Energieverbrauch und Kontrollierbarkeit von KI-Systemen befassen, ist das von Bedeutung. Ein kleines offenes Modell kann auf bescheidener Hardware laufen, kann geprüft werden, kann auf eine Version festgelegt werden und kann überall gehostet werden, wo der Betreiber es wählt. Wenn das Hinzufügen von Struktur es einem solchen Modell ermöglicht, ein großes bei Aufgaben zu übertreffen, die zuverlässiges Handeln erfordern, dann werden die Souveränitäts- und Effizienzargumente für kleine Modelle deutlich stärker. Größe ist nicht der einzige Weg zu Leistungsfähigkeit. Struktur ist ein anderer.
Einschränkungen und Suche ergänzen sich, sind aber nicht austauschbar
Der für uns interessanteste Befund ist eine Ablation. Die Autoren testeten Einschränkungen und Suche getrennt. In ALFWorld "löst jedes für sich weniger als ein Drittel der Aufgaben, während ihre Kombination über 95% löst." Die detaillierten Zahlen sind 32,3 Prozent für Einschränkungen allein und 29,2 Prozent für Suche allein, gegenüber 95,5 Prozent kombiniert.
Dies ist ein Ergebnis, das eine einfache Geschichte über neurosymbolische KI nicht vorhersagen würde. Man könnte erwarten, dass Einschränkungen, indem sie ungültige Aktionen verhindern, die meiste Arbeit leisten, und die Suche ein wenig hinzufügt. Oder dass die Suche durch das Erkunden vieler Pfade gute Pläne findet und Einschränkungen sie lediglich beschleunigen. Stattdessen scheitert jede für sich bei den meisten Aufgaben, und zusammen gelingen sie bei fast allen.
Die Intuition lässt sich leicht nachvollziehen. Einschränkungen ohne Suche garantieren, dass jeder Schritt gültig ist, aber sie stellen nicht sicher, dass die Abfolge gültiger Schritte das Ziel erreicht. Ein Modell kann endlos durch die Küche irren und dabei vollkommen zulässige Aktionen ausführen. Suche ohne Einschränkungen erkundet viele Fortsetzungen, doch die meisten enthalten ungültige Aktionen, sodass der Suchraum von Plänen dominiert wird, die scheitern werden, und die Heuristik kaum Anhaltspunkte hat. Zusammen beschneiden Einschränkungen den Raum auf gültige Pläne, und die Suche findet darunter die guten.
Diese Komplementarität ist unseres Erachtens die bislang stärkste empirische Stütze für die architektonische These, die wir vor einem Jahr aufgestellt haben. Der Wert liegt nicht darin, ein symbolisches Modul an ein neuronales zu schrauben. Er liegt in einer bestimmten Arbeitsteilung, in der jeder Teil das tut, worin er gut ist, und die Schwäche des anderen ausgleicht.
Weniger Tokens und Fehler, die eine Richtung weisen
Zwei weitere Ergebnisse aus dem Paper lassen sich leicht übersehen und verdienen Aufmerksamkeit.
Das erste ist Effizienz. Das Abstract berichtet, dass die Methode "um ein Mehrfaches weniger generierte Tokens als Extended Thinking und weit weniger modellsichtbare Bilder als direkte Interaktion" verwendet. Im Paper wird die Verringerung der Tokens gegenüber Extended Thinking mit bis zu vier Mal angegeben. Extended Thinking, bei dem ein Modell vor dem Handeln lange Gedankenketten ausschreibt, ist die wichtigste alternative Strategie zur Verbesserung der Zuverlässigkeit von Modellplänen. Sie funktioniert bis zu einem gewissen Grad, ist aber teuer: Jedes Gedanken-Token wird berechnet und auf gehosteten Diensten bezahlt. Eine Methode, die mit einem Bruchteil der Tokens bessere Ergebnisse erzielt, ist sowohl bei den Kosten und dem Energieverbrauch als auch beim Erfolg besser.
Das zweite ist Diagnostizierbarkeit. Das Abstract merkt an, dass "sich Restfehler auf die Zustandserfassung statt auf die Plangenerierung lokalisieren lassen, ohne spezielles Training." Wenn der Agent scheitert, scheitert er, weil sein Bild der Welt falsch war, nicht weil er angesichts dieses Bildes schlecht geplant hätte. Genau das würde man von einem System erwarten, dessen Pläne konstruktionsbedingt ausführbar sind. Es sagt dem Entwickler außerdem, wo er als Nächstes ansetzen sollte. In einem durchgängig neuronalen System ist ein Fehler oft eine diffuse Eigenschaft des gesamten Modells, und das einzige Gegenmittel sind mehr Daten oder ein größeres Modell. In einem faktorisierten System hat ein Fehler eine Adresse.
Wir finden, dass Diagnostizierbarkeit in der KI-Forschung unterbewertet wird. Ein System, das seltener ausfällt, ist gut. Ein System, dessen Fehler sich lokalisieren, erklären und beheben lassen, ist besser, weil es sich gezielt verbessern lässt und weil man sich in den Fällen auf sein Verhalten verlassen kann, in denen seine Komponenten nachweislich zuverlässig sind.
Dasselbe Muster zeigt sich bei der Beantwortung von Fragen
Der zweite Artikel behandelt ein anderes Problem und kommt zu einem verblüffend ähnlichen Ergebnis. "Ontology-guided neuro-symbolic GraphRAG for grounded query answering" von Domenico Benfenati und Antonio Maria Rinaldi von der Universität Neapel Federico II erschien im Oktober 2026 in Neural Computing and Applications. Untersucht wird die Beantwortung von Fragen über Cybersicherheitswissen: Schwachstellen, Schwächen, Angriffsmuster und betroffene Produkte, entnommen aus öffentlichen Repositorien wie CVE, CWE, CAPEC und CPE.
Verglichen werden zwei Arten, den Wissensgraphen aufzubauen, auf den ein Sprachmodell bei der Beantwortung von Fragen zurückgreift. Beim weit verbreiteten GraphRAG-Ansatz liest ein Sprachmodell unstrukturierten Text und extrahiert Entitäten, Beziehungen und Community-Zusammenfassungen, die dann als Grundlage für das Retrieval dienen. Im Ansatz der Autoren wird der Graph von oben nach unten aus den maßgeblichen Repositorien materialisiert, durch gezieltes Crawling, ontologiegesteuerte Schemavereinheitlichung und regelbasierte symbolische Inferenz, etwa transitive Verkettung und mehrstufige Produktauswirkungen. Die Ontologie selbst leitet sich aus der Feldstruktur der realen Repositorien ab und wird nicht von einem Modell synthetisiert. Das Sprachmodell erhält dann Belege aus diesem Graphen, in einem, wie die Autoren es beschreiben, strikt einseitigen Fluss: Das symbolische Substrat sei "vollständig deterministisch, herkunftserhaltend und unabhängig überprüfbar".
Die Herkunftsprüfung ist das aufschlussreichste Experiment. Im ontologiegesteuerten Graphen ließen sich 100 Prozent der Stichprobenkanten auf maßgebliche Quellendatensätze oder deklarierte Inferenzregeln zurückführen. Im LLM-extrahierter Graphen waren 83 Prozent zurückführbar, und nur 58 Prozent verbanden Endpunkte mit kanonischen Identifikatoren. Der Unterschied setzt sich in den Antworten fort: Das ontologiegesteuerte System erreichte eine Zitationspräzision von 95 Prozent, gegenüber 66 Prozent bei der GraphRAG-Baseline.
Die strukturelle Erklärung der Autoren ist der wichtige Teil. Bei LLM-extrahierter GraphRAG stützen sich die Antworten auf Zusammenfassungen, die von derselben Art von Modell geschrieben wurden, die die Antwort erzeugt, sodass die Herkunftskette bei einem neuronalen Zwischenglied endet und keinen maßgeblichen Datensatz erreicht. Eine Zitation einer modellgeschriebenen Zusammenfassung ist eine Zitation einer Interpretation. Eine Zitation eines Quellendatensatzes, über Kanten, die sich jeweils auf diesen Datensatz oder auf eine deklarierte Regel zurückführen lassen, ist eine Zitation eines Belegs.
Zitationen sind nicht die ganze Herkunft
Ein drittes, kleineres Paper aus dem Jahr 2026 bringt eine nützliche Komplikation ins Spiel. "Why Neighborhoods Matter: Traversal Context and Provenance in Agentic GraphRAG", im Mai 2026 auf arXiv veröffentlicht, untersucht Systeme, in denen ein Agent einen Wissensgraphen durchläuft, bevor er antwortet, und anschließend eine kleine Menge von Entitäten zitiert. Es geht der Frage nach, ob die abschließenden Zitationen ausreichen, um die Belege zu erklären, auf denen die Antwort beruhte.
Das Ergebnis lautet: Sie tun es nicht. Zitierte Entitäten sind meist von Bedeutung: Entfernt man sie, ändern sich Antworten erheblich und die Genauigkeit sinkt. Die Experimente zeigen jedoch, dass eine korrekte Antwort auch vom Durchlaufen des Graphen, von der Struktur der Nachbarschaft und von Entitäten abhängt, die der Agent besucht, aber nicht zitiert hat. Die Autoren kommen zu dem Schluss, dass eine getreue Zitation "auch den Graphkontext und den Abrufpfad berücksichtigen sollte, die die endgültige Antwort prägen."
Dieser Befund schärft die Lehre aus dem Paper von Benfenati und Rinaldi. Ein deterministischer, nachverfolgbarer Graph ist notwendig für Antworten, deren Belege überprüfbar sind. Er ist nicht ausreichend, wenn das System nur festhält, was es zitiert, und nicht, was es gelesen hat. Die Herkunft muss den Pfad einschließen, nicht nur das Ziel. Genau das ist, wie es der Zufall will, dieselbe Schlussfolgerung, zu der wir bei der Entwicklung von Knot, dem Ereignisprotokoll, das wir am 4. Quartal 2026 veröffentlichen, von der technischen Seite aus gelangt sind: Die Aufzeichnung eines Agentenlaufs muss jeden Lesevorgang und jeden Zwischenschritt enthalten, nicht nur die endgültige Ausgabe, denn die Schritte sind es, die die Ausgabe erklären.
Was die Ergebnisse nicht zeigen
Beide Hauptpapers sind sorgfältig in Bezug auf ihre Grenzen, und diese Grenzen sollten klar benannt werden, denn die Begeisterung für ein Ergebnis neigt dazu, seine Bedingungen zu verwischen.
Die Ergebnisse zu verkörperten Agenten stammen aus der Simulation. VirtualHome und ALFWorld sind etablierte Benchmarks, doch es handelt sich um simulierte Haushaltsumgebungen mit bekannten Dynamiken. Die Garantie, dass Pläne "by construction" ausführbar sind, gilt unter dem Übergangsmodell, also unter der symbolischen Beschreibung, wie die Welt funktioniert. Ist diese Beschreibung falsch oder unvollständig, überträgt sich die Garantie nicht. In der realen Welt ist es schwierig, ein vollständiges und korrektes Übergangsmodell zu schreiben, und die Welt hat die Angewohnheit, Dinge zu enthalten, die das Modell nicht vorhergesehen hat.
Dieselben Ergebnisse setzen eine korrekte visuelle Verankerung voraus. Das Abstract sagt das ausdrücklich. Wenn die Explorationsphase ein Objekt falsch identifiziert oder eines übersieht, ist der symbolische Zustand falsch, und ein Plan, der sich unter dem falschen Zustand einwandfrei ausführen lässt, kann in der Realität scheitern. Die Feststellung der Arbeit, dass sich Restfehler auf die Zustandserfassung zurückführen lassen, ist eine gute Nachricht für die Diagnostizierbarkeit, und sie erinnert zugleich daran, dass die Wahrnehmung der schwierige Teil bleibt.
Die GraphRAG-Ergebnisse stammen aus einem einzigen Bereich, der Cybersicherheit, in dem es maßgebliche strukturierte Repositories mit stabilen Identifikatoren gibt. Viele Bereiche sind anders beschaffen. Wo Wissen vor allem in unstrukturierten Dokumenten ohne kanonische Identifikatoren steckt, steht eine Top-down-Materialisierung nicht zur Verfügung, und irgendeine Form der Extraktion ist unvermeidlich. Die Methode der Arbeit zeigt, was möglich wird, wenn gute Quellen vorhanden sind. Sie zeigt nicht, wie man sie dort schafft, wo sie fehlen.
Für die Bewertung der Antwortrichtigkeit bei GraphRAG diente ein Sprachmodell als Richter, Gemini 2.5 Flash, über fünfzehn Fragen pro Aufgabe. Für eine Forschungsarbeit ist das ein vertretbares Design, und die Herkunftsprüfung ist eine direktere Messung. Doch die Zahlen zur Antwortqualität sollten Leserinnen und Leser als Hinweis verstehen, nicht als endgültigen Beleg, und die Herkunftszahlen als das belastbarere Ergebnis.
Keine dieser Einschränkungen entwertet die Arbeiten. Sie sind die normalen Bedingungen guter Forschung. Doch sie sind wichtig für alle, die versucht sein könnten, „neurosymbolisch“ als allgemeine Lösung zu lesen. Es ist eine Reihe architektonischer Entscheidungen, die sehr gut funktionieren, wenn ihre Voraussetzungen erfüllt sind: ein korrektes symbolisches Modell des Bereichs, eine verlässliche Verankerung der Wahrnehmung in diesem Modell und maßgebliche Quellen für das Wissen. Ein großer Teil der praktischen Arbeit besteht darin, diese Voraussetzungen herzustellen.
Was nach dem ersten Fehler geschieht
Erfolgsquoten sagen, wie oft ein System eine Aufgabe abschließt. Sie sagen nicht, wie es sich verhält, wenn etwas schiefgeht, und genau das ist für alle, die es einsetzen müssen, oft die wichtigere Frage. Die Arbeit zu verkörperten Agenten enthält einen Anhang, der sie beantwortet, und er gehört zu den aufschlussreichsten Teilen der Untersuchung.
Die Autoren haben gemessen, was Richtlinien „nach der ersten nicht verankerbaren oder fehlgeschlagenen Ausführung“ taten, und berichten, wie oft Aufgaben ein solches Ereignis enthielten, wie oft die Richtlinie die Aufgabe anschließend noch rettete, wie oft sie die fehlgeschlagene Anfrage sofort wiederholte und wie oft sie in eine dauerhafte Aktionsschleife geriet. Die Ergebnisse für die direkten visuellen Richtlinien, die ohne die symbolischen Beschränkungen planen, sind bemerkenswert.
In VirtualHome stieß die direkte Qwen-Richtlinie mit 4B in 64,5 Prozent der Aufgaben auf einen Fehler. Sie rettete die Aufgabe in 5,4 Prozent dieser Fälle, wiederholte die fehlgeschlagene Anfrage sofort in 74,5 Prozent und endete in 45,5 Prozent in einer dauerhaften Schleife. In ALFWorld stieß dasselbe Modell in 73,9 Prozent der Aufgaben auf einen Fehler, rettete ihn in 1,0 Prozent und endete in 94,8 Prozent in einer dauerhaften Schleife. Das größte direkte Modell schnitt besser ab, wie zu erwarten: In VirtualHome stieß die Richtlinie mit 27B in 29,0 Prozent der Aufgaben auf einen Fehler, rettete ihn in 37,9 Prozent, wiederholte die Anfrage in 8,3 Prozent und geriet in 9,5 Prozent in eine Schleife. In ALFWorld rettete selbst dieses Modell nur 25,7 Prozent der Fälle.
Die Einleitung der Arbeit erklärt, warum das geschieht. Eine direkte Richtlinie muss Objekte identifizieren, ihren Zustand verfolgen, anwendbare Aktionen auswählen und über verzögerte Wirkungen „innerhalb einer einzigen autoregressiven Historie, in der sie sich ungehindert aufschaukeln können“, nachdenken. Die Autoren stellen fest, dass „Ausführungsfeedback einen solchen Fehler nach seinem Auftreten aufdecken kann, das Modell aber nicht daran hindert, eine ungültige Wahl zu wiederholen oder von dem Zustand abzuweichen, den seine eigenen Aktionen herbeigeführt haben.“
Dieser Satz beschreibt ein Muster, das viele von Agenten außerhalb des Labors kennen. Ein Agent versucht etwas, es schlägt fehl, der Fehler wird zurückgemeldet, und der Agent versucht dasselbe noch einmal oder etwas Gleichwertiges. Feedback sind Informationen, aber Informationen schränken nichts ein. Ein System, das die Gültigkeit einer Aktion als etwas behandelt, das erschlossen werden muss, statt als etwas, das durchgesetzt wird, kann man sagen, dass es falsch lag, ohne dass es daran gehindert wird, es erneut falsch zu machen.
Der eingeschränkte Ansatz ändert das, indem er die Anwendbarkeit, mit den Worten des Papers, zu "einer Einschränkung macht, die während der gesamten Generierung und Suche aufrechterhalten wird". Eine Aktion, deren Vorbedingungen nicht erfüllt sind, wird nie erzeugt, also gibt es nichts zu wiederholen. Das macht das System nicht unfehlbar. Es verlagert das Scheitern an eine andere Stelle.
Das Paper benennt seine eigenen Fehlerquellen
Eine ehrliche Darstellung der Ergebnisse muss sagen, wo der eingeschränkte Agent scheitert, und das tut das Paper. Sein symbolischer Planer kann nur über den Zustand planen, der ihm gegeben wird. Wenn die visuelle Explorationsphase ein erforderliches Objekt übersieht, schreiben die Autoren, "setzt sich der Fehler fort, weil der verankerte Ausgangszustand ein erforderliches Objekt auslässt. Dies ist eine Einschränkung der Komponente zur Erfassung des visuellen Zustands und nicht der Anwendbarkeitsgarantie."
Diese Unterscheidung ist wichtig. Die Garantie, die das System bietet, ist eng und stark: Jede Aktion, die es plant, ist in dem Zustand anwendbar, in dem es sich zu befinden glaubt. Ob dieser Glaube mit der Welt übereinstimmt, hängt von der Wahrnehmung ab, und die Wahrnehmung erfolgt weiterhin durch ein neuronales Modell mit all der Unsicherheit, die das mit sich bringt. Die Autoren erwarten, dass "Verbesserungen bei der visuellen Erkennung und der aktiven Auswahl von Blickpunkten direkt auf die vollständige Methode übertragen werden sollten", was eine vernünftige Erwartung ist und zugleich eine Erinnerung daran, dass der symbolische Teil nicht ausgleichen kann, was der neuronale Teil nicht sieht.
Für Personen, die solche Systeme bewerten, lautet die Lehre, zu fragen, wo die Garantie endet. Ein neurosymbolisches System bietet typischerweise Gewissheit über einen Teil des Prozesses (der Plan ist gültig, die Schlussfolgerung folgt aus den Regeln, die Antwort wird durch den Graphen gestützt) und übernimmt die Unsicherheit aus den Teilen, die es speisen. Ein gutes System macht diese Grenze sichtbar. Es hält fest, was es wahrgenommen, was es angenommen und was es abgeleitet hat, sodass ein Prüfer erkennen kann, ob ein Fehler aus dem Schlussfolgern oder aus der Eingabe für das Schlussfolgern stammt.
Deshalb ist auch die Fehleranalyse, wie sie im Anhang des Papers zu finden ist, so wertvoll. Zu wissen, dass ein System überwiegend bei der Verankerung scheitert und nicht beim Planen, sagt einem Entwickler, wo er investieren sollte, und sagt einem Betreiber, welche Art von Aufsicht nötig ist. Wer die Arbeit eines eingeschränkten Agenten prüft, sollte dessen Bild der Welt prüfen, nicht dessen Arithmetik.
Die Traversierungsstudie ist klein, und das sagt sie auch
Das Traversal-Kontext-Papier geht auch mit seinen eigenen Grenzen sorgfältig um. Seine Autoren schreiben, die Studie sei „durch die geringe Größe des Benchmarks und durch die Verwendung eines kontrollierten Wissensgraphen, der aus 2WikiMultiHopQA aufgebaut wurde, statt eines großen realen Wissensgraphen eingeschränkt“. Sie fordern eine Evaluierung „auf größeren Datensätzen, reicheren Graphstrukturen und domänenspezifischen Wissensbasen“ sowie Zitiermechanismen, „die nicht nur die endgültigen stützenden Entitäten offenlegen, sondern auch den relevanten Traversal-Kontext“.
Diese Offenheit ist nützlich. Der Befund, dass Zitate notwendig, aber nicht ausreichend sind, um die Antwort eines Agenten zu erklären, ist plausibel und wichtig, doch er beruht auf einem kontrollierten Setting. Bevor jemand darauf eine Richtlinie stützt, sollte er auf der Art von Graphen reproduziert werden, die reale Systeme verwenden: Unternehmenswissensbasen, regulatorische Korpora, Produktkataloge. Bis dahin liest man ihn am besten als gut gestaltete Warnung und nicht als gesicherte Messung.
Die Warnung ist trotzdem beachtenswert. Die Autoren kommen zu dem Schluss, dass „Provenienz beim agentischen graphbasierten Retrieval als Eigenschaft auf Trajektorienebene behandelt werden sollte“. Für Systementwickler bedeutet das, den Pfad aufzuzeichnen und nicht nur das Ziel: welche Entitäten besucht, welche Kanten verfolgt, welche Nachbarn gesehen und nicht zitiert wurden. Eine Zitatliste ist eine Zusammenfassung dieses Pfads. Wie jede Zusammenfassung kann sie korrekt sein und trotzdem etwas auslassen, das von Bedeutung war.
Das Aufzeichnen des Pfads hat einen praktischen Preis, und der sollte benannt werden. Traversal-Aufzeichnungen sind umfangreicher als Zitatlisten, sie können Material enthalten, das dem Nutzer nie gezeigt wurde, und sie erfordern dieselbe Sorgfalt bei Zugriff und Aufbewahrung wie jedes andere Log. Doch die Alternative ist schlechter. Wenn eine Antwort angefochten wird, kann ein System, das nur seine Zitate behalten hat, zeigen, worauf es verwiesen hat. Ein System, das seine Trajektorie behalten hat, kann zeigen, wie es dorthin gelangt ist, und genau das ist die Frage, die ein Prüfer tatsächlich stellen wird. Beim agentischen Retrieval dürfte dieser Unterschied darüber entscheiden, ob eine Erklärung akzeptiert oder bloß geduldet wird.
Die ältere Debatte über Erklärungen gilt weiterhin
Nichts davon ist dem Geist nach neu. Die Debatte über Erklärungen im maschinellen Lernen läuft seit Jahren, und die Ergebnisse von 2026 fügen sich darin ein, statt sie zu ersetzen.
Im Jahr 2017 stellten Finale Doshi-Velez und Been Kim fest, dass es „trotz des Interesses an Interpretierbarkeit nur sehr wenig Konsens darüber gibt, was interpretierbares maschinelles Lernen ist und wie es gemessen werden sollte“. Im Jahr 2018 argumentierte Cynthia Rudin, dass der Versuch, Black-Box-Modelle zu erklären, statt von vornherein interpretierbare Modelle zu entwickeln, „wahrscheinlich schlechte Praktiken fortführt und der Gesellschaft potenziell katastrophalen Schaden zufügen kann“. Im selben Jahr zeigten Julius Adebayo und Kollegen, dass einige Salienzmethoden „sowohl vom Modell als auch vom datengenerierenden Prozess unabhängig sind“ und ähnliche Erklärungen liefern, unabhängig davon, ob das Modell überhaupt etwas gelernt hatte.
Die Ergebnisse zu constrained Planning und GraphRAG lassen sich als Beleg für Rudins Position in einem neuen Umfeld lesen. Wenn der Plan durch eine Suche über explizite Regeln entsteht, ist seine Gültigkeit eine Eigenschaft seiner Entstehung, und eine Erklärung dafür, warum eine Aktion gewählt wurde, lässt sich aus der Suche ablesen. Wenn eine Antwort durch das Durchlaufen eines Graphen entsteht, ist ihre Provenienz eine Eigenschaft des Traversals, vorausgesetzt, das Traversal wird aufgezeichnet. In beiden Fällen ist die Erklärung nicht die Interpretation des ersten Modells durch ein zweites. Sie ist die Aufzeichnung dessen, was das erste getan hat.
Was die Ergebnisse von 2026 belegen, ist, dass diese Art von System auch gute Leistungen erbringen kann. Der alte Einwand gegen interpretierbare Ansätze lautete, dass sie Genauigkeit kosten. Ergebnisse wie diese, bei denen kleine eingeschränkte Modelle größere uneingeschränkte bei strukturierten Aufgaben übertreffen, klären diese Frage nicht allgemein. Sie zeigen aber, dass bei Aufgaben mit expliziten Regeln und überprüfbaren Ergebnissen der Trade-off nicht der ist, den man angenommen hat.
Längeres Nachdenken half nicht, und der einfache Benchmark verdeckt das
Die Komponenten-Ablation im Paper zum verkörperten Agenten enthält zwei weitere Details, die Beachtung verdienen, weil sie gängigen Annahmen widersprechen.
Das erste betrifft erweitertes Schlussfolgern. Beim 27B-Qwen-Modell erreichte einfaches gieriges Dekodieren 61,0 Prozent Erfolg in VirtualHome und 15,4 Prozent in ALFWorld. Dasselbe Modell im Thinking-Modus erreichte mit einem Budget von bis zu 32.768 Ausgabe-Tokens gemäß den Dekodierungseinstellungen des Papers 59,0 und 16,9 Prozent. Das Modell deutlich länger nachdenken zu lassen, machte praktisch keinen Unterschied. Das Hinzufügen von Anwendbarkeitsbedingungen zum gierigen Dekodieren hingegen steigerte den VirtualHome-Erfolg von 61,0 auf 98,5 Prozent. Mit den Worten der Autoren zeigt das, dass "Anwendbarkeitsbedingungen den Großteil des Gewinns ausmachen".
Das ist eine nützliche Korrektur der Vorstellung, dass mehr Reasoning-Tokens ein allgemeines Mittel gegen Planungsfehler sind. Wenn der Fehler darin besteht, eine Aktion zu wählen, deren Vorbedingungen nicht erfüllt sind, verhindert mehr internes Abwägen das nicht zuverlässig. Eine Regel, die solche Aktionen unmöglich macht, schon.
Das zweite Detail betrifft die Schwierigkeit des Benchmarks. In VirtualHome erreichte die uneingeschränkte Suche allein 99,0 Prozent, dasselbe wie die vollständige Methode, wobei die Autoren anmerken, dass sie dies "zu den höheren Generierungskosten" tat, die in ihren Abbildungen dargestellt sind. Ein Leser, der nur VirtualHome betrachtet, könnte zu dem Schluss kommen, dass Suche alles ist, was man braucht. ALFWorld zeigt das Gegenteil: Bedingungen allein erreichten 32,3 Prozent, uneingeschränkte Suche 29,2 Prozent und die Kombination 95,5 Prozent. Die Autoren führen die größere Lücke auf ein schwierigeres Planungsproblem zurück. Erfolgreiche Pläne des 27B-Modells umfassten durchschnittlich 8,0 übergeordnete Aktionen in ALFWorld und 6,4 in VirtualHome, mit Maxima von 30 und acht, und ALFWorld "führt auf jeder Stufe mehr Instanz- und Behältnis-Bindungen ein."
Die allgemeine Lehre ist, dass ein einfacher Benchmark zwei unterschiedliche Designs gleichwertig erscheinen lassen kann. Erst wenn das Problem lang genug und ausreichend eingeschränkt wird, treten die Unterschiede zutage. Wer Agentenarchitekturen vergleicht, sollte sie mit Aufgaben testen, die mindestens so lang und so eng eingeschränkt sind wie die, die er einsetzen will, nicht mit den kürzesten verfügbaren Aufgaben.
Die Experimente sind von vornherein reproduzierbar
Ein weiteres Merkmal des Papers ist erwähnenswert, weil es an ein Thema anknüpft, das an anderer Stelle in dieser Reihe behandelt wird. Die Autoren veröffentlichen ihre Dekodierungseinstellungen vollständig. Die eingeschränkten Qwen-Phasen laufen bei Temperatur 0,0. Wo Nucleus-Sampling verwendet wird, für die ergänzenden Thinking-Läufe und die verkörperten Baselines, werden die Evaluierungen mit drei genannten Seeds wiederholt: 0, 42 und 1738. Die Suche ist auf 250 Sekunden pro Aufgabe begrenzt, und das Paper gibt an, dass seine Such-Hyperparameter "empirisch ausgewählt wurden".
Diese Details machen ein Ergebnis überprüfbar. Ein Leser, der die Arbeit reproduzieren möchte, weiß, welche Einstellungen er verwenden muss, wie viele Läufe er durchführen sollte und mit wie viel Variation zu rechnen ist. Sie machen auch die Grenzen sichtbar: Empirisch ausgewählte Hyperparameter müssen in anderen Umgebungen möglicherweise neu abgestimmt werden, und eine Zeitbegrenzung bedeutet, dass einige Aufgaben aus Zeitmangel scheitern können, nicht aus Mangel an einem Plan. Beides anzugeben, ist gute Praxis. Es ist der Standard, den unserer Ansicht nach jedes veröffentlichte Ergebnis erfüllen sollte, auch unser eigenes. Ein Ergebnis, das nicht erneut ausgeführt werden kann, kann dennoch interessant sein, aber man kann sich noch nicht darauf verlassen, und der Unterschied ist am wichtigsten, wenn das Ergebnis zur Rechtfertigung eines Designs herangezogen wird.
Das Wort wird zum Etikett, also braucht es einen Test
Erfolg zieht Nachahmung nach sich, und „neurosymbolisch“ wird inzwischen auf Systeme angewandt, die mit den Architekturen in diesen Arbeiten kaum etwas gemeinsam haben. Ein Sprachmodell mit einem Prompt wie „Denke Schritt für Schritt“ wird mitunter neurosymbolisch genannt. Ebenso ein Modell, das einen Taschenrechner aufruft, ein Chatbot mit regelbasierter Begrüßung oder ein Retrieval-System, das eine Datenbank nutzt. Jedes davon verbindet etwas Neuronales mit etwas, das nicht neuronal ist, und das Wort wird bedeutungslos, wenn es all das abdeckt.
Wir halten es für sinnvoll, einen einfachen Test anzuwenden, der sich aus dem ableitet, was die Ergebnisse von 2026 zum Funktionieren gebracht hat. Ein System verdient das Wort, wenn sein symbolischer Teil den neuronalen Teil so einschränkt oder verifiziert, dass sich dadurch ändert, was das System ausgeben kann, und wenn diese Einschränkung überprüfbar ist.
In der Arbeit zu verkörperten Agenten beschränkt das PDDL-Übergangsmodell die Dekodierung auf anwendbare Aktionen. Das Sprachmodell kann buchstäblich keine ungültige Aktion erzeugen. Das ist eine Einschränkung, die den Ausgaberaum verändert, und das Übergangsmodell kann von jedem gelesen werden. In der GraphRAG-Arbeit wird der Wissensgraph durch deklarierte Regeln aus autoritativen Datensätzen aufgebaut, und das Sprachmodell erhält Belege ausschließlich aus diesem Graphen. Die Herkunft jeder Kante lässt sich nachprüfen. Beide Systeme bestehen den Test.
Ein Prompt, der ein Modell zu sorgfältigem Schlussfolgern auffordert, besteht ihn nicht. Er kann die Ausgaben verbessern, aber er schränkt sie nicht ein, und nichts daran lässt sich daraufhin prüfen, was das Modell sagen darf. Ein Modell, das einen Taschenrechner aufrufen darf, besteht nur teilweise: Das Ergebnis des Taschenrechners ist exakt, doch das Modell entscheidet, ob es ihn aufruft und was es mit dem Ergebnis macht, und nichts hindert es daran, das Ergebnis zu ignorieren oder selbst zu rechnen. Beim Test geht es nicht um Reinheit. Es geht darum, woher Garantien kommen.
Fragen an ein System, das das Wort für sich beansprucht
Für Organisationen, die Systeme bewerten, die als neurosymbolisch beschrieben werden, lässt sich der Test in einige konkrete Fragen übersetzen.
Was verhindert der symbolische Teil? Eine brauchbare Antwort benennt eine Klasse von Ausgaben, die das System nicht erzeugen kann, etwa ungültige Aktionen, nicht belegte Aussagen oder Regelverstöße, und erklärt den Mechanismus. Eine Antwort, die sagt, der symbolische Teil „leite“ oder „informiere“ das Modell, ohne etwas zu benennen, das er verhindert, ist ein Zeichen dafür, dass die Garantie weich ist.
Lässt sich der symbolische Teil lesen? Regeln, Einschränkungen, Ontologien und Übergangsmodelle sollten für die Menschen, die sich auf das System verlassen, zur Prüfung verfügbar sein, zumindest in der für ihre Entscheidungen relevanten Form. Ist die symbolische Ebene selbst eine gelernte, undurchsichtige Komponente, liefert sie nicht die Art von Garantie, die neurosymbolische Entwürfe wertvoll macht.
Wo endet die Herkunft? Verfolgen Sie bei jeder Antwort die Belege. Führen sie über nachvollziehbare Schritte zu autoritativen Quelldatensätzen oder zu Zwischentexten, die ein Modell geschrieben hat? Die GraphRAG-Herkunftsprüfung ist eine Vorlage für diese Kontrolle.
Wo liegen die Fehlerfälle? Fragen Sie nach einer Aufschlüsselung der Fehlerfälle nach Komponente. Ein gut gegliedertes System sollte sagen können, ob seine Fehler in der Wahrnehmung, der Verankerung, dem Retrieval, dem Schlussfolgern oder der Generierung entstehen. Ein System, das das nicht sagen kann, ist entweder nicht gegliedert oder nicht gemessen.
Was wird aufgezeichnet? Fragen Sie, ob das System den Weg aufzeichnet, den es genommen hat, einschließlich dessen, was es gelesen hat und welche Komponenten beigetragen haben, nicht nur die endgültige Antwort. Die Ergebnisse der agentischen GraphRAG-Arbeit zeigen, warum das wichtig ist.
Keine dieser Fragen erfordert tiefe Fachkenntnis. Alle trennen Architekturen, die überprüfbare Garantien liefern, von Systemen, die nur das Vokabular verwenden.
Warum das für Erklärung und Aufsicht wichtig ist
Diese Ergebnisse haben eine regulatorische Dimension, die es lohnt herauszuarbeiten, denn sie verbindet die Forschungsarchitektur mit Pflichten, die für viele Organisationen gelten werden.
Die KI-Verordnung verlangt sehr viel Erklärung. Artikel 13 fordert, dass Hochrisikosysteme so gestaltet werden, dass Betreiber ihre Ausgaben interpretieren und angemessen nutzen können. Artikel 14 verlangt, dass Personen, die mit der Aufsicht betraut sind, die Ausgaben des Systems korrekt interpretieren und entscheiden können, sie zu missachten, außer Kraft zu setzen oder rückgängig zu machen. Artikel 86 gibt betroffenen Personen ein Recht auf klare und aussagekräftige Erklärungen zur Rolle eines KI-Systems bei bestimmten Entscheidungen. Diese Pflichten gelten ab Dezember 2027 oder August 2028 für Hochrisikosysteme, im Anschluss an das Digital Omnibus, doch die Designentscheidungen, die sie erreichbar machen, werden jetzt getroffen.
Ein faktorisiertes, neurosymbolisches System lässt sich weit leichter erklären als ein End-to-End-Modell, und zwar aus genau den Gründen, die die Arbeiten von 2026 aufzeigen. Wenn ein Plan unter einem Übergangsmodell konstruktionsbedingt ausführbar ist, dann ist die Erklärung, warum ein Schritt zulässig war, der Verweis auf die Regel, die ihn erlaubt hat. Wenn eine Antwort Kanten anführt, die sich auf autoritative Datensätze zurückverfolgen lassen, dann ist die Erklärung, warum eine Aussage getroffen wurde, die Kette der Datensätze. Wenn sich Fehler auf eine Komponente lokalisieren lassen, dann benennt die Erklärung, warum das System falsch lag, diese Komponente. Jede Erklärung ist eine Aussage über etwas, das existiert und geprüft werden kann, nicht eine nachträgliche Rationalisierung einer neuronalen Berechnung.
Das macht Erklärung nicht trivial. Jemand muss die Regeln und Datensätze noch immer in eine Sprache übersetzen, die eine betroffene Person verstehen kann. Doch es verändert die Natur der Aufgabe: aus Rekonstruktion wird Präsentation. Rekonstruktion fragt: „Was könnte diese Ausgabe verursacht haben?“ und kann nur Hypothesen anbieten. Präsentation fragt: „Wie zeigen wir die Regeln und Datensätze, die diese Ausgabe erzeugt haben?“ und kann Belege anbieten. Für die Aufsicht und für das Recht auf Erklärung ist dieser Unterschied entscheidend.
Das ist auch der Grund, warum wir meinen, dass die Effizienzergebnisse nicht nur Ingenieure, sondern auch Regulierungsbehörden interessieren sollten. Ein kleines, eingeschränktes Modell, das günstiger zu betreiben ist, ist auch ein Modell, das günstiger zu prüfen ist: Es kann dort gehostet werden, wo die prüfende Stelle es erreichen kann, für die Dauer einer Untersuchung an eine Version gebunden und deterministisch mit denselben Eingaben erneut ausgeführt werden. Die Argumente für Souveränität, Energie und Rechenschaftspflicht bei strukturierten kleinen Systemen erweisen sich als dasselbe Argument, von drei Seiten betrachtet.
Was wir daraus mitnehmen
Für unsere eigene Arbeit bestätigen die Ergebnisse von 2026 drei Designentscheidungen und schärfen eine vierte.
Sie bestätigen, dass kleine Modelle mit Struktur große Modelle ohne Struktur bei Aufgaben übertreffen können, die Zuverlässigkeit erfordern. Das ist die Prämisse hinter dem Routing von Loom über Loom: Die meisten Fragen werden am besten vom richtigen Spezialisten beantwortet, oft einem kleinen Modell oder einem symbolischen Solver, und nicht vom größten verfügbaren Modell. Die Ablation beim verkörperten Agenten ist der deutlichste veröffentlichte Beleg, den wir kennen, dass diese Prämisse für die Planung gilt.
Sie bestätigen, dass Wissen aus autoritativen Quellen mit erklärten Regeln aufgebaut und mit seiner Quelle zitiert werden sollte. Die Wissensebene von Dweve zitiert jedes in einer Antwort verwendete Wissenselement nach Knoten und Versions-Hash, sodass eine prüfende Person der Zitierung bis zum exakten Datensatz und zur exakten Version folgen kann. Die Provenienzprüfung von GraphRAG zeigt, was verloren geht, wenn diese Kette bei einem modellgeschriebenen Zwischenglied endet.
Sie bestätigen, dass das Aufzeichnen des Pfades ebenso wichtig ist wie das Aufzeichnen der Antwort. Die Erkenntnis der Arbeit zu agentischem GraphRAG über besuchte, aber nicht zitierte Entitäten ist genau der Grund, warum Knot gelesene und Zwischenschritte aufzeichnet, und der Grund, warum die Ablaufverfolgung von Loom zeigt, welche Spezialisten beigetragen haben.
Und sie schärfen unsere Aufmerksamkeit für die Verankerung. Beide Arbeiten verorten ihre verbleibenden Fehler genau dort, wo die Welt oder die Quelle in die symbolische Repräsentation übersetzt wird. Das ist die Grenze, an der die neuronale Wahrnehmung an das symbolische Schlussfolgern übergibt, und hier sollte sich der Verifikationsaufwand bündeln. Eine symbolische Schicht, die über einen falschen Zustand fehlerfrei schlussfolgert, liefert eine überzeugt falsche Antwort. Die technische Frage für das kommende Jahr lautet, wie sich diese Grenze ebenso prüfbar machen lässt wie die Schichten zu beiden Seiten.
Die Renaissance, mit Zahlen
Vor einem Jahr war die Behauptung, neurosymbolische Systeme würden reine Sprachmodelle bei Aufgaben mit Zuverlässigkeitsanspruch übertreffen, ein Argument. 2026 gibt es dafür Zahlen: über 90 Prozent Erfolg bei kleinen offenen Modellen für Haushaltsplanung, ein Agent mit 4 Milliarden Parametern, der eine direkte Policy mit 27 Milliarden Parametern deutlich schlägt, Constraints und Suche, die jeweils allein weniger als ein Drittel der Aufgaben lösen und zusammen über 95 Prozent, und jede Kante in einem ontologiebasierten Graphen, die bis zu ihrer Quelle zurückverfolgbar ist, gegenüber 83 Prozent bei einem extrahierten Graphen.
Diese Zahlen haben Bedingungen, und die Bedingungen sind ebenso wichtig wie die Ergebnisse. Doch die Richtung ist klar. Wenn ein KI-System auf prüfbare Weise richtig sein muss, ist Struktur kein Hindernis für Leistungsfähigkeit. Sie ist eine ihrer Quellen.
Warum das Benchmark-Design ebenso viel zählt wie das Ergebnis
In beiden Arbeiten steckt eine breitere methodische Lehre, die eine kurze Anmerkung verdient, denn sie betrifft die Frage, wie das gesamte Feld Systeme bewerten sollte, die für sich beanspruchen, zuverlässig zu sein.
Beide Arbeiten messen etwas anderes als Flüssigkeit. Die Arbeit zum verkörperten Agenten misst Erfolg: Wurde die Haushaltsaufgabe in der Umgebung erledigt? Die GraphRAG-Arbeit misst Herkunft: Lässt sich jede Kante und jeder Beleg bis zu einer autoritativen Aufzeichnung zurückverfolgen? Keine der beiden stützt sich in erster Linie darauf, ob eine Antwort gut lesbar ist oder mit einem Referenztext übereinstimmt. Das ist bedeutsam, denn ein großer Teil der KI-Evaluierung belohnt nach wie vor Oberflächenqualität. Die Arbeit aus der Reihe „Why Neighborhoods Matter“ und verwandte Evaluierungsforschung haben denselben Punkt aus einer anderen Richtung deutlich gemacht: Die lexikalische Überschneidung mit einer Referenzantwort kann hoch sein, während die Belege für die Antwort fehlen.
Für Organisationen, die KI-Systeme für Entscheidungen bewerten, auf die es ankommt, lautet die Lehre: Erst fragen, was ein Benchmark misst, dann, welche Punktzahl ein System erreicht hat. Ein System, das bei einem flüssigkeitsbasierten Benchmark gut abschneidet, kann dennoch Pläne liefern, die nicht ausführbar sind, oder Antworten, deren Belege ins Leere führen. Ein System, das bei Ausführbarkeit oder Herkunft gut abschneidet, hat etwas gezeigt, das dem näher kommt, was eine Entscheidungsperson braucht. Wir würden gern mehr Beschaffungsevaluierungen sehen, die so angelegt sind wie diese beiden Arbeiten: mit einer Aufgabe, die auf prüfbare Weise gelingt oder scheitert, und mit einer Prüfung, woher die Belege für jede Antwort stammen.
Quellen
- Neurosymbolic Embodied Agents, Albinhassan, Feng, Russo und Madhyastha, arXiv, August 2026. Verwendet für das zitierte Abstract, die zweiphasige Methode, die Komponenten-Ablation (Tabelle 2), die Decoding-Einstellungen (Tabelle 3), die Abbildungen zum Fehlerverhalten (Tabelle 10), die Erfolgsraten auf VirtualHome und ALFWorld, den Vergleich mit einer direkten 27B-Policy, die Ablation zu Constraints und Suche, die Token-Effizienz und die Lokalisierung von Fehlern.
- Ontology-guided neuro-symbolic GraphRAG for grounded query answering, Domenico Benfenati und Antonio Maria Rinaldi, Neural Computing and Applications, 2026. Verwendet für die Konstruktionsmethode, das Provenienz-Audit, die Zitierpräzision und das Evaluationsdesign.
- Why Neighborhoods Matter: Traversal Context and Provenance in Agentic GraphRAG, arXiv, Mai 2026. Verwendet für den Befund, dass abschließende Zitate nicht die vollständige Evidenzbasis agentischer Antworten erfassen, sowie für die genannten Grenzen der Studie.
- Article 13: Transparency and provision of information to deployers, Europäische Kommission, AI Act Service Desk. Verwendet für die Interpretierbarkeitsanforderung für Hochrisikosysteme.
- Article 14: Human oversight, Europäische Kommission, AI Act Service Desk. Verwendet für die Aufsichtsfähigkeiten.
- Article 86: Right to explanation of individual decision-making, Europäische Kommission, AI Act Service Desk. Verwendet für das Recht auf Erklärung.
- Towards A Rigorous Science of Interpretable Machine Learning, Finale Doshi-Velez und Been Kim, arXiv, 2017. Verwendet für die zitierte Beobachtung zum fehlenden Konsens über Interpretierbarkeit.
- Stop Explaining Black Box Machine Learning Models for High Stakes Decisions and Use Interpretable Models Instead, Cynthia Rudin, arXiv, 2018. Verwendet für das zitierte Plädoyer für inhärent interpretierbare Modelle.
- Sanity Checks for Saliency Maps, Julius Adebayo und andere, arXiv, 2018. Verwendet für den zitierten Befund, dass einige Saliency-Methoden unabhängig von Modell und Daten sind.