Podejście neurosymboliczne rok później: co tak naprawdę pokazują badania z 2026 roku
Rok temu był to argument głównie teoretyczny
W listopadzie 2025 opublikowaliśmy esej „The neuro-symbolic renaissance”, w którym przekonywaliśmy, że najużyteczniejsze systemy AI najbliższych lat nie będą opierać się wyłącznie na większych modelach językowych. Będą łączyć modele uczone, dobre w percepcji, języku i rozpoznawaniu wzorców, z jawną strukturą symboliczną, dobrą w regułach, ograniczeniach, pochodzeniu danych i dowodzeniu. Argumentowaliśmy tak, wychodząc od podstaw i od własnego doświadczenia inżynierskiego, bo tak zbudowany jest Dweve: Loom, nasz silnik wnioskowania, kieruje pracę do 528 specjalistów, z których wielu to solverzy symboliczni, weryfikatory i silniki reguł, a nie sieci neuronowe, a zwracana odpowiedź niesie ze sobą ślad tego, która część co zrobiła.
Argument wyprowadzony od podstaw to rozsądny punkt wyjścia. To jednak nie dowód. Warto więc zapytać rok później, co pokazują dziś opublikowane badania. Nie komunikaty prasowe i nie ogólny entuzjazm wobec słowa „neurosymboliczny”, które stało się dość modne, by przypisywać je niemal wszystkiemu. Konkretne, zmierzone wyniki.
Szczególnie przydatne są dwa artykuły z 2026 roku, bo bezpośrednio testują kluczowe tezy i podają liczby, które można sprawdzić. Jeden dotyczy agentów, którzy muszą działać w świecie: czy dodanie ograniczeń symbolicznych i przeszukiwania do modelu językowego sprawia, że jego plany da się wykonać? Drugi dotyczy odpowiadania na pytania na podstawie wiedzy: czy zbudowanie struktury wiedzy deterministycznie ze źródeł autorytatywnych, zamiast wyodrębniania jej modelem językowym, czyni odpowiedzi bardziej możliwymi do prześledzenia? Oba odpowiadają twierdząco, i to z dużą przewagą. Oba też starannie zaznaczają, czego nie wykazały, a to pouczające co najmniej tak samo jak to, co wykazały.
Prawdopodobne to nie to samo co wykonalne
Pierwszy artykuł, „Neurosymbolic Embodied Agents” autorstwa Albinhassana, Fenga, Russo i Madhyasthy, opublikowany na arXiv w sierpniu 2026 roku, wychodzi od spostrzeżenia, które rozpozna każdy, kto próbował użyć modelu językowego jako planisty. Modele językowe i modele językowe z wizją, jak czytamy w streszczeniu, „generują prawdopodobne plany ucieleśnione, ale nie gwarantują wykonalności, bo ich wyniki mogą naruszać dynamikę środowiska albo działać na niepoprawnie osadzonych obiektach”.
Rozróżnienie między prawdopodobnym a wykonalnym to cały problem w jednym zdaniu. Model poproszony o zrobienie herbaty w symulowanej kuchni wygeneruje sekwencję kroków, która dobrze się czyta: idź do kuchni, weź czajnik, napełnij go, włącz. Może jednak próbować wziąć czajnik, którego nie ma, napełnić czajnik stojący w zamkniętej szafce albo nalać z czajnika, który się nie zagotował. Każdy krok jest prawdopodobny. Plan jako całość zawodzi, bo model nie śledzi stanu świata ani reguł tego, jak działania go zmieniają.
Agent z tego artykułu dzieli długoterminowe zadania domowe na dwie fazy. W pierwszej model językowy z wizją i zestaw narzędzi do eksploracji pozyskują ze spostrzeżeń egocentrycznych i ugruntowanych interakcji predykaty istotne dla celu oraz przypisania instancji, tworząc symboliczny opis stanu początkowego: ten czajnik jest tutaj, ta szafka jest zamknięta, ta filiżanka jest pusta. W drugiej model przejść w PDDL, formalny opis tego, które działania mają zastosowanie w których stanach i co zmieniają, „ogranicza dekodowanie do tokenów, które rozszerzają działania mające zastosowanie”. Model językowy może generować wyłącznie działania, które model symboliczny uznaje za możliwe. Przeszukiwanie drzewa Monte Carlo ocenia następnie wykonalne kontynuacje za pomocą heurystyki planowania niezależnej od dziedziny.
Wynikiem, jak piszą autorzy, jest to, że „powstałe plany są wykonalne z konstrukcji w ramach modelu przejść, a przeniesienie do środowiska zależy od poprawnego ugruntowania wizualnego”. To ostatnie zastrzeżenie jest ważne i wrócimy do niego poniżej.
Małe modele z ograniczeniami biją duży model bez ograniczeń
Wyniki są uderzające. Na dwóch standardowych testach zadań domowych, VirtualHome i ALFWorld, streszczenie podaje, że „otwarte modele o rozmiarach od 4B do 27B przekraczają 90% skuteczności w obu środowiskach, a nasz najmniejszy agent znacznie przewyższa bezpośrednią politykę wizualną o rozmiarze 27B w każdym z nich”. W wynikach artykułu odsetek sukcesów waha się od 94,5 do 99,5 procent na VirtualHome i od 90,3 do 97,8 procent na ALFWorld w zależności od rozmiaru modelu. Agent o 4 miliardach parametrów przewyższa bezpośrednią politykę wizualną o 27 miliardach parametrów o 32,0 punktu procentowego na jednym teście i o 63,4 na drugim.
Ten drugi wynik zasługuje na uważną lekturę. Model około siedmiokrotnie mniejszy, wyposażony w wyraźną strukturę świata i procedurę przeszukiwania wykonalnych akcji, radzi sobie dramatycznie lepiej niż znacznie większy model, który ma działać bezpośrednio. Ta różnica to nie drobne dostrajanie. To różnica między systemem, który w większości działa, a takim, który w większości nie działa.
Dla każdego, kto troszczy się o koszty, zużycie energii i kontrolowalność systemów AI, ma to znaczenie. Mały otwarty model może działać na skromnym sprzęcie, można go poddać inspekcji, przypiąć do konkretnej wersji i hostować tam, gdzie zdecyduje operator. Jeśli dodanie struktury pozwala takiemu modelowi przewyższyć duży model w zadaniach wymagających niezawodnego działania, argumenty za suwerennością i efektywnością małych modeli stają się znacznie mocniejsze. Rozmiar to nie jedyna droga do możliwości. Struktura to druga.
Ograniczenia i przeszukiwanie się uzupełniają, a nie zastępują
Najciekawszym dla nas odkryciem jest ablacja. Autorzy przetestowali ograniczenia i przeszukiwanie osobno. W ALFWorld każde z nich z osobna "rozwiązuje mniej niż jedną trzecią zadań, podczas gdy ich połączenie rozwiązuje ponad 95%". Szczegółowe liczby to 32,3 procent dla samych ograniczeń i 29,2 procent dla samego przeszukiwania, wobec 95,5 procent w połączeniu.
To wynik, którego prosta opowieść o neurosymbolicznej AI by nie przewidziała. Można by oczekiwać, że ograniczenia, zapobiegając nieprawidłowym akcjom, wykonają większość pracy, a przeszukiwanie doda niewiele. Albo że przeszukiwanie, badając wiele ścieżek, znajdzie dobre plany, a ograniczenia jedynie je przyspieszą. Tymczasem każde z osobna zawodzi w większości zadań, a razem odnoszą sukces w niemal wszystkich.
Intuicję nietrudno odtworzyć. Ograniczenia bez przeszukiwania gwarantują, że każdy krok jest poprawny, ale w żaden sposób nie zapewniają, że ciąg poprawnych kroków doprowadzi do celu. Model może bez końca krążyć po kuchni, wykonując całkowicie legalne działania. Przeszukiwanie bez ograniczeń bada wiele kontynuacji, ale większość z nich obejmuje niepoprawne działania, więc przestrzeń przeszukiwania zdominowana jest przez plany, które zawiodą, a heurystyka niewiele ma do roboty. Razem ograniczenia przycinają przestrzeń do poprawnych planów, a przeszukiwanie znajduje wśród nich te dobre.
Ta komplementarność jest naszym zdaniem najsilniejszym jak dotąd potwierdzeniem empirycznym tezy architektonicznej, którą postawiliśmy rok temu. Wartość nie polega na dokręceniu symbolicznego modułu do neuronowego. Polega na konkretnym podziale pracy, w którym każda część robi to, w czym jest dobra, i kompensuje słabość drugiej.
Mniej tokenów i niepowodzenia, które wskazują miejsce
Dwa dalsze wyniki z artykułu łatwo przeoczyć, a zasługują na uwagę.
Pierwszy to efektywność. Streszczenie podaje, że metoda "zużywa kilkukrotnie mniej generowanych tokenów niż rozszerzone myślenie i znacznie mniej obrazów widocznych dla modelu niż bezpośrednia interakcja". W artykule redukcję liczby tokenów względem rozszerzonego myślenia podano jako do czterech razy. Rozszerzone myślenie, w którym model przed działaniem zapisuje długie łańcuchy rozumowania, to główna alternatywna strategia poprawy niezawodności planów modelu. Działa do pewnego stopnia, ale jest kosztowne: każdy token rozumowania jest obliczany, a w usługach hostowanych także opłacany. Metoda, która osiąga lepsze wyniki przy ułamku tokenów, jest lepsza zarówno pod względem kosztu i energii, jak i skuteczności.
Drugi to diagnozowalność. Streszczenie zauważa, że "pozostałe niepowodzenia lokalizują się w pozyskiwaniu stanu, a nie w generowaniu planu, bez żadnego specjalistycznego treningu". Gdy agent zawodzi, zawodzi dlatego, że jego obraz świata był błędny, a nie dlatego, że przy tym obrazie źle zaplanował. Dokładnie tego można oczekiwać od systemu, którego plany są wykonalne z założenia. Mówi to też inżynierowi, gdzie pracować dalej. W systemie neuronowym end-to-end niepowodzenie jest często rozproszoną właściwością całego modelu i jedynym lekarstwem jest więcej danych albo większy model. W systemie sfaktoryzowanym niepowodzenie ma adres.
Uważamy, że w badaniach nad AI nie docenia się możliwości diagnozowania. System, który zawodzi rzadziej, jest dobry. System, którego awarie można zlokalizować, wyjaśnić i naprawić, jest lepszy, bo można go świadomie ulepszać i bo jego działaniu można zaufać w tych przypadkach, w których jego komponenty są znane jako niezawodne.
Ten sam wzorzec pojawia się w odpowiadaniu na pytania
Drugi artykuł dotyczy innego problemu, a prowadzi do uderzająco podobnego wyniku. "Ontology-guided neuro-symbolic GraphRAG for grounded query answering" autorstwa Domenico Benfenatiego i Antonio Marii Rinaldiego z Uniwersytetu Neapolitańskiego im. Fryderyka II ukazał się w Neural Computing and Applications w październiku 2026. Praca bada odpowiadanie na pytania w oparciu o wiedzę z zakresu cyberbezpieczeństwa: podatności, słabości, wzorce ataków i podatne produkty, zaczerpnięte z publicznych repozytoriów, takich jak CVE, CWE, CAPEC i CPE.
Porównanie dotyczy dwóch sposobów budowania grafu wiedzy, z którego korzysta model językowy, odpowiadając na pytania. W powszechnie stosowanym podejściu GraphRAG model językowy czyta nieustrukturyzowany tekst i wyodrębnia encje, relacje oraz podsumowania społeczności, które następnie służą jako podłoże wyszukiwania. W podejściu autorów graf jest materializowany odgórnie z autorytatywnych repozytoriów, poprzez ukierunkowane indeksowanie, ontologiczne ujednolicanie schematu i oparte na regułach wnioskowanie symboliczne, takie jak łańcuchowanie przechodnie i wieloetapowy wpływ na produkty. Sama ontologia wywodzi się ze struktury dziedzinowej rzeczywistych repozytoriów, a nie jest syntetyzowana przez model. Model językowy otrzymuje następnie dowody z tego grafu, w tym, co autorzy opisują jako ściśle jednokierunkowy przepływ: podłoże symboliczne jest "w pełni deterministyczne, zachowujące pochodzenie i niezależnie weryfikowalne".
Audyt pochodzenia to najbardziej pouczający eksperyment. W grafie kierowanym ontologią 100 procent próbkowanych krawędzi można było prześledzić do autorytatywnych rekordów źródłowych lub zadeklarowanych reguł wnioskowania. W grafie wyodrębnionym przez LLM można było prześledzić 83 procent, a tylko 58 procent łączyło punkty końcowe za pomocą identyfikatorów kanonicznych. Różnica przekłada się na odpowiedzi: system kierowany ontologią osiągnął 95 procent precyzji cytowania, wobec 66 procent dla podstawy GraphRAG.
Najważniejsze jest strukturalne wyjaśnienie autorów. W GraphRAG wyodrębnionym przez LLM odpowiedzi opierają się na podsumowaniach napisanych przez ten sam rodzaj modelu, który generuje odpowiedź, więc łańcuch pochodzenia zatrzymuje się na pośredniku neuronowym, zamiast sięgać do autorytatywnego rekordu. Cytowanie podsumowania napisanego przez model to cytowanie interpretacji. Cytowanie rekordu źródłowego, poprzez krawędzie, z których każdą można prześledzić do tego rekordu lub do zadeklarowanej reguły, to cytowanie dowodu.
Cytowania to nie całe pochodzenie
Trzeci, mniejszy artykuł z 2026 roku wnosi użyteczne komplikacje. "Why Neighborhoods Matter: Traversal Context and Provenance in Agentic GraphRAG", opublikowany na arXiv w maju 2026 roku, bada systemy, w których agent przeszukuje graf wiedzy przed udzieleniem odpowiedzi, a następnie cytuje niewielki zbiór encji. Autorzy pytają, czy końcowe cytowania wystarczają, by wyjaśnić dowody, na których opierała się odpowiedź.
Wniosek jest taki, że nie wystarczają. Cytowane encje zwykle mają znaczenie: ich usunięcie istotnie zmienia odpowiedzi i obniża dokładność. Eksperymenty pokazują jednak, że trafne odpowiadanie zależy także od przechodzenia po grafie, struktury sąsiedztwa oraz encji, które agent odwiedził, ale nie zacytował. Autorzy konkludują, że rzetelne cytowanie "powinno uwzględniać także kontekst grafu i ścieżkę wyszukiwania, które kształtują końcową odpowiedź."
To odkrycie zaostrza lekcję płynącą z artykułu Benfenatiego i Rinaldiego. Deterministyczny, śledzalny graf jest niezbędny, aby odpowiedzi mogły mieć weryfikowalne dowody. Nie jest jednak wystarczający, jeśli system rejestruje tylko to, co cytuje, a nie to, co przeczytał. Pochodzenie musi obejmować ścieżkę, nie tylko cel. To zresztą ten sam wniosek, do którego doszliśmy od strony inżynieryjnej przy projektowaniu Knot, dziennika zdarzeń, który publikujemy w IV kwartale 2026: zapis przebiegu agenta musi obejmować każdy odczyt i każdy krok pośredni, nie tylko końcowy wynik, bo to właśnie kroki wyjaśniają wynik.
Czego wyniki nie pokazują
Oba główne artykuły zachowują ostrożność co do swoich ograniczeń, a te ograniczenia warto przedstawić wprost, bo entuzjazm wobec wyniku zwykle zaciera jego warunki.
Wyniki dla agentów ucieleśnionych pochodzą z symulacji. VirtualHome i ALFWorld to ugruntowane benchmarki, ale są to symulowane środowiska domowe o znanej dynamice. Gwarancja, że plany są wykonalne "z konstrukcji", obowiązuje w ramach modelu przejść, czyli w ramach symbolicznego opisu działania świata. Jeśli ten opis jest błędny lub niepełny, gwarancja nie przenosi się na rzeczywistość. W realnym świecie napisanie kompletnego i poprawnego modelu przejść jest trudne, a świat ma zwyczaj zawierać rzeczy, których model nie przewidział.
Te same wyniki zależą od prawidłowego zakotwiczenia wizualnego. W artykule powiedziano to wprost. Jeśli faza eksploracji błędnie rozpozna obiekt albo jakiś pominie, stan symboliczny jest nieprawidłowy, a plan, który w błędnym stanie dałoby się bez zarzutu wykonać, w rzeczywistości może się nie powieść. Wniosek z artykułu, że błędy szczątkowe skupiają się na pozyskiwaniu stanu, dobrze wróży możliwości diagnozowania, a zarazem przypomina, że percepcja pozostaje najtrudniejszym elementem.
Wyniki GraphRAG dotyczą jednej dziedziny, cyberbezpieczeństwa, w której istnieją autorytatywne repozytoria strukturalne o stabilnych identyfikatorach. W wielu dziedzinach jest inaczej. Gdy wiedza tkwi głównie w dokumentach niestrukturalnych, pozbawionych kanonicznych identyfikatorów, materializacja odgórna jest niedostępna i pewna forma ekstrakcji staje się nieunikniona. Metoda z artykułu pokazuje, co staje się możliwe, gdy istnieją dobre źródła. Nie pokazuje, jak je stworzyć tam, gdzie ich nie ma.
W ocenie poprawności odpowiedzi w GraphRAG jako sędziego użyto modelu językowego Gemini 2.5 Flash, na piętnastu pytaniach na zadanie. To rozsądny projekt jak na artykuł naukowy, a audyt pochodzenia jest pomiarem bardziej bezpośrednim. Czytelnicy powinni jednak traktować dane o jakości odpowiedzi jako orientacyjne, a nie rozstrzygające, natomiast dane o pochodzeniu jako wynik mocniejszy.
Żadne z tych ograniczeń nie podważa artykułów. To zwykłe warunki rzetelnych badań. Mają jednak znaczenie dla każdego, kto chciałby odczytywać „neurosymboliczne” jako rozwiązanie ogólne. To zestaw wyborów architektonicznych, które działają bardzo dobrze, gdy spełnione są ich warunki wstępne: poprawny model symboliczny dziedziny, niezawodne zakotwiczenie percepcji w tym modelu oraz autorytatywne źródła wiedzy. Znaczna część pracy praktycznej polega na zapewnieniu tych warunków wstępnych.
Co się dzieje po pierwszym błędzie
Wskaźniki skuteczności mówią, jak często system kończy zadanie. Nie mówią, jak się zachowuje, gdy coś pójdzie nie tak, a to często ważniejsze pytanie dla każdego, kto musi go wdrożyć. Artykuł o agencie ucieleśnionym zawiera dodatek, który na nie odpowiada, i jest to jedna z najbardziej odkrywczych części tej pracy.
Autorzy zmierzyli, co robiły polityki „po pierwszym zdarzeniu niemożliwym do zakotwiczenia lub nieudanym wykonaniu”, podając, jak często zadania zawierały takie zdarzenie, jak często polityka następnie odzyskiwała zadanie, jak często natychmiast powtarzała nieudane żądanie i jak często wpadała w trwałą pętlę działań. Wyniki dla bezpośrednich polityk wizualnych, które planują bez ograniczeń symbolicznych, są uderzające.
W VirtualHome bezpośrednia polityka Qwen 4B napotkała niepowodzenie w 64,5 procentach zadań. Odzyskała zadanie w 5,4 procentach takich przypadków, natychmiast powtórzyła nieudane żądanie w 74,5 procentach, a w 45,5 procentach zakończyła trwałą pętlą. W ALFWorld ten sam model napotkał niepowodzenie w 73,9 procentach zadań, odzyskał zadanie w 1,0 procenta, a w 94,8 procentach zakończył trwałą pętlą. Największy model bezpośredni wypadł lepiej, jak można się spodziewać: w VirtualHome polityka 27B napotkała niepowodzenie w 29,0 procentach zadań, odzyskała zadanie w 37,9 procentach, powtórzyła żądanie w 8,3 procentach, a w pętlę wpadła w 9,5 procentach. W ALFWorld nawet ten model odzyskał zadanie tylko w 25,7 procentach przypadków.
Wprowadzenie do artykułu wyjaśnia, dlaczego tak się dzieje. Polityka bezpośrednia musi rozpoznawać obiekty, śledzić ich stan, wybierać właściwe działania i rozumować o odroczonych skutkach „w obrębie jednej historii autoregresyjnej, gdzie mogą się swobodnie kumulować”. Autorzy zauważają, że „informacja zwrotna z wykonania może ujawnić taki błąd po jego wystąpieniu, ale nie powstrzymuje modelu przed powtórzeniem nieprawidłowego wyboru ani przed odejściem od stanu, który wywołały jego własne działania”.
To zdanie opisuje schemat, który wielu osobom wyda się znajomy z pracy agentów poza laboratorium. Agent próbuje czegoś, ponosi porażkę, błąd trafia z powrotem do systemu, po czym agent ponawia tę samą próbę albo próbę równoważną. Informacja zwrotna to informacja, ale informacja nie ogranicza. System, który traktuje poprawność działania jako coś, co należy wywnioskować, a nie coś, co jest wymuszone, można poinformować, że postąpił źle, nie uniemożliwiając mu ponownego błędu.
Podejście z ograniczeniami zmienia to, czyniąc stosowalność, jak ujmuje to artykuł, "ograniczeniem utrzymywanym przez cały proces generowania i przeszukiwania". Działanie, którego warunki wstępne nie są spełnione, nigdy nie zostaje wygenerowane, więc nie ma czego powtarzać. Nie czyni to systemu nieomylnym. Przenosi porażkę w inne miejsce.
Artykuł sam wskazuje swoje porażki
Rzetelny opis wyników musi powiedzieć, gdzie zawodzi agent z ograniczeniami, i artykuł to robi. Jego planer symboliczny może planować wyłącznie w oparciu o stan, który otrzymuje. Gdy etap eksploracji wizualnej pominie wymagany obiekt, piszą autorzy, "porażka rozprzestrzenia się, ponieważ uzasadniony stan początkowy pomija wymagany obiekt. Jest to ograniczenie komponentu pozyskiwania stanu wizualnego, a nie gwarancji stosowalności."
To rozróżnienie ma znaczenie. Gwarancja, którą oferuje system, jest wąska i mocna: każde planowane działanie jest stosowalne w stanie, w którym system uważa, że się znajduje. To, czy to przekonanie odpowiada rzeczywistości, zależy od percepcji, a percepcję wciąż realizuje model neuronowy z całą wynikającą z tego niepewnością. Autorzy oczekują, że "ulepszenia w rozpoznawaniu wizualnym i aktywnym doborze punktu widzenia powinny przekładać się bezpośrednio na całą metodę", co jest rozsądnym oczekiwaniem, a zarazem przypomnieniem, że część symboliczna nie zrekompensuje tego, czego nie dostrzega część neuronowa.
Dla osób oceniających takie systemy lekcja jest taka, by pytać, gdzie kończy się gwarancja. System neurosymboliczny zwykle oferuje pewność co do jednej części procesu (plan jest poprawny, wnioskowanie wynika z reguł, odpowiedź jest wsparta przez graf) i dziedziczy niepewność po częściach, które go zasilają. Dobry system uwidacznia tę granicę. Zapisuje, co postrzegł, co założył i co wyprowadził, aby recenzent mógł stwierdzić, czy porażka wynikła z rozumowania, czy z danych wejściowych do rozumowania.
Właśnie dlatego analiza porażek w rodzaju tej z aneksu artykułu jest tak cenna. Wiedza, że system zawodzi głównie na etapie uzasadniania, a nie planowania, mówi inżynierowi, gdzie inwestować, a wdrażającemu, jaki rodzaj nadzoru jest potrzebny. Osoba oceniająca pracę agenta z ograniczeniami powinna sprawdzać jego obraz świata, a nie jego arytmetykę.
Badanie przeszukiwania jest niewielkie i samo to przyznaje
Artykuł o kontekście przechodzenia (traversal context) zachowuje ostrożność także wobec własnych ograniczeń. Jego autorzy piszą, że badanie "jest ograniczone niewielkim rozmiarem benchmarku oraz wykorzystaniem kontrolowanego grafu wiedzy zbudowanego z 2WikiMultiHopQA, a nie dużego grafu wiedzy odpowiadającego rzeczywistości." Wzywają do ewaluacji "na większych zbiorach danych, bogatszych strukturach grafowych i bazach wiedzy specyficznych dla domeny" oraz do mechanizmów cytowania, "które ujawniają nie tylko końcowe encje wspierające, ale także istotny kontekst przechodzenia."
Ta szczerość jest przydatna. Wniosek, że cytowania są konieczne, ale niewystarczające, by wyjaśnić odpowiedź agenta, jest prawdopodobny i ważny, opiera się jednak na kontrolowanym środowisku. Zanim ktokolwiek oprze na nim politykę, należy go odtworzyć na grafach, jakich używają rzeczywiste systemy: firmowych bazach wiedzy, korpusach regulacyjnych, katalogach produktów. Do tego czasu najlepiej czytać go jako dobrze zaprojektowane ostrzeżenie, a nie ustalony pomiar.
Ostrzeżenie to wciąż warto wziąć sobie do serca. Autorzy konkludują, że "proweniencję w wyszukiwaniu agentowym opartym na grafach należy traktować jako właściwość na poziomie trajektorii". Dla twórców systemów oznacza to rejestrowanie ścieżki, a nie tylko celu: które encje odwiedzono, którymi krawędziami podążano, których sąsiadów zauważono, ale nie zacytowano. Lista cytowań to podsumowanie tej ścieżki. Jak każde podsumowanie, może być trafne i mimo to pomijać coś, co miało znaczenie.
Rejestrowanie ścieżki wiąże się z realnym kosztem i należy to powiedzieć wprost. Zapisy przechodzenia są większe niż listy cytowań, mogą zawierać materiały, których użytkownikowi nigdy nie pokazano, i wymagają takiej samej staranności w zakresie dostępu i przechowywania jak każdy inny log. Ale alternatywa jest gorsza. Gdy odpowiedź zostanie zakwestionowana, system, który zachował tylko cytowania, może pokazać, na co wskazywał. System, który zachował trajektorię, może pokazać, jak do tego doszedł, a właśnie o to zapyta recenzent. W wyszukiwaniu agentowym ta różnica prawdopodobnie zdecyduje o tym, czy wyjaśnienie zostanie przyjęte, czy tylko tolerowane.
Starszy spór o wyjaśnianie wciąż pozostaje aktualny
Nic z tego nie jest nowe w duchu. Debata o wyjaśnianiu w uczeniu maszynowym trwa od lat, a wyniki z 2026 roku wpisują się w nią, a nie ją zastępują.
W 2017 roku Finale Doshi-Velez i Been Kim zauważyli, że "mimo zainteresowania interpretowalnością panuje bardzo mały konsensus co do tego, czym jest interpretowalne uczenie maszynowe i jak należy je mierzyć". W 2018 roku Cynthia Rudin przekonywała, że "próba wyjaśniania modeli czarnej skrzynki, zamiast tworzenia modeli interpretowalnych od samego początku, prawdopodobnie utrwali złe praktyki i może potencjalnie wyrządzić katastrofalną szkodę społeczeństwu". W tym samym roku Julius Adebayo i współpracownicy pokazali, że niektóre metody istotności "są niezależne zarówno od modelu, jak i od procesu generowania danych", dając podobne wyjaśnienia niezależnie od tego, czy model czegokolwiek się nauczył.
Wyniki dotyczące planowania z ograniczeniami i GraphRAG można odczytać jako dowód na stanowisko Rudin w nowym otoczeniu. Gdy plan powstaje w wyniku przeszukiwania jawnych reguł, jego poprawność jest właściwością sposobu, w jaki został utworzony, a wyjaśnienie, dlaczego wybrano daną akcję, można odczytać z tego przeszukiwania. Gdy odpowiedź powstaje w wyniku przechodzenia po grafie, jej proweniencja jest właściwością tego przechodzenia, pod warunkiem że zostało ono zarejestrowane. W obu przypadkach wyjaśnienie nie jest interpretacją pierwszego modelu dokonaną przez drugi model. Jest zapisem tego, co zrobił pierwszy.
Wyniki z 2026 roku dostarczają przede wszystkim dowodów na to, że tego rodzaju systemy również mogą osiągać dobre rezultaty. Dawny zarzut wobec podejść interpretowalnych był taki, że okupione są utratą dokładności. Wyniki takie jak te, w których małe modele z ograniczeniami przewyższają większe modele bez ograniczeń w zadaniach strukturalnych, nie rozstrzygają tego pytania w ogólności. Pokazują jednak, że w zadaniach z jawnymi regułami i weryfikowalnymi wynikami kompromis wygląda inaczej, niż zakładano.
Dłuższe myślenie nie pomogło, a łatwy benchmark to maskuje
Analiza ablacyjna komponentów w artykule o agencie ucieleśnionym zawiera dwa dalsze szczegóły, które zasługują na uwagę, ponieważ przeczą powszechnym założeniom.
Pierwszy dotyczy rozszerzonego rozumowania. W przypadku modelu Qwen 27B zwykłe dekodowanie zachłanne osiągnęło 61,0 procent sukcesu w VirtualHome i 15,4 procent w ALFWorld. Ten sam model w trybie myślenia, z budżetem do 32 768 tokenów wyjściowych zgodnie z ustawieniami dekodowania podanymi w artykule, osiągnął 59,0 i 16,9 procent. Pozwolenie modelowi na znacznie dłuższe rozumowanie nie przyniosło zasadniczo żadnej różnicy. Dodanie natomiast ograniczeń stosowalności do dekodowania zachłannego podniosło skuteczność w VirtualHome z 61,0 do 98,5 procent. Mówiąc słowami autorów, pokazuje to, że "ograniczenia stosowalności odpowiadają za większość zysku".
To użyteczna korekta wobec przekonania, że większa liczba tokenów rozumowania stanowi ogólne lekarstwo na błędy planowania. Gdy błąd polega na wyborze działania, którego warunki wstępne nie są spełnione, dłuższe wewnętrzne rozważanie nie powstrzymuje go w sposób niezawodny. Powstrzymuje je reguła, która czyni takie działania niemożliwymi.
Drugi szczegół dotyczy trudności benchmarku. W VirtualHome samo wyszukiwanie bez ograniczeń osiągnęło 99,0 procent, tyle samo co pełna metoda, choć autorzy zauważają, że stało się to "przy wyższym koszcie generowania" widocznym na ich wykresach. Czytelnik patrzący wyłącznie na VirtualHome mógłby wywnioskować, że wyszukiwanie to wszystko, czego potrzeba. ALFWorld pokazuje coś przeciwnego: same ograniczenia osiągnęły 32,3 procent, wyszukiwanie bez ograniczeń 29,2 procent, a połączenie obu 95,5 procent. Autorzy przypisują większą różnicę trudniejszemu problemowi planowania. Skuteczne plany z modelu 27B obejmowały średnio 8,0 działań wysokopoziomowych w ALFWorld i 6,4 w VirtualHome, przy maksimach wynoszących 30 i osiem, a ALFWorld "wprowadza więcej powiązań instancji i pojemników na każdym etapie".
Ogólny wniosek jest taki, że łatwy benchmark może sprawić, iż dwa różne rozwiązania wyglądają na równoważne. Dopiero gdy problem staje się wystarczająco długi i wystarczająco ograniczony, różnice się ujawniają. Każdy, kto porównuje architektury agentów, powinien testować je na zadaniach co najmniej tak długich i tak ściśle ograniczonych jak te, które zamierza wdrożyć, a nie na najkrótszych dostępnych zadaniach.
Eksperymenty są odtwarzalne z założenia
Jeszcze jedna cecha artykułu zasługuje na wzmiankę, ponieważ łączy się z motywem przewijającym się w innych częściach tego cyklu. Autorzy publikują w całości swoje ustawienia dekodowania. Etapy z ograniczeniami na modelu Qwen działają przy temperaturze 0,0. Tam, gdzie stosuje się próbkowanie jądrowe, w uzupełniających przebiegach myślenia i w modelach bazowych dla zadań ucieleśnionych, ewaluacje powtarza się z trzema nazwanymi ziarnami: 0, 42 i 1738. Wyszukiwanie jest ograniczone do 250 sekund na zadanie, a w artykule stwierdzono, że jego hiperparametry wyszukiwania "wybrano empirycznie".
Właśnie te szczegóły czynią wynik weryfikowalnym. Czytelnik, który chce odtworzyć pracę, wie, jakich ustawień użyć, ile przebiegów wykonać i jakiego zróżnicowania się spodziewać. Ujawniają też ograniczenia: empirycznie wybrane hiperparametry mogą wymagać dostrojenia w innych środowiskach, a limit czasu oznacza, że niektóre zadania mogą się nie powieść z braku czasu, a nie z braku planu. Podanie jednego i drugiego to dobra praktyka. To standard, który, naszym zdaniem, powinien spełniać każdy publikowany wynik, w tym nasz własny. Wynik, którego nie można powtórzyć, wciąż może być interesujący, ale nie można jeszcze na nim polegać, a ta różnica ma największe znaczenie, gdy wynik służy do uzasadnienia projektu.
Słowo staje się etykietą, więc potrzebuje testu
Sukces rodzi naśladownictwo, a określenie "neurosymboliczny" przypisuje się dziś systemom, które mają niewiele wspólnego z architekturami opisanymi w tych pracach. Model językowy z podpowiedzią "myśl krok po kroku" bywa nazywany neurosymbolicznym. Podobnie model, który wywołuje kalkulator, chatbot z regułowym powitaniem albo system wyszukiwania korzystający z bazy danych. Każdy z nich łączy coś neuronowego z czymś, co neuronowe nie jest, a słowo traci sens, jeśli obejmuje je wszystkie.
Uważamy, że warto zastosować prosty test, wyprowadzony z tego, co sprawiło, że wyniki z 2026 roku zadziałały. System zasługuje na to słowo, gdy jego część symboliczna ogranicza lub weryfikuje część neuronową w sposób, który zmienia to, co system może wygenerować, i gdy to ograniczenie można poddać inspekcji.
W pracy o agencie ucieleśnionym model przejść PDDL ogranicza dekodowanie do działań wykonalnych. Model językowy dosłownie nie może wygenerować nieprawidłowego działania. To ograniczenie, które zmienia przestrzeń wyników, a model przejść może odczytać każdy. W pracy o GraphRAG graf wiedzy jest budowany według zadeklarowanych reguł z autorytatywnych rekordów, a model językowy otrzymuje dowody wyłącznie z tego grafu. Pochodzenie każdej krawędzi można sprawdzić. Oba systemy przechodzą test.
Podpowiedź, która prosi model o staranne rozumowanie, nie przechodzi. Może poprawić wyniki, ale ich nie ogranicza, a w samej podpowiedzi nie ma nic, co można sprawdzić, by ustalić, co modelowi wolno powiedzieć. Model, który może wywołać kalkulator, przechodzi tylko częściowo: wynik kalkulatora jest dokładny, ale to model decyduje, czy go wywołać i co zrobić z wynikiem, a nic nie powstrzymuje go przed zignorowaniem wyniku lub wykonaniem obliczeń samodzielnie. Test nie dotyczy czystości. Dotyczy tego, skąd pochodzą gwarancje.
Pytania, które warto zadać systemowi roszczącemu sobie prawo do tego słowa
Dla organizacji oceniających systemy opisywane jako neurosymboliczne test przekłada się na kilka konkretnych pytań.
Czemu zapobiega część symboliczna? Użyteczna odpowiedź wskazuje klasę wyników, których system nie może wygenerować, na przykład nieprawidłowe działania, twierdzenia bez pokrycia czy naruszenia reguł, i wyjaśnia mechanizm. Odpowiedź, że część symboliczna "kieruje" modelem lub "informuje" go, bez wskazania czegokolwiek, czemu zapobiega, jest sygnałem, że gwarancja jest miękka.
Czy część symboliczną można odczytać? Reguły, ograniczenia, ontologie i modele przejść powinny być dostępne do wglądu dla osób, które polegają na systemie, przynajmniej w formie istotnej dla ich decyzji. Jeśli sama warstwa symboliczna jest wyuczonym, nieprzejrzystym komponentem, nie daje tego rodzaju gwarancji, który czyni projekty neurosymboliczne wartościowymi.
Gdzie kończy się pochodzenie? W przypadku każdej odpowiedzi prześledź cytowania. Prowadzą do autorytatywnych rekordów źródłowych, przez możliwe do prześledzenia kroki, czy do tekstów pośrednich napisanych przez model? Audyt pochodzenia w GraphRAG to wzorzec dla tego sprawdzenia.
Gdzie są awarie? Poproś o rozbicie przypadków awarii według komponentów. Dobrze rozdzielony system powinien umieć powiedzieć, czy jego awarie powstają w percepcji, ugruntowaniu, wyszukiwaniu, rozumowaniu czy generowaniu. System, który tego nie potrafi, albo nie jest rozdzielony, albo nie jest mierzony.
Co jest rejestrowane? Zapytaj, czy system rejestruje obraną ścieżkę, w tym co odczytał i które komponenty się przyczyniły, a nie tylko ostateczną odpowiedź. Ustalenia z agentowego GraphRAG pokazują, dlaczego to ma znaczenie.
Żadne z tych pytań nie wymaga głębokiej wiedzy specjalistycznej, by je zadać. Wszystkie oddzielają architektury dające sprawdzalne gwarancje od systemów, które używają tego słownictwa.
Dlaczego ma to znaczenie dla wyjaśniania i nadzoru
W tych wynikach tkwi wymiar regulacyjny, który warto wydobyć, ponieważ łączy architekturę badawczą z obowiązkami, które będą dotyczyć wielu organizacji.
akt w sprawie sztucznej inteligencji wymaga wielu wyjaśnień. Artykuł 13 nakłada na systemy wysokiego ryzyka obowiązek projektowania ich w taki sposób, aby podmioty wdrażające mogły interpretować ich wyniki i odpowiednio je wykorzystywać. Artykuł 14 wymaga, aby osoby wyznaczone do nadzoru potrafiły prawidłowo zinterpretować wyniki działania systemu i zdecydować o ich zignorowaniu, zmianie lub odwróceniu. Artykuł 86 przyznaje osobom, których dotyczy decyzja, prawo do jasnych i zrozumiałych wyjaśnień roli systemu AI w określonych decyzjach. Obowiązki te obejmują systemy wysokiego ryzyka od grudnia 2027 r. lub sierpnia 2028 r., zgodnie z Digital Omnibus, ale decyzje projektowe, które czynią je wykonalnymi, są podejmowane już teraz.
System sfaktoryzowany i neurosymboliczny jest znacznie łatwiejszy do wyjaśnienia niż model end-to-end, z dokładnie tych powodów, które pokazują artykuły z 2026 r. Gdy plan jest wykonalny z założenia w ramach modelu przejść, wyjaśnienie, dlaczego dany krok został dozwolony, sprowadza się do wskazania reguły, która na niego pozwoliła. Gdy odpowiedź powołuje się na krawędzie możliwe do prześledzenia do wiarygodnych rekordów, wyjaśnieniem, dlaczego dane twierdzenie zostało sformułowane, jest łańcuch rekordów. Gdy awarie lokalizują się w jednym komponencie, wyjaśnienie, dlaczego system się mylił, wskazuje ten komponent. Każde wyjaśnienie to stwierdzenie o czymś, co istnieje i co można zbadać, a nie doraźna racjonalizacja obliczeń neuronowych.
Nie czyni to wyjaśniania trywialnym. Ktoś wciąż musi przełożyć reguły i rekordy na język, który osoba, której dotyczy decyzja, zrozumie. Zmienia to jednak charakter zadania z rekonstrukcji na prezentację. Rekonstrukcja pyta: „co mogło spowodować ten wynik?”, i może zaoferować jedynie hipotezy. Prezentacja pyta: „jak pokazać reguły i rekordy, które ten wynik wytworzyły?”, i może zaoferować dowody. Dla nadzoru i dla prawa do wyjaśnienia ta różnica jest rozstrzygająca.
To także powód, dla którego uważamy, że wyniki dotyczące wydajności powinny zainteresować regulatorów równie mocno jak inżynierów. Mały, ograniczony model, który jest tańszy w eksploatacji, jest także modelem tańszym w audycie: można go hostować tam, gdzie audytor ma do niego dostęp, przypiąć do wersji na czas prowadzonego postępowania i odtworzyć deterministycznie na tych samych danych wejściowych. Argumenty o suwerenności, energii i rozliczalności za ustrukturyzowanymi małymi systemami okazują się tym samym argumentem widzianym z trzech stron.
Co z tego wynika
Dla naszej własnej pracy wyniki z 2026 r. potwierdzają trzy decyzje projektowe i wyostrzają czwartą.
Potwierdzają, że małe modele ze strukturą mogą przewyższać duże modele bez niej w zadaniach wymagających niezawodności. To założenie leży u podstaw routingu Loom przez 528 specjalistów: na większość pytań najlepiej odpowiada właściwy specjalista, często mały model lub solver symboliczny, a nie największy dostępny model. Ablacja agenta ucieleśnionego to najwyraźniejszy znany nam opublikowany dowód, że założenie to się potwierdza w planowaniu.
Potwierdzają, że wiedzę należy budować z wiarygodnych źródeł z zadeklarowanymi regułami i cytować ją wraz ze źródłem. Warstwa wiedzy Dweve cytuje każdy fragment wiedzy wykorzystany w odpowiedzi przez węzeł i hash wersji, dzięki czemu recenzent może prześledzić cytowanie do dokładnego rekordu i wersji. Audyt proweniencji GraphRAG pokazuje, co zostaje utracone, gdy ten łańcuch kończy się na pośredniku napisanym przez model.
Potwierdzają, że rejestrowanie ścieżki ma takie samo znaczenie jak rejestrowanie odpowiedzi. Odkrycie z artykułu o agentowym GraphRAG dotyczące encji odwiedzonych, ale niecytowanych, jest dokładnie tym powodem, dla którego Knot rejestruje odczyty i kroki pośrednie, oraz tym, dla którego ślad Loom pokazuje, którzy specjaliści wnieśli wkład.
A jednak wyostrzają naszą uwagę na ugruntowanie. Oba artykuły wskazują swoje pozostałe słabości w miejscu, w którym świat, czyli źródło, zostaje przełożony na reprezentację symboliczną. To granica, na której percepcja neuronowa przekazuje sterowanie rozumowaniu symbolicznemu, i właśnie tam należy skupić wysiłek weryfikacyjny. Warstwa symboliczna, która bezbłędnie wnioskuje na podstawie błędnego stanu, daje pewną siebie błędną odpowiedź. Pytanie inżynierskie na najbliższy rok brzmi: jak uczynić tę granicę tak sprawdzalną jak warstwy po obu jej stronach.
Renesans, z liczbami
Rok temu twierdzenie, że systemy neurosymboliczne będą osiągać lepsze wyniki niż czyste modele językowe w zadaniach wymagających niezawodności, było argumentem. W 2026 roku ma liczby: ponad 90 procent skuteczności małych otwartych modeli w planowaniu domowym, agent o 4 miliardach parametrów bijący bezpośrednią politykę o 27 miliardach parametrów z dużą przewagą, ograniczenia i przeszukiwanie rozwiązujące osobno poniżej jednej trzeciej zadań, a razem ponad 95 procent, oraz każda krawędź w grafie zbudowanym na ontologii możliwa do prześledzenia do swojego źródła wobec 83 procent dla grafu wyekstrahowanego.
Te liczby mają warunki, a warunki są równie ważne jak wyniki. Kierunek jest jednak jasny. Gdy system AI musi mieć rację w sposób, który da się sprawdzić, struktura nie jest przeszkodą dla możliwości technicznych. Jest jednym z ich źródeł.
Dlaczego projekt benchmarku ma znaczenie równie duże jak wynik
W obu artykułach kryje się szersza lekcja metodologiczna, która zasługuje na krótką uwagę, bo dotyczy tego, jak cała dziedzina powinna oceniać systemy deklarujące niezawodność.
Oba artykuły mierzą coś innego niż płynność. Artykuł o agencie ucieleśnionym mierzy skuteczność: czy zadanie domowe zostało wykonane w środowisku? Artykuł o GraphRAG mierzy pochodzenie: czy każdą krawędź i każde cytowanie można prześledzić do autorytatywnego zapisu? Żaden z nich nie opiera się przede wszystkim na tym, czy odpowiedź dobrze się czyta albo czy pasuje do tekstu referencyjnego. To istotne, ponieważ duża część oceny systemów AI wciąż nagradza jakość powierzchniową. Prace z nurtu "Why Neighborhoods Matter" i pokrewne badania ewaluacyjne wskazują to samo z innej strony: pokrycie leksykalne z odpowiedzią referencyjną może być wysokie, podczas gdy dowody na tę odpowiedź są nieobecne.
Dla organizacji oceniających systemy AI pod kątem decyzji, które mają znaczenie, lekcja jest taka, by najpierw zapytać, co mierzy benchmark, a dopiero potem, jaki wynik osiągnął system. System z dobrym wynikiem w benchmarku opartym na płynności może wciąż tworzyć plany, które się nie wykonują, albo odpowiedzi, których cytowania donikąd nie prowadzą. System z dobrym wynikiem w zakresie wykonalności lub pochodzenia dowiódł czegoś bliższego temu, czego potrzebuje decydent. Chcielibyśmy widzieć więcej ocen zakupowych zaprojektowanych tak jak te dwa artykuły: z zadaniem, które albo się udaje, albo nie, w sposób sprawdzalny, oraz z audytem tego, skąd pochodzą dowody każdej odpowiedzi.
Źródła
- Neurosymbolic Embodied Agents, Albinhassan, Feng, Russo i Madhyastha, arXiv, sierpień 2026. Wykorzystano do cytowanego streszczenia, metody dwufazowej, ablacji komponentów (tabela 2), ustawień dekodowania (tabela 3), danych o reakcjach na błędy (tabela 10), wskaźników skuteczności w VirtualHome i ALFWorld, porównania z bezpośrednią polityką 27B, ablacji ograniczeń i przeszukiwania, efektywności tokenowej oraz lokalizacji błędów.
- Ontology-guided neuro-symbolic GraphRAG for grounded query answering, Domenico Benfenati i Antonio Maria Rinaldi, Neural Computing and Applications, 2026. Wykorzystano do metody konstrukcji, audytu pochodzenia, precyzji cytowań i projektu oceny.
- Why Neighborhoods Matter: Traversal Context and Provenance in Agentic GraphRAG, arXiv, maj 2026. Wykorzystano do ustalenia, że końcowe cytowania nie obejmują pełnej podstawy dowodowej odpowiedzi agentowych, oraz do przedstawionych ograniczeń badania.
- Article 13: Transparency and provision of information to deployers, Komisja Europejska, AI Act Service Desk. Wykorzystano do wymogu interpretowalności dla systemów wysokiego ryzyka.
- Article 14: Human oversight, Komisja Europejska, AI Act Service Desk. Wykorzystano w odniesieniu do możliwości nadzoru.
- Article 86: Right to explanation of individual decision-making, Komisja Europejska, AI Act Service Desk. Wykorzystano w odniesieniu do prawa do wyjaśnienia.
- Towards A Rigorous Science of Interpretable Machine Learning, Finale Doshi-Velez i Been Kim, arXiv, 2017. Wykorzystano w odniesieniu do cytowanej obserwacji o braku konsensusu w kwestii interpretowalności.
- Stop Explaining Black Box Machine Learning Models for High Stakes Decisions and Use Interpretable Models Instead, Cynthia Rudin, arXiv, 2018. Wykorzystano w odniesieniu do cytowanego argumentu za modelami z natury interpretowalnymi.
- Sanity Checks for Saliency Maps, Julius Adebayo i inni, arXiv, 2018. Wykorzystano w odniesieniu do cytowanego ustalenia, że niektóre metody istotności są niezależne od modelu i danych.