Neurosimbiološki pristup, godinu dana poslije: što istraživanja iz 2026. doista pokazuju
Prije godinu dana argument je uglavnom bio samo argument
U studenome 2025. objavili smo "The neuro-symbolic renaissance", esej u kojem smo tvrdili da najkorisniji AI sustavi sljedećih nekoliko godina neće biti samo veći jezični modeli. Oni će spajati naučene modele, koji su dobri u percepciji, jeziku i prepoznavanju uzoraka, s eksplicitnom simboličkom strukturom, koja je dobra u pravilima, ograničenjima, podrijetlu podataka i dokazima. Taj smo argument iznijeli od prvih načela i iz vlastitog inženjerskog iskustva, jer tako je izgrađen Dweve: Loom, naš motor za zaključivanje, usmjerava posao na 528 specijalista, od kojih su mnogi simbolički rješavači, verifikatori i motori pravila, a ne neuronske mreže, a odgovor koji vraća nosi trag o tome koji je dio što odradio.
Argument od prvih načela razumno je polazište. Nije dokaz. Zato je vrijedno pitati, godinu dana kasnije, što sada pokazuju objavljena istraživanja. Ne priopćenja za javnost i ne opće oduševljenje riječju "neurosymbolic", koja je postala dovoljno pomodna da se primijeni na gotovo sve. Nego konkretni, izmjereni rezultati.
Dva rada iz 2026. posebno su korisna jer izravno provjeravaju ključne tvrdnje i iznose brojke koje se mogu provjeriti. Jedan se bavi agentima koji moraju djelovati u svijetu: čini li dodavanje simboličkih ograničenja i pretraživanja jezičnom modelu njegove planove izvedivima? Drugi se bavi odgovaranjem na pitanja na temelju znanja: čini li deterministička izgradnja strukture znanja iz mjerodavnih izvora, umjesto izvlačenja jezičnim modelom, odgovore sljedivijima? Oba odgovaraju potvrdno, s velikom razlikom. I oba su pažljiva oko onoga što nisu pokazala, što je barem jednako poučno kao ono što jesu.
Vjerojatno nije isto što i izvedivo
Prvi rad, "Neurosymbolic Embodied Agents" autora Albinhassana, Fenga, Russoa i Madhyastha, objavljen na arXivu u kolovozu 2026., polazi od zapažanja koje će prepoznati svatko tko je pokušao upotrijebiti jezični model kao planer. Jezični i vizualno-jezični modeli, stoji u sažetku, "generate plausible embodied plans but do not guarantee executability, as their outputs can violate environment dynamics or act on incorrectly grounded entities."
Razlika između vjerojatnog i izvedivog cijeli je problem u jednoj rečenici. Model koji dobije zadatak skuhati čaj u simuliranoj kuhinji proizvest će slijed koraka koji se dobro čita: idi u kuhinju, uzmi kuhalo, napuni ga, uključi ga. No može pokušati uzeti kuhalo kojeg nema, ili napuniti kuhalo koje je u zatvorenom ormariću, ili uliti iz kuhala koje nije prokuhalo. Svaki je korak vjerojatan. Plan kao cjelina ne uspijeva jer model ne prati stanje svijeta ni pravila po kojima radnje mijenjaju to stanje.
Agent iz rada raščlanjuje dugoročne kućanske zadatke u dvije faze. U prvoj vizualno-jezični model i okvir za istraživanje prikupljaju predikate relevantne za cilj i vezanja instanci iz egocentričnih opažanja i utemeljenih interakcija, proizvodeći simbolički opis početnog stanja: ovo je kuhalo ovdje, ovaj je ormarić zatvoren, ova je šalica prazna. U drugoj PDDL model prijelaza, formalni opis toga koje su radnje primjenjive u kojim stanjima i što mijenjaju, "restricts decoding to tokens that extend applicable actions." Jezični model može generirati samo radnje za koje simbolički model kaže da su moguće. Pretraživanje stabla Monte Carlo zatim procjenjuje izvedive nastavke pomoću heuristike planiranja neovisne o domeni.
Posljedica je, prema riječima autora, da su "rezultirajući planovi izvedivi po konstrukciji unutar modela tranzicije, s prijenosom u okruženje uvjetovanim ispravnim vizualnim utemeljenjem." Ta je posljednja klauzula važna i na nju se vraćamo u nastavku.
Mali modeli s ograničenjima nadmašuju veliki model bez njih
Rezultati su zapanjujući. Na dvama standardnim skupovima zadataka u kućanstvu, VirtualHome i ALFWorld, sažetak navodi da "otvoreni modeli od 4B do 27B premašuju 90% uspješnosti u oba okruženja, a naš najmanji agent znatno nadmašuje izravnu vizualnu politiku od 27B u svakom od njih." U rezultatima rada stope uspješnosti kreću se od 94,5 do 99,5 posto na VirtualHomeu i od 90,3 do 97,8 posto na ALFWorldu, ovisno o veličini modela. Agent s 4 milijarde parametara nadmašuje izravnu vizualnu politiku s 27 milijardi parametara za 32,0 postotnih bodova na jednom skupu zadataka i za 63,4 na drugom.
Drugi rezultat zaslužuje pozorno čitanje. Model otprilike sedam puta manji, kojemu je dana izričita struktura svijeta i postupak pretraživanja izvedivih akcija, radi dramatično bolje od mnogo većeg modela koji mora djelovati izravno. Razlika nije u nijansama podešavanja. To je razlika između sustava koji uglavnom radi i onoga koji uglavnom ne radi.
Za svakoga koga zanimaju trošak, potrošnja energije i mogućnost kontrole AI sustava, to je važno. Mali otvoreni model može raditi na skromnom hardveru, može se pregledati, može se vezati uz određenu verziju i može se hostati gdje god operater odabere. Ako dodavanje strukture omogućuje takvom modelu da nadmaši veliki model na zadacima koji zahtijevaju pouzdano djelovanje, argumenti za suverenost i učinkovitost malih modela postaju mnogo jači. Veličina nije jedini put do sposobnosti. Struktura je drugi.
Ograničenja i pretraživanje se nadopunjuju, a nisu zamjenjivi
Najzanimljiviji nam je nalaz ablacijske studije. Autori su ispitali ograničenja i pretraživanje odvojeno. U ALFWorldu svako od njih zasebno "rješava manje od trećine zadataka, dok njihova kombinacija rješava više od 95%." Detaljne brojke su 32,3 posto za sama ograničenja i 29,2 posto za samo pretraživanje, naspram 95,5 posto u kombinaciji.
Taj rezultat ne bi predvidjela jednostavna priča o neurosimboličkoj umjetnoj inteligenciji. Moglo bi se očekivati da će ograničenja, sprječavanjem nevaljanih radnji, obaviti većinu posla, a pretraživanje dodati tek malo. Ili da će pretraživanje, istraživanjem mnogih putanja, pronaći dobre planove, a ograničenja ga samo ubrzati. Umjesto toga, svako zasebno zakaže na većini zadataka, a zajedno uspijevaju na gotovo svima.
Intuiciju nije teško rekonstruirati. Ograničenja bez pretraživanja jamče da je svaki korak valjan, ali ne čine ništa da slijed valjanih koraka stigne do cilja. Model može beskonačno lutati kuhinjom izvodeći posve dopuštene radnje. Pretraživanje bez ograničenja istražuje mnoge nastavke, ali većina njih uključuje nevaljane radnje, pa u prostoru pretraživanja prevladavaju planovi koji će propasti, a heuristika nema s čime raditi. Zajedno, ograničenja svode prostor na valjane planove, a pretraživanje među njima pronalazi one dobre.
Ta je komplementarnost, po našem mišljenju, najjača dosad empirijska potpora arhitektonskoj tvrdnji koju smo iznijeli prije godinu dana. Vrijednost nije u tome da se simbolički modul priključi na neuronski. Vrijednost je u određenoj podjeli rada, u kojoj svaki dio radi ono u čemu je dobar i nadoknađuje slabost onoga drugoga.
Manje tokena i neuspjesi koji nešto znače
Dva daljnja rezultata iz rada lako je previdjeti, a zaslužuju pozornost.
Prvi je učinkovitost. Sažetak navodi da metoda "koristi nekoliko puta manje generiranih tokena nego prošireno razmišljanje i znatno manje slika vidljivih modelu nego izravna interakcija". U radu se smanjenje broja tokena u odnosu na prošireno razmišljanje navodi kao do četiri puta. Prošireno razmišljanje, u kojem model prije djelovanja ispisuje dugačke lance rasuđivanja, glavna je alternativna strategija za poboljšanje pouzdanosti planova modela. Ono donekle djeluje, ali je skupo: svaki token rasuđivanja računa se i, na hostanim uslugama, plaća. Metoda koja postiže bolje rezultate s djelićem tokena bolja je i po trošku i po potrošnji energije, kao i po uspješnosti.
Drugi je mogućnost dijagnosticiranja. Sažetak napominje da se "preostali neuspjesi lokaliziraju na prikupljanje stanja, a ne na generiranje plana, bez ikakva specijaliziranog treniranja". Kad agent zakaže, zakaže zato što je njegova slika svijeta bila pogrešna, a ne zato što je loše planirao s obzirom na tu sliku. Upravo je to ono čemu bismo se nadali od sustava čiji su planovi izvedivi po konstrukciji. To također govori inženjeru gdje dalje raditi. U end-to-end neuronskom sustavu neuspjeh je često raspršeno svojstvo cijelog modela, a jedini je lijek više podataka ili veći model. U raščlanjenom sustavu neuspjeh ima adresu.
Smatramo da je dijagnostičnost podcijenjena u istraživanju umjetne inteligencije. Sustav koji rjeđe zakaže dobar je. Sustav čije se zatajenje može locirati, objasniti i ispraviti još je bolji, jer se može namjerno poboljšavati i jer mu se može vjerovati u slučajevima u kojima su njegove komponente poznato pouzdane.
Isti se obrazac pojavljuje u odgovaranju na pitanja
Drugi rad bavi se drukčijim problemom, ali s izrazito sličnim rezultatom. "Ontology-guided neuro-symbolic GraphRAG for grounded query answering", autora Domenica Benfenatija i Antonija Marije Rinaldija sa Sveučilišta u Napulju Federico II, objavljen je u časopisu Neural Computing and Applications u listopadu 2026. Istražuje odgovaranje na pitanja o znanju iz područja kibernetičke sigurnosti: ranjivostima, slabostima, obrascima napada i pogođenim proizvodima, prikupljenima iz javnih repozitorija kao što su CVE, CWE, CAPEC i CPE.
Usporedba je između dva načina izgradnje grafa znanja na koji se jezični model oslanja pri odgovaranju na pitanja. U široko korištenom pristupu GraphRAG jezični model čita nestrukturirani tekst i izvlači entitete, odnose i sažetke zajednica, koji zatim služe kao podloga za dohvaćanje. U pristupu autora graf se materijalizira odozgo prema dolje iz mjerodavnih repozitorija, kroz ciljano pretraživanje, ontologijom vođeno objedinjavanje shema i simboličko zaključivanje temeljeno na pravilima, poput tranzitivnog ulančavanja i višekoračnog utjecaja na proizvod. Sama ontologija izvedena je iz strukture područja stvarnih repozitorija, a ne sintetizira je model. Jezični model zatim dobiva dokaze iz tog grafa, u onome što autori opisuju kao strogo jednosmjeran tok: simbolička je podloga "potpuno deterministička, čuva podrijetlo i neovisno je provjerljiva".
Revizija podrijetla najotkrivajući je eksperiment. U ontologijom vođenom grafu 100 posto uzorkovanih veza moglo se ustanoviti do mjerodavnih izvornih zapisa ili deklariranih pravila zaključivanja. U grafu koji je izvukao LLM to je bilo moguće za 83 posto veza, a samo je 58 posto povezivalo krajnje točke kanonskim identifikatorima. Razlika se prenosi i na odgovore: ontologijom vođen sustav postigao je 95 posto preciznosti citiranja, naspram 66 posto za osnovnu verziju GraphRAG-a.
Strukturno objašnjenje autora najvažniji je dio. U GraphRAG-u koji je izvukao LLM odgovori se temelje na sažecima koje je napisala ista vrsta modela koja generira odgovor, pa se lanac podrijetla zaustavlja na neuronskom posredniku umjesto da dosegne mjerodavan zapis. Citat koji upućuje na sažetak koji je napisao model citat je koji upućuje na interpretaciju. Citat koji upućuje na izvorni zapis, kroz veze od kojih se svaka može ustanoviti do tog zapisa ili do deklariranog pravila, citat je koji upućuje na dokaz.
Citati nisu cijelo podrijetlo
Treći, manji rad iz 2026. dodaje korisnu komplikaciju. "Why Neighborhoods Matter: Traversal Context and Provenance in Agentic GraphRAG", objavljen na arXivu u svibnju 2026., proučava sustave u kojima agent istražuje graf znanja prije nego što odgovori, a zatim citira mali skup entiteta. Pita se jesu li završni citati dovoljni da objasne dokaze o kojima je odgovor ovisio.
Zaključak je da nisu. Citirani entiteti obično su važni: njihovo uklanjanje znatno mijenja odgovore i smanjuje točnost. No eksperimenti pokazuju da točno odgovaranje ovisi i o obilasku grafa, strukturi susjedstva i entitetima koje je agent posjetio, ali ih nije citirao. Autori zaključuju da vjerno citiranje "treba uzeti u obzir i kontekst grafa i put dohvaćanja koji oblikuju završni odgovor."
Taj nalaz pojačava pouku rada Benfenatija i Rinaldija. Deterministički graf sa sljedivošću nužan je za odgovore čiji se dokazi mogu provjeriti. Nije dovoljan ako sustav bilježi samo ono što citira, a ne i ono što je pročitao. Podrijetlo mora uključivati put, a ne samo odredište. To je, kako se poklapa, isti zaključak do kojeg smo došli s inženjerske strane kad smo osmislili Knot, zapisnik događaja koji objavljujemo 4. tromjesečje 2026.: zapis o izvođenju agenta mora obuhvaćati svako čitanje i svaki međukorak, a ne samo završni rezultat, jer koraci su ono što objašnjava rezultat.
Što rezultati ne pokazuju
Oba glavna rada pažljivo navode svoje granice, a te granice vrijedi jasno izreći jer entuzijazam prema nekom rezultatu obično izbriše njegove uvjete.
Rezultati za utjelovljene agente dobiveni su u simulaciji. VirtualHome i ALFWorld etablirani su referentni skupovi, ali to su simulirana kućanska okruženja s poznatom dinamikom. Jamstvo da su planovi izvedivi "po konstrukciji" vrijedi u okviru modela prijelaza, odnosno u okviru simboličkog opisa načina na koji svijet funkcionira. Ako je taj opis pogrešan ili nepotpun, jamstvo se ne prenosi. U stvarnom svijetu teško je napisati potpun i ispravan model prijelaza, a svijet ima običaj uključivati stvari koje model nije predvidio.
Isti rezultati uvjetovani su ispravnim vizualnim utemeljenjem. U sažetku se to izričito navodi. Ako faza istraživanja pogrešno prepozna objekt ili ga propusti, simboličko stanje je pogrešno, a plan koji je savršeno izvediv pod pogrešnim stanjem može u stvarnosti propasti. Nalaz rada da se preostali neuspjesi lokaliziraju na usvajanje stanja dobra je vijest za dijagnostiku, ali i podsjetnik da percepcija ostaje najteži dio.
Rezultati GraphRAG-a odnose se na jedno područje, kibernetičku sigurnost, u kojem postoje mjerodavna strukturirana spremišta sa stabilnim identifikatorima. Mnoga područja nisu takva. Kada znanje uglavnom živi u nestrukturiranim dokumentima bez kanonskih identifikatora, materijalizacija odozgo prema dolje nije dostupna i neki oblik ekstrakcije je neizbježan. Metoda iz rada pokazuje što postaje moguće kada postoje dobri izvori. Ne pokazuje kako ih stvoriti tamo gdje ih nema.
GraphRAG-ova procjena točnosti odgovora koristila je jezični model kao suca, Gemini 2.5 Flash, na petnaest pitanja po zadatku. To je razuman dizajn za istraživački rad, a revizija podrijetla izravnija je mjera. No čitatelji bi brojke o kvaliteti odgovora trebali uzeti kao indikativne, a ne konačne, dok su brojke o podrijetlu jači rezultat.
Nijedno od tih ograničenja ne potkopava radove. To su uobičajeni uvjeti dobrog istraživanja. No važna su za svakoga koga bi moglo zavesti da "neurosymbolic" shvati kao općenito rješenje. Riječ je o skupu arhitekturnih odabira koji djeluju vrlo dobro kada su njihovi preduvjeti ispunjeni: ispravan simbolički model domene, pouzdano utemeljenje percepcije u tom modelu i mjerodavni izvori znanja. Velik dio praktičnog rada odnosi se upravo na uspostavljanje tih preduvjeta.
Što se događa nakon prve pogreške
Stope uspješnosti govore koliko često sustav dovrši zadatak. Ne govore kako se ponaša kada nešto pođe po zlu, što je često važnije pitanje za svakoga tko ga mora uvesti u rad. Rad o utjelovljenim agentima sadrži dodatak koji na to odgovara i to je jedan od najpoučnijih dijelova tog istraživanja.
Autori su mjerili što su politike činile "nakon prvog neutemeljivog ili neuspješnog izvršenja", izvješćujući koliko su često zadaci sadržavali takav događaj, koliko je često politika potom uspjela spasiti zadatak, koliko je često odmah ponovila neuspješni zahtjev i koliko je često zapala u trajnu petlju radnji. Rezultati za izravne vizualne politike, koje planiraju bez simboličkih ograničenja, zapanjujući su.
U VirtualHomeu je izravna politika Qwen od 4B naišla na neuspjeh u 64,5 posto zadataka. Zadatak je spasila u 5,4 posto tih slučajeva, odmah ponovila neuspješni zahtjev u 74,5 posto te završila u trajnoj petlji u 45,5 posto. U ALFWorldu je isti model naišao na neuspjeh u 73,9 posto zadataka, spasio ga u 1,0 posto i završio u trajnoj petlji u 94,8 posto. Najveći izravni model prošao je bolje, kako se i očekuje: u VirtualHomeu je politika od 27B naišla na neuspjeh u 29,0 posto zadataka, spasila ga u 37,9 posto, ponovila zahtjev u 8,3 posto i zapala u petlju u 9,5 posto. U ALFWorldu je čak i taj model zadatak spasio u samo 25,7 posto slučajeva.
Uvod rada objašnjava zašto se to događa. Izravna politika mora prepoznati objekte, pratiti njihovo stanje, odabrati primjenjive radnje i zaključivati o odgođenim učincima "unutar jedne autoregresivne povijesti, gdje se mogu slobodno gomilati". Autori primjećuju da "povratna informacija o izvršenju može razotkriti takvu pogrešku nakon što se dogodi, ali ne sprječava model da ponovi nevaljani odabir ili odluta od stanja koje su izazvale njegove vlastite radnje."
Ta rečenica opisuje obrazac koji će mnogi prepoznati kod agenata izvan laboratorija. Agent pokuša nešto, ne uspije, pogreška se vrati kao povratna informacija i agent ponovno pokuša isto ili nešto jednakovrijedno. Povratna informacija jest informacija, ali informacija ne ograničava. Sustav koji valjanost radnje tretira kao nešto što treba zaključiti, a ne nešto što se nameće, može dobiti poruku da je pogriješio, a da ga se pritom ne spriječi da ponovno pogriješi.
Pristup s ograničenjima to mijenja time što primjenjivost, kako stoji u radu, čini "ograničenjem koje se održava tijekom generiranja i pretraživanja". Radnja čiji preduvjeti nisu ispunjeni nikada se ne proizvede, pa nema što ponoviti. To ne čini sustav nepogrešivim. Samo premješta neuspjeh na drugo mjesto.
Rad sam pronalazi svoje neuspjehe
Iskren prikaz rezultata mora reći gdje agent s ograničenjima ne uspijeva, i rad to čini. Njegov simbolički planer može planirati samo nad stanjem koje dobije. Kada faza vizualnog istraživanja propusti potreban objekt, pišu autori, "neuspjeh se zatim širi jer utemeljeno početno stanje izostavlja potreban objekt. To je ograničenje komponente za vizualno prikupljanje stanja, a ne jamstva primjenjivosti."
Ta je razlika važna. Jamstvo koje sustav nudi usko je i snažno: svaka radnja koju isplanira primjenjiva je u stanju za koje vjeruje da se u njemu nalazi. Hoće li to vjerovanje odgovarati svijetu, ovisi o percepciji, a percepciju i dalje obavlja neuronski model sa svom nesigurnošću koju to podrazumijeva. Autori očekuju da bi se "poboljšanja u vizualnom prepoznavanju i aktivnom odabiru gledišta trebala izravno prenijeti na cjelovitu metodu", što je razumno očekivanje i ujedno podsjetnik da simbolički dio ne može nadoknaditi ono što neuronski dio ne uspije vidjeti.
Za ljude koji procjenjuju takve sustave pouka je pitati gdje jamstvo prestaje. Neurosimbiotički sustav obično nudi sigurnost u pogledu jednog dijela procesa (plan je valjan, zaključak slijedi iz pravila, odgovor je potkrijepljen grafom), a nesigurnost nasljeđuje od dijelova koji ga opskrbljuju. Dobar sustav tu granicu čini vidljivom. Bilježi što je opazio, što je pretpostavio i što je izveo, kako bi recenzent mogao razlučiti je li neuspjeh došao iz zaključivanja ili iz ulaza u zaključivanje.
Zato je i analiza neuspjeha kakva je u dodatku rada toliko vrijedna. Saznanje da sustav uglavnom ne uspijeva u utemeljivanju, a ne u planiranju, govori inženjeru gdje ulagati, a korisniku u produkciji kakav je nadzor potreban. Čovjek koji pregledava rad agenta s ograničenjima trebao bi provjeravati njegovu sliku svijeta, a ne njegovu aritmetiku.
Studija obilaska je mala i to i sama kaže
Rad o kontekstu obilaska i sam je pažljiv prema vlastitim ograničenjima. Njegovi autori pišu da je studija "ograničena malom veličinom referentnog skupa i time što se koristi kontroliranim grafom znanja izgrađenim iz 2WikiMultiHopQA, a ne velikim grafom znanja iz stvarnog svijeta." Pozivaju na evaluaciju "na većim skupovima podataka, bogatijim strukturama grafa i domenski specifičnim bazama znanja" te na mehanizme citiranja "koji izlažu ne samo završne entitete koji podupiru odgovor nego i relevantan kontekst obilaska."
Ta je iskrenost korisna. Nalaz da su citati nužni, ali ne i dovoljni da objasne odgovor agenta, uvjerljiv je i važan, no počiva na kontroliranim uvjetima. Prije nego što se na njemu izgradi bilo kakva politika, trebalo bi ga reproducirati na vrstama grafova koje rabe stvarni sustavi: poslovnim bazama znanja, regulatornim korpusima, katalozima proizvoda. Do tada ga je najbolje čitati kao dobro osmišljeno upozorenje, a ne kao utvrđeno mjerenje.
Upozorenje ipak vrijedi poslušati. Autori zaključuju da "podrijetlo u agentskom pretraživanju temeljenom na grafovima treba tretirati kao svojstvo na razini putanje". Za graditelje sustava to znači bilježiti put, a ne samo odredište: koji su entiteti posjećeni, kojim se bridovima išlo, koje se susjede vidjelo, a nije ih se citiralo. Popis citata sažetak je te putanje. Kao i svaki sažetak, može biti točan i pritom izostaviti nešto što je bilo važno.
Bilježenje putanje ima praktičnu cijenu i to treba reći. Zapisi o obilasku veći su od popisa citata, mogu sadržavati materijal koji korisniku nikad nije prikazan i zahtijevaju jednaku pažnju oko pristupa i čuvanja kao i svaki drugi zapisnik. No alternativa je gora. Kad se odgovor ospori, sustav koji je sačuvao samo citate može pokazati na što je uputio. Sustav koji je sačuvao putanju može pokazati kako je došao do odgovora, a to je pitanje koje će recenzent zapravo postaviti. Kod agentskog pretraživanja ta će razlika vjerojatno odlučiti hoće li se objašnjenje prihvatiti ili samo tolerirati.
Stariji argument o objašnjenju i dalje vrijedi
Ništa od ovoga nije novo po duhu. Rasprava o objašnjenju u strojnom učenju traje godinama, a rezultati iz 2026. uklapaju se u nju, ne zamjenjuju je.
Godine 2017. Finale Doshi-Velez i Been Kim primijetili su da "unatoč zanimanju za interpretabilnost, postoji vrlo malo suglasja o tome što je interpretabilno strojno učenje i kako ga mjeriti." Godine 2018. Cynthia Rudin tvrdila je da "nastojanje da se modeli crne kutije objasne, umjesto stvaranja modela koji su interpretabilni od početka, vjerojatno produbljuje loše prakse i može nanijeti katastrofalnu štetu društvu." Iste godine Julius Adebayo i kolege pokazali su da su neke metode istaknutosti "neovisne i o modelu i o procesu nastanka podataka", dajući slična objašnjenja neovisno o tome je li model išta naučio.
Rezultati o ograničenom planiranju i GraphRAG-u mogu se čitati kao dokaz za Rudinino stajalište u novom okruženju. Kad plan nastaje pretraživanjem eksplicitnih pravila, njegova valjanost svojstvo je načina na koji je izrađen, a objašnjenje zašto je neka radnja odabrana može se pročitati iz pretraživanja. Kad odgovor nastaje obilaskom grafa, njegovo je podrijetlo svojstvo obilaska, pod uvjetom da je obilazak zabilježen. U oba slučaja objašnjenje nije interpretacija prvog modela koju daje drugi model. Ono je zapis o tome što je prvi učinio.
Ono što rezultati iz 2026. dodaju jest dokaz da ovakva vrsta sustava može biti i uspješna. Stari prigovor interpretabilnim pristupima bio je da koštaju točnost. Ovakvi rezultati, u kojima mali ograničeni modeli nadmašuju veće neograničene na strukturiranim zadacima, ne rješavaju to pitanje općenito. Pokazuju ipak da za zadatke s izričitim pravilima i provjerljivim ishodima kompromis nije onakav kakvim se pretpostavljao.
Dulje razmišljanje nije pomoglo, a laki benchmark to skriva
Komponentna ablacija u radu o utjelovljenom agentu sadrži još dvije pojedinosti koje zaslužuju pozornost jer se protive uobičajenim pretpostavkama.
Prva se tiče produženog zaključivanja. S modelom Qwen od 27B obično pohlepno dekodiranje postiglo je 61,0 posto uspjeha u VirtualHomeu i 15,4 posto u ALFWorldu. Isti model u načinu razmišljanja, s proračunom do 32 768 izlaznih tokena prema dekodirajućim postavkama iz rada, postigao je 59,0 i 16,9 posto. Dopuštanje modelu da razmišlja znatno dulje nije promijenilo gotovo ništa. Dodavanje ograničenja primjenjivosti pohlepnom dekodiranju, nasuprot tome, podiglo je uspjeh u VirtualHomeu sa 61,0 na 98,5 posto. Riječima autora, to pokazuje da "ograničenja primjenjivosti čine većinu dobitka".
To je koristan ispravak ideje da su dodatni tokeni za razmišljanje općenito rješenje za pogreške u planiranju. Kada je pogreška odabir radnje čiji preduvjeti nisu ispunjeni, dulje unutarnje razmišljanje to pouzdano ne sprječava. Pravilo koje takve radnje čini nemogućima to čini.
Druga se pojedinost tiče težine benchmarka. U VirtualHomeu je samo neograničeno pretraživanje postiglo 99,0 posto, isto kao i puna metoda, iako autori napominju da je to učinilo "uz veći trošak generiranja" prikazan na njihovim slikama. Čitatelj koji gleda samo VirtualHome mogao bi zaključiti da je pretraživanje sve što treba. ALFWorld pokazuje suprotno: sama ograničenja postigla su 32,3 posto, neograničeno pretraživanje 29,2 posto, a kombinacija 95,5 posto. Autori veću razliku pripisuju težem problemu planiranja. Uspješni planovi modela od 27B u prosjeku su imali 8,0 radnji na visokoj razini u ALFWorldu i 6,4 u VirtualHomeu, s maksimumima od 30 i osam, a ALFWorld "uvodi više povezivanja instanci i spremnika u svakoj fazi."
Općenita je pouka da laki benchmark može učiniti dva različita pristupa jednakima. Razlike se pokažu tek kad problem postane dovoljno dug i dovoljno ograničen. Svatko tko uspoređuje arhitekture agenata trebao bi ih testirati na zadacima barem toliko dugima i strogo ograničenima koliko i oni na koje ih namjerava postaviti, a ne na najkraćim dostupnim zadacima.
Eksperimenti su reproducibilni po dizajnu
Još jedno obilježje rada vrijedi istaknuti jer se povezuje s temom na drugom mjestu u ovoj seriji. Autori u cijelosti objavljuju svoje postavke dekodiranja. Ograničene faze modela Qwen rade na temperaturi 0,0. Gdje se koristi nucleus sampling, za dodatne pokuse razmišljanja i utjelovljene osnovne vrijednosti, evaluacije se ponavljaju s tri imenovana sjemena: 0, 42 i 1738. Pretraživanje je ograničeno na 250 sekundi po zadatku, a u radu stoji da su njegovi hiperparametri pretraživanja "odabrani empirijski".
Upravo ti detalji čine rezultat provjerljivim. Čitatelj koji želi reproducirati rad zna koje postavke upotrijebiti, koliko puta pokrenuti i koliku varijaciju očekivati. Oni ujedno čine granice vidljivima: empirijski odabrane hiperparametre možda treba ponovno podesiti u drugim okruženjima, a vremensko ograničenje znači da neki zadaci mogu propasti zbog nedostatka vremena, a ne zbog nedostatka plana. Navesti oboje dobra je praksa. To je standard koji, smatramo, treba zadovoljiti svaki objavljeni rezultat, uključujući i naše vlastite. Rezultat koji se ne može ponovno pokrenuti može i dalje biti zanimljiv, ali se na njega još ne može pouzdati, a ta je razlika najvažnija kada se rezultatom opravdava neki dizajn.
Riječ postaje oznaka, pa joj treba test
Uspjeh rađa oponašanje, a "neurosimbotičko" danas se primjenjuje na sustave koji nemaju mnogo zajedničkog s arhitekturama iz ovih radova. Jezični model s uputom "razmišljaj korak po korak" ponekad se naziva neurosimbotičkim. Tako i model koji poziva kalkulator, chatbot s pravilima za pozdrave ili sustav za dohvaćanje koji koristi bazu podataka. Svaki od njih spaja nešto neuronsko s nečim što to nije, a riječ postaje besmislena ako obuhvaća sve njih.
Smatramo korisnim primijeniti jednostavan test, izveden iz onoga što je omogućilo rezultate iz 2026. Sustav zaslužuje tu riječ kada njegov simbolički dio ograničava ili provjerava neuronski dio na način koji mijenja ono što sustav može proizvesti i kada se to ograničenje može pregledati.
U radu o utjelovljenom agentu PDDL model prijelaza ograničava dekodiranje na primjenjive radnje. Jezični model doslovno ne može proizvesti nevaljanu radnju. To je ograničenje koje mijenja prostor izlaza, a model prijelaza može pročitati svatko. U radu o GraphRAG-u graf znanja izgrađen je prema deklariranim pravilima iz mjerodavnih zapisa, a jezični model prima dokaze samo iz tog grafa. Podrijetlo svakog brida može se provjeriti. Oba sustava prolaze test.
Uputa koja od modela traži da pažljivo razmišlja ne prolazi. Može poboljšati izlaze, ali ih ne ograničava i ništa se u njoj ne može pregledati kako bi se vidjelo što model smije reći. Model koji smije pozvati kalkulator prolazi samo djelomično: rezultat kalkulatora je točan, ali model odlučuje hoće li ga pozvati i što će s rezultatom učiniti, a ništa ga ne sprječava da rezultat zanemari ili sam izračuna. Test nije stvar čistoće. Stvar je toga odakle dolaze jamstva.
Pitanja koja treba postaviti sustavu koji prisvaja tu riječ
Za organizacije koje procjenjuju sustave opisane kao neurosimboličke, test se prevodi u nekoliko konkretnih pitanja.
Što simbolički dio sprječava? Koristan odgovor navodi klasu izlaza koje sustav ne može proizvesti, poput nevaljanih radnji, nepotkrijepljenih tvrdnji ili kršenja pravila, i objašnjava mehanizam. Odgovor koji kaže da simbolički dio "usmjerava" ili "informira" model, a ne navodi ništa što sprječava, znak je da je jamstvo slabo.
Može li se simbolički dio pročitati? Pravila, ograničenja, ontologije i modeli prijelaza trebali bi biti dostupni na pregled ljudima koji se na sustav oslanjaju, barem u obliku relevantnom za njihove odluke. Ako je simbolički sloj i sam naučena, neprozirna komponenta, ne pruža vrstu jamstva zbog koje su neurosimbolička rješenja vrijedna.
Gdje prestaje podrijetlo? Za svaki odgovor slijedite citate. Vode li do mjerodavnih izvornih zapisa, kroz sljedive korake, ili do posrednih tekstova koje je napisao model? Revizija podrijetla u GraphRAG-u predložak je za tu provjeru.
Gdje su neuspjesi? Zatražite raščlambu slučajeva neuspjeha po komponentama. Dobro raščlanjen sustav trebao bi moći reći nastaju li njegovi neuspjesi u percepciji, utemeljenju, dohvaćanju, zaključivanju ili generiranju. Sustav koji to ne može reći ili nije raščlanjen ili nije mjeren.
Što se bilježi? Pitajte bilježi li sustav put koji je prošao, uključujući što je čitao i koje su komponente pridonijele, a ne samo konačni odgovor. Nalazi agentnog GraphRAG-a pokazuju zašto je to važno.
Ni jedno od ovih pitanja ne zahtijeva duboku stručnost da bi se postavilo. Sva ona razlikuju arhitekture koje pružaju provjerljiva jamstva od sustava koji se služe tim rječnikom.
Zašto je to važno za objašnjenje i nadzor
Ovi rezultati imaju i regulatornu dimenziju koju vrijedi iznijeti, jer povezuje istraživačku arhitekturu s obvezama koje će se primjenjivati na mnoge organizacije.
Akt o umjetnoj inteligenciji zahtijeva podrobna objašnjenja. Članak 13. nalaže da visokorizični sustavi budu osmišljeni tako da njihovi korisnici u primjeni mogu protumačiti njihov izlaz i ispravno ga upotrijebiti. Članak 14. nalaže da osobe zadužene za nadzor mogu ispravno protumačiti izlaz sustava i odlučiti da ga zanemare, nadjačaju ili ponište. Članak 86. daje pogođenim osobama pravo na jasna i smislena objašnjenja uloge sustava umjetne inteligencije u određenim odlukama. Te se obveze primjenjuju na visokorizične sustave od prosinca 2027. ili kolovoza 2028., nakon Digital Omnibusa, ali odluke o dizajnu koje ih čine ostvarivima donose se sada.
Faktorizirani, neurosimbolički sustav daleko je lakše objasniti od end-to-end modela, i to upravo iz razloga koje pokazuju radovi iz 2026. Kada je plan izvediv po konstrukciji u okviru modela prijelaza, objašnjenje zašto je neki korak dopušten svodi se na upućivanje na pravilo koje ga je dopustilo. Kada odgovor citira veze koje se mogu pratiti do mjerodavnih zapisa, objašnjenje zašto je neka tvrdnja iznesena jest lanac zapisa. Kada se pogreške lokaliziraju na komponentu, objašnjenje zašto je sustav pogriješio imenuje tu komponentu. Svako je objašnjenje izjava o nečemu što postoji i što se može pregledati, a ne naknadno racionaliziranje neuronskog izračuna.
To objašnjenje ne čini trivijalnim. Netko ipak mora prevesti pravila i zapise na jezik koji pogođena osoba može razumjeti. No time se priroda zadatka mijenja od rekonstrukcije prema prezentaciji. Rekonstrukcija pita "što je moglo prouzročiti ovaj izlaz?" i može ponuditi samo hipoteze. Prezentacija pita "kako da pokažemo pravila i zapise koji su proizveli ovaj izlaz?" i može ponuditi dokaze. Za nadzor i za pravo na objašnjenje ta je razlika presudna.
To je i razlog zašto smatramo da bi rezultati o učinkovitosti trebali zanimati i regulatore, a ne samo inženjere. Mali, ograničeni model koji je jeftiniji za pokretanje ujedno je i model koji je jeftinije revidirati: može se hostati tamo gdje mu revizor može pristupiti, prikvačiti na verziju za trajanja istrage i deterministički ponovno izvesti na istim ulazima. Argumenti o suverenosti, energiji i odgovornosti za strukturirane male sustave na kraju su isti argument viđen s tri strane.
Što iz toga zaključujemo
Za vlastiti rad, rezultati iz 2026. potvrđuju tri dizajnerske odluke i izoštravaju četvrtu.
Potvrđuju da mali modeli sa strukturom mogu nadmašiti velike modele bez nje na zadacima koji zahtijevaju pouzdanost. To je premisa na kojoj se temelji Loomovo usmjeravanje preko 528 specijalista: na većinu pitanja najbolje odgovara pravi specijalist, često mali model ili simbolički rješavač, a ne najveći dostupni model. Ablacijski test utjelovljenog agenta najočitiji je objavljeni dokaz za koji znamo da ta premisa vrijedi za planiranje.
Potvrđuju da znanje treba graditi iz vjerodostojnih izvora s deklariranim pravilima i citirati prema izvoru. Dweveov sloj znanja citira svaki dio znanja upotrijebljen u odgovoru čvorom i hashom verzije, tako da recenzent može slijediti citat do točnog zapisa i verzije. Revizija provenijencije GraphRAG pokazuje što se gubi kada se taj lanac zaustavi na posredniku koji je napisao model.
Potvrđuju da je bilježenje puta jednako važno kao bilježenje odgovora. Nalaz rada o agentnom GraphRAG-u o posjećenim, ali necitiranim entitetima upravo je razlog zašto Knot bilježi čitanja i međukorake te zašto Loomov trag prikazuje koji su specijalisti pridonijeli.
A oni nam izoštravaju pozornost na utemeljenje. Oba rada smještaju svoje preostale nedostatke na točku na kojoj se svijet, odnosno izvor, prevodi u simbolički prikaz. To je granica na kojoj neuronska percepcija predaje posao simboličkom zaključivanju i upravo se tu treba usredotočiti napor provjere. Simbolički sloj koji besprijekorno zaključuje na pogrešnom stanju daje samouvjeren pogrešan odgovor. Inženjersko pitanje za sljedeću godinu jest kako tu granicu učiniti jednako provjerljivom kao i slojeve s jedne i s druge strane.
Renesansa, s brojevima
Prije godinu dana tvrdnja da će neurosimbolički sustavi nadmašiti čiste jezične modele u zadacima koji zahtijevaju pouzdanost bila je argument. U 2026. ona ima brojeve: više od 90 posto uspjeha malih otvorenih modela u planiranju kućanskih poslova, agent s 4 milijarde parametara koji velikom razlikom pobjeđuje izravnu politiku s 27 milijardi parametara, ograničenja i pretraživanje koji svaki zasebno rješavaju manje od trećine zadataka, a zajedno više od 95 posto, te svaki brid u grafu izgrađenom ontologijom koji se može ustanoviti do svog izvora nasuprot 83 posto za izvučeni graf.
Ti brojevi dolaze s uvjetima, a uvjeti su jednako važni kao i rezultati. No smjer je jasan. Kada AI sustav mora biti točan na načine koji se mogu provjeriti, struktura nije prepreka sposobnosti. Ona je jedan od njezinih izvora.
Zašto je dizajn mjerila jednako važan kao i rezultat
U oba rada postoji šira metodološka pouka koja zaslužuje kratku napomenu, jer se tiče toga kako bi cijelo područje trebalo vrednovati sustave koji tvrde da su pouzdani.
Oba rada mjere nešto drugo, a ne fluentnost. Rad o utjelovljenom agentu mjeri uspjeh: je li kućanski zadatak obavljen u okruženju? Rad o GraphRAG-u mjeri podrijetlo: može li se svaki brid, i svaki citat, ustanoviti do mjerodavnog zapisa? Nijedan se pritom prvenstveno ne oslanja na to čita li se odgovor dobro ili podudara li se s referentnim tekstom. To je značajno jer velik dio vrednovanja AI sustava još uvijek nagrađuje kvalitetu na površini. Radovi iz niza "Why Neighborhoods Matter" i srodna istraživanja o vrednovanju došli su do iste poante iz drugog smjera: leksičko preklapanje s referentnim odgovorom može biti veliko, a dokaz za odgovor ipak izostaje.
Za organizacije koje vrednuju AI sustave za odluke koje su važne, pouka je pitati što neko mjerilo mjeri prije nego što se zapita koliki je rezultat sustav postigao. Sustav koji postiže dobar rezultat na mjerilu utemeljenom na fluentnosti može i dalje proizvoditi planove koji se ne izvršavaju ili odgovore čiji citati nikamo ne vode. Sustav koji postiže dobar rezultat na izvedivosti ili podrijetlu pokazao je nešto bliže onome što donositelju odluke treba. Voljeli bismo vidjeti više evaluacija u nabavi osmišljenih onako kako su osmišljena ova dva rada: sa zadatkom koji ili uspijeva ili ne uspijeva na provjerljiv način, i s revizijom toga odakle potječe dokaz za svaki odgovor.
Izvori
- Neurosymbolic Embodied Agents, Albinhassan, Feng, Russo i Madhyastha, arXiv, kolovoz 2026. Korišteno za citirani sažetak, dvofaznu metodu, ablaciju komponenti (tablica 2), postavke dekodiranja (tablica 3), prikaze odgovora na pogreške (tablica 10), stope uspješnosti na VirtualHome i ALFWorld, usporedbu s izravnom politikom od 27B, ablaciju ograničenja i pretraživanja, učinkovitost tokena i lokalizaciju pogrešaka.
- Ontology-guided neuro-symbolic GraphRAG for grounded query answering, Domenico Benfenati i Antonio Maria Rinaldi, Neural Computing and Applications, 2026. Korišteno za metodu konstrukcije, reviziju podrijetla, preciznost citiranja i dizajn evaluacije.
- Why Neighborhoods Matter: Traversal Context and Provenance in Agentic GraphRAG, arXiv, svibanj 2026. Korišteno za nalaz da završni citati ne obuhvaćaju cjelokupnu dokaznu osnovu agentskih odgovora te za navedena ograničenja studije.
- Article 13: Transparency and provision of information to deployers, Europska komisija, AI Act Service Desk. Korišteno za zahtjev za interpretabilnost kod sustava visokog rizika.
- Article 14: Human oversight, Europska komisija, AI Act Service Desk. Korišteno za mogućnosti nadzora.
- Article 86: Right to explanation of individual decision-making, Europska komisija, AI Act Service Desk. Korišteno za pravo na objašnjenje.
- Towards A Rigorous Science of Interpretable Machine Learning, Finale Doshi-Velez i Been Kim, arXiv, 2017. Korišteno za citirano zapažanje o nedostatku konsenzusa oko interpretabilnosti.
- Stop Explaining Black Box Machine Learning Models for High Stakes Decisions and Use Interpretable Models Instead, Cynthia Rudin, arXiv, 2018. Korišteno za citirani argument u prilog inherentno interpretabilnih modela.
- Sanity Checks for Saliency Maps, Julius Adebayo i drugi, arXiv, 2018. Korišteno za citirani nalaz da su neke metode istaknutosti neovisne o modelu i podacima.