Dweve

Neuro-simbolic, după un an: ce arată de fapt cercetarea din 2026

Acum un an susțineam că următorul pas în AI va îmbina modelele învățate cu structura explicită. Cercetările din 2026 dau acum cifre acelui argument....

Neuro-simbolic, după un an: ce arată de fapt cercetarea din 2026

Acum un an, argumentul era în mare parte doar un argument

În noiembrie 2025 am publicat "The neuro-symbolic renaissance", un eseu în care susțineam că cele mai utile sisteme de IA din următorii ani nu vor fi doar modele lingvistice mai mari. Ele vor combina modele învățate, bune la percepție, limbaj și tipare, cu structură simbolică explicită, bună la reguli, constrângeri, proveniență și demonstrație. Am susținut acest argument pornind de la principii fundamentale și din propria noastră experiență de inginerie, pentru că așa este construit Dweve: Loom, motorul nostru de raționament, direcționează munca prin 528 de specialiști, dintre care mulți sunt rezolvitori simbolici, verificatori și motoare de reguli, nu rețele neuronale, iar răspunsul returnat include o urmă a ceea ce a făcut fiecare parte.

Un argument pornit de la principii fundamentale este un punct de plecare rezonabil. Nu este o dovadă. Așa că merită să ne întrebăm, un an mai târziu, ce arată acum cercetarea publicată. Nu comunicatele de presă și nu entuziasmul general pentru cuvântul "neurosymbolic", care a devenit suficient de la modă încât să fie aplicat aproape oricărui lucru. Rezultatele specifice, măsurate.

Două lucrări din 2026 sunt deosebit de utile, pentru că testează direct afirmațiile centrale și raportează cifre care pot fi verificate. Una privește agenții care trebuie să acționeze într-o lume: adăugarea de constrângeri simbolice și căutare la un model lingvistic face planurile sale executabile? Cealaltă privește răspunsul la întrebări pe baza cunoștințelor: construirea structurii de cunoștințe în mod determinist din surse autoritare, în loc să fie extrasă cu un model lingvistic, face răspunsurile mai ușor de urmărit? Ambele răspund da, cu marje largi. Și ambele sunt atente la ceea ce nu au demonstrat, ceea ce este cel puțin la fel de instructiv ca ceea ce au demonstrat.

Plauzibil nu este același lucru cu executabil

Prima lucrare, "Neurosymbolic Embodied Agents" de Albinhassan, Feng, Russo și Madhyastha, publicată pe arXiv în august 2026, pornește de la o observație pe care oricine a încercat să folosească un model lingvistic ca planificator o va recunoaște. Modelele lingvistice și cele vizual-lingvistice, se arată în rezumat, "generează planuri corporale plauzibile, dar nu garantează executabilitatea, deoarece rezultatele lor pot încălca dinamica mediului sau pot acționa asupra unor entități fundamentate incorect."

Distincția dintre plauzibil și executabil este întreaga problemă într-o singură frază. Un model căruia i se cere să facă o ceașcă de ceai într-o bucătărie simulată va produce o secvență de pași care se citește bine: du-te în bucătărie, ia ibricul, umple-l, pornește-l. Dar poate încerca să ia un ibric care nu este acolo, sau să umple un ibric care se află într-un dulap închis, sau să toarne dintr-un ibric care nu a fiert. Fiecare pas este plauzibil. Planul în ansamblu eșuează, pentru că modelul nu urmărește starea lumii și regulile prin care acțiunile o schimbă.

Agentul din lucrare împarte sarcinile casnice de lungă durată în două faze. În prima, un model vizual-lingvistic și un cadru de explorare dobândesc predicate relevante pentru obiectiv și legături de instanță din observații egocentrice și interacțiuni fundamentate, producând o descriere simbolică a stării inițiale: acest ibric este aici, acest dulap este închis, această ceașcă este goală. În a doua, un model de tranziție PDDL, o descriere formală a acțiunilor aplicabile în anumite stări și a ceea ce schimbă ele, "restricționează decodarea la tokenii care extind acțiunile aplicabile." Modelul lingvistic poate genera doar acțiuni pe care modelul simbolic le declară posibile. Căutarea în arbore Monte Carlo evaluează apoi continuările executabile folosind o euristică de planificare independentă de domeniu.

Consecința, în cuvintele autorilor, este că "planurile rezultate sunt executabile prin construcție în cadrul modelului de tranziție, cu transferul către mediu condiționat de o fundamentare vizuală corectă." Această ultimă propoziție este importantă și revenim la ea mai jos.

Rezumat după Albinhassan, Feng, Russo și Madhyastha, Neurosymbolic Embodied Agents, arXiv 2608.16794.

Modelele mici cu constrângeri depășesc un model mare fără constrângeri

Rezultatele sunt izbitoare. Pe două benchmark-uri standard pentru sarcini casnice, VirtualHome și ALFWorld, rezumatul raportează că „modelele deschise de 4B-27B depășesc 90% rată de succes în ambele medii, iar cel mai mic agent al nostru depășește substanțial o politică vizuală directă de 27B în fiecare dintre ele.” În rezultatele lucrării, ratele de succes variază între 94,5 și 99,5 la sută pe VirtualHome și între 90,3 și 97,8 la sută pe ALFWorld, în funcție de dimensiunea modelului. Agentul cu 4 miliarde de parametri depășește politica vizuală directă cu 27 de miliarde de parametri cu 32,0 puncte procentuale pe un benchmark și cu 63,4 pe celălalt.

Al doilea rezultat merită citit încet. Un model de aproximativ șapte ori mai mic, căruia i se oferă o structură explicită despre lume și o procedură de căutare peste acțiuni executabile, se descurcă mult mai bine decât un model mult mai mare căruia i se cere să acționeze direct. Diferența nu este o reglare marginală. Este diferența dintre un sistem care funcționează în mare parte și unul care în mare parte nu funcționează.

Pentru oricine se preocupă de costul, consumul de energie și controlabilitatea sistemelor de IA, acest lucru contează. Un model mic deschis poate rula pe hardware modest, poate fi inspectat, poate fi fixat la o versiune și poate fi găzduit oriunde alege operatorul. Dacă adăugarea de structură permite unui astfel de model să depășească un model mare la sarcini care necesită acțiune fiabilă, atunci argumentele privind suveranitatea și eficiența pentru modelele mici devin mult mai puternice. Dimensiunea nu este singura cale către capabilitate. Structura este o alta.

Constrângerile și căutarea se completează reciproc, nu se înlocuiesc

Cea mai interesantă constatare, pentru noi, este o ablație. Autorii au testat constrângerile și căutarea separat. În ALFWorld, fiecare singură „rezolvă sub o treime din sarcini, în timp ce combinația lor rezolvă peste 95%.” Cifrele detaliate sunt 32,3 la sută pentru constrângeri singure și 29,2 la sută pentru căutare singură, față de 95,5 la sută combinate.

Acesta este un rezultat pe care o poveste simplă despre IA neurosimbolică nu l-ar prezice. Te-ai putea aștepta ca constrângerile, împiedicând acțiunile invalide, să facă cea mai mare parte a muncii, iar căutarea să adauge puțin. Sau ca căutarea, explorând multe căi, să găsească planuri bune, iar constrângerile doar să o accelereze. În schimb, fiecare singură eșuează la majoritatea sarcinilor, iar împreună reușesc la aproape toate.

Intuiția nu este greu de reconstruit. Constrângerile fără căutare garantează că fiecare pas este valid, dar nu fac nimic pentru a se asigura că succesiunea de pași valizi ajunge la țintă. Un model poate rătăci prin bucătărie executând la nesfârșit acțiuni perfect legale. Căutarea fără constrângeri explorează multe continuări, dar cele mai multe dintre ele includ acțiuni invalide, așa că spațiul de căutare este dominat de planuri care vor eșua, iar euristica are puține la dispoziție. Împreună, constrângerile reduc spațiul la planuri valide, iar căutarea le găsește pe cele bune dintre ele.

Această complementaritate este, în opinia noastră, cel mai puternic sprijin empiric de până acum pentru afirmația arhitecturală pe care am făcut-o acum un an. Valoarea nu constă în a atașa un modul simbolic la unul neural. Ea constă într-o împărțire specifică a muncii, în care fiecare parte face ceea ce face bine și compensează slăbiciunea celeilalte.

Cifrele raportate în arXiv 2608.16794. Fiecare componentă singură rezolvă mai puțin de o treime dintre sarcini.

Mai puține tokenuri și eșecuri care indică un loc

Două rezultate suplimentare din lucrare pot fi ușor trecute cu vederea și merită atenție.

Primul este eficiența. Rezumatul raportează că metoda "folosește de câteva ori mai puține tokenuri generate decât gândirea extinsă și mult mai puține imagini vizibile modelului decât interacțiunea directă". În lucrare, reducerea tokenurilor față de gândirea extinsă este raportată ca fiind de până la patru ori. Gândirea extinsă, în care un model scrie lanțuri lungi de raționament înainte de a acționa, este principala strategie alternativă pentru îmbunătățirea fiabilității planurilor modelului. Funcționează într-o anumită măsură, dar este costisitoare: fiecare token de raționament este calculat și, pe serviciile găzduite, plătit. O metodă care obține rezultate mai bune cu o fracțiune din tokenuri este mai bună atât la cost și energie, cât și la succes.

Al doilea este diagnozabilitatea. Rezumatul notează că "eșecurile reziduale se localizează la achiziția stării, nu la generarea planului, fără nicio instruire specializată." Când agentul eșuează, eșuează pentru că imaginea sa despre lume era greșită, nu pentru că a planificat prost având în vedere acea imagine. Este exact ceea ce ai spera de la un sistem ale cărui planuri sunt executabile prin construcție. De asemenea, îi spune inginerului unde să lucreze în continuare. Într-un sistem neural end-to-end, un eșec este adesea o proprietate difuză a întregului model, iar singurul remediu este mai multe date sau un model mai mare. Într-un sistem factorizat, un eșec are o adresă.

Considerăm că diagnozabilitatea este subevaluată în cercetarea AI. Un sistem care eșuează mai rar este bun. Un sistem ale cărui eșecuri pot fi localizate, explicate și corectate este mai bun, pentru că poate fi îmbunătățit în mod deliberat și pentru că comportamentul său poate fi considerat de încredere în cazurile în care componentele sale sunt cunoscute ca fiabile.

Același tipar apare în răspunsul la întrebări

A doua lucrare abordează o problemă diferită, cu un rezultat izbitor de asemănător. „Ontology-guided neuro-symbolic GraphRAG for grounded query answering”, de Domenico Benfenati și Antonio Maria Rinaldi de la Universitatea din Napoli Federico II, a fost publicată în Neural Computing and Applications în octombrie 2026. Ea studiază răspunsul la întrebări pe cunoștințe de securitate cibernetică: vulnerabilități, slăbiciuni, tipare de atac și produse afectate, preluate din depozite publice precum CVE, CWE, CAPEC și CPE.

Comparația este între două moduri de a construi graful de cunoștințe pe care se bazează un model lingvistic atunci când răspunde la întrebări. În abordarea GraphRAG, larg utilizată, un model lingvistic citește text nestructurat și extrage entități, relații și rezumate de comunitate, care apoi servesc drept substrat pentru regăsire. În abordarea autorilor, graful este materializat de sus în jos din depozitele autoritative, prin crawling țintit, unificarea schemei condusă de ontologie și inferență simbolică bazată pe reguli, cum ar fi înlănțuirea tranzitivă și impactul multi-hop asupra produselor. Ontologia însăși este derivată din structura domeniului depozitelor reale, nu sintetizată de un model. Modelului lingvistic i se furnizează apoi dovezi din acest graf, într-un flux pe care autorii îl descriu ca strict unidirecțional: substratul simbolic este „pe deplin determinist, păstrează proveniența și poate fi inspectat în mod independent”.

Auditul provenienței este experimentul cel mai revelator. În graful condus de ontologie, 100 la sută dintre muchiile eșantionate erau trasabile până la înregistrări sursă autoritative sau la reguli de inferență declarate. În graful extras de LLM, 83 la sută erau trasabile, iar doar 58 la sută conectau puncte finale cu identificatori canonici. Diferența se reflectă și în răspunsuri: sistemul condus de ontologie a atins o precizie a citărilor de 95 la sută, față de 66 la sută pentru varianta de referință GraphRAG.

Explicația structurală a autorilor este partea importantă. În GraphRAG extras de LLM, răspunsurile se bazează pe rezumate scrise de același tip de model care generează răspunsul, astfel încât lanțul provenienței se oprește la un intermediar neural în loc să ajungă la o înregistrare autoritativă. O citare a unui rezumat scris de un model este o citare a unei interpretări. O citare a unei înregistrări sursă, prin muchii care pot fi fiecare trasate până la acea înregistrare sau la o regulă declarată, este o citare a unei dovezi.

Cifrele raportate de Benfenati și Rinaldi, Neural Computing and Applications, 2026, pe un corpus de securitate cibernetică.

Citările nu acoperă toată proveniența

O a treia lucrare, mai scurtă, din 2026 aduce o complicație utilă. "Why Neighborhoods Matter: Traversal Context and Provenance in Agentic GraphRAG", publicată pe arXiv în mai 2026, studiază sisteme în care un agent explorează un graf de cunoștințe înainte de a răspunde și apoi citează un set restrâns de entități. Lucrarea ridică întrebarea dacă citările finale sunt suficiente pentru a explica dovezile de care a depins răspunsul.

Concluzia este că nu sunt. Entitățile citate contează de obicei: eliminarea lor schimbă substanțial răspunsurile și reduce acuratețea. Dar experimentele arată că un răspuns corect depinde și de parcurgerea grafului, de structura vecinătății și de entitățile pe care agentul le-a vizitat fără să le citeze. Autorii concluzionează că o citare fidelă "ar trebui să țină seama și de contextul grafului și de traseul de regăsire care modelează răspunsul final."

Această constatare ascute lecția lucrării lui Benfenati și Rinaldi. Un graf determinist și trasabil este necesar pentru răspunsurile ale căror dovezi pot fi verificate. Nu este suficient dacă sistemul înregistrează doar ce citează, nu și ce a citit. Proveniența trebuie să includă traseul, nu doar destinația. Și, întâmplător, este exact concluzia la care am ajuns din partea de inginerie când am proiectat Knot, jurnalul de evenimente pe care îl publicăm pe trimestrul IV 2026: înregistrarea unei rulări de agent trebuie să cuprindă fiecare citire și fiecare pas intermediar, nu doar rezultatul final, pentru că pașii sunt cei care explică rezultatul.

Ce nu arată rezultatele

Ambele lucrări principale sunt atente la limitele lor, iar aceste limite merită spuse direct, pentru că entuziasmul față de un rezultat are tendința de a-i șterge condițiile.

Rezultatele privind agenții întrupați sunt din simulare. VirtualHome și ALFWorld sunt benchmark-uri bine stabilite, dar sunt medii casnice simulate, cu dinamici cunoscute. Garanția că planurile sunt executabile "prin construcție" este valabilă în cadrul modelului de tranziție, adică în cadrul descrierii simbolice a modului în care funcționează lumea. Dacă această descriere este greșită sau incompletă, garanția nu se transferă. În lumea reală, scrierea unui model de tranziție complet și corect este dificilă, iar lumea are obiceiul de a include lucruri pe care modelul nu le-a anticipat.

Aceleași rezultate depind de o ancorare vizuală corectă. Articolul o spune explicit. Dacă în faza de explorare un obiect este identificat greșit sau trecut cu vederea, starea simbolică devine incorectă, iar un plan perfect executabil pornind de la o stare greșită poate eșua în realitate. Constatarea lucrării că eșecurile reziduale se localizează în achiziția stării este o veste bună pentru diagnosticare și, totodată, o reamintire că percepția rămâne partea dificilă.

Rezultatele GraphRAG provin dintr-un singur domeniu, securitatea cibernetică, unde există depozite structurate de încredere cu identificatori stabili. Multe domenii nu arată așa. Acolo unde cunoștințele se află în principal în documente nestructurate, fără identificatori canonici, materializarea de sus în jos nu este disponibilă, iar o formă de extragere devine inevitabilă. Metoda din lucrare arată ce devine posibil atunci când există surse bune. Nu arată cum să le creezi acolo unde nu există.

Evaluarea GraphRAG privind corectitudinea răspunsurilor a folosit un model lingvistic ca judecător, Gemini 2.5 Flash, pe cincisprezece întrebări pentru fiecare sarcină. Este un design rezonabil pentru o lucrare de cercetare, iar auditul de proveniență reprezintă o măsurătoare mai directă. Totuși, cititorii ar trebui să trateze cifrele privind calitatea răspunsurilor ca orientative, nu ca definitive, și cifrele privind proveniența ca pe rezultatul mai solid.

Niciuna dintre aceste limite nu slăbește lucrările. Sunt condițiile normale ale unei cercetări bune. Dar contează pentru oricine este tentat să citească „neurosimbólic” ca pe o soluție generală. Este un set de alegeri arhitecturale care funcționează foarte bine atunci când premisele lor sunt îndeplinite: un model simbolic corect al domeniului, o ancorare fiabilă a percepției în acel model și surse de încredere pentru cunoștințe. O mare parte din munca practică constă în stabilirea acestor premise.

Ce se întâmplă după prima greșeală

Ratele de succes îți spun cât de des un sistem finalizează o sarcină. Nu îți spun cum se comportă când ceva merge prost, ceea ce este adesea întrebarea mai importantă pentru oricine trebuie să îl implementeze. Lucrarea despre agentul întruchipat include o anexă care răspunde la această întrebare și este una dintre cele mai revelatoare părți ale cercetării.

Autorii au măsurat ce au făcut politicile „după prima execuție eșuată sau care nu a putut fi ancorată”, raportând cât de des sarcinile au conținut un astfel de eveniment, cât de des politica a reușit ulterior să recupereze sarcina, cât de des a repetat imediat cererea eșuată și cât de des a intrat într-o buclă de acțiuni persistentă. Rezultatele pentru politicile vizuale directe, care planifică fără constrângerile simbolice, sunt izbitoare.

În VirtualHome, politica directă Qwen de 4B a întâmpinat un eșec în 64,5 la sută dintre sarcini. A recuperat sarcina în 5,4 la sută dintre aceste cazuri, a repetat imediat cererea eșuată în 74,5 la sută și a ajuns într-o buclă persistentă în 45,5 la sută. În ALFWorld, același model a întâmpinat un eșec în 73,9 la sută dintre sarcini, a recuperat în 1,0 la sută și a ajuns într-o buclă persistentă în 94,8 la sută. Cel mai mare model direct s-a descurcat mai bine, cum era de așteptat: în VirtualHome, politica de 27B a întâmpinat un eșec în 29,0 la sută dintre sarcini, a recuperat în 37,9 la sută, a repetat cererea în 8,3 la sută și a intrat în buclă în 9,5 la sută. În ALFWorld, chiar și acel model a recuperat în doar 25,7 la sută dintre cazuri.

Introducerea lucrării explică de ce se întâmplă asta. O politică directă trebuie să identifice obiecte, să le urmărească starea, să selecteze acțiuni aplicabile și să raționeze despre efecte întârziate „în interiorul unui singur istoric autoregresiv, unde se pot acumula liber”. Autorii observă că „feedbackul de execuție poate expune o astfel de eroare după ce apare, dar nu împiedică modelul să repete o alegere invalidă sau să se abată de la starea indusă de propriile acțiuni.”

Acea frază descrie un tipar pe care mulți îl vor recunoaște la agenții din afara laboratorului. Un agent încearcă ceva, eșuează, eroarea îi este transmisă înapoi, iar agentul încearcă din nou același lucru sau unul echivalent. Feedbackul este informație, dar informația nu constrânge. Unui sistem care tratează validitatea acțiunilor ca pe ceva ce trebuie dedus, nu impus, i se poate spune că a greșit fără a fi împiedicat să greșească din nou.

Abordarea constrânsă schimbă acest lucru făcând din aplicabilitate, în formularea din lucrare, "o constrângere menținută pe tot parcursul generării și căutării". O acțiune ale cărei precondiții nu sunt îndeplinite nu este niciodată produsă, așa că nu există nimic de repetat. Asta nu face sistemul infailibil. Mută eșecul într-un alt loc.

Cifre din Tabelul 10 al lui Albinhassan și colegii, 2026, pentru politici directe fără constrângeri simbolice. Procentaje; recuperarea și repetarea se referă la sarcinile care au întâmpinat un eșec.

Lucrarea își localizează propriile eșecuri

O prezentare onestă a rezultatelor trebuie să spună unde eșuează agentul constrâns, iar lucrarea o face. Planificatorul său simbolic poate planifica doar pe baza stării care i se furnizează. Când etapa de explorare vizuală omite un obiect necesar, scriu autorii, "eșecul se propagă apoi pentru că starea inițială fundamentată omite un obiect necesar. Aceasta este o limitare a componentei de achiziție a stării vizuale, nu a garanției de aplicabilitate."

Distincția contează. Garanția pe care o oferă sistemul este îngustă și puternică: fiecare acțiune pe care o planifică este aplicabilă în starea în care crede că se află. Dacă această credință corespunde realității depinde de percepție, iar percepția este încă realizată de un model neural, cu toată incertitudinea pe care o implică. Autorii se așteaptă ca "îmbunătățirile în recunoașterea vizuală și selecția activă a punctului de vedere să se transfere direct către metoda completă", ceea ce este o așteptare rezonabilă și, totodată, o reamintire că partea simbolică nu poate compensa ceea ce partea neurală nu reușește să vadă.

Pentru cei care evaluează astfel de sisteme, lecția este să întrebe unde se oprește garanția. Un sistem neurosimbolic oferă de obicei certitudine cu privire la o parte a procesului (planul este valid, inferența decurge din reguli, răspunsul este susținut de graf) și moștenește incertitudinea din părțile care îl alimentează. Un sistem bun face această graniță vizibilă. Înregistrează ce a perceput, ce a presupus și ce a derivat, astfel încât un evaluator să poată spune dacă un eșec a venit din raționament sau din datele de intrare ale raționamentului.

De aceea este atât de valoroasă analiza eșecurilor de tipul celei din anexa lucrării. Faptul de a ști că un sistem eșuează în principal la fundamentare, nu la planificare, îi spune unui inginer unde să investească și îi spune unui implementator ce tip de supraveghere este necesar. Un evaluator uman care verifică munca unui agent constrâns ar trebui să verifice imaginea acestuia despre lume, nu aritmetica sa.

Studiul de traversare este mic și o spune

Lucrarea despre contextul de traversare este atentă și la propriile limite. Autorii ei scriu că studiul „este limitat de dimensiunea mică a benchmark-ului și de utilizarea unui graf de cunoștințe controlat, construit din 2WikiMultiHopQA, în locul unui graf de cunoștințe extins din lumea reală”. Ei cer evaluare „pe seturi de date mai mari, structuri de graf mai bogate și baze de cunoștințe specifice domeniului”, precum și mecanisme de citare „care să expună nu doar entitățile finale de susținere, ci și contextul de traversare relevant”.

Această sinceritate este utilă. Concluzia, că citările sunt necesare, dar nu suficiente pentru a justifica răspunsul unui agent, este plauzibilă și importantă, însă se bazează pe un cadru controlat. Înainte ca cineva să construiască politici pe baza ei, ar trebui reprodusă pe tipurile de grafuri pe care le folosesc sistemele reale: baze de cunoștințe de întreprindere, corpusuri de reglementări, cataloage de produse. Până atunci, cel mai bine este citită ca un avertisment bine conceput, nu ca o măsurătoare definitivă.

Avertismentul merită totuși luat în seamă. Autorii concluzionează că „proveniența în regăsirea agentică bazată pe grafuri ar trebui tratată ca o proprietate la nivel de traiectorie”. Pentru cei care construiesc sisteme, asta înseamnă să înregistreze traseul, nu doar destinația: ce entități au fost vizitate, ce muchii au fost urmate, ce vecini au fost văzuți și nu au fost citați. O listă de citări este un rezumat al acelui traseu. Ca orice rezumat, poate fi exact și totuși poate omite ceva important.

Există un cost practic al înregistrării traseului, și trebuie menționat. Înregistrările de traversare sunt mai voluminoase decât listele de citări, pot conține materiale care nu au fost niciodată arătate utilizatorului și necesită aceeași atenție privind accesul și păstrarea ca orice alt jurnal. Dar alternativa este mai rea. Când un răspuns este contestat, un sistem care a păstrat doar citările poate arăta spre ce a indicat. Un sistem care și-a păstrat traiectoria poate arăta cum a ajuns acolo, iar aceasta este întrebarea pe care o va pune de fapt un evaluator. Pentru regăsirea agentică, această diferență va decide probabil dacă o explicație este acceptată sau doar tolerată.

Argumentul mai vechi despre explicație se aplică în continuare

Nimic din toate acestea nu este nou în esență. Dezbaterea despre explicație în învățarea automată durează de ani de zile, iar rezultatele din 2026 se încadrează în ea, fără a o înlocui.

În 2017, Finale Doshi-Velez și Been Kim observau că „în ciuda interesului pentru interpretabilitate, există foarte puțin consens cu privire la ce este învățarea automată interpretabilă și cum ar trebui măsurată”. În 2018, Cynthia Rudin susținea că „încercarea de a explica modele de tip black box, în loc de a crea modele care sunt interpretabile de la bun început, este probabil să perpetueze practici dăunătoare și poate cauza daune catastrofale societății”. În același an, Julius Adebayo și colegii săi au arătat că unele metode de saliență „sunt independente atât de model, cât și de procesul de generare a datelor”, producând explicații similare indiferent dacă modelul învățase ceva sau nu.

Rezultatele privind planificarea constrânsă și GraphRAG pot fi citite ca dovezi pentru poziția lui Rudin într-un cadru nou. Când planul este produs printr-o căutare peste reguli explicite, validitatea lui este o proprietate a modului în care a fost creat, iar o explicație a motivului pentru care a fost aleasă o acțiune poate fi citită din căutare. Când un răspuns este produs prin traversarea unui graf, proveniența lui este o proprietate a traversării, cu condiția ca traversarea să fie înregistrată. În ambele cazuri, explicația nu este interpretarea unui al doilea model asupra primului. Este înregistrarea a ceea ce a făcut primul.

Ceea ce adaugă rezultatele din 2026 este o dovadă că acest tip de sistem poate avea și performanțe bune. Vechea obiecție față de abordările interpretabile era că prețul lor este acuratețea. Rezultate precum acestea, în care modelele mici cu constrângeri le depășesc pe cele mai mari fără constrângeri la sarcini structurate, nu tranșează acea întrebare în general. Arată totuși că, pentru sarcinile cu reguli explicite și cu rezultate care pot fi verificate, compromisul nu este cel pe care lumea îl presupunea.

Gândirea mai lungă nu a ajutat, iar benchmark-ul ușor ascunde acest lucru

Ablația componentelor din lucrarea despre agentul întruchipat conține încă două detalii care merită atenție, pentru că contrazic presupunerile obișnuite.

Primul privește gândirea extinsă. Cu modelul Qwen de 27B, decodarea greedy simplă a atins o rată de succes de 61,0 la sută în VirtualHome și de 15,4 la sută în ALFWorld. Același model, în modul de gândire, cu un buget de până la 32.768 de tokenuri de ieșire, conform setărilor de decodare din lucrare, a atins 59,0 și 16,9 la sută. A-l lăsa pe model să raționeze mult mai pe larg nu a făcut, în esență, nicio diferență. Adăugarea constrângerilor de aplicabilitate la decodarea greedy a ridicat, în schimb, rata de succes în VirtualHome de la 61,0 la 98,5 la sută. În cuvintele autorilor, aceasta arată că „constrângerile de aplicabilitate sunt responsabile de cea mai mare parte a câștigului”.

Este un corectiv util al ideii că mai multe tokenuri de raționament ar fi un remediu general pentru erorile de planificare. Când eroarea constă în alegerea unei acțiuni ale cărei precondiții nu sunt îndeplinite, mai multă deliberare internă nu o oprește în mod fiabil. O regulă care face imposibile astfel de acțiuni o oprește.

Al doilea detaliu privește dificultatea benchmark-ului. În VirtualHome, căutarea fără constrângeri, singură, a atins 99,0 la sută, la fel ca metoda completă, deși autorii notează că a făcut-o „cu un cost de generare mai mare”, așa cum arată figurile lor. Un cititor care privește doar VirtualHome ar putea concluziona că nu are nevoie decât de căutare. ALFWorld arată altceva: constrângerile singure au atins 32,3 la sută, căutarea fără constrângeri 29,2 la sută, iar combinația 95,5 la sută. Autorii pun diferența mai mare pe seama unei probleme de planificare mai dificile. Planurile reușite ale modelului de 27B au avut în medie 8,0 acțiuni de nivel înalt în ALFWorld și 6,4 în VirtualHome, cu maxime de 30 și opt, iar ALFWorld „introduce mai multe legături de instanțe și recipiente la fiecare etapă”.

Lecția generală este că un benchmark ușor poate face ca două proiectări diferite să pară echivalente. Diferențele apar abia când problema devine suficient de lungă și suficient de constrânsă. Oricine compară arhitecturi de agenți ar trebui să le testeze pe sarcini cel puțin la fel de lungi și la fel de strict constrânse ca cele pe care intenționează să le implementeze, nu pe cele mai scurte sarcini disponibile.

Experimentele sunt reproductibile prin proiectare

Încă un aspect al lucrării merită remarcat, pentru că se leagă de o temă din altă parte a acestei serii. Autorii își publică integral setările de decodare. Fazele Qwen cu constrângeri rulează la temperatura 0,0. Acolo unde se folosește eșantionarea nucleus, pentru rulările suplimentare de gândire și pentru variantele de referință întruchipate, evaluările se repetă cu trei seed-uri numite: 0, 42 și 1738. Căutarea este limitată la 250 de secunde pe sarcină, iar lucrarea precizează că hiperparametrii săi de căutare "au fost selectați empiric".

Aceste detalii sunt cele care fac un rezultat verificabil. Un cititor care vrea să reproducă lucrarea știe ce setări să folosească, câte rulări să facă și la câtă variație să se aștepte. Ele fac vizibile și limitele: hiperparametrii aleși empiric pot avea nevoie de o nouă reglare în alte medii, iar o limită de timp înseamnă că unele sarcini pot eșua din lipsă de timp, nu din lipsă de plan. A le preciza pe ambele este o bună practică. Este standardul la care credem că ar trebui să se ridice orice rezultat publicat, inclusiv al nostru. Un rezultat care nu poate fi rulat din nou poate rămâne interesant, dar nu se poate încă conta pe el, iar diferența contează cel mai mult atunci când rezultatul este folosit pentru a justifica o proiectare.

Cuvântul devine o etichetă, așa că are nevoie de un test

Succesul aduce imitație, iar „neurosimbolic” se aplică acum unor sisteme care au puțin în comun cu arhitecturile din aceste lucrări. Un model lingvistic cu un prompt care spune „gândește pas cu pas” este uneori numit neurosimbolic. La fel este numit și un model care apelează un calculator, un chatbot cu un salut bazat pe reguli sau un sistem de regăsire care folosește o bază de date. Fiecare dintre acestea combină ceva neuronal cu ceva care nu este, iar cuvântul își pierde sensul dacă le cuprinde pe toate.

Ni se pare util să aplicăm un test simplu, derivat din ceea ce a făcut ca rezultatele din 2026 să funcționeze. Un sistem merită acest cuvânt atunci când partea sa simbolică constrânge sau verifică partea neuronală într-un mod care schimbă ceea ce sistemul poate produce și când această constrângere poate fi inspectată.

În lucrarea despre agentul întruchipat, modelul de tranziție PDDL restricționează decodarea la acțiunile aplicabile. Modelul lingvistic literalmente nu poate produce o acțiune invalidă. Aceasta este o constrângere care schimbă spațiul de ieșire, iar modelul de tranziție poate fi citit de oricine. În lucrarea GraphRAG, graful de cunoștințe este construit după reguli declarate, din înregistrări autoritare, iar modelul lingvistic primește dovezi doar din acel graf. Proveniența fiecărei muchii poate fi verificată. Ambele sisteme trec testul.

Un prompt care cere unui model să raționeze cu atenție nu trece testul. Poate îmbunătăți rezultatele, dar nu le constrânge, și nimic din el nu poate fi inspectat pentru a vedea ce îi este permis modelului să spună. Un model care poate apela un calculator trece doar parțial: rezultatul calculatorului este exact, dar modelul decide dacă îl apelează și ce face cu rezultatul, iar nimic nu îl împiedică să ignore rezultatul sau să facă singur calculele. Testul nu are în vedere puritatea. Are în vedere de unde vin garanțiile.

Întrebări de adresat unui sistem care revendică acest cuvânt

Pentru organizațiile care evaluează sisteme descrise ca neurosimbolice, testul se traduce prin câteva întrebări concrete.

Ce anume împiedică partea simbolică? Un răspuns util numește o clasă de rezultate pe care sistemul nu le poate produce, cum ar fi acțiuni invalide, afirmații nejustificate sau încălcări de reguli, și explică mecanismul. Un răspuns care spune că partea simbolică „ghidează” sau „informează” modelul, fără a numi ceva ce împiedică, este un semn că garanția este slabă.

Poate fi citită partea simbolică? Regulile, constrângerile, ontologiile și modelele de tranziție ar trebui să fie disponibile pentru inspecție persoanelor care se bazează pe sistem, cel puțin în forma relevantă pentru deciziile lor. Dacă stratul simbolic este el însuși o componentă învățată și opacă, atunci nu oferă tipul de garanție care face valoroase arhitecturile neurosimbilice.

Unde se oprește proveniența? Pentru orice răspuns, urmăriți citările. Duc ele la înregistrări sursă autoritare, prin pași trasabili, sau la texte intermediare scrise de un model? Auditul de proveniență GraphRAG este un model pentru această verificare.

Unde apar eșecurile? Cereți o defalcare a cazurilor de eșec pe componente. Un sistem bine structurat ar trebui să poată spune dacă eșecurile sale apar în percepție, ancorare, regăsire, raționament sau generare. Un sistem care nu poate spune acest lucru fie nu este structurat pe componente, fie nu este măsurat.

Ce se înregistrează? Întrebați dacă sistemul înregistrează traseul urmat, inclusiv ce a citit și ce componente au contribuit, nu doar răspunsul final. Constatările agentice din GraphRAG arată de ce contează acest lucru.

Niciuna dintre aceste întrebări nu necesită expertiză profundă pentru a fi pusă. Toate separă arhitecturile care oferă garanții verificabile de sistemele care folosesc vocabularul.

De ce contează acest lucru pentru explicare și supraveghere

Există o dimensiune de reglementare a acestor rezultate care merită scoasă în evidență, deoarece leagă arhitectura de cercetare de obligații care se vor aplica multor organizații.

AI Act cere foarte multe explicații. Articolul 13 impune ca sistemele cu risc ridicat să fie proiectate astfel încât operatorii de implementare să le poată interpreta rezultatele și să le folosească în mod adecvat. Articolul 14 prevede că persoanele însărcinate cu supravegherea trebuie să poată interpreta corect rezultatele sistemului și să decidă să le ignore, să le anuleze sau să le inverseze. Articolul 86 le acordă persoanelor afectate dreptul la explicații clare și semnificative privind rolul unui sistem de IA în anumite decizii. Aceste obligații se aplică sistemelor cu risc ridicat începând cu decembrie 2027 sau august 2028, în urma pachetului Digital Omnibus, însă alegerile de proiectare care le fac realizabile se iau acum.

Un sistem factorizat, neurosimbolic, este mult mai ușor de explicat decât un model end-to-end, exact din motivele pe care le demonstrează lucrările din 2026. Când un plan este executabil prin construcție sub un model de tranziție, explicația pentru care un pas a fost permis este o trimitere la regula care l-a permis. Când un răspuns citează muchii trasabile către înregistrări autoritare, explicația pentru care s-a formulat o afirmație este lanțul de înregistrări. Când defecțiunile se localizează la o componentă, explicația pentru care sistemul a greșit numește componenta. Fiecare explicație este o afirmație despre ceva ce există și poate fi inspectat, nu o raționalizare ulterioară a unui calcul neuronal.

Asta nu face explicația trivială. Cineva tot trebuie să traducă regulile și înregistrările în limbaj pe care o persoană afectată să îl înțeleagă. Dar schimbă natura sarcinii: din reconstrucție în prezentare. Reconstrucția întreabă „ce ar fi putut cauza acest rezultat?” și nu poate oferi decât ipoteze. Prezentarea întreabă „cum arătăm regulile și înregistrările care au produs acest rezultat?” și poate oferi dovezi. Pentru supraveghere și pentru dreptul la explicație, această diferență este decisivă.

Este și motivul pentru care credem că rezultatele privind eficiența ar trebui să îi intereseze atât pe autoritățile de reglementare, cât și pe ingineri. Un model mic și constrâns, care este mai ieftin de rulat, este și un model mai ieftin de auditat: poate fi găzduit acolo unde auditorul îl poate accesa, fixat la o versiune pe durata unei investigații și reluat determinist pe aceleași date de intrare. Argumentele privind suveranitatea, energia și responsabilitatea pentru sistemele mici structurate se dovedesc a fi același argument privit din trei părți.

Ce reținem din asta

Pentru propria noastră activitate, rezultatele din 2026 confirmă trei decizii de proiectare și nuanțează o a patra.

Confirmă că modelele mici cu structură pot depăși modelele mari fără structură la sarcini care necesită fiabilitate. Aceasta este premisa din spatele rutării Loom către 528 de specialiști: la majoritatea întrebărilor răspunde cel mai bine specialistul potrivit, adesea un model mic sau un rezolvitor simbolic, nu cel mai mare model disponibil. Ablația agentului întruchipat este cea mai clară dovadă publicată de care știm că această premisă este valabilă pentru planificare.

Confirmă că cunoașterea ar trebui construită din surse autoritare, cu reguli declarate, și citată după sursa sa. Stratul de cunoaștere al Dweve citează fiecare element de cunoaștere folosit într-un răspuns prin nod și hash de versiune, astfel încât un evaluator să poată urmări citarea până la înregistrarea și versiunea exacte. Auditul de proveniență GraphRAG arată ce se pierde atunci când acest lanț se oprește la un intermediar scris de un model.

Confirmă că înregistrarea traseului contează la fel de mult ca înregistrarea răspunsului. Constatarea din lucrarea despre GraphRAG agentic privind entitățile vizitate, dar necitate este exact motivul pentru care Knot înregistrează citirile și pașii intermediari și motivul pentru care urma Loom arată ce specialiști au contribuit.

Și ne ascut atenția asupra fundamentării. Ambele lucrări își localizează eșecurile rămase în punctul în care lumea, sau sursa, este tradusă în reprezentarea simbolică. Aceasta este granița unde percepția neurală predă ștafeta raționamentului simbolic și este locul în care ar trebui să se concentreze efortul de verificare. Un strat simbolic care raționează perfect pe o stare greșită produce un răspuns greșit, dar sigur pe el. Întrebarea de inginerie pentru anul următor este cum să facem acea graniță la fel de verificabilă ca straturile de pe fiecare parte a ei.

Renașterea, cu cifre

Acum un an, afirmația că sistemele neurosimbolice vor depăși modelele lingvistice pure la sarcini care necesită fiabilitate era o argumentație. În 2026 are cifre: peste 90 la sută rată de succes pentru modele mici deschise la planificarea activităților casnice, un agent cu 4 miliarde de parametri care bate o politică directă cu 27 de miliarde de parametri cu marje largi, constrângeri și căutare care rezolvă fiecare sub o treime din sarcini singure și peste 95 la sută împreună, și fiecare muchie dintr-un graf construit pe ontologie trasabilă până la sursa ei, față de 83 la sută pentru unul extras.

Acele cifre vin cu condiții, iar condițiile sunt la fel de importante ca rezultatele. Dar direcția este clară. Când un sistem AI trebuie să aibă dreptate în moduri care pot fi verificate, structura nu este un obstacol pentru capabilitate. Este una dintre sursele ei.

De ce contează designul benchmark-ului la fel de mult ca rezultatul

Există o lecție metodologică mai largă în ambele lucrări care merită o notă scurtă, pentru că are legătură cu modul în care întregul domeniu ar trebui să evalueze sistemele care pretind că sunt fiabile.

Ambele lucrări măsoară altceva decât fluența. Lucrarea despre agentul întrupat măsoară succesul: sarcina casnică a fost dusă la capăt în mediu? Lucrarea despre GraphRAG măsoară proveniența: poate fiecare muchie, și fiecare citare, să fie trasată până la o înregistrare autoritativă? Niciuna nu se bazează în primul rând pe faptul că un răspuns se citește bine sau se potrivește cu un text de referință. Acest lucru este semnificativ, pentru că o mare parte din evaluarea AI încă recompensează calitatea de suprafață. Linia de lucru "Why Neighborhoods Matter" și cercetarea de evaluare aferentă au susținut același lucru din altă direcție: suprapunerea lexicală cu un răspuns de referință poate fi mare în timp ce dovezile pentru răspuns lipsesc.

Pentru organizațiile care evaluează sisteme AI pentru decizii care contează, lecția este să întrebe ce măsoară un benchmark înainte de a întreba ce scor a obținut un sistem. Un sistem care obține un scor bun la un benchmark bazat pe fluență poate produce în continuare planuri care nu se execută sau răspunsuri ale căror citări nu duc nicăieri. Un sistem care obține un scor bun la executabilitate sau proveniență a demonstrat ceva mai apropiat de ceea ce are nevoie un factor de decizie. Ne-ar plăcea să vedem mai multe evaluări de achiziții concepute așa cum sunt aceste două lucrări: cu o sarcină care fie reușește, fie eșuează într-un mod verificabil, și cu un audit al locului din care provin dovezile fiecărui răspuns.

Surse