Dweve

Neurosymbolické prístupy po roku: čo vlastne ukazuje výskum z roku 2026

Pred rokom sme tvrdili, že ďalším krokom v oblasti AI bude spojenie naučených modelov s explicitnou štruktúrou. Výskum z roku 2026 teraz tomuto tvrdeniu...

Neurosymbolické prístupy po roku: čo vlastne ukazuje výskum z roku 2026

Pred rokom to bol zväčša len argument

V novembri 2025 sme publikovali esej „The neuro-symbolic renaissance“, v ktorej sme tvrdili, že najužitočnejšie AI systémy najbližších rokov nebudú iba väčšie jazykové modely. Budú spájať naučené modely, ktoré sú dobré vo vnímaní, jazyku a rozpoznávaní vzorov, s explicitnou symbolickou štruktúrou, ktorá je dobrá v pravidlách, obmedzeniach, pôvode a dokazovaní. Tento argument sme postavili na prvých princípoch a na vlastných inžinierskych skúsenostiach, pretože tak je postavený Dweve: Loom, náš inferenčný engine, smeruje prácu naprieč 528 špecialistami, z ktorých mnohé sú symbolické riešiče, verifikátory a pravidlové enginy namiesto neurónových sietí, a odpoveď, ktorú vráti, nesie stopu toho, ktoré časti robili čo.

Argument z prvých princípov je rozumný východiskový bod. Nie je to dôkaz. Preto stojí za to sa po roku opýtať, čo teraz ukazuje publikovaný výskum. Nie tlačové správy a nie všeobecné nadšenie pre slovo „neurosymbolický“, ktoré sa stalo natoľko módnym, že sa aplikuje takmer na čokoľvek. Konkrétne, merané výsledky.

Dva články z roku 2026 sú obzvlášť užitočné, pretože priamo testujú jadrové tvrdenia a uvádzajú čísla, ktoré sa dajú overiť. Jeden sa týka agentov, ktorí musia konať vo svete: robí pridanie symbolických obmedzení a prehľadávania k jazykovému modelu jeho plány vykonateľnými? Druhý sa týka odpovedania na otázky nad znalosťami: robí deterministické budovanie znalostnej štruktúry z autoritatívnych zdrojov namiesto jej extrakcie jazykovým modelom odpovede lepšie vystopovateľnými? Oba odpovedajú áno, a to s veľkým rozdielom. A oba sú opatrné v tom, čo neukázali, čo je prinajmenšom rovnako poučné ako to, čo ukázali.

Plauzibilné nie je to isté ako vykonateľné

Prvý článok, „Neurosymbolic Embodied Agents“ od Albinhassana, Fenga, Russoa a Madhyasthu, zverejnený na arXiv v auguste 2026, vychádza z pozorovania, ktoré rozpozná každý, kto sa pokúsil použiť jazykový model ako plánovač. Jazykové a vizuálno-jazykové modely, píše sa v abstrakte, „generujú plauzibilné vtelené plány, ale nezaručujú vykonateľnosť, pretože ich výstupy môžu porušovať dynamiku prostredia alebo konať na nesprávne ukotvených entitách.“

Rozdiel medzi plauzibilným a vykonateľným je celý problém v jednej vete. Model požiadaný, aby pripravil šálku čaju v simulovanej kuchyni, vytvorí postup krokov, ktorý sa dobre číta: choď do kuchyne, vezmi kanvicu, naplň ju, zapni ju. Môže sa však pokúsiť vziať kanvicu, ktorá tam nie je, alebo naplniť kanvicu, ktorá je v zatvorenej skrinke, alebo naliať z kanvice, ktorá nezačala vrieť. Každý krok je plauzibilný. Plán ako celok zlyhá, pretože model nesleduje stav sveta a pravidlá toho, ako konania menia tento stav.

Agent z článku rozkladá dlhodobé domáce úlohy na dve fázy. V prvej fáze vizuálno-jazykový model a nástroj na prieskum získavajú predikáty relevantné pre cieľ a väzby inštancií z egocentrických pozorovaní a ukotvených interakcií, čím vytvárajú symbolický opis počiatočného stavu: táto kanvica je tu, táto skrinka je zatvorená, tento pohár je prázdny. V druhej fáze PDDL model prechodov, formálny opis toho, ktoré konania sú použiteľné v ktorých stavoch a čo menia, „obmedzuje dekódovanie na tokeny, ktoré rozširujú použiteľné konania.“ Jazykový model môže generovať iba konania, o ktorých symbolický model hovorí, že sú možné. Monte Carlo tree search potom vyhodnocuje vykonateľné pokračovania pomocou heuristiky plánovania nezávislej od domény.

Dôsledkom je podľa slov autorov to, že „výsledné plány sú vykonateľné už zo svojej konštrukcie pod modelom prechodov, pričom prenos do prostredia je podmienený správnym vizuálnym ukotvením.“ Tá posledná veta je dôležitá a vrátime sa k nej nižšie.

Zhrnuté z Albinhassan, Feng, Russo a Madhyastha, Neurosymbolic Embodied Agents, arXiv 2608.16794.

Malé modely s obmedzeniami porážajú veľký model bez obmedzení

Výsledky sú pozoruhodné. Na dvoch štandardných benchmarkoch pre domáce úlohy, VirtualHome a ALFWorld, abstrakt uvádza, že "otvorené modely s 4B-27B parametrami prekračujú 90% úspešnosť v oboch prostrediach a náš najmenší agent výrazne prekonáva 27B priamy vizuálny model v každom z nich." Vo výsledkoch článku sa miera úspešnosti pohybuje od 94,5 do 99,5 percenta na VirtualHome a od 90,3 do 97,8 percenta na ALFWorld naprieč veľkosťami modelov. Agent so 4 miliardami parametrov prekonáva 27-miliardový priamy vizuálny model o 32,0 percentuálneho bodu na jednom benchmarku a o 63,4 na druhom.

Tento druhý výsledok si zaslúži pomalé čítanie. Model približne sedemkrát menší, ktorý dostane explicitnú štruktúru o svete a procedúru prehľadávania cez vykonateľné akcie, si počína dramaticky lepšie než oveľa väčší model požiadaný konať priamo. Rozdiel nie je marginálne ladenie. Je to rozdiel medzi systémom, ktorý väčšinou funguje, a systémom, ktorý väčšinou nefunguje.

Pre každého, koho zaujímajú náklady, spotreba energie a ovládateľnosť AI systémov, je to dôležité. Malý otvorený model môže bežať na skromnom hardvéri, môže byť preskúmaný, môže byť pripnutý k verzii a môže byť hostovaný kdekoľvek, kde si to operátor zvolí. Ak pridanie štruktúry umožní takémuto modelu prekonať veľký model na úlohách vyžadujúcich spoľahlivé konanie, potom sa argumenty pre suverenitu a efektivitu malých modelov výrazne posilnia. Veľkosť nie je jediná cesta k schopnostiam. Štruktúra je ďalšia.

Obmedzenia a prehľadávanie sa dopĺňajú, nie sú zameniteľné

Najzaujímavejším zistením je pre nás ablacia. Autori testovali obmedzenia a prehľadávanie oddelene. V ALFWorld buď samotné "rieši menej ako tretinu úloh, zatiaľ čo ich kombinácia rieši viac ako 95%." Podrobné čísla sú 32,3 percenta pre obmedzenia samotné a 29,2 percenta pre prehľadávanie samotné, oproti 95,5 percenta v kombinácii.

To je výsledok, ktorý by jednoduchý príbeh o neurosymbolickej AI nepredpovedal. Človek by mohol očakávať, že obmedzenia tým, že zabraňujú neplatným akciám, urobia väčšinu práce, a prehľadávanie pridá len málo. Alebo že prehľadávanie tým, že skúma mnoho ciest, nájde dobré plány a obmedzenia ho len zrýchlia. Namiesto toho každé samo o sebe zlyháva na väčšine úloh a spolu uspejú takmer na všetkých.

Intuíciu nie je ťažké zrekonštruovať. Obmedzenia bez prehľadávania zaručujú, že každý krok je platný, ale vôbec nezabezpečujú, že postupnosť platných krokov dospeje k cieľu. Model môže donekonečna blúdiť kuchyňou a vykonávať pritom úplne legálne akcie. Prehľadávanie bez obmedzení skúma mnohé pokračovania, no väčšina z nich obsahuje neplatné akcie, takže v priestore prehľadávania prevažujú plány, ktoré zlyhajú, a heuristika nemá s čím pracovať. Obmedzenia a prehľadávanie spolu zúžia priestor na platné plány a prehľadávanie medzi nimi nájde tie dobré.

Táto komplementarita je podľa nás zatiaľ najsilnejšou empirickou podporou architektonického tvrdenia, ktoré sme vyslovili pred rokom. Hodnota nie je v tom, že k neurónovému modulu pripojíme symbolický. Je v konkrétnej deľbe práce, v ktorej každá časť robí to, v čom je dobrá, a vyvažuje slabinu tej druhej.

Údaje podľa arXiv 2608.16794. Každá zložka samostatne vyrieši menej než tretinu úloh.

Menej tokenov a zlyhania, ktoré niekam ukazujú

Dva ďalšie výsledky z článku sa dajú ľahko prehliadnuť a zaslúžia si pozornosť.

Prvým je efektívnosť. Abstrakt uvádza, že metóda „spotrebuje niekoľkonásobne menej generovaných tokenov než rozšírené uvažovanie a oveľa menej obrázkov viditeľných pre model než priama interakcia“. V článku sa zníženie počtu tokenov v porovnaní s rozšíreným uvažovaním uvádza až na štvrtinu. Rozšírené uvažovanie, pri ktorom model pred konaním vypisuje dlhé reťazce úvah, je hlavnou alternatívnou stratégiou na zlepšenie spoľahlivosti plánov modelu. Do určitej miery funguje, ale je drahé: každý token uvažovania sa vypočíta a v hostovaných službách aj zaplatí. Metóda, ktorá dosahuje lepšie výsledky so zlomkom tokenov, je lepšia z hľadiska nákladov a energie, ako aj úspešnosti.

Druhým je diagnostikovateľnosť. Abstrakt poznamenáva, že „zvyškové zlyhania sa lokalizujú na získavanie stavu, nie na generovanie plánu, a to bez akéhokoľvek špecializovaného trénovania“. Keď agent zlyhá, zlyhá preto, že jeho obraz sveta bol nesprávny, nie preto, že by pri tomto obraze zle naplánoval. To je presne to, čo by sme od systému, ktorého plány sú vykonateľné už zo svojej konštrukcie, očakávali. Zároveň to inžinierovi hovorí, kde má pokračovať v práci. V end-to-end neurónovom systéme je zlyhanie často rozptýlenou vlastnosťou celého modelu a jediným riešením je viac dát alebo väčší model. V rozloženom systéme má zlyhanie svoju adresu.

Myslíme si, že diagnostikovateľnosť je vo výskume AI nedocenená. Systém, ktorý zlyháva menej, je dobrý. Systém, ktorého zlyhania sa dajú lokalizovať, vysvetliť a opraviť, je lepší, pretože sa dá cielene vylepšovať a pretože jeho správaniu sa dá dôverovať v prípadoch, keď je známe, že jeho komponenty sú spoľahlivé.

Rovnaký vzorec sa objavuje pri odpovedaní na otázky

Druhý článok rieši iný problém, no s prekvapivo podobným výsledkom. "Ontology-guided neuro-symbolic GraphRAG for grounded query answering" od Domenica Benfenatiho a Antonia Maria Rinaldiho z Univerzity Fridricha II. v Neapole vyšiel v októbri 2026 v časopise Neural Computing and Applications. Skúma odpovedanie na otázky nad znalosťami o kybernetickej bezpečnosti: zraniteľnosti, slabiny, vzorce útokov a postihnuté produkty, čerpané z verejných repozitárov, ako sú CVE, CWE, CAPEC a CPE.

Porovnávajú sa dva spôsoby budovania znalostného grafu, z ktorého jazykový model vychádza pri odpovedaní na otázky. V široko používanom prístupe GraphRAG jazykový model číta neštruktúrovaný text a extrahuje entity, vzťahy a zhrnutia komunít, ktoré potom slúžia ako podklad pre vyhľadávanie. V prístupe autorov sa graf vytvára zhora nadol z autoritatívnych repozitárov, a to cieleným prehľadávaním, zjednocovaním schém riadeným ontológiou a symbolickým odvodzovaním založeným na pravidlách, ako je tranzitné reťazenie a viackrokový dopad na produkty. Samotná ontológia je odvodená zo štruktúry oblastí skutočných repozitárov, nie syntetizovaná modelom. Jazykový model potom dostáva dôkazy z tohto grafu, pričom autori tento tok opisujú ako striktne jednosmerný: symbolický podklad je "plne deterministický, zachovávajúci pôvod a nezávisle kontrolovateľný".

Najvýpovednejším experimentom je audit pôvodu. V grafe riadenom ontológiou bolo 100 percent vzorkovaných hrán vystopovateľných k autoritatívnym zdrojovým záznamom alebo k deklarovaným pravidlám odvodzovania. V grafe extrahovanom LLM bolo vystopovateľných 83 percent a len 58 percent spájalo koncové body s kanonickými identifikátormi. Rozdiel sa prenáša aj do odpovedí: systém riadený ontológiou dosiahol 95 percent presnosti citácií oproti 66 percentám pri základe GraphRAG.

Dôležité je štrukturálne vysvetlenie autorov. V GraphRAG extrahovanom LLM sú odpovede podložené zhrnutiami napísanými rovnakým druhom modelu, ktorý generuje odpoveď, takže reťazec pôvodu sa zastaví na neurálnom sprostredkovateľovi a nedosiahne autoritatívny záznam. Citácia zhrnutia napísaného modelom je citáciou interpretácie. Citácia zdrojového záznamu prostredníctvom hrán, z ktorých každá je vystopovateľná k tomuto záznamu alebo k deklarovanému pravidlu, je citáciou dôkazu.

Údaje, ako ich uvádzajú Benfenati a Rinaldi, Neural Computing and Applications, 2026, na korpuse o kybernetickej bezpečnosti.

Citácie nie sú celým pôvodom

Tretí, menší článok z roku 2026 pridáva užitočnú komplikáciu. "Why Neighborhoods Matter: Traversal Context and Provenance in Agentic GraphRAG", zverejnený na arXiv v máji 2026, skúma systémy, v ktorých agent pred odpoveďou preskúma znalostný graf a potom cituje malú množinu entít. Kladie otázku, či sú výsledné citácie dostatočné na vysvetlenie dôkazov, od ktorých odpoveď závisela.

Jeho záver je, že nie sú. Citované entity zvyčajne majú význam: ich odstránenie podstatne mení odpovede a znižuje presnosť. Experimenty však ukazujú, že presné odpovedanie závisí aj od prechodu grafom, štruktúry susedstva a entít, ktoré agent navštívil, ale necitoval. Autori uzatvárajú, že verná citácia "by mala zohľadňovať aj kontext grafu a cestu vyhľadávania, ktoré formujú výslednú odpoveď."

Toto zistenie zostruje ponaučenie z článku Benfenatiho a Rinaldiho. Deterministický, sledovateľný graf je nevyhnutný pre odpovede, ktorých dôkazy možno overiť. Nestačí však, ak systém zaznamenáva len to, čo cituje, a nie to, čo prečítal. Pôvod musí zahŕňať cestu, nielen cieľ. To je, ako sa ukazuje, ten istý záver, ku ktorému sme dospeli z inžinierskej strany pri návrhu Knot, denníka udalostí, ktorý zverejníme 4. štvrťrok 2026: záznam o behu agenta musí obsahovať každé čítanie a každý medzikrok, nielen konečný výstup, pretože práve kroky vysvetľujú výstup.

Čo výsledky neukazujú

Oba hlavné články sú opatrné, pokiaľ ide o ich obmedzenia, a tieto obmedzenia stojí za to uviesť jasne, pretože nadšenie z výsledku zvyčajne vymaže jeho podmienky.

Výsledky pre vtelených agentov pochádzajú zo simulácie. VirtualHome a ALFWorld sú dobre zavedené referenčné prostredia, ale sú to simulované domáce prostredia so známou dynamikou. Záruka, že plány sú vykonateľné "konštrukciou", platí v rámci modelu prechodu, teda v rámci symbolického opisu toho, ako svet funguje. Ak je tento opis nesprávny alebo neúplný, záruka sa neprenáša. V reálnom svete je napísanie úplného a správneho modelu prechodu ťažké a svet má vo zvyku zahŕňať veci, ktoré model nepredvídal.

Rovnaké výsledky sú podmienené správnym vizuálnym ukotvením. Abstrakt to hovorí výslovne. Ak fáza prieskumu nesprávne identifikuje objekt alebo nejaký prehliadne, symbolický stav je nesprávny a plán, ktorý je za nesprávneho stavu dokonale vykonateľný, môže v realite zlyhať. Zistenie článku, že zvyškové zlyhania sa lokalizujú do získavania stavu, je dobrou správou pre diagnostikovateľnosť a zároveň pripomienkou, že vnímanie zostáva tou ťažkou časťou.

Výsledky GraphRAG sú z jednej domény, kybernetickej bezpečnosti, kde existujú autoritatívne štruktúrované repozitáre so stabilnými identifikátormi. Mnohé domény také nie sú. Tam, kde poznatky sídlia prevažne v neštruktúrovaných dokumentoch bez kanonických identifikátorov, materializácia zhora nadol nie je k dispozícii a určitá forma extrakcie je nevyhnutná. Metóda z článku ukazuje, čo je možné, keď dobré zdroje existujú. Neukazuje, ako ich vytvoriť tam, kde nie sú.

Hodnotenie správnosti odpovedí v GraphRAG použilo jazykový model ako sudcu, Gemini 2.5 Flash, na pätnásť otázok na úlohu. Pre výskumný článok je to rozumný návrh a audit pôvodu je priamejšie meranie. Čitatelia by však mali čísla o kvalite odpovedí brať ako orientačné, nie ako definitívne, a čísla o pôvode ako silnejší výsledok.

Žiadne z týchto obmedzení nepodkopáva články. Sú to bežné podmienky dobrého výskumu. Záležia však na nich pre každého, kto by chcel čítať „neurosymbolické“ ako všeobecné riešenie. Je to súbor architektonických volieb, ktoré fungujú veľmi dobre, keď platia ich predpoklady: správny symbolický model domény, spoľahlivé ukotvenie vnímania do tohto modelu a autoritatívne zdroje poznatkov. Veľká časť praktickej práce spočíva v ustanovení týchto predpokladov.

Čo sa stane po prvej chybe

Miera úspešnosti vám povie, ako často systém dokončí úlohu. Nepovie vám, ako sa správa, keď sa niečo pokazí, čo je pre každého, kto ho musí nasadiť, často dôležitejšia otázka. Článok o stelesnenom agentovi obsahuje dodatok, ktorý na to odpovedá, a je to jedna z najvýpovednejších častí práce.

Autori skúmali, čo politiky robili „po prvom neukotviteľnom alebo neúspešnom vykonaní“, a uvádzali, ako často úlohy obsahovali takúto udalosť, ako často politika úlohu následne obnovila, ako často okamžite zopakovala neúspešnú požiadavku a ako často upadla do pretrvávajúcej slučky akcií. Výsledky pre priame vizuálne politiky, ktoré plánujú bez symbolických obmedzení, sú pozoruhodné.

Vo VirtualHome sa priama politika Qwen so 4B stretla so zlyhaním v 64,5 percenta úloh. Úlohu obnovila v 5,4 percenta týchto prípadov, okamžite zopakovala neúspešnú požiadavku v 74,5 percenta a skončila v pretrvávajúcej slučke v 45,5 percenta. V ALFWorld sa ten istý model stretol so zlyhaním v 73,9 percenta úloh, obnovil v 1,0 percenta a skončil v pretrvávajúcej slučke v 94,8 percenta. Najväčší priamy model si počínal lepšie, ako sa dalo očakávať: vo VirtualHome sa politika so 27B stretla so zlyhaním v 29,0 percenta úloh, obnovila v 37,9 percenta, zopakovala požiadavku v 8,3 percenta a upadla do slučky v 9,5 percenta. V ALFWorld dokonca aj tento model obnovil len v 25,7 percenta prípadov.

Úvod článku vysvetľuje, prečo sa to deje. Priama politika musí identifikovať objekty, sledovať ich stav, vyberať použiteľné akcie a uvažovať o oneskorených účinkoch „v rámci jednej autoregresívnej histórie, kde sa môžu voľne kumulovať“. Autori poznamenávajú, že „spätná väzba z vykonávania môže takúto chybu odhaliť po tom, čo nastane, ale nezabráni modelu zopakovať neplatnú voľbu alebo odchýliť sa od stavu, ktorý vyvolali jeho vlastné akcie.“

Táto veta opisuje vzorec, ktorý mnohí ľudia spoznajú od agentov mimo laboratória. Agent niečo skúsi, neuspeje, chyba sa mu vráti a agent skúsi to isté znova, alebo niečo ekvivalentné. Spätná väzba je informácia, ale informácia nič neobmedzuje. Systém, ktorý platnosť akcie považuje za niečo, čo sa má odvodiť, a nie vynútiť, môže dostať správu, že sa mýlil, bez toho, aby mu zabránili mýliť sa znova.

Obmedzujúci prístup to mení tým, že použiteľnosť robí, podľa formulácie z článku, „obmedzením udržiavaným počas celej generácie a vyhľadávania“. Akcia, ktorej predpoklady nie sú splnené, nikdy nevznikne, takže niet čo opakovať. To však systém nerobí neomylným. Len presúva zlyhanie na iné miesto.

Údaje z tabuľky 10 od Albinhassana a kolegov, 2026, pre priame politiky bez symbolických obmedzení. Percentá; obnovenie a opakovanie sa týkajú úloh, ktoré narazili na zlyhanie.

Článok lokalizuje vlastné zlyhania

Čestný opis výsledkov musí povedať, kde obmedzujúci agent zlyháva, a článok to robí. Jeho symbolický plánovač dokáže plánovať len nad stavom, ktorý dostane. Keď fáza vizuálneho prieskumu prehliadne požadovaný objekt, autori píšu, že „zlyhanie sa potom šíri, pretože podložený počiatočný stav vynecháva požadovaný objekt. Toto je obmedzenie komponentu na získavanie vizuálneho stavu, nie záruky použiteľnosti.“

Na tomto rozlíšení záleží. Záruka, ktorú systém ponúka, je úzka a silná: každá akcia, ktorú naplánuje, je použiteľná v stave, o ktorom sa domnieva, že v ňom je. Či toto presvedčenie zodpovedá svetu, závisí od vnímania a vnímanie stále vykonáva neurónový model so všetkou neistotou, ktorú to prináša. Autori očakávajú, že „zlepšenia vo vizuálnom rozpoznávaní a aktívnom výbere uhla pohľadu by sa mali priamo preniesť do celej metódy“, čo je rozumné očakávanie a zároveň pripomienka, že symbolická časť nedokáže vykompenzovať to, čo neurónová časť nevidí.

Pre ľudí, ktorí takéto systémy hodnotia, je ponaučením pýtať sa, kde sa záruka končí. Neurosymbolický systém zvyčajne ponúka istotu o jednej časti procesu (plán je platný, odvodenie vyplýva z pravidiel, odpoveď je podložená grafom) a preberá neistotu z častí, ktoré ho napájajú. Dobrý systém robí túto hranicu viditeľnou. Zaznamenáva, čo vnímal, čo predpokladal a čo odvodil, aby recenzent dokázal rozlíšiť, či zlyhanie vzniklo v uvažovaní alebo na vstupe do uvažovania.

To je aj dôvod, prečo je analýza zlyhaní, aká je v prílohe článku, taká cenná. Vedieť, že systém zlyháva väčšinou pri podložení a nie pri plánovaní, hovorí inžinierovi, do čoho investovať, a zavádzajúcemu pracovníkovi, aký druh dohľadu je potrebný. Ľudský recenzent, ktorý kontroluje prácu obmedzujúceho agenta, by mal kontrolovať jeho obraz sveta, nie jeho aritmetiku.

Štúdia prechádzania je malá a sama to hovorí

Práca o kontexte prechádzania si je vedomá aj vlastných obmedzení. Jej autori píšu, že štúdia „je obmedzená malou veľkosťou benchmarku a tým, že používa riadený znalostný graf zostavený z 2WikiMultiHopQA namiesto rozsiahleho znalostného grafu z reálneho sveta.“ Vyzývajú na hodnotenie „na väčších dátových súboroch, bohatších štruktúrach grafov a doménovo špecifických znalostných bázach“ a na mechanizmy citovania, „ktoré odhaľujú nielen konečné podporné entity, ale aj príslušný kontext prechádzania.“

Táto otvorenosť je užitočná. Zistenie, že citácie sú nevyhnutné, no nestačia na vysvetlenie odpovede agenta, je vierohodné a dôležité, no stojí na riadenom prostredí. Skôr než na ňom niekto postaví politiku, malo by sa reprodukovať na takých grafoch, aké používajú reálne systémy: podnikové znalostné bázy, regulačné korpusy, produktové katalógy. Dovtedy je najlepšie čítať ho ako dobre navrhnuté varovanie, nie ako uzavreté meranie.

Varovanie si však stále zaslúži pozornosť. Autori uzatvárajú, že „pôvod v agentovom grafovom vyhľadávaní by sa mal považovať za vlastnosť na úrovni trajektórie“. Pre tvorcov systémov to znamená zaznamenávať cestu, nielen cieľ: ktoré entity boli navštívené, ktoré hrany boli sledované, ktorí susedia boli videní a neboli citovaní. Zoznam citácií je zhrnutím tejto cesty. Ako každé zhrnutie, aj toto môže byť presné a napriek tomu vynechať niečo, na čom záležalo.

Zaznamenávanie cesty má praktickú cenu a treba ju uviesť. Záznamy o prechádzaní sú rozsiahlejšie než zoznamy citácií, môžu obsahovať materiál, ktorý používateľ nikdy nevidel, a vyžadujú rovnakú starostlivosť o prístup a uchovávanie ako akýkoľvek iný log. Alternatíva je však horšia. Keď je odpoveď spochybnená, systém, ktorý si uchoval len svoje citácie, môže ukázať, na čo odkazoval. Systém, ktorý si uchoval svoju trajektóriu, môže ukázať, ako sa k tomu dostal, čo je otázka, ktorú recenzent skutočne položí. Pri agentovom vyhľadávaní tento rozdiel pravdepodobne rozhodne o tom, či bude vysvetlenie prijaté, alebo len tolerované.

Starší argument o vysvetlení stále platí

Na tom nie je duchom nič nové. Debata o vysvetlení v strojovom učení prebieha už roky a výsledky z roku 2026 sa do nej vkladajú, nie ju nahrádzajú.

V roku 2017 Finale Doshi-Velez a Been Kim poznamenali, že „napriek záujmu o interpretovateľnosť existuje len veľmi malá zhoda na tom, čo je interpretovateľné strojové učenie a ako sa má merať.“ V roku 2018 Cynthia Rudin tvrdila, že „snažiť sa vysvetliť modely čiernych skriniek namiesto vytvárania modelov, ktoré sú interpretovateľné od začiatku, pravdepodobne udržiava zlé postupy a môže potenciálne spôsobiť katastrofálnu škodu spoločnosti.“ V tom istom roku Julius Adebayo a kolegovia ukázali, že niektoré metódy význačnosti „sú nezávislé od modelu aj od procesu generovania dát“, pričom vytvárajú podobné vysvetlenia bez ohľadu na to, či sa model niečo naučil.

Výsledky obmedzeného plánovania a GraphRAG možno čítať ako dôkaz Rudinovej pozície v novom prostredí. Keď je plán vytvorený prehľadávaním explicitných pravidiel, jeho platnosť je vlastnosťou toho, ako bol vytvorený, a vysvetlenie, prečo bola zvolená určitá akcia, možno vyčítať z prehľadávania. Keď je odpoveď vytvorená prechádzaním grafu, jej pôvod je vlastnosťou prechádzania za predpokladu, že prechádzanie je zaznamenané. V oboch prípadoch vysvetlenie nie je interpretáciou prvého modelu druhým modelom. Je to záznam o tom, čo urobil ten prvý.

Výsledky z roku 2026 prinášajú predovšetkým dôkaz, že takýto typ systému môže podávať dobré výsledky. Stará námietka voči interpretovateľným prístupom znela, že stoja presnosť. Výsledky, ako sú tieto, v ktorých malé obmedzené modely prekonávajú väčšie neobmedzené modely na štruktúrovaných úlohách, túto otázku vo všeobecnosti neriešia. Ukazujú však, že pri úlohách s explicitnými pravidlami a overiteľnými výsledkami nie je kompromis taký, ako sa predpokladalo.

Dlhšie rozmýšľanie nepomohlo a jednoduchý benchmark to skrýva

Ablácia komponentov v práci o vtelenom agentovi obsahuje dva ďalšie detaily, ktoré si zaslúžia pozornosť, pretože idú proti bežným predpokladom.

Prvý sa týka rozšíreného uvažovania. Pri modeli Qwen s 27B dosiahlo obyčajné chamtivé dekódovanie 61,0 percenta úspešnosti vo VirtualHome a 15,4 percenta v ALFWorld. Ten istý model v režime rozmýšľania s rozpočtom až 32 768 výstupných tokenov podľa nastavení dekódovania uvedených v práci dosiahol 59,0 a 16,9 percenta. Nechať model uvažovať oveľa dlhšie neprinieslo v podstate žiadny rozdiel. Pridanie obmedzení použiteľnosti k chamtivému dekódovaniu naproti tomu zvýšilo úspešnosť vo VirtualHome z 61,0 na 98,5 percenta. Podľa autorov to ukazuje, že "obmedzenia použiteľnosti zodpovedajú za väčšinu zisku".

To je užitočná korekcia predstavy, že viac tokenov na uvažovanie je všeobecným liekom na chyby v plánovaní. Keď chyba spočíva vo výbere akcie, ktorej predpoklady nie sú splnené, viac vnútorného uvažovania tomu spoľahlivo nezabráni. Pravidlo, ktoré takéto akcie znemožní, áno.

Druhý detail sa týka náročnosti benchmarku. Vo VirtualHome dosiahlo samotné neobmedzené prehľadávanie 99,0 percenta, rovnako ako plná metóda, hoci autori poznamenávajú, že tak urobilo "pri vyšších nákladoch na generovanie" znázornených v ich grafoch. Čitateľ, ktorý by sa pozeral len na VirtualHome, by mohol usúdiť, že prehľadávanie je všetko, čo treba. ALFWorld ukazuje opak: samotné obmedzenia dosiahli 32,3 percenta, neobmedzené prehľadávanie 29,2 percenta a kombinácia 95,5 percenta. Autori pripisujú väčší rozdiel náročnejšiemu problému plánovania. Úspešné plány modelu s 27B mali v priemere 8,0 akcií na vysokej úrovni v ALFWorld a 6,4 vo VirtualHome, s maximami 30 a osem, pričom ALFWorld "zavádza viac väzieb na inštancie a nádoby v každej fáze."

Všeobecným ponaučením je, že jednoduchý benchmark môže dva odlišné návrhy vyzerať rovnocenne. Rozdiely sa ukážu až vtedy, keď je problém dostatočne dlhý a dostatočne obmedzený. Ktokoľvek porovnáva architektúry agentov, mal by ich testovať na úlohách aspoň tak dlhých a tak tesne obmedzených, ako sú tie, ktoré plánuje nasadiť, nie na najkratších dostupných úlohách.

Experimenty sú reprodukovateľné už od návrhu

Za zmienku stojí ešte jeden znak práce, pretože súvisí s témou, ktorá sa objavuje inde v tomto seriáli. Autori v plnom rozsahu zverejňujú svoje nastavenia dekódovania. Obmedzené fázy modelu Qwen bežia pri teplote 0,0. Tam, kde sa používa jadrové vzorkovanie, pri doplnkových behoch v režime rozmýšľania a pri vtelených základných líniách, sa hodnotenia opakujú s tromi pomenovanými seedmi: 0, 42 a 1738. Prehľadávanie je obmedzené na 250 sekúnd na úlohu a práca uvádza, že jej hyperparametre prehľadávania "boli zvolené empiricky".

Práve tieto detaily robia výsledok overiteľným. Čitateľ, ktorý chce prácu reprodukovať, vie, aké nastavenia použiť, koľko behov vykonať a akú variabilitu očakávať. Zároveň zviditeľňujú hranice: empiricky zvolené hyperparametre môže byť potrebné v iných prostrediach preladiť a časový limit znamená, že niektoré úlohy môžu zlyhať pre nedostatok času, nie pre nedostatok plánu. Uviesť oboje je dobrá prax. Je to štandard, ktorý by podľa nás mal spĺňať každý zverejnený výsledok, vrátane našich vlastných. Výsledok, ktorý sa nedá znovu spustiť, môže byť stále zaujímavý, ale zatiaľ sa naň nemožno spoľahnúť, a tento rozdiel je najdôležitejší vtedy, keď sa výsledok používa na odôvodnenie návrhu.

Zo slova sa stáva nálepka, preto potrebuje test

Úspech prináša napodobňovanie a výraz „neurosymbolický“ sa dnes pripisuje systémom, ktoré majú s architektúrami v týchto prácach len málo spoločného. Jazykový model s výzvou „mysli krok za krokom“ sa niekedy označuje ako neurosymbolický. Rovnako model, ktorý volá kalkulačku, chatbot s pravidlovým pozdravom alebo vyhľadávací systém, ktorý používa databázu. Každý z nich spája niečo neurónové s niečím, čo neurónové nie je, a ak slovo pokrýva všetky z nich, stráca význam.

Považujeme za užitočné uplatniť jednoduchý test, odvodený z toho, čo stálo za výsledkami z roku 2026. Systém si slovo zaslúži vtedy, keď jeho symbolická časť obmedzuje alebo overuje neurónovú časť tak, že to mení, čo systém môže vyprodukovať, a keď sa toto obmedzenie dá preskúmať.

V práci o stelesnenom agentovi obmedzuje model prechodov PDDL dekódovanie na použiteľné akcie. Jazykový model doslova nemôže vyprodukovať neplatnú akciu. To je obmedzenie, ktoré mení priestor výstupov, a model prechodov si môže prečítať ktokoľvek. V práci o GraphRAG je znalostný graf zostavený podľa deklarovaných pravidiel z autoritatívnych záznamov a jazykový model dostáva dôkazy len z tohto grafu. Pôvod každého spojenia sa dá overiť. Oba systémy testom prechádzajú.

Výzva, ktorá model žiada, aby uvažoval starostlivo, testom neprechádza. Môže zlepšiť výstupy, ale neobmedzuje ich a nič v nej sa nedá preskúmať, aby sa zistilo, čo model smie povedať. Model, ktorý môže zavolať kalkulačku, prechádza len čiastočne: výsledok kalkulačky je presný, ale model rozhoduje o tom, či ju zavolá a čo s výsledkom urobí, a nič mu nebráni výsledok ignorovať alebo si aritmetiku spočítať sám. Test nie je o čistote. Ide o to, odkiaľ pochádzajú záruky.

Otázky, ktoré treba položiť systému, ktorý si slovo nárokuje

Pre organizácie, ktoré hodnotia systémy opísané ako neurosymbolické, sa test prekladá do niekoľkých konkrétnych otázok.

Čomu symbolická časť zabraňuje? Užitočná odpoveď pomenúva triedu výstupov, ktoré systém nemôže vyprodukovať, napríklad neplatné akcie, nepodložené tvrdenia alebo porušenia pravidiel, a vysvetľuje mechanizmus. Odpoveď, ktorá hovorí, že symbolická časť model „usmerňuje“ alebo „informuje“, bez toho, aby pomenovala čokoľvek, čomu zabraňuje, je znakom toho, že záruka je slabá.

Dá sa symbolická časť prečítať? Pravidlá, obmedzenia, ontológie a modely prechodov by mali byť k dispozícii na preskúmanie ľuďom, ktorí sa na systém spoliehajú, aspoň vo forme relevantnej pre ich rozhodnutia. Ak je symbolická vrstva sama naučenou, nepriehľadnou zložkou, neposkytuje takú záruku, ktorá robí neurosymbolické návrhy hodnotnými.

Kde sa pôvod zastavuje? Pri každej odpovedi sledujte citácie. Vedú k autoritatívnym zdrojovým záznamom, cez dohľadateľné kroky, alebo k medzitým textom napísaným modelom? Audit pôvodu v GraphRAG je pre túto kontrolu vzorom.

Kde sú zlyhania? Žiadajte rozpis prípadov zlyhania podľa zložiek. Dobre rozčlenený systém by mal vedieť povedať, či jeho zlyhania vznikajú vo vnímaní, ukotvení, vyhľadávaní, uvažovaní alebo generovaní. Systém, ktorý to nevie povedať, buď nie je rozčlenený, alebo nie je meraný.

Čo sa zaznamenáva? Pýtajte sa, či systém zaznamenáva cestu, ktorou sa vydal, vrátane toho, čo čítal a ktoré zložky prispeli, nielen konečnú odpoveď. Zistenia o agentickom GraphRAG ukazujú, prečo je to dôležité.

Na položenie žiadnej z týchto otázok netreba hlbokú odbornosť. Všetky oddeľujú architektúry, ktoré poskytujú overiteľné záruky, od systémov, ktoré používajú slovník.

Prečo je to dôležité pre vysvetľovanie a dohľad

Tieto výsledky majú regulačný rozmer, ktorý stojí za to vyzdvihnúť, pretože spája výskumnú architektúru s povinnosťami, ktoré sa budú vzťahovať na mnohé organizácie.

Akt o umelej inteligencii si vyžaduje veľa vysvetľovania. Článok 13 vyžaduje, aby systémy s vysokým rizikom boli navrhnuté tak, aby ich zavádzajúci používatelia dokázali interpretovať ich výstup a primerane ho použiť. Článok 14 vyžaduje, aby osoby poverené dohľadom dokázali správne interpretovať výstup systému a rozhodnúť sa ho ignorovať, prepísať alebo zvrátiť. Článok 86 dáva dotknutým osobám právo na jasné a zmysluplné vysvetlenie úlohy systému umelej inteligencie pri určitých rozhodnutiach. Tieto povinnosti sa na systémy s vysokým rizikom vzťahujú od decembra 2027 alebo augusta 2028 po prijatí digitálneho omnibusu, ale rozhodnutia o dizajne, ktoré ich robia dosiahnuteľnými, sa prijímajú už teraz.

Faktorizovaný neurosymbolický systém sa vysvetľuje oveľa ľahšie než end-to-end model, a to presne z dôvodov, ktoré demonštrujú práce z roku 2026. Keď je plán spustiteľný už zo svojej konštrukcie v rámci modelu prechodov, vysvetlením toho, prečo bol krok povolený, je odkaz na pravidlo, ktoré ho umožnilo. Keď odpoveď cituje hrany sledovateľné k autoritatívnym záznamom, vysvetlením toho, prečo bolo tvrdenie vyslovené, je reťazec záznamov. Keď sa zlyhania lokalizujú do komponentu, vysvetlením toho, prečo bol systém nesprávny, je pomenovanie tohto komponentu. Každé vysvetlenie je tvrdenie o niečom, čo existuje a dá sa preskúmať, nie dodatočná racionalizácia neurónového výpočtu.

To však vysvetľovanie nerobí triviálnym. Niekto stále musí preložiť pravidlá a záznamy do jazyka, ktorému dotknutá osoba rozumie. Mení to však povahu úlohy z rekonštrukcie na prezentáciu. Rekonštrukcia sa pýta "čo mohlo spôsobiť tento výstup?" a môže ponúknuť len hypotézy. Prezentácia sa pýta "ako ukážeme pravidlá a záznamy, ktoré tento výstup vytvorili?" a môže ponúknuť dôkazy. Pre dohľad a pre právo na vysvetlenie je tento rozdiel rozhodujúci.

Je to aj dôvod, prečo si myslíme, že výsledky týkajúce sa efektívnosti by mali zaujímať nielen inžinierov, ale aj regulátorov. Malý, obmedzený model, ktorý je lacnejší na prevádzku, je zároveň modelom, ktorý je lacnejší na audit: dá sa hostovať tam, kde k nemu má audítor prístup, pripútať k verzii na čas trvania vyšetrovania a deterministicky prehrať na tých istých vstupoch. Argumenty o suverenite, energii a zodpovednosti v prospech štruktúrovaných malých systémov sa ukazujú byť tým istým argumentom videným z troch strán.

Čo si z toho berieme

Pre našu vlastnú prácu výsledky z roku 2026 potvrdzujú tri rozhodnutia o dizajne a zostrujú štvrté.

Potvrdzujú, že malé modely so štruktúrou dokážu na úlohách vyžadujúcich spoľahlivosť prekonať veľké modely bez nej. To je predpoklad, na ktorom stojí smerovanie v Loom cez 528 špecialistov: na väčšinu otázok najlepšie odpovie správny špecialista, často malý model alebo symbolický riešiteľ, a nie najväčší dostupný model. Ablácia s vteleným agentom je najjasnejším publikovaným dôkazom, o ktorom vieme, že tento predpoklad platí pre plánovanie.

Potvrdzujú, že znalosti by sa mali budovať z autoritatívnych zdrojov s deklarovanými pravidlami a citovať podľa svojho zdroja. Znalostná vrstva Dweve cituje každú znalosť použitú v odpovedi uzlom a hashom verzie, takže recenzent môže sledovať citáciu až k presnému záznamu a verzii. Audit pôvodu údajov v GraphRAG ukazuje, čo sa stratí, keď sa tento reťazec zastaví na medzičlánku napísanom modelom.

Potvrdzujú, že zaznamenávanie cesty je rovnako dôležité ako zaznamenávanie odpovede. Zistenie z práce o agentickom GraphRAG týkajúce sa navštívených, ale necitovaných entít je presne dôvodom, prečo Knot zaznamenáva čítania a medzikroky, a dôvodom, prečo stopa v Loom ukazuje, ktorí špecialisti prispeli.

A práve ony zbystrujú našu pozornosť na ukotvenie. Oba články lokalizujú svoje zostávajúce zlyhania do bodu, kde sa svet alebo zdroj prekladá do symbolickej reprezentácie. To je hranica, na ktorej neurálne vnímanie odovzdáva prácu symbolickému uvažovaniu, a práve tam by sa malo sústrediť úsilie o overovanie. Symbolická vrstva, ktorá dokonale uvažuje nad nesprávnym stavom, vytvára sebavedomú nesprávnu odpoveď. Inžinierska otázka na nasledujúci rok znie, ako urobiť túto hranicu rovnako kontrolovateľnou, ako sú vrstvy na jej oboch stranách.

Renesancia, s číslami

Pred rokom bol výrok, že neurosymbolické systémy prekonajú čisté jazykové modely pri úlohách vyžadujúcich spoľahlivosť, len argumentom. V roku 2026 už má čísla: vyše 90 percent úspešnosti malých otvorených modelov pri plánovaní domácich prác, agent so 4 miliardami parametrov porážajúci priamu politiku s 27 miliardami parametrov s veľkým náskokom, obmedzenia a prehľadávanie, ktoré samostatne riešia menej ako tretinu úloh a spolu vyše 95 percent, a každá hrana v grafe postavenom na ontológii vysledovateľná k svojmu zdroju oproti 83 percentám pri extrahovanom grafe.

Tie čísla majú svoje podmienky a podmienky sú rovnako dôležité ako výsledky. Smer je však jasný. Keď musí mať AI systém pravdu spôsobom, ktorý sa dá overiť, štruktúra nie je prekážkou schopností. Je jedným z ich zdrojov.

Prečo je dizajn benchmarku rovnako dôležitý ako výsledok

V oboch článkoch je širšia metodologická lekcia, ktorá si zaslúži krátku poznámku, pretože sa dotýka toho, ako by celý odbor mal hodnotiť systémy, ktoré sa hlásia k spoľahlivosti.

Oba články merajú niečo iné než plynulosť. Článok o stelesnenom agentovi meria úspech: bola úloha v domácnosti v prostredí splnená? Článok o GraphRAG meria pôvod: dá sa každá hrana a každá citácia vysledovať k autoritatívnemu záznamu? Ani jeden sa neopiera predovšetkým o to, či sa odpoveď dobre číta alebo či sa zhoduje s referenčným textom. To je podstatné, pretože veľká časť hodnotenia AI stále odmeňuje povrchovú kvalitu. Línia práce „Why Neighborhoods Matter“ a súvisiaci výskum hodnotenia poukázali na to isté z inej strany: lexikálna zhoda s referenčnou odpoveďou môže byť vysoká, aj keď dôkazy pre odpoveď chýbajú.

Pre organizácie, ktoré hodnotia AI systémy pre dôležité rozhodnutia, z toho vyplýva, že sa treba najprv pýtať, čo benchmark meria, a až potom, aké skóre systém dosiahol. Systém, ktorý dosahuje dobré skóre v benchmarku založenom na plynulosti, môže stále vytvárať plány, ktoré sa nedajú vykonať, alebo odpovede, ktorých citácie nikam nevedú. Systém, ktorý dosahuje dobré skóre vo vykonateľnosti alebo pôvode, preukázal niečo bližšie k tomu, čo tvorca rozhodnutí potrebuje. Chceli by sme vidieť viac hodnotení pri obstarávaní navrhnutých tak ako tieto dva články: s úlohou, ktorá buď uspeje, alebo zlyhá overiteľným spôsobom, a s auditom toho, odkiaľ pochádzajú dôkazy pre každú odpoveď.

Zdroje