Dweve

Neurosymbolikus megközelítés, egy évvel később: mit mutatnak valójában a 2026-os kutatások

Egy évvel ezelőtt amellett érveltünk, hogy az MI következő lépése a tanult modellek és az explicit struktúra összekapcsolása lesz. A 2026-os kutatás most...

Neurosymbolikus megközelítés, egy évvel később: mit mutatnak valójában a 2026-os kutatások

Egy évvel ezelőtt az érv még többnyire csak érv volt

2025 novemberében megjelentettük a "The neuro-symbolic renaissance" című esszét, amelyben amellett érveltünk, hogy a következő évek leghasznosabb AI-rendszerei nem csupán nagyobb nyelvi modellek lesznek. Ötvözni fogják a tanult modelleket, amelyek az észlelésben, a nyelvben és a mintázatokban erősek, a kifejezett szimbolikus struktúrával, amely a szabályokban, a megkötésekben, a származásban és a bizonyításban erős. Ezt az érvet első elvekből és saját mérnöki tapasztalatunkból vezettük le, mert a Dweve így épül fel: a Loom, a következtető motorunk 528 specialista között osztja el a munkát, amelyek közül sok szimbolikus megoldó, ellenőrző és szabálymotor, nem pedig neurális hálózat, és a visszaadott válasz nyomát adja annak, hogy melyik rész mit tett.

Az első elvekből levezetett érv ésszerű kiindulópont. Nem bizonyíték. Érdemes tehát egy évvel később megkérdezni, mit mutatnak most a publikált kutatások. Nem a sajtóközlemények, és nem a "neurosymbolic" szó iránti általános lelkesedés, amely elég divatossá vált ahhoz, hogy szinte bármire ráaggassák. A konkrét, mért eredmények.

Két 2026-os tanulmány különösen hasznos, mert közvetlenül tesztelik a lényegi állításokat, és ellenőrizhető számokat közölnek. Az egyik olyan ágensekről szól, amelyeknek egy világban kell cselekedniük: ha szimbolikus megkötéseket és keresést adunk egy nyelvi modellhez, végrehajthatóvá válnak-e a tervei? A másik a tudásra épülő kérdés-válaszadásról szól: ha a tudásstruktúrát determinisztikusan, hiteles forrásokból építjük fel, ahelyett hogy nyelvi modellel nyernénk ki, nyomon követhetőbbé válnak-e a válaszok? Mindkettő igennel válaszol, jelentős különbséggel. És mindkettő gondosan kitér arra, mit nem mutatott meg, ami legalább annyira tanulságos, mint amit megmutatott.

A hihető nem ugyanaz, mint a végrehajtható

Az első tanulmány, a "Neurosymbolic Embodied Agents" Albinhassan, Feng, Russo és Madhyastha tollából, amely 2026 augusztusában jelent meg az arXiv-on, egy olyan megfigyelésből indul ki, amelyet mindenki felismer, aki próbált már nyelvi modellt tervezőként használni. A nyelvi és a látás-nyelvi modellek, áll az absztraktban, "generate plausible embodied plans but do not guarantee executability, as their outputs can violate environment dynamics or act on incorrectly grounded entities."

A hihető és a végrehajtható közötti különbség egyetlen mondatban a teljes probléma. Egy modell, amelyet arra kérnek, hogy készítsen teát egy szimulált konyhában, jól olvasható lépéssort állít elő: menj a konyhába, vedd fel a vízforralót, töltsd meg, kapcsold be. De lehet, hogy olyan vízforralót próbál felvenni, amely nincs ott, vagy olyat próbál megtölteni, amely egy zárt szekrényben van, vagy olyanból próbál önteni, amely nem forrt fel. Minden lépés hihető. A terv egésze mégis megbukik, mert a modell nem követi nyomon a világ állapotát és azokat a szabályokat, amelyek szerint a cselekvések megváltoztatják azt.

A tanulmány ágense a hosszú távú háztartási feladatokat két szakaszra bontja. Az elsőben egy látás-nyelvi modell és egy feltáró keretrendszer a cél szempontjából releváns predikátumokat és példánykötéseket szerez be egocentrikus megfigyelésekből és megalapozott interakciókból, létrehozva a kezdeti állapot szimbolikus leírását: ez a vízforraló itt van, ez a szekrény zárva, ez a csésze üres. A másodikban egy PDDL átmeneti modell, annak formális leírása, hogy mely cselekvések mely állapotokban alkalmazhatók és mit változtatnak meg, "restricts decoding to tokens that extend applicable actions." A nyelvi modell csak olyan cselekvéseket hozhat létre, amelyeket a szimbolikus modell lehetségesnek mond. A Monte Carlo fakeresés ezután egy tartományfüggetlen tervezési heurisztika segítségével értékeli ki a végrehajtható folytatásokat.

A szerzők szavaival élve ennek az a következménye, hogy „a kapott tervek a tranzíciós modell szerint eleve végrehajthatók, és a környezetre való átvitel a helyes vizuális megalapozás feltételéhez kötött.” Ez az utolsó kitétel fontos, és alább vissza is térünk rá.

Összefoglalva Albinhassan, Feng, Russo és Madhyastha, Neurosymbolic Embodied Agents, arXiv 2608.16794 alapján.

A kis korlátozott modellek legyőzik a nagy korlátozatlant

Az eredmények megdöbbentőek. Két szabványos háztartási feladat benchmarkon, a VirtualHome-on és az ALFWorld-ön az absztrakt szerint "a 4B-27B nyílt modellek mindkét környezetben meghaladják a 90%-os sikert, és a legkisebb ágensünk mindegyikben jelentősen felülmúlja a 27B közvetlen vizuális politikát." A cikk eredményei szerint a sikerarányok a modellméretek függvényében 94,5 és 99,5 százalék között mozognak a VirtualHome-on, illetve 90,3 és 97,8 százalék között az ALFWorld-ön. A 4 milliárd paraméteres ágens 32,0 százalékponttal múlja felül a 27 milliárd paraméteres közvetlen vizuális politikát az egyik benchmarkon, és 63,4 százalékponttal a másikon.

Ezt a második eredményt érdemes lassan elolvasni. Egy körülbelül egyheted akkora modell, amely explicit struktúrát kap a világról és egy keresési eljárást a végrehajtható műveletek fölött, drámaian jobban teljesít, mint egy sokkal nagyobb modell, amelyet közvetlen cselekvésre kérnek. A különbség nem marginális hangolás. Ez a különbség aközött, hogy egy rendszer többnyire működik, és aközött, hogy többnyire nem.

Mindenki számára, akit az AI-rendszerek költsége, energiafelhasználása és irányíthatósága foglalkoztat, ez számít. Egy kis nyílt modell szerény hardveren is futhat, vizsgálható, egy verzióhoz rögzíthető, és ott üzemeltethető, ahol az üzemeltető választja. Ha a struktúra hozzáadása révén egy ilyen modell felül tud múlni egy nagyot azokban a feladatokban, amelyek megbízható cselekvést igényelnek, akkor a kis modellek melletti szuverenitási és hatékonysági érvek sokkal erősebbek lesznek. A méret nem az egyetlen út a képességhez. A struktúra egy másik.

A megkötések és a keresés kiegészítik egymást, nem felcserélhetők

A számunkra legérdekesebb megállapítás egy abláció. A szerzők a megkötéseket és a keresést külön tesztelték. Az ALFWorld-ön bármelyik önmagában "a feladatok kevesebb mint egyharmadát oldja meg, míg kombinációjuk több mint 95%-ot." A részletes számok: 32,3 százalék a megkötések önmagukban, 29,2 százalék a keresés önmagában, szemben a kombinált 95,5 százalékkal.

Ez olyan eredmény, amelyet a neuroszimbolikus AI-ról szóló egyszerű történet nem jósolna meg. Az ember azt várná, hogy a megkötések, mivel megakadályozzák az érvénytelen műveleteket, a munka nagy részét elvégzik, a keresés pedig egy keveset hozzáad. Vagy hogy a keresés, sok útvonalat feltárva, jó terveket talál, a megkötések pedig csupán felgyorsítják. Ehelyett mindegyik önmagában a legtöbb feladatban kudarcot vall, együtt viszont szinte mindegyiket megoldják.

Az intuíciót nem nehéz rekonstruálni. A keresés nélküli megkötések garantálják, hogy minden lépés érvényes, de semmit sem tesznek azért, hogy az érvényes lépések sorozata el is érje a célt. Egy modell a konyhában bolyongva a végtelenségig végezhet tökéletesen szabályos műveleteket. A megkötések nélküli keresés sok folytatást tár fel, de ezek többsége érvénytelen műveleteket tartalmaz, így a keresési teret elsősorban a kudarcra ítélt tervek uralják, és a heurisztikának kevés fogódzója marad. A kettő együtt viszont a megkötésekkel leszűkíti a teret az érvényes tervekre, a keresés pedig kiválasztja közülük a jókat.

Ez a komplementaritás a mi olvasatunkban a legerősebb eddigi empirikus támasz arra az architekturális állításra, amelyet egy évvel ezelőtt tettünk. Az érték nem abban rejlik, hogy egy szimbolikus modult rácsavarozunk egy neurálisra. Hanem egy sajátos munkamegosztásban, amelyben mindegyik rész azt teszi, amihez ért, és ellensúlyozza a másik gyengeségét.

Az arXiv 2608.16794. számú cikkben közölt adatok. Önmagában egyik komponens sem old meg a feladatok harmadánál többet.

Kevesebb token, és a hibák is mutatnak valamerre

A cikkből két további eredmény könnyen elsiklik az ember figyelme mellett, pedig figyelmet érdemel.

Az első a hatékonyság. Az absztrakt szerint a módszer "többszörösen kevesebb generált tokent használ, mint a kiterjesztett gondolkodás, és jóval kevesebb modell számára látható képet, mint a közvetlen interakció". A cikkben a kiterjesztett gondolkodáshoz viszonyított tokencsökkenés akár négyszeres. A kiterjesztett gondolkodás, amelyben a modell hosszú érvelési láncokat ír ki, mielőtt cselekszik, a fő alternatív stratégia a modelltervek megbízhatóságának javítására. Bizonyos mértékig működik, de drága: minden érvelési tokent ki kell számítani, a hosztolt szolgáltatásokon pedig fizetni is kell érte. Egy módszer, amely a tokenek töredékéből ér el jobb eredményeket, a siker mellett a költség és az energia szempontjából is jobb.

A második a diagnosztizálhatóság. Az absztrakt megjegyzi, hogy "a fennmaradó hibák az állapotfelismerésre lokalizálódnak, nem a tervgenerálásra, bármiféle speciális tanítás nélkül." Amikor az ágens hibázik, azért hibázik, mert téves volt a világról alkotott képe, nem azért, mert a kép alapján rosszul tervezett. Pontosan ez az, amit egy olyan rendszertől remélhetünk, amelynek tervei konstrukcióból adódóan végrehajthatók. Ez egyben megmutatja a mérnöknek is, hol dolgozzon tovább. Egy végponttól végpontig működő neurális rendszerben a hiba gyakran az egész modell diffúz tulajdonsága, és az egyetlen orvosság a több adat vagy a nagyobb modell. Egy faktorizált rendszerben a hibának címe van.

Úgy gondoljuk, hogy az AI-kutatás alulértékeli a diagnosztizálhatóságot. Jó, ha egy rendszer ritkábban hibázik. Még jobb, ha a hibái behatárolhatók, megmagyarázhatók és kijavíthatók, mert így tudatosan lehet fejleszteni, és mert a működése azokban az esetekben is megbízhatónak tekinthető, amikor az összetevőiről tudjuk, hogy megbízhatók.

Ugyanez a minta jelenik meg a kérdés-válasz feladatokban

A második tanulmány más problémát vizsgál, mégis feltűnően hasonló eredményre jut. Az „Ontology-guided neuro-symbolic GraphRAG for grounded query answering” című munkát Domenico Benfenati és Antonio Maria Rinaldi, a Nápolyi II. Frigyes Egyetem kutatói jegyezték, és 2026 októberében jelent meg a Neural Computing and Applications folyóiratban. A tanulmány a kiberbiztonsági ismeretekre épülő kérdés-válasz feladatokat vizsgálja: sebezhetőségeket, gyengeségeket, támadási mintázatokat és érintett termékeket, olyan nyilvános adattárakból merítve, mint a CVE, a CWE, a CAPEC és a CPE.

Az összehasonlítás kétféle módot állít szembe egymással arra, hogyan épül fel az a tudásgráf, amelyre a nyelvi modell a válaszadás során támaszkodik. A széles körben használt GraphRAG megközelítésben a nyelvi modell strukturálatlan szöveget olvas, és entitásokat, kapcsolatokat, valamint közösségi összefoglalókat nyer ki belőle, amelyek aztán a visszakeresés alapjául szolgálnak. A szerzők megközelítésében a gráf felülről lefelé, a hiteles adattárakból épül fel: célzott feltárással, ontológiavezérelt sémák egységesítésével és szabályalapú szimbolikus következtetéssel, például tranzitív láncolással és több lépéses termékhatás-elemzéssel. Maga az ontológia a valós adattárak szerkezetéből származik, nem pedig egy modell állítja elő. A nyelvi modell ezután ebből a gráfból kap bizonyítékokat, méghozzá a szerzők leírása szerint szigorúan egyirányú folyamatban: a szimbolikus alap „teljesen determinisztikus, megőrzi a származást, és önállóan ellenőrizhető”.

A származásvizsgálat a legtanulságosabb kísérlet. Az ontológiavezérelt gráfban a mintavételezett élek 100 százaléka visszavezethető volt hiteles forrásrekordokra vagy deklarált következtetési szabályokra. A nyelvi modell által kinyert gráfban ez az arány 83 százalék volt, és csak az élek 58 százaléka kötött össze kanonikus azonosítóval rendelkező végpontokat. A különbség a válaszokban is megmutatkozik: az ontológiavezérelt rendszer 95 százalékos hivatkozási pontosságot ért el, szemben a GraphRAG alapváltozatának 66 százalékával.

A szerzők szerkezeti magyarázata a lényeg. A nyelvi modell által kinyert GraphRAG esetében a válaszok olyan összefoglalókon alapulnak, amelyeket ugyanolyan típusú modell írt, mint amelyik a választ előállítja, így a származási lánc egy neurális közvetítőnél megszakad, és nem ér el egy hiteles rekordig. Egy modell által írt összefoglalóra hivatkozni annyi, mint egy értelmezésre hivatkozni. Egy forrásrekordra hivatkozni, olyan éleken keresztül, amelyek mindegyike visszavezethető arra a rekordra vagy egy deklarált szabályra, annyi, mint bizonyítékra hivatkozni.

Az ábrák Benfenati és Rinaldi cikke szerint, Neural Computing and Applications, 2026, egy kiberbiztonsági korpuszon.

A hivatkozások nem jelentik a teljes származást

Egy harmadik, rövidebb 2026-os tanulmány hasznos bonyodalmat ad hozzá. A "Why Neighborhoods Matter: Traversal Context and Provenance in Agentic GraphRAG" című írás, amely 2026 májusában jelent meg az arXiv-on, olyan rendszereket vizsgál, amelyekben az ügynök a válaszadás előtt bejár egy tudásgráfot, majd egy kis entitáshalmazra hivatkozik. Azt a kérdést teszi fel, hogy a végső hivatkozások elegendőek-e annak a bizonyítéknak a magyarázatához, amelyre a válasz támaszkodott.

Arra a következtetésre jut, hogy nem azok. A hivatkozott entitások általában számítanak: eltávolításuk jelentősen megváltoztatja a válaszokat és rontja a pontosságot. A kísérletek azonban azt mutatják, hogy a pontos válaszadás a gráfbejárástól, a szomszédsági szerkezettől és azoktól az entitásoktól is függ, amelyeket az ügynök meglátogatott, de nem idézett. A szerzők szerint a hű hivatkozásnak "számításba kell vennie a gráfkontextust és a visszakeresési útvonalat is, amelyek a végső választ alakítják."

Ez a megállapítás élesíti a Benfenati és Rinaldi cikkének tanulságát. A determinisztikus, nyomon követhető gráf szükséges az olyan válaszokhoz, amelyek bizonyítéka ellenőrizhető. Nem elegendő azonban, ha a rendszer csak azt rögzíti, amire hivatkozik, és nem azt, amit elolvasott. A származásnak az útvonalat is tartalmaznia kell, nem csak a célt. Ez egyébként ugyanaz a következtetés, amelyre a mérnöki oldalról jutottunk a Knot, azon eseménynapló tervezésekor, amelyet 2026 negyedik negyedévében teszünk közzé: az ügynökfutás rekordjának minden olvasást és minden közbenső lépést tartalmaznia kell, nem csak a végső kimenetet, mert a lépések azok, amelyek a kimenetet megmagyarázzák.

Amit az eredmények nem mutatnak meg

A két fő cikk egyaránt gondosan kezeli a korlátait, és ezeket a korlátokat érdemes nyíltan kimondani, mert egy eredmény iránti lelkesedés hajlamos eltörölni annak feltételeit.

A testet öltött ügynökökre vonatkozó eredmények szimulációban születtek. A VirtualHome és az ALFWorld jól megalapozott benchmarkok, de ismert dinamikájú, szimulált háztartási környezetek. Az a garancia, hogy a tervek "konstrukció szerint" végrehajthatók, az átmeneti modell fennhatósága alatt áll, azaz a világ működésének szimbolikus leírása alatt. Ha ez a leírás hibás vagy hiányos, a garancia nem vihető át. A valós világban nehéz teljes és helyes átmeneti modellt írni, és a világnak megvan az a szokása, hogy olyan dolgokat is tartalmaz, amelyekre a modell nem számított.

Ugyanezek az eredmények a helyes vizuális megalapozáson múlnak. Az absztrakt ezt egyértelműen ki is mondja. Ha a feltárási szakasz félreazonosít egy objektumot, vagy elvét egyet, a szimbolikus állapot hibás lesz, és egy terv, amely a hibás állapot mellett tökéletesen végrehajtható, a valóságban megbukhat. Az a megállapítás, hogy a maradék hibák az állapotfelvételre korlátozódnak, jó hír a diagnosztizálhatóság szempontjából, ugyanakkor arra is emlékeztet, hogy az észlelés marad a nehéz rész.

A GraphRAG eredményei egyetlen területről, a kiberbiztonságból származnak, ahol léteznek hiteles, strukturált repozitóriumok stabil azonosítókkal. Sok terület nem ilyen. Ahol a tudás főként strukturálatlan dokumentumokban él, kanonikus azonosítók nélkül, ott a felülről lefelé történő materializálás nem áll rendelkezésre, és valamilyen formájú kinyerés elkerülhetetlen. A cikk módszere megmutatja, mi válik lehetővé, ha jó források állnak rendelkezésre. Azt nem mutatja meg, hogyan lehet ilyeneket létrehozni ott, ahol nincsenek.

A GraphRAG válaszhelyesség-értékelése nyelvi modellt használt bírálóként, a Gemini 2.5 Flash-t, feladatonként tizenöt kérdésen. Ez ésszerű felépítés egy kutatási cikkhez, a provenance-audit pedig közvetlenebb mérés. A válaszminőségre vonatkozó számokat azonban a olvasóknak inkább iránymutatónak, mint véglegesnek kell tekinteniük, a provenance-számokat pedig az erősebb eredménynek.

E korlátok egyike sem ássa alá a cikkeket. Ezek a jó kutatás szokásos feltételei. De számítanak mindenkinek, akit kísértésbe visz, hogy a "neurosymbolic" kifejezést általános megoldásként olvassa. Ez olyan építészeti döntések halmaza, amelyek nagyon jól működnek, amikor előfeltételeik teljesülnek: a terület helyes szimbolikus modellje, az észlelés megbízható megalapozása ebben a modellben, és a tudás hiteles forrásai. A gyakorlati munka nagy része ezen előfeltételek megteremtésében rejlik.

Mi történik az első hiba után

A sikerességi arányok megmondják, milyen gyakran fejez be egy rendszer egy feladatot. Azt nem mondják meg, hogyan viselkedik, amikor valami elromlik, pedig ez gyakran a fontosabb kérdés annak, akinek telepítenie kell. A beágyazott ügynökökről szóló cikk tartalmaz egy függeléket, amely erre válaszol, és ez a munka egyik legtanulságosabb része.

A szerzők megmérték, mit tettek a szabályzatok "az első nem megalapozható vagy sikertelen végrehajtást követően", jelentve, hogy a feladatok milyen gyakran tartalmaztak ilyen eseményt, milyen gyakran állt helyre a feladat, milyen gyakran ismételte meg azonnal a sikertelen kérést, és milyen gyakran került tartós műveleti hurokba. A közvetlen vizuális szabályzatok eredményei, amelyek szimbolikus megkötések nélkül terveznek, meglepőek.

A VirtualHome-ban a 4B közvetlen Qwen szabályzat a feladatok 64,5 százalékában találkozott hibával. Ezen esetek 5,4 százalékában állt helyre a feladat, 74,5 százalékban ismételte meg azonnal a sikertelen kérést, és 45,5 százalékban tartós hurokba került. Az ALFWorld-ban ugyanez a modell a feladatok 73,9 százalékában találkozott hibával, 1,0 százalékban állt helyre, és 94,8 százalékban került tartós hurokba. A legnagyobb közvetlen modell jobban teljesített, ahogy az várható: a VirtualHome-ban a 27B szabályzat a feladatok 29,0 százalékában találkozott hibával, 37,9 százalékban állt helyre, 8,3 százalékban ismételte meg a kérést és 9,5 százalékban került hurokba. Az ALFWorld-ban még ez a modell is csak az esetek 25,7 százalékában állt helyre.

A cikk bevezetése elmagyarázza, miért történik ez. A közvetlen szabályzatnak azonosítania kell az objektumokat, követnie kell azok állapotát, ki kell választania az alkalmazható műveleteket és érvelnie kell a késleltetett hatásokról "egyetlen autoregresszív előzményen belül, ahol szabadon összeadódhatnak". A szerzők megjegyzik, hogy "a végrehajtási visszajelzés felfedheti az ilyen hibát annak bekövetkezte után, de nem akadályozza meg a modellt abban, hogy megismételjen egy érvénytelen választást, vagy eltávolodjon attól az állapottól, amelyet saját műveletei idéztek elő."

Ez a mondat olyan mintázatot ír le, amelyet sokan felismernek a laboratóriumon kívüli ágenseknél. Az ágens megpróbál valamit, az nem sikerül, a hiba visszacsatolódik, majd az ágens ugyanazt vagy valami egyenértékűt próbálja újra. A visszacsatolás információ, de az információ nem korlátoz. Egy olyan rendszer, amely a cselekvés érvényességét kikövetkeztetendő dologként kezeli ahelyett, hogy kikényszerítené, kaphat jelzést arról, hogy tévedett, anélkül hogy megakadályoznák abban, hogy újra tévedjen.

A korlátozott megközelítés ezt azzal változtatja meg, hogy az alkalmazhatóságot a tanulmány szóhasználatával „a generálás és a keresés során végig fenntartott korlátozássá” teszi. Olyan cselekvés, amelynek előfeltételei nem teljesülnek, soha nem jön létre, így nincs mit megismételni. Ez nem teszi tévedhetetlenné a rendszert. A hibát máshová helyezi át.

Adatok Albinhassan és munkatársai 2026-os tanulmányának 10. táblázatából, szimbolikus korlátozások nélküli közvetlen szabályzatokra. Százalékos értékek; a helyreállítás és az ismétlés azon feladatok körében értendő, amelyeknél hiba történt.

A tanulmány megjelöli a saját hibáit

Az eredmények őszinte bemutatásához hozzátartozik annak megmondása, hol hibázik a korlátozott ágens, és a tanulmány ezt meg is teszi. Szimbolikus tervezője csak az adott állapot fölött tud tervezni. Amikor a vizuális feltárási szakasz elvét egy szükséges objektumot, a szerzők szerint „a hiba továbbterjed, mert a megalapozott kezdőállapotból hiányzik egy szükséges objektum. Ez a vizuális állapotfeltáró komponens korlátja, nem az alkalmazhatósági garanciáé.”

Ez a megkülönböztetés számít. A rendszer által nyújtott garancia szűk és erős: minden cselekvés, amelyet tervez, alkalmazható abban az állapotban, amelyben lenni véli magát. Hogy ez a hit egyezik-e a valósággal, az az észlelésen múlik, az észlelést pedig továbbra is neurális modell végzi, mindazzal a bizonytalansággal, amit ez magával hoz. A szerzők arra számítanak, hogy „a vizuális felismerés és az aktív nézőpontválasztás javulása közvetlenül átvihető a teljes módszerre”, ami ésszerű várakozás, és egyben emlékeztető arra, hogy a szimbolikus rész nem tudja ellensúlyozni azt, amit a neurális rész nem lát meg.

Az ilyen rendszereket értékelők számára a tanulság az, hogy kérdezzenek rá, hol ér véget a garancia. A neuroszimbolikus rendszer jellemzően a folyamat egy részéről nyújt bizonyosságot (a terv érvényes, a következtetés a szabályokból fakad, a választ a gráf támasztja alá), a bizonytalanságot pedig az őt tápláló részekről örökli. Egy jó rendszer láthatóvá teszi ezt a határvonalat. Rögzíti, mit észlelt, mit feltételezett és mit vezetett le, így a bíráló meg tudja állapítani, hogy a hiba az érvelésből vagy az érvelés bemenetéből eredt-e.

Ezért is olyan értékesek a tanulmány függelékében szereplőhöz hasonló hibaelemzések. Ha tudjuk, hogy egy rendszer többnyire a megalapozásnál hibázik, nem pedig a tervezésnél, az megmutatja a mérnöknek, hová fektessen be, és megmutatja az üzembe helyezőnek, milyen felügyeletre van szükség. Az emberi bírálónak, aki egy korlátozott ágens munkáját ellenőrzi, a világról alkotott képét kell ellenőriznie, nem az aritmetikáját.

A bejárásról szóló tanulmány kicsi, és ezt maga is elismeri

A bejárási kontextusról szóló tanulmány a saját korlátaival is óvatosan bánik. A szerzők azt írják, hogy a vizsgálatot "korlátozza a kicsi benchmarkméret, valamint az, hogy a 2WikiMultiHopQA-ból épített, kontrollált tudásgráfot használ egy nagy, valós tudásgráf helyett." Nagyobb adathalmazokon, gazdagabb gráfszerkezeteken és szakterület-specifikus tudásbázisokon végzett értékelést sürgetnek, valamint olyan hivatkozási mechanizmusokat, amelyek "nemcsak a végső alátámasztó entitásokat teszik láthatóvá, hanem a releváns bejárási kontextust is."

Ez az őszinteség hasznos. Az a megállapítás, hogy a hivatkozások szükségesek, de nem elegendőek egy ágens válaszának magyarázatához, hihető és fontos, de kontrollált környezeten alapul. Mielőtt bárki szabályozást építene rá, reprodukálni kell azokon a gráfokon, amelyeket a valós rendszerek használnak: vállalati tudásbázisokon, szabályozási korpuszokon, termékkatalógusokon. Addig legjobb jól megtervezett figyelmeztetésként olvasni, nem pedig lezárt mérésként.

A figyelmeztetést mégis érdemes megfogadni. A szerzők arra a következtetésre jutnak, hogy "az ágensalapú, gráfalapú visszakeresésben a származást trajektória szintű tulajdonságként kell kezelni". A rendszerépítők számára ez azt jelenti, hogy az útvonalat kell rögzíteni, nem csak a célt: mely entitásokat érintették, mely éleket követték, mely szomszédokat látták és nem idézték. A hivatkozási lista ennek az útvonalnak az összefoglalója. Mint minden összefoglaló, ez is lehet pontos, és mégis kihagyhat valamit, ami számított.

Az útvonal rögzítésének gyakorlati költsége van, és ezt ki kell mondani. A bejárási rekordok nagyobbak, mint a hivatkozási listák, tartalmazhatnak olyan anyagot, amelyet a felhasználónak soha nem mutattak meg, és ugyanolyan gondosságot igényelnek a hozzáférés és a megőrzés terén, mint bármely más napló. De az alternatíva rosszabb. Amikor egy választ megkérdőjeleznek, egy rendszer, amely csak a hivatkozásait őrizte meg, meg tudja mutatni, mire mutatott. Egy rendszer, amely megőrizte a trajektóriáját, meg tudja mutatni, hogyan jutott oda, és valójában ez az a kérdés, amelyet a bíráló fel fog tenni. Az ágensalapú visszakeresésnél ez a különbség valószínűleg eldönti, hogy egy magyarázatot elfogadnak-e, vagy csak eltűrnek.

A magyarázatról szóló régebbi érv továbbra is érvényes

Mindez szellemiségében nem új. A gépi tanulásban a magyarázatról szóló vita évek óta folyik, és a 2026-os eredmények beleillenek, nem pedig felváltják azt.

2017-ben Finale Doshi-Velez és Been Kim megjegyezte, hogy "az értelmezhetőség iránti érdeklődés ellenére nagyon kevés az egyetértés abban, hogy mi az értelmezhető gépi tanulás, és hogyan kell mérni." 2018-ban Cynthia Rudin amellett érvelt, hogy "a fekete dobozos modellek magyarázatára törekedni ahelyett, hogy eleve értelmezhető modelleket hoznánk létre, valószínűleg fenntartja a rossz gyakorlatokat, és potenciálisan katasztrofális kárt okozhat a társadalomban." Ugyanabban az évben Julius Adebayo és munkatársai megmutatták, hogy egyes szaliencia-módszerek "függetlenek mind a modelltől, mind az adatgenerálási folyamattól", és hasonló magyarázatokat adnak, akár tanult valamit a modell, akár nem.

A korlátozott tervezés és a GraphRAG eredményei Rudin álláspontjának bizonyítékaként olvashatók egy új környezetben. Amikor a tervet explicit szabályok feletti keresés állítja elő, érvényessége annak a tulajdonsága, hogyan készült, és annak magyarázata, hogy miért választottak egy műveletet, leolvasható a keresésből. Amikor egy választ gráf bejárása állítja elő, származása a bejárás tulajdonsága, feltéve, hogy a bejárást rögzítik. Mindkét esetben a magyarázat nem egy második modell értelmezése az elsőről. Hanem annak a feljegyzése, hogy mit tett az első.

A 2026-os eredmények mindehhez azt a bizonyítékot adják hozzá, hogy egy ilyen rendszer is teljesíthet jól. Az értelmezhető megközelítésekkel szembeni régi ellenvetés az volt, hogy az pontosságba kerül. Az ehhez hasonló eredmények, amelyekben kis, megkötött modellek felülmúlják a nagyobb, megkötés nélküli modelleket strukturált feladatokon, általánosságban nem döntik el ezt a kérdést. Azt viszont megmutatják, hogy azoknál a feladatoknál, amelyeknek kifejezett szabályai és ellenőrizhető kimenetei vannak, a kompromisszum nem az, amit az emberek feltételeztek.

A hosszabb gondolkodás nem segített, és a könnyű benchmark elrejti ezt

A beágyazott ágensről szóló tanulmány komponensablatioja két további részletet tartalmaz, amelyek figyelmet érdemelnek, mert szembemennek a gyakori feltételezésekkel.

Az első a kiterjesztett érvelésre vonatkozik. A 27B Qwen modellel az egyszerű mohó dekódolás 61,0 százalékos sikert ért el a VirtualHome-ban és 15,4 százalékot az ALFWorld-ben. Ugyanez a modell gondolkodási módban, a tanulmány dekódolási beállításai szerint akár 32 768 kimeneti token költségvetéssel, 59,0 és 16,9 százalékot ért el. Az, hogy hagyták a modellt sokkal hosszabban érvelni, lényegében semmilyen különbséget nem hozott. Ezzel szemben az alkalmazhatósági megkötések hozzáadása a mohó dekódoláshoz a VirtualHome sikerességét 61,0-ról 98,5 százalékra növelte. A szerzők szavaival ez azt mutatja, hogy "az alkalmazhatósági megkötések adják a nyereség nagy részét".

Ez hasznos helyreigazítása annak az elképzelésnek, hogy a több érvelési token általános orvosság a tervezési hibákra. Amikor a hiba az, hogy olyan műveletet választunk, amelynek előfeltételei nem teljesülnek, a több belső mérlegelés nem állítja meg megbízhatóan. Egy szabály, amely lehetetlenné teszi az ilyen műveleteket, igen.

A második részlet a benchmark nehézségére vonatkozik. A VirtualHome-ban a megkötés nélküli keresés önmagában 99,0 százalékot ért el, ugyanannyit, mint a teljes módszer, bár a szerzők megjegyzik, hogy ezt "magasabb generálási költség mellett" tette, ahogy az ábráikon látható. Egy olvasó, aki csak a VirtualHome-ot nézi, arra juthat, hogy a keresés az egyetlen, amire szükség van. Az ALFWorld mást mutat: a megkötések önmagukban 32,3 százalékot értek el, a megkötés nélküli keresés 29,2 százalékot, a kombináció pedig 95,5 százalékot. A szerzők a nagyobb különbséget a nehezebb tervezési problémának tulajdonítják. A 27B modell sikeres tervei átlagosan 8,0 magas szintű műveletet tartalmaztak az ALFWorld-ben és 6,4-et a VirtualHome-ban, maximum 30 és nyolc, és az ALFWorld "több példány- és tartóbindinget vezet be minden szakaszban."

Az általános tanulság az, hogy egy könnyű benchmark két különböző tervet egyenértékűnek tüntethet fel. Csak amikor a probléma elég hosszúvá és elég megkötötté válik, jelennek meg a különbségek. Aki ügynökarchitektúrákat hasonlít össze, azokon a feladatokon tesztelje őket, amelyek legalább olyan hosszúak és szorosan megkötöttek, mint amelyeket telepíteni szándékozik, ne a legrövidebb elérhető feladatokon.

A kísérletek tervezésüknél fogva reprodukálhatók

A tanulmány egy további jellemzője is említést érdemel, mert kapcsolódik a sorozat más helyén felbukkanó témához. A szerzők teljes egészében közzéteszik dekódolási beállításaikat. A megkötött Qwen fázisok 0,0 hőmérsékleten futnak. Ahol nucleus mintavételezést használnak, a kiegészítő gondolkodási futásoknál és a beágyazott alapvonalaknál, az értékeléseket három megnevezett véletlenszám-generátorral ismétlik meg: 0, 42 és 1738. A keresés feladatonként 250 másodpercre van korlátozva, és a tanulmány megállapítja, hogy keresési hiperparamétereit "empirikusan választották ki".

Ezek a részletek teszik ellenőrizhetővé egy eredményt. Az olvasó, aki reprodukálni akarja a munkát, tudja, milyen beállításokat használjon, hány futást végezzen, és mekkora eltérésre számítson. Ezek teszik láthatóvá a korlátokat is: az empirikusan kiválasztott hiperparamétereket más környezetekben újra kell hangolni, és az időkorlát azt jelenti, hogy egyes feladatok az idő hiánya miatt hiúsulhatnak meg, nem a terv hiánya miatt. Mindkettő kimondása jó gyakorlat. Ez az a mérce, amelynek véleményünk szerint minden közzétett eredménynek, köztük a sajátunknak is meg kell felelnie. Egy eredmény, amelyet nem lehet újrafuttatni, még mindig lehet érdekes, de még nem lehet rá támaszkodni, és a különbség akkor a legfontosabb, amikor az eredményt egy terv igazolására használják.

A szó címkévé válik, ezért tesztre van szükség

A siker utánzást szül, és a "neurosymbolic" kifejezést ma olyan rendszerekre is alkalmazzák, amelyeknek vajmi kevés közük van az ezekben a tanulmányokban szereplő architektúrákhoz. Néha neurosymbolicnak neveznek egy nyelvi modellt, ha a promptja annyit mond, hogy "gondolkodj lépésről lépésre". Ugyanígy hívnak így egy számológépet hívó modellt, egy szabályalapú üdvözléssel rendelkező chatbotot vagy egy adatbázist használó keresőrendszert. Mindegyikük vegyít valami neurálisat valami nem neurálissal, és a szó értelmét veszti, ha mindegyikükre kiterjed.

Hasznosnak tartjuk egy egyszerű teszt alkalmazását, amely abból ered, ami a 2026-os eredményeket működőképessé tette. Egy rendszer akkor érdemli ki a szót, ha a szimbolikus része úgy korlátozza vagy ellenőrzi a neurális részt, hogy az megváltoztatja a rendszer lehetséges kimeneteit, és ha ez a korlátozás vizsgálható.

A testtel rendelkező ágensekről szóló tanulmányban a PDDL átmeneti modell az alkalmazható műveletekre szűkíti a dekódolást. A nyelvi modell szó szerint nem tud érvénytelen műveletet előállítani. Ez olyan korlátozás, amely megváltoztatja a kimeneti teret, és az átmeneti modellt bárki elolvashatja. A GraphRAG-tanulmányban a tudásgráf deklarált szabályok alapján épül fel hiteles nyilvántartásokból, és a nyelvi modell kizárólag ebből a gráfból kap bizonyítékot. Minden él eredete ellenőrizhető. Mindkét rendszer átmegy a teszten.

Az a prompt, amely arra kéri a modellt, hogy gondosan érveljen, nem megy át. Javíthatja a kimeneteket, de nem korlátozza azokat, és semmi benne nem vizsgálható meg abból a szempontból, hogy a modell mit mondhat. Az a modell, amely számológépet hívhat, csak részben megy át: a számológép eredménye pontos, de a modell dönti el, hogy hívja-e, és mit kezd az eredménnyel, és semmi sem akadályozza meg abban, hogy figyelmen kívül hagyja az eredményt, vagy maga végezze el a számítást. A teszt nem a tisztaságról szól. Arról szól, honnan származnak a garanciák.

Kérdések, amelyeket fel kell tenni egy rendszernek, amely igényt tart a szóra

A neurosymbolicként leírt rendszereket értékelő szervezetek számára a teszt néhány konkrét kérdéssé fordítható le.

Mit akadályoz meg a szimbolikus rész? Hasznos válasz megnevez egy olyan kimeneti osztályt, amelyet a rendszer nem tud előállítani, például érvénytelen műveleteket, nem támogatott állításokat vagy szabálysértéseket, és elmagyarázza a mechanizmust. Az a válasz, amely szerint a szimbolikus rész "irányítja" vagy "tájékoztatja" a modellt, anélkül hogy megnevezné, mit akadályoz meg, arra utal, hogy a garancia puha.

Elolvasható a szimbolikus rész? A szabályoknak, korlátozásoknak, ontológiáknak és átmeneti modelleknek hozzáférhetőnek kell lenniük azok számára, akik a rendszerre támaszkodnak, legalább a döntéseik szempontjából releváns formában. Ha a szimbolikus réteg maga is tanult, átláthatatlan komponens, akkor nem nyújtja azt a fajta garanciát, amely a neurosymbolic terveket értékessé teszi.

Meddig tart az eredet? Minden válasznál kövesse a hivatkozásokat. Hiteles forrásnyilvántartásokhoz vezetnek, nyomon követhető lépéseken keresztül, vagy modell által írt közbenső szövegekhez? A GraphRAG eredetvizsgálata sablonként szolgál ehhez az ellenőrzéshez.

Hol vannak a hibák? Kérjen bontást a hibaesetekről komponensenként. Egy jól tagolt rendszernek meg kell tudnia mondani, hogy a hibái az észlelésben, a megalapozásban, a visszakeresésben, az érvelésben vagy a generálásban keletkeznek-e. Egy rendszer, amely ezt nem tudja megmondani, vagy nincs tagolva, vagy nincs mérve.

Mit rögzítenek? Kérdezze meg, hogy a rendszer rögzíti-e a megtett utat, beleértve azt is, hogy mit olvasott és mely komponensek járultak hozzá, nem csak a végső választ. Az ügynöki GraphRAG eredményei megmutatják, miért számít ez.

E kérdések egyikének feltevéséhez sem kell mély szakértelem. Mindegyikük elválasztja azokat az architektúrákat, amelyek ellenőrizhető garanciákat nyújtanak, azoktól a rendszerektől, amelyek csak a szókincset használják.

Miért számít ez a magyarázat és a felügyelet szempontjából

Ezeknek az eredményeknek van egy szabályozási dimenziója, amelyet érdemes kifejteni, mert összekapcsolja a kutatási architektúrát azokkal a kötelezettségekkel, amelyek sok szervezetre vonatkozni fognak.

Az AI Act sok magyarázatot kíván meg. A 13. cikk előírja, hogy a nagy kockázatú rendszereket úgy kell kialakítani, hogy az alkalmazók értelmezni tudják a kimenetüket, és megfelelően tudják használni azokat. A 14. cikk előírja, hogy a felügyelettel megbízott személyek helyesen tudják értelmezni a rendszer kimenetét, és dönthessenek úgy, hogy figyelmen kívül hagyják, felülírják vagy visszafordítják azt. A 86. cikk az érintett személyek számára jogot biztosít arra, hogy bizonyos döntésekben világos és érdemi magyarázatot kapjanak az AI-rendszer szerepéről. Ezek a kötelezettségek a nagy kockázatú rendszerekre 2027 decemberétől vagy 2028 augusztusától vonatkoznak, a Digital Omnibus nyomán, ám azok a tervezési döntések, amelyek teljesíthetővé teszik őket, most születnek meg.

Egy faktorizált, neuroszimbolikus rendszer sokkal könnyebben magyarázható, mint egy végponttól végpontig működő modell, éppen azok miatt az okok miatt, amelyeket a 2026-os tanulmányok bemutatnak. Amikor egy terv egy átmeneti modell mellett konstrukció szerint végrehajtható, annak magyarázata, hogy egy lépés miért volt megengedett, annak a szabálynak a hivatkozása, amely megengedte. Amikor egy válasz olyan élekre hivatkozik, amelyek hiteles nyilvántartásokig vezethetők vissza, annak magyarázata, hogy egy állítás miért született meg, a nyilvántartások láncolata. Amikor a hibák egy komponensre lokalizálhatók, annak magyarázata, hogy a rendszer miért tévedett, megnevezi a komponenst. Minden magyarázat olyan dologról szóló kijelentés, amely létezik és megvizsgálható, nem pedig egy neurális számítás utólagos racionalizálása.

Ez nem teszi triviálissá a magyarázatot. Valakinek még mindig le kell fordítania a szabályokat és a nyilvántartásokat olyan nyelvre, amelyet az érintett személy megért. Ez azonban megváltoztatja a feladat természetét: a rekonstrukció helyett a bemutatás lesz a feladat. A rekonstrukció azt kérdezi: „mi okozhatta ezt a kimenetet?”, és csak hipotéziseket tud kínálni. A bemutatás azt kérdezi: „hogyan mutatjuk meg azokat a szabályokat és nyilvántartásokat, amelyek ezt a kimenetet előállították?”, és bizonyítékot tud kínálni. A felügyelet és a magyarázathoz való jog szempontjából ez a különbség döntő.

Ez az oka annak is, hogy úgy gondoljuk, a hatékonysági eredmények nemcsak a mérnököket, hanem a szabályozókat is érdekelhetik. Egy kicsi, korlátozott modell, amelynek olcsóbb a futtatása, egyben olyan modell is, amelynek olcsóbb az auditálása: ott lehet hosztolni, ahol az auditor eléri, egy vizsgálat időtartamára egy verzióhoz lehet rögzíteni, és ugyanazokon a bemeneteken determinisztikusan újra lehet játszani. A strukturált kis rendszerek melletti szuverenitási, energia- és elszámoltathatósági érvek valójában ugyanannak az érvnek a három oldalról nézett változatai.

Mit vonunk le belőle

A saját munkánk szempontjából a 2026-os eredmények három tervezési döntést megerősítenek, egy negyediket pedig élesebbé tesznek.

Megerősítik, hogy a struktúrával rendelkező kis modellek felül tudják múlni a struktúra nélküli nagy modelleket azokban a feladatokban, amelyek megbízhatóságot igényelnek. Ez az a premissza, amelyre a Loom specialista közötti útvonalválasztása épül: a legtöbb kérdésre a megfelelő specialista adja a legjobb választ, gyakran egy kis modell vagy egy szimbolikus megoldó, nem pedig a legnagyobb elérhető modell. A beágyazott ágens ablációja a legvilágosabb általunk ismert publikált bizonyíték arra, hogy ez a premissza a tervezésre is érvényes.

Megerősítik, hogy a tudást deklarált szabályokkal rendelkező hiteles forrásokból kell felépíteni, és a forrására kell hivatkozni. A Dweve tudásrétege a válaszban felhasznált minden tudáselemet csomópont és verzióhash alapján idéz, így a bíráló a hivatkozást egészen a pontos nyilvántartásig és verzióig követheti. A GraphRAG származási audit megmutatja, mi vész el, amikor ez a láncolat egy modell által írt közvetítőnél megszakad.

Megerősítik, hogy az útvonal rögzítése ugyanolyan fontos, mint a válasz rögzítése. Az ágens alapú GraphRAG tanulmány megállapítása a meglátogatott, de nem idézett entitásokról pontosan az az ok, amiért a Knot rögzíti az olvasásokat és a közbenső lépéseket, és amiért a Loom nyomkövetése megmutatja, mely specialisták járultak hozzá.

És élesítik a figyelmünket a megalapozásra. Mindkét tanulmány a fennmaradó hibáit ott azonosítja, ahol a világ, illetve a forrás a szimbolikus reprezentációba fordul át. Ez az a határvonal, ahol a neurális észlelés átadja a helyét a szimbolikus következtetésnek, és ide kell összpontosítani az ellenőrzési erőfeszítést. Egy szimbolikus réteg, amely tökéletesen következtet egy hibás állapot felett, magabiztos hibás választ ad. A következő év mérnöki kérdése az, hogyan tehető ez a határvonal ugyanolyan ellenőrizhetővé, mint a két oldalán lévő rétegek.

A reneszánsz, számokkal

Egy évvel ezelőtt még érvelés volt az az állítás, hogy a neuroszimbolikus rendszerek felülmúlják a tiszta nyelvi modelleket a megbízhatóságot igénylő feladatokban. 2026-ban már számok vannak mögötte: több mint 90 százalékos siker a kis nyílt modelleknél háztartási tervezésben, egy 4 milliárd paraméteres ágens széles különbséggel veri a 27 milliárd paraméteres közvetlen szabályozót, a kényszerek és a keresés külön-külön a feladatok kevesebb mint harmadát oldja meg, együtt viszont több mint 95 százalékát, és egy ontológiából épített gráf minden éle visszavezethető a forrásáig, szemben a kinyert gráf 83 százalékával.

Ezekhez a számokhoz feltételek tartoznak, és a feltételek ugyanolyan fontosak, mint az eredmények. Az irány azonban világos. Amikor egy AI-rendszernek ellenőrizhető módon kell helyesnek lennie, a struktúra nem akadálya a képességnek. Hanem annak egyik forrása.

Miért számít a benchmark tervezése ugyanannyira, mint az eredmény

Mindkét tanulmányban van egy tágabb módszertani tanulság, amely rövid megjegyzést érdemel, mert kihat arra, hogyan kellene az egész szakterületnek értékelnie a megbízhatónak mondott rendszereket.

Mindkét tanulmány mást mér, mint a gördülékenységet. A beágyazott ágensről szóló tanulmány a sikert méri: elkészült-e a háztartási feladat a környezetben? A GraphRAG-tanulmány a származást méri: minden él és minden hivatkozás visszavezethető-e egy hiteles nyilvántartásra? Egyik sem támaszkodik elsősorban arra, hogy egy válasz jól olvasható-e, vagy egyezik-e egy referenciaszöveggel. Ez jelentős, mert az AI-értékelés nagy része még mindig a felszíni minőséget jutalmazza. A "Why Neighborhoods Matter" irányvonal és a kapcsolódó értékelési kutatás más irányból jutott ugyanerre: a referenciaválasszal való lexikai átfedés lehet nagy, miközben a válasz melletti bizonyíték hiányzik.

Azoknak a szervezeteknek, amelyek fontos döntésekhez értékelnek AI-rendszereket, az a tanulság, hogy előbb azt kérdezzék meg, mit mér egy benchmark, és csak azután, hogy milyen pontszámot ért el egy rendszer. Egy gördülékenységalapú benchmarkon jól teljesítő rendszer még mindig adhat végre nem hajtható terveket, vagy olyan válaszokat, amelyeknek a hivatkozásai sehová sem vezetnek. Egy végrehajthatóságon vagy származáson jól teljesítő rendszer valami olyasmit bizonyított, ami közelebb áll ahhoz, amire egy döntéshozónak szüksége van. Szeretnénk több olyan beszerzési értékelést látni, amelyet úgy terveztek meg, ahogy ez a két tanulmány: olyan feladattal, amely ellenőrizhető módon sikerül vagy bukik el, és annak auditjával, hogy honnan származik az egyes válaszok bizonyítéka.

Források