Невросимволният подход, една година по-късно: какво всъщност показват изследванията от 2026 г.
Преди година това беше предимно аргумент
През ноември 2025 г. публикувахме „Невросимволичният ренесанс“ – есе, в което твърдяхме, че най-полезните AI системи през следващите няколко години няма да бъдат само по-големи езикови модели. Те ще съчетават обучени модели, добри в разпознаването, езика и откриването на закономерности, с явна символна структура, добра в правилата, ограниченията, проследимостта на произхода и доказателствата. Направихме този аргумент от първи принципи и от собствения си инженерен опит, защото така е изграден Dweve: Loom, нашият двигател за разсъждения, насочва работата през 528 специалисти, много от които са символни решаватели, верификатори и машини за правила, а не невронни мрежи, а отговорът, който връща, носи следа кой каква част е свършил.
Аргументът от първи принципи е разумна отправна точка. Той не е доказателство. Затова си струва да попитаме година по-късно какво показват публикуваните изследвания днес. Не пресъобщенията за медиите и не общият ентусиазъм около думата „невросимволичен“, която стана достатъчно модерна, за да се прилага към почти всичко. А конкретните, измерени резултати.
Две статии от 2026 г. са особено полезни, защото проверяват основните твърдения пряко и съобщават числа, които могат да бъдат проверени. Едната се отнася до агенти, които трябва да действат в свят: прави ли плановете им изпълними добавянето на символни ограничения и търсене към езиков модел? Другата се отнася до отговаряне на въпроси върху знания: прави ли отговорите по-проследими изграждането на структурата на знанията детерминистично от авторитетни източници, вместо извличането ѝ с езиков модел? И на двата въпроса отговорът е да, с голяма разлика. И в двете статии има внимание към това какво не е показано, което е поне толкова поучително, колкото това, което е показано.
Правдоподобно не е същото като изпълнимо
Първата статия, „Neurosymbolic Embodied Agents“ от Albinhassan, Feng, Russo и Madhyastha, публикувана в arXiv през август 2026 г., започва с наблюдение, което всеки, опитал се да използва езиков модел като планиращ, ще разпознае. Езиковите и визуално-езиковите модели, се казва в резюмето ѝ, „генерират правдоподобни въплътени планове, но не гарантират изпълнимост, тъй като резултатите им могат да нарушат динамиката на средата или да действат върху неправилно обосновани обекти.“
Разликата между правдоподобно и изпълнимо е целият проблем в едно изречение. Модел, помолен да направи чаша чай в симулирана кухня, ще създаде последователност от стъпки, която звучи добре: отиди в кухнята, вземи чайника, напълни го, включи го. Но може да се опита да вземе чайник, който не е там, или да напълни чайник, който е в затворен шкаф, или да налее от чайник, който не е заврял. Всяка стъпка е правдоподобна. Планът като цяло се проваля, защото моделът не следи състоянието на света и правилата как действията го променят.
Агентът в статията разделя дългосрочните домакински задачи на две фази. В първата визуално-езиков модел и инструмент за изследване придобиват предикати, свързани с целта, и обвързвания на екземпляри от егоцентрични наблюдения и обосновани взаимодействия, като създават символно описание на началното състояние: този чайник е тук, този шкаф е затворен, тази чаша е празна. Във втората PDDL модел на преходите, формално описание кои действия са приложими в кои състояния и какво променят, „ограничава декодирането до токени, които разширяват приложимите действия.“ Езиковият модел може да генерира само действия, които символният модел казва, че са възможни. След това търсене в дърво по метода Монте Карло оценява изпълними продължения, използвайки евристика за планиране, независима от домейна.
Следствието, по думите на авторите, е, че „получените планове са изпълними по конструкция при модела на преходите, като преносът към средата е обусловен от правилно визуално обосноваване.“ Последното изречение е важно и се връщаме към него по-долу.
Малки ограничени модели побеждават един голям неограничен
Резултатите са поразителни. При два стандартни теста за домакински задачи, VirtualHome и ALFWorld, резюмето съобщава, че "отворени модели с 4B-27B параметъра надхвърлят 90% успех и в двете среди, а нашият най-малък агент значително превъзхожда директна визуална политика с 27B параметъра във всяка от тях." В резултатите от статията процентите на успех варират от 94.5 до 99.5 процента в VirtualHome и от 90.3 до 97.8 процента в ALFWorld при различните размери на моделите. Агентът с 4 милиарда параметъра превъзхожда директната визуална политика с 27 милиарда параметъра с 32.0 процентни пункта при единия тест и с 63.4 при другия.
Този втори резултат заслужава да бъде прочетен бавно. Модел, който е приблизително една седма от размера, снабден с ясна структура за света и процедура за търсене върху изпълними действия, се справя драматично по-добре от много по-голям модел, помолен да действа директно. Разликата не е в маргинална настройка. Тя е разликата между система, която работи в повечето случаи, и такава, която не работи в повечето случаи.
За всеки, когото вълнуват разходите, потреблението на енергия и управляемостта на AI системите, това е важно. Малък отворен модел може да работи на скромен хардуер, може да бъде инспектиран, може да бъде фиксиран към дадена версия и може да бъде хостван където операторът избере. Ако добавянето на структура позволява на такъв модел да превъзхожда голям при задачи, изискващи надеждно действие, тогава аргументите за суверенитет и ефективност в полза на малките модели стават много по-силни. Размерът не е единственият път към способности. Структурата е друг.
Ограниченията и търсенето се допълват, а не се заменят
Най-интересното откритие за нас е едно аблационно изследване. Авторите тестват ограниченията и търсенето поотделно. В ALFWorld всяко от тях само по себе си "решава под една трета от задачите, докато комбинацията им решава над 95%." Подробните цифри са 32.3 процента за ограниченията сами и 29.2 процента за търсенето само, срещу 95.5 процента в комбинация.
Това е резултат, който един прост разказ за невросимволичния AI не би предсказал. Човек би могъл да очаква, че ограниченията, като предотвратяват невалидни действия, ще свършат по-голямата част от работата, а търсенето ще добави малко. Или че търсенето, като изследва много пътища, ще намери добри планове, а ограниченията само ще го ускорят. Вместо това всяко от тях само по себе си се проваля при повечето задачи, а заедно успяват при почти всички.
Интуицията не е трудна за възстановяване. Ограниченията без търсене гарантират, че всяка стъпка е валидна, но не правят нищо, за да осигурят, че последователността от валидни стъпки достига до целта. Един модел може вечно да се лута из кухнята, извършвайки напълно законни действия. Търсенето без ограничения изследва много продължения, но повечето от тях включват невалидни действия, така че пространството за търсене е доминирано от планове, които ще се провалят, и евристиката има малко, с което да работи. Заедно ограниченията подрязват пространството до валидни планове, а търсенето намира добрите сред тях.
Тази взаимодопълняемост е, по наше мнение, най-силната емпирична подкрепа досега за архитектурното твърдение, което направихме преди година. Стойността не е в прикрепването на символен модул към невронен такъв. Тя е в специфично разделение на труда, при което всяка част прави това, в което е добра, и компенсира слабостта на другата.
По-малко токени и провали, които сочат нанякъде
Още два резултата от статията лесно се пропускат и заслужават внимание.
Първият е ефективността. Резюмето съобщава, че методът "използва няколко пъти по-малко генерирани токени от разширеното мислене и далеч по-малко видими за модела изображения от директното взаимодействие". В статията намалението на токените спрямо разширеното мислене е докладвано като до четири пъти. Разширеното мислене, при което моделът изписва дълги вериги от разсъждения, преди да действа, е основната алтернативна стратегия за подобряване на надеждността на плановете на модела. То работи до известна степен, но е скъпо: всеки токен за разсъждение се изчислява и, при хоствани услуги, се заплаща. Метод, който постига по-добри резултати с част от токените, е по-добър както по отношение на разходите и енергията, така и по отношение на успеха.
Вторият е диагностицируемостта. Резюмето отбелязва, че "остатъчните провали се локализират до придобиването на състояние, а не до генерирането на план, без никакво специализирано обучение." Когато агентът се провали, той се проваля, защото представата му за света е била грешна, а не защото е планирал лошо при тази представа. Това е точно онова, което бихме се надявали да видим от система, чиито планове са изпълними по конструкция. То също така казва на инженера къде да работи след това. В една крайна до край невронна система провалът често е дифузно свойство на целия модел и единственото средство за справяне е повече данни или по-голям модел. В една факторизирана система провалът има адрес.
Смятаме, че диагностицируемостта е подценявана в изследванията на ИИ. Система, която се проваля по-рядко, е добра. Система, чиито провали могат да бъдат локализирани, обяснени и отстранени, е по-добра, защото може да бъде подобрявана целенасочено и защото на поведението ѝ може да се вярва в случаите, когато компонентите ѝ са известни като надеждни.
Същият модел се появява при отговарянето на въпроси
Втората статия разглежда друг проблем, но с поразително сходен резултат. „Ontology-guided neuro-symbolic GraphRAG for grounded query answering“ от Domenico Benfenati и Antonio Maria Rinaldi от Университета на Неапол Федерико II е публикувана в Neural Computing and Applications през октомври 2026 г. Тя изследва отговарянето на въпроси върху знания за киберсигурността: уязвимости, слабости, модели на атаки и засегнати продукти, извлечени от публични хранилища като CVE, CWE, CAPEC и CPE.
Сравнението е между два начина за изграждане на графа от знания, на който езиков модел се опира, когато отговаря на въпроси. При широко използвания подход GraphRAG езиков модел чете неструктуриран текст и извлича обекти, връзки и обобщения на общности, които след това служат като основа за извличане. При подхода на авторите графът се материализира отгоре надолу от авторитетните хранилища, чрез целенасочено обхождане, онтологично обединяване на схеми и базирано на правила символно извеждане, като транзитивно свързване и многостъпково влияние върху продукти. Самата онтология е извлечена от структурата на реалните хранилища, а не е синтезирана от модел. След това на езиковия модел се предоставят доказателства от този граф, в това, което авторите описват като строго еднопосочен поток: символната основа е „напълно детерминистична, съхраняваща произхода и независимо проверима“.
Одитът на произхода е най-показателният експеримент. В онтологично водения граф 100 процента от избраните ребра бяха проследими до авторитетни изходни записи или до декларирани правила за извеждане. В графа, извлечен от ГЕМ, 83 процента бяха проследими и само 58 процента свързваха крайни точки с канонични идентификатори. Разликата се пренася и върху отговорите: онтологично водената система постигна 95 процента точност на цитирането срещу 66 процента за базовата линия GraphRAG.
Структурното обяснение на авторите е важната част. При GraphRAG с извлечен от ГЕМ граф отговорите се основават на обобщения, написани от същия вид модел, който генерира отговора, така че веригата на произхода спира при невронен посредник, вместо да достигне до авторитетен запис. Цитирането на обобщение, написано от модел, е цитиране на интерпретация. Цитирането на изходен запис, чрез ребра, всяко от което е проследимо до този запис или до декларирано правило, е цитиране на доказателство.
Цитатите не са целият произход
Трета, по-малка статия от 2026 г. добавя полезна подробност. "Why Neighborhoods Matter: Traversal Context and Provenance in Agentic GraphRAG", публикувана в arXiv през май 2026 г., изследва системи, в които агент обхожда граф на знания, преди да отговори, и след това цитира малък набор от същности. Тя поставя въпроса дали крайните цитати са достатъчни, за да обяснят доказателствата, на които е разчитал отговорът.
Изводът ѝ е, че не са. Цитираните същности обикновено имат значение: премахването им съществено променя отговорите и намалява точността. Но експериментите показват, че точният отговор зависи и от обхождането на графа, структурата на околността и същностите, които агентът е посетил, но не е цитирал. Авторите заключават, че добросъвестното цитиране "трябва да отчита и контекста на графа и пътя на извличане, които оформят крайния отговор."
Този резултат изостря поуката от статията на Benfenati и Rinaldi. Детерминиран, проследим граф е необходим за отговори, чиито доказателства могат да бъдат проверени. Той не е достатъчен, ако системата записва само какво цитира, а не какво е прочела. Произходът трябва да включва пътя, не само дестинацията. Това, както се случва, е същият извод, до който стигнахме от инженерна гледна точка, когато проектирахме Knot, журнала на събития, който публикуваме на IV тримесечие 2026: записът на едно изпълнение на агент трябва да включва всяко четене и всяка междинна стъпка, не само крайния резултат, защото именно стъпките обясняват резултата.
Какво не показват резултатите
И двете основни статии внимават с ограниченията си и тези ограничения си заслужава да бъдат изказани направо, защото ентусиазмът към един резултат обикновено заличава условията му.
Резултатите за въплътените агенти са в симулация. VirtualHome и ALFWorld са утвърдени бенчмаркове, но са симулирани домашни среди с известна динамика. Гаранцията, че плановете са изпълними "по конструкция", е валидна при модела на преходите, тоест при символното описание на това как работи светът. Ако това описание е грешно или непълно, гаранцията не се пренася. В реалния свят пълният и коректен модел на преходите е труден за написване, а светът има навика да включва неща, които моделът не е предвидил.
Същите резултати зависят от правилно визуално обосноваване. Резюмето го казва изрично. Ако фазата на изследване идентифицира грешно обект или пропусне такъв, символното състояние е грешно и план, който е напълно изпълним при грешното състояние, може да се провали в действителност. Констатацията на статията, че остатъчните провали се локализират до придобиването на състояние, е добра новина за диагностицируемостта и е също напомняне, че възприятието остава трудната част.
Резултатите на GraphRAG са в една област, киберсигурността, където съществуват авторитетни структурирани хранилища и имат стабилни идентификатори. Много области не са такива. Когато знанието живее главно в неструктурирани документи без канонични идентификатори, материализацията отгоре надолу не е налична и някаква форма на извличане е неизбежна. Методът на статията показва какво става възможно, когато съществуват добри източници. Той не показва как да се създадат там, където ги няма.
Оценката на GraphRAG за правилност на отговорите използва езиков модел като съдия, Gemini 2.5 Flash, върху петнадесет въпроса на задача. Това е разумна схема за изследователска статия, а одитът на произхода е по-пряко измерване. Но читателите трябва да третират цифрите за качеството на отговорите като ориентировъчни, а не като окончателни, и цифрите за произхода като по-силния резултат.
Нито едно от тези ограничения не подкопава статиите. Те са нормалните условия на доброто изследване. Но те имат значение за всеки, който е изкушен да чете "невросимволно" като общо решение. Това е набор от архитектурни избори, които работят много добре, когато техните предпоставки са налице: правилен символен модел на областта, надеждно обосноваване на възприятието в този модел и авторитетни източници за знанието. Голяма част от практическата работа е в установяването на тези предпоставки.
Какво се случва след първата грешка
Процентите на успех ви казват колко често дадена система завършва задача. Те не ви казват как се държи, когато нещо се обърка, което често е по-важният въпрос за всеки, който трябва да я внедри. Статията за въплътения агент включва приложение, което отговаря на това, и то е една от най-разкриващите части на работата.
Авторите измерват какво правят политиките "след първото необосноваемо или неуспешно изпълнение", като отчитат колко често задачите съдържат такова събитие, колко често политиката успява да възстанови задачата, колко често веднага повтаря неуспешната заявка и колко често изпада в постоянен цикъл от действия. Резултатите за директните визуални политики, които планират без символните ограничения, са поразителни.
В VirtualHome директната политика Qwen с 4B се сблъсква с провал в 64,5 процента от задачите. Тя възстановява задачата в 5,4 процента от тези случаи, повтаря неуспешната заявка веднага в 74,5 процента и завършва в постоянен цикъл в 45,5 процента. В ALFWorld същият модел се сблъсква с провал в 73,9 процента от задачите, възстановява се в 1,0 процент и завършва в постоянен цикъл в 94,8 процента. Най-големият директен модел се справя по-добре, както може да се очаква: в VirtualHome политиката с 27B се сблъсква с провал в 29,0 процента от задачите, възстановява се в 37,9 процента, повтаря заявката в 8,3 процента и изпада в цикъл в 9,5 процента. В ALFWorld дори този модел се възстановява само в 25,7 процента от случаите.
Въведението на статията обяснява защо се случва това. Директната политика трябва да идентифицира обекти, да проследява състоянието им, да избира приложими действия и да разсъждава за отложени ефекти "в рамките на една авторегресивна история, където те са свободни да се натрупват". Авторите отбелязват, че "обратната връзка от изпълнението може да разкрие такава грешка след като се случи, но не пречи на модела да повтори невалиден избор или да се отклони от състоянието, което собствените му действия са предизвикали."
Това изречение описва модел, който мнозина ще разпознаят от агенти извън лабораторията. Агентът опитва нещо, то се проваля, грешката се връща обратно и агентът прави същото отново или нещо равностойно. Обратната връзка е информация, но информацията не ограничава. Една система, която третира валидността на действието като нещо, което трябва да бъде изведено, а не наложено, може да получи сигнал, че е сгрешила, без това да ѝ попречи да сгреши отново.
Ограничителният подход променя това, като превръща приложимостта, по думите от статията, в „ограничение, поддържано през цялото генериране и търсене“. Действие, чиито предварителни условия не са изпълнени, никога не се поражда, така че няма какво да се повтори. Това не прави системата безпогрешна. То премества провала на друго място.
Статията посочва собствените си слабости
Честният отчет за резултатите трябва да каже къде се проваля ограниченият агент, и статията го прави. Нейният символен планировчик може да планира само върху състоянието, което му е дадено. Когато етапът на визуално изследване пропусне необходим обект, пишат авторите, „провалът се разпространява, защото обоснованото начално състояние пропуска необходим обект. Това е ограничение на компонента за придобиване на визуално състояние, а не на гаранцията за приложимост.“
Това разграничение е важно. Гаранцията, която системата предлага, е тясна и силна: всяко действие, което планира, е приложимо в състоянието, в което смята, че се намира. Дали това убеждение съвпада със света, зависи от възприятието, а възприятието все още се извършва от невронен модел с цялата несигурност, която това предполага. Авторите очакват, че „подобренията във визуалното разпознаване и активното избиране на гледна точка трябва да се пренесат директно върху целия метод“, което е разумно очакване и също напомняне, че символната част не може да компенсира това, което невронната част не успява да види.
За хората, които оценяват такива системи, поуката е да питат къде свършва гаранцията. Една невросимволна система обикновено предлага сигурност за една част от процеса (планът е валиден, изводът следва от правилата, отговорът се подкрепя от графа) и наследява несигурност от частите, които я захранват. Добрата система прави тази граница видима. Тя записва какво е възприела, какво е предположила и какво е извела, така че проверяващият да може да прецени дали неуспехът е дошъл от разсъждението или от входа на разсъждението.
Ето защо анализът на неуспехите от вида в приложението към статията е толкова ценен. Знанието, че една система се проваля предимно при обосноваването, а не при планирането, казва на инженера къде да инвестира и казва на внедряващия какъв вид надзор е необходим. Човек, който проверява работата на ограничен агент, трябва да проверява представата му за света, а не аритметиката му.
Проучването на обхождането е малко и го признава
Статията за контекста на обхождането също внимава със собствените си ограничения. Авторите ѝ пишат, че изследването „е ограничено от малкия размер на тестовия набор и от използването на контролирана графа на знанието, изградена от 2WikiMultiHopQA, вместо голяма графа на знанието от реалния свят“. Те призовават за оценка „върху по-големи набори от данни, по-богати структури на графа и предметно специфични бази от знания“, както и за механизми за цитиране, „които разкриват не само крайните подкрепящи обекти, но и съответния контекст на обхождането“.
Тази откровеност е полезна. Изводът, че цитиранията са необходими, но не достатъчни, за да се обясни отговорът на агент, е правдоподобен и важен, но почива на контролирана среда. Преди някой да гради политика върху него, той трябва да бъде възпроизведен върху графите, които реалните системи използват: корпоративни бази от знания, регулаторни корпуси, продуктови каталози. Дотогава е най-добре да се чете като добре замислено предупреждение, а не като установено измерване.
Предупреждението все пак си заслужава да бъде взето под внимание. Авторите заключават, че „произходът при агентно извличане, базирано на граф, трябва да се третира като свойство на ниво траектория“. За строителите на системи това означава да записват пътя, а не само дестинацията: кои обекти са били посетени, кои ребра са били следвани, кои съседи са били видени и не са цитирани. Списъкът с цитирания е резюме на този път. Както всяко резюме, то може да е точно и въпреки това да пропуска нещо, което е имало значение.
Записването на пътя има практическа цена и това трябва да се каже. Записите от обхождането са по-обемни от списъците с цитирания, може да съдържат материали, които потребителят никога не е виждал, и изискват същото внимание към достъпа и съхранението, както всеки друг дневник. Но алтернативата е по-лоша. Когато отговор бъде оспорен, система, която е запазила само цитиранията си, може да покаже към какво е сочила. Система, която е запазила траекторията си, може да покаже как е стигнала дотам, а именно това е въпросът, който проверяващият всъщност ще зададе. При агентното извличане тази разлика вероятно ще реши дали едно обяснение ще бъде прието, или само търпяно.
По-старият спор за обяснението продължава да е приложим
Нищо от това не е ново по дух. Дебатът за обяснението в машинното обучение продължава от години и резултатите от 2026 г. се вписват в него, а не го заместват.
През 2017 г. Finale Doshi-Velez и Been Kim отбелязват, че „въпреки интереса към интерпретируемостта, има много малък консенсус какво представлява интерпретируемото машинно обучение и как трябва да се измерва“. През 2018 г. Cynthia Rudin твърди, че „опитът да се обясняват модели тип черна кутия, вместо да се създават модели, които са интерпретируеми по начало, вероятно ще затвърди лоши практики и може потенциално да причини катастрофална вреда на обществото“. Същата година Julius Adebayo и колеги показват, че някои методи за значимост „са независими както от модела, така и от процеса на генериране на данните“, като произвеждат сходни обяснения независимо дали моделът е научил нещо.
Резултатите при ограниченото планиране и при GraphRAG могат да се четат като доказателство за позицията на Rudin в нова среда. Когато планът се получава чрез търсене върху явни правила, неговата валидност е свойство на начина, по който е създаден, и обяснението защо е избрано дадено действие може да се прочете от търсенето. Когато отговорът се получава чрез обхождане на графа, неговият произход е свойство на обхождането, стига обхождането да е записано. И в двата случая обяснението не е интерпретация на първия модел от втори модел. То е записът на това какво е направил първият.
Това, което резултатите от 2026 г. добавят, е доказателство, че такъв тип система може също да се представя добре. Старото възражение срещу интерпретируемите подходи беше, че те струват точност. Резултати като тези, при които малки ограничени модели превъзхождат по-големи неограничени при структурирани задачи, не решават този въпрос по принцип. Те показват, че при задачи с ясни правила и проверими резултати компромисът не е този, който хората предполагаха.
По-дългото мислене не помогна, а лесният бенчмарк го прикрива
Аблацията на компонентите в статията за въплътения агент съдържа още два детайла, които заслужават внимание, защото противоречат на общи предположения.
Първият се отнася до удълженото разсъждение. С модела Qwen с 27B обикновеното алчно декодиране достигна 61,0 процента успех във VirtualHome и 15,4 процента в ALFWorld. Същият модел в режим на мислене, с бюджет до 32 768 изходни токена според настройките за декодиране в статията, достигна 59,0 и 16,9 процента. Оставянето на модела да разсъждава много по-дълго не направи съществена разлика. Добавянето на ограничения за приложимост към алчното декодиране, за разлика от това, повиши успеха във VirtualHome от 61,0 на 98,5 процента. По думите на авторите това показва, че "ограниченията за приложимост са причина за по-голямата част от подобрението".
Това е полезно коригиране на идеята, че повече токени за разсъждение са универсално средство срещу грешки в планирането. Когато грешката е избор на действие, чиито предварителни условия не са изпълнени, повече вътрешно обмисляне не го спира надеждно. Правило, което прави такива действия невъзможни, го спира.
Вторият детайл се отнася до трудността на бенчмарка. Във VirtualHome само неограниченото търсене достигна 99,0 процента, същото като пълния метод, макар авторите да отбелязват, че го е направило "при по-високата цена на генериране", показана на техните графики. Читател, който гледа само VirtualHome, би могъл да заключи, че търсенето е всичко необходимо. ALFWorld показва друго: само ограниченията достигнаха 32,3 процента, неограниченото търсене 29,2 процента, а комбинацията 95,5 процента. Авторите отдават по-голямата разлика на по-труден проблем за планиране. Успешните планове от модела с 27B са включвали средно 8,0 действия на високо ниво в ALFWorld и 6,4 във VirtualHome, с максимуми от 30 и осем, а ALFWorld "въвежда повече обвързвания на инстанции и приемници на всеки етап."
Общият извод е, че лесният бенчмарк може да накара два различни дизайна да изглеждат еквивалентни. Едва когато проблемът стане достатъчно дълъг и достатъчно ограничен, различията се появяват. Всеки, който сравнява агентни архитектури, трябва да ги тества върху задачи, поне толкова дълги и толкова строго ограничени, колкото тези, които възнамерява да внедри, а не върху най-кратките налични задачи.
Експериментите са възпроизводими по замисъл
Още една особеност на статията заслужава да се отбележи, защото се свързва с тема другаде в тази поредица. Авторите публикуват настройките си за декодиране изцяло. Ограничените фази на Qwen работят при температура 0,0. Където се използва ядрено семплиране, за допълнителните пробези с мислене и за въплътените базови линии, оценките се повтарят с три посочени семена: 0, 42 и 1738. Търсенето е ограничено до 250 секунди на задача, а статията посочва, че нейните хиперпараметри за търсене "са избрани емпирично".
Тези детайли са това, което прави един резултат проверим. Читател, който иска да възпроизведе работата, знае какви настройки да използва, колко пускания да направи и каква вариация да очаква. Те правят видими и ограниченията: емпирично избраните хиперпараметри може да се нуждаят от пренастройка в други среди, а ограничението по време означава, че някои задачи може да се провалят поради липса на време, а не поради липса на план. Посочването и на двете е добра практика. Това е стандартът, който смятаме, че всеки публикуван резултат, включително нашият, трябва да покрива. Резултат, който не може да бъде пуснат отново, все още може да е интересен, но все още не може да се разчита на него, а разликата има най-голямо значение, когато резултатът се използва за обосновка на дизайн.
Думата се превръща в етикет, затова ѝ е нужен тест
Успехът води до подражание и днес „невросимволичен“ се приписва на системи, които имат малко общо с архитектурите в тези статии. Езиков модел с подкана „мисли стъпка по стъпка“ понякога бива наричан невросимволичен. Същото се случва и с модел, който извиква калкулатор, с чатбот с поздрав, базиран на правила, или със система за извличане, която използва база данни. Всяка от тях съчетава нещо невронно с нещо, което не е невронно, и думата губи смисъл, ако обхваща всички тях.
Смятаме за полезно да приложим прост тест, изведен от това, което направи резултатите от 2026 г. успешни. Една система заслужава тази дума, когато символната ѝ част ограничава или проверява невронната по начин, който променя това, което системата може да изведе, и когато това ограничение може да бъде прегледано.
В статията за въплътения агент моделът на преходите на PDDL ограничава декодирането до приложими действия. Езиковият модел буквално не може да произведе невалидно действие. Това е ограничение, което променя пространството на изхода, и моделът на преходите може да бъде прочетен от всеки. В статията за GraphRAG графът на знанието се изгражда по декларирани правила от авторитетни записи и езиковият модел получава доказателства само от този граф. Произходът на всяко ребро може да бъде проверен. И двете системи преминават теста.
Подкана, която иска от модела да разсъждава внимателно, не преминава. Тя може да подобри изходите, но не ги ограничава и нищо в нея не може да бъде прегледано, за да се види какво е позволено на модела да каже. Модел, който може да извика калкулатор, преминава само частично: резултатът на калкулатора е точен, но моделът решава дали да го извика и какво да прави с резултата, и нищо не му пречи да пренебрегне резултата или сам да извърши изчислението. Тестът не е за чистота. Той е за това откъде идват гаранциите.
Въпроси, които да зададем на система, която си приписва тази дума
За организации, които оценяват системи, описани като невросимволични, тестът се превръща в няколко конкретни въпроса.
Какво предотвратява символната част? Полезният отговор посочва клас изходи, които системата не може да произведе, като невалидни действия, неподкрепени твърдения или нарушения на правила, и обяснява механизма. Отговор, който казва, че символната част „насочва“ или „информира“ модела, без да посочва нищо, което предотвратява, е знак, че гаранцията е мека.
Може ли символната част да бъде прочетена? Правилата, ограниченията, онтологиите и моделите на преходите трябва да бъдат достъпни за преглед от хората, които разчитат на системата, поне във формата, която е от значение за техните решения. Ако символният слой сам по себе си е научен, непрозрачен компонент, той не предоставя вида гаранция, който прави невросимволичните дизайни ценни.
Къде спира произходът? За всеки отговор проследете цитатите. Водят ли до авторитетни първоизточници, чрез проследими стъпки, или до междинни текстове, написани от модел? Одитът на произхода в GraphRAG е образец за тази проверка.
Къде са отказите? Поискайте разбивка на случаите на отказ по компоненти. Добре факторизираната система би трябвало да може да каже дали отказите ѝ възникват във възприятието, обосноваването, извличането, разсъждението или генерирането. Система, която не може да каже, или не е факторизирана, или не е измерена.
Какво се записва? Попитайте дали системата записва пътя, който е поела, включително какво е прочела и кои компоненти са допринесли, а не само крайния отговор. Констатациите от агентния GraphRAG показват защо това е важно.
Нито един от тези въпроси не изисква дълбока експертиза, за да бъде зададен. Всички те отделят архитектурите, които предоставят проверими гаранции, от системите, които използват речника.
Защо това е важно за обяснението и надзора
Тези резултати имат и регулаторно измерение, което си струва да бъде изведено, защото свързва изследователската архитектура със задължения, които ще се прилагат към много организации.
Актът за изкуствения интелект изисква немалко обяснения. Член 13 изисква системите с висок риск да бъдат проектирани така, че внедряващите ги да могат да тълкуват резултата им и да го използват по предназначение. Член 14 изисква хората, натоварени с надзор, да могат правилно да тълкуват резултата на системата и да решат да го пренебрегнат, да го отменят или да го обърнат. Член 86 дава на засегнатите лица право на ясни и смислени обяснения за ролята на система с ИИ при определени решения. Тези задължения се прилагат за системите с висок риск от декември 2027 г. или август 2028 г. съгласно Digital Omnibus, но проектните решения, които ги правят постижими, се вземат сега.
Факторизираната, невросимволна система е далеч по-лесна за обясняване от модел от край до край, и то точно по причините, които статиите от 2026 г. демонстрират. Когато един план е изпълним по своето устройство при даден модел на преходите, обяснението защо дадена стъпка е била позволена е позоваване на правилото, което я е разрешило. Когато един отговор се позовава на връзки, проследими до авторитетни записи, обяснението защо е направено дадено твърдение е веригата от записи. Когато отказите се локализират в даден компонент, обяснението защо системата е сгрешила посочва този компонент. Всяко обяснение е твърдение за нещо, което съществува и може да бъде прегледано, а не последваща рационализация на невронно изчисление.
Това не прави обяснението тривиално. Някой все още трябва да преведе правилата и записите на език, който засегнатото лице може да разбере. Но то променя естеството на задачата от реконструкция към представяне. Реконструкцията пита „какво би могло да е причинило този резултат?“ и може да предложи само хипотези. Представянето пита „как да покажем правилата и записите, които са произвели този резултат?“ и може да предложи доказателства. За надзора и за правото на обяснение тази разлика е решаваща.
Затова смятаме, че резултатите за ефективността би трябвало да представляват интерес както за регулаторите, така и за инженерите. Малкият, ограничен модел, който е по-евтин за изпълнение, е също модел, който е по-евтин за одит: той може да бъде хостван там, където одиторът има достъп до него, фиксиран към дадена версия за времетраенето на разследване и възпроизведен детерминистично върху същите входни данни. Аргументите за суверенитет, енергия и отчетност в полза на структурираните малки системи се оказват един и същ аргумент, видян от три страни.
Какво следва от това за нас
За нашата собствена работа резултатите от 2026 г. потвърждават три проектни решения и изострят едно четвърто.
Те потвърждават, че малките модели със структура могат да превъзхождат големите модели без такава при задачи, които изискват надеждност. Това е предпоставката, на която се основава маршрутизирането на Loom сред 528 специалисти: на повечето въпроси най-добре отговаря подходящият специалист, често малък модел или символен решател, а не най-големият наличен модел. Аблацията при въплътения агент е най-ясното публикувано доказателство, което познаваме, че тази предпоставка е в сила при планирането.
Те потвърждават, че знанието трябва да се изгражда от авторитетни източници с декларирани правила и да се цитира по своя източник. Слоят за знания на Dweve цитира всяко знание, използвано в даден отговор, чрез възел и хеш на версията, така че проверяващият да може да проследи цитата до точния запис и версия. Одитът на произхода в GraphRAG показва какво се губи, когато тази верига спре при посредник, написан от модел.
Те потвърждават, че записването на пътя е също толкова важно, колкото записването на отговора. Констатацията в статията за агентния GraphRAG относно обектите, посетени, но нецитирани, е точно причината Knot да записва четенията и междинните стъпки и причината трасето на Loom да показва кои специалисти са допринесли.
И насочват вниманието ни към обвързването с реалността. И двете статии откриват остатъчните си слабости там, където светът, или източникът, се превежда в символно представяне. Това е границата, на която невронното възприятие предава щафетата на символното разсъждение, и именно там трябва да се съсредоточат усилията за проверка. Символен слой, който разсъждава безупречно върху грешно състояние, дава уверен грешен отговор. Инженерният въпрос за следващата година е как да направим тази граница толкова проверима, колкото са слоевете от двете ѝ страни.
Ренесансът, в числа
Преди година твърдението, че невросимволните системи ще превъзхождат чистите езикови модели при задачи, изискващи надеждност, беше аргумент. През 2026 г. то вече има числа: над 90 процента успех за малки отворени модели при домакинско планиране, агент с 4 милиарда параметъра, който побеждава пряка политика с 27 милиарда параметъра с голяма разлика, ограничения и търсене, които самостоятелно решават под една трета от задачите, а заедно над 95 процента, и всяко ребро в граф, изграден върху онтология, проследимо до източника си, срещу 83 процента за извлечен такъв.
Тези числа идват с условия, а условията са също толкова важни, колкото и резултатите. Но посоката е ясна. Когато една AI система трябва да бъде права по начини, които могат да се проверят, структурата не е пречка за способностите. Тя е един от източниците им.
Защо дизайнът на бенчмарка е също толкова важен, колкото и резултатът
И в двете статии има по-широк методологичен урок, който заслужава кратка бележка, защото засяга начина, по който цялата област трябва да оценява системи, които твърдят, че са надеждни.
И двете статии измерват нещо различно от гладкостта на текста. Статията за въплътения агент измерва успеха: изпълнена ли е домакинската задача в средата? Статията за GraphRAG измерва произхода: проследимо ли е всяко ребро и всяко цитиране до авторитетен запис? Нито една от двете не разчита основно на това дали отговорът се чете добре или съвпада с референтен текст. Това е важно, защото голяма част от оценяването на AI все още възнаграждава качеството на повърхността. Работата по линията "Why Neighborhoods Matter" и свързаните изследвания върху оценяването стигат до същия извод от друга посока: лексикалното припокриване с референтен отговор може да е голямо, докато доказателствата за отговора липсват.
За организациите, които оценяват AI системи за решения, които имат значение, урокът е да питат какво измерва даден бенчмарк, преди да питат какъв резултат е постигнала дадена система. Система с висок резултат на бенчмарк, основан на гладкостта на текста, може въпреки това да създава планове, които не се изпълняват, или отговори, чиито цитирания не водят доникъде. Система с висок резултат по изпълнимост или проследимост на произхода е доказала нещо по-близо до това, от което се нуждае човекът, вземащ решения. Бихме искали да виждаме повече оценки при възлагане, изградени по начина, по който са изградени тези две статии: със задача, която или успява, или се проваля по проверим начин, и с одит на това откъде идват доказателствата за всеки отговор.
Източници
- Neurosymbolic Embodied Agents, Albinhassan, Feng, Russo и Madhyastha, arXiv, август 2026 г. Използван за цитираното резюме, двуфазния метод, аблацията на компонентите (таблица 2), настройките за декодиране (таблица 3), фигурите за реакция при отказ (таблица 10), процентите на успех във VirtualHome и ALFWorld, сравнението с директна политика с 27B параметъра, аблацията на ограниченията и търсенето, ефективността на токените и локализирането на отказите.
- Ontology-guided neuro-symbolic GraphRAG for grounded query answering, Domenico Benfenati и Antonio Maria Rinaldi, Neural Computing and Applications, 2026 г. Използван за метода на конструиране, одита на произхода, точността на цитиране и дизайна на оценяването.
- Why Neighborhoods Matter: Traversal Context and Provenance in Agentic GraphRAG, arXiv, май 2026 г. Използван за констатацията, че крайните цитати не обхващат пълната доказателствена основа на агентните отговори, и за посочените ограничения на изследването.
- Член 13: Прозрачност и предоставяне на информация на внедряващите, Служба за подкрепа за Акта за изкуствен интелект на Европейската комисия. Използван за изискването за интерпретируемост при високорискови системи.
- Член 14: Човешки надзор, Служба за подкрепа за Акта за изкуствен интелект на Европейската комисия. Използван за възможностите за надзор.
- Член 86: Право на обяснение на индивидуално взето решение, Служба за подкрепа за Акта за изкуствен интелект на Европейската комисия. Използван за правото на обяснение.
- Towards A Rigorous Science of Interpretable Machine Learning, Finale Doshi-Velez и Been Kim, arXiv, 2017 г. Използван за цитираното наблюдение относно липсата на консенсус за интерпретируемостта.
- Stop Explaining Black Box Machine Learning Models for High Stakes Decisions and Use Interpretable Models Instead, Cynthia Rudin, arXiv, 2018 г. Използван за цитирания аргумент в полза на присъщо интерпретируемите модели.
- Sanity Checks for Saliency Maps, Julius Adebayo и други, arXiv, 2018 г. Използван за цитираната констатация, че някои методи за значимост не зависят от модела и данните.