Dweve

Neirosimboliskā pieeja, gadu vēlāk: ko patiesībā rāda 2026. gada pētījumi

Pirms gada mēs apgalvojām, ka nākamais solis mākslīgajā intelektā būs apgūtu modeļu un skaidras struktūras apvienošana. 2026. gada pētījumi tagad šim...

Neirosimboliskā pieeja, gadu vēlāk: ko patiesībā rāda 2026. gada pētījumi

Pirms gada tas vēl bija lielākoties arguments

2025. gada novembrī mēs publicējām eseju "The neuro-symbolic renaissance", kurā apgalvojām, ka tuvāko gadu lietderīgākās AI sistēmas nebūs tikai lielāki valodas modeļi. Tās apvienos apgūtus modeļus, kas labi pārvalda uztveri, valodu un likumsakarības, ar skaidri definētu simbolisku struktūru, kas labi pārvalda noteikumus, ierobežojumus, izcelsmi un pierādījumus. Šo argumentu balstījām pirmajos principos un savā inženierijas pieredzē, jo tā ir veidota Dweve: Loom, mūsu spriešanas dzinējs, novirza darbu starp 528 speciālistiem, no kuriem daudzi ir simboliski risinātāji, verificētāji un noteikumu dzinēji, nevis neironu tīkli, un atbilde, ko tas atgriež, satur pēdas par to, kuras daļas ko paveica.

Pirmajos principos balstīts arguments ir saprātīgs sākumpunkts. Tas nav pierādījums. Tāpēc pēc gada ir vērts jautāt, ko tagad rāda publicētie pētījumi. Nevis preses relīzes un nevis vispārējais entuziasms par vārdu "neirosimbolisks", kas kļuvis pietiekami modē, lai to attiecinātu gandrīz uz visu. Bet konkrēti, izmērīti rezultāti.

Divi 2026. gada raksti ir īpaši noderīgi, jo tie tieši pārbauda pamata apgalvojumus un ziņo skaitļus, ko var pārbaudīt. Viens attiecas uz aģentiem, kam jārīkojas pasaulē: vai simbolisku ierobežojumu un meklēšanas pievienošana valodas modelim padara tā plānus izpildāmus? Otrs attiecas uz atbilžu sniegšanu par zināšanām: vai zināšanu struktūras veidošana deterministiski no autoritatīviem avotiem, nevis tās iegūšana ar valodas modeli, padara atbildes vieglāk izsekojamas? Abi atbild apstiprinoši, turklāt ar lielu pārsvaru. Un abi ir uzmanīgi attiecībā uz to, ko tie nepierādīja, kas ir vismaz tikpat pamācoši kā tas, ko tie pierādīja.

Ticams nav tas pats, kas izpildāms

Pirmais raksts "Neurosymbolic Embodied Agents", kura autori ir Albinhassan, Feng, Russo un Madhyastha un kas 2026. gada augustā ievietots arXiv, sākas ar novērojumu, ko atpazīs ikviens, kas mēģinājis valodas modeli izmantot kā plānotāju. Valodas un valodas un redzes modeļi, teikts tā kopsavilkumā, "ģenerē ticamus iemiesotus plānus, bet negarantē to izpildāmību, jo to izvades var pārkāpt vides dinamiku vai darboties ar nepareizi pamatotām entītijām."

Atšķirība starp ticamu un izpildāmu vienā teikumā ietver visu problēmu. Modelis, kam uzdots simulatīvā virtuvē uzvārīt tēju, izveidos soli pa solim secību, kas izklausās labi: ej uz virtuvi, paņem tējkannu, piepildi to, ieslēdz to. Bet tas var mēģināt paņemt tējkannu, kuras tur nav, vai piepildīt tējkannu, kas atrodas aizvērtā skapī, vai liet no tējkannas, kas nav uzvārījusies. Katrs solis ir ticams. Plāns kopumā neizdodas, jo modelis neizseko pasaules stāvokli un noteikumus par to, kā darbības to maina.

Rakstā aprakstītais aģents sadala tālas darbības mājsaimniecības uzdevumus divās fāzēs. Pirmajā valodas un redzes modelis un izpētes instruments iegūst mērķim atbilstošus predikātus un instanču piesaistes no egocentriskiem novērojumiem un pamatotām mijiedarbībām, radot simbolisku sākotnējā stāvokļa aprakstu: šī tējkanna ir šeit, šis skapis ir aizvērts, šī krūze ir tukša. Otrajā PDDL pārejas modelis, formāls apraksts par to, kuras darbības ir piemērojamas kuros stāvokļos un ko tās maina, "ierobežo dekodēšanu līdz tokeniem, kas paplašina piemērojamās darbības." Valodas modelis var ģenerēt tikai tādas darbības, par kurām simboliskais modelis saka, ka tās ir iespējamas. Pēc tam Monte Karlo koku meklēšana novērtē izpildāmus turpinājumus, izmantojot no jomas neatkarīgu plānošanas heiristiku.

Rezultāts, autoru vārdiem, ir tāds, ka "iegūtie plāni pēc uzbūves ir izpildāmi saskaņā ar pārejas modeli, un pārnese uz vidi ir atkarīga no pareizas vizuālās pamatošanas." Šī pēdējā daļa ir svarīga, un pie tās atgriezīsimies tālāk.

Kopsavilkums no Albinhassan, Feng, Russo un Madhyastha, Neurosymbolic Embodied Agents, arXiv 2608.16794.

Mazi ierobežoti modeļi pārspēj vienu lielu neierobežotu modeli

Rezultāti ir pārsteidzoši. Divos standarta mājsaimniecības uzdevumu etalonos, VirtualHome un ALFWorld, kopsavilkumā teikts, ka "atvērtie 4B-27B modeļi abās vidēs pārsniedz 90% veiksmes līmeni, un mūsu mazākais aģents katrā no tām ievērojami pārspēj 27B tiešās vizuālās politikas modeli." Raksta rezultātos veiksmes rādītāji dažādos modeļu izmēros svārstās no 94,5 līdz 99,5 procentiem VirtualHome vidē un no 90,3 līdz 97,8 procentiem ALFWorld vidē. Aģents ar 4 miljardiem parametru vienā etalonā pārspēj 27 miljardu parametru tiešās vizuālās politikas modeli par 32,0 procentpunktiem, bet otrā par 63,4.

Otro rezultātu ir vērts lasīt lēnām. Modelis, kas ir aptuveni septiņas reizes mazāks, saņemot skaidru informāciju par pasaules uzbūvi un meklēšanas procedūru izpildāmām darbībām, darbojas krietni labāk nekā daudz lielāks modelis, kam uzdots rīkoties tieši. Atšķirība nav neliela precizēšana. Tā ir atšķirība starp sistēmu, kas lielākoties strādā, un sistēmu, kas lielākoties nestrādā.

Ikviens, kam rūp AI sistēmu izmaksas, enerģijas patēriņš un kontrolējamība, to novērtēs. Mazs atvērts modelis var darboties uz pieticīgas aparatūras, to var pārbaudīt, to var piesaistīt konkrētai versijai un to var mitināt tur, kur operators izvēlas. Ja struktūras pievienošana ļauj šādam modelim pārspēt lielu modeli uzdevumos, kuros nepieciešama uzticama rīcība, tad argumenti par mazo modeļu suverenitāti un efektivitāti kļūst daudz spēcīgāki. Izmērs nav vienīgais ceļš uz spējām. Struktūra ir vēl viens.

Ierobežojumi un meklēšana papildina viens otru, nevis aizstāj

Mūsuprāt, visinteresantākais atklājums ir ablācijas tests. Autori pārbaudīja ierobežojumus un meklēšanu atsevišķi. ALFWorld vidē katrs no tiem atsevišķi "atrisina mazāk nekā trešdaļu uzdevumu, savukārt to kombinācija atrisina vairāk nekā 95%." Detalizētie skaitļi ir 32,3 procenti tikai ierobežojumiem un 29,2 procenti tikai meklēšanai, salīdzinot ar 95,5 procentiem kombinācijā.

Šis rezultāts neatbilst tam, ko prognozētu vienkāršs stāsts par neurosimbolisko AI. Varētu gaidīt, ka ierobežojumi, novēršot nederīgas darbības, paveiks lielāko daļu darba, bet meklēšana pievienos nedaudz. Vai arī, ka meklēšana, izpētot daudzus ceļus, atradīs labus plānus, un ierobežojumi tikai paātrinās procesu. Tā vietā katrs atsevišķi neizdodas lielākajā daļā uzdevumu, bet kopā tie izdodas gandrīz visos.

Intuīciju nav grūti rekonstruēt. Ierobežojumi bez meklēšanas garantē, ka katrs solis ir derīgs, taču nekas nenodrošina, ka derīgo soļu virkne sasniegs mērķi. Modelis var bezgalīgi klejot pa virtuvi, veicot pilnīgi likumīgas darbības. Meklēšana bez ierobežojumiem izpēta daudzus turpinājumus, taču lielākā daļa no tiem ietver nederīgas darbības, tāpēc meklēšanas telpā dominē plāni, kas cietīs neveiksmi, un heiristikai nav ar ko strādāt. Kopā ierobežojumi sašaurina telpu līdz derīgiem plāniem, un meklēšana atrod labākos no tiem.

Mūsuprāt, šī komplementaritāte ir spēcīgākais empīriskais atbalsts arhitektūras apgalvojumam, ko izteicām pirms gada. Vērtība nav tajā, ka simbolisks modulis tiek pieskrūvēts klāt neironu modulim. Tā ir konkrētā darba dalīšanā, kur katra daļa dara to, kas tai padodas, un kompensē otras vājības.

Skaitļi, kā ziņots arXiv 2608.16794. Katra komponente atsevišķi atrisina mazāk nekā trešdaļu uzdevumu.

Mazāk marķieru, un neveiksmes, kas norāda virzienu

Vēl divi raksta rezultāti ir viegli pārskatāmi un pelna uzmanību.

Pirmais ir efektivitāte. Kopsavilkumā teikts, ka metode "izmanto vairākas reizes mazāk ģenerētu marķieru nekā paplašinātā domāšana un krietni mazāk modelim redzamu attēlu nekā tieša mijiedarbība". Rakstā marķieru samazinājums attiecībā pret paplašināto domāšanu ir norādīts kā līdz četrām reizēm. Paplašinātā domāšana, kurā modelis pirms darbības izraksta garas spriešanas ķēdes, ir galvenā alternatīvā stratēģija modeļa plānu uzticamības uzlabošanai. Tā zināmā mērā darbojas, taču ir dārga: katrs spriešanas marķieris tiek aprēķināts un mitinātos pakalpojumos arī apmaksāts. Metode, kas sasniedz labākus rezultātus ar daļu marķieru, ir labāka gan izmaksu un enerģijas ziņā, gan arī veiksmes ziņā.

Otrais ir diagnosticējamība. Kopsavilkumā norādīts, ka "atlikušās neveiksmes lokalizējas stāvokļa iegūšanā, nevis plāna ģenerēšanā, bez jebkādas specializētas apmācības". Kad aģents cieš neveiksmi, tas cieš tāpēc, ka tā priekšstats par pasauli bija nepareizs, nevis tāpēc, ka tas slikti plānoja, ņemot vērā šo priekšstatu. Tieši to arī varētu gaidīt no sistēmas, kuras plāni ir izpildāmi pēc konstrukcijas. Tas arī parāda inženierim, kur strādāt tālāk. Galvenā neironu sistēmā neveiksme bieži vien ir izkliedēta visas sistēmas īpašība, un vienīgais līdzeklis ir vairāk datu vai lielāks modelis. Faktorizētā sistēmā neveiksmei ir adrese.

Mūsuprāt, diagnostikas iespējas mākslīgā intelekta pētniecībā tiek novērtētas par zemu. Sistēma, kas sabrūk retāk, ir laba. Sistēma, kuras kļūmes var lokalizēt, izskaidrot un novērst, ir labāka, jo to var mērķtiecīgi uzlabot un jo tās uzvedībai var uzticēties gadījumos, kad tās komponenti ir zināmi kā uzticami.

Viens un tas pats modelis parādās arī jautājumu atbildēšanā

Otrais raksts aplūko citu problēmu, un tā rezultāts ir pārsteidzoši līdzīgs. Raksts "Ontology-guided neuro-symbolic GraphRAG for grounded query answering", kura autori ir Domenico Benfenati un Antonio Maria Rinaldi no Neapoles Federiko II universitātes, tika publicēts žurnālā Neural Computing and Applications 2026. gada oktobrī. Tajā pētīta jautājumu atbildēšana par kiberdrošības zināšanām: ievainojamībām, vājībām, uzbrukuma modeļiem un skartajiem produktiem, kas iegūti no publiskiem krātuvēm, piemēram, CVE, CWE, CAPEC un CPE.

Salīdzinājums ir starp diviem veidiem, kā veidot zināšanu grafu, uz kuru valodas modelis balstās, atbildot uz jautājumiem. Plaši izmantotajā GraphRAG pieejā valodas modelis nolasa nestrukturētu tekstu un izvelk entītijas, attiecības un kopienu kopsavilkumus, kas pēc tam kalpo kā meklēšanas pamats. Autoru pieejā grafs tiek materializēts no augšas uz leju no autoritatīvajām krātuvēm, izmantojot mērķētu pārlūkošanu, ontoloģijas vadītu shēmu unifikāciju un uz noteikumiem balstītu simbolisku secināšanu, piemēram, transitīvo ķēdi un vairāku lēcienu produkta ietekmi. Pati ontoloģija tiek atvasināta no reālo krātuvju jomas struktūras, nevis sintezēta ar modeli. Pēc tam valodas modelim tiek doti pierādījumi no šī grafa, un autori to raksturo kā stingri vienvirziena plūsmu: simboliskais pamats ir "pilnīgi deterministisks, izcelsmi saglabājošs un neatkarīgi pārbaudāms".

Izcelsmes audits ir atklājošākais eksperiments. Ontoloģijas vadītajā grafā 100 procenti izlasē iekļauto šķautņu bija izsekojamas līdz autoritatīviem avota ierakstiem vai deklarētiem secināšanas noteikumiem. LLM izgūtajā grafā izsekojami bija 83 procenti, un tikai 58 procenti savienoja galapunktus ar kanoniskiem identifikatoriem. Atšķirība saglabājas arī atbildēs: ontoloģijas vadītā sistēma sasniedza 95 procentu citēšanas precizitāti, salīdzinot ar 66 procentiem GraphRAG bāzes līnijai.

Svarīgākā daļa ir autoru strukturālais skaidrojums. LLM izgūtajā GraphRAG atbildes ir balstītas kopsavilkumos, ko rakstījis tāda paša veida modelis, kas ģenerē atbildi, tāpēc izcelsmes ķēde apstājas pie neirāla starpnieka, nevis sasniedz autoritatīvu ierakstu. Atsauce uz modelē rakstītu kopsavilkumu ir atsauce uz interpretāciju. Atsauce uz avota ierakstu, izmantojot šķautnes, no kurām katra ir izsekojama līdz šim ierakstam vai deklarētam noteikumam, ir atsauce uz pierādījumiem.

Skaitļi, kā tos ziņo Benfenati un Rinaldi, žurnālā Neural Computing and Applications, 2026, par kiberdrošības korpusu.

Atsauces nav visa izcelsme

Trešais, mazākais 2026. gada raksts pievieno noderīgu sarežģījumu. Raksts "Why Neighborhoods Matter: Traversal Context and Provenance in Agentic GraphRAG", kas 2026. gada maijā publicēts arXiv, pēta sistēmas, kurās aģents pirms atbildes sniegšanas pēta zināšanu grafu un pēc tam citē nelielu skaitu entītiju. Tajā tiek jautāts, vai galīgās atsauces ir pietiekamas, lai izskaidrotu pierādījumus, uz kuriem atbilde balstījās.

Secinājums ir tāds, ka tās nav pietiekamas. Citētās entītijas parasti ir svarīgas: to noņemšana būtiski maina atbildes un samazina precizitāti. Tomēr eksperimenti rāda, ka precīza atbildēšana ir atkarīga arī no grafa šķērsošanas, apkārtnes struktūras un entītijām, kuras aģents apmeklēja, bet necitēja. Autori secina, ka patiesa citēšana "būtu jāņem vērā arī grafa konteksts un izguves ceļš, kas veido galīgo atbildi."

Šis atradums saasina Benfenati un Rinaldi raksta mācību. Determinēts, izsekojams grafs ir nepieciešams, lai atbildes pierādījumus varētu pārbaudīt. Tas nav pietiekams, ja sistēma reģistrē tikai to, ko tā citē, nevis to, ko tā lasīja. Izcelsmei ir jāietver ceļš, ne tikai galamērķis. Tas, starp citu, ir tas pats secinājums, pie kura nonācām no inženierijas puses, izstrādājot Knot, notikumu žurnālu, ko publicējam 2026. gada ceturtajā ceturksnī: aģenta darbības reģistrā ir jāiekļauj katra nolasīšana un katrs starpposms, ne tikai galīgais rezultāts, jo tieši soļi izskaidro rezultātu.

Ko rezultāti neparāda

Abi galvenie raksti ir rūpīgi attiecībā uz saviem ierobežojumiem, un šos ierobežojumus ir vērts skaidri norādīt, jo entuziasms par rezultātu mēdz izdzēst tā nosacījumus.

Iemiesoto aģentu rezultāti ir iegūti simulācijā. VirtualHome un ALFWorld ir labi zināmi etaloni, taču tie ir simulētas mājsaimniecības vides ar zināmu dinamiku. Garantija, ka plāni ir izpildāmi "pēc konstrukcijas", ir spēkā pārejas modelī, tas ir, simboliskajā aprakstā par to, kā pasaule darbojas. Ja šis apraksts ir nepareizs vai nepilnīgs, garantija neattiecas. Reālajā pasaulē pilnīga un pareiza pārejas modeļa uzrakstīšana ir grūta, un pasaulei piemīt tieksme ietvert lietas, ko modelis neparedzēja.

Tie paši rezultāti ir atkarīgi no pareizas vizuālās pamatošanas. Kopsavilkumā tas ir teikts tieši. Ja izpētes posmā objekts tiek nepareizi identificēts vai palaists garām, simboliskais stāvoklis ir kļūdains, un plāns, kas pie nepareizā stāvokļa ir pilnīgi izpildāms, realitātē var ciest neveiksmi. Raksta atklājums, ka atlikušās kļūdas lokalizējas stāvokļa iegūšanā, ir laba ziņa diagnostikas ziņā, un tas arī atgādina, ka uztvere joprojām ir grūtākā daļa.

GraphRAG rezultāti ir iegūti vienā jomā, kiberdrošībā, kur pastāv autoritatīvas strukturētas krātuves ar stabiliem identifikatoriem. Daudzas jomas nav tādas. Tur, kur zināšanas galvenokārt glabājas nestrukturētos dokumentos bez kanoniskiem identifikatoriem, no augšas uz leju vērsta materializācija nav pieejama, un kaut kāda veida ieguve ir neizbēgama. Raksta metode parāda, kas kļūst iespējams, ja ir labi avoti. Tā neparāda, kā tos radīt tur, kur to nav.

GraphRAG atbilžu pareizības novērtējumā kā vērtētājs tika izmantots valodas modelis Gemini 2.5 Flash, aptverot piecpadsmit jautājumus uz uzdevumu. Pētniecības rakstam tas ir saprātīgs risinājums, un izcelsmes audits ir tiešāks mērījums. Tomēr lasītājiem atbildes kvalitātes skaitļi jāuztver kā orientējoši, nevis galīgi, bet izcelsmes skaitļi kā spēcīgākais rezultāts.

Neviens no šiem ierobežojumiem nemazina rakstu vērtību. Tie ir parastie labas pētniecības nosacījumi. Taču tiem ir nozīme ikvienam, ko vilina lasīt "neirosimbolisko" kā vispārīgu risinājumu. Tas ir arhitektūras izvēļu kopums, kas ļoti labi darbojas, ja to priekšnosacījumi ir izpildīti: pareizs jomas simboliskais modelis, uzticama uztveres pamatošana šajā modelī un autoritatīvi zināšanu avoti. Liela daļa praktiskā darba ir šo priekšnosacījumu nodrošināšana.

Kas notiek pēc pirmās kļūdas

Veiksmes rādītāji parāda, cik bieži sistēma pabeidz uzdevumu. Tie neparāda, kā tā uzvedas, kad kaut kas noiet greizi, un ikvienam, kam tā jāievieš, bieži vien svarīgāks ir tieši šis jautājums. Iemiesoto aģentu rakstā ir pielikums, kas uz to atbild, un tā ir viena no atklājošākajām darba daļām.

Autori mērīja, ko politikas darīja "pēc pirmā nepamatojamā vai neizdevušās izpildes notikuma", ziņojot, cik bieži uzdevumos bija šāds notikums, cik bieži politika pēc tam uzdevumu atguva, cik bieži tā nekavējoties atkārtoja neizdevušos pieprasījumu un cik bieži tā iekļuva pastāvīgā darbību cilpā. Rezultāti tiešajām vizuālajām politikām, kas plāno bez simboliskajiem ierobežojumiem, ir pārsteidzoši.

VirtualHome vidē 4B tiešā Qwen politika saskārās ar kļūdu 64,5 procentos uzdevumu. Tā atguva uzdevumu 5,4 procentos šo gadījumu, nekavējoties atkārtoja neizdevušos pieprasījumu 74,5 procentos un nonāca pastāvīgā cilpā 45,5 procentos. ALFWorld vidē tas pats modelis saskārās ar kļūdu 73,9 procentos uzdevumu, atguva 1,0 procentā un nonāca pastāvīgā cilpā 94,8 procentos. Lielākais tiešais modelis darbojās labāk, kā jau varēja gaidīt: VirtualHome vidē 27B politika saskārās ar kļūdu 29,0 procentos uzdevumu, atguva 37,9 procentos, atkārtoja pieprasījumu 8,3 procentos un iekļuva cilpā 9,5 procentos. ALFWorld vidē pat šis modelis atguva tikai 25,7 procentos gadījumu.

Raksta ievadā ir skaidrots, kāpēc tā notiek. Tiešajai politikai ir jāidentificē objekti, jāseko to stāvoklim, jāizvēlas piemērojamas darbības un jāspriež par aizkavētām sekām "vienā autoregresīvā vēsturē, kur tās var brīvi uzkrāties". Autori norāda, ka "izpildes atgriezeniskā saite var atklāt šādu kļūdu pēc tās rašanās, bet neattur modeli no nederīgas izvēles atkārtošanas vai novirzīšanās no stāvokļa, ko radījušas paša darbības."

Šis teikums raksturo modeli, ko daudzi atpazīs no aģentiem ārpus laboratorijas. Aģents kaut ko izmēģina, tas neizdodas, kļūda tiek nodota atpakaļ, un aģents atkal mēģina to pašu vai kaut ko līdzvērtīgu. Atsauksmes ir informācija, taču informācija neierobežo. Sistēma, kas darbības derīgumu uzskata par kaut ko tādu, kas jāsecina, nevis jānodrošina, var saņemt ziņu, ka rīkojās nepareizi, taču netiek atturēta no kļūdīšanās atkārtoti.

Ierobežojošā pieeja to maina, padarot piemērojamību, rakstā lietotajā formulējumā, par "ierobežojumu, kas tiek uzturēts visā ģenerēšanas un meklēšanas gaitā". Darbība, kuras priekšnosacījumi nav izpildīti, netiek radīta vispār, tāpēc nav ko atkārtot. Tas sistēmu nepadara nekļūdīgu. Tas pārnes kļūmi uz citu vietu.

Rādītāji no Albinhassan un kolēģu 2026. gada 10. tabulas tiešajām politikām bez simboliskajiem ierobežojumiem. Procenti; atjaunošana un atkārtošana attiecas uz uzdevumiem, kuros radās kļūda.

Raksts norāda savas kļūmes

Godīgā rezultātu atspoguļojumā jāpasaka, kur ierobežotais aģents cieš neveiksmi, un raksts to dara. Tā simboliskais plānotājs var plānot tikai attiecībā uz stāvokli, kas tam dots. Kad vizuālās izpētes posms palaiž garām nepieciešamu objektu, autori raksta: "tad kļūda izplatās tālāk, jo pamatotais sākotnējais stāvoklis izlaiž nepieciešamu objektu. Tas ir vizuālā stāvokļa iegūšanas komponenta ierobežojums, nevis piemērojamības garantijas trūkums."

Šai atšķirībai ir nozīme. Sistēmas sniegtā garantija ir šaura un stingra: katra darbība, ko tā plāno, ir piemērojama stāvoklī, kurā tā, pēc saviem uzskatiem, atrodas. Vai šie uzskati atbilst pasaulei, ir atkarīgs no uztveres, un uztveri joprojām veic neironu modelis ar visu ar to saistīto nenoteiktību. Autori sagaida, ka "uzlabojumiem vizuālajā atpazīšanā un aktīvā skata punkta izvēlē vajadzētu tieši pārnesties uz visu metodi", kas ir pamatota cerība un vienlaikus atgādinājums, ka simboliskā daļa nespēj kompensēt to, ko neironu daļa nespēj saskatīt.

Tiem, kas vērtē šādas sistēmas, mācība ir jautāt, kur garantija beidzas. Neirosimboliska sistēma parasti nodrošina noteiktību par vienu procesa daļu (plāns ir derīgs, secinājums izriet no noteikumiem, atbilde ir pamatota ar grafu) un pārņem nenoteiktību no daļām, kas to apgādā ar datiem. Laba sistēma padara šo robežu redzamu. Tā fiksē, ko tā uztvēra, ko pieņēma un ko atvasināja, lai pārbaudītājs varētu noteikt, vai kļūme radusies spriešanā vai spriešanas ievaddatos.

Tāpēc arī tāda kļūdu analīze kā raksta pielikumā ir tik vērtīga. Zināšana, ka sistēma galvenokārt cieš neveiksmi pamatošanā, nevis plānošanā, inženierim parāda, kur ieguldīt, un ieviesējam parāda, kāda veida pārraudzība nepieciešama. Cilvēkam, kas pārbauda ierobežota aģenta darbu, jāpārbauda tā pasaules aina, nevis tā aritmētika.

Šķērsošanas pētījums ir neliels, un tajā tas arī norādīts

Arī pētījums par šķērsošanas kontekstu ir piesardzīgs attiecībā uz saviem ierobežojumiem. Tā autori raksta, ka pētījumu "ierobežo mazais etalona apjoms un tas, ka tajā izmantots kontrolēts zināšanu grafs, kas veidots no 2WikiMultiHopQA, nevis liels reālas pasaules zināšanu grafs." Viņi aicina veikt novērtēšanu "uz lielākām datu kopām, bagātākām grafu struktūrām un nozarei specifiskām zināšanu bāzēm", kā arī izstrādāt citēšanas mehānismus, "kas atklāj ne tikai galīgās pamatojošās entītijas, bet arī attiecīgo šķērsošanas kontekstu."

Šī atklātība ir noderīga. Secinājums, ka citēšana ir nepieciešama, bet nepietiekama, lai izskaidrotu aģenta atbildi, ir ticams un svarīgs, taču tas balstās uz kontrolētiem apstākļiem. Pirms kāds uz tā veido politiku, tas jāatkārto uz tāda veida grafiem, kādus izmanto reālas sistēmas: uzņēmumu zināšanu bāzēm, normatīvo aktu korpusiem, produktu katalogiem. Līdz tam to vislabāk lasīt kā labi izstrādātu brīdinājumu, nevis kā noslēgtu mērījumu.

Brīdinājums tomēr ir vērts ievērošanas. Autori secina, ka "izcelsmes izsekojamība aģentiskā uz grafiem balstītā informācijas izgūšanā jāuzskata par trajektorijas līmeņa īpašību". Sistēmu veidotājiem tas nozīmē reģistrēt ceļu, ne tikai galamērķi: kuras entītijas tika apmeklētas, kuras šķautnes tika šķērsotas, kuri kaimiņi tika saskatīti un netika citēti. Citēšanas saraksts ir šī ceļa kopsavilkums. Tāpat kā jebkurš kopsavilkums, tas var būt precīzs un tomēr izlaist kaut ko svarīgu.

Ceļa reģistrēšanai ir praktiskas izmaksas, un tas jāpasaka skaidri. Šķērsošanas ieraksti ir lielāki par citēšanas sarakstiem, tajos var būt materiāls, kas lietotājam nekad netika parādīts, un tiem nepieciešama tāda pati rūpība piekļuves un glabāšanas jautājumos kā jebkuram citam žurnālam. Taču alternatīva ir sliktāka. Kad atbilde tiek apstrīdēta, sistēma, kas saglabājusi tikai citējumus, var parādīt, uz ko tā norādīja. Sistēma, kas saglabājusi savu trajektoriju, var parādīt, kā tā tur nokļuva, un tas ir jautājums, ko recenzents patiešām uzdos. Aģentiskā informācijas izgūšanā šī atšķirība, visticamāk, izšķirs, vai skaidrojums tiek pieņemts vai vienkārši paciests.

Vecais arguments par skaidrojamību joprojām ir spēkā

Nekas no tā nav jauns pēc būtības. Diskusija par skaidrojamību mašīnmācīšanās jomā norisinās jau gadiem, un 2026. gada rezultāti tajā iekļaujas, nevis to aizstāj.

2017. gadā Finale Doshi-Velez un Been Kim norādīja, ka "neskatoties uz interesi par interpretējamību, pastāv ļoti maz vienprātības par to, kas ir interpretējama mašīnmācīšanās un kā tā jāmēra." 2018. gadā Cynthia Rudin apgalvoja, ka "mēģinājums izskaidrot melnās kastes modeļus, nevis sākotnēji veidot interpretējamus modeļus, visticamāk, saglabās sliktu praksi un var potenciāli nodarīt katastrofālu kaitējumu sabiedrībai." Tajā pašā gadā Julius Adebayo un kolēģi parādīja, ka dažas saliences metodes "ir neatkarīgas gan no modeļa, gan no datu ģenerēšanas procesa", radot līdzīgus skaidrojumus neatkarīgi no tā, vai modelis kaut ko bija iemācījies.

Ierobežotās plānošanas un GraphRAG rezultātus var lasīt kā pierādījumu Rudin nostājai jaunā kontekstā. Kad plāns tiek veidots, meklējot pēc skaidriem noteikumiem, tā derīgums ir tā izveides īpašība, un skaidrojumu par to, kāpēc darbība tika izvēlēta, var nolasīt no meklēšanas. Kad atbilde tiek veidota, šķērsojot grafu, tās izcelsme ir šķērsošanas īpašība, ar nosacījumu, ka šķērsošana ir reģistrēta. Abos gadījumos skaidrojums nav otra modeļa interpretācija par pirmo. Tas ir ieraksts par to, ko pirmais darīja.

2026. gada rezultāti papildina pierādījumus tam, ka šāda veida sistēma var arī uzrādīt labus rezultātus. Iebildums pret interpretējamām pieejām agrāk bija tāds, ka tās samazina precizitāti. Tādi rezultāti kā šie, kuros mazi ierobežotas brīvības modeļi strukturētos uzdevumos pārspēj lielākus modeļus bez ierobežojumiem, šo jautājumu kopumā neatrisina. Tie gan parāda, ka uzdevumos ar skaidriem noteikumiem un pārbaudāmiem rezultātiem kompromiss nav tāds, kā cilvēki pieņēma.

Ilgāka domāšana nepalīdzēja, un vienkāršais etalons to slēpj

Komponentu ablācijas pētījumā par iemiesoto aģentu ir vēl divas detaļas, kam jāpievērš uzmanība, jo tās ir pretējas izplatītiem pieņēmumiem.

Pirmā attiecas uz paplašinātu spriešanu. Ar 27B Qwen modeli vienkārša mantkārīgā dekodēšana sasniedza 61,0 % veiksmes VirtualHome vidē un 15,4 % ALFWorld vidē. Tas pats modelis domāšanas režīmā ar budžetu līdz 32 768 izvades marķieriem atbilstoši rakstā norādītajiem dekodēšanas iestatījumiem sasniedza 59,0 % un 16,9 %. Iespēja modelim spriest daudz ilgāk būtībā neko nemainīja. Savukārt piemērojamības ierobežojumu pievienošana mantkārīgajai dekodēšanai palielināja VirtualHome veiksmes rādītāju no 61,0 % līdz 98,5 %. Autoru vārdiem, tas parāda, ka "piemērojamības ierobežojumi nodrošina lielāko daļu ieguvuma".

Tas ir noderīgs pretarguments priekšstatam, ka vairāk spriešanas marķieru ir vispārējs līdzeklis pret plānošanas kļūdām. Ja kļūda ir tāda, ka tiek izvēlēta darbība, kuras priekšnosacījumi nav izpildīti, ilgāka iekšēja apsvēršana to uzticami neaptur. Noteikums, kas šādas darbības padara neiespējamas, to aptur.

Otrā detaļa attiecas uz etalona grūtības pakāpi. VirtualHome vidē meklēšana bez ierobežojumiem vien jau sasniedza 99,0 %, tāpat kā pilnā metode, lai gan autori norāda, ka tas notika "ar lielākām ģenerēšanas izmaksām", kas redzamas viņu attēlos. Lasītājs, kas aplūko tikai VirtualHome, varētu secināt, ka pietiek ar meklēšanu vien. ALFWorld rāda pretējo: ierobežojumi vien sasniedza 32,3 %, meklēšana bez ierobežojumiem 29,2 %, bet abu kombinācija 95,5 %. Autori lielāko atšķirību skaidro ar grūtāku plānošanas problēmu. Veiksmīgi plāni no 27B modeļa ALFWorld vidē vidēji ietvēra 8,0 augsta līmeņa darbības, bet VirtualHome vidē 6,4, ar maksimumiem attiecīgi 30 un astoņas, un ALFWorld "katrā posmā ievieš vairāk instanču un tvertņu saistījumu."

Vispārīgā atziņa ir tāda, ka vienkāršs etalons var likt diviem atšķirīgiem risinājumiem izskatīties līdzvērtīgiem. Atšķirības parādās tikai tad, kad problēma kļūst pietiekami gara un pietiekami ierobežota. Ikvienam, kas salīdzina aģentu arhitektūras, tās jāpārbauda uzdevumos, kas ir vismaz tikpat gari un tikpat stingri ierobežoti kā tie, kuros viņš plāno tās izmantot, nevis uz īsākajiem pieejamajiem uzdevumiem.

Eksperimenti ir atkārtojami pēc savas uzbūves

Vēl viena raksta iezīme ir pelnījusi uzmanību, jo tā sasaucas ar tēmu citviet šajā sērijā. Autori pilnībā publicē savus dekodēšanas iestatījumus. Ierobežotā Qwen fāzes darbojas ar temperatūru 0,0. Kur tiek izmantota kodola izlase, proti, papildu domāšanas braucienos un iemiesoto aģentu bāzes līnijās, novērtējumi tiek atkārtoti ar trim nosauktiem sēklu skaitļiem: 0, 42 un 1738. Meklēšana ir ierobežota līdz 250 sekundēm uz uzdevumu, un rakstā norādīts, ka tās meklēšanas hiperparametri "tika atlasīti empīriski".

Tieši šīs detaļas padara rezultātu pārbaudāmu. Lasītājs, kas vēlas darbu atkārtot, zina, kādus iestatījumus izmantot, cik braucienu veikt un cik lielu mainību sagaidīt. Tās arī parāda robežas: empīriski atlasīti hiperparametri citās vidēs var būt jāpielāgo no jauna, un laika ierobežojums nozīmē, ka daži uzdevumi var neizdoties laika trūkuma, nevis plāna trūkuma dēļ. Abus minēt ir laba prakse. Tas ir standarts, kam, mūsuprāt, jāatbilst jebkuram publicētam rezultātam, tostarp mūsējiem. Rezultāts, ko nevar atkārtot, joprojām var būt interesants, taču uz to vēl nevar paļauties, un šī atšķirība ir vissvarīgākā tad, kad rezultāts tiek izmantots risinājuma pamatošanai.

Vārds kļūst par etiķeti, tāpēc tam nepieciešams tests

Panākumi rada atdarināšanu, un terminu "neirosimbolisks" tagad attiecina uz sistēmām, kurām ar šajos rakstos aprakstītajām arhitektūrām ir maz kopīga. Valodas modeli ar uzvedni "domā soli pa solim" dažkārt sauc par neirosimbolisku. Tāpat sauc modeli, kas izsauc kalkulatoru, čatbotu ar uz noteikumiem balstītu sveicienu vai meklēšanas sistēmu, kas izmanto datubāzi. Katrs no šiem apvieno kaut ko neirālu ar kaut ko tādu, kas nav neirāls, un vārds zaudē jēgu, ja tas aptver tos visus.

Mums šķiet lietderīgi piemērot vienkāršu testu, kas izriet no tā, kāpēc 2026. gada rezultāti nostrādāja. Sistēma ir pelnījusi šo vārdu tad, ja tās simboliskā daļa ierobežo vai pārbauda neirālo daļu tā, ka mainās sistēmas iespējamā izvade, un ja šo ierobežojumu var pārbaudīt.

Rakstā par iemiesoto aģentu PDDL pārejas modelis ierobežo dekodēšanu tikai uz piemērojamām darbībām. Valodas modelis burtiski nevar radīt nederīgu darbību. Tas ir ierobežojums, kas maina izvades telpu, un pārejas modeli var nolasīt ikviens. Rakstā par GraphRAG zināšanu grafs tiek veidots pēc deklarētiem noteikumiem no autoritatīviem ierakstiem, un valodas modelis saņem pierādījumus tikai no šī grafa. Katras saites izcelsmi var pārbaudīt. Abas sistēmas testu iztur.

Uzvedne, kas lūdz modeli rūpīgi spriest, testu neiztur. Tā var uzlabot izvadi, bet tā to neierobežo, un nekas tajā nav pārbaudāms, lai redzētu, ko modelim ir atļauts teikt. Modelis, kas drīkst izsaukt kalkulatoru, iztur tikai daļēji: kalkulatora rezultāts ir precīzs, bet modelis lemj, vai to izsaukt un ko ar rezultātu darīt, un nekas neliedz tam rezultātu ignorēt vai aritmētiku veikt pašam. Tests nav par tīrību. Tas ir par to, no kurienes nāk garantijas.

Jautājumi, kas jāuzdod sistēmai, kura pretendē uz šo vārdu

Organizācijām, kas izvērtē sistēmas, kuras raksturotas kā neirosimboliskas, tests pārtop dažos konkrētos jautājumos.

Ko simboliskā daļa novērš? Noderīga atbilde nosauc izvadu klasi, ko sistēma nevar radīt, piemēram, nederīgas darbības, nepamatotus apgalvojumus vai noteikumu pārkāpumus, un izskaidro mehānismu. Atbilde, kas saka, ka simboliskā daļa modeli "vada" vai "informē", nenosaucot neko, ko tā novērš, liecina, ka garantija ir vāja.

Vai simbolisko daļu var nolasīt? Noteikumiem, ierobežojumiem, ontoloģijām un pārejas modeļiem jābūt pieejamiem pārbaudei tiem cilvēkiem, kas paļaujas uz sistēmu, vismaz tādā formā, kas attiecas uz viņu lēmumiem. Ja simboliskais slānis pats ir apgūts, necaurredzams komponents, tas nenodrošina tāda veida garantiju, kas padara neirosimboliskos risinājumus vērtīgus.

Kur beidzas izcelsme? Jebkurai atbildei sekojiet atsaucēm. Vai tās ved uz autoritatīviem avota ierakstiem, izsekojamiem soļiem, vai uz modeļa rakstītiem starpniektekstiem? GraphRAG izcelsmes audits ir šīs pārbaudes paraugs.

Kur ir kļūmes? Lūdziet kļūmju gadījumu sadalījumu pa komponentiem. Labi strukturētai sistēmai vajadzētu spēt pateikt, vai tās kļūmes rodas uztverē, pamatošanā, meklēšanā, spriešanā vai ģenerēšanā. Sistēma, kas to nevar pateikt, vai nu nav strukturēta, vai nav mērīta.

Kas tiek reģistrēts? Jautājiet, vai sistēma reģistrē tās veikto ceļu, tostarp to, ko tā nolasīja un kuri komponenti piedalījās, ne tikai galīgo atbildi. Aģentiskā GraphRAG atklājumi parāda, kāpēc tas ir svarīgi.

Neviens no šiem jautājumiem nav jāuzdod ar dziļām speciālām zināšanām. Tie visi atšķir arhitektūras, kas sniedz pārbaudāmas garantijas, no sistēmām, kas lieto vien vārdu krājumu.

Kāpēc tas ir svarīgi skaidrojamībai un uzraudzībai

Šiem rezultātiem ir regulatīva dimensija, ko ir vērts izcelt, jo tā saista pētniecības arhitektūru ar pienākumiem, kas attieksies uz daudzām organizācijām.

Mākslīgā intelekta akts prasa ļoti daudz skaidrojumu. 13. pants nosaka, ka augsta riska sistēmas ir jāizstrādā tā, lai izvietotāji varētu interpretēt to izvadi un to atbilstoši izmantot. 14. pants nosaka, ka personām, kurām uzticēta uzraudzība, ir jāspēj pareizi interpretēt sistēmas izvadi un pieņemt lēmumu to neņemt vērā, ignorēt vai atcelt. 86. pants piešķir skartajām personām tiesības uz skaidriem un jēgpilniem skaidrojumiem par mākslīgā intelekta sistēmas lomu konkrētos lēmumos. Šie pienākumi attiecas uz augsta riska sistēmām no 2027. gada decembra vai 2028. gada augusta pēc Digitālā omnibusa, taču dizaina izvēles, kas padara tos sasniedzamus, tiek izdarītas jau tagad.

Faktorizētu neirosimbolisku sistēmu ir daudz vieglāk izskaidrot nekā pilnīgu modeli, tieši to iemeslu dēļ, ko demonstrē 2026. gada raksti. Ja plāns ir izpildāms pēc uzbūves saskaņā ar pārejas modeli, skaidrojums par to, kāpēc solis tika atļauts, ir atsauce uz noteikumu, kas to pieļāva. Ja atbilde citē saites, kas izsekojamas līdz autoritatīviem ierakstiem, skaidrojums par to, kāpēc apgalvojums tika izteikts, ir ierakstu ķēde. Ja kļūmes lokalizējas komponentā, skaidrojums par to, kāpēc sistēma kļūdījās, nosauc komponentu. Katrs skaidrojums ir apgalvojums par kaut ko tādu, kas pastāv un ko var pārbaudīt, nevis neironu aprēķina pēc fakta racionalizācija.

Tas nepadara skaidrošanu par triviālu. Kādam joprojām ir jāpārvērš noteikumi un ieraksti valodā, ko skartā persona var saprast. Taču tas maina uzdevuma būtību no rekonstrukcijas uz prezentāciju. Rekonstrukcija jautā: "kas varēja izraisīt šo izvadi?" un var piedāvāt tikai hipotēzes. Prezentācija jautā: "kā mēs parādām noteikumus un ierakstus, kas radīja šo izvadi?" un var piedāvāt pierādījumus. Uzraudzībai un tiesībām uz skaidrojumu šī atšķirība ir izšķiroša.

Tas arī ir iemesls, kāpēc mēs uzskatām, ka efektivitātes rezultātiem vajadzētu interesēt gan regulatorus, gan inženierus. Mazs, ierobežots modelis, kas ir lētāk darbināms, ir arī modelis, kas ir lētāk revidējams: to var mitināt tur, kur revidents tam var piekļūt, piesaistīt versijai uz izmeklēšanas laiku un deterministiski atkārtoti izpildīt ar tiem pašiem ievadiem. Suverenitātes, enerģijas un atbildības argumenti par strukturētām mazām sistēmām izrādās viens un tas pats arguments, skatīts no trim pusēm.

Ko mēs no tā mācāmies

Mūsu pašu darbam 2026. gada rezultāti apstiprina trīs dizaina lēmumus un liek mums vēl uzmanīgāk pievērsties ceturtajam.

Tie apstiprina, ka mazi modeļi ar struktūru var pārspēt lielus modeļus bez tās uzdevumos, kuros nepieciešama uzticamība. Uz šīs premisas balstās Loom maršrutēšana starp 528 speciālistiem: uz lielāko daļu jautājumu vislabāk atbild īstais speciālists, bieži vien mazs modelis vai simbolisks risinātājs, nevis lielākais pieejamais modelis. Iemiesotā aģenta ablācija ir skaidrākais publicētais pierādījums, ko zinām, ka šī premisa attiecas uz plānošanu.

Tie apstiprina, ka zināšanas jāveido no autoritatīviem avotiem ar deklarētiem noteikumiem un jācitē pēc to avota. Dweve zināšanu slānis citē katru atbildē izmantoto zināšanu vienību pēc mezgla un versijas jaucējkoda, lai recenzents varētu sekot citējumam līdz precīzam ierakstam un versijai. GraphRAG izcelsmes audits parāda, kas tiek zaudēts, kad šī ķēde apstājas pie modeļa rakstīta starpnieka.

Tie apstiprina, ka ceļa reģistrēšana ir tikpat svarīga kā atbildes reģistrēšana. Aģentiskā GraphRAG raksta atklājums par apmeklētām, bet necitētām entītijām ir tieši iemesls, kāpēc Knot reģistrē lasījumus un starpsoļus, un iemesls, kāpēc Loom pēda parāda, kuri speciālisti sniedza ieguldījumu.

Un tie liek mums vēl uzmanīgāk pievērsties pamatojumam. Abi raksti savas atlikušās kļūdas lokalizē vietā, kur pasaule jeb avots tiek pārvērsts simboliskā attēlojumā. Tā ir robeža, kur neironu uztvere nodod stafeti simboliskajai spriešanai, un tieši tur būtu jākoncentrē pārbaudes pūles. Simbolisks slānis, kas nevainojami spriež par nepareizu stāvokli, rada pārliecinošu nepareizu atbildi. Inženiertehniskais jautājums nākamajam gadam ir, kā padarīt šo robežu tikpat pārbaudāmu kā slāņus abpus tai.

Renesanse ar skaitļiem

Pirms gada apgalvojums, ka neirosimboliskās sistēmas pārspēs tīros valodas modeļus uzdevumos, kuros nepieciešama uzticamība, bija arguments. 2026. gadā tam jau ir skaitļi: vairāk nekā 90 procenti veiksmes maziem atvērtiem modeļiem mājsaimniecības plānošanā, 4 miljardu parametru aģents ar lielu pārsvaru pārspēj 27 miljardu parametru tiešo politiku, ierobežojumi un meklēšana atsevišķi atrisina mazāk nekā trešdaļu uzdevumu, bet kopā vairāk nekā 95 procentus, un katra saite ontoloģijā veidotā grafā ir izsekojama līdz avotam, salīdzinot ar 83 procentiem izvilktā grafā.

Šiem skaitļiem ir nosacījumi, un nosacījumi ir tikpat svarīgi kā rezultāti. Taču virziens ir skaidrs. Ja AI sistēmai ir jābūt pareizai tādos veidos, ko var pārbaudīt, struktūra nav šķērslis spējām. Tā ir viens no to avotiem.

Kāpēc etalona dizains ir tikpat svarīgs kā rezultāts

Abos rakstos ir plašāka metodoloģiska mācība, kas pelna īsu piezīmi, jo tā attiecas uz to, kā visai nozarei būtu jāvērtē sistēmas, kas pretendē uz uzticamību.

Abi raksti mēra ko citu, nevis valodas plūdumu. Raksts par iemiesoto aģentu mēra veiksmi: vai mājsaimniecības uzdevums tika izpildīts vidē? Raksts par GraphRAG mēra izcelsmi: vai katra saite un katrs citāts ir izsekojams līdz autoritatīvam ierakstam? Neviens no tiem galvenokārt nepaļaujas uz to, vai atbilde labi lasās vai atbilst atsauces tekstam. Tas ir nozīmīgi, jo liela daļa AI novērtēšanas joprojām atalgo virspusēju kvalitāti. Pētniecības virziens "Why Neighborhoods Matter" un ar to saistītie novērtēšanas pētījumi ir norādījuši uz to pašu no cita leņķa: leksiskā pārklāšanās ar atsauces atbildi var būt augsta, kamēr pierādījumi atbildei trūkst.

Organizācijām, kas vērtē AI sistēmas lēmumiem, kuros svarīgi, mācība ir jautāt, ko etalons mēra, pirms jautāt, kādu punktu skaitu sistēma ieguva. Sistēma, kas gūst labu punktu skaitu uz plūduma balstītā etalonā, joprojām var radīt plānus, kas netiek izpildīti, vai atbildes, kuru citāti nekur neved. Sistēma, kas gūst labu punktu skaitu izpildāmībā vai izcelsmē, ir pierādījusi kaut ko tuvāku tam, kas nepieciešams lēmumu pieņēmējam. Mēs vēlētos redzēt vairāk iepirkuma novērtējumu, kas veidoti tāpat kā šie divi raksti: ar uzdevumu, kas vai nu izdodas, vai neizdodas pārbaudāmā veidā, un ar auditu par to, no kurienes nāk katras atbildes pierādījumi.

Avoti