Nevro-simbolna renesansa: Zakaj prihodnost umetne inteligence združuje intuicijo z logiko

Nevro-simbolna renesansa: Zakaj prihodnost umetne inteligence združuje intuicijo z logiko

Arhitektura človeške inteligence

Leta 2002 je psiholog Daniel Kahneman v Stockholmu imel svoje Nobelovo predavanje. Občinstvu ekonomistov, ki so pričakovali enačbe in grafe, je namesto tega pripovedoval zgodbe. Zgodbe o taksistih, košarkarjih in ljudeh, ki sprejemajo grozne odločitve s popolno samozavestjo. Njegova osrednja teza, razvijana 30 let s pokojnim sodelavcem Amosom Tverskyjem, je bila preprosta, a revolucionarna: človeški um deluje prek dveh bistveno različnih kognitivnih sistemov, našo celotno civilizacijo pa je zgradila napetost med njima.

Kahneman ju je poimenoval sistem 1 in sistem 2. Razumevanje teh sistemov ni zgolj akademska filozofija. Je ključ do razumevanja, zakaj trenutna umetna inteligenca spodletuje in kaj mora slediti.

Sistem 1 (hitro razmišljanje) je intuitiven, čustven, samodejen in podzavesten. Deluje nenehno, brez napora. To je sistem, ki ga uporabljate, ko prepoznate prijateljev obraz v množici, ujamete žogo brez računanja poti, vozite po znani poti, medtem ko vaše misli tavajo drugje, zaznate jezo v nečijem glasu iz enega samega zloga ali razumete stavek, ne da bi zavestno razčlenjevali slovnico. Sistem 1 je hiter, ker nima izbire. Razvil se je za preživetje v svetu, kjer je oklevanje pomenilo smrt. Odgovor začuti, preden lahko pojasnite, zakaj.

Sistem 2 (počasno razmišljanje) je logičen, premišljen, računajoč in zavesten. Zahteva napor in pozornost. To je sistem, ki ga uporabljate, ko v glavi rešujete 17 x 24, pravilno izpolnite davčni obrazec, preverite pravno pogodbo za skrite klavzule, potrdite veljavnost matematičnega dokaza ali primerjate relativne prednosti dveh ponudb za zaposlitev. Sistem 2 je počasen, ker je strog. Odgovor izračuna in lahko pokaže svoj postopek. To je sistem znanosti, inženirstva, prava in logike.

Tu je Kahnemanov ključni vpogled: sistem 1 deluje nenehno in ga ni mogoče izklopiti. Sistem 2 je len in se aktivira le, ko je prisiljen. Ko vidite enačbo 2+2=?, sistem 1 takoj ponudi »4«, ne da bi vključil sistem 2. Ko pa vidite 17x24=?, vam sistem 1 ne more pomagati (razen če ste savant) in sistem 2 mora mukotrpno prevzeti vlogo.

Interakcija med tema sistemoma pojasnjuje skoraj vse človeške kognitivne napake. Ko sistem 1 proizvede odgovor, ki se »zdi« pravilen, ga sistem 2 pogosto sprejme brez preverjanja. Tako delujejo optične iluzije. Tako delujejo prevaranti. Tako delujejo kognitivni pristranskosti. Občutek vedenja zamenjujemo za dejansko znanje.

Kako je Silicon Valley zgradil velikanski sistem 1

V zadnjem desetletju je celotna industrija umetne inteligence obsedena z gradnjo sistema 1. Globoke nevronske mreže, zlasti arhitekture Transformer, ki poganjajo ChatGPT, Claude, Gemini in praktično vse druge "vrhunske" modele umetne inteligence, so v bistvu ogromni intuicijski stroji na osnovi silicija.

Delujejo s prepoznavanjem vzorcev v visokodimenzionalnem prostoru. Za dano vhodno zaporedje napovejo naslednji žeton na podlagi statističnih korelacij, naučenih iz bilijonov učnih primerov. Ničesar ne "razumejo" v kakršnem koli smiselnem pomenu besede. Prepoznavajo vzorce in napovedujejo, kateri vzorci običajno sledijo drugim vzorcem.

To ni žalitev. To je tehnični opis. In za naloge sistema 1 so resnično izjemni. Veliki jezikovni modeli lahko pišejo poezijo, ki ljudi gane do solz, ustvarjajo nadrealistične podobe, ki zmagujejo na umetniških tekmovanjih, razmišljajo o kreativnih rešitvah za odprte probleme in vodijo pogovore, ki delujejo presenetljivo človeško. To so natanko tiste naloge, pri katerih človeški sistem 1 blesti.

A tu je težava: pri nalogah sistema 2 so katastrofalno slabi.

Vprašajte čisti LLM, naj pomnoži dve šestmestni števili. Najverjetneje vam bo dal število, ki je videti kot pravilen odgovor (ima pravo število števk, prve števke so morda celo pravilne), vendar bo odgovor matematično napačen. Zakaj? Ker model ne računa. Napoveduje, kako je videti izračun. Med učenjem je videl milijone primerov množenja, zato lahko ustvari nekaj, kar se ujema z vzorcem "rezultat množenja", vendar nima pravega aritmetičnega mehanizma.

Zato LLM-ji samozavestno halucinirajo. Ne lažejo (to bi zahtevalo poznavanje resnice). Dopolnjujejo vzorce. Če uporabnik zastavi vprašanje, ki zveni, kot da bi moralo imeti odgovor, model ustvari nekaj, kar je videti kot odgovor. Ne more razlikovati med dopolnjevanjem vzorcev in dejansko točnostjo, ker nima mehanizma za preverjanje.

Zid zakonov skaliranja

Raziskovalci umetne inteligence so leta verjeli, da se bo ta problem rešil sam. "Zakoni skaliranja" (Kaplan et al. 2020, Hoffmann et al. 2022) so pokazali predvidljiva razmerja med velikostjo modela, učnimi podatki, računsko močjo in zmogljivostjo. Implikacija je bila zapeljiva: samo naredite modele večje, dajte jim več podatkov in razmišljanje se bo pojavilo samo od sebe.

Zdaj smo zadeli ob zid.

GPT-4 ima približno 1,8 bilijona parametrov. Claude 3 Opus, Gemini Ultra in drugi vodilni modeli so v podobnem rangu. Usposabljanje stane več sto milijonov dolarjev. Poraba energije se lahko kosa z manjšimi mesti. In vendar osnovni problem ostaja: ti modeli še vedno ne zmorejo zanesljivo računati z večmestnimi števili, še vedno samozavestno halucinirajo, še vedno odpovedujejo pri osnovnem logičnem sklepanju.

Lahko dodamo več plasti. Lahko vnesemo več podatkov. Lahko zgradimo večje gruče GPE. A ne dobivamo boljšega sklepanja. Dobivamo boljše posnemanje vzorcev. Večja papiga je še vedno papiga.

Raziskava iz leta 2024, ki jo je opravil Allen Institute for AI, je pokazala, da tudi najnaprednejši veliki jezikovni modeli odpovedujejo pri preprostih logičnih ugankah, ki jih reši vsak otrok, in to ne zato, ker bi jim manjkali učni podatki, temveč zato, ker jim manjka arhitektura za logično sklepanje. S povečevanjem sistema 1 ne morete doseči zmogljivosti sistema 2. Gre za temeljno različni računski paradigmi.

Vrnitev simbolične umetne inteligence

Da bi razumeli, kam mora umetna inteligenca napredovati, moramo razumeti, od kod prihaja. Pred revolucijo globokega učenja, preden so nevronske mreže postale prevladujoče, je obstajala druga paradigma: simbolična umetna inteligenca, včasih imenovana tudi "dobra stara umetna inteligenca" (GOFAI).

Simbolna umetna inteligenca je bila prevladujoč pristop od petdesetih do devetdesetih let prejšnjega stoletja. Ni uporabljala nevronskih mrež. Namesto tega je uporabljala eksplicitna pravila, logična drevesa, ontologije, formalne slovnice in grafe znanja. Znanje je predstavljala s simboli in z njimi upravljala v skladu z logičnimi pravili.

Sistem simbolne umetne inteligence za medicinsko diagnostiko bi lahko imel pravila, kot so: »ČE ima bolnik vročino IN ima bolnik kašelj IN trajanje daljše od 7 dni, POTEM upoštevaj pljučnico z verjetnostjo 0,7.« Tak sistem bi lahko povezoval ta pravila, spremljal svoje sklepanje in natančno pojasnil, zakaj je prišel do katerega koli zaključka.

Simbolna umetna inteligenca je imela izjemne lastnosti:

• Popolna logika: Če simbolnemu sistemu poveste, da so »vsi ljudje smrtni« in da je »Sokrat človek«, bo s 100-odstotno gotovostjo sklenil, da je »Sokrat smrten«. Ne halucinira. Ne ugiba. Dokazuje.
• Popolnoma razložljiva: Vsak zaključek ima sledljivo pot dokaza. Na kateri koli točki lahko vprašate »zakaj« in dobite formalno izpeljavo.
• Zagotovljena pravilnost: Za dobro opredeljena področja s popolnimi pravili je mogoče matematično preveriti, da simbolni sistemi vedno proizvedejo pravilne rezultate.

Zakaj je torej simbolna umetna inteligenca propadla? Zakaj jo je področje opustilo v korist nevronskih mrež?

Odgovor je krhkost. Simbolni sistemi zahtevajo, da ljudje ročno kodirajo vsa pravila. To je delovalo pri šahu (fiksna pravila, končna stanja), a je katastrofalno odpovedalo pri nalogah v odprtem svetu. Ne morete napisati nabora pravil ČE/POTEM, ki bi prepoznal mačko v vseh možnih svetlobnih pogojih, položajih, zakritostih in kakovostih slike. Resnični svet je preveč neurejen, preveč dvoumen in preveč visokodimenzionalen za ročno oblikovana pravila.

To so imenovali »ozko grlo pridobivanja znanja«. Strokovnjaki so morali ročno vnesti vsa pravila sveta, izkazalo pa se je, da ima svet neskončno pravil. Nevronske mreže so to zaobšle z učenjem vzorcev neposredno iz podatkov.

Sinteza: nevrosimbolna umetna inteligenca

Tukaj je spoznanje, ki preoblikuje umetno inteligenco: ni nam treba izbirati med nevronsko in simbolno. Lahko ju združimo.

Nevrosimbolna umetna inteligenca je arhitekturna paradigma, ki vsako nalogo dodeli komponenti, ki ji najbolj ustreza:

• Nevronska komponenta (zaznavanje): Obdeluje neurejene, nestrukturirane senzorične vnose. Pogleda v svet (slike, zvok, besedilo, podatke senzorjev) in jih pretvori v strukturirane simbole, ki jih lahko obdela sistem za razmišljanje. To je sistem 1: hiter, vzporeden, odporen na šum.
• Simbolna komponenta (razmišljanje): Obdeluje logiko, pravila, matematiko, omejitve in preverjanje. Vzame simbole iz nevronske mreže in jih obdela deterministično v skladu s formalnimi pravili. To je sistem 2: premišljen, zaporedni, dokazljivo pravilen.

Kombinacija vam zagotavlja tako robustnost kot tudi natančnost. Nevronska komponenta obravnava dvoumnost resničnega sveta (tipkarske napake v besedilu, šum v zvoku, razlike v slikah). Simbolna komponenta zagotavlja, da je vaše razmišljanje, ko enkrat imate čiste simbole, zajamčeno pravilno.

To ni nova ideja. Raziskovalci že desetletja raziskujejo nevro-simbolne pristope. Toda nedavni napredki so to prvič omogočili praktično v velikem obsegu. In Dweve je zgradil najnaprednejšo implementacijo te paradigme s svojo arhitekturo Binary Constraint Discovery.

Kako Dweve uvaja nevro-simbolno umetno inteligenco

Arhitektura Dweve je najnaprednejša implementacija nevro-simbolnih načel v produkciji danes. Takole deluje:

Plast zaznavanja: nevronska obdelava vhodnih podatkov

Ko podatki vstopijo v sistem Dweve (besedilo, slike, zvok, strukturirani podatki), najprej gredo skozi naših 31 ekstraktorjev zaznavnih značilnosti. To so nevronske komponente, optimizirane za pretvorbo surovih senzoričnih podatkov v strukturirane predstavitve. Obdelujejo neurejene vnose iz resničnega sveta, ki jih simbolni sistemi ne morejo obdelati neposredno: tipkarske napake, napake OCR, šum v slikah, popačenje zvoka, dvoumnost naravnega jezika.

Ključno je, da plast zaznavanja ne poskuša "razmišljati" o vhodnih podatkih. Njena edina naloga sta ekstrakcija in strukturiranje. Besedilo "Omejitev odgovornosti iz oddelka 4.2 je pet milijonov evrov" pretvori v strukturirane simbole: liability_cap = 5000000, currency = EUR, reference = section_4_2. To je naloga, ki je popolnoma primerna za nevronsko prepoznavanje vzorcev.

Plast usmerjanja: izbira med 456 domenskimi specializacijami

Ko so vhodni podatki strukturirani, sistem za usmerjanje Permuted Agreement Popcount (PAP) v Dweve Loom določi, kateri od 456 specializiranih nizov omejitev so pomembni. Tu se Dweve radikalno razlikuje od standardnih pristopov zmesi domenskih specializacij.

Tradicionalni modeli MoE uporabljajo naučena usmerjevalna omrežja, ki trpijo za istimi težavami kot druge nevronske komponente: so verjetnostna, ne deterministična. Poizvedbe lahko usmerijo k napačnim domenskim specializacijam na podlagi površinskega ujemanja vzorcev.

Usmerjanje PAP uporablja zaznavanje strukturnih vzorcev, ki presega preprosto podobnost. Zazna, kdaj so "pravi žetoni prisotni, vendar v napačnih razmerjih", in se izogne lažno pozitivnemu usmerjanju. Sama odločitev o usmerjanju je razložljiva: natančno lahko vidite, zakaj je bila poizvedba usmerjena k domenskemu specializatu za analizo pravnih pogodb in ne k domenskemu specializatu za medicinsko diagnostiko.

Plast sklepanja: odkrivanje binarnih omejitev

To je osrednja inovacija. Namesto da bi znanje predstavljal kot uteži nevronskih omrežij (visokodimenzionalne vektorje s plavajočo vejico, ki jih ni mogoče pregledati ali preveriti), Dweve znanje predstavlja kot kristalizirane binarne omejitve.

Omejitev je logično razmerje, ki je bilo odkrito iz podatkov in preverjeno kot zanesljivo. Na primer:

• "Pri veljavnih pogodbah o prevzemih in združitvah mora biti omejitev odgovornosti večja ali enaka najvišjemu znesku odškodnine"
• "V evidencah pacientov, če je diagnoza pljučnica IN zdravljenje antibiotik X, POTEM mora trajanje biti >= 7 dni"
• "V računovodskih izkazih morajo biti skupna sredstva enaka skupnim obveznostim plus lastniškemu kapitalu"

Te omejitve niso naučene kot implicitni vzorci v nevronskih utežeh. Eksplicitno so odkrite, preverjene in shranjene kot logična pravila. Med sklepanjem jih reševalec omejitev uporablja deterministično. Če vhodni podatki kršijo omejitev, sistem to označi z matematično gotovostjo, ne s statistično zanesljivostjo.

Zato sistemi Dweve ne halucinirajo. Halucinacija je nemogoča, kadar je vsak rezultat posledica uporabe preverjenih logičnih pravil na strukturiranih vhodnih podatkih. Sistem lahko ustvari samo rezultate, ki izhajajo iz njegovih omejitev. Če nobena omejitev ne podpira trditve, sistem reče "ne vem", namesto da bi si izmislil nekaj verjetnega.

Plast izhoda: razložljivi rezultati

Vsak rezultat Dweve vključuje celotno izpeljavo. Na kateri koli točki lahko vprašate "zakaj" in dobite natančno verigo omejitev, ki je privedla do zaključka. To ni naknadna razlaga, ki jo ustvari ločen "modul za razlago" (kot to počnejo številna orodja za razložljivost umetne inteligence). To je dejanska pot sklepanja.

Za regulirane panoge (zdravstvo, finance, pravo) je to prelomno. Revizorji lahko preverijo pravilnost zaključkov s preverjanjem izpeljave omejitev. Regulatorji lahko potrdijo, da odločanje sledi odobreni logiki. Uporabniki lahko natančno razumejo, zakaj je sistem prišel do svojega zaključka.

Primer: podpora pri medicinski diagnostiki

Predstavljajte si sistem umetne inteligence, ki podpira zdravnike v urgentni ambulanti. Njegova naloga je predlagati možne diagnoze na podlagi bolnikovih simptomov, anamneze in izvidov preiskav.

Čisti pristop z velikim jezikovnim modelom: Zdravnik vnese bolnikovo klinično sliko v ChatGPT. Model ustvari nekaj takega: "Na podlagi opisanih simptomov ima bolnik morda pljučnico, bronhitis ali morebiti COVID-19. Priporočam rentgensko slikanje prsnega koša in PCR-test." To deluje koristno, vendar model svojih predlogov ne more preveriti glede na dejanske medicinske dokaze. Gre za prepoznavanje vzorcev iz učnih podatkov, ki lahko vsebujejo zastarele ali napačne informacije. Model ne more pojasniti, zakaj je dal pljučnici prednost pred bronhitisom. Lahko spregleda redko, a kritično stanje, ki ne ustreza običajnim vzorcem.

Dweve nevro-simbolični pristop:

1. Nevronsko zaznavanje: Sistem obdela zdravnikov vnos v naravnem jeziku ter izlušči strukturirane simptome (vročina: 39,2 °C, kašelj: produktiven, trajanje: 8 dni), anamnezo (sladkorna bolezen, 67 let, nekadilec) in izvide preiskav (povišane levkocite, CRP 85 mg/L).
2. Usmerjanje k specialistom: PAP usmerjanje aktivira nabor omejitev za pulmologijo, nabor omejitev za infekcijske bolezni in nabor omejitev za dejavnike tveganja pri starejših bolnikih.
3. Omejitveno sklepanje: Sistem uporabi preverjene medicinske omejitve:
   • Omejitev 1: "Produktiven kašelj + vročina nad 38 °C + trajanje nad 7 dni + povišane levkocite kažejo na okužbo spodnjih dihal"
   • Omejitev 2: "Bolniki s sladkorno boleznijo + starost nad 65 let + okužba dihal poveča tveganje za pljučnico za faktor 3,2"
   • Omejitev 3: "CRP nad 50 mg/L pri dihalni klinični sliki izključuje virusni bronhitis z 94-odstotno zanesljivostjo"
4. Izhod: "Diagnoza: zunajbolnišnična pljučnica (visoka zanesljivost). Utemeljitev: bolnik izpolnjuje merila CURB-65 za zmerno resnost. Sladkorna bolezen in starost povečata tveganje za zaplete. Priporočam rentgensko slikanje prsnega koša za potrditev ter začetek empiričnega zdravljenja z antibiotiki v skladu z lokalnimi smernicami. Celotna veriga sklepanja je na voljo za pregled."

Razlika ni le v natančnosti. Gre za odgovornost. Zdravnik lahko klikne skozi verigo sklepanja in vsak korak preveri glede na lastno medicinsko znanje. Če je sistem naredil napako, lahko natančno ugotovi, kje. Če bolnik razvije zaplete, lahko bolnišnična pravna služba preveri, katere informacije je sistem imel in kako je sklepal.

Primer: Izobraževalno učiteljevanje z umetno inteligenco

Predstavljajte si učitelja z umetno inteligenco, ki dijaku pomaga pri algebri. Dijak naloži fotografijo svoje ročno napisane domače naloge, na kateri je prikazan njegov poskus reševanja enačbe 2x + 5 = 15.

Pristop s čistim LLM: Model pogleda sliko in ustvari spodbudno povratno informacijo: "Odličen trud! Tvoj pristop je videti smiseln. Kar vadite naprej in v algebri boš vedno boljši." To je neuporabno. Model dejansko ne more preveriti, ali je dijakovo delo pravilno, ker nima algebrskega mehanizma. Ustvarja "povratno informacijo, podobno učiteljevi", na podlagi vzorcev, ne pa matematičnega preverjanja.

Pristop Dweve Neuro-Symbolic:

1. Nevronsko zaznavanje (vid): Model računalniškega vida (eden od 31 ekstraktorjev značilnosti) obdela ročno napisano sliko in jo pretvori v strukturiran matematični zapis: Dijak je zapisal "2x + 5 = 15, 2x = 10, x = 6".
2. Simbolično preverjanje: Reševalnik algebrskih omejitev preveri delo korak za korakom:
   • Korak 1: 2x + 5 = 15. Pravilno (dana naloga).
   • Korak 2: 2x = 10. Pravilno (od obeh strani odšteto 5).
   • Korak 3: x = 6. NEPRAVILNO. 10/2 = 5, ne 6.
3. Izhod: "Tvoja postavitev in prvi korak sta pravilna. V 3. koraku si 10 delil z 2, a zapisal 6 namesto 5. To je videti kot računska napaka in ne konceptualna. Poskusi z deljenjem še enkrat: koliko je 10 / 2?"

Sistem zagotavlja ciljno usmerjeno, matematično preverjeno povratno informacijo. Natančno ve, kje je prišlo do napake, in lahko razlikuje med konceptualnimi nesporazumi (ki zahtevajo drugačno obravnavo) in računskimi spodrsljaji (ki potrebujejo le poziv k popravku).

Zakaj so binarne omejitve pomembne

Morda se sprašujete: zakaj Dweve to imenuje "Binary Constraint Discovery" in ne preprosto "nevro-simbolična umetna inteligenca"? Kaj je posebnega pri binarnem vidiku?

Tradicionalni simbolični sistemi umetne inteligence predstavljajo znanje kot plavajoče vejice, zvezne verjetnostne porazdelitve ali zapletene logične formule. Te predstavitve imajo temeljno težavo: drage so za shranjevanje, drage za računanje in težko preverljive.

Dweveov preboj je predstavljanje omejitev v binarni obliki z uporabo 1-bitnega računanja z bitnimi operatorji (XNOR, AND, OR, POPCNT). To ni omejitev, ampak prednost:

• 32-kratna stiskanja: Binarna omejitev zavzame 1 bit, medtem ko tradicionalni sistemi uporabljajo 32-bitne vrednosti s plavajočo vejico.
• Energijska učinkovitost: Binarne operacije porabijo približno 0,15 pikojoula v primerjavi s približno 4,6 pikojoula za operacije s plavajočo vejico, kar je 30-kratni izboljšanje.
• Enostavnost preverjanja: Binarne omejitve so bodisi izpolnjene (1) bodisi kršene (0). Ni dvoumnosti, ni "verjetno izpolnjeno", ni napak zaradi natančnosti plavajoče vejice.
• Optimizacija strojne opreme: Sodobni procesorji imajo visoko optimizirane ukaze za binarne operacije. Dwevejevih 1.937 algoritmov v Dweve Core je posebej zasnovanih za izkoriščanje ukazov SIMD, kot je AVX-512, za ogromno vzporednost.

Rezultat je sistem, ki lahko izvaja sofisticirano logično sklepanje ob delčku stroškov in energije tradicionalnih pristopov, hkrati pa ohranja popolno preverljivost.

Prebujenje podjetij

V zadnjih dveh letih je Silicijeva dolina doživljala zlato mrzlico. Vsako podjetje je hitelo uvajati velike jezikovne modele (LLM) in pričakovalo preobrazbene dvige produktivnosti. Resničnost je bila streznjujoča.

Raziskava podjetja Deloitte iz leta 2024 je pokazala, da 68 % projektov umetne inteligence v podjetjih ni izpolnilo pričakovanj. Glavni razlogi so bili halucinacije (42 %), nezmožnost preverjanja rezultatov (38 %) in skrb glede skladnosti (35 %). To so natanko težave, ki jih čisto nevronski pristopi ne morejo rešiti.

McKinseyjeva študija o uvajanju umetne inteligence iz leta 2024 je pokazala, da podjetja vse bolj zahtevajo "odgovorno umetno inteligenco" za odločitve z visokimi vložki. Želijo sisteme, ki lahko pojasnijo svoje sklepanje, delujejo v okviru določenih omejitev in zagotavljajo revizijske sledi za regulativno skladnost. To je nevro-simbolična paradigma.

Trg se spreminja. Medtem ko se startupi še naprej lovijo za naslednjim GPT-5, podjetja tiho vlagajo v hibridne arhitekture, ki jim je mogoče dejansko zaupati. Vprašanje ni več "kako impresiven je demo?", temveč "ali lahko stavimo ugled našega podjetja na ta rezultat?"

Regulativni veter v hrbet

Akt EU o umetni inteligenci, ki v celoti začne veljati leta 2026, izrecno zahteva pojasnljivost in človeški nadzor za sisteme umetne inteligence z visokim tveganjem. Člen 13 določa, da morajo biti sistemi umetne inteligence "zasnovani in razviti tako, da je njihovo delovanje dovolj pregledno, da uporabniki lahko razumejo rezultate sistema in jih ustrezno uporabljajo."

Čisto nevronske mreže pri tem temeljito odpovejo. Rezultatov transformatorja z 1,8 bilijona parametrov ni mogoče "razumeti" na noben smiseln način. Uteži so nerazumljive. Sklepanje (kakršno že je) poteka v visokodimenzionalnih prostorih vgradnje, ki jih noben človek ne more vizualizirati ali preveriti.

Nevro-simbolični sistemi so po drugi strani zasnovani za razumljivost. Vsak sklep ima svoj dokaz. Vsaka odločitev se sklicuje na izrecne omejitve. Revizorji lahko preverijo skladnost ne tako, da zaupajo umetni inteligenci, temveč s preverjanjem njenih logičnih izpeljav.

Člen 22 GDPR že zahteva "smiselne informacije o vključeni logiki" za avtomatizirano odločanje, ki vpliva na posameznike. Finančne uredbe (Basel IV, MiFID II) zahtevajo pojasnljivost za algoritemsko trgovanje in kreditne odločitve. Predpisi na področju zdravstva (smernice FDA za medicinske pripomočke z umetno inteligenco in strojnim učenjem) zahtevajo klinično validacijo sklepanja umetne inteligence.

Regulativno okolje ni sovražno do umetne inteligence. Sovražno je do nerazumljive umetne inteligence. Nevro-simbolične arhitekture niso le tehnično boljše; so pripravljene na regulativo.

Gradimo prihodnost

Pri Dweve že od ustanovitve gradimo proti temu trenutku. Medtem ko je bila preostala industrija ujeta v tekmo skaliranja in je trenirala vedno večje transformerje na vedno več podatkih, smo mi vlagali v reševalnike omejitev, grafe znanja, formalno preverjanje in temeljne algoritme, ki nevrosimbolično umetno inteligenco naredijo praktično v velikem obsegu.

Naša arhitektura s 456 domenskimi specializacijami v Dweve Loom ni 456 milijard parametrov. Gre za 456 specializiranih nizov omejitev, od katerih vsak vsebuje 64-128 MB preverjenih binarnih omejitev. Za vsako posamezno poizvedbo se aktivira le 4-8 nizov, kar zagotavlja učinkovitost in ustreznost.

Naših 1.937 algoritmov v Dweve Core zagotavlja računsko osnovo, optimizirano za binarne operacije na vseh glavnih strojnih platformah: CPU (SSE2, AVX2, AVX-512, ARM NEON), GPU (CUDA, ROCm, Metal, Vulkan), FPGA in celo WebAssembly za izvajanje v brskalniku.

Naš sedemstopenjski epistemski cevovod v Dweve Spindle zagotavlja, da je znanje, ki vstopa v sistem, preverjeno, preden postane omejitev. Hierarhija 32 agentov lovi napake, preverja vire in ohranja kakovost znanja.

To ni le boljša arhitektura. To je drugačna filozofija. Verjamemo, da prihodnost umetne inteligence ni v hitrejšem in cenejšem ustvarjanju verjetno zvenečih rezultatov. Gre za gradnjo sistemov, ki jim je mogoče dejansko zaupati, sistemov, ki lahko pokažejo svoje delo, sistemov, na katere lahko podjetja stavijo svoje poslovanje.

Kaj sledi

Nevrosimbolična renesansa ni napoved. Že se dogaja. Googlov DeepMind je objavil raziskave o nevrosimboličnih pristopih. Meta AI je vložila v hibridne sisteme sklepanja. IBM Watson, ki je bil pionir zgodnjih ekspertnih sistemov, se vrača k integraciji simbolične umetne inteligence.

Toda to so raziskovalni projekti. Dweve je produkcijski sistem. Naša platforma danes obdeluje poslovne delovne obremenitve in zagotavlja zanesljivost, ki je čisto nevronski pristopi ne morejo doseči.

Vprašanje za vodje podjetij na področju umetne inteligence ni, ali sprejeti nevrosimbolične pristope. To je glede na regulativne zahteve in zahteve po zanesljivosti že neizogibno. Vprašanje je, ali to zmogljivost zgraditi interno (večletno prizadevanje, ki zahteva specializirano strokovno znanje), počakati, da jo velika tehnološka podjetja produktizirajo (s tem prepustiti konkurenčno prednost), ali sodelovati s podjetjem, ki je težke probleme že rešilo.

Dweve združuje zaznavno moč nevronskih mrež z logično strogostjo simboličnega sklepanja. Obvladamo neurejeni resnični svet (tipkarske napake, šum, dvoumnost), hkrati pa zagotavljamo matematično dokazljivo pravilnost pri kritičnih odločitvah. To dosegamo s 96 % manj porabe energije kot tradicionalna umetna inteligenca, kar omogoča uporabo na standardni strojni opremi brez obsežne infrastrukture GPE.

Če vaše podjetje potrebuje umetno inteligenco, ki zna sklepati in ne le odgovarjati, se moramo pogovoriti. Če delujete v regulirani panogi in potrebujete razložljivo odločanje, smo pripravljeni. Če so vas opekle halucinirajoče klepetalne aplikacije in želite umetno inteligenco, ki ji lahko resnično zaupate, smo jo zgradili za vas.

Prihodnost umetne inteligence ni večji sistem 1. Je sinteza obeh kognitivnih sistemov: umetnika in računovodje, intuicije in logike, nevronskega in simboličnega.

Renesansa je tu. In Dweve jo vodi.