Manifest o pošteni umetni inteligenci: zakaj potrebujemo pregledno inteligenco
Arhitekturna težava sodobne umetne inteligence
Sodobni sistemi umetne inteligence imajo temeljno oblikovno napako, ki je nihče v industriji noče obravnavati: narejeni so tako, da zvenijo pravilno, ne pa, da so pravilni.
Poglejte, kako delujejo veliki jezikovni modeli. Analizirajo milijarde vzorcev besedil, poiščejo statistične vzorce in napovejo, katere besede bi se zdele verjetne skupaj. Ni koraka preverjanja. Ni preverjanja resnice. Ni razumevanja, ali je rezultat dejansko pravilen. Samo prepoznavanje vzorcev in napovedovanje.
Ta arhitekturna izbira pomeni, da bodo ti sistemi samozavestno ustvarjali napačne informacije, kadar koli napačen odgovor sledi pogostim jezikovnim vzorcem. To ni napaka, ki bi jo lahko popravili. Tako so zasnovani, da delujejo.
In te sisteme uvajamo v bolnišnice, sodišča in finančne institucije po vsej Evropi.
Samo na Nizozemskem podjetja, kot je ScreenPoint Medical, uporabljajo umetno inteligenco za odkrivanje raka dojke. Delft Imaging jo uporablja za diagnosticiranje tuberkuloze. Thirona analizira pljučne posnetke z globokim učenjem. Ko ti sistemi naredijo napako glede zdravja nekoga, "model je bil 87-odstotno prepričan" ni dovolj. V igri so življenja.
Težava je globlja od občasnih napak. Tradicionalne nevronske mreže so optimizirane za statistično verjetnost, ne za resnico. Naučijo se napovedati, kateri odgovor bi običajno sledil danemu vnosu na podlagi vzorcev v učnih podatkih. Ko so ti vzorci točni, sistem deluje dobro. Ko so vzorci zavajajoči, sistem sistematično odpove.
Vzemimo medicinsko diagnostiko. Tradicionalna nevronska mreža se lahko nauči, da določeni simptomi sovpadajo z določenimi boleznimi v učnih podatkih. Toda korelacija ni vzročnost. Če učni podatki vsebujejo regionalne pristranskosti, se model nauči teh pristranskosti. Če so redka stanja premalo zastopana, jih model ne prepozna. Arhitektura nima mehanizma za razlikovanje med resničnimi medicinskimi povezavami in statističnimi artefakti.
To ustvarja krizo zaupanja. Kako uvajate umetno inteligenco v okoljih z visokimi vložki, če ne morete preveriti njenega razmišljanja? Kako bolniku razložite, zakaj je umetna inteligenca priporočila določeno zdravljenje, če sistem sam ne more pojasniti svoje logike? Kako preverjate pristranskost, če je proces odločanja črna škatla matričnih množenj?
Kako nevronske mreže dejansko sprejemajo odločitve
Tradicionalne nevronske mreže delujejo prek plasti uteženih povezav. Vhod potuje skozi več plasti, pri čemer vsaka izvaja matematične transformacije, dokler ne ustvari izhoda s pripadajočo oceno zanesljivosti.
Težava? Ne morete izslediti, zakaj je bila sprejeta določena odločitev. Sistem se je med usposabljanjem naučil milijone vrednosti uteži. Ko ustvari rezultat, lahko vidite, kateri nevroni so se aktivirali, vendar vam to ne pove, zakaj. Utemeljevanje je porazdeljeno po neštetih matematičnih operacijah brez jasne logične poti.
To je sprejemljivo za priporočanje filmov. Nevarno pa je za diagnosticiranje bolezni.
Problem optimizacije angažiranosti
Tu je temna skrivnost, ki je nihče noče priznati: večina komercialnih sistemov umetne inteligence sploh ni optimiziranih za natančnost. Optimizirani so za metrike angažiranosti. Klike. Čas, preživet na platformi. Stopnje interakcij. Stvari, ki osrečujejo delničarje in delajo resnico neobvezno.
Priporočilni algoritmi se naučijo, kaj obdrži ljudi na platformi, ne glede na to, ali je ta vsebina resnična ali koristna. Če sporne trditve spodbujajo več angažiranosti kot uravnotežena analiza, se algoritem nauči prikazovati sporne vsebine. Če čustvena vsebina deluje bolje kot dejansko poročanje, zmagajo čustva. Vsakič.
Sistem deluje natanko tako, kot je bil zasnovan. Rekli smo mu, naj poveča angažiranost. Naučil se je, da sta resnica in angažiranost pogosto v nasprotju, in izbral angažiranost. Umetni inteligenci res ne moremo zameriti, da je ubogala ukaze.
To ni zgolj teoretično jamranje. Študija MIT iz leta 2018 je analizirala 126.000 novic na Twitterju in ugotovila, da se lažne novice širijo šestkrat hitreje kot resnica ter dosežejo 1.500 ljudi, preden resnične zgodbe dosežejo 1.000. Algoritmi so se tega vzorca naučili in ga neusmiljeno izkoriščajo. Resnica je dolgočasna. Ogorčenje je virusno. Uganite, kaj zmaga?
Korelacija brez vzročnosti
Statistični modeli odkrivajo vzorce v podatkih. Toda vzorci niso razumevanje.
Prodaja sladoleda je povezana s smrtnimi primeri zaradi utopitve. Oboje se poveča poleti. Statistični model vidi korelacijo in bi morda napovedal tveganje utopitve na podlagi prodaje sladoleda. Našel je resničen vzorec v podatkih. Vzorec pa ne pomeni tega, kar sugerira naivna razlaga.
Ljudje razumemo vzročnost. Vemo, da poletno vreme povzroča oba pojava. Sistemi umetne inteligence, usposobljeni na korelacijah, te razlike ne morejo narediti, razen če vzročno strukturo izrecno vgradimo v model.
Ta omejitev vpliva na resnične odločitve. Medicinska umetna inteligenca bi lahko povezala simptom z diagnozo na podlagi statističnih vzorcev, pri tem pa spregledala dejanski vzročni mehanizem. Finančna umetna inteligenca bi lahko povezovala gibanja na trgu brez razumevanja osnovnih ekonomskih odnosov.
Ta razlika je v praksi izjemno pomembna. Sistem, ki temelji na korelacijah, bi lahko opazil, da imajo bolniki, ki prejmejo določeno zdravljenje, boljše rezultate. Toda kaj, če ti bolniki prejmejo zdravljenje, ker so že na začetku bolj zdravi? Korelacija obstaja, vendar vzročna povezava poteka v nasprotni smeri. Statistični modeli tega ne morejo zaznati brez izrecnega modeliranja vzročnosti.
V evropskih finančnih sistemih se korelacije nenehno spreminjajo. Trgi, ki so se v preteklosti gibali skupaj, se zaradi regulativnih sprememb (pozdravljen, MiFID II), tehnoloških premikov ali geopolitičnih dogodkov (Brexit, kdo?) ločijo. Model, ki temelji na korelacijah, še naprej uporablja zastarele vzorce, dokler ne odpove katastrofalno. Ne razume, zakaj je korelacija obstajala, zato ne more prepoznati, kdaj se je osnovni odnos spremenil.
Nemška banka Schufa se je tega naučila na težji način leta 2024. Sodišče Evropske unije je odločilo, da je njihov sistem umetne inteligence za kreditno ocenjevanje kršil zahteve GDPR prav zato, ker korelacij, ki se jih je naučil, ni bilo mogoče pojasniti ali revidirati. Ko algoritem nekomu zavrne posojilo v višini 20.000 evrov, "računalnik pravi ne" po evropski zakonodaji ni pravno zadostno.
Temeljni problem: prepoznavanje vzorcev brez razumevanja ustvarja krhke sisteme. Delujejo, dokler ne prenehajo, in ko odpovejo, odpovejo popolnoma in brez opozorila.
Kaj preglednost dejansko zahteva
Prava preglednost pomeni, da lahko vsako odločitev izslediš skozi eksplicitne logične korake. Ne "zaupajte nam, matematika se izide", ampak "tukaj je točno zakaj, korak za korakom."
Sodobne AI platforme, kot je Dweve, to dosegajo s številnimi arhitekturnimi inovacijami, ki delujejo skupaj. Namesto neprozornih plavajočih vrednosti, porazdeljenih po milijonih povezav, inteligenca izhaja iz kristaliziranih omejitev (eksplicitnih logičnih pravil), hibridnega nevro-simboličnega sklepanja (ki združuje prepoznavanje vzorcev z logičnim sklepanjem) in sistemov za preverjanje z več agenti (kjer več specializiranih agentov preverja drug drugega).
Ko sistem sprejme odločitev, ti lahko pove točno, kaj se je zgodilo: "Agent za zaznavanje je odkril vzorec X z značilnostmi Y in Z. Agent za sklepanje je uporabil omejitvi C1 in C2 ter izključil možnost A. Agent za odločanje je izbral možnost B na podlagi izpolnjenih omejitev C3, C4 in C5 s 100-odstotnim logičnim zadovoljstvom." Ne nejasne verjetnostne ocene. Jasna logična dedukcija, ki jo lahko preveriš, revidiraš in izpodbijaš.
To je razlika med "model pravi, da je 73-odstotna verjetnost" (prevod: nimamo pojma zakaj, ampak statistika tako pravi) in "tukaj je logični dokaz, zakaj ta sklep sledi iz teh premis" (prevod: lahko pokažemo svoje delo, kot smo se naučili v šoli).
Formalno preverjanje in dokazljiva pravilnost
Napredni AI sistemi, zgrajeni na arhitekturah, temelječih na omejitvah, omogočajo matematično preverjanje obnašanja sistema. To je mesto, kjer se računalništvo sreča z matematiko na najlepši način.
S formalnimi metodami lahko dokažeš, da se bo tak sistem vedno obnašal znotraj določenih meja. Ne "verjetno pravilno na podlagi testiranja" ali "delovalo je brez težav v naši simulaciji." Dokazljivo pravilno skozi matematični dokaz. Takšen dokaz, ob katerem bi matematik zadovoljno prikimal namesto da bi segel po rdečem pisalu.
To je pomembno za kritične sisteme. Ko AI nadzoruje medicinske pripomočke v rotterdamskih bolnišnicah, upravlja finančne sisteme za amsterdamske banke ali vodi kritično infrastrukturo po vsej Evropi, potrebujemo matematična zagotovila pravilnega obnašanja v vseh pogojih. "Ups, tega robnega primera nismo testirali" ni sprejemljivo, ko so na kocki življenja in preživetja.
Tradicionalne nevronske mreže teh zagotovil ne morejo dati. Njihovo vedenje izhaja iz milijonov naučenih parametrov, ki medsebojno delujejo na načine, ki jih nihče povsem ne razume. Mreže, temelječe na omejitvah, lahko svoje vedenje dokažejo matematično, tako kot lahko dokažeš Pitagorov izrek. Velja, ker to zahteva logika, ne zato, ker so to nakazovali podatki za učenje.
Eksplicitno kvantificiranje negotovosti
Trenutni sistemi umetne inteligence izražajo zaupanje s pomočjo ocen verjetnosti. Toda te ocene pogosto merijo statistično zaupanje v vzorec, ne pa dejansko gotovost o resnici.
Sistem je lahko 99-odstotno prepričan v povsem napačen odgovor, če napačen odgovor sledi močnim statističnim vzorcem v podatkih za učenje.
Binarni sistemi z omejitvami negotovost obravnavajo drugače. Ko so omejitve v celoti izpolnjene, sklep logično sledi. Ko so omejitve delno izpolnjene ali protislovne, sistem izrecno navede: »V danih omejitvah ni veljavne rešitve.«
To je poštena negotovost. Sistem prizna, kadar ne more doseči veljavnega sklepa, namesto da bi izpisal svojo najboljšo statistično oceno z oceno zaupanja.
Akt EU o umetni inteligenci in regulativne zahteve
Akt EU o umetni inteligenci je 1. avgusta 2024 začel veljati in postal prva celovita ureditev umetne inteligence na svetu. To ni bruseljska birokracija, ki je ušla izpod nadzora. Gre za spoznanje, da mora biti umetna inteligenca, ki vpliva na življenja ljudi, odgovorna. Nova zamisel, očitno.
Člen 13 zahteva, da so sistemi umetne inteligence z visokim tveganjem zasnovani tako, da lahko uporabniki rezultate dejansko razlagajo in jih ustrezno uporabljajo. Člen 14 nalaga človeški nadzor (človek v zanki, predstavljaj si). Člen 15 zahteva točnost, robustnost in kibernetsko varnost. Polno izvajanje se začne 2. avgusta 2026, neskladnost pa lahko stane do 7 % letnih svetovnih prihodkov ali 35 milijonov evrov, kar koli te že bolj stisne.
Binarna omrežja z omejitvami te zahteve izpolnjujejo že na arhitekturni ravni. Preglednost ni naknadno vgrajena, ko pravnikom zmanjka živcev. Je temeljna za delovanje sistema od prvega dne. Vsaka odločitev je sama po sebi razložljiva, ker sledi izrecnim logičnim omejitvam, ki jih regulatorji dejansko lahko preverjajo.
Posledice v resničnem svetu
Te arhitekturne razlike imajo konkretne posledice.
V zdravstvu lahko nerazložljiva umetna inteligenca pri testiranju doseže visoko točnost, a pri uporabi odpove, ker se je naučila lažnih korelacij. Binarni sistemi z omejitvami lahko dokažejo svojo diagnostično logiko, kar zdravstvenim strokovnjakom omogoča, da sklepanje preverijo pred uporabo.
V financah lahko modeli črne škatle odobrijo ali zavrnejo posojila na podlagi vzorcev, ki vsebujejo zgodovinske pristranskosti. Sistemi, temelječi na omejitvah, merila za odločanje naredijo izrecna in omogočajo revizije pravičnosti.
V pravnih sistemih nerazložljiva priporočila o kaznih spodkopavajo pravičnost. Razložljiva logika omejitev sodnikom omogoča, da ocenijo, ali je sklepanje v skladu s pravnimi načeli.
Pomisli na avtonomna vozila. Tradicionalne nevronske mreže obdelujejo senzorske podatke skozi milijone uteženih povezav, da ustvarijo odločitve o krmiljenju in zaviranju. Ko gre kaj narobe, preiskovalci ne morejo ugotoviti, zakaj se je sistem odločil na določen način. Sklepanje je porazdeljeno po celotnem omrežju na način, ki se izmika človeškemu razumevanju.
Binarni sistemi z omejitvami delujejo drugače. Vsaka odločitev izpolnjuje niz izrecnih varnostnih omejitev. Če sistem zavira, lahko izslediš sklepanje: »Omejitev C1 je zaznala oviro v razdalji 8 metrov. Omejitev C2 zahteva zaviranje, kadar je razdalja do ovire manjša od 10 metrov in hitrost presega 50 km/h. Trenutna hitrost je 70 km/h. Zato je zaviranje aktivirano.« To sklepanje je mogoče preveriti, testirati in dokazati kot pravilno.
Razlika je pomembna za certificiranje in odgovornost. 7. julija 2024 so začele veljati nove varnostne uredbe EU, ki so vzpostavile prva mednarodna pravila za popolnoma avtonomna vozila. Uredbe zahtevajo celovite varnostne ocene, zahteve za kibernetsko varnost in poročanje o incidentih, preden vozila zapeljejo na evropske ceste. Kako certificirate sistem, ki ga ne morete v celoti preveriti? Kako določite odgovornost, ko je postopek odločanja nepregleden? Tradicionalne nevronske mreže ustvarjajo pravne in regulativne nočne more. Sistemi z binarnimi omejitvami zagotavljajo preglednost, ki jo evropski regulatorji dejansko zahtevajo.
V proizvodnji mora umetna inteligenca za nadzor kakovosti razložiti klasifikacije napak delavcem, ki izvajajo korektivne ukrepe. Sistemi črne škatle ne ponujajo vpogleda: »napaka zaznana s 87-odstotno zanesljivostjo.« Sistemi z omejitvami pojasnijo: »dimenzija presega toleranco za 0,3 mm na položaju (x,y), hrapavost površine krši specifikacijo v območju Z3.« Delavci lahko te informacije uporabijo za prilagajanje postopkov.
Vzorec je jasen: razložljivost ni luksuzna funkcija. Je bistvena za to, da se sistemi umetne inteligence vključijo v človeške delovne tokove in postopke odločanja. Brez preglednosti ostaja umetna inteligenca izolirana, nepreverljiva in navsezadnje nevredna zaupanja.
Gradnja poštene umetne inteligence pri Dweve
Pri Dweve smo zgradili celovito platformo umetne inteligence, ki naredi preglednost neizogibno. Ne kot naknadno misel ali potrditveno polje za skladnost, temveč kot temeljno arhitekturo.
**Dweve Core** zagotavlja 1.930 strojno optimiziranih algoritmov za binarne nevronske mreže, nevronske mreže z omejitvami in impulzne nevronske mreže. To niso operacije s plavajočo vejico iz preteklosti, ki zahtevajo gruče GPE. Učinkovito delujejo na običajnih CPE in porabijo 96 % manj energije kot tradicionalni pristopi.
**Dweve Loom** orkestrira 456 domensko specializiranih sistemov, od katerih je vsak domenski specialist. Za vsako nalogo se aktivirajo le ustrezni domenski specialisti (običajno 4 do 8 od 456), kar ustvarja ogromno zmožnost znanja z minimalnim računskim odtisom. To je, kot bi imeli 456 svetovalcev na razpolago, a plačali le tiste, ki jih dejansko uporabljate.
**Dweve Nexus** izvaja inteligenco z več agenti s 31+ ekstraktorji zaznavanja, 8 različnimi načini sklepanja in hibridno nevronsko-simbolno integracijo. Več specializiranih agentov zaznava, sklepa, odloča in deluje, pri čemer je logika vsakega agenta v celoti sledljiva. Ko sistem doseže sklep, lahko vidite, kateri agenti so prispevali kakšne vpoglede.
**Dweve Aura** zagotavlja avtonomno razvojno pomoč prek 32 specializiranih agentov, organiziranih v 6 načinov orkestracije. Od običajnega izvajanja z enim agentom do vzporednega raziskovanja v rojevem načinu in večmodelne razprave v konsenznem načinu se sistem prilagaja svojo kognitivno arhitekturo nalogi, ki jo obravnava.
**Dweve Spindle** upravlja kakovost znanja skozi 7-stopenjski epistemski cevovod. Informacije napredujejo od kandidatk do kanoničnih šele po strogem preverjanju, pri čemer 32 specializiranih agentov zagotavlja, da vsak delček znanja izpolnjuje pragove kakovosti, preden se uporabi za usposabljanje prihodnjih modelov.
**Dweve Mesh** vse decentralizira ter omogoča zvezno učenje prek javnih in zasebnih omrežij z izjemno toleranco na napake. Omrežje deluje tudi, ko odpove 70 % vozlišč. Suverenost podatkov ostaja lokalna, po omrežju pa potujejo le šifrirane posodobitve modelov.
**Dweve Fabric** vse združuje v enotni nadzorni plošči, kjer uporabniki upravljajo agente, poteke dela, modele in pogovore z umetno inteligenco v realnem času s popolno preglednostjo in sledenjem izvora.
Vsaka odločitev na tej celotni platformi temelji na eksplicitnih logičnih korakih. Regulatorji lahko preverjajo baze omejitev in verige sklepanja. Strokovnjaki na posameznih področjih lahko preverijo, ali logika ustreza njihovemu razumevanju. Uporabniki lahko natančno vidijo, zakaj je sistem prišel do vsakega zaključka, kateri agenti so prispevali in katere omejitve so bile izpolnjene.
To je umetna inteligenca, zgrajena za odgovornost od samega začetka. Ne zato, ker smo prijetni ljudje (čeprav smo), ampak zato, ker arhitektura naredi nepoštenost arhitekturno nemogočo.
Načela, na katerih temelji poštena inteligenca
Dweve smo zgradili na desetih temeljnih načelih:
- Resnica pred angažiranostjo. Optimiziramo za dejansko pravilnost, ne za zadrževanje uporabnikov. Pošteni odgovori so pomembnejši od prepričljivih.
- Preglednost pred zmogljivostjo. Razložljivo sklepanje odtehta manjše izboljšave natančnosti modelov črne škatle. Razumevanje je pomembno.
- Negotovost pred samozavestjo. Eksplicitna negotovost je boljša od lažne samozavesti. Ko sistem ne ve, to tudi pove.
- Preverjanje pred zaupanjem. Zagotavljamo matematični dokaz pravilnosti, namesto da bi uporabnike prosili, naj sistemu zaupajo.
- Logika pred verjetnostjo. Deterministično izpolnjevanje omejitev je za kritične odločitve boljše od statističnega ujemanja vzorcev.
- Ljudje pred metrikami. Služimo človeškim potrebam, ne optimizacijskim ciljem. Resnica je pomembnejša od metrik angažiranosti.
- Varnost pred obsegom. Zagotovljeno pravilno vedenje na specifičnih področjih je boljše od približnega vedenja povsod.
- Zasebnost pred podatki. Obdelujemo lokalno, kadar je mogoče. Zmanjšujemo zbiranje in centralizacijo podatkov.
- Neodvisnost pred zaklenjenostjo. Izogibamo se odvisnostim od prodajalcev in lastniškim arhitekturam.
- Evropske vrednote. Regulativo obravnavamo kot smernico za oblikovanje. Gradimo za skladnost že od začetka.
Zakaj je evropski pristop pomemben
Evropski regulativni pristop k umetni inteligenci ne upočasnjuje inovacij, kljub temu kar bi vam želeli dopovedati lobisti Silicijeve doline. Usmerja inovacije k rezultatom, zaradi katerih pozneje ne bo treba prositi odpuščanja pred parlamentom.
Akt EU o umetni inteligenci priznava, da morajo biti sistemi UI, ki vplivajo na temeljne pravice (zdravstvo, pravosodje, kreditiranje, zaposlovanje), pregledni, pošteni in odgovorni. Revolucionarna zamisel: morda bi se moral algoritem, ki odloča o tem, ali dobite posojilo, znati pojasniti. Ta regulativni okvir spodbuja arhitekture, ki te lastnosti zagotavljajo že po zasnovi, ne kot popravek za skladnost, dodan naknadno.
Napredne arhitekture UI, ki združujejo razmišljanje na podlagi omejitev, večagentske sisteme in hibridne nevro-simbolične pristope, se popolnoma ujemajo s to vizijo. Ne poskušajo zaobiti predpisov z domiselnimi vrzelmi. Utelešajo načela: preglednost z eksplicitnimi razmišljalnimi verigami, poštenost z revizijsko sledljivo logiko, odgovornost z dokazljivim vedenjem.
To je evropska priložnost, da razvoj UI usmeri k zaupanja vrednim in preverljivim sistemom, namesto k pristopu "hitro naprej in stran od demokracije", ki mu sledijo drugod. Recite nam staromodne, vendar imamo raje sisteme UI, ki ne zahtevajo parlamentarnih zaslišanj.
Regulativni pristop ustvarja konkurenčno prednost, ne bremena. Medtem ko ameriška podjetja naknadno vgrajujejo razložljivost v arhitekture, ki se ji upirajo (srečno pri razlaganju pozornostnih matrik revizorju GDPR), evropska podjetja vgrajujejo preglednost v temelje. Medtem ko se drugi trudijo izpolnjevati zahteve, proti katerim so lobirala, evropska podjetja načrtujejo sisteme, ki zahteve naravno izpolnjujejo, ker smo med načrtovanjem dejansko govorili z regulatorji.
To ni regulativno breme, ki nas upočasnjuje. To je strateška usmeritev, ki nas pospešuje. Evropa je zgodaj prepoznala, da morajo biti sistemi UI, nameščeni v kritičnih sistemih, zaupanja vredni. Predpisi to spoznanje kodificirajo. Arhitekture na podlagi omejitev, večagentske in hibridne arhitekture so tehnična uresničitev teh načel.
Svetovni trg umetne inteligence bo vse bolj zahteval tisto, kar zahtevajo evropske regulative: razložljivost, revizijsko sledljivost, dokazljivo varnost. Evropske platforme umetne inteligence, razvite v skladu s temi zahtevami, imajo prednost prvega na trgu. Ko bo Kalifornija končno sprejela lastno regulativo umetne inteligence (po tretjem velikem škandalu), ko bo Peking zahteval transparentnost sistemov, nameščenih na Kitajskem, in ko bo vsaka druga jurisdikcija spoznala, da "zaupajte tehnološkim fantom" ni strategija upravljanja, bo evropska tehnologija pripravljena. Ker gradimo za to realnost že od prvega dne.
Pot naprej
Pri razvoju umetne inteligence smo na prelomnici.
Ena pot nadaljuje širjenje tradicionalnih nevronskih mrež: večji modeli, več parametrov, več podatkov, manj razložljivosti. Ta pot vodi do zmogljivih, a neodgovornih sistemov.
Druga pot gradi umetno inteligenco na logičnih temeljih: eksplicitne omejitve, formalna verifikacija, dokazljiva pravilnost. To vodi do sistemov, ki jim lahko resnično zaupamo v kritičnih aplikacijah.
Dweve je izbral drugo pot. Naše binarne omejitvene mreže zagotavljajo popolno razložljivost, formalno verifikacijo in skladnost z aktom EU o umetni inteligenci že po svoji arhitekturi.
Vprašanje za industrijo je: katero prihodnost želimo zgraditi?
Ta izbira ima globoke posledice. Tradicionalne nevronske mreže optimizirajo zmogljivost za vsako ceno. Binarne omejitvene mreže optimizirajo zaupanja vredno zmogljivost. Prvi pristop ustvarja impresivne demonstracije. Drugi ustvarja sisteme, primerne za uvajanje.
Razliko vidimo v vzorcih uvajanja. Tradicionalna umetna inteligenca blesti v aplikacijah z nizkim tveganjem: priporočanje vsebin, generiranje slik, dokončevanje besedila. Binarna omejitvena umetna inteligenca blesti na področjih z visokim tveganjem: medicinska diagnostika, finančne odločitve, avtonomni sistemi, industrijski nadzor.
Ta delitev odraža temeljne arhitekturne razlike. Ko je pravilnost pomembnejša od pokritosti, ko je razložljivost obvezna, ko je formalna verifikacija zahtevana, zmagajo pristopi, temelječi na omejitvah. Ko je široka zmogljivost pomembnejša od zagotovil, zadostujejo statistični pristopi.
A pokrajina se spreminja. Ko umetna inteligenca vstopa v kritične sisteme, postaja zaupanja vrednost bistvena. Arhitekture, ki jo zagotavljajo, pridobivajo prednost. Tiste, ki je ne, se soočajo z ovirami: regulativno zavrnitvijo, pomisleki glede odgovornosti, odporom trga.
Binarne omejitvene mreže niso prihodnost, ker so novost. So prihodnost, ker rešujejo probleme, ki so pomembni: transparentnost, odgovornost, dokazljivo varnost. Zagotavljajo tisto, kar kritični sistemi zahtevajo in kar regulative narekujejo.
Pot naprej je jasna. Gradite umetno inteligenco, ki jo lahko pojasnite. Načrtujte sisteme, ki jih lahko preverite. Uvajajte inteligenco, ki ji lahko zaupate. To je poštena umetna inteligenca. To je arhitektura, ki se širi na področja z visokim tveganjem. To je tisto, kar Evropa gradi.
Dweve razvija transparentno umetno inteligenco s sklepanjem na podlagi omejitev, večagentskimi sistemi in hibridnimi nevro-simbolnimi arhitekturami. Vsaka odločitev je sledljiva skozi eksplicitna logična pravila. Vsak sklep je preverljiv z formalnimi metodami. Skladno z aktom EU o umetni inteligenci že po zasnovi. S sedežem na Nizozemskem, izključno za evropske organizacije.