Manifest o iskrenoj umjetnoj inteligenciji: zašto nam treba transparentna inteligencija
Arhitektonski problem modernih AI sustava
Moderni AI sustavi imaju temeljni dizajnerski nedostatak koji nitko u industriji ne želi riješiti: izgrađeni su da zvuče ispravno, a ne da budu ispravni.
Pogledajte kako rade veliki jezični modeli. Analiziraju milijarde uzoraka teksta, pronalaze statističke obrasce i predviđaju koje bi riječi zajedno zvučale uvjerljivo. Ne postoji korak provjere. Nema provjere istinitosti. Nema razumijevanja je li izlaz činjenično točan. Samo prepoznavanje obrazaca i predviđanje.
Ta arhitektonska odluka znači da će ti sustavi s uvjerenjem generirati netočne informacije kad god netočan odgovor slijedi uobičajene jezične obrasce. To nije greška koju možete zakrpiti. Tako su dizajnirani da rade.
A te sustave uvodimo u bolnice, sudnice i financijske institucije diljem Europe.
Samo u Nizozemskoj tvrtke poput ScreenPoint Medical koriste AI za otkrivanje raka dojke. Delft Imaging ga primjenjuje za dijagnozu tuberkuloze. Thirona analizira snimke pluća dubokim učenjem. Kad ti sustavi pogriješe u vezi s nečijim zdravljem, „model je bio 87% uvjeren" nije dovoljno dobro. Životi su u igri.
Problem je dublji od povremenih pogrešaka. Tradicionalne neuronske mreže optimiziraju statističku vjerojatnost, a ne istinu. Uče predvidjeti koji bi odgovor tipično uslijedio nakon danog unosa na temelju obrazaca u podacima za obuku. Kad su ti obrasci točni, sustav radi dobro. Kad su obrasci pogrešno usmjereni, sustav sustavno otkazuje.
Uzmimo medicinsku dijagnozu. Tradicionalna neuronska mreža može naučiti da određeni simptomi koreliraju s određenim bolestima u podacima za obuku. Ali korelacija nije uzročnost. Ako podaci za obuku sadrže regionalne pristranosti, model ih usvaja. Ako su rijetka stanja nedovoljno zastupljena, model ih ne prepoznaje. Arhitektura nema mehanizam za razlikovanje stvarnih medicinskih povezanosti od statističkih artefakata.
To stvara krizu povjerenja. Kako uvesti AI u okruženja s visokim ulozima kad ne možete provjeriti njegovo rasuđivanje? Kako objasniti pacijentu zašto je AI preporučio određeni tretman kad sam sustav ne može artikulirati svoju logiku? Kako provesti reviziju pristranosti kad je proces odlučivanja crna kutija množenja matrica?
Kako neuronske mreže zapravo donose odluke
Tradicionalne neuronske mreže funkcioniraju kroz slojeve ponderiranih veza. Ulaz prolazi kroz više slojeva, pri čemu svaki izvodi matematičke transformacije, sve dok ne proizvede izlaz s pridruženom ocjenom pouzdanosti.
Problem? Ne možete pratiti zašto je donesena odluka. Sustav je tijekom obuke naučio milijune vrijednosti težina. Kada proizvede izlaz, možete vidjeti koji su se neuroni aktivirali, ali to vam ne govori zašto. Zaključivanje je raspoređeno na bezbroj matematičkih operacija bez jasnog logičkog puta.
To je u redu za preporuku filmova. Opasno je za dijagnosticiranje bolesti.
Problem optimizacije angažmana
Evo mračne tajne koju nitko ne želi priznati: većina komercijalnih AI sustava nije ni optimizirana za točnost. Optimizirani su za metrike angažmana. Klikove. Vrijeme provedeno na platformi. Stope interakcije. Stvari koje čine dioničare sretnima, a istinu opcionalnom.
Algoritmi za preporuke uče što zadržava ljude na platformi, bez obzira na to je li taj sadržaj istinit ili koristan. Ako kontroverzne tvrdnje potiču veći angažman od uravnotežene analize, algoritam uči prikazivati kontroverze. Ako emocionalni sadržaj nadmašuje činjenično izvještavanje, emocije pobjeđuju. Svaki put.
Sustav radi točno onako kako je dizajniran. Rekli smo mu da maksimizira angažman. Naučio je da se istina i angažman često sukobljavaju te je odabrao angažman. Ne možemo baš kriviti AI što slijedi naredbe.
To nije teoretsko mlataranje rukama. Studija MIT-a iz 2018. analizirala je 126.000 vijesti na Twitteru i otkrila da se lažne vijesti šire šest puta brže od istinitih, dosežući 1.500 ljudi prije nego što istinite priče dosegnu 1.000. Algoritmi su naučili taj obrazac i nemilosrdno ga iskorištavaju. Istina je dosadna. Ogorčenje je viralno. Pogodite što pobjeđuje?
Korelacija bez uzročnosti
Statistički modeli pronalaze obrasce u podacima. Ali obrasci nisu razumijevanje.
Prodaja sladoleda u korelaciji je s utapanjima. Obje rastu ljeti. Statistički model vidi korelaciju i mogao bi predvidjeti rizik od utapanja na temelju prodaje sladoleda. Pronašao je stvarni obrazac u podacima. Obrazac jednostavno ne znači ono što naivna interpretacija sugerira.
Ljudi razumiju uzročnost. Znamo da ljetno vrijeme uzrokuje obje pojave. AI sustavi trenirani na korelaciji ne mogu napraviti tu razliku osim ako eksplicitno ne ugradimo kauzalnu strukturu u model.
To ograničenje utječe na stvarne odluke. Medicinski AI mogao bi povezati simptom s dijagnozom na temelju statističkih obrazaca, propuštajući stvarni kauzalni mehanizam. Financijski AI mogao bi povezivati kretanja na tržištu bez razumijevanja temeljnih ekonomskih odnosa.
Ta razlika iznimno je važna u praksi. Sustav temeljen na korelaciji mogao bi primijetiti da pacijenti koji primaju određeni tretman imaju bolje ishode. Ali što ako ti pacijenti primaju tretman zato što su od početka zdraviji? Korelacija postoji, ali kauzalni odnos ide u suprotnom smjeru. Statistički modeli to ne mogu otkriti bez eksplicitnog modeliranja uzročnosti.
U europskim financijskim sustavima korelacije se stalno mijenjaju. Tržišta koja su se povijesno kretala zajedno razdvajaju se zbog regulatornih promjena (pozdrav, MiFID II), tehnoloških pomaka ili geopolitičkih događaja (Brexit, itko?). Model temeljen na korelaciji nastavlja primjenjivati zastarjele obrasce sve dok katastrofalno ne zakaže. Nema razumijevanja zašto je korelacija postojala, pa ne može prepoznati kada se temeljni odnos promijenio.
Njemačka banka Schufa naučila je to na teži način 2024. Sud Europske unije presudio je da njihov AI sustav za kreditnu procjenu krši zahtjeve GDPR-a upravo zato što se korelacije koje je naučio nisu mogle objasniti niti revidirati. Kada algoritam nekome odbije zajam od 20.000 eura, "računalo kaže ne" nije pravno dovoljno prema europskom zakonu.
Temeljni problem: prepoznavanje obrazaca bez razumijevanja stvara krhke sustave. Rade dok ne prestanu, a kada zakažu, zakažu potpuno i bez upozorenja.
Što transparentnost zapravo zahtijeva
Istinska transparentnost znači da svaku odluku možete pratiti kroz jasne logičke korake. Ne "vjerujte nam, matematika se poklapa", nego "evo točno zašto, korak po korak".
Moderne AI platforme poput Dwevea to postižu kombinacijom više arhitektonskih inovacija koje djeluju zajedno. Umjesto neprozirnih pomičnih zareza raspoređenih preko milijuna veza, inteligencija proizlazi iz kristaliziranih ograničenja (eksplicitnih logičkih pravila), hibridnog neuralno-simboličkog zaključivanja (kombiniranje prepoznavanja uzoraka s logičkim zaključivanjem) i sustava višestruke provjere agenata (više specijaliziranih agenata koji provjeravaju međusobni rad).
Kada sustav donese odluku, može vam točno reći što se dogodilo: "Agent za percepciju otkrio je uzorak X s obilježjima Y i Z. Agent za zaključivanje primijenio je ograničenja C1 i C2, isključivši opciju A. Agent za odlučivanje odabrao je opciju B na temelju zadovoljenih ograničenja C3, C4 i C5 sa 100% logičkim zadovoljenjem." Ne nejasne ocjene vjerojatnosti. Jasna logička dedukcija koju možete provjeriti, revidirati i osporiti.
To je razlika između "model kaže 73% vjerojatno" (prijevod: nemamo pojma zašto, ali statistika tako kaže) i "evo logičkog dokaza zašto ovaj zaključak slijedi iz ovih premisa" (prijevod: možemo pokazati svoj rad, kao što ste učili u školi).
Formalna verifikacija i dokaziva ispravnost
Napredni AI sustavi izgrađeni na arhitekturama temeljenim na ograničenjima omogućuju matematičku verifikaciju ponašanja sustava. Ovdje se računalna znanost susreće s matematikom na najljepši mogući način.
Formalnim metodama možete dokazati da će se takav sustav uvijek ponašati unutar zadanih granica. Ne "vjerojatno ispravno na temelju testiranja" ili "radilo je dobro u našoj simulaciji". Dokazivo ispravno kroz matematički dokaz. Vrsta dokaza zbog kojeg bi matematičar odobravajuće kimnuo umjesto da posegne za crvenom olovkom.
To je važno za kritične sustave. Kada AI upravlja medicinskim uređajima u rotterdamskim bolnicama, vodi financijske sustave za amsterdamske banke ili upravlja kritičnom infrastrukturom diljem Europe, trebamo matematička jamstva ispravnog ponašanja u svim uvjetima. "Ups, nismo testirali taj rubni slučaj" nije prihvatljivo kada su životi i egzistencija u pitanju.
Tradicionalne neuronske mreže ne mogu pružiti te garancije. Njihovo ponašanje proizlazi iz milijuna naučenih parametara koji međusobno djeluju na načine koje nitko u potpunosti ne razumije. Mreže temeljene na ograničenjima mogu matematički dokazati svoje ponašanje, na isti način na koji možete dokazati Pitagorin poučak. To je istinito jer logika to zahtijeva, ne zato što su podaci za obuku to sugerirali.
Eksplicitna kvantifikacija nesigurnosti
Trenutačni AI sustavi izražavaju pouzdanost kroz rezultate vjerojatnosti. No ti rezultati često mjere statističku pouzdanost u uzorku, a ne stvarnu sigurnost u istinitost.
Sustav može biti 99% uvjeren u potpuno pogrešan odgovor ako pogrešan odgovor slijedi snažne statističke obrasce u podacima za obuku.
Binarni sustavi ograničenja drugačije rješavaju nesigurnost. Kada su ograničenja u potpunosti zadovoljena, zaključak logično slijedi. Kada su ograničenja djelomično zadovoljena ili proturječna, sustav izričito navodi: "Ne postoji valjano rješenje unutar zadanih ograničenja."
To je iskrena nesigurnost. Sustav priznaje kada ne može doći do valjanog zaključka, umjesto da ispisuje svoju najbolju statističku procjenu s rezultatom pouzdanosti.
Akt EU-a o umjetnoj inteligenciji i regulatorni zahtjevi
Dana 1. kolovoza 2024. Akt EU-a o umjetnoj inteligenciji stupio je na snagu, postavši prva sveobuhvatna regulacija umjetne inteligencije na svijetu. To nije briselska birokracija koja je izmakla kontroli. To je priznanje da AI koji utječe na živote ljudi mora biti odgovoran. Nova koncepcija, očito.
Članak 13. zahtijeva da sustavi umjetne inteligencije visokog rizika budu dizajnirani tako da korisnici doista mogu interpretirati rezultate i koristiti ih na odgovarajući način. Članak 14. nalaže ljudski nadzor (ljudi u petlji, zamislite to). Članak 15. zahtijeva točnost, robusnost i kibersigurnost. Potpuna provedba počinje 2. kolovoza 2026., a nepoštivanje može koštati do 7% godišnjeg globalnog prihoda ili 35 milijuna eura, ovisno o tome što vas više boli.
Mreže binarnih ograničenja ispunjavaju te zahtjeve arhitektonski. Transparentnost se ne nadograđuje nakon što odvjetnici paničare. Ona je temeljna za način na koji sustav funkcionira od prvog dana. Svaka je odluka inherentno objašnjiva jer slijedi eksplicitna logička ograničenja koja regulatori doista mogu revidirati.
Implikacije u stvarnom svijetu
Te arhitektonske razlike imaju konkretne posljedice.
U zdravstvu, neobjašnjivi AI može postići visoku točnost u testiranju, ali ne uspjeti u primjeni jer je naučio lažne korelacije. Sustavi binarnih ograničenja mogu dokazati svoju dijagnostičku logiku, omogućujući medicinskim stručnjacima da provjere zaključivanje prije primjene.
U financijama, modeli crne kutije mogu odobriti ili odbiti kredite na temelju obrazaca koji ugrađuju povijesne pristranosti. Sustavi temeljeni na ograničenjima čine kriterije odlučivanja eksplicitnima, omogućujući revizije radi pravednosti.
U pravnim sustavima, neobjašnjive preporuke za izricanje kazni potkopavaju pravdu. Objašnjiva logika ograničenja omogućuje sucima da procijene je li zaključivanje u skladu s pravnim načelima.
Razmotrite autonomna vozila. Tradicionalne neuronske mreže obrađuju podatke sa senzora kroz milijune ponderiranih veza kako bi proizvele odluke o upravljanju i kočenju. Kada nešto pođe po zlu, istražitelji ne mogu utvrditi zašto je sustav donio određeni izbor. Zaključivanje je raspoređeno po cijeloj mreži na način koji nadilazi ljudsko razumijevanje.
Sustavi binarnih ograničenja funkcioniraju drugačije. Svaka odluka zadovoljava skup eksplicitnih sigurnosnih ograničenja. Ako sustav zakoči, možete pratiti zaključivanje: "Ograničenje C1 otkrilo je prepreku unutar 8 metara. Ograničenje C2 zahtijeva kočenje kada je udaljenost do prepreke manja od 10 metara, a brzina veća od 50 km/h. Trenutačna brzina 70 km/h. Stoga je kočenje aktivirano." To se zaključivanje može provjeriti, testirati i dokazati kao ispravno.
Razlika je važna za certifikaciju i odgovornost. Dana 7. srpnja 2024. na snagu su stupili novi EU propisi o sigurnosti, čime su uspostavljena prva međunarodna pravila za potpuno vozila bez vozača. Propisi nalažu sveobuhvatne procjene sigurnosti, zahtjeve za kibersigurnost i izvješćivanje o incidentima prije nego što vozila izađu na europske ceste. Kako certificirati sustav koji ne možete u potpunosti provjeriti? Kako dodijeliti odgovornost kada je proces odlučivanja neproziran? Tradicionalne neuronske mreže stvaraju pravne i regulatorne noćne more. Binarni sustavi ograničenja pružaju transparentnost koju europski regulatori doista zahtijevaju.
U proizvodnji, AI za kontrolu kvalitete mora objasniti klasifikacije nedostataka radnicima koji poduzimaju korektivne radnje. Sustavi crne kutije ne nude uvid: "otkriven nedostatak s 87% pouzdanosti." Sustavi temeljeni na ograničenjima objašnjavaju: "dimenzija premašuje toleranciju za 0,3 mm na poziciji (x,y), hrapavost površine krši specifikaciju u zoni Z3." Radnici mogu upotrijebiti te informacije za prilagodbu procesa.
Obrazac je jasan: objašnjivost nije luksuzna značajka. Ona je ključna za integraciju AI sustava u ljudske tijekove rada i procese odlučivanja. Bez transparentnosti, AI ostaje izoliran, neprovjerljiv i u konačnici nepovjerljiv.
Izgradnja poštenog AI-ja u Dweveu
U Dweveu smo izgradili cjelovitu AI platformu koja transparentnost čini neizbježnom. Ne kao naknadnu misao ili potvrdni okvir za usklađenost, već kao temeljnu arhitekturu.
**Dweve Core** pruža 1.930 algoritama optimiziranih za hardver za binarne neuronske mreže, mreže temeljene na ograničenjima i impulsne neuronske mreže. To nisu operacije s pomičnim zarezom iz prošlosti koje zahtijevaju GPU klastere. One rade učinkovito na standardnim CPU-ovima, trošeći 96% manje energije od tradicionalnih pristupa.
**Dweve Loom** orkestrira 456 domenski specijaliziranih sustava, od kojih je svaki domenski stručnjak. Za svaki se zadatak aktiviraju samo relevantni domenski stručnjaci (obično 4 do 8 od 456), čime se postiže ogroman kapacitet znanja uz minimalan računalni otisak. To je kao da imate 456 konzultanata na raspolaganju, ali plaćate samo one koje doista koristite.
**Dweve Nexus** implementira inteligenciju s više agenata s 31+ ekstraktora percepcije, 8 različitih načina rasuđivanja i hibridnom neuronsko-simboličkom integracijom. Višestruki specijalizirani agenti percipiraju, rasuđuju, odlučuju i djeluju, pri čemu je logika svakog agenta u potpunosti sljediva. Kada sustav dođe do zaključka, možete vidjeti koji su agenti pridonijeli kojim uvidima.
**Dweve Aura** pruža autonomnu razvojnu pomoć kroz 32 specijalizirana agenta organizirana u 6 načina orkestracije. Od uobičajenog izvršavanja s jednim agentom do paralelnog istraživanja u načinu roja i rasprave više LLM-ova u načinu konsenzusa, sustav prilagođava svoju kognitivnu arhitekturu zadatku koji je pred njim.
**Dweve Spindle** upravlja kvalitetom znanja kroz 7-stupanjski epistemološki proces. Informacije prelaze iz kandidata u kanonsko stanje tek nakon prolaska kroz strogu provjeru, pri čemu 32 specijalizirana agenta osiguravaju da svaki dio znanja zadovolji pragove kvalitete prije nego što se koristi za treniranje budućih modela.
**Dweve Mesh** sve decentralizira, omogućujući federativno učenje kroz javne i privatne mreže s iznimnom tolerancijom na pogreške. Mreža nastavlja raditi čak i kada otkaže 70% čvorova. Suverenitet nad podacima ostaje lokalni, a mrežom putuju samo šifrirana ažuriranja modela.
**Dweve Fabric** sve povezuje u jedinstvenu nadzornu ploču na kojoj korisnici upravljaju agentima, tijekovima rada, modelima i razgovorima s umjetnom inteligencijom u stvarnom vremenu, uz potpunu transparentnost i praćenje podrijetla.
Svaka odluka na ovoj cijeloj platformi slijedi eksplicitne logičke korake. Regulatori mogu revidirati baze ograničenja i lance zaključivanja. Stručnjaci iz domene mogu provjeriti odgovara li logika njihovom razumijevanju. Korisnici mogu točno vidjeti zašto je sustav došao do svakog zaključka, koji su agenti pridonijeli i koja su ograničenja zadovoljena.
Ovo je umjetna inteligencija građena za odgovornost od temelja. Ne zato što smo mi fini ljudi (iako jesmo), nego zato što arhitektura čini nepoštenje arhitektonski nemogućim.
Načela iza poštene inteligencije
Dweve smo izgradili na deset temeljnih načela:
- Istina ispred angažmana. Optimizirajte za činjeničnu točnost, ne za zadržavanje korisnika. Pošteni odgovori važniji su od uvjerljivih.
- Transparentnost ispred performansi. Objašnjivo zaključivanje važnije je od marginalnih dobitaka u točnosti modela crne kutije. Razumijevanje je bitno.
- Nesigurnost ispred samouvjerenosti. Eksplicitna nesigurnost bolja je od lažne samouvjerenosti. Kada sustav ne zna, to i kaže.
- Provjera ispred povjerenja. Pružite matematički dokaz točnosti umjesto da od korisnika tražite da vjeruju sustavu.
- Logika ispred vjerojatnosti. Determinističko zadovoljavanje ograničenja bolje je od statističkog prepoznavanja uzoraka za kritične odluke.
- Ljudi ispred metrika. Služite ljudskim potrebama, ne ciljevima optimizacije. Istina je važnija od metrika angažmana.
- Sigurnost ispred razmjera. Zajamčeno ispravno ponašanje u specifičnim domenama bolje je od približnog ponašanja u svemu.
- Privatnost ispred podataka. Obrađujte lokalno kada je to moguće. Smanjite prikupljanje i centralizaciju podataka.
- Neovisnost ispred ovisnosti o dobavljaču. Izbjegavajte ovisnosti o dobavljačima i vlasničke arhitekture.
- Europske vrijednosti. Tretirajte regulativu kao smjernicu za dizajn. Gradite za usklađenost od samog početka.
Zašto je europski pristup važan
Europski regulatorni pristup umjetnoj inteligenciji nije usporavanje inovacija, unatoč onome što bi vas lobisti Silicijske doline htjeli uvjeriti. Riječ je o usmjeravanju inovacija prema ishodima zbog kojih kasnije nećete morati ispričavati parlamentima.
Akt EU-a o umjetnoj inteligenciji prepoznaje da sustavi umjetne inteligencije koji utječu na temeljna prava (zdravstvo, pravosuđe, kreditiranje, zapošljavanje) moraju biti transparentni, pošteni i odgovorni. Revolucionaran koncept: možda bi se algoritam koji odlučuje hoćete li dobiti kredit trebao objasniti. Ovaj regulatorni okvir potiče arhitekture koje te značajke pružaju po dizajnu, a ne kao usklađivanje naknadno aplicirano.
Napredne arhitekture umjetne inteligencije koje kombiniraju rasuđivanje temeljeno na ograničenjima, sustave s više agenata i hibridne neuronsko-simboličke pristupe savršeno se uklapaju u ovu viziju. One ne pokušavaju zaobići propise kroz pametne rupe u zakonu. One utjelovljuju načela: transparentnost kroz eksplicitne lance rasuđivanja, poštenje kroz reviziju logike, odgovornost kroz dokazivo ponašanje.
Ovo je prilika Europe da predvodi razvoj umjetne inteligencije prema pouzdanim i provjerljivim sustavima, umjesto pristupa "kreni brzo i razbij demokraciju" koji se preferira drugdje. Nazovite nas staromodnima, ali više volimo da naši sustavi umjetne inteligencije ne zahtijevaju saslušanja u kongresu.
Regulatorni pristup stvara konkurentsku prednost, a ne teret. Dok američke tvrtke naknadno ugrađuju objašnjivost u arhitekture koje joj se opiru (sretno objašnjavajući matrice pažnje revizoru GDPR-a), europske tvrtke ugrađuju transparentnost u temelje. Dok se drugi bore s usklađivanjem s mandatima protiv kojih su lobirali, europske tvrtke dizajniraju sustave koji prirodno zadovoljavaju zahtjeve jer smo stvarno razgovarali s regulatorima tijekom dizajna.
Ovo nije regulatorno opterećenje koje nas usporava. To je strateško usmjeravanje koje nas ubrzava. Europa je rano prepoznala da AI u kritičnim sustavima mora biti pouzdan. Propisi kodificiraju ovaj uvid. Arhitekture temeljene na ograničenjima, s više agenata i hibridne arhitekture tehnička su realizacija ovih načela.
Globalno tržište umjetne inteligencije sve će više zahtijevati ono što europski propisi već traže: objašnjivost, reviziju, dokazivu sigurnost. Europske AI platforme razvijene u skladu s tim zahtjevima imaju prednost prvog poteza. Kad Kalifornija konačno donese vlastitu regulaciju umjetne inteligencije (nakon trećeg velikog skandala), kad Peking zatraži transparentnost za sustave koji se primjenjuju u Kini, i kad svaka druga jurisdikcija shvati da "vjerujte tehnološkim poduzetnicima" nije strategija upravljanja, europska tehnologija bit će spremna. Jer mi gradimo za tu stvarnost od prvog dana.
Put naprijed
Nalazimo se na prekretnici u razvoju umjetne inteligencije.
Jedan put nastavlja skalirati tradicionalne neuronske mreže: veći modeli, više parametara, više podataka, manja interpretabilnost. Taj put vodi do moćnih, ali neodgovornih sustava.
Drugi put gradi umjetnu inteligenciju na logičkim temeljima: eksplicitna ograničenja, formalna verifikacija, dokaziva ispravnost. To vodi do sustava kojima doista možemo vjerovati u kritičnim primjenama.
Dweve je odabrao drugi put. Naše mreže binarnih ograničenja pružaju potpunu objašnjivost, formalnu verifikaciju i usklađenost s EU aktom o umjetnoj inteligenciji po samoj svojoj arhitekturi.
Pitanje za industriju glasi: koju budućnost želimo izgraditi?
Taj izbor ima duboke implikacije. Tradicionalne neuronske mreže optimiziraju sposobnost pod svaku cijenu. Mreže binarnih ograničenja optimiziraju pouzdanu sposobnost. Prvi pristup daje impresivne demonstracije. Drugi daje sustave spremne za primjenu.
Razliku vidimo u obrascima usvajanja. Tradicionalna umjetna inteligencija izvrsna je u primjenama s niskim ulozima: preporuka sadržaja, generiranje slika, dovršavanje teksta. Umjetna inteligencija temeljena na binarnim ograničenjima izvrsna je u domenama s visokim ulozima: medicinska dijagnostika, financijske odluke, autonomni sustavi, industrijska kontrola.
Ta podjela odražava temeljne arhitektonske razlike. Kad je ispravnost važnija od pokrivenosti, kad je objašnjivost obvezna, kad je formalna verifikacija potrebna, pristupi temeljeni na ograničenjima pobjeđuju. Kad je široka sposobnost važnija od jamstava, statistički pristupi su dovoljni.
Ali krajolik se mijenja. Kako umjetna inteligencija ulazi u kritične sustave, pouzdanost postaje ključna. Arhitekture koje je pružaju dobivaju prednost. One koje je ne pružaju suočavaju se s preprekama: regulatornim odbijanjima, pitanjima odgovornosti, otporom tržišta.
Mreže binarnih ograničenja nisu budućnost zato što su nove. One su budućnost zato što rješavaju probleme koji su važni: transparentnost, odgovornost, dokazivu sigurnost. One pružaju ono što kritični sustavi zahtijevaju i ono što propisi traže.
Put naprijed je jasan. Gradite umjetnu inteligenciju koju možete objasniti. Oblikujte sustave koje možete verificirati. Primjenjujte inteligenciju kojoj možete vjerovati. To je iskrena umjetna inteligencija. To je arhitektura koja se skalira u domene s visokim ulozima. To je ono što Europa gradi.
Dweve razvija transparentnu umjetnu inteligenciju kroz rasuđivanje temeljeno na ograničenjima, sustave s više agenata i hibridne neuralno-simboličke arhitekture. Svaka je odluka sljediva kroz eksplicitna logička pravila. Svaki je zaključak provjerljiv formalnim metodama. Usklađen s EU AI Aktom po dizajnu. Sa sjedištem u Nizozemskoj, isključivo za europske organizacije.