Europski "treći put": ni Divlji zapad ni državna kontrola
Pitanje koje nitko nije postavio dok nije bilo prekasno
Godine 2004. Mark Zuckerberg pokrenuo je Facebook iz svoje sobe u studentskom domu na Harvardu. Godine 2005. YouTube je počeo s radom. Godine 2007. iPhone je revolucionirao mobilno računalstvo. Godine 2008. Satoshi Nakamoto objavio je Bitcoinovu bijelu knjigu. Godine 2012. ImageNet je dokazao da duboko učenje može postići nadljudsku izvedbu.
Tijekom tog razdoblja eksplozivnih tehnoloških promjena, ključno pitanje ostalo je gotovo u potpunosti nepostavljeno: kakvo društvo želimo da ova tehnologija stvori?
Inženjeri i poduzetnici koji su gradili te sustave bili su usredotočeni na mogućnosti. Mogu li učiniti mrežu bržom? Mogu li učiniti algoritam pametnijim? Mogu li učiniti platformu privlačnijom? Uspjeh se mjerio brojem korisnika, transakcija, računalnih ciklusa i cijenom dionica.
Pitanje vrijednosti smatralo se tuđim problemom. Ili se pretpostavljalo da će tržište riješiti stvari. Ili se odbacivalo kao briga ludista koji jednostavno ne razumiju tehnologiju.
Dva desetljeća kasnije, živimo s posljedicama tog propusta. Generacija tinejdžera bori se s krizama mentalnog zdravlja koje su pogoršani algoritmi ovisnosti o društvenim mrežama. Demokratski izbori manipulirani su od strane stranih protivnika koji koriste iste alate za ciljanje osmišljene za prodaju oglašavanja. Cijele populacije pod stalnim su nadzorom, a svaki njihov pokret i transakcija katalogizirani su od strane vlada i korporacija podjednako.
Pitanje nije postavljeno, pa je odgovor proizašao sam po sebi. A taj je odgovor oblikovao onaj tko se kretao najbrže i najmanje je mario za vanjske učinke.
Dva dominantna modela: različiti neuspjesi
Kako umjetna inteligencija postaje možda najtransformativnija tehnologija od električne energije, pitanje vrijednosti više se ne može izbjegavati. Trenutačno se dva dominantna modela natječu za globalni utjecaj. Oba su na različite načine podbacila.
Američki model: nadzorni kapitalizam
Američki pristup upravljanju tehnologijom može se sažeti u jednu rečenicu: neka odluči tržište, a reguliraj (možda) nakon što se problemi pojave.
Taj je model donio iznimne inovacije. Silicijska dolina stvorila je neke od najuspješnijih tvrtki u povijesti čovječanstva. Američki tehnološki divovi dominiraju globalnim tržištima. Poduzetnička energija i ekosustav rizičnog kapitala nemaju paralelu nigdje u svijetu.
No model je donio i iznimne štete. Kada vaš poslovni model ovisi o maksimiziranju angažmana korisnika kako biste prodavali ciljanije oglašavanje, algoritmu je svejedno dolazi li taj angažman od povezivanja ljudi s njihovim zajednicama ili od poticanja bijesa i podjela. Poticaji su strukturno neusklađeni s ljudskom dobrobiti.
Platforme društvenih mreža optimizirane za angažman otkrile su da se bijes širi brže od istine. Preporučni algoritmi naučili su da teorije zavjere generiraju više klikova od činjeničnog izvještavanja. Oglašivački sustavi otkrili su da je mikrociljana politička manipulacija samo još jedan izvor prihoda.
Američki model te pojave tretira kao neželjene nuspojave koje bi s vremenom mogle riješiti tržišne sile ili, možda, zakašnjela regulacija. No štete nisu greške u sustavu. One su njegove značajke. Proizlaze izravno iz strukturnih poticaja nadzornog kapitalizma: izvući maksimum podataka, maksimizirati angažman i eksternalizirati društvene troškove.
Kineski model: digitalni autoritarizam
Kineski pristup predstavlja suprotnu krajnost. Ovdje država ne regulira tehnologiju; ona njome upravlja. Tehnologija postoji kako bi služila interesima Komunističke partije Kine.
Taj je model također dao impresivne rezultate u uskim okvirima. Kina prednjači u prepoznavanju lica, autonomnim vozilima u kontroliranim okruženjima i automatizaciji proizvodnje. Kada možete postaviti infrastrukturu za nadzor bez brige o pitanjima privatnosti, određene vrste razvoja postaju mnogo lakše.
No model je stvorio društvo pod stalnim nadzorom. Sustav društvenog kredita prati ponašanje građana i ograničava mogućnosti onima koji se smatraju nedovoljno odanima. Veliki vatrozid osigurava da kineski građani ne mogu pristupiti informacijama koje Partija smatra opasnima. Nadzor pokretan umjetnom inteligencijom omogućuje progon etničkih manjina na industrijskoj razini.
Za one izvan Kine, izvoz tog modela jednako je zabrinjavajuć. Kineske tehnološke tvrtke prodaju infrastrukturu za nadzor autoritarnim vladama diljem svijeta. Digitalni put svile ne proteže samo optičke kabele, već i viziju tehnologije kao alata za društvenu kontrolu.
Europa se budi: presedan GDPR-a
Tijekom prva dva desetljeća digitalne revolucije Europa je djelovala kao promatrač. Američke tvrtke gradile su platforme. Kineske tvrtke proizvodile su hardver. Europljani su bili potrošači, a ne kreatori. Oni koji prihvaćaju pravila, a ne oni koji ih stvaraju.
Prelomnica je nastupila s Općom uredbom o zaštiti podataka, koja je stupila na snagu 2018. Silicijska dolina je isprva odbacila GDPR kao birokratski prekoračenje koje se nikada neće provoditi. Pogriješili su.
GDPR je uspostavio nekoliko revolucionarnih načela koja danas preoblikuju globalni razvoj tehnologije:
- Privatnost kao temeljno pravo, a ne sklonost koja se može odbaciti jednim klikom na ugovor o uvjetima korištenja
- Ograničenje svrhe: podaci prikupljeni za jednu svrhu ne mogu se koristiti za drugu bez izričitog pristanka
- Minimizacija podataka: prikupljajte samo ono što vam je potrebno i čuvajte to samo onoliko dugo koliko je nužno
- Pravo na objašnjenje: ljudi imaju pravo razumjeti kako se donose automatizirane odluke koje ih se tiču
- Pravo na brisanje: poznato "pravo na zaborav"
Ono što je GDPR učinilo transformativnim nisu bila samo načela, već i mehanizam provedbe. Novčane kazne do 4% globalnog godišnjeg prihoda privukle su pozornost čak i najvećih tehnoloških tvrtki. A budući da Europa predstavlja tržište od 450 milijuna imućnih potrošača, tvrtke jednostavno nisu mogle ignorirati pravila.
Rezultat je bio "učinak Bruxellesa". Umjesto da održavaju zasebne proizvode za Europu i ostatak svijeta, mnoge su tvrtke globalno implementirale prakse usklađene s GDPR-om. Europska regulativa postala je de facto globalni standard.
Akt o umjetnoj inteligenciji: kodifikacija trećeg puta
Akt EU-a o umjetnoj inteligenciji, koji je stupio na snagu 2024. s postupnom provedbom do 2027., najambiciozniji je dosadašnji pokušaj uređivanja umjetne inteligencije. Njime se kodificira europski treći put za eru umjetne inteligencije.
Genijalnost Akta leži u pristupu utemeljenom na riziku. Umjesto da sve AI tretira jednako, on stvara kategorije:
- Neprihvatljiv rizik (zabranjeno): sustavi socijalnog bodovanja, daljinska biometrijska identifikacija u stvarnom vremenu na javnim mjestima, manipulacija ranjivim skupinama, AI koji iskorištava ljudske slabosti
- Visok rizik (strogo regulirano): AI u kritičnoj infrastrukturi, obrazovanju, zapošljavanju, osnovnim uslugama, provedbi zakona, migracijama i pravosudnim sustavima
- Ograničen rizik (potrebna transparentnost): chatbotovi, sustavi za prepoznavanje emocija, algoritmi za preporuku sadržaja
- Minimalan rizik (neregulirano): videoigre s umjetnom inteligencijom, filtri neželjene pošte, većina potrošačkih aplikacija
Za sustave visokog rizika zahtjevi su znatni: sustavi upravljanja rizicima, visokokvalitetni podaci za obuku s dokumentiranim podrijetlom, evidentiranje i sljedivost, mehanizmi ljudskog nadzora, testiranje točnosti i robusnosti te procjene sukladnosti prije stavljanja u uporabu.
Kritičari taj pristup nazivaju opterećujućim. Tvrde da će usporiti inovacije i potjerati razvoj umjetne inteligencije u manje regulirane jurisdikcije. No ta kritika pogrešno razumije što treći put pokušava postići.
Zašto regulacija stvara konkurentsku prednost
Uzmimo zrakoplovnu industriju. Izgradnja zrakoplova strogo je regulirana. Ne možete jednostavno sagraditi avion u garaži i početi prevoziti putnike. Svaka komponenta mora zadovoljiti stroge standarde. Svaki proces mora biti dokumentiran. Svaki kvar mora biti istražen.
Je li ta regulacija ubila inovacije u zrakoplovstvu? Očito nije. Industrija se razvila od braće Wright preko Boeinga 787 do raketa za višekratnu uporabu. Regulacija nije spriječila inovacije; usmjerila ih je u smjerovima koji su održavali povjerenje javnosti.
Upravo zato što je zrakoplovstvo iznimno sigurno, milijarde ljudi spremne su letjeti. Kad bi se avioni rušili jednako često kao što se softver ruši, zrakoplovna industrija ne bi postojala. Regulacija stvara povjerenje koje omogućuje tržište.
Umjetna inteligencija sada ulazi u područja u kojima vrijedi ista logika. Kada AI sustavi upravljaju medicinskim dijagnozama, financijskim odlukama i prometnom infrastrukturom, korisnici će zahtijevati istu razinu pouzdanosti koju očekuju od zrakoplovstva. „Kretati se brzo i rušiti stvari" nije prihvatljiv pristup kada ono što se ruši može biti zdravlje pacijenta ili financijska sigurnost obitelji.
Uspostavljanjem jasnih standarda na vrijeme, Europa stvara tržište za „Premium AI" koji zadovoljava više standarde pouzdanosti i etike. To nije ograničenje inovacija. To je specifikacija za novu kategoriju proizvoda koju tržište počinje zahtijevati.
Digitalni suverenitet: strateški imperativ
Osim pojedinačnih prava i povjerenja tržišta, europski treći put rješava strateški imperativ: digitalni suverenitet.
Pandemija je otkrila ranjivost Europe kada su lanci opskrbe medicinskom opremom prolazili kroz Kinu. Rat u Ukrajini otkrio je ranjivost Europe kada je opskrba energijom prolazila kroz Rusiju. Ista ranjivost postoji i u tehnologiji.
Ako europska kritična infrastruktura ovisi o američkim pružateljima oblaka, ako europski podaci borave na američkim poslužiteljima podložnima američkom zakonu te ako europski AI sustavi rade na čipovima proizvedenima na Tajvanu ili pod kontrolom američkih izvoznih ograničenja, onda je europska digitalna budućnost podložna stranom vetu.
To nije hipotetska situacija. Zakon CLOUD Act američkim vlastima daje mogućnost da zatraže podatke od pružatelja oblaka sa sjedištem u SAD-u, bez obzira na to gdje su ti podaci fizički pohranjeni. Izvozna ograničenja mogu odrediti koji su čipovi dostupni. Uvjeti korištenja mogu se promijeniti preko noći, što su brojna poduzeća otkrila kada su različite američke platforme izmijenile svoje politike.
Istinska suverenost zahtijeva tehničku neovisnost. To znači europsku infrastrukturu oblaka, europsku proizvodnju poluvodiča (Zakon CHIPS Act je početak) i europske AI sustave koji ne ovise o stranim upravljačkim ravninama.
Dweve: Izgradnja europske alternative
U Dweveu nismo samo usklađeni s europskim propisima. Oblikujemo bitno drugačiji pristup umjetnoj inteligenciji koji od samih temelja utjelovljuje europske vrijednosti.
Privatnost arhitekturom, ne politikom
Tradicionalni AI sustavi treniraju se na golemim skupovima podataka koji mogu uključivati osobne informacije, koje se potom isprepliću u milijardama parametara modela. Izdvojiti te informacije ili dokazati da su izbrisane praktički je nemoguće.
Arhitektura Binary Constraint Discovery tvrtke Dweve funkcionira drugačije. Znanje je predstavljeno kao diskretna logička ograničenja, a ne kao kontinuirane težine. Osobne informacije nikada ne postaju dio temeljne strukture modela. Kada upravljanje podacima zahtijeva brisanje, ograničenje se može ukloniti bez utjecaja na ostatak sustava.
Naša platforma Dweve Spindle provodi epistemološki proces u sedam faza u kojem se svaki dio znanja prati od statusa kandidata kroz ekstrakciju, analizu, povezivanje, provjeru, certifikaciju i naposljetku kanonski status. Ta potpuna genealogija znači da možemo utvrditi koje su informacije točno utjecale na bilo koju odluku i provjeriti jesu li izbrisani podaci pravilno uklonjeni.
Objašnjivost dizajnom
Zakon EU o umjetnoj inteligenciji zahtijeva da korisnici na koje utječu odluke umjetne inteligencije imaju pravo na objašnjenje. Za većinu AI sustava to je iznimno teško ispuniti. Kako objasniti odluku koja je proizašla iz milijardi operacija s pomičnim zarezom?
Sustavi tvrtke Dweve staklene su kutije, a ne crne kutije. Svaki trag odluke u potpunosti je preglediv. Kada Dweve Loom aktivira 4-8 od svojih 456 specijaliziranih skupova ograničenja za obradu upita, možemo točno pokazati koja su ograničenja primijenjena i zašto.
To nije puko formalno ispunjavanje zahtjeva. To je temeljno za način na koji sustav funkcionira. Binarna ograničenja ili vrijede ili ne vrijede. Nema probabilističke dvosmislenosti. Objašnjenje je samo izračunavanje.
Suverenost infrastrukturom
Sustavi tvrtke Dweve rade na europskoj infrastrukturi. Naši podatkovni centri nalaze se u Nizozemskoj, Njemačkoj i Francuskoj. Za ključne operacije ne ovisimo o američkim pružateljima oblaka.
Naša biblioteka Dweve Core sa 1.937 algoritama optimizirana je za različite hardvere: AMD, Intel, ARM i RISC-V. Nismo vezani uz lanac opskrbe niti jednog dobavljača. Ako geopolitički događaji ograniče pristup određenom hardveru, naši sustavi nastavljaju raditi na alternativama.
Naša distribuirana izvršna mreža Dweve Mesh omogućuje federativnu implementaciju u kojoj podaci nikada ne napuštaju svoju izvornu jurisdikciju. Organizacija može sudjelovati u kolektivnoj inteligenciji zadržavajući potpunu suverenost nad svojim podacima.
Globalno natjecanje za norme umjetne inteligencije
Ulozi u ovom natjecanju sežu daleko izvan granica Europe. Norme uspostavljene u sljedećem desetljeću oblikovat će globalni razvoj umjetne inteligencije generacijama koje dolaze.
Zemlje diljem svijeta promatraju tri modela i odlučuju kojem će se prikloniti. Brazil je uveo zaštitu podataka sličnu GDPR-u. Japan je usvojio okvire privatnosti pod utjecajem europskih standarda. Kalifornija, dom Silicijske doline, uvela je propise o privatnosti na državnoj razini koji slijede europske presedane.
No Kina također izvozi svoj model. Kroz inicijativu Pojas i put te Digitalni put svile, kineske tehnološke tvrtke grade infrastrukturu u Africi, jugoistočnoj Aziji i Latinskoj Americi. Uz infrastrukturu dolazi i nadzorna arhitektura te model upravljanja.
Pitanje je koja će vizija uloge tehnologije u društvu postati globalni standard. Hoće li to biti američki model u kojem su korisnici proizvodi koje treba unovčiti? Kineski model u kojem su građani subjekti koje treba nadzirati? Ili europski model u kojem su ljudi građani s pravima koja tehnologija mora poštivati?
Ekonomska prilika u trećem putu
Neki tvrde da će europski regulatorni pristup neizbježno dovesti europske tvrtke u nepovoljan položaj u odnosu na manje regulirane američke i kineske konkurente. No to pretpostavlja da budućnost umjetne inteligencije izgleda poput sadašnjosti: platforme u kojima pobjednik uzima sve, izgrađene na nadzoru.
Mi vidimo drugačiju budućnost. Kako se umjetna inteligencija širi u kritičnu infrastrukturu, zdravstvo, financijske usluge i fizičku automatizaciju, tolerancija prema nepouzdanim i neobjašnjivim sustavima smanjivat će se, a ne povećavati. Tržište će zahtijevati ono što Europa već propisuje.
Razmotrimo poslovno tržište. Velike organizacije ne žele umjetnu inteligenciju koja bi mogla izmišljati odgovore ili donositi odluke koje ne mogu objasniti regulatorima. Ne žele sustave koji bi mogli prekršiti zakone o privatnosti i generirati kazne od milijardu eura. Ne žele ovisnost o stranim pružateljima usluga koji bi se mogli naoružati kroz izvozne kontrole ili sankcije.
Ono što žele upravo je ono što europska regulativa potiče: pouzdana, objašnjiva i suverena umjetna inteligencija kojoj mogu povjeriti svoje najosjetljivije operacije.
Europa se ne regulira u irelevantnost. Europa definira specifikacije za AI sustave koje poslovno tržište zapravo treba. Tvrtke koje mogu zadovoljiti te specifikacije imat će pristup najzahtjevnijim i najvrjednijim tržišnim segmentima na globalnoj razini.
Put naprijed: vrijednosti kao konkurentska prednost
Sljedeće desetljeće odredit će hoće li AI pojačati ljudski procvat ili ubrzati ljudsku manipulaciju i kontrolu. Ishod nije unaprijed određen. Ovisi o odlukama koje se donose sada.
Europski treći put predstavlja okladu da vrijednosti i inovacija nisu suprotnosti. Da privatnost i sposobnost mogu koegzistirati. Da regulacija i napredak mogu jačati jedni druge. Da tehnologija može služiti ljudskom dostojanstvu umjesto da ga potkopava.
U Dweveu gradimo tehnologiju koja dokazuje da je ta oklada ispravna. Naše smanjenje potrošnje energije od 96% pokazuje da je održivi AI moguć. Naša 100% objašnjivost pokazuje da je transparentni AI ostvariv. Naša distribuirana arhitektura pokazuje da je suvereni AI praktičan.
Ne gradimo AI unatoč europskim vrijednostima. Gradimo AI zbog europskih vrijednosti. Te su vrijednosti ugrađene u svaki sloj naše arhitekture, od 1.937 algoritama u Dweve Coreu preko 456 skupova ograničenja specijalista za domene u Dweve Loomu do federativnih zaštita privatnosti u Dweve Meshu.
Budućnost ne pripada onome tko se kreće najbrže. Pripada onome tko gradi sustave kojima ljudi doista mogu vjerovati svojim životima, svojim sredstvima za život i svojim demokracijama.
Europa gradi tu budućnost. A u Dweveu smo ponosni što smo na čelu.
Spremni graditi AI na europski način? Dweve dokazuje da ne morate birati između inovacije i vrijednosti, između sposobnosti i usklađenosti, između napretka i privatnosti. Kontaktirajte nas kako biste otkrili kako naš AI usmjeren na čovjeka, objašnjiv i suveren AI može vašoj organizaciji dati konkurentsku prednost povjerenja.