Evropska »tretja pot«: ne divji zahod ne državni nadzor
Vprašanje, ki ga ni zastavil nihče, dokler ni bilo prepozno
Leta 2004 je Mark Zuckerberg iz svoje sobe na Harvardu zagnal Facebook. Leta 2005 je zaživel YouTube. Leta 2007 je iPhone revolucioniral mobilno računalništvo. Leta 2008 je Satoshi Nakamoto objavil Bitcoinovo belo knjigo. Leta 2012 je ImageNet dokazal, da lahko globoko učenje doseže nadčloveško zmogljivost.
V tem obdobju eksplozivnih tehnoloških sprememb je ostalo skoraj povsem neizrečeno ključno vprašanje: Kakšno družbo želimo, da ustvari ta tehnologija?
Inženirji in podjetniki, ki so gradili te sisteme, so bili osredotočeni na zmogljivost. Ali lahko naredijo omrežje hitrejše? Ali lahko naredijo algoritem pametnejši? Ali lahko naredijo platformo bolj privlačno? Uspeh so merili z uporabniki, transakcijami, računskimi cikli in ceno delnic.
Vprašanje vrednot je veljalo za težavo nekoga drugega. Ali pa so domnevali, da bo trg stvari uredil. Ali pa so ga zavrnili kot skrb luddistov, ki preprosto niso razumeli tehnologije.
Dve desetletji pozneje živimo s posledicami tega spregleda. Generacija najstnikov se spopada s krizami duševnega zdravja, ki jih zaostrujejo zasvojljivi algoritmi družbenih medijev. Demokratične volitve so manipulirali tuji nasprotniki z istimi orodji za ciljanje, ki so bila zasnovana za prodajo oglasov. Cele populacije so pod stalnim nadzorom, njihova vsaka poteza in transakcija sta katalogizirani tako s strani vlad kot korporacij.
Vprašanje ni bilo zastavljeno, zato se je odgovor pojavil sam po sebi. In privzeti odgovor je oblikoval tisti, ki je deloval najhitreje in mu je bilo najmanj mar za zunanje učinke.
Dva prevladujoča modela: različni neuspehi
Ko se umetna inteligenca pojavlja kot morda najbolj prelomna tehnologija po elektriki, se vprašanju vrednot ni več mogoče izogniti. Trenutno se za globalni vpliv potegujeta dva prevladujoča modela. Oba sta na različna načina spodletela.
Ameriški model: nadzorni kapitalizem
Ameriški pristop k upravljanju tehnologije lahko strnemo v stavek: naj odloča trg, regulacija pa naj (morda) sledi šele po tem, ko se pojavijo težave.
Ta model je prinesel izjemne inovacije. Silicijeva dolina je ustvarila nekatera najuspešnejša podjetja v zgodovini človeštva. Ameriški tehnološki velikani obvladujejo svetovne trge. Podjetniška energija in ekosistem tveganega kapitala nimata primerjave nikjer na svetu.
Toda model je prinesel tudi izjemno škodo. Ko je vaš poslovni model odvisen od čim večje vključenosti uporabnikov za prodajo bolj ciljano usmerjenega oglaševanja, algoritmu ni mar, ali ta vključenost izvira iz povezovanja ljudi z njihovimi skupnostmi ali iz netenja ogorčenja in razdorov. Spodbude so strukturno neusklajene s človeško blaginjo.
Platforme družbenih medijev, optimizirane za vključenost, so odkrile, da se jeza širi hitreje od resnice. Priporočilni algoritmi so se naučili, da zarotniške teorije ustvarijo več klikov kot preverjena poročanja. Oglaševalski sistemi so ugotovili, da je mikrociljano politično manipuliranje le še en vir prihodkov.
Ameriški model te pojave obravnava kot neželene stranske učinke, ki bi jih sčasoma lahko rešile tržne sile ali morda prepozna regulacija. Toda škoda ni napaka v sistemu. Je njegova značilnost. Izvira neposredno iz strukturnih spodbud nadzornega kapitalizma: iztisniti največ podatkov, povečati vključenost in eksternalizirati družbene stroške.
Kitajski model: digitalni avtoritarizem
Kitajski pristop predstavlja nasprotno skrajnost. Tu država tehnologije ne regulira, temveč jo usmerja. Tehnologija obstaja, da služi interesom Komunistične partije Kitajske.
Tudi ta model je v ožjem smislu prinesel impresivne rezultate. Kitajska je vodilna na področju prepoznavanja obrazov, avtonomnih vozil v nadzorovanih okoljih in avtomatizacije proizvodnje. Ko lahko infrastrukturo za nadzor uvajate brez skrbi glede zasebnosti, postanejo nekatere vrste razvoja precej lažje.
Toda model je ustvaril družbo pod stalnim nadzorom. Sistem družbenega kredita spremlja vedenje državljanov in omejuje priložnosti tistim, ki niso ocenjeni kot dovolj zvesti. Veliki požarni zid zagotavlja, da kitajski državljani ne morejo dostopati do informacij, ki jih partija šteje za nevarne. Nadzor, ki ga poganja umetna inteligenca, omogoča preganjanje etničnih manjšin v industrijskem obsegu.
Za tiste zunaj Kitajske je izvoz tega modela prav tako zaskrbljujoč. Kitajska tehnološka podjetja prodajajo infrastrukturo za nadzor avtoritarnim vladam po vsem svetu. Digitalna svilna pot ne razteza le optičnih kablov, temveč tudi vizijo tehnologije kot orodja družbenega nadzora.
Evropa se prebuja: precedens GDPR
V prvih dveh desetletjih digitalne revolucije je bila Evropa videti kot opazovalka. Ameriška podjetja so gradila platforme. Kitajska podjetja so izdelovala strojno opremo. Evropejci so bili potrošniki, ne ustvarjalci. Tisti, ki sprejemajo pravila, ne tisti, ki jih postavljajo.
Prelomnica je nastopila s Splošno uredbo o varstvu podatkov, ki je začela veljati leta 2018. Silicijeva dolina je GDPR sprva zavrnila kot birokratski presežek, ki ne bo nikoli uveljavljen. Motili so se.
GDPR je uvedel več revolucionarnih načel, ki zdaj preoblikujejo globalni razvoj tehnologije:
- Zasebnost kot temeljna pravica, ne kot nastavitev, ki se ji lahko odpovemo s klikom na pogoje uporabe
- Omejitev namena: podatkov, zbranih za en namen, ni mogoče uporabiti za drugega brez izrecne privolitve
- Minimizacija podatkov: zberite le tisto, kar potrebujete, in jih hranite le toliko časa, kot je nujno
- Pravica do pojasnila: ljudje imajo pravico razumeti, kako se sprejemajo avtomatizirane odločitve, ki jih zadevajo
- Pravica do izbrisa: znana »pravica do pozabe«
Tisto, zaradi česar je bil GDPR prelomen, niso bila le načela, temveč mehanizem uveljavljanja. Globe do 4 % svetovnega letnega prihodka so pritegnile pozornost tudi največjih tehnoloških podjetij. In ker Evropa predstavlja trg 450 milijonov premožnih potrošnikov, podjetja preprosto niso mogla ignorirati pravil.
Rezultat je bil »bruseljski učinek«. Namesto da bi vzdrževala ločene izdelke za Evropo in preostali svet, so številna podjetja prakse, skladne z GDPR, uvedla po vsem svetu. Evropska ureditev je postala dejanski svetovni standard.
Akt o umetni inteligenci: kodifikacija tretje poti
Akt EU o umetni inteligenci, ki je začel veljati leta 2024 s postopnim izvajanjem do leta 2027, predstavlja najambicioznejši dosedanji poskus urejanja umetne inteligence. Za dobo umetne inteligence kodificira evropsko tretjo pot.
Genialnost akta je v njegovem pristopu, ki temelji na tveganju. Namesto da bi vse umetne inteligence obravnaval enako, ustvarja kategorije:
- Nesprejemljivo tveganje (prepovedano): sistemi družbenega ocenjevanja, biometrična identifikacija na daljavo v realnem času v javnih prostorih, manipulacija ranljivih skupin, umetna inteligenca, ki izkorišča človeške slabosti
- Visoko tveganje (strogo regulirano): umetna inteligenca v kritični infrastrukturi, izobraževanju, zaposlovanju, nujnih storitvah, kazenskem pregonu, migracijah in pravosodnih sistemih
- Omejeno tveganje (zahtevana preglednost): klepetalni roboti, sistemi za prepoznavanje čustev, algoritmi za priporočanje vsebin
- Minimalno tveganje (neregulirano): videoigre z umetno inteligenco, filtri za neželeno pošto, večina potrošniških aplikacij
Za visoko tvegane sisteme so zahteve precejšnje: sistemi za obvladovanje tveganj, kakovostni podatki za usposabljanje z dokumentiranim izvorom, beleženje in sledljivost, mehanizmi človeškega nadzora, testiranje točnosti in robustnosti ter ocene skladnosti pred uporabo.
Kritiki ta pristop označujejo za obremenjujoč. Trdijo, da bo upočasnil inovacije in potisnil razvoj umetne inteligence v manj regulirane jurisdikcije. Toda ta kritika ne razume, kaj tretja pot skuša doseči.
Zakaj regulacija ustvarja konkurenčno prednost
Pomislite na letalsko industrijo. Gradnja letal je strogo regulirana. Letala ne morete preprosto zgraditi v garaži in začeti prevažati potnikov. Vsaka komponenta mora izpolnjevati stroge standarde. Vsak postopek mora biti dokumentiran. Vsako napako je treba preiskati.
Ali je ta regulacija ubila inovacije v letalstvu? Očitno ne. Industrija se je razvila od bratov Wright do Boeinga 787 in do večkrat uporabnih raket. Regulacija ni preprečila inovacij; usmerila jih je v smeri, ki ohranjajo zaupanje javnosti.
Prav zato, ker je letalstvo izjemno varno, je milijarde ljudi pripravljenih leteti. Če bi letala strmoglavljala tako pogosto, kot se sesuvajo programi, letalska industrija ne bi obstajala. Regulacija ustvarja zaupanje, ki omogoča trg.
Umetna inteligenca zdaj vstopa na področja, kjer velja enaka logika. Ko sistemi umetne inteligence upravljajo medicinske diagnoze, finančne odločitve in prometno infrastrukturo, bodo uporabniki zahtevali enako raven zagotovila zanesljivosti, kot jo pričakujejo od letalstva. »Hitro napreduj in lomi stvari« ni sprejemljiv pristop, kadar je lahko tisto, kar se lomi, bolnikovo zdravje ali finančna varnost družine.
Z zgodnjo vzpostavitvijo jasnih standardov Evropa ustvarja trg za »premium umetno inteligenco«, ki izpolnjuje višje standarde zanesljivosti in etike. To ni omejitev inovacij. To je specifikacija za novo kategorijo izdelkov, ki jo trg začenja zahtevati.
Digitalna suverenost: strateški imperativ
Poleg posameznikovih pravic in zaupanja na trgu evropska tretja pot naslavlja strateški imperativ: digitalno suverenost.
De pandemie legde de kwetsbaarheid van Europa bloot toen de toeleveringsketens voor medische apparatuur via China liepen. De oorlog in Oekraïne legde de kwetsbaarheid van Europa bloot toen de energievoorziening via Rusland liep. Dezelfde kwetsbaarheid bestaat in de technologie.
Als Europese kritieke infrastructuur afhankelijk is van Amerikaanse cloudproviders, Europese gegevens op Amerikaanse servers staan die onder Amerikaans recht vallen, en Europese AI-systemen draaien op chips die in Taiwan worden gemaakt of onder Amerikaanse exportbeperkingen vallen, dan is de digitale toekomst van Europa onderworpen aan een buitenlands veto.
To ni hipotetično. Akt CLOUD daje ameriškim oblastem možnost, da zahtevajo podatke od ameriških ponudnikov storitev v oblaku, ne glede na to, kje so ti podatki fizično shranjeni. Izvozni nadzor lahko omeji, kateri čipi so na voljo. Pogoji storitve se lahko spremenijo čez noč, kot so ugotovila nešteta podjetja, ko so različne ameriške platforme spremenile svoje politike.
Resnična suverenost zahteva tehnično neodvisnost. To pomeni evropsko infrastrukturo v oblaku, evropsko proizvodnjo polprevodnikov (Akt o čipih je začetek) in evropske sisteme umetne inteligence, ki niso odvisni od tujih nadzornih ravnin.
Dweve: De Europese alternatief bouwen
V podjetju Dweve nismo zgolj skladni z evropskimi predpisi. Načrtujemo temeljno drugačen pristop k umetni inteligenci, ki že od samega začetka uteleša evropske vrednote.
Zasebnost po arhitekturi, ne po politiki
Tradicionalni sistemi umetne inteligence se usposabljajo na ogromnih naborih podatkov, ki lahko vsebujejo osebne podatke, ti pa se nato zapletejo v milijarde parametrov modela. Izluščiti te informacije ali dokazati, da so bile izbrisane, je praktično nemogoče.
Arhitektura Binary Constraint Discovery podjetja Dweve deluje drugače. Znanje je predstavljeno kot diskretne logične omejitve in ne kot zvezne uteži. Osebni podatki nikoli ne postanejo del temeljne strukture modela. Ko upravljanje podatkov zahteva izbris, je mogoče omejitev odstraniti, ne da bi to vplivalo na preostali del sistema.
Naša platforma Dweve Spindle izvaja sedemstopenjski epistemološki proces, v katerem je vsak delček znanja sledljiv od statusa kandidata prek ekstrakcije, analize, povezovanja, preverjanja in certificiranja do končnega kanoničnega statusa. Ta popolna sledljivost pomeni, da lahko natančno izsledimo, katere informacije so vplivale na katero koli odločitev, in preverimo, da so bili izbrisani podatki ustrezno odstranjeni.
Uitlegbaarheid door Ontwerp
Akt o umetni inteligenci EU zahteva, da imajo uporabniki, na katere vplivajo odločitve umetne inteligence, pravico do razlage. Za večino sistemov umetne inteligence je to izjemno težko izpolniti. Kako razložiti odločitev, ki je nastala iz milijard množenj s plavajočo vejico?
Sistemi Dweve so steklene škatle, ne črne škatle. Vsaka sled odločitve je v celoti pregledna. Ko Dweve Loom aktivira 4–8 od svojih 528 specializiranih nizov omejitev za obdelavo poizvedbe, lahko natančno pokažemo, katere omejitve so bile uporabljene in zakaj.
To ni zgolj gledališka skladnost. To je temeljnega pomena za delovanje sistema. Binarne omejitve veljajo ali ne veljajo. Ni verjetnostne dvoumnosti. Razlaga je izračun.
Soevereiniteit door infrastructuur
Sistemi Dweve delujejo na evropski infrastrukturi. Vaši podatki se shranjujejo in obdelujejo v Evropi. Dweve uporablja podobdelovalce, kot je opisano v objavljenih pogojih obdelave.
Nismo vezani na dobavno verigo nobenega posameznega ponudnika. Če geopolitični dogodki omejijo dostop do določene strojne opreme, naši sistemi še naprej delujejo na alternativah.
Onze Dweve Mesh distributed execution fabric maakt federatieve implementatie mogelijk, waarbij data nooit de jurisdictie van herkomst verlaat. Een organisatie kan deelnemen aan collectieve intelligentie terwijl zij volledige soevereiniteit over haar data behoudt.
Globalno tekmovanje za norme umetne inteligence
Vložek v tem tekmovanju sega daleč prek meja Evrope. Norme, vzpostavljene v naslednjem desetletju, bodo oblikovale, kako se bo umetna inteligenca razvijala po svetu za generacije.
Države po vsem svetu opazujejo tri modele in se odločajo, kateremu bodo sledile. Brazilija je uvedla varstvo podatkov, podobno splošni uredbi o varstvu podatkov. Japonska je sprejela okvire zasebnosti, ki jih oblikujejo evropski standardi. Kalifornija, dom Silicijeve doline, je uvedla državne predpise o zasebnosti, ki sledijo evropskim zgledom.
Toda svoj model izvaža tudi Kitajska. Prek pobude Pas in cesta ter Digitalne svilne poti kitajska tehnološka podjetja gradijo infrastrukturo v Afriki, jugovzhodni Aziji in Latinski Ameriki. Skupaj z infrastrukturo prihajata tudi arhitektura nadzora in model upravljanja.
Vprašanje je, katera vizija vloge tehnologije v družbi bo postala svetovna privzeta izbira. Bo to ameriški model, kjer so uporabniki izdelki za unovčevanje? Kitajski model, kjer so državljani subjekti pod nadzorom? Ali evropski model, kjer so ljudje državljani s pravicami, ki jih mora tehnologija spoštovati?
Gospodarska priložnost v tretji poti
Nekateri trdijo, da bo evropski regulativni pristop neizogibno postavil evropska podjetja v slabši položaj v primerjavi z manj reguliranimi ameriškimi in kitajskimi tekmeci. Toda to predpostavlja, da bo prihodnost umetne inteligence videti kot sedanjost: platforme, kjer zmagovalec pobere vse, zgrajene na nadzoru.
Mi vidimo drugačno prihodnost. Ko se umetna inteligenca seli v kritično infrastrukturo, zdravstvo, finančne storitve in fizično avtomatizacijo, se bo toleranca do nezanesljivih in nepojasnljivih sistemov zmanjšala, ne povečala. Trg bo zahteval tisto, kar Evropa že zahteva.
Poglejmo poslovni trg. Velike organizacije ne želijo umetne inteligence, ki bi morda izmišljala odgovore ali sprejemala odločitve, ki jih regulatorjem ne morejo pojasniti. Ne želijo sistemov, ki bi morda kršili zakone o zasebnosti in povzročili milijardne globe v evrih. Ne želijo odvisnosti od tujih ponudnikov, ki bi jih bilo mogoče izkoristiti prek nadzora izvoza ali sankcij.
Kar si želijo, je natanko tisto, kar evropska regulativa spodbuja: zanesljiva, pojasnljiva in suverena umetna inteligenca, ki ji lahko zaupajo svoje najobčutljivejše poslovanje.
Evropa se ne regulira v nepomembnost. Evropa opredeljuje specifikacije za sisteme umetne inteligence, ki jih podjetniški trg dejansko potrebuje. Podjetja, ki bodo lahko izpolnila te specifikacije, bodo imela dostop do najzahtevnejših in najvrednejših tržnih segmentov na svetu.
Pot naprej: vrednote kot konkurenčna prednost
Naslednje desetletje bo odločilo, ali umetna inteligenca krepi človeški razcvet ali pospešuje človeško manipulacijo in nadzor. Izid ni vnaprej določen. Odvisen je od odločitev, ki se sprejemajo zdaj.
Evropska tretja pot je stava, da vrednote in inovacije niso nasprotja. Da lahko zasebnost in zmogljivost sobivata. Da se lahko regulacija in napredek medsebojno krepita. Da lahko tehnologija služi človeškemu dostojanstvu, namesto da ga spodkopava.
Pri Dweve gradimo tehnologijo, ki dokazuje, da je ta stava pravilna. Naša porazdeljena arhitektura dokazuje, da je suverena umetna inteligenca praktična.
Ne gradimo umetne inteligence kljub evropskim vrednotam. Gradimo umetno inteligenco zaradi evropskih vrednot. Te vrednote so vgrajene v vsako plast naše arhitekture, od algoritmov v Dweve Core do 528 naborov omejitev za domenske strokovnjake v Dweve Loom do zveznih zaščit zasebnosti v Dweve Mesh.
Prihodnost ne pripada tistemu, ki se premika najhitreje. Pripada tistemu, ki gradi sisteme, ki jim lahko ljudje dejansko zaupajo svoja življenja, svoje preživetje in svoje demokracije.
Evropa gradi to prihodnost. In pri Dweve smo ponosni, da smo v ospredju.
Pripravljeni graditi umetno inteligenco na evropski način? Dweve dokazuje, da vam ni treba izbirati med inovacijami in vrednotami, med zmogljivostjo in skladnostjo, med napredkom in zasebnostjo. Kontaktirajte nas, da odkrijete, kako lahko naša na človeka osredotočena, razložljiva in suverena umetna inteligenca vaši organizaciji prinese konkurenčno prednost zaupanja.