Európska „tretia cesta“: ani Divoký západ, ani štátna kontrola
Otázka, ktorú si nikto nepoložil, kým nebolo neskoro
V roku 2004 Mark Zuckerberg spustil Facebook zo svojej izby na Harvarde. V roku 2005 začal fungovať YouTube. V roku 2007 iPhone spôsobil revolúciu v mobilných výpočtoch. V roku 2008 Satoshi Nakamoto zverejnil bitcoinový whitepaper. V roku 2012 ImageNet dokázal, že hlboké učenie dokáže dosiahnuť výkon presahujúci ľudské schopnosti.
Počas tohto obdobia búrlivých technologických zmien zostala kľúčová otázka takmer úplne nepoložená: Akú spoločnosť chceme, aby tieto technológie vytvorili?
Inžinieri a podnikatelia, ktorí tieto systémy budovali, sa zameriavali na schopnosti. Dokázali zrýchliť sieť? Dokázali urobiť algoritmus múdrejším? Dokázali urobiť platformu pútavejšou? Úspech sa meral v používateľoch, transakciách, výpočtových cykloch a cene akcií.
Otázka hodnôt sa považovala za problém niekoho iného. Alebo sa predpokladalo, že trh všetko vyrieši. Alebo sa odmietala ako starosť ludditov, ktorí technológii jednoducho nerozumeli.
O dve desaťročia neskôr žijeme s následkami tohto prehliadnutia. Generácia tínedžerov zápasí s krízami duševného zdravia, ktoré zhoršujú návykové algoritmy sociálnych médií. Demokratické voľby boli zmanipulované zahraničnými protivníkmi pomocou rovnakých nástrojov cieleného marketingu, ktoré boli navrhnuté na predaj reklamy. Celé populácie sú pod neustálym dohľadom, každý ich pohyb a transakcia sú katalogizované vládami aj korporáciami.
Otázka nebola položená, takže odpoveď vznikla sama od seba. A túto predvolenú odpoveď formoval ten, kto sa pohol najrýchlejšie a najmenej sa staral o vedľajšie účinky.
Dva dominantné modely: rôzne zlyhania
Keďže sa AI stáva azda najrevolučnejšou technológiou od čias elektriny, otázke hodnôt sa už nemožno vyhýbať. V súčasnosti o globálny vplyv súperia dva dominantné modely. Oba zlyhali rôznymi spôsobmi.
Americký model: dozorný kapitalizmus
Americký prístup k riadeniu technológií možno zhrnúť do jednej vety: nech rozhodne trh a reguluj (možno) až po tom, čo sa objavia problémy.
Tento model priniesol mimoriadne inovácie. Silicon Valley vytvoril niektoré z najúspešnejších spoločností v dejinách ľudstva. Americké technologické giganty dominujú svetovým trhom. Podnikateľská energia a ekosystém rizikového kapitálu nemajú vo svete obdobu.
No tento model priniesol aj mimoriadne škody. Keď váš obchodný model závisí od maximalizácie zapojenia používateľov, aby ste predávali viac cielenej reklamy, algoritmu je jedno, či toto zapojenie pochádza zo spájania ľudí s ich komunitami, alebo z podnecovania pobúrenia a rozdelenia. Stimuly sú štrukturálne v rozpore s ľudským blahom.
Platformy sociálnych médií optimalizované na zapojenie zistili, že hnev sa šíri rýchlejšie ako pravda. Odporúčacie algoritmy sa naučili, že konšpiračné teórie generujú viac kliknutí ako faktické spravodajstvo. Reklamné systémy zistili, že mikrocielená politická manipulácia je len ďalším zdrojom príjmov.
Americký model tieto javy považuje za nešťastné vedľajšie účinky, ktoré by mohli nakoniec vyriešiť trhové sily alebo, možno, oneskorená regulácia. No tieto škody nie sú chyby v systéme. Sú jeho vlastnosťami. Vyplývajú priamo zo štrukturálnych stimulov dozorného kapitalizmu: získaj maximum údajov, maximalizuj zapojenie a presuň spoločenské náklady na iných.
Čínsky model: digitálny autoritarizmus
Čínsky prístup predstavuje opačný extrém. Štát tu technológie nereguluje, ale riadi. Technológie existujú, aby slúžili záujmom Komunistickej strany Číny.
Aj tento model priniesol v úzkom zmysle pôsobivé výsledky. Čína vedie v rozpoznávaní tvárí, v autonómnych vozidlách v kontrolovanom prostredí a v automatizácii výroby. Keď môžete nasadiť dozornú infraštruktúru bez obáv o súkromie, určité druhy rozvoja sa stávajú oveľa jednoduchšími.
No tento model vytvoril spoločnosť pod neustálym dohľadom. Systém sociálneho kreditu sleduje správanie občanov a obmedzuje príležitosti pre tých, ktorí sa nepovažujú za dostatočne lojálnych. Veľký firewall zaisťuje, aby čínski občania nemali prístup k informáciám, ktoré strana považuje za nebezpečné. Dozor poháňaný AI umožňuje prenasledovanie etnických menšín v priemyselnom rozsahu.
Pre tých, ktorí sú mimo Číny, je export tohto modelu rovnako znepokojujúci. Čínske technologické spoločnosti predávajú dozornú infraštruktúru autoritárskym vládam na celom svete. Digitálna hodvábna cesta nepredlžuje len optické káble, ale aj víziu technológie ako nástroja sociálnej kontroly.
Európa sa prebúdza: precedens GDPR
Počas prvých dvoch desaťročí digitálnej revolúcie Európa pôsobila ako prihliadajúci divák. Americké firmy budovali platformy. Čínske firmy vyrábali hardvér. Európania boli spotrebitelia, nie tvorcovia. Tí, čo pravidlá prijímali, nie tí, čo ich tvorili.
Zlom nastal s nariadením GDPR, ktoré nadobudlo účinnosť v roku 2018. Silicon Valley GDPR spočiatku odmietalo ako byrokratické prekročenie právomocí, ktoré sa nikdy nebude vymáhať. Mýlili sa.
GDPR zaviedlo niekoľko revolučných zásad, ktoré dnes pretvárajú globálny vývoj technológií:
- Súkromie ako základné právo, nie preferencia, ktorej sa možno vzdať kliknutím na zmluvné podmienky
- Obmedzenie účelu: údaje zhromaždené na jeden účel nemožno použiť na iný bez výslovného súhlasu
- Minimalizácia údajov: zbierajte len to, čo potrebujete, a uchovávajte to len tak dlho, ako je to nevyhnutné
- Právo na vysvetlenie: ľudia majú právo pochopiť, ako sa prijímajú automatizované rozhodnutia, ktoré sa ich týkajú
- Právo na výmaz: známe „právo byť zabudnutý“
To, čo urobilo GDPR prelomovým, neboli len samotné zásady, ale mechanizmus ich vymáhania. Pokuty až do výšky 4 % celosvetového ročného obratu upútali pozornosť aj tých najväčších technologických firiem. A keďže Európa predstavuje trh so 450 miliónmi solventných spotrebiteľov, firmy si nemohli jednoducho dovoliť pravidlá ignorovať.
Výsledkom bol „bruselský efekt“. Mnohé firmy namiesto udržiavania oddelených produktov pre Európu a zvyšok sveta zaviedli postupy v súlade s GDPR celosvetovo. Európska regulácia sa stala de facto globálnym štandardom.
Akt o umelej inteligencii: Kodifikácia tretej cesty
Akt EÚ o umelej inteligencii, ktorý nadobudol účinnosť v roku 2024 s postupným zavádzaním do roku 2027, predstavuje doteraz najambicióznejší pokus o reguláciu umelej inteligencie. Kodifikuje európsku tretiu cestu pre éru umelej inteligencie.
Genialita aktu spočíva v jeho prístupe založenom na riziku. Namiesto toho, aby pristupoval ku všetkej umelej inteligencii rovnako, vytvára kategórie:
- Neprijateľné riziko (zakázané): Systémy sociálneho hodnotenia, identifikácia osôb na diaľku v reálnom čase vo verejných priestoroch, manipulácia so zraniteľnými skupinami, umelá inteligencia, ktorá zneužíva ľudské slabosti
- Vysoké riziko (prísne regulované): Umelá inteligencia v kritickej infraštruktúre, školstve, zamestnanosti, základných službách, presadzovaní práva, migrácii a justičných systémoch
- Obmedzené riziko (vyžaduje sa transparentnosť): Chatboty, systémy rozpoznávania emócií, algoritmy na odporúčanie obsahu
- Minimálne riziko (neregulované): Videohry s umelou inteligenciou, spamové filtre, väčšina spotrebiteľských aplikácií
Pre systémy s vysokým rizikom sú požiadavky značné: systémy riadenia rizík, kvalitné tréningové dáta s zdokumentovaným pôvodom, protokolovanie a vysledovateľnosť, mechanizmy ľudského dohľadu, testovanie presnosti a odolnosti a posudzovanie zhody pred nasadením.
Kritici označujú tento prístup za zaťažujúci. Tvrdia, že spomalí inovácie a presunie vývoj umelej inteligencie do jurisdikcií s menej prísnou reguláciou. Táto kritika však nepochopila, čo sa tretia cesta snaží dosiahnuť.
Prečo regulácia vytvára konkurenčnú výhodu
Zamyslime sa nad leteckým priemyslom. Stavba lietadiel je prísne regulovaná. Nemôžete si jednoducho postaviť lietadlo v garáži a začať prevážať cestujúcich. Každý komponent musí spĺňať prísne normy. Každý proces musí byť zdokumentovaný. Každé zlyhanie musí byť vyšetrené.
Zabila táto regulácia inovácie v letectve? Zjavne nie. Odvetvie sa vyvinulo od bratov Wrightovcov cez Boeing 787 až po opätovne použiteľné rakety. Regulácia nezabránila inováciám; nasmerovala ich smerom, ktorý udržiaval dôveru verejnosti.
Práve preto, že je letectvo mimoriadne bezpečné, sú miliardy ľudí ochotné lietať. Ak by sa lietadlá zrúcali tak často, ako zlyháva softvér, letecký priemysel by neexistoval. Regulácia vytvára dôveru, ktorá umožňuje trh.
AI dnes vstupuje do oblastí, kde platí rovnaká logika. Keď systémy umelej inteligencie riadia lekárske diagnózy, finančné rozhodnutia a dopravnú infraštruktúru, používatelia budú požadovať rovnakú úroveň spoľahlivosti, akú očakávajú od letectva. „Ponáhľaj sa a rozbíjaj veci" nie je prijateľný prístup, keď to, čo sa môže rozbiť, je zdravie pacienta alebo finančné zabezpečenie rodiny.
Stanovením jasných štandardov včas vytvára Európa trh pre „Prémiovú AI", ktorá spĺňa vyššie štandardy spoľahlivosti a etiky. Toto nie je obmedzenie inovácií. Je to špecifikácia novej kategórie produktov, ktorú trh začína dopytovať.
Digitálna suverenita: strategická nevyhnutnosť
Okrem individuálnych práv a dôvery trhu rieši európska tretia cesta strategickú nevyhnutnosť: digitálnu suverenitu.
Pandémia odhalila zraniteľnosť Európy, keď dodávateľské reťazce zdravotníckeho vybavenia viedli cez Čínu. Vojna na Ukrajine odhalila zraniteľnosť Európy, keď dodávky energií viedli cez Rusko. Rovnaká zraniteľnosť existuje aj v technológiách.
Ak európska kritická infraštruktúra závisí od amerických cloudových poskytovateľov, európske dáta sa nachádzajú na amerických serveroch podliehajúcich americkému právu a európske systémy umelej inteligencie bežia na čipoch vyrobených na Taiwane alebo kontrolovaných americkými vývoznými obmedzeniami, potom európska digitálna budúcnosť podlieha cudziemu vetu.
Toto nie je hypotetická situácia. Zákon CLOUD Act dáva americkým orgánom možnosť požadovať dáta od cloudových poskytovateľov so sídlom v USA bez ohľadu na to, kde sú tieto dáta fyzicky uložené. Vývozné kontroly môžu obmedziť, ktoré čipy sú dostupné. Podmienky používania sa môžu zmeniť cez noc, ako zistili mnohé podniky, keď rôzne americké platformy upravili svoje pravidlá.
Skutočná suverenita si vyžaduje technickú nezávislosť. To znamená európsku cloudovú infraštruktúru, európsku výrobu polovodičov (zákon CHIPS Act je začiatok) a európske systémy umelej inteligencie, ktoré nezávisia od zahraničných riadiacich prvkov.
Dweve: Budovanie európskej alternatívy
V spoločnosti Dweve nie sme len v súlade s európskymi predpismi. Navrhujeme zásadne odlišný prístup k umelej inteligencii, ktorý od základov stelesňuje európske hodnoty.
Súkromie architektúrou, nie politikou
Tradičné systémy umelej inteligencie sa trénujú na obrovských súboroch dát, ktoré môžu obsahovať osobné informácie, a tie sa potom zamotajú do miliárd parametrov modelu. Extrahovať tieto informácie alebo dokázať, že boli vymazané, je prakticky nemožné.
Architektúra Binary Constraint Discovery od Dweve funguje inak. Vedomosti sú reprezentované ako diskrétne logické obmedzenia, nie ako spojité váhy. Osobné informácie sa nikdy nestanú súčasťou základnej štruktúry modelu. Keď správa dát vyžaduje vymazanie, obmedzenie možno odstrániť bez vplyvu na zvyšok systému.
Naša platforma Dweve Spindle implementuje sedemstupňový epistemologický proces, v ktorom sa každá informácia sleduje od stavu kandidáta cez extrakciu, analýzu, prepojenie, overenie, certifikáciu až po konečný kanonický stav. Tento úplný pôvod znamená, že môžeme presne vysledovať, aké informácie ovplyvnili akékoľvek rozhodnutie, a overiť, že vymazané dáta boli riadne odstránené.
Vysvetliteľnosť návrhom
Nariadenie EÚ o umelej inteligencii vyžaduje, aby používatelia dotknutí rozhodnutiami umelej inteligencie mali právo na vysvetlenie. Pre väčšinu systémov umelej inteligencie je to veľmi ťažké splniť. Ako vysvetlíte rozhodnutie, ktoré vzniklo z miliárd operácií s pohyblivou rádovou čiarkou?
Systémy Dweve sú sklenené skrinky, nie čierne skrinky. Každú stopu rozhodovania možno úplne preskúmať. Keď Dweve Loom aktivuje 4 až 8 zo svojich 456 špecializovaných súborov obmedzení na spracovanie dopytu, vieme presne ukázať, ktoré obmedzenia boli použité a prečo.
Toto nie je len divadlo pre dodržiavanie predpisov. Je to základ fungovania systému. Binárne obmedzenia buď platia, alebo neplatia. Neexistuje žiadna pravdepodobnostná nejednoznačnosť. Vysvetlenie je samotný výpočet.
Suverenita infraštruktúrou
Systémy Dweve bežia na európskej infraštruktúre. Naše dátové centrá sa nachádzajú v Holandsku, Nemecku a Francúzsku. Pre základné operácie nezávisíme od amerických cloudových poskytovateľov.
Naša knižnica Dweve Core s 1 937 algoritmami je optimalizovaná pre rôzny hardvér: AMD, Intel, ARM a RISC-V. Nie sme uzamknutí v dodávateľskom reťazci žiadneho jediného výrobcu. Ak geopolitické udalosti obmedzia prístup k určitému hardvéru, naše systémy budú naďalej fungovať na alternatívach.
Naša distribuovaná vykonávacia sieť Dweve Mesh umožňuje federované nasadenie, pri ktorom dáta nikdy neopustia jurisdikciu svojho pôvodu. Organizácia sa môže zapojiť do kolektívnej inteligencie a zároveň si zachovať úplnú suverenitu nad svojimi dátami.
Globálna súťaž o normy pre AI
Stávky tejto súťaže presahujú hranice Európy. Normy stanovené v nasledujúcom desaťročí budú formovať vývoj AI na celom svete po celé generácie.
Krajiny po celom svete sledujú tieto tri modely a rozhodujú sa, ktorý budú nasledovať. Brazília zaviedla ochranu údajov podobnú GDPR. Japonsko prijalo rámce ochrany súkromia ovplyvnené európskymi štandardmi. Kalifornia, domov Silicon Valley, zaviedla štátne predpisy o ochrane súkromia, ktoré nasledujú európske precedensy.
Ale svoj model exportuje aj Čína. Prostredníctvom iniciatívy Belt and Road a Digitálnej hodvábnej cesty budujú čínske technologické spoločnosti infraštruktúru v Afrike, juhovýchodnej Ázii a Latinskej Amerike. Spolu s infraštruktúrou prichádza aj architektúra dohľadu a model riadenia.
Otázkou je, ktorá vízia úlohy technológie v spoločnosti sa stane globálnym štandardom. Bude to americký model, kde sú používatelia produktmi na speňaženie? Čínsky model, kde sú občania subjektmi na sledovanie? Alebo európsky model, kde sú ľudia občanmi s právami, ktoré musí technológia rešpektovať?
Ekonomická príležitosť tretej cesty
Niektorí tvrdia, že európsky regulačný prístup nevyhnutne znevýhodní európske spoločnosti v konkurencii proti menej regulovaným americkým a čínskym rivalom. To však predpokladá, že budúcnosť AI bude vyzerať ako súčasnosť: platformy typu víťaz-berie-všetko postavené na dohľade.
My vidíme inú budúcnosť. Keď sa AI presúva do kritickej infraštruktúry, zdravotníctva, finančných služieb a fyzickej automatizácie, tolerancia voči nespoľahlivým a nevysvetliteľným systémom bude klesať, nie rásť. Trh bude dopytovať presne to, čo Európa už vyžaduje.
Zoberme si podnikový trh. Veľké organizácie nechcú AI, ktorá by mohla halucinovať odpovede alebo robiť rozhodnutia, ktoré nedokážu vysvetliť regulátorom. Nechcú systémy, ktoré by mohli porušovať zákony o ochrane súkromia a generovať pokuty vo výške miliárd eur. Nechcú závislosti od zahraničných poskytovateľov, ktoré by mohli byť zneužité prostredníctvom exportných kontrol alebo sankcií.
Chcú presne to, čo európska regulácia podporuje: spoľahlivú, vysvetliteľnú a suverénnu AI, ktorej môžu dôverovať pri svojich najcitlivejších operáciách.
Európa sa nereguluje do irelevancie. Európa definuje špecifikácie pre systémy umelej inteligencie, ktoré podnikový trh skutočne potrebuje. Spoločnosti, ktoré dokážu splniť tieto špecifikácie, získajú prístup k najnáročnejším a najhodnotnejším trhovým segmentom na svete.
Cesta vpred: hodnoty ako konkurenčná výhoda
Nasledujúce desaťročie rozhodne o tom, či AI znásobí ľudský rozkvet, alebo urýchli manipuláciu a kontrolu človeka. Výsledok nie je vopred daný. Závisí od rozhodnutí, ktoré sa prijímajú teraz.
Európska tretia cesta predstavuje stávku, že hodnoty a inovácie nie sú protiklady. Že súkromie a schopnosti môžu koexistovať. Že regulácia a pokrok sa môžu navzájom posilňovať. Že technológia môže slúžiť ľudskej dôstojnosti, nie ju podkopávať.
V spoločnosti Dweve budujeme technológie, ktoré dokazujú, že táto stávka je správna. Naše 96 % zníženie spotreby energie dokazuje, že udržateľná AI je možná. Naša 100 % vysvetliteľnosť dokazuje, že transparentná AI je dosiahnuteľná. Naša distribuovaná architektúra dokazuje, že suverénna AI je praktická.
Nebudujeme AI napriek európskym hodnotám. Budujeme AI práve kvôli európskym hodnotám. Tieto hodnoty sú zakódované v každej vrstve našej architektúry, od 1 937 algoritmov v Dweve Core cez 456 súborov obmedzení pre doménových špecialistov v Dweve Loom až po federálnu ochranu súkromia v Dweve Mesh.
Budúcnosť nepatrí tomu, kto sa pohybuje najrýchlejšie. Patrí tomu, kto buduje systémy, ktorým ľudia môžu skutočne dôverovať svojimi životmi, svojimi živobytiami a svojimi demokraciami.
Európa buduje túto budúcnosť. A v spoločnosti Dweve sme hrdí, že sme v jej popredí.
Ste pripravení budovať AI európskym spôsobom? Dweve dokazuje, že nemusíte voliť medzi inováciami a hodnotami, medzi schopnosťami a súladom s predpismi, medzi pokrokom a súkromím. Kontaktujte nás a zistite, ako vám naša AI zameraná na človeka, vysvetliteľná a suverénna môže poskytnúť konkurenčnú výhodu dôvery.