Evropská „třetí cesta“: ani divoký západ, ani státní kontrola
Otázka, kterou si nikdo nepoložil, dokud nebylo příliš pozdě
V roce 2004 spustil Mark Zuckerberg Facebook ze svého pokoje na Harvardově koleji. V roce 2005 začal fungovat YouTube. V roce 2007 iPhone způsobil revoluci v mobilních technologiích. V roce 2008 publikoval Satoshi Nakamoto manifest k Bitcoinu. V roce 2012 ImageNet dokázal, že hluboké učení dokáže dosáhnout nadlidského výkonu.
Během tohoto období překotných technologických změn zůstala klíčová otázka téměř zcela nepoložena: Jakou společnost chceme, aby tato technologie vytvořila?
Inženýři a podnikatelé, kteří tyto systémy budovali, se soustředili na schopnosti. Dokázali zrychlit síť? Dokázali vylepšit algoritmus? Dokázali učinit platformu poutavější? Úspěch se měřil počtem uživatelů, transakcí, výpočetních cyklů a cenou akcií.
Otázka hodnot byla považována za problém někoho jiného. Nebo se předpokládalo, že trh vše vyřeší. Nebo byla odmítána jako starost ludditů, kteří technologii prostě nerozuměli.
O dvě desetiletí později žijeme s důsledky tohoto přehlédnutí. Generace dospívajících se potýká s krizí duševního zdraví, kterou prohlubují návykové algoritmy sociálních médií. Demokratické volby byly manipulovány zahraničními protivníky pomocí stejných nástrojů cílení, které byly navrženy pro prodej reklamy. Celé populace jsou pod neustálým dohledem, každý jejich pohyb a transakce jsou katalogizovány vládami i korporacemi.
Otázka nebyla položena, a tak odpověď vznikla sama od sebe. A tuto výchozí odpověď utvářel ten, kdo jednal nejrychleji a nejméně se staral o vedlejší účinky.
Dva dominantní modely: různé druhy selhání
Jak se umělá inteligence stává možná nejpřevratnější technologií od dob elektřiny, otázce hodnot se už nelze vyhnout. A v současnosti o globální vliv soupeří dva dominantní modely. Oba selhaly, každý jiným způsobem.
Americký model: dohledový kapitalismus
Americký přístup k řízení technologií lze shrnout do jedné věty: nechme rozhodnout trh a regulujme (možná) až poté, co se objeví problémy.
Tento model přinesl mimořádné inovace. Silicon Valley vytvořilo některé z nejúspěšnějších společností v dějinách lidstva. Američtí technologičtí giganti ovládají globální trhy. Podnikatelská energie a ekosystém rizikového kapitálu nemají ve světě obdoby.
Ale tento model přinesl také mimořádné škody. Když váš obchodní model závisí na maximalizaci zapojení uživatelů kvůli prodeji cílené reklamy, algoritmu je jedno, jestli toto zapojení pramení ze spojování lidí s jejich komunitami, nebo z podněcování pobouření a rozdělení. Strukturální motivace jsou v rozporu s lidským blahobytem.
Platformy sociálních médií optimalizované na zapojení zjistily, že hněv se šíří rychleji než pravda. Doporučovací algoritmy se naučily, že konspirační teorie generují více kliknutí než faktické zpravodajství. Reklamní systémy objevily, že mikrocílená politická manipulace je jen další zdroj příjmů.
Americký model tyto jevy považuje za nežádoucí vedlejší účinky, které by jednou mohly být řešeny tržními silami nebo případně opožděnou regulací. Ale tyto škody nejsou chyby v systému. Jsou jeho vlastností. Vyplývají přímo ze strukturálních motivací dohledového kapitalismu: získat maximum dat, maximalizovat zapojení a externalizovat společenské náklady.
Čínský model: digitální autoritářství
Čínský přístup představuje opačný extrém. Stát zde technologie nereguluje, ale řídí. Technologie existuje, aby sloužila zájmům Komunistické strany Číny.
Tento model také přinesl působivé výsledky, byť v úzkém smyslu. Čína vede v rozpoznávání obličejů, v autonomních vozidlech v kontrolovaném prostředí a v automatizaci výroby. Když můžete nasadit dohledovou infrastrukturu bez obav z otázek soukromí, některé druhy rozvoje se stávají mnohem snazšími.
Ale tento model vytvořil společnost pod neustálým dohledem. Systém společenského kreditu sleduje chování občanů a omezuje příležitosti pro ty, kteří jsou považováni za nedostatečně loajální. Velká čínská firewall zajišťuje, že se čínští občané nemohou dostat k informacím, které strana považuje za nebezpečné. Dohled poháněný umělou inteligencí umožňuje pronásledování etnických menšin v průmyslovém měřítku.
Pro lidi mimo Čínu je export tohoto modelu stejně znepokojivý. Čínské technologické společnosti prodávají dohledovou infrastrukturu autoritářským vládám po celém světě. Digitální hedvábná stezka nevede jen k optickým vláknům, ale také k vizi technologie jako nástroje společenské kontroly.
Evropa se probouzí: precedens GDPR
Během prvních dvou desetiletí digitální revoluce vypadala Evropa jako přihlížející. Americké společnosti budovaly platformy. Čínské společnosti vyráběly hardware. Evropané byli spotřebitelé, ne tvůrci. Příjemci pravidel, ne jejich tvůrci.
Zlom nastal s nařízením o ochraně osobních údajů, které vstoupilo v platnost v roce 2018. GDPR bylo zpočátku ze strany Silicon Valley odmítáno jako byrokratická přehnanost, která se nikdy nebude vymáhat. Mýlili se.
GDPR zavedlo několik převratných zásad, které dnes přetvářejí globální vývoj technologií:
- Soukromí jako základní právo, nikoli preference, které se lze vzdát kliknutím na souhlas s podmínkami služby
- Omezení účelu: údaje shromážděné pro jeden účel nelze použít pro jiný bez výslovného souhlasu
- Minimalizace údajů: shromažďujte pouze to, co potřebujete, a uchovávejte to jen tak dlouho, jak je nutné
- Právo na vysvětlení: lidé mají právo porozumět tomu, jak jsou přijímána automatizovaná rozhodnutí, která se jich týkají
- Právo na výmaz: slavné „právo být zapomenut“
To, co učinilo GDPR převratným, nebyly jen samotné zásady, ale mechanismus vymáhání. Pokuty až do výše 4 % celosvětového ročního obratu upoutaly pozornost i těch největších technologických společností. A protože Evropa představuje trh se 450 miliony majetných spotřebitelů, společnosti nemohly pravidla jednoduše ignorovat.
Výsledkem byl „bruselský efekt“. Místo aby si společnosti udržovaly oddělené produkty pro Evropu a zbytek světa, mnohé zavedly postupy v souladu s GDPR celosvětově. Evropská regulace se stala de facto globálním standardem.
Akt o umělé inteligenci: kodifikace třetí cesty
Akt EU o umělé inteligenci, který vstoupil v platnost v roce 2024 s postupným zaváděním do roku 2027, představuje dosud nejambicióznější pokus o regulaci umělé inteligence. Kodifikuje evropskou třetí cestu pro éru umělé inteligence.
Genialita aktu spočívá v jeho přístupu založeném na riziku. Namísto toho, aby zacházel se všemi systémy umělé inteligence stejně, vytváří kategorie:
- Nepřijatelné riziko (zakázáno): systémy sociálního kreditního hodnocení, identifikace osob na dálku v reálném čase ve veřejném prostoru, manipulace se zranitelnými skupinami, umělá inteligence zneužívající lidské slabosti
- Vysoké riziko (přísně regulováno): umělá inteligence v kritické infrastruktuře, školství, zaměstnanosti, základních službách, vymáhání práva, migraci a justici
- Omezené riziko (vyžadována transparentnost): chatboti, systémy rozpoznávání emocí, algoritmy doporučování obsahu
- Minimální riziko (neregulováno): hry s umělou inteligencí, spamové filtry, většina spotřebitelských aplikací
Pro systémy s vysokým rizikem jsou požadavky značné: systémy řízení rizik, kvalitní trénovací data s doloženým původem, protokolování a sledovatelnost, dohled člověka, testování přesnosti a robustnosti a posouzení shody před nasazením.
Kritici tento přístup označují za zatěžující. Tvrdí, že zpomalí inovace a přesune vývoj umělé inteligence do jurisdikcí s mírnější regulací. Tato kritika však nepochopila, čeho se třetí cesta snaží dosáhnout.
Proč regulace vytváří konkurenční výhodu
Vezměme si letecký průmysl. Stavba letadel je přísně regulována. Nemůžete si prostě postavit letadlo v garáži a začít vozit cestující. Každá součástka musí splňovat přísné normy. Každý proces musí být zdokumentován. Každá porucha musí být vyšetřena.
Zabila tato regulace inovace v letectví? Zjevně ne. Odvětví se vyvinulo od bratří Wrightů přes Boeing 787 až po znovupoužitelné rakety. Regulace inovacím nezabránila; nasměrovala je směry, které udržely důvěru veřejnosti.
Právě proto, že je letectví mimořádně bezpečné, jsou miliardy lidí ochotny létat. Pokud by letadla havarovala tak často, jako havaruje software, letecký průmysl by neexistoval. Regulace vytváří důvěru, která umožňuje trh.
Umělá inteligence nyní vstupuje do oblastí, kde platí stejná logika. Když systémy AI řídí lékařské diagnózy, finanční rozhodnutí a dopravní infrastrukturu, uživatelé budou vyžadovat stejnou úroveň spolehlivosti, jakou očekávají od letectví. „Pohybuj se rychle a rozbíjej věci“ není přijatelný přístup, když tím, co se rozbíjí, může být zdraví pacienta nebo finanční zabezpečení rodiny.
Stanovením jasných standardů včas vytváří Evropa trh pro „Prémiovou AI“, která splňuje vyšší standardy spolehlivosti a etiky. Toto není omezení inovací. Je to specifikace nové kategorie produktů, kterou trh začíná vyžadovat.
Digitální suverenita: strategický imperativ
Kromě individuálních práv a důvěry trhu představuje evropská třetí cesta strategický imperativ: digitální suverenitu.
Pandemie odhalila zranitelnost Evropy, když dodavatelské řetězce zdravotnického vybavení vedly přes Čínu. Válka na Ukrajině odhalila zranitelnost Evropy, když dodávky energií vedly přes Rusko. Stejná zranitelnost existuje i v oblasti technologií.
Pokud evropská kritická infrastruktura závisí na amerických cloudových poskytovatelích, evropská data jsou uložena na amerických serverech podléhajících americkému právu a evropské systémy umělé inteligence běží na čipech vyráběných na Tchaj-wanu nebo kontrolovaných americkými exportními omezeními, pak je evropská digitální budoucnost vystavena cizímu vetu.
To není hypotetická situace. Zákon CLOUD Act dává americkým orgánům možnost vyžadovat data od amerických cloudových poskytovatelů bez ohledu na to, kde jsou tato data fyzicky uložena. Exportní kontroly mohou omezit, které čipy jsou dostupné. Podmínky poskytování služeb se mohou změnit přes noc, jak zjistily nesčetné společnosti, když různé americké platformy upravily své zásady.
Skutečná suverenita vyžaduje technickou nezávislost. To znamená evropskou cloudovou infrastrukturu, evropskou výrobu polovodičů (zákon CHIPS Act je začátek) a evropské systémy umělé inteligence, které nezávisí na zahraničních řídicích rovinách.
Dweve: Budování evropské alternativy
Ve společnosti Dweve nejsme pouze v souladu s evropskými předpisy. Navrhujeme zásadně odlišný přístup k umělé inteligenci, který od základu ztělesňuje evropské hodnoty.
Soukromí díky architektuře, ne díky politice
Tradiční systémy umělé inteligence jsou trénovány na obrovských souborech dat, které mohou obsahovat osobní údaje, jež se pak zamotají do miliard parametrů modelu. Extrahovat tyto informace nebo prokázat, že byly smazány, je prakticky nemožné.
Architektura Binary Constraint Discovery společnosti Dweve funguje jinak. Znalosti jsou reprezentovány jako diskrétní logická omezení, nikoli jako spojité váhy. Osobní údaje se nikdy nestanou součástí základní struktury modelu. Pokud správa dat vyžaduje výmaz, lze dané omezení odstranit, aniž by to ovlivnilo zbytek systému.
Naše platforma Dweve Spindle implementuje sedmistupňový epistemologický pipeline, kde je každá znalost sledována od statusu kandidáta přes extrakci, analýzu, propojení, ověření, certifikaci až po konečný status kanonický. Tento úplný původ znamená, že můžeme přesně vysledovat, jaké informace ovlivnily jakékoli rozhodnutí, a ověřit, že smazaná data byla řádně odstraněna.
Vysvětlitelnost díky návrhu
Nařízení EU o umělé inteligenci vyžaduje, aby uživatelé dotčení rozhodnutími umělé inteligence měli právo na vysvětlení. U většiny systémů umělé inteligence je to mimořádně obtížné splnit. Jak vysvětlíte rozhodnutí, které vzešlo z miliard násobení v plovoucí řádové čárce?
Systémy Dweve jsou skleněné krabice, ne černé skříňky. Každá stopa rozhodnutí je plně kontrolovatelná. Když Dweve Loom aktivuje 4 až 8 ze svých 456 specializovaných sad omezení pro zpracování dotazu, můžeme přesně ukázat, která omezení byla použita a proč.
To není jen divadlo pro splnění předpisů. Je to základní princip fungování systému. Binární omezení buď platí, nebo neplatí. Neexistuje žádná pravděpodobnostní nejednoznačnost. Vysvětlení je samotný výpočet.
Suverenita díky infrastruktuře
Systémy Dweve běží na evropské infrastruktuře. Naše datová centra jsou v Nizozemsku, Německu a Francii. Pro základní provoz nezávisíme na amerických cloudových poskytovatelích.
Naše knihovna Dweve Core s 1 937 algoritmy je optimalizována pro různé hardwarové platformy: AMD, Intel, ARM a RISC-V. Nejsme vázáni na dodavatelský řetězec žádného jediného výrobce. Pokud geopolitické události omezí přístup ke konkrétnímu hardwaru, naše systémy budou nadále fungovat na alternativách.
Naše distribuovaná prováděcí architektura Dweve Mesh umožňuje federované nasazení, kdy data nikdy neopustí jurisdikci svého původu. Organizace se může podílet na kolektivní inteligenci při zachování plné suverenity nad svými daty.
Globální soutěž o normy pro umělou inteligenci
Sázky v této soutěži sahají daleko za hranice Evropy. Normy stanovené v příštím desetiletí budou utvářet vývoj umělé inteligence na celém světě po celé generace.
Země po celém světě sledují tyto tři modely a rozhodují se, který následovat. Brazílie zavedla ochranu osobních údajů podobnou GDPR. Japonsko přijalo rámce ochrany soukromí ovlivněné evropskými standardy. Kalifornie, domov Silicon Valley, zavedla státní předpisy na ochranu soukromí, které navazují na evropské precedenty.
Ale Čína také vyváží svůj model. Prostřednictvím iniciativy Pás a stezka a Digitální hedvábné stezky budují čínské technologické společnosti infrastrukturu v Africe, jihovýchodní Asii a Latinské Americe. Spolu s infrastrukturou přichází i architektura dohledu a model řízení.
Otázkou je, která vize role technologie ve společnosti se stane globálním standardem. Bude to americký model, kde jsou uživatelé produkty k zpeněžení? Čínský model, kde jsou občané subjekty pod dohledem? Nebo evropský model, kde jsou lidé občany s právy, která musí technologie respektovat?
Ekonomická příležitost ve třetí cestě
Někteří tvrdí, že evropský regulační přístup nevyhnutelně znevýhodní evropské společnosti v soutěži s méně regulovanými americkými a čínskými rivaly. To ale předpokládá, že budoucnost umělé inteligence vypadá jako současnost: platformy typu vítěz bere vše postavené na dohledu.
My vidíme jinou budoucnost. Jak se umělá inteligence přesouvá do kritické infrastruktury, zdravotnictví, finančních služeb a fyzické automatizace, tolerance vůči nespolehlivým a nevysvětlitelným systémům bude klesat, ne růst. Trh bude vyžadovat to, co Evropa už vyžaduje.
Vezměme si podnikový trh. Velké organizace nechtějí umělou inteligenci, která by mohla halucinovat odpovědi nebo dělat rozhodnutí, která nedokážou vysvětlit regulátorům. Nechtějí systémy, které by mohly porušovat zákony o ochraně soukromí a generovat pokuty v miliardách eur. Nechtějí závislost na zahraničních poskytovatelích, kteří by mohli být zneužiti prostřednictvím vývozních kontrol nebo sankcí.
Chtějí přesně to, co evropská regulace podporuje: spolehlivou, vysvětlitelnou a suverénní umělou inteligenci, které mohou svěřit své nejcitlivější operace.
Evropa se nereguluje do bezvýznamnosti. Evropa definuje specifikace pro systémy umělé inteligence, které podnikový trh skutečně potřebuje. Společnosti, které tyto specifikace dokážou splnit, získají přístup k nejnáročnějším a nejhodnotnějším tržním segmentům na světě.
Cesta vpřed: hodnoty jako konkurenční výhoda
Příští desetiletí rozhodne o tom, zda umělá inteligence posílí lidský rozkvět, nebo urychlí manipulaci a kontrolu lidí. Výsledek není předem daný. Závisí na rozhodnutích, která se činí právě teď.
Evropská třetí cesta představuje sázku na to, že hodnoty a inovace nejsou protiklady. Že soukromí a schopnosti mohou koexistovat. Že regulace a pokrok se mohou vzájemně posilovat. Že technologie může sloužit lidské důstojnosti, nikoli ji podkopávat.
Ve společnosti Dweve budujeme technologii, která dokazuje, že tato sázka je správná. Naše 96% snížení spotřeby energie dokazuje, že udržitelná umělá inteligence je možná. Naše 100% vysvětlitelnost dokazuje, že transparentní umělá inteligence je dosažitelná. Naše distribuovaná architektura dokazuje, že suverénní umělá inteligence je praktická.
Nebudujeme umělou inteligenci navzdory evropským hodnotám. Budujeme ji právě kvůli evropským hodnotám. Tyto hodnoty jsou zakódovány do každé vrstvy naší architektury, od 1 937 algoritmů v Dweve Core přes 456 sad doménových omezení v Dweve Loom až po federativní ochranu soukromí v Dweve Mesh.
Budoucnost nepatří tomu, kdo se pohybuje nejrychleji. Patří tomu, kdo buduje systémy, kterým lidé skutečně mohou svěřit své životy, své živobytí a své demokracie.
Evropa tuto budoucnost buduje. A ve společnosti Dweve jsme hrdí, že stojíme v jejím čele.
Jste připraveni budovat umělou inteligenci evropským způsobem? Dweve dokazuje, že nemusíte volit mezi inovacemi a hodnotami, mezi schopnostmi a souladem s předpisy, mezi pokrokem a soukromím. Kontaktujte nás a zjistěte, jak vám naše na člověka zaměřená, vysvětlitelná a suverénní umělá inteligence může poskytnout konkurenční výhodu důvěry.