Европейският „трети път“: нито Див запад, нито държавен контрол
Въпросът, който никой не зададе, докато не стана твърде късно
През 2004 г. Марк Зукърбърг стартира Facebook от стаята си в общежитието на Харвард. През 2005 г. YouTube започна да работи. През 2007 г. iPhone революционизира мобилните изчисления. През 2008 г. Сатоши Накамото публикува документа за Bitcoin. През 2012 г. ImageNet доказа, че дълбокото обучение може да постигне свръхчовешки резултати.
През този период на експлозивни технологични промени един решаващ въпрос остана почти напълно незададен: Какво общество искаме тези технологии да създадат?
Инженерите и предприемачите, които изграждаха тези системи, бяха фокусирани върху възможностите. Можеха ли да направят мрежата по-бърза? Можеха ли да направят алгоритъма по-умен? Можеха ли да направят платформата по-ангажираща? Успехът се измерваше в потребители, транзакции, изчислителни цикли и цена на акциите.
Въпросът за ценностите се смяташе за чужд проблем. Или се предполагаше, че пазарът ще оправи нещата. Или беше отхвърлян като грижа на лудити, които просто не разбират технологията.
Две десетилетия по-късно живеем с последствията от този пропуск. Цяло поколение тийнейджъри се бори с кризи на психичното здраве, влошени от пристрастяващи алгоритми на социалните медии. Демократичните избори са били манипулирани от чужди противници, използващи същите инструменти за таргетиране, създадени за продажба на реклама. Цели населения са под постоянно наблюдение, всяко тяхно движение и транзакция са каталогизирани както от правителства, така и от корпорации.
Въпросът не беше зададен, затова отговорът се появи по подразбиране. И отговорът по подразбиране беше оформен от този, който се движеше най-бързо и най-малко го беше грижа за страничните ефекти.
Двата доминиращи модела: различни провали
Тъй като изкуственият интелект се очертава като може би най-трансформиращата технология след електричеството, въпросът за ценностите вече не може да бъде избягван. В момента два доминиращи модела се конкурират за глобално влияние. И двата са се провалили по различни начини.
Американският модел: капитализъм на наблюдението
Американският подход към управлението на технологиите може да бъде обобщен с една фраза: нека пазарът реши, а регулирайте (може би) след като възникнат проблеми.
Този модел доведе до изключителни иновации. Силициевата долина създаде едни от най-успешните компании в историята на човечеството. Американските технологични гиганти доминират на световните пазари. Предприемаческата енергия и екосистемата за рисков капитал нямат аналог никъде по света.
Но моделът доведе и до изключителни вреди. Когато бизнес моделът ви зависи от максимизиране на ангажираността на потребителите, за да продавате повече таргетирана реклама, алгоритъмът не се интересува дали тази ангажираност идва от свързването на хората с техните общности или от разпалването на възмущение и разделение. Стимулите са структурно несъвместими с човешкото благополучие.
Платформите за социални медии, оптимизирани за ангажираност, откриха, че гневът се разпространява по-бързо от истината. Алгоритмите за препоръки научиха, че конспиративните теории генерират повече кликвания от фактологичните репортажи. Рекламните системи установиха, че микротаргетираната политическа манипулация е просто още един източник на приходи.
Американският модел третира тези явления като неприятни странични ефекти, които евентуално биха могли да бъдат адресирани от пазарните сили или, може би, от закъсняло регулиране. Но вредите не са бъгове в системата. Те са характеристики. Те произтичат пряко от структурните стимули на капитализма на наблюдението: извличане на максимални данни, максимизиране на ангажираността и екстернализиране на обществените разходи.
Китайският модел: цифров авторитаризъм
Китайският подход представлява противоположната крайност. Тук държавата не регулира технологиите; тя ги ръководи. Технологиите съществуват, за да служат на интересите на Китайската комунистическа партия.
Този модел също е постигнал впечатляващи резултати в тесен смисъл. Китай води в разпознаването на лица, автономните превозни средства в контролирана среда и автоматизацията на производството. Когато можете да разположите инфраструктура за наблюдение, без да се притеснявате за неприкосновеността на личния живот, някои видове развитие стават значително по-лесни.
Но моделът е създал общество под постоянно наблюдение. Системата за социален кредит проследява поведението на гражданите и ограничава възможностите за тези, които се смятат за недостатъчно лоялни. Големият файеруол гарантира, че китайските граждани не могат да получат достъп до информация, която партията смята за опасна. Наблюдението, задвижвано от изкуствен интелект, дава възможност за преследване на етническите малцинства в индустриален мащаб.
За тези извън Китай износът на този модел е също толкова тревожен. Китайските технологични компании продават инфраструктура за наблюдение на авторитарни правителства по целия свят. Цифровият път на коприната разпростира не само оптичните кабели, но и визията за технологията като инструмент за социален контрол.
Европа се пробужда: Прецедентът на GDPR
През първите две десетилетия на цифровата революция Европа изглеждаше като страничен наблюдател. Американски компании изграждаха платформите. Китайски компании произвеждаха хардуера. Европейците бяха потребители, не създатели. Приемащи правилата, не създаващи ги.
Повратната точка дойде с Общия регламент за защита на данните, който влезе в сила през 2018 г. Първоначално GDPR беше отхвърлен от Силициевата долина като бюрократичен прекаленост, която никога няма да се прилага. Те сгрешиха.
GDPR установи няколко революционни принципа, които сега променят глобалното технологично развитие:
- Поверителността като основно право, а не предпочитание, от което може да се откаже с едно кликване върху споразумение за условията на ползване
- Ограничение на целите: данни, събрани за една цел, не могат да се използват за друга без изрично съгласие
- Минимизиране на данните: събирайте само това, от което се нуждаете, и го пазете само колкото е необходимо
- Право на обяснение: хората имат право да разберат как се вземат автоматизираните решения, които ги засягат
- Право на изтриване: известното „право да бъдеш забравен“
Това, което направи GDPR трансформиращ, не бяха само принципите, а механизмът за прилагане. Глоби до 4% от годишния световен оборот привлякоха вниманието дори на най-големите технологични компании. И тъй като Европа представлява пазар от 450 милиона платежоспособни потребители, компаниите не можеха просто да игнорират правилата.
Резултатът беше „Брюкселският ефект“. Вместо да поддържат отделни продукти за Европа и останалия свят, много компании въведоха практики, съобразени с GDPR, в глобален мащаб. Европейското законодателство се превърна в де факто световен стандарт.
Актът за ИИ: Кодифициране на Третия път
Актът за ИИ на ЕС, който влезе в сила през 2024 г. с поетапно прилагане до 2027 г., представлява най-амбициозният опит досега за регулиране на изкуствения интелект. Той кодифицира европейския Трети път за ерата на ИИ.
Гениалността на Акта се състои в неговия подход, основан на риска. Вместо да третира целия ИИ еднакво, той създава категории:
- Недопустим риск (забранен): системи за социално оценяване, дистанционна биометрична идентификация в реално време в обществени пространства, манипулиране на уязвими групи, ИИ, който експлоатира човешки слабости
- Висок риск (силно регулиран): ИИ в критична инфраструктура, образование, заетост, основни услуги, правоприлагане, миграция, съдебни системи
- Ограничен риск (изисква се прозрачност): чатботове, системи за разпознаване на емоции, алгоритми за препоръчване на съдържание
- Минимален риск (нерегулиран): видеоигри с ИИ, спам филтри, повечето потребителски приложения
За системите с висок риск изискванията са съществени: системи за управление на риска, висококачествени обучителни данни с документиран произход, регистриране и проследимост, механизми за човешки надзор, тестване за точност и устойчивост, както и оценки за съответствие преди внедряване.
Критиците наричат този подход обременяващ. Те твърдят, че той ще забави иновациите и ще насочи развитието на ИИ към по-слабо регулирани юрисдикции. Но тази критика не разбира какво се опитва да постигне Третият път.
Защо регулирането създава конкурентно предимство
Помислете за авиационната индустрия. Изграждането на самолети е силно регулирано. Не можете просто да конструирате самолет в гаража си и да започнете да превозвате пътници. Всеки компонент трябва да отговаря на строги стандарти. Всеки процес трябва да бъде документиран. Всеки отказ трябва да бъде разследван.
Убило ли е това регулиране авиационните иновации? Очевидно не. Индустрията еволюира от братя Райт до Boeing 787 и до многократно използваеми ракети. Регулирането не попречи на иновациите; то ги насочи в посоки, които поддържат общественото доверие.
Именно защото авиацията е изключително безопасна, милиарди хора са готови да летят. Ако самолетите се разбиваха толкова често, колкото софтуерът се срива, авиокомпаниите не биха съществували. Регулирането създава доверието, което прави пазара възможен.
AI вече навлиза в области, където важи същата логика. Когато системите с изкуствен интелект управляват медицински диагнози, финансови решения и транспортна инфраструктура, потребителите ще изискват същото ниво на гарантирана надеждност, което очакват от авиацията. „Движи се бързо и чупи нещата“ не е приемлив подход, когато нещото, което може да бъде счупено, е здравето на пациент или финансовата сигурност на семейство.
Като установява ясни стандарти навреме, Европа създава пазар за „Премиум AI“, който отговаря на по-високи стандарти за надеждност и етика. Това не е ограничение за иновациите. Това е спецификация за нова категория продукти, която пазарът започва да изисква.
Цифров суверенитет: стратегическият императив
Отвъд индивидуалните права и доверието на пазара, европейският трети път се отнася до стратегически императив: цифровия суверенитет.
Пандемията разкри уязвимостта на Европа, когато веригите за доставка на медицинско оборудване минаваха през Китай. Войната в Украйна разкри уязвимостта на Европа, когато енергийните доставки минаваха през Русия. Същата уязвимост съществува и в технологиите.
Ако европейската критична инфраструктура зависи от американски облачни доставчици, европейските данни се съхраняват на американски сървъри, подчинени на американското законодателство, а европейските AI системи работят на чипове, произведени в Тайван или контролирани от американски експортни ограничения, то цифровото бъдеще на Европа е подчинено на чуждо вето.
Това не е хипотетичен сценарий. Законът CLOUD Act дава на американските власти правото да изискват данни от облачни доставчици, базирани в САЩ, независимо къде физически се съхраняват тези данни. Експортните ограничения могат да определят кои чипове са налични. Условията за ползване могат да се променят за една нощ, както откриха безброй компании, когато различни американски платформи промениха политиките си.
Истинският суверенитет изисква техническа независимост. Това означава европейска облачна инфраструктура, европейско производство на полупроводници (Законът CHIPS Act е начало), както и европейски AI системи, които не зависят от чужди контролни равнища.
Dweve: Изграждане на европейската алтернатива
В Dweve не просто спазваме европейските регулации. Ние изграждаме коренно различен подход към AI, който въплъщава европейските ценности от самото начало.
Поверителност чрез архитектура, а не чрез политика
Традиционните AI системи се обучават върху огромни масиви от данни, които може да включват лична информация, която след това се заплита в милиарди моделни параметри. Извличането на тази информация или доказването, че е изтрита, е практически невъзможно.
Архитектурата Binary Constraint Discovery на Dweve работи по различен начин. Знанието се представя като дискретни логически ограничения, а не като непрекъснати тегла. Личната информация никога не става част от основната структура на модела. Когато управлението на данните изисква изтриване, ограничението може да бъде премахнато, без да се засяга останалата част от системата.
Нашата платформа Dweve Spindle прилага седемстепенен епистемологичен конвейер, в който всяко знание се проследява от статут на кандидат през извличане, анализ, свързване, проверка, сертифициране и накрая до каноничен статут. Тази пълна проследимост означава, че можем да установим точно каква информация е повлияла на дадено решение и да проверим дали изтритите данни са надлежно премахнати.
Обяснимост по дизайн
Законът за AI на ЕС изисква потребителите, засегнати от AI решения, да имат право на обяснение. За повечето AI системи това е изключително трудно да се изпълни. Как обяснявате решение, произлязло от милиарди операции с плаваща запетая?
Системите на Dweve са стъклени кутии, а не черни кутии. Всяка следа от решение е напълно проверима. Когато Dweve Loom активира 4-8 от своите 456 специализирани набора от ограничения, за да обработи заявка, можем да покажем точно кои ограничения са приложени и защо.
Това не е просто театрално съответствие. То е фундаментално за начина, по който работи системата. Двоичните ограничения или важат, или не важат. Няма вероятностна двусмисленост. Обяснението е самото изчисление.
Суверенитет чрез инфраструктура
Системите на Dweve работят върху европейска инфраструктура. Нашите центрове за данни са в Нидерландия, Германия и Франция. Не зависим от американски облачни доставчици за основните си операции.
Нашата библиотека Dweve Core с 1 937 алгоритъма е оптимизирана за разнообразен хардуер: AMD, Intel, ARM и RISC-V. Не сме обвързани с веригата за доставка на нито един производител. Ако геополитически събития ограничат достъпа до конкретен хардуер, нашите системи продължават да работят с алтернативи.
Нашата разпределена изпълнителна среда Dweve Mesh позволява федерирано разгръщане, при което данните никога не напускат юрисдикцията на произхода си. Една организация може да участва в колективен интелект, като същевременно запазва пълен суверенитет върху данните си.
Глобалната конкуренция за норми в областта на ИИ
Залозите в тази конкуренция се простират далеч отвъд границите на Европа. Нормите, установени през следващото десетилетие, ще оформят начина, по който ИИ се развива в световен мащаб, за поколения напред.
Държави по целия свят наблюдават трите модела и решават кой да следват. Бразилия въведе защита на данните, подобна на GDPR. Япония прие рамки за поверителност, повлияни от европейските стандарти. Калифорния, домът на Силициевата долина, въведе щатски разпоредби за поверителност, които следват европейските прецеденти.
Но Китай също изнася своя модел. Чрез инициативата „Един пояс, един път“ и Дигиталния път на коприната китайските технологични компании изграждат инфраструктура в Африка, Югоизточна Азия и Латинска Америка. Заедно с инфраструктурата идват архитектурата за наблюдение и моделът на управление.
Въпросът е коя визия за ролята на технологиите в обществото ще се превърне в глобален стандарт по подразбиране. Дали ще е американският модел, при който потребителите са продукти, които трябва да се монетизират? Китайският модел, при който гражданите са обекти, които трябва да се наблюдават? Или европейският модел, при който хората са граждани с права, които технологиите трябва да зачитат?
Икономическата възможност в третия път
Някои твърдят, че европейският регулаторен подход неизбежно ще постави европейските компании в неизгодна позиция спрямо по-слабо регулираните американски и китайски конкуренти. Но това предполага, че бъдещето на ИИ прилича на настоящето: платформи, при които победителят взема всичко, изградени върху наблюдение.
Ние виждаме различно бъдеще. С навлизането на ИИ в критичната инфраструктура, здравеопазването, финансовите услуги и физическата автоматизация толерансът към ненадеждни и необясними системи ще намалее, а не ще се увеличи. Пазарът ще изисква точно това, което Европа вече налага.
Помислете за корпоративния пазар. Големите организации не искат ИИ, който може да халюцинира отговори или да взема решения, които не могат да обяснят пред регулаторите. Те не искат системи, които биха могли да нарушат законите за поверителност и да доведат до глоби от милиарди евро. Те не искат зависимост от чуждестранни доставчици, които биха могли да бъдат използвани като оръжие чрез контрол върху износа или санкции.
Това, което искат, е точно това, което европейското законодателство насърчава: надежден, обясним и суверенен ИИ, на който могат да се доверят за най-чувствителните си операции.
Европа не се регулира до незначителност. Европа определя спецификациите за AI системите, от които корпоративният пазар действително се нуждае. Компаниите, които могат да отговорят на тези спецификации, ще получат достъп до най-взискателните и най-ценните пазарни сегменти в световен мащаб.
Пътят напред: ценностите като конкурентно предимство
Следващото десетилетие ще определи дали AI ще усили човешкия просперитет или ще ускори манипулацията и контрола над хората. Изходът не е предопределен. Той зависи от изборите, които се правят сега.
Европейският трети път представлява облог, че ценностите и иновациите не са противоположности. Че поверителността и възможностите могат да съществуват едновременно. Че регулирането и напредъкът могат да се подсилват взаимно. Че технологията може да служи на човешкото достойнство, вместо да го подкопава.
В Dweve изграждаме технологията, която доказва, че този облог е правилен. Нашето 96% намаление на енергията доказва, че устойчивият AI е възможен. Нашата 100% обяснимост доказва, че прозрачният AI е постижим. Нашата разпределена архитектура доказва, че суверенният AI е практичен.
Ние не изграждаме AI въпреки европейските ценности. Ние изграждаме AI заради европейските ценности. Тези ценности са вплетени във всеки слой на нашата архитектура, от 1 937-те алгоритъма в Dweve Core до 456-те набора от ограничения за специализирани домейни в Dweve Loom и до защитите за федеративна поверителност в Dweve Mesh.
Бъдещето не принадлежи на този, който се движи най-бързо. То принадлежи на този, който изгражда системи, на които хората действително могат да се доверят с живота си, прехраната си и демокрациите си.
Европа изгражда това бъдеще. И в Dweve се гордеем, че сме на предния фронт.
Готови ли сте да изграждате AI по европейския начин? Dweve доказва, че не е нужно да избирате между иновации и ценности, между възможности и съответствие, между напредък и поверителност. Свържете се с нас, за да откриете как нашият човекоцентричен, обясним и суверенен AI може да даде на вашата организация конкурентното предимство на доверието.