Какво Европа бърка относно независимостта на ИИ
Грешният въпрос в правилната зала
Залата беше от типа, който Европа умее да създава: практични столове, кафе, което явно беше пострадало, табелки с имена, оборудване за симултанен превод, от което никой нямаше нужда, и заглавие на панела, съдържащо думата стратегически. Темата беше независимостта в областта на ИИ. Първият въпрос на модератора беше предвидим. Трябва ли Европа да изгради собствен граничен модел?
Това не е глупав въпрос. Моделите имат значение. Изчислителната мощ има значение. Изследователският капацитет има значение. Ако даден континент не може да обучава, оценява, адаптира или внедрява сериозни модели, ще прекара следващото десетилетие в преговори с чужди пътни карти. Това не е независимост. Това е снабдяване с флаг върху него. Но въпросът все пак е твърде тесен. Той третира независимостта като един-единствен обект: един модел, един облак, една чип програма, един национален шампион, един пакет от политики, едно великолепно прерязване на лентата, където сървърите бръмчат и всички се преструват, че сметката за ток е културно постижение.
Независимостта в областта на ИИ не е един обект. Тя е оперативна позиция. Това е способността да избираш между доставчици, без да губиш мисията, да проверяваш системите, които засягат правата и услугите, да преместваш работни натоварвания, когато законът или разходите се променят, да изпълняваш критични функции под напрежение, да запазваш местна компетентност, да държиш данните и доказателствата под отговорен контрол и да казваш „не“, без организацията да се срине в опашка за помощна линия. Независимостта не е изолация. Тя е лост с памет.
Европа често греши тук, защото посяга към най-видимия слой. Моделът е видим. Центърът за данни е видим. Съобщението е видимо. Скучните контролни пътища са по-малко видими: самоличност, ключове, регистриране, преносимост, стандарти, права за снабдяване, методи за оценка, правомощия при инциденти, канали за таланти, енергийни договори и правно-оперативната карта на това кой може да наложи какво. И все пак тези скучни пътища решават дали една система може да бъде управлявана след прессъобщението. Суверенитетът често е скрит в административната конзола, което е грубо от негова страна, но е в съответствие със софтуера.
Независимостта не е автаркия
Първата грешка е да се бърка независимостта с правенето на всичко сами. Европа не трябва да добива всеки материал, да проектира всеки чип, да обучава всеки модел, да хоства всяка услуга, да пише всяка библиотека и да произвежда всеки кабел, преди да може да действа с автономия. Този стандарт би направил всяка държава на земята зависима по дефиниция, а и доста уморена. Съвременната технология е сътрудничеща. Въпросът не е дали има зависимости. Ще има. Въпросът е дали зависимостите са четливи, заменими, управлявани и съвместими с задълженията на институцията.
Автаркията е фантазия със склад към нея. Привлекателна е, защото предлага психологическа прегледност. Ако притежаваме целия стек, гласи аргументът, ние сме свободни. На практика притежаването на всеки слой може да създаде нова крехкост: по-малки пазари, по-бавно развитие, дублирана работа, недофинансирана поддръжка, тесни кадрови резерви и системи, които са локални, но посредствени. Локалната зависимост пак си е зависимост. Европейската черна кутия си остава черна кутия, просто с по-добри влакови връзки.
По-здравословната цел е стратегическата опционалност. Запазете достатъчно капацитет в Европа, за да разбирате, оценявате, адаптирате и експлоатирате AI системи. Изграждайте отворени интерфейси, където е възможно. Поддържайте преносими формати за данни. Контролирайте чувствителните записи и ключове. Финансирайте капацитет за оценка и проверка. Осигурете възможност на публичните институции да сменят доставчик, без да оставят собствената си история зад гърба си. Подкрепяйте локална инфраструктура за работни натоварвания, които изискват локалност, устойчивост или правна отчетност. Използвайте глобални технологии, където помагат, но не позволявайте удобството да се превърне в конституционна архитектура.
Това е по-малко задоволяващ лозунг. Но е и по-добър план. Независимостта не означава отказ от всяка външна услуга. Тя означава да не се допусне нито една услуга, стандарт, регион, доставчик или правен режим да се превърне в единствения практичен път за важна работа. Разликата има значение. Едната позиция казва „не“ на света. Другата казва „да“, но с изходи, доказателства и компетентни възрастни, които четат договора преди четвъртото кафе.
Моделът не е контролната равнина
Втората грешка е да се третира моделът като единствения център на властта. Основните модели са важни. Те оформят възможностите, разходите, езиковото покритие, поведението на безопасност и пазарния лост. Европа трябва да се интересува от тях. Но моделът, оставен сам, не е AI система. Истинските системи включват приемане на данни, идентичност, извличане, подкани, извиквания на инструменти, политически порти, регистриране, човешки преглед, тръбопроводи за внедряване, наблюдение, фактуриране, достъп за поддръжка и реакция при инциденти. Контролът често се намира в тези слоеве.
Болница, която използва външен модел с локални данни, локално извличане, локални ключове, одитирани подкани, контролиран достъп до инструменти и тестван резервен вариант, може да има по-голяма практическа независимост от болница, която използва номинално локален модел чрез непрозрачна платформа, притежаваща идентичността, регистрационните файлове, актуализациите и изхода. Националността на модела има значение. Тя не отговаря магически на въпроса кой може да проверява, променя, спира, експортира, доказва или отказва.
Ето защо моделният национализъм може да се превърне в разсейване. Един континент може да финансира отлични модели и пак да остане зависим, ако методите за оценка, платформите за внедряване, контролните равнини на облака, патентованите инструменти и тръбопроводите за данни са заключени другаде. По същия начин, по-малък модел може да бъде стратегически полезен, ако работи локално, е проверим, поддържа добре европейските езици, може да бъде фино настроен или ограничен за домейн работа и участва в отчетни работни процеси. Възможност без контрол е наета мощ. Контрол без възможност е принципна фрустрация. Европа има нужда и от двете, което е досадно, защото и двете изискват работа.
Контролната равнина включва ежедневните права, които решават дали една институция може да действа. Може ли да замрази версия на модела. Може ли да възпроизведе резултат. Може ли да докаже кои данни са въведени. Може ли да види достъпа за поддръжка. Може ли да работи офлайн за основни задачи. Може ли да премине от един доставчик към друг. Може ли да одитира извикване на инструмент. Може ли да задава политика на ръба. Може ли да отговори на въпрос на регулатор, без да превърне правния отдел в браузър плъгин.
Обществените поръчки могат тихо да заличат суверенитета
Европа има дарба за регулации и слабост към навици в обществените поръчки, които на практика обезсилват регулациите. Една публична институция може да напише внимателни принципи, а после да купи платформа, чиито условия по подразбиране затрудняват проверката, чийто път за износ на данни е слаб, чието регистриране е със затворен код, чието ценообразуване наказва преместването и чийто модел на поддръжка пресича граници, които никой не е картографирал. Съобщението за медиите казва отговорни иновации. Договорът казва моля, подайте заявка.
Обществените поръчки не са административна формалност. Те са конституционни за цифровите системи. Купувачът избира кои права оцеляват при първия допир с внедряването. Ако тръжните документи изискват само функции, цена, сертификация за сигурност и дата на доставка, доставчиците ще оптимизират точно за тях. Ако изискват също преносимост, доказателства, локален контрол върху ключовете, отворени интерфейси, замразяване на версии, подкрепа за одити, задължения при инциденти, обработка на производни данни и реалистични тестове за изход, пазарът получава различен сигнал. Европа не може да регулира пътя си към независимост, докато масово купува зависимост.
Същото важи и за оценяването. Купувачите обичат бенчмарк числа, защото числата изглеждат решителни пред комисии. Бенчмарковете имат стойност, но независимостта изисква по-широки тестове. Може ли системата да отговаря на малцинствени езици и регионални термини. Може ли да цитира контролирани източници. Може ли да отказва опасни задачи според местната политика. Може ли да пази регистри, които са полезни при обжалване. Може ли да работи, когато отдалечена услуга е недостъпна. Може ли екип да възпроизведе спорен резултат. Може ли доставчикът да обясни промяна в модела, преди тя да засегне публичната услуга. Може ли институцията да мигрира без година на ритуално страдание.
Обществените поръчки трябва да оферират изхода от първия ден. Не защото всеки доставчик ще се провали, а защото способността да напуснеш е това, което прави отношенията честни. Договор без изпитан път за изход е зависимост в официално облекло. Много почтено. Пак си зависимост.
Суверенитетът на данните не е същото като независимостта на ИИ
Европа говори много за суверенитет на данните и с право. Записите за граждани, пациенти, работници, студенти, компании, инфраструктура и научни изследвания не бива да се движат през системи без отговорен контрол. Но суверенитетът на данните сам по себе си не е независимост на ИИ. Един набор от данни може да остане локален, докато работният процес зависи изцяло от отдалечена точка за извод, собствен модел за вграждане, външна услуга за оценяване, затворен слой за оркестрация или екип за поддръжка с права при спешни случаи, които никой не може да провери.
ИИ създава производни артефакти. Подсказки, вграждания, обобщения, класации, кешове, следи, примери за оценка, регистри за безопасност, етикети за обратна връзка и записи за адаптиране на модела могат да носят значение от оригиналните данни. Ако политиката за независимост защитава само изходния запис, тя пропуска голяма част от оперативната повърхност. Локална база данни с отдалечени производни може да удовлетвори карта и да се провали при преглед.
Практическият въпрос е наследяването. Кои производни артефакти наследяват ограниченията на изходните данни. Кои могат да напуснат институцията. Кои могат да се използват за подобрение. Кои изтичат. Кои са записи. Кои са доказателства. Кои могат да бъдат изтрити. Кои стават обучителен материал. Без ясно наследяване ИИ проектите развиват позната миризма: всички са уверени в срещата и неясни в диаграмата. Тогава холандците ще поискат диаграмата, затова понякога ни канят късно.
Независимостта изисква права върху данните плюс процесни права. Институцията трябва да контролира как данните стават вход, как входът става контекст на модела, как контекстът става изход, как изходът става действие и как всяка стъпка се записва. Данните не седят учтиво в една кутия, докато ИИ системата се случва някъде другаде. Те се движат, трансформират се и оставят следи. Суверенитетът следва тези следи или се превръща в документи с хубаво лого.
Изчислителната мощ е капацитет, не идентичност
Друга грешка е превръщането на изчислителната мощ в символ на чистота. Европа се нуждае от повече изчислителен капацитет, особено за научни изследвания, натоварвания от обществен интерес, индустриална адаптация и критични услуги. Нуждае се от енергийно осъзнато планиране, споделени съоръжения, по-добър достъп за университети и МСП и инфраструктура, която не принуждава всеки сериозен експеримент в чужда опашка. Но самата изчислителна мощ не създава независимост. Стойка с ускорители е възможност, не стратегия.
Полезните въпроси са оперативни. Кой може да получи достъп до изчислителната мощ. При какви условия. За кои натоварвания. С какви гаранции за локалност на данните. С какъв модел на отчитане. С какъв софтуерен стек. С какъв енергиен профил. С какъв план за поддръжка. Кои натоварвания се нуждаят от висококачествено обучение. Кои се нуждаят от ефективен извод. Кои се нуждаят от внедряване с приоритет на процесора или в периферията. Кои се нуждаят от детерминирано възпроизвеждане. Кои се нуждаят от поверителни изчисления. Кои трябва да продължат да работят при геополитически или търговски стрес.
Европейската стратегия за изчислителна мощ трябва да избягва две мързеливи крайности. Едната казва, че всичко важно изисква възможно най-големия клъстер от ускорители, за предпочитане обявен със заснемане от дрон. Другата казва, че умният софтуер сам по себе си премахва нуждата от сериозен хардуер. И двете са непълни. Някои работи се нуждаят от масивна изчислителна мощ. Някои работи се нуждаят от по-малко, локално, ефективно и проверимо изпълнение. Независимостта е способността да се съчетае натоварването с позицията, вместо да се прокарва всеки проблем през същата скъпа врата.
Енергията също има значение. Политика за изчислителна мощ, която игнорира наличието на енергия, ограниченията на мрежата, повторното използване на топлина и дългосрочните оперативни разходи, не е стратегическа. Тя е отоплителен план с токени. Европа не може да изгради надеждна ИИ независимост, като внесе една зависимост и я превърне в друга. Изчислителната мощ трябва да се планира с енергията, местоположението, таланта и обществената стойност в една и съща рамка.
Стандартите са инфраструктура в ежедневни дрехи
Европа понякога подценява силата на скучните стандарти. Отворените формати, оперативната съвместимост на самоличността, преносимите моделни пакети, одитируемите регистри, документацията на наборите от данни, протоколите за оценка, изразяването на политики, записите за произход и описанията на работните натоварвания могат да направят повече за независимостта, отколкото поредният стратегически документ със син корпус. Стандартите намаляват разходите за преминаване. Те позволяват на по-малките доставчици да участват. Те правят публичните купувачи по-малко зависими от една единствена реализация. Те позволяват на регулаторите да задават точни въпроси. Те помагат на екипите да преминат от пилотен проект към реална експлоатация, без да преписват света.
Стандартите не са бляскави, защото успехът им изглежда като нищо особено да не се е случило. Един набор от данни се премества и продължава да означава същото. Един модел се заменя и средата за оценка продължава да работи. Един регистър се експортира и остава полезен. Една политика се изразява веднъж и се проверява в няколко среди за изпълнение. Една публична институция може да сравнява доставчици, без да превежда всеки отговор от патентован диалект. Това е бюрократичният еквивалент на водопровода. Никой не ръкопляска на тръбата, докато не се спука, и тогава всички страстно се интересуват от водопроводството.
Независимостта изисква също и публична поддръжка. Отворените стандарти и инструменти загиват без поддържащи ги хора. Европа е финансирала много пилотни проекти и твърде малко скучни дългосрочни домове. Това не е само технологичен проблем. Това е проблем на бюджетното въображение. Континентът харесва новостни грантове и не обича да плаща за нещото, което продължава да работи, след като новостта е отишла на друга конференция. Независимостта на ИИ ще изисква бюджети за поддръжка, референтни реализации, тестове за съответствие, документация и хора, чиято работа е да поддържат споделената инфраструктура скучно жива.
Тук малките и средните организации имат значение. Ако само най-големите фирми и министерства могат да спазват архитектурата на независимостта, архитектурата няма да бъде независима на системно ниво. Тя ще централизира компетентността. Стандартите трябва да позволяват на болница, град, производител, училище, изследователска група и стартъп да възприемат частите, от които се нуждаят, без да наемат постоянен комитет. Сложността понякога е необходима. Да я направиш несподеляема е избор.
Талантът е най-дълбоката зависимост
Най-важната зависимост не е модел или чип. Това е експертизата. Континент, който не може да разбере собствените си AI системи, не може да бъде независим, независимо къде се намират сървърите. Талантът означава изследователи, инженери, отговорници за данни, специалисти по сигурност, експерти по обществени поръчки, юристи, които разбират оперативните системи, експерти в дадена област, които могат да оценяват резултатите, и мениджъри, които могат да задават конкретни въпроси, вместо да искат иновации с отговорен оттенък.
Европа има силен талант. Тя също така изтича от талант, разпилява таланта, недоизползва таланта в публичния сектор и често разделя техническата, правната и оперативната експертиза в стаи, които се срещат едва когато нещо вече е станало скъпо. Независимостта на AI изисква смесена компетентност. Служител по обществени поръчки трябва да разбира правата при прекратяване на договор. Юрист трябва да разбира регистрационните файлове и производните данни. Инженер трябва да разбира правното основание и обжалването. Експерт в дадена област трябва да има правомощия при оценката. Мениджър трябва да знае кога даден бенчмарк е театър.
Това отчасти е въпрос на образование и отчасти на проектиране на длъжностите. Ако публичните институции купуват AI, но не запазват вътрешна техническа памет, те стават зависими дори при перфектни договори. Ако компаниите възлагат на външни изпълнители всяка критична операция, те губят мускулите да оспорват доставчиците. Ако университетите обучават създатели на модели, но не и оценители, поддържащи, одитори и отговорници за данни, екосистемата става впечатляваща на демонстрации и слаба в производство. Независимостта се носи от хора, които могат да инспектират, адаптират и поправят. Хората, неудобно, изискват заплати и време.
Добрата новина е, че талантът се натрупва, когато работи върху реална инфраструктура. Споделени тестови среди, публични набори от данни с управление, локален достъп до изчислителни ресурси, отворени пакети за оценка, междусекторни стипендии и лаборатории за обществени поръчки могат да създадат практическо владеене. Лошата новина е, че това е по-бавно от обявяването на платформа. Европа обича платформите. Платформите обичат да бъдат обявявани. Компетентността обича да се практикува.
Цикъл на решения за независимост
Независимостта на AI трябва да се управлява като цикъл, а не като декларация. Започнете с класификация на мисията. Кои работни процеси са критични. Кои засягат права. Кои изискват локална работа. Кои могат да толерират външна зависимост. Кои изискват по-висока производителност повече от строга локалност. Кои се нуждаят от доказателства повече от скорост. Не всяко натоварване заслужава една и съща позиция. Отнасянето към всичко като към екзистенциално прави управлението неизползваемо. Отнасянето към всичко като към обикновено прави докладите за инциденти образователни.
След това нанесете зависимостите. Данни, изчисления, модел, среда за изпълнение, идентичност, ключове, регистрационни файлове, поддръжка, оценка, правен обхват, енергия, талант и изход. Нанесете ги за нормална работа и за стрес. Стресът е мястото, където зависимостите престават да бъдат теоретични. Какво се случва, когато доставчик промени условията, регион се провали, закон се промени, появи се уязвимост, регулатор поиска доказателства или обществена услуга трябва да продължи по време на разделяне на мрежата.
След това изберете позиция. Някои натоварвания могат да използват външни API с ясни записи. Някои се нуждаят от регионален хостинг. Някои се нуждаят от локална среда за изпълнение с външни модели. Някои се нуждаят от отворени модели. Някои се нуждаят от споделени публични изчисления. Някои се нуждаят от пълна изолация. Въпросът не е да се коронова една архитектура. Въпросът е да се предотврати архитектура по подразбиране. По подразбиране е как зависимостта става невидима.
След това тествайте и преразглеждайте. Провеждайте тренировки за изход. Възпроизвеждайте резултати. Преглеждайте регистрационни файлове. Преместете примерно натоварване. Замразете версия на модел. Ротирайте ключове. Попитайте дали нов модел е променил поведението. Проверете езиковото представяне. Инспектирайте производни данни. Измервайте разходите във времето. Независимост, която никога не се тества, е настроение. Европа има достатъчно настроения. Тя се нуждае от оперативни доказателства.
Европейското предимство, ако решим да го използваме
Европа наистина има предимства. Разполага със силни публични институции, отраслова експертиза, многоезична реалност, регулаторен опит, изследователска дълбочина, индустриални ниши, дигитална грамотност и културна склонност да задава неудобни процесни въпроси още преди обяд. Последното е подценено. Системите с изкуствен интелект се нуждаят от неудобни процесни въпроси. Те се нуждаят от хора, които питат откъде са дошли данните, кой може да обжалва, коя версия е изпълнена, дали източникът не е остарял, кой притежава изключението и защо фактурата вече прилича на регионален инфраструктурен проект.
Предизвикателството е тези предимства да се превърнат в оперативен капацитет. Регулацията без прилагане се превръща в бюрокрация. Изследването без внедряване се превръща в цитиране. Обществената поръчка без изход се превръща в зависимост. Инфраструктурата без талант се превръща в паметник. Талантът без власт се превръща в разочарование. На Европа не ѝ липсват съставки. Често ѝ липсва свързващата тъкан между тях.
Независимостта на изкуствения интелект затова трябва да се измерва по-малко с това колко високо обявяваме автономия и повече с това какво институциите реално могат да правят. Може ли град да управлява услуга с изкуствен интелект и да обясни всеки важен път на решение. Може ли болница да държи критичния извод близо до чувствителните записи. Може ли производител да адаптира модели, без да раздава технологично ноу-хау. Може ли училище да проверява инструментите, които оформят учебните записи. Може ли регулатор да възпроизведе оспорвани резултати. Може ли стартъп да продава на публични пазари, без да преизгражда за всяка патентована платформа. Може ли изследователска група да получи достъп до изчислителни ресурси, без да стане хоби на търговец.
Това е по-малко драматично от заглавията за водещите модели. Но точно там независимостта става реална. Един континент не е независим, защото съществува един шампион. Той е независим, когато много институции имат достатъчно обща основа и достатъчно местна власт, за да действат добре.
Урокът
Това, което Европа греши по отношение на независимостта на изкуствения интелект, е навикът да търси един символ: един модел, един център за данни, едно облачно правило, един индустриален герой, една регулация, една платформа. Символите имат значение, но те не управляват системи. Независимостта е практическата способност да избираш, проверяваш, преместваш, отказваш, поправяш и продължаваш да служиш на мисията, когато условията се променят.
Това изисква модели и изчислителни ресурси, да. Изисква също контролни равнища, правила за наследяване на данни, права по обществени поръчки, отворени стандарти, капацитет за оценка, енергийно планиране, местна компетентност и изпитани изходи. Изисква култура, която третира скучните оперативни права като стратегически активи. Изисква приемане на зависимост там, където тя е управлявана, и намаляване на зависимостта там, където тя тихо се превръща във власт.
Европа не трябва да се стреми към самота. Тя трябва да се стреми да бъде трудна за притискане в капан. Това е по-добра дефиниция за независимост на свързан континент. Сътрудничете широко, купувайте интелигентно, изграждайте там, където е необходимо, поддържайте споделеното, дръжте доказателствата близо и запазете правото да промените курса. Може би по-малко героично. По-суверенно.