Što Europa krivo shvaća o AI neovisnosti
Pogrešno pitanje u pravoj prostoriji
Prostorija je bila upravo onakva kakve Europa zna proizvesti: praktične stolice, kava koja je očito bila propatila, pločice s imenima, oprema za simultano prevođenje koju nitko nije trebao te naslov panela koji je sadržavao riječ strateški. Tema je bila neovisnost umjetne inteligencije. Prvo pitanje moderatora bilo je predvidljivo. Treba li Europa izgraditi vlastiti model na granici mogućeg?
To nije glupo pitanje. Modeli su važni. Računalna snaga je važna. Istraživačka sposobnost je važna. Ako kontinent ne može trenirati, vrednovati, prilagođavati ili uvoditi ozbiljne modele, sljedeće će desetljeće provesti pregovarajući o tuđim planovima. To nije neovisnost. To je nabava sa zastavom na njoj. No pitanje je ipak preusko. Ono tretira neovisnost kao da je jedan objekt: jedan model, jedan oblak, jedan program za čipove, jednog nacionalnog prvaka, jedan paket politika, jedno veličanstveno presijecanje vrpce gdje poslužitelji zuje i svi se pretvaraju da je račun za struju kulturno postignuće.
Neovisnost umjetne inteligencije nije jedan objekt. To je operativna pozicija. To je sposobnost biranja između dobavljača bez gubitka misije, nadzora nad sustavima koji utječu na prava i usluge, premještanja radnih opterećenja kada se promijeni zakon ili trošak, pokretanja kritičnih funkcija pod pritiskom, očuvanja lokalne stručnosti, držanja podataka i dokaza pod odgovornom kontrolom te mogućnosti reći ne bez urušavanja organizacije u red za podršku. Neovisnost nije izolacija. To je poluga s pamćenjem.
Europa to često shvaća pogrešno jer poseže za najvidljivijim slojem. Model je vidljiv. Podatkovni centar je vidljiv. Objava je vidljiva. Dosadne kontrolne putanje manje su vidljive: identitet, ključevi, zapisnici, prenosivost, standardi, prava nabave, metode vrednovanja, ovlasti za incidente, kanali talenata, energetski ugovori te pravno-operativna karta toga tko što može prisiliti. Ipak, te dosadne putanje odlučuju može li se sustavom upravljati nakon priopćenja za medije. Suverenitet se često krije u administrativnoj konzoli, što je nepristojno s njegove strane, ali dosljedno softveru.
Neovisnost nije autarkija
Prva je pogreška miješanje neovisnosti sa sve sami radimo. Europa ne mora iskopati svaki materijal, dizajnirati svaki čip, trenirati svaki model, hostati svaku uslugu, napisati svaku biblioteku i proizvesti svaki kabel prije nego što može djelovati s agencijom. Taj bi standard svaku zemlju na svijetu učinio ovisnom po definiciji, a i prilično umornom. Moderna tehnologija je suradnička. Pitanje nije postoje li ovisnosti. Postojat će. Pitanje je jesu li ovisnosti čitljive, zamjenjive, upravljane i usklađene s dužnostima institucije.
Autarkija je fantazija s pripojenim skladištem. Privlačna je jer nudi psihološku urednost. Ako posjedujemo cijeli stog, tvrdi se, slobodni smo. U praksi, posjedovanje svakog sloja može stvoriti novu krhkost: manja tržišta, sporija iteracija, duplicirani rad, nedovoljno financirano održavanje, uski fondovi talenata i sustavi koji su lokalni, ali osrednji. Lokalna ovisnost i dalje može biti ovisnost. Europska crna kutija i dalje je crna kutija, samo s boljim željezničkim vezama.
Zdraviji cilj je strateška opcijskost. Zadržati dovoljno sposobnosti unutar Europe za razumijevanje, procjenu, prilagodbu i upravljanje AI sustavima. Graditi otvorena sučelja gdje je to moguće. Održavati prijenosne formate podataka. Kontrolirati osjetljive zapise i ključeve. Financirati kapacitete za procjenu i verifikaciju. Osigurati da javne institucije mogu napustiti dobavljača bez napuštanja vlastite povijesti. Podržati lokalnu infrastrukturu za radna opterećenja koja zahtijevaju lokalnost, otpornost ili pravnu odgovornost. Koristiti globalnu tehnologiju gdje pomaže, ali ne dopustiti da pogodnost postane ustavna arhitektura.
Ovo je manje zadovoljavajući slogan. Također je bolji plan. Neovisnost nije odbijanje svake vanjske usluge. To je sprječavanje da bilo koja pojedinačna usluga, standard, regija, dobavljač ili pravni režim postane jedini praktični put za važan posao. Razlika je važna. Jedan stav govori ne svijetu. Drugi govori da, ali s izlazima, dokazima i kompetentnim odraslim osobama koje čitaju ugovor prije četvrte kave.
Model nije upravljačka ravnina
Druga pogreška je tretiranje modela kao cijelog središta moći. Temeljni modeli su važni. Oni oblikuju sposobnost, trošak, jezičnu pokrivenost, sigurnosno ponašanje i tržišnu polugu. Europa bi trebala brinuti o njima. Ali model koji stoji sam nije AI sustav. Pravi sustavi uključuju unos podataka, identitet, dohvat, upite, pozive alata, političke kapije, zapisivanje, ljudski pregled, implementacijske cjevovode, praćenje, naplatu, pristup podršci i odgovor na incidente. Kontrola često leži u tim slojevima.
Bolnica koja koristi vanjski model s lokalnim podacima, lokalnim dohvatom, lokalnim ključevima, revidiranim upitima, kontroliranim pristupom alatima i testiranom rezervnom opcijom može imati više praktične neovisnosti od bolnice koja koristi nominalno lokalni model kroz neprozirnu platformu koja posjeduje identitet, zapise, ažuriranja i izlaz. Nacionalnost modela je važna. Ona ne odgovara magično na pitanje tko može pregledati, promijeniti, suspendirati, izvesti, dokazati ili odbiti.
Zato model nacionalizam može postati distrakcija. Kontinent može financirati izvrsne modele i i dalje ostati ovisan ako su metode procjene, implementacijske platforme, oblačne upravljačke ravnine, vlasnički alati i podatkovni cjevovodi zaključani negdje drugdje. Jednako tako, manji model može biti strateški koristan ako radi lokalno, ako je pregledan, ako dobro podržava europske jezike, ako se može fino podesiti ili ograničiti za domenu rada i ako sudjeluje u odgovornim radnim tijekovima. Sposobnost bez kontrole je unajmljena moć. Kontrola bez sposobnosti je načelna frustracija. Europa treba oboje, što je neugodno jer oboje zahtijeva rad.
Upravljačka ravnina uključuje svakodnevna prava koja odlučuju može li institucija djelovati. Može li zamrznuti verziju modela. Može li reproducirati izlaz. Može li dokazati koji su podaci ušli. Može li vidjeti pristup podrške. Može li raditi izvan mreže za bitne zadatke. Može li prijeći s jednog dobavljača na drugog. Može li revidirati poziv alata. Može li postaviti politiku na rubu. Može li odgovoriti na pitanje regulatora bez pretvaranja pravnog odjela u preglednički dodatak.
Javna nabava može tiho poništiti suverenost
Europa ima dara za propise, ali i slabost prema navikama u javnoj nabavi koje te propise u praksi poništavaju. Javno tijelo može napisati pomna načela, a zatim kupiti platformu čiji zadani uvjeti otežavaju uvid, čiji je izvozni put slab, čija je evidencija vlasnička, čije cijene kažnjavaju promjenu dobavljača i čiji model podrške prelazi granice koje nitko nije mapirao. Priopćenje za medije kaže odgovorna inovacija. Ugovor kaže molimo podnesite zahtjev.
Javna nabava nije administrativna sitnica. Ona je ustavna za digitalne sustave. Kupac bira koja prava preživljavaju prvi dodir s provedbom. Ako dokumentacija natječaja traži samo značajke, cijenu, sigurnosnu certifikaciju i rok isporuke, dobavljači će se optimizirati za to. Ako se zatraže i prenosivost, dokazi, lokalna kontrola ključeva, otvorena sučelja, zamrzavanje inačica, podrška reviziji, obveze u slučaju incidenata, postupanje s izvedenicama podataka i realistični testovi izlaska, tržište dobiva drugačiji signal. Europa se ne može regulativom dokopati neovisnosti dok u velikim razmjerima kupuje ovisnost.
Isto vrijedi i za vrednovanje. Kupci vole brojke s mjerila jer brojke u odborima djeluju odlučno. Mjerila imaju vrijednost, ali neovisnost zahtijeva šire testove. Može li sustav odgovarati na manjinskim jezicima i regionalnim nazivima. Može li citirati kontrolirane izvore. Može li odbiti nesigurne zadatke u skladu s lokalnom politikom. Može li čuvati evidencije korisne za žalbu. Može li raditi kada je udaljena usluga nedostupna. Može li tim reproducirati sporni rezultat. Može li dobavljač objasniti promjenu modela prije nego što utječe na javnu uslugu. Može li institucija migrirati bez godine obrednog trpljenja.
Javna nabava treba cijenu izlaska uračunati od prvog dana. Ne zato što će svaki dobavljač podbaciti, nego zato što mogućnost odlaska čini odnos poštenim. Ugovor bez ispitanog izlaznog puta ovisnost je u svečanom odijelu. Vrlo ugledna. I dalje ovisnost.
Suverenost podataka nije isto što i neovisnost umjetne inteligencije
Europa mnogo govori o suverenosti podataka, i to s pravom. Zapisi o građanima, pacijentima, radnicima, studentima, tvrtkama, infrastrukturi i istraživanjima ne bi smjeli lutati sustavima bez odgovorne kontrole. No suverenost podataka sama po sebi nije neovisnost umjetne inteligencije. Skup podataka može ostati lokalno pohranjen dok tijek rada u potpunosti ovisi o udaljenoj krajnjoj točki za zaključivanje, vlasničkom modelu za ugradnju, vanjskoj usluzi za vrednovanje, zatvorenom sloju za orkestraciju ili timu za podršku s hitnim pravima koja nitko ne može nadzirati.
AI stvara izvedene artefakte. Upiti, ugradnje, sažeci, rangiranja, predmemorije, tragovi, primjeri za evaluaciju, sigurnosni dnevnici, oznake povratnih informacija i zapisi o prilagodbi modela mogu prenositi značenje iz izvornih podataka. Ako politika neovisnosti štiti samo izvorni zapis, propušta velik dio operativne površine. Lokalna baza podataka s udaljenim izvedenicama može zadovoljiti kartu, a pasti na reviziji.
Praktično je pitanje nasljeđivanje. Koje izvedene artefakte nasljeđuju ograničenja izvornih podataka. Koji smiju napustiti ustanovu. Koji se smiju koristiti za poboljšanje. Koji istječu. Koji su zapisi. Koji su dokazi. Koji se mogu izbrisati. Koji postaju materijal za obuku. Bez jasnog nasljeđivanja, AI projekti razvijaju poznati miris: svi su uvjereni na sastanku, a nejasni na dijagramu. Nizozemci će zatim tražiti dijagram, zbog čega nas ponekad pozovu kasno.
Neovisnost zahtijeva prava na podatke plus prava na proces. Ustanova mora kontrolirati kako podaci postaju ulaz, kako ulaz postaje kontekst modela, kako kontekst postaje izlaz, kako izlaz postaje djelovanje i kako je svaki korak zabilježen. Podaci ne sjede pristojno u jednoj kutiji dok se AI sustav događa negdje drugdje. Oni se kreću, transformiraju i ostavljaju tragove. Suverenitet prati te tragove ili postaje papirologija s lijepim logotipom.
Računalna snaga je kapacitet, ne identitet
Druga je pogreška pretvaranje računalne snage u simbol čistoće. Europa treba više računalnog kapaciteta, osobito za istraživanje, radna opterećenja od javnog interesa, industrijsku prilagodbu i kritične usluge. Treba planiranje svjesno energije, zajedničke objekte, bolji pristup za sveučilišta i mala i srednja poduzeća te infrastrukturu koja ne tjera svaki ozbiljan eksperiment u strani red čekanja. Ali računalna snaga sama po sebi ne stvara neovisnost. Polica akceleratora mogućnost je, ne strategija.
Korisna su pitanja operativna. Tko može pristupiti računalnoj snazi. Pod kojim uvjetima. Za koja radna opterećenja. Uz koja jamstva lokalnosti podataka. Uz koji model obračuna. Uz koji softverski stog. Uz koji energetski profil. Uz koji plan održavanja. Koja radna opterećenja trebaju vrhunsku obuku. Koja trebaju učinkovito zaključivanje. Koja trebaju implementaciju s CPU-om na prvom mjestu ili na rubu. Koja trebaju determinističku reprodukciju. Koja trebaju povjerljivo računalstvo. Koja moraju nastaviti raditi tijekom geopolitičkog ili komercijalnog stresa.
Europska strategija računalne snage trebala bi izbjegavati dvije lijene krajnosti. Jedna kaže da sve važno zahtijeva najveći mogući klaster akceleratora, po mogućnosti najavljen snimkom iz drona. Druga kaže da pametan softver sam po sebi uklanja potrebu za ozbiljnim hardverom. Obje su nepotpune. Neki posao zahtijeva ogromnu računalnu snagu. Neki posao zahtijeva manju, lokalnu, učinkovitu i provjerljivu izvedbu. Neovisnost je sposobnost uskladiti radno opterećenje s položajem, umjesto da se svaki problem gura kroz ista skupa vrata.
Energija je također važna. Politika računalne snage koja ignorira dostupnost struje, ograničenja mreže, ponovnu upotrebu topline i dugoročne operativne troškove nije strateška. To je plan grijanja sa žetonima. Europa ne može izgraditi vjerodostojnu AI neovisnost uvozeći jednu ovisnost i pretvarajući je u drugu. Računalna snaga mora se planirati s energijom, lokacijom, talentom i javnom vrijednošću u istom okviru.
Standardi su infrastruktura u običnom ruhu
Europa ponekad podcjenjuje moć dosadnih standarda. Otvoreni formati, interoperabilan identitet, prijenosni paketi modela, provjerljivi zapisnici, dokumentacija skupova podataka, evaluacijski protokoli, izražavanje politika, zapisi o podrijetlu i opisi radnih opterećenja mogu učiniti više za neovisnost nego još jedan strateški dokument s plavim koricama. Standardi smanjuju troškove promjene dobavljača. Omogućuju manjim dobavljačima sudjelovanje. Čine javne kupce manje ovisnima o jednoj implementaciji. Regulatorima omogućuju postavljanje preciznih pitanja. Timovima pomažu prijeći s pilot-projekta na operativnu uporabu bez ponovnog izmišljanja svijeta.
Standardi nisu glamurozni jer njihov uspjeh izgleda kao da se ništa posebno nije dogodilo. Skup podataka se premjesti i i dalje znači istu stvar. Model se zamijeni, a evaluacijski okvir i dalje radi. Zapisnik se izveze i ostaje koristan. Politika se izrazi jednom i provjeri u nekoliko izvođačkih okruženja. Javna institucija može usporediti dobavljače bez prevođenja svakog odgovora iz vlasničkog dijalekta. To je birokratski ekvivalent vodovoda. Nitko ne plješće cijevi dok ne zakaže, a tada svi postanu strastveni oko vodovoda.
Neovisnost također zahtijeva javno održavanje. Otvoreni standardi i otvoreni alati propadaju bez održavatelja. Europa je financirala mnoge pilot-projekte, a premalo dosadnih dugoročnih domova. To nije samo tehnološki problem. To je problem proračunske mašte. Kontinent voli potpore za novosti, a ne voli plaćati ono što nastavlja raditi nakon što novost ode na drugu konferenciju. Neovisnost umjetne inteligencije zahtijevat će proračune za održavanje, referentne implementacije, testove usklađenosti, dokumentaciju i ljude čiji je posao održavati zajedničku infrastrukturu dosadno živom.
Ovdje su male i srednje organizacije važne. Ako samo najveće tvrtke i ministarstva mogu udovoljiti arhitekturi neovisnosti, arhitektura neće biti neovisna na razini sustava. Centralizirat će kompetencije. Standardi bi trebali bolnici, gradu, proizvođaču, školi, istraživačkoj skupini i startupu omogućiti usvajanje dijelova koji su im potrebni bez zapošljavanja stalnog odbora. Složenost je ponekad nužna. Učiniti je nedjeljivom izbor je.
Talent je najdublja ovisnost
Najvažnija ovisnost nije model ili čip. To je stručnost. Kontinent koji ne može razumjeti vlastite AI sustave ne može biti neovisan, bez obzira na to gdje se poslužitelji nalaze. Talent znači istraživače, inženjere, skrbnike podataka, stručnjake za sigurnost, stručnjake za nabavu, pravnike koji razumiju operativne sustave, domenske stručnjake koji mogu vrednovati rezultate te menadžere koji mogu postavljati konkretna pitanja umjesto da traže inovacije s primjesom odgovornosti.
Europa ima snažan talent. No ona također gubi talent, fragmentira ga, nedovoljno koristi talent u javnom sektoru te često razdvaja tehničku, pravnu i operativnu stručnost u prostorije koje se sastaju tek kada je nešto već postalo skupo. Neovisnost umjetne inteligencije zahtijeva miješanu kompetenciju. Službenik za nabavu trebao bi razumjeti prava na izlazak. Pravnik bi trebao razumjeti zapise i izvedene podatke. Inženjer bi trebao razumjeti pravnu osnovu i žalbu. Domenski stručnjak trebao bi imati ovlasti u vrednovanju. Menadžer bi trebao znati kada je mjerilo tek predstava.
To je dijelom obrazovanje, a dijelom oblikovanje radnih mjesta. Ako javne institucije kupuju AI, ali ne zadržavaju unutarnje tehničko pamćenje, postaju ovisne čak i uz savršene ugovore. Ako tvrtke prepuste svaku kritičnu operaciju vanjskim suradnicima, gube snagu za osporavanje dobavljača. Ako sveučilišta obučavaju graditelje modela, ali ne i vrednovatelje, održavatelje, revizore i skrbnike podataka, ekosustav postaje impresivan u demonstracijama, a tanak u proizvodnji. Neovisnost nose ljudi koji mogu pregledavati, prilagođavati i popravljati. Ljudi, nažalost, zahtijevaju plaće i vrijeme.
Dobra vijest je da se talent umnožava kada radi na stvarnoj infrastrukturi. Zajednički testni okviri, javni skupovi podataka s upravljanjem, lokalni pristup računalnoj snazi, otvoreni paketi za vrednovanje, međusektorske stipendije i laboratoriji za nabavu mogu stvoriti praktičnu vještinu. Loša vijest je da je to sporije od najavljivanja platforme. Europa voli platforme. Platforme vole biti najavljene. Kompetencija voli biti vježbana.
Petlja odlučivanja za neovisnost
Neovisnost umjetne inteligencije treba upravljati kao petlja, a ne kao deklaracija. Počnite s klasifikacijom misije. Koji su tijekovi rada kritični. Koji utječu na prava. Koji zahtijevaju lokalno djelovanje. Koji mogu podnijeti vanjsku ovisnost. Koji trebaju visoku sposobnost više nego strogu lokalnost. Koji trebaju dokaze više nego brzinu. Ne zaslužuje svako radno opterećenje isti stav. Tretiranje svega kao egzistencijalnog čini upravljanje neupotrebljivim. Tretiranje svega kao običnog čini izvješća o incidentima poučnima.
Zatim mapirajte ovisnosti. Podaci, računalna snaga, model, izvođenje, identitet, ključevi, zapisi, podrška, vrednovanje, pravni doseg, energija, talent i izlazak. Mapirajte ih za normalno djelovanje i za stres. Stres je mjesto gdje ovisnosti prestaju biti teorijske. Što se događa kada dobavljač promijeni uvjete, regija zakaže, zakon se promijeni, pojavi se ranjivost, regulator zatraži dokaze ili javna služba mora nastaviti raditi tijekom prekida mreže.
Zatim odaberite stav. Neka radna opterećenja mogu koristiti vanjske API-je s jasnim zapisima. Neka zahtijevaju regionalno hostiranje. Neka trebaju lokalno izvođenje s vanjskim modelima. Neka trebaju otvorene modele. Neka trebaju zajedničku javnu računalnu snagu. Neka trebaju potpunu izolaciju. Poanta nije okruniti jednu arhitekturu. Poanta je spriječiti arhitekturu prema zadanim postavkama. Zadane postavke su način na koji ovisnost postaje nevidljiva.
Zatim testirajte i revidirajte. Provedite vježbe izlaska. Reproducirajte rezultate. Pregledajte zapise. Premjestite probno radno opterećenje. Zamrznite verziju modela. Rotirajte ključeve. Pitajte je li novi model promijenio ponašanje. Provjerite jezičnu izvedbu. Pregledajte izvedene podatke. Mjerite troškove tijekom vremena. Neovisnost koja se nikada ne testira samo je raspoloženje. Europa ima dovoljno raspoloženja. Trebaju joj operativni dokazi.
Europska prednost, ako je odlučimo iskoristiti
Europa prednosti ima. Ima snažne javne institucije, sektorsku stručnost, višejezičnu stvarnost, regulatorno iskustvo, dubinu istraživanja, industrijske niše, svijest o privatnosti i kulturnu sklonost postavljanju neugodnih procesnih pitanja prije ručka. Ta posljednja stavka je podcijenjena. AI sustavima trebaju neugodna procesna pitanja. Trebaju im ljudi koji pitaju odakle podaci potječu, tko se može žaliti, koja je verzija radila, je li izvor zastario, tko je vlasnik iznimke i zašto račun sada nalikuje regionalnom infrastrukturnom projektu.
Izazov je pretvoriti te prednosti u operativnu sposobnost. Regulacija bez provedbe postaje papirologija. Istraživanje bez primjene postaje citat. Nabava bez izlaza postaje ovisnost. Infrastruktura bez talenta postaje spomenik. Talent bez ovlasti postaje frustracija. Europi ne nedostaju sastojci. Često joj nedostaje vezivno tkivo među njima.
Neovisnost AI-ja stoga treba mjeriti manje time koliko glasno najavljujemo autonomiju, a više time što institucije doista mogu učiniti. Može li grad voditi uslugu potpomognutu umjetnom inteligencijom i objasniti svaku važnu odluku. Može li bolnica zadržati kritično zaključivanje blizu osjetljivih zapisa. Može li proizvođač prilagoditi modele bez odavanja procesnog znanja. Može li škola nadzirati alate koji oblikuju obrazovne zapise. Može li regulator reproducirati sporne rezultate. Može li startup prodavati na javnim tržištima bez ponovne izgradnje za svaku vlasničku platformu. Može li istraživačka skupina pristupiti računalnoj snazi bez da postane hobi preprodavača.
To je manje dramatično od naslovnica o graničnim modelima. No upravo tu neovisnost postaje stvarna. Kontinent nije neovisan zato što postoji jedan prvak. Neovisan je kada mnoge institucije imaju dovoljno zajedničkog temelja i dovoljno lokalne ovlasti da djeluju dobro.
Pouka
Ono što Europa kod neovisnosti AI-ja čini pogrešno jest navika traženja jednog simbola: jednog modela, jednog podatkovnog centra, jednog pravila o oblaku, jednog industrijskog junaka, jedne regulative, jedne platforme. Simboli su važni, ali ne upravljaju sustavima. Neovisnost je praktična sposobnost odabira, nadzora, premještanja, odbijanja, popravljanja i nastavka služenja misiji kada se uvjeti promijene.
To zahtijeva modele i računalnu snagu, da. Također zahtijeva upravljačke ravnine, pravila nasljeđivanja podataka, prava nabave, otvorene standarde, kapacitet za evaluaciju, energetsko planiranje, lokalnu stručnost i testirane izlaze. Zahtijeva kulturu koja dosadna operativna prava tretira kao stratešku imovinu. Zahtijeva prihvaćanje ovisnosti tamo gdje je uređena i smanjenje ovisnosti tamo gdje ona tiho postaje moć.
Europa ne bi trebala težiti usamljenosti. Trebala bi težiti tome da je teško zarobiti. To je bolja definicija neovisnosti za povezan kontinent. Surađujte široko, kupujte pametno, gradite gdje je potrebno, održavajte ono što je zajedničko, čuvajte dokaze blizu i zadržite pravo na promjenu smjera. Manje herojski možda. Više suvereno.