Europska AI rasprava treba manje demonstracija, a više institucija.

Uvjerljiva demonstracija modela može pokazati sposobnost. No ona ne može odlučiti tko ima ovlasti, kako ljudi osporavaju ishod, gdje žive dokazi, što se...

Europska AI rasprava treba manje demonstracija, a više institucija.

Demo nije javna institucija

Dobra demonstracija ima posebnu vrstu moći. Sažima mogućnost u nekoliko minuta. Obrazac se ispuni, dokument se sažme, pojavi se slika, teško pitanje dobije uvjerljiv odgovor. Svi u prostoriji mogu vidjeti zašto bi netko mogao željeti tu stvar. To je korisno. No to je ujedno i točka u kojoj se mnoga teža pitanja uljudno odgađaju za kasnije.

Kasnije počinje institucija. Tko ima pravo odlučiti smije li se sustav koristiti? Kojoj javnoj svrsi služi? Koji su dokazi dovoljni za tu svrhu i tko može reći da nisu dovoljni? Što se dogodi kada se promijeni verzija, kada radnik ospori preporuku, kada osoba zatraži objašnjenje, kada ograničenje energije zatvori rutu ili kada dobavljačev plan postane drukčiji plan? Demonstracija nije osmišljena da odgovori na ta pitanja. Javna institucija jest.

Europa je dosta vremena provela raspravljajući o umjetnoj inteligenciji kao natjecanju sposobnosti. Taj je razgovor razumljiv. Sposobnost je vidljiva. Daje uredan filmski isječak. Institucije su uglavnom vidljive kroz posao koji sprječavaju da postane tajanstven: uvjeti nabave, vođenje evidencije, kontrole pristupa, obuka, nadzor, putovi žalbe, proračuni za održavanje, jezična podrška, tehnički standardi, osoba čije je ime vezano uz odluku. Ništa od toga ne daje uvodnom izlaganju uobičajeni sjaj. No upravo to određuje hoće li sustav ostati odgovoran kada se prostorija isprazni.

Ovo nije argument za plašljivu tehnologiju niti za javni sektor koji ništa ne kupuje dok ne može vidjeti budućnost. To je argument za odbijanje kategorijalne pogreške. Model može generirati, klasificirati, predviđati ili preporučivati. Sam po sebi ne može stvoriti legitimni mandat, raspodijeliti javnu odgovornost, naučiti kolegu kako ga osporiti, održavati nacionalni jezik, ispregovarati priključak na mrežu niti sačuvati pravni lijek za osobu na koju njegova uporaba utječe. Ti poslovi pripadaju ljudima i organizacijama, čak i kada softver pomaže u radu.

Europskom razgovoru o umjetnoj inteligenciji treba manje demonstracija u smislu da mu treba manje demonstracija koje zamjenjuju dokaz spremnosti. Treba mu više institucija u smislu da mu trebaju bolja mjesta za donošenje odluka, zadržavanje znanja i ispravljanje kursa. Pomak nije od tehnologije prema birokraciji. Pomak je od tanke slike tehnologije prema stvarnom uređenju u kojem tehnologija ima posljedice.

Ta je poanta važna i izvan vlade. Bolnica, općina, škola, proizvođač, kulturna institucija i malo poduzeće nemaju iste obveze ni rizike. No svi oni na kraju otkriju da je model jedna komponenta u većem uređenju. Veće uređenje određuje tko isporučuje ulazne podatke, tko čita izlazne rezultate, tko prihvaća preostali rizik, tko može zaustaviti sustav i tko ostaje kada softverska tvrtka pošalje svoj tromjesečni bilten.

Zato jezik institucija nije povlačenje od tehničke ambicije. To je jezik kontinuiteta. Javna usluga mora funkcionirati običnog utorka, na jeziku ljudi koji je koriste, pod proračunom koji netko može nadzirati, nakon promjene osoblja, tijekom nesuglasice s dobavljačem i kada je prvotni entuzijazam postao nalog za održavanje. Svaka ozbiljna tvrdnja o umjetnoj inteligenciji na kraju mora preživjeti to putovanje.

Sposobnost je samo jedno od pitanja

Demonstracija obično postavlja usko i razumno pitanje: može li sustav obaviti ovaj zadatak pod ovim uvjetima? Institucija mora postaviti veći skup pitanja odjednom. Je li ovaj zadatak prikladan za automatizaciju ili pomoć? Jesu li navedena svrha zakonita i razmjerna? Mogu li ljudi koji obavljaju posao i dalje razumjeti i osporiti rezultat? Postoji li put kojim građanin može pitati što se dogodilo? Može li organizacija promijeniti pružatelja usluge bez napuštanja svojih zapisa? Ovisi li sustav o oskudnoj računalnoj snazi, određenom jezičnom resursu ili toku podataka za čije održavanje nitko nije osigurao proračun?

Ta pitanja ne čine model lošijim. Ona čine odluku iskrenijom. Razlikuju značajku od usluge i uslugu od javne sposobnosti. Značajka može biti dojmljiva dok je okolni aranžman krhak. Usluga može biti korisna dok njezin ugovor onemogućuje uvid u materijalnu promjenu. Javna sposobnost mora ostati upotrebljiva, upravljiva i popravljiva tijekom vremena. Mora nositi više od samog rezultata.

O Aktu o umjetnoj inteligenciji često se govori kao da je jedinstven odgovor na taj problem. On to nije. Riječ je o značajnom pravnom okviru, a njegova navedena svrha povezuje funkcioniranje unutarnjeg tržišta s umjetnom inteligencijom usmjerenom na čovjeka i pouzdanom umjetnom inteligencijom te visokom razinom zaštite zdravlja, sigurnosti, temeljnih prava, demokracije, vladavine prava i zaštite okoliša. No sam Akt ističe važnu poantu o institucionalnoj stvarnosti: djeluje usporedno s postojećim pravom Unije koje se odnosi na zaštitu podataka, potrošače, zapošljavanje, radnike i sigurnost proizvoda. Pravni okvir nije zamjena za ta područja. On se s njima susreće.

To bi trebalo oblikovati praktičan razgovor. Tim ne može proglasiti sustav društveno prihvatljivim upućivanjem na klasifikaciju rizika umjetne inteligencije dok zanemaruje proces zapošljavanja koji ga okružuje. Javno tijelo ne može proglasiti sustav odgovornim jer je dovršilo tehničku procjenu dok stanovnici ne mogu pronaći vlasnika ili zapis. Dobavljač ne može učiniti problem prenosivosti nevidljivim upotrebom riječi oblak. Pitanje je uvijek kako se nova komponenta ponaša unutar obveza koje su već postojale.

Postoji praktična napast da se to shvati kao argument za veću mapu usklađenosti. To nije to. Više stranica može učiniti organizaciju manje sposobnom za djelovanje ako nitko ne zna koja stranica mijenja odluku. Institucije ne postaju sposobne prikupljanjem predložaka. One postaju sposobne kada se definirana svrha, imenovano tijelo, upotrebljivi dokazi i put za ispravak mogu susresti u istom poslu.

To je mnogo zahtjevniji standard od demonstracije. Također je i pravedniji. Pružatelj modela ne bi trebao odgovarati za svaku lokalnu političku odluku koju donese implementator. Implementatora se ne bi trebalo tražiti da dekonstruira svaku tehničku odluku u lancu. Svaka strana treba granicu, zapis onoga što je prelazi i način da prepozna kada se granica pomaknula. Institucije dijelom postoje kako bi te granice učinile čitljivima.

Zakon je pod, ne cijela zgrada

Za Europu se često kaže da je odabrala pravila umjesto tehnologije. Taj je opis previše uredan da bi bio koristan. Zakon može zabraniti, zahtijevati, raspodijeliti dužnosti i sačuvati pravne lijekove. Može definirati minimalni javni prag ispod kojeg sustav ne bi smio pasti. Ne može zaposliti recenzenta koji razumije lokalni tijek rada, održavati podatkovno sučelje, napisati razumnu specifikaciju za nabavu ili iscrpljenom timu odjednom dati vremena da nauči novi proces. Te stvari zahtijevaju kapacitet.

Razlika je važna jer pravni jezik može prikriti operativnu odsutnost. Politika može reći da ljudski nadzor postoji. Ta je izjava besmislena ako čovjek nema ovlast zaustaviti rutu, nema vremena pregledati slučaj, nema informacije o verziji modela, nema obuku za zadatak i nema put za eskalaciju neslaganja. Nadzor postoji na papiru, poput izlaza za požar skrivenog iza ormara. Bit će vrlo umirujući sve dok ne bude potreban.

Isto vrijedi i za transparentnost. Objava može biti tehnički dostupna, a praktički beskorisna. Osoba može dobiti dugačak opis sustava, a da ne sazna tko je vlasnik odluke, koji se zapis može osporiti ili kako ostvariti pravni lijek. Javni registar može navesti algoritam, a da ne kaže je li navedena verzija trenutna, čemu sustav služi ili tko ima ovlast odgovoriti na pitanje. Transparentnost nije količina teksta. To je sposobnost lociranja odluke i njezina vlasnika.

Europski pravni rad vrijedan je upravo zato što neka od tih pitanja čini teže zanemarivima. On daje zajednički jezik pružateljima, implementatorima, regulatorima i pogođenim osobama. Također čini praznine vidljivijima. Kada organizacija ne može navesti svoju namjenu, identificirati svoj tijek podataka, voditi zapis o materijalnoj promjeni ili imenovati osobu koja može zaustaviti upotrebu, problem nije samo u tome što je dokumentacija zakašnjela. Organizacija još nije izgradila ono što tvrdi da radi.

Tu institucije imaju skromnu prednost nad sloganima. One pamte da se odluka dogodila. One čuvaju uvjete uz nju. One čuvaju razliku između plana i događaja. One uz obećanje stavljaju ime, adresu e-pošte i ponekad pomalo tvrdoglav obrazac. Obrazac nije postignuće. Postignuće je to što se netko može smatrati odgovornim za odgovor.

Dobar zakon stvara prostor za taj rad. Ne bi ga trebalo koristiti kao zamjenu za njega. Zrelo pitanje nije je li sustav usklađen u apstraktnom smislu. Pitanje je mogu li odgovorne osobe pokazati kako njegova konkretna upotreba ispunjava primjenjive obveze, što još ne znaju i što će učiniti kada se dokazi promijene. To je istodobno pravno, operativno i institucionalno pitanje.

Javna nabava je mjesto gdje se javna namjera susreće s ugovorom dobavljača

Javna nabava zvuči proceduralno jer i jest proceduralna. Također je jedno od mjesta gdje javna namjera postaje stvarna. Javno tijelo kupuje radove, robu ili usluge od odabranih tvrtki kroz postupak oblikovan pravilima čija je svrha održati nabavu otvorenom i konkurentnom. U kontekstu umjetne inteligencije taj postupak nije samo trenutak u kojem se odabire proizvod. To je trenutak u kojem tijelo može odlučiti što dobavljač mora učiniti pregledivim, koje promjene zahtijevaju obavijest, koji zapisi ostaju dostupni, kako se rad može predati i što se događa ako se sustav mora zaustaviti.

Nabava koja traži samo mogućnosti modela obično kupuje demonstraciju s priloženim računom. Nabava koja traži radne uvjete kupuje nešto bliže usluzi. Ona može tražiti definiranu namjenu, sučelja, dokumentaciju, dostupne dokaze, dopuštenja temeljena na ulogama, kontakte za incidente, obavijesti o ažuriranjima, formate izvoza, granice podrške, aranžmane čuvanja, pomoć pri izlasku i jasnu raspodjelu odgovornosti. Ona može pitati tko je vlasnik određenog rizika, umjesto da svakoj strani dopusti pretpostavku da je to netko drugi.

Ne postoji univerzalna klauzula koja rješava ta pitanja. Mala organizacija koja kupuje uski interni alat ne bi trebala naslijediti ugovor osmišljen za nacionalnu kritičnu službu. Jednako tako, javna upotreba s velikim utjecajem ne bi smjela dobiti ugovornu disciplinu besplatnog probnog razdoblja s tek nešto duljim obrascem. Ugovor mora pratiti posljedicu odluke, ovisnost koju usluga stvara i sposobnost organizacije da njome upravlja.

Ilustrativni scenarij, a ne izvješće o stvarnoj nabavi: zamislite javno tijelo koje razmatra sustav koji pomaže osoblju organizirati pristigle predmete. Demonstracija prikazuje sažetke, izdvojena polja i predloženi red čekanja. Odgovorno pitanje nije izgleda li red čekanja uredno. Pitanje je mogu li zaposlenici vidjeti izvorni materijal, jesu li pravila za prioritete dokumentirana, može li se predmet ispraviti bez stvaranja skrivenog drugog tijeka rada, mijenja li ažuriranje sustava rezultat, mogu li se zapisi izvesti te tko odgovara kada osoba ospori način na koji je njezin materijal obrađen. Nijedno od tih pitanja ne zahtijeva teatralan strah od umjetne inteligencije. Ona zahtijevaju zreo ugovor.

Nabava također može zaštititi organizaciju od vlastitog optimizma. Ako pružatelj kaže da će nova značajka stići kasnije, tijelo je može zabilježiti kao plan, a ne kupiti je kao postojeću mogućnost. Ako pružatelj obeća put ljudske provjere, ugovor može opisati stvarnu ulogu, uvjet odgovora i dokaze, umjesto da prihvati frazu koja zvuči umirujuće. Ako usluga ovisi o određenom formatu podataka, tijelo može zahtijevati mapiranje i izvoz prije nego što sustav postane teško napustiti. Optimizam ima mjesta u inovacijama. Ne bi mu trebalo dopustiti da potpisuje ugovore bez pratnje.

To ne znači da svaki tim za nabavu mora postati modelni laboratorij. Znači da timovi trebaju pristup odgovarajućoj stručnosti. Pravno, tehničko, operativno, financijsko i znanje o korisnicima moraju se susresti prije donošenja nepovratnih odluka. To je jedan od razloga zašto institucije imaju značaj. One stvaraju način da različiti oblici znanja budu prisutni bez pretvaranja da ih jedna osoba može nositi sve.

Najbolje pitanje u nabavi često je obeshrabrujuće jednostavno: što će ovaj aranžman zahtijevati od nas nakon pokretanja? Odgovor može uključivati vrijeme osoblja, zapise, praćenje, energiju, jezičnu stručnost, integracijski rad, putove provjere i plan izlaska. Ako se ništa od toga ne pojavi u odgovoru, nabava nije učinila da teret nestane. Jednostavno ga je ostavila izvan proračuna.

Infrastruktura ima javnu adresu

Primamljivo je govoriti o računalnoj snazi kao da je riječ o vremenu. Radno opterećenje treba kapacitet, kapacitet je negdje drugdje, a važno je hoće li se stranica na kraju učitati. No računalna snaga ima lokaciju, lanac opskrbe, mrežni put, potražnju za energijom, režim održavanja i pravni kontekst. Infrastruktura je stoga dio institucionalnog kapaciteta, a ne njegova pozadina.

Rad Europske komisije na digitalizaciji energetskog sustava otežava ignoriranje toga. Bavi se optimizacijom mreže, učinkovitošću, fleksibilnošću i održivom integracijom podatkovnih centara. Ključna je riječ integracija. Podatkovni centar nije samo privatna kutija strojeva koja slučajno troši električnu energiju. Smješten je u zajedničkom energetskom sustavu s lokalnim ograničenjima, javnim planiranjem i drugim zahtjevima na mrežu. Ozbiljna strategija umjetne inteligencije mora vidjeti cijeli aranžman, umjesto da električnu energiju tretira kao fusnotu ispod grafikona računalne snage.

To ne proizvodi jednostavno pravilo da sva obrada mora biti lokalna, središnja, nacionalna ili europska. Svaki izbor ima svoje uvjete. Lokalna implementacija može smanjiti neke prijenose podataka i staviti kontrolu blizu organizacije, ali povećava njezin teret održavanja. Zajednički europski objekt može proširiti pristup skupim sposobnostima, ali zahtijeva jasna pravila pristupa i realan put od eksperimenta do operativne uporabe. Komercijalna usluga u oblaku može biti koristan put za neke poslove, ali otvara pitanja o nadležnosti, ovisnosti, evidencijama i kontroli promjena. Geografija je dizajnerska odluka s posljedicama, a ne moralna naljepnica.

AI tvornice programa EuroHPC zanimljive su u tom pogledu jer je njihov javni opis širi od puke prostorije pune akceleratora. Usluge uključuju računalstvo i pohranu, pristup podacima i softveru, podršku, obuku, uvođenje korisnika i suradnju usmjerenu na sektore. Ta kombinacija je važna. Stroj bez dostupnog puta do njega, ljudi koji mogu pomoći i promišljene veze s područjem rada nije javni kapacitet. To je skupi namještaj s impresivnom bukom ventilatora.

Javna infrastruktura također treba institucionalno pamćenje. Tko smije koristiti resurs? Pod kojim uvjetima? Koji rad ima prednost kada su kapaciteti oskudni? Koji se podaci smiju unijeti? Koji rezultati smiju izaći? Što se događa kada projekt završi? Kako se manjim organizacijama pomaže da koriste resurs bez očekivanja da dođu s vlastitim istraživačkim uredom i slobodnim tjednom dana? Nabava hardvera ne odgovara na ta pitanja. Operativno upravljanje odgovara.

Ovdje postoji lekcija o suverenitetu koja se često svodi na kartu. Usluga može biti fizički blizu, a opet teško upravljiva. Sustav može biti smješten na europskom tlu dok ključne kontrole, ovlasti za ažuriranja, sučelja ili komercijalna poluga ostaju negdje drugdje. Obratno, prekogranični europski aranžman može podržati smislen javni kapacitet kada su granice, prava pristupa, odgovornosti i izlazni putovi jasno definirani. Relevantno pitanje nije jednostavno gdje stoji rack. Pitanje je tko može odlučivati, nadzirati, održavati i otići.

Institucije su potrebne da ta pitanja drže na okupu. Energetski planeri ne mogu zaključiti o AI radnom opterećenju s marketinške stranice. Službe za nabavu ne mogu pregovarati o odnosu s podatkovnim centrom na temelju benchmarka modela. Istraživački tim ne može pretvoriti pristup stroju u trajnu sposobnost bez podrške, prakse rada s podacima i puta za korištenje rezultata. Nit koja povezuje te stvari nije određeni model. To je javna sposobnost donošenja ograničene odluke i zadržavanja mogućnosti da se ona preispita.

Sposobnost ne sjedi u središtu sama od sebe. Odaberite područje da biste vidjeli javni rad koji ono mora nositi.

Rad nije detalj implementacije

Svaki AI sustav negdje mijenja rad. Ponekad je promjena očita jer se zadatak predaje softveru. Češće je tiša. Radnik provjerava prijedlog umjesto da stvara prvu verziju. Voditelj vidi ocjenu prije razgovora. Operater na telefonu dobiva sažetak koji oblikuje sljedeće pitanje. Službenik za predmete provodi manje vremena tražeći dokument, a više objašnjavajući iznimku. Zadatak se promijenio čak i ako se naziv radnog mjesta nije.

Zato se rad ne smije ostaviti za kraj provedbenog plana, pod naslovom upravljanje promjenama. Rad nije površina kojom se upravlja nakon što je tehnička odluka donesena. To je mjesto na kojem sustav dobiva svoje praktično značenje. Radnici znaju koji su zapisi nepotpuni, koje su iznimke uobičajene, gdje razumna odredba postaje apsurdna i što naizgled učinkovit proces traži od osobe da prihvati. Ukloniti ih iz razgovora o dizajnu pouzdan je način da tijek rada postane manje razumljiv.

Pregled EU-OSHA-e o upravljanju radnicima na temelju umjetne inteligencije ukazuje i na prilike i na rizike za sigurnost i zdravlje na radu. Takva formulacija korisna je jer odbacuje dvije jednostavne priče. Prva kaže da je svaki alat umjetne inteligencije zapravo prikriveni upravitelj. Druga kaže da je tehnologija neutralna sve dok je ne zlorabi neki posebno loš akter. U praksi, dizajn nadzora, ciljeva, preporuka, upozorenja i raspodjele može oblikovati kvalitetu rada prije nego što itko izgovori dramatičnu riječ o zamjeni.

Human institucionalni odgovor nije inzistirati na tome da svaki zaposlenik postane stručnjak za umjetnu inteligenciju. On je učiniti odnos između alata i rada predmetom rasprave. Što sustav smije preporučiti? Što mu nije dopušteno odlučivati? Koji signali ulaze u razgovor o učinku? Može li radnik pregledati i ispraviti zapis koji se o njemu vodi? Što se događa kada se izlaz sustava sukobi s profesionalnom prosudbom? Postoji li vrijeme za učenje alata i tretira li se to vrijeme kao rad, a ne kao privatni hobi koji se obavlja nakon što djeca zaspu?

Pitanje ovlasti posebno je važno. Radnik koji je nominalno slobodan nadglasati izlaz sustava, ali ga ocjenjuje nadzorna ploča koja nagrađuje slaganje, nije dobio stvarnu diskreciju. Voditelj koji dobiva ocjenu bez znanja o njezinoj osnovi nije dobio stvarnu odgovornost. Sindikalni predstavnik koji sustav vidi tek nakon nabave ne može dodati znanje koje bi spriječilo izbjegljiv sukob. Institucije stvaraju prostor za te činjenice prije nego što ih proračunska tablica pretvori u iznenađenja.

Ne postoji jedinstveno europsko radno mjesto. Sektorski sporazumi, nacionalno radno zakonodavstvo, organizacijska kultura i priroda zadatka, sve to je važno. No institucionalno načelo dobro putuje: ne tretirajte ljude kao sloj za rješavanje pogrešaka sustava koji im nije bilo dopušteno razumjeti. Ako je ljudska prosudba dio argumenta o sigurnosti, onda organizacija toj prosudbi mora dati informacije, ovlasti i put da bude saslušana.

Obrazovanje je praksa, a jezik je dio prakse

Digitalna pismenost o umjetnoj inteligenciji postala je popularan odgovor na institucionalnu slabost. Pošaljite ljude na tečaj, izdajte potvrdu, postavite veseli slajd na intranet i proglasite stvar riješenom. To je bolji odgovor nego nikakvo učenje. Ali nije dovoljan.

Komisijine smjernice o digitalnoj pismenosti u području umjetne inteligencije stavljaju obvezu na utemeljenije mjesto. Davatelji i implementatori trebali bi poduzeti mjere kako bi osigurali odgovarajuću razinu pismenosti među osobljem i drugim osobama koje u njihovo ime rade sa sustavima umjetne inteligencije. Relevantni čimbenici uključuju tehničko znanje, iskustvo, obrazovanje i osposobljavanje te kontekst u kojem se sustav koristi. To nije zahtjev za univerzalnim kvizom o strojnom učenju. To je poziv da se znanje uskladi s odgovornošću.

Nabavna službenica mora prepoznati tvrdnju koja se ne može procijeniti iz brošure. Radnik na prvoj liniji mora znati kada treba provjeriti rezultat prema izvornom materijalu. Voditelj mora razumjeti što mu zbirni rezultat ne može reći o pojedinačnom slučaju. Član upravnog odbora mora moći pitati tko ima ovlast zaustaviti sustav. Programer treba dublje razumijevanje podataka, sučelja, evaluacije i kvarova. Nazvati sve to pismenošću možda je pomalo neuredno. Stvarnim institucijama dopušteno je biti neurednima kada je alternativa pretvaranje da jedan tečaj jednako priprema svaku ulogu.

Obrazovanje ima i vremenski problem. Osoba može razumjeti alat u ožujku, a u listopadu se suočiti s bitno drugačijim sučeljem, modelom ili tijekom rada. Koristan program učenja stoga prati promjene koje su važne. Ljudi dobivaju način da se vrate uvjetima odlučivanja, a ne samo sjećanje na događaj pokretanja. Komisijine etičke smjernice za nastavnike iznose srodnu poantu u drugom okruženju: praktična prosudba o umjetnoj inteligenciji u poučavanju i učenju ne može se svesti na uključivanje prekidača. Kontekst, svrha i ljudi u prostoriji ostaju relevantni.

Jezik također pripada ovdje. Jezik koji sustav prikazuje nije jezik društva. Model može proizvesti tečan tekst na nekom jeziku, a pritom propustiti administrativne pojmove, regionalne oblike, stručni vokabular, kulturne reference ili pravna značenja koja stvarnu odluku čine razumljivom. Prijevod može biti gramatički uredan, a ipak promijeniti odgovornost, obvezu ili pravo. Višejezična uporaba nije dekorativni postupak lokalizacije na kraju inače dovršenog proizvoda.

Za Europu je to praktično institucionalno pitanje. Javne službe, radna mjesta i škole djeluju na mnogim jezicima, ponekad na nekoliko njih unutar iste organizacije. Dokumentacija, putovi pogrešaka, osposobljavanje, podrška i postupci prigovora moraju doći do ljudi tamo gdje se posao odvija. Ako je politika dostupna na jednom jeziku, a operativno sučelje na drugom, organizacija je podijelila sustav na dvoje. Ako osoba može primiti odluku na svom jeziku, ali ne može pronaći objašnjenje ili put prigovora na tom jeziku, pravni lijek postao je teorijski.

Rješenje nije obećanje da svaki sustav jednako razumije svaki jezik. To bi bila tvrdnja s vrlo malo dokaza iza sebe. Rješenje je pošteno navesti pokrivenost, testirati uporabu koja je stvarno namijenjena, zadržati jezična ograničenja vidljivima i osigurati da praznina tiho ne postane nepogodnost za ljude koji je najmanje mogu ispraviti. To je manje glamurozno od najavljivanja višejezične umjetne inteligencije. Puno je više poštovanja.

Sigurnost počinje tvrdnjom o kojoj se može raspravljati

Sigurnost je još jedna riječ koja postaje nejasna kada se od nje traži da nosi previše. Sustav umjetne inteligencije nije siguran zato što dobavljač kaže da ima zaštitne ograde. Nije siguran zato što mjerilo sadrži umirujući broj. Nije siguran zato što osoba ostaje negdje u petlji. Sigurnost se odnosi na ograničenu tvrdnju: ovaj se sustav može koristiti za ovu svrhu, u ovom okruženju, pod ovim uvjetima, s ovim kontrolama, dokazima, preostalim rizicima i ljudima koji mogu djelovati.

Zato su sigurnosni slučajevi korisni i izvan sektora u kojima se o njima obično raspravlja. Sigurnosni slučaj nije značka. To je argument koji povezuje tvrdnju s opasnostima, kontrolama, pretpostavkama, dokazima i odlukom. Ima prostora za nesigurnost. Može reći da uvjet još nije ispunjen. Može reći da promjena zahtijeva ponovnu procjenu. Može reći da je ispravna odluka zastati. Demonstracija nema pravi način da to kaže bez kvarenja vlastitog ugođaja.

U radu s umjetnom inteligencijom ključno je povezati dokaze sa stvarnom uporabom. Evaluacija modela može organizaciji reći nešto o sposobnosti pod navedenom metodom. Ona ne utvrđuje automatski da je model prikladan u svakom tijeku rada, za svaku skupinu, na svakom jeziku ili nakon svake promjene integracije. Institucija mora nositi lanac od modela do usluge do lokalne odluke. Upravo se u tom lancu mnoge inače iskrene tvrdnje pokažu prevelikima.

Dokazi imaju rok trajanja čak i kada sama datoteka nema. Verzija se mijenja. Zbirka za dohvat se mijenja. Novi predložak upita mijenja ponašanje koje korisnik vidi. Radnik otkrije način kvara koji nije bio u testnom skupu. Zakon, politika ili izvor podataka se promijene. To nisu neugodni prekidi savršenog sustava. To su uobičajeni uvjeti rada softvera u svijetu. Institucionalna je zadaća odlučiti koje promjene zahtijevaju novu provjeru, tko donosi tu odluku i kako prethodni zapis ostaje dostupan za usporedbu.

Sposobnost zaustavljanja dio je istog argumenta. Uvjet zaustavljanja koji nitko ne može pozvati dekorativna je klauzula. Gumb za zaustavljanje bez vlasnika malo je suvremeno umjetničko djelo. Vjerodostojan aranžman imenuje ovlast, signal koji može pokrenuti djelovanje, put za eskalaciju, sigurno stanje i način na koji se odluka bilježi. Pojedinosti se razlikuju. Potreba za pojedinostima ne.

Sigurnost stoga nije odjel koji na kraju stigne s crvenom olovkom. To je način da se zajednička odluka učini preciznijom prije nego što sustav postane teško mijenjati. Postavlja pitanje koje demonstracije izbjegavaju jer odgovor može biti nezgodan: koji bi nas dokazi uvjerili da ne nastavimo? Institucija koja može odgovoriti na to pitanje već je postala sposobnija od one koja samo može proslaviti lansiranje.

Javni kapacitet je lanac, ne izložbeni prostor

Europski javni kapacitet za umjetnu inteligenciju neće se mjeriti samo brojem modela, podatkovnih centara ili istraživačkih najava koje se mogu staviti na kartu. Te stvari su važne. One nisu samoodržive. Kapacitet je sposobnost korištenja tehničkih resursa za javnu svrhu tijekom vremena, s dovoljno stručnosti i ovlasti da se izbjegne ovisnost koja se maskira u napredak.

Uredba o interoperabilnoj Europi nudi koristan trag. Njezina je briga interoperabilnost javnog sektora diljem Unije te dijeljenje i ponovna uporaba rješenja za interoperabilnost. Interoperabilnost se ponekad tretira kao tehnička preferencija: pitanje formata za ljude koji uživaju u dijagramima sa strelicama. U javnom radu ona je također institucionalno svojstvo. Određuje može li zapis putovati sa svojim značenjem, može li jedno tijelo razumjeti granice sustava drugog tijela, pretvara li se izlazak dobavljača u upravljivu migraciju ili u ormar pun nečitljivih izvoza.

Interoperabilnost ne znači da bi svaki sustav trebao izgledati jednako ili da bi sav javni rad trebao biti centraliziran. Znači da granica ne bi smjela uništiti informacije potrebne za odgovoran nastavak. Organizacija bi trebala moći identificirati objekt, njegova vlasnika, njegovu svrhu, njegovu verziju, dokaze priložene uz njega i odluke koje su ga promijenile. Nova usluga trebala bi moći primiti potrebne zapise bez dopuštenja starog dobavljača za njihovo tumačenje. To nije dizajnerski ukras. To je način na koji javna institucija ostaje slobodna odlučivati kasnije.

Nizozemski registar algoritama još je jedan mali, ali koristan institucionalni objekt. Objavljuje informacije o algoritmima koje koriste vladine organizacije i usredotočuje se na algoritme s velikim utjecajem, uključujući sustave umjetne inteligencije visokog rizika. Registar ne dokazuje da je svaki navedeni sustav dobar, pošten ili zakonit. Njegova vrijednost leži drugdje. Olakšava pronalaženje postojanja sustava, deklarirane uporabe i odgovornog javnog tijela. Stvara površinu na koju pitanje može sletjeti.

Treba nam više takvih površina, ne nužno više web stranica. Zapis o modelu ili sustavu, javno objašnjenje, kontrolirani tehnički spis, put za incidente, zapis o nabavi, plan osposobljavanja i specifikacija interoperabilnosti služe različitim čitateljima. Trebali bi biti usklađeni oko činjenica koje prelaze iz jednog u drugi. Javna stranica ne mora otkriti svaki osjetljivi detalj. No ne bi smjela biti u suprotnosti s unutarnjim dokazima. Spis o nabavi ne mora biti priručnik za javnost. No ne bi smio dopustiti organizaciji da zaboravi uvjete koje je kupila.

Opasnost je zamijeniti vidljivost za kapacitet. Uglancani portal može skrivati nepostojeći operativni model. Nacionalna strategija može imenovati prioritet bez osiguranog osoblja, pristupa, održavanja ili puta za manje organizacije. Inovacijski fond može podržati dokaz koncepta bez podrške radu potrebnom da korisna usluga ostane živa. Upravo u procjepu između tih stvari mnogi razumni projekti tiho završe.

Javni kapacitet ima manje fotogeničan oblik. Uključuje zajedničku stručnost, dostupnu infrastrukturu, kompetenciju u nabavi, rad na standardima, resurse na lokalnim jezicima, dugoročno financiranje, neovisni nadzor i ljude koji razumiju dovoljno da dobavljaču postave teško pitanje. Uključuje sposobnost reći ne, zastati, prilagoditi se i otići. Kontinent koji to može ima više od sektora umjetne inteligencije. Ima početke tehnološke samouprave.

Javni kapacitet je petlja: svrha, dokazi, ovlasti, rad i učenje moraju ostati povezani nakon pokretanja.

Rad nakon pljeska

Može pomoći zamisliti tjedan nakon demonstracije, a ne trenutak same demonstracije. Ne stvarni događaj, ne prikrivena studija slučaja, već jednostavno običan rad koji slijedi nakon obećavajuće ideje. Netko treba pretvoriti navedenu svrhu u opseg koji se može procijeniti. Netko treba odlučiti koji su izvorni zapisi primjereni za upotrebu. Netko treba mapirati kako rezultat ulazi u radni tijek. Netko treba postaviti pitanje mijenja li se rad za ljude koji ga već obavljaju. Netko treba osigurati da put podrške funkcionira na jezicima koji su važni. Netko treba odrediti cijenu integracije, praćenja i naposljetku izlaska.

U tom trenutku projekt može djelovati sporije jer je dobio imena, uvjete i ovisnosti. Zapravo je postao mogućim za upravljanje. Demonstracija je brza jer zanemaruje rad na tome da sustav postane odgovoran. Institucija nije spora zato što koristi popis provjera. Spora je kada otkrije stvarne ovisnosti nakon što je već obećala rezultat.

Praktična disciplina je postaviti neriješena pitanja tamo gdje mogu utjecati na odluku. Ako organizacija ne zna kako će je dobavljač obavijestiti o materijalnoj promjeni modela, zabilježite to prije nego što se ugovor sklopi. Ako ne može objasniti tko smije nadjačati preporuku, riješite to prije nego što sučelje postane uhodano. Ako nitko ne posjeduje izvorne podatke, ne nazivajte podatke spremnima. Ako organizacija ne može podržati predviđene jezike, suzite predviđenu upotrebu umjesto da dopustite da široko obećanje postane tiho isključenje.

Ovo nije birokratski maksimalizam. Riječ je o proporcionalnosti. Pomoćnik niske važnosti za unutarnju upotrebu može zahtijevati ograničen aranžman: navedenu namjenu, jasnu granicu podataka, upute za osoblje, način prijave problema i izlazni put. Sustav koji oblikuje pristup poslu, uslugama, obrazovanju, kreditu, zdravstvu ili javnoj moći zahtijeva znatno čvršći aranžman. Pravi odgovor na proporcionalnost nisu manje pitanja. Pitanja su prilagođena šteti koju pogreška može prouzročiti.

Institucionalni rad također čini inovacije ponovno upotrebljivima. Kad jedan tim dokumentira kako je vrednovao tijek rada, drugi tim može učiti iz metode umjesto da ponavlja istu neizvjesnost. Kad tijelo objavi koristan zapis o sustavu, stanovnici i druga javna tijela imaju polazište. Kad ugovor zadržava prava na izvoz i zapise o promjenama, nasljednik nije prisiljen rekonstruirati prošlost iz snimaka zaslona i računa. Ponovna upotreba nije samo u kodu. Riječ je o tome da odluke oko koda ostanu razumljive.

Ovdje postoji ugodna ironija. Organizacije koje se najviše boje da će ih upravljanje usporiti često nose najviše skrivenog ponovnog rada. Ponovno provode vrednovanja jer uvjeti nikada nisu zabilježeni. Raspravljaju o odgovornosti jer uloge nikada nisu imenovane. Ponovno pregovaraju o ugovoru jer je izlaz bio pretpostavljen, a ne specificiran. Osposobljavaju ljude nakon uvođenja jer se tijek rada smatrao samorazumljivim. Institucije izgledaju kao teret samo dok njihov izostanak još nije vidljiv u planu projekta.

Što institucije zapravo rade

Lako je institucije prikazati veličanstvenima i dalekima. U praksi one obavljaju obične radnje održavanja. Čuvaju razlike koje tržišni razgovor rado zamagljuje. Razlikuju cilj od ishoda, plan od događaja, model od usluge, uslugu od javne odluke, zapis od dokaza i pritužbu od pravne zaštite.

Dodjeljuju ovlasti. Ne simbolične ovlasti, nego ovlasti da se odobri namjeravana upotreba, odbije izvor podataka, zaustavi put, objavi ispravak, prihvati preostali rizik i dobavljaču kaže da odgovor nije dovoljan. Sustav bez takve dodjele ovlasti sklon je otkrivati ovlasti kroz sukob. To je skup način oblikovanja sustava.

Čuvaju sjećanje. Zapis o ranijoj odluci možda nije glamurozan, ali upravo on omogućuje novom članu tima da razumije zašto ograničenje postoji. Povijest omogućuje organizaciji da promijenjeni sustav usporedi s uvjetima u kojima je odobren. Štiti osobu koja osporava ishod od toga da joj se kaže kako se relevantni dokaz otopio u prethodnoj verziji. Zaborav je ponekad zgodan. Rijetko je čvrst model upravljanja.

Stvaraju putove za neslaganje. Dobra institucija ne pretpostavlja da je pritužba dokaz neuspjeha. Pritužbi daje mjesto na koje može otići, dovoljno informacija za ispitivanje i osobu koja može odgovoriti bez izmišljanja novog postupka pod pritiskom. To je važno za radnike, stanovnike, kupce, dobavljače i unutarnje timove. Put za osporavanje nije popuštanje pesimizmu. Dio je načina na koji sustav primjećuje vlastita ograničenja.

Ulažu u stručnost. Posao nije samo tehnički. Uključuje ljude koji znaju čitati ugovor, procijeniti granicu podataka, razumjeti tijek rada, objasniti ishod jasnim jezikom, upravljati infrastrukturom, osposobljavati kolege i prepoznati kada su dokazi preslabi za odluku koja se predlaže. Nijedna organizacija ne zapošljava sve te ljude za svaki mali projekt. Ali ozbiljne organizacije znaju kako ih pronaći, podijeliti ih ili ih pitati prije nego se odluka učvrsti.

Naposljetku, institucije čine obveze održivima. Tvrtka može promijeniti smjer, ministar može promijeniti resor, model može promijeniti verziju, a proračun može postati manje maštovit. Javna svrha, zapis, ovlast i pravni lijek ne bi smjeli nestati zajedno s izvornom prezentacijom. Zato trajni sustavi trebaju dosadne stvari: otvorena sučelja gdje je to moguće, jasno vlasništvo, zadržane zapise, realne uvjete podrške, imenovane točke revizije i provediv izlaz. Dosadne stvari nisu suprotnost inovaciji. One omogućuju da se inovacija revidira, a da to ne postane rušilačka operacija.

Europska prednost koju vrijedi izgraditi

Europa ne treba dobivati raspravu o tome jesu li institucije uzbudljive. Nisu, većinu dana. Dobro vođen registar nije uzbudljiv. Specifikacija interoperabilnosti nikada nije izazvala val na stadionu. Klauzula o javnoj nabavi koja se odnosi na formate izvoza neće se tiskati na platnenu torbu. Nedostatak glamura dio je njihove vrijednosti. One nastavljaju raditi kada se pozornost usmjeri drugamo.

Također nema razloga da ovo postane priča o europskoj moralnoj superiornosti. Svaka regija ima institucije, neuspjehe, tehnička postignuća i slijepe pjege. Europa ima priliku, a ne dovršenu prednost. Njezine pravne tradicije, javne službe, višejezična društva, istraživačke mreže, industrijska baza i prekogranični aranžmani mogu poduprijeti poseban pristup ako su povezani sa stvarnim operativnim kapacitetom. Mogu također ostati zbirka vrijednih dokumenata ako ljudima koji trebaju obaviti posao ostane bez vremena, ovlasti ili alata.

Izbor je praktičan. Gradite javnu nabavu koja kupuje dokaze i izlazne putove, a ne samo sposobnost. Gradite infrastrukturu koja uključuje pristup, podršku, svijest o energiji i odgovorno upravljanje. Gradite radne procese koji ljudima daju informacije i stvarnu diskreciju. Ugradite pismenost u uloge i promjene, a ne u jedno poslijepodne. Ugradite jezičnu podršku u uslugu, a ne samo u početnu stranicu. Gradite sigurnosne argumente koji se mogu ponovno otvoriti. Gradite javne zapise koji omogućuju da teško pitanje stigne do pravog vlasnika.

Tada se sljedeća demonstracija može ispravno primiti. Može se uživati u onome što jest: dokaz da tehničku sposobnost možda vrijedi istražiti. Ne mora nositi nemoguć teret dokazivanja da je okolno društvo spremno. Taj se dokaz, gdje je uopće moguć, polako stvara radom institucija.

Kratka napomena od nas

U Dweveu istom institucionalnom problemu pristupamo s namjerno uskom javnom tvrdnjom. Naš Trust Centre zapis navodi da je Dweve Loom 1.0 još uvijek u internom pretproizvodnom testiranju, sa zatvorenim vanjskim pristupom. Objavljeni uvjet za izdanje kaže da otvaranje vanjskog puta ovisi o dokazima usklađenim s verzijom, prolazima specifičnima za rutu, zabilježenoj odluci o izdanju i provjeri cjelovitosti javnih zapisa. To nije tvrdnja da zapis čini sustav sigurnim ili da će se buduće izdanje dogoditi. To je tvrdnja o odvajanju plana od događaja i o operativnoj odluci vezanoj uz dokaze.

To je standard koji vrijedi šire primijeniti. Ne tražite od modela da bude institucija. Tražite od institucija da budu dovoljno dobre da odluče gdje model pripada, što smije raditi, kako se može osporiti i kada mora stati.

Izvori