Evropski pogovor o umetni inteligenci potrebuje manj predstavitev in več institucij.

Prepričljiva predstavitev modela lahko pokaže zmogljivost. Ne more pa odločati o tem, kdo ima pooblastila, kako ljudje izpodbijajo rezultat, kje so dokazi,...

Evropski pogovor o umetni inteligenci potrebuje manj predstavitev in več institucij.

Predstavitev ni javna institucija

Dobra predstavitev ima posebno moč. V nekaj minutah stisne možnost. Obrazec se izpolni, dokument se povzame, pojavi se slika, težko vprašanje dobi verjeten odgovor. Vsi v prostoru lahko vidijo, zakaj bi si kdo želel to stvar. To je uporabno. A prav tu se veliko težjih vprašanj vljudno prestavi na pozneje.

Pozneje se začne institucija. Kdo je upravičen odločati, ali se sistem lahko uporablja? Kateremu javnemu namenu služi? Kateri dokazi so za ta namen zadostni in kdo lahko reče, da niso? Kaj se zgodi, ko se spremeni različica, ko delavec izpodbija priporočilo, ko oseba zahteva pojasnilo, ko energetska omejitev zapre pot ali ko se dobaviteljev načrt spremeni v drugačen načrt? Predstavitev ni zasnovana tako, da bi odgovarjala na ta vprašanja. Javna institucija je.

Evropa je veliko časa namenila razpravi o umetni inteligenci kot tekmovanju zmogljivosti. Ta pogovor je razumljiv. Zmogljivost je vidna. Naredi urejen posnetek. Institucije so večinoma vidne skozi delo, ki preprečuje, da bi stvari postale skrivnostne: pogoji javnih naročil, vodenje evidenc, nadzor dostopa, usposabljanje, nadzor, pritožbene poti, proračuni za vzdrževanje, jezikovna podpora, tehnični standardi, oseba, katere ime je povezano z odločitvijo. Nič od tega ne daje uvodnemu nagovoru običajnega sijaja. Vendar pa odloča o tem, ali sistem ostane odgovoren, ko se prostor izprazni.

To ni argument za plašno tehnologijo ali za javni sektor, ki ne kupi ničesar, dokler ne vidi prihodnosti. Je argument proti kategorični napaki. Model lahko ustvarja, razvršča, napoveduje ali priporoča. Sam ne more ustvariti legitimnega mandata, razporediti javne odgovornosti, naučiti sodelavca, kako ga izpodbijati, ohranjati nacionalni jezik, se pogajati za priključek na omrežje ali ohraniti pravno sredstvo za osebo, ki jo njegova uporaba prizadene. Te naloge pripadajo ljudem in organizacijam, tudi kadar programska oprema pomaga pri delu.

Evropski pogovor o umetni inteligenci potrebuje manj predstavitev v smislu, da potrebuje manj predstavitev, ki nadomeščajo dokaze o pripravljenosti. Potrebuje več institucij v smislu, da potrebuje boljša mesta za odločanje, ohranjanje znanja in popravljanje smeri. Premik ni od tehnologije k birokraciji. Je od ozke slike tehnologije k dejanski ureditvi, v kateri ima tehnologija posledice.

To vprašanje je pomembno daleč onkraj vlade. Bolnišnica, občina, šola, proizvajalec, kulturna ustanova in malo podjetje nimajo enakih obveznosti ali tveganj. Toda vsi sčasoma odkrijejo, da je model le ena sestavina v širši ureditvi. Širša ureditev določa, kdo zagotavlja vnose, kdo bere izhode, kdo sprejema preostalo tveganje, kdo lahko ustavi sistem in kdo ostane, ko je podjetje za programsko opremo poslalo svoje četrtletno glasilo.

Zato jezik institucij ni umik od tehničnih ambicij. Je jezik kontinuitete. Javna storitev mora delovati na navaden torek, v jeziku ljudi, ki jo uporabljajo, v okviru proračuna, ki ga lahko nekdo pregleda, po zamenjavi osebja, med nesoglasjem z dobaviteljem in ko je prvotno navdušenje postalo nalog za vzdrževanje. Vsaka resna trditev o umetni inteligenci mora na koncu prestati to pot.

Zmogljivost je le eno od vprašanj

Demonstracija običajno zastavi ozko in razumno vprašanje: ali sistem zmore to nalogo pod temi pogoji? Institucija mora zastaviti večji nabor vprašanj hkrati. Ali je to nalogo sploh primerno avtomatizirati ali podpreti? Ali je navedeni namen zakonit in sorazmeren? Ali lahko ljudje, ki opravljajo delo, rezultat še vedno razumejo in mu lahko ugovarjajo? Ali obstaja pot, po kateri lahko posameznik iz javnosti vpraša, kaj se je zgodilo? Ali lahko organizacija zamenja ponudnika, ne da bi opustila svoje evidence? Ali je sistem odvisen od redkih računskih virov, določenega jezikovnega vira ali podatkovnega toka, za katerega nihče ni predvidel sredstev za vzdrževanje?

Ta vprašanja modela ne poslabšajo. Odločitev naredijo bolj pošteno. Razlikujejo funkcijo od storitve in storitev od javne zmožnosti. Funkcija je lahko impresivna, medtem ko je okoliška ureditev krhka. Storitev je lahko uporabna, medtem ko njena pogodba onemogoča pregled bistvene spremembe. Javna zmožnost mora sčasoma ostati uporabna, upravljana in popravljiva. Nositi mora več kot le rezultat.

O aktu o umetni inteligenci se pogosto govori, kot da bi bil enoten odgovor na ta problem. Ni. Je pomemben pravni okvir, njegov navedeni namen pa povezuje delovanje notranjega trga s človeško usmerjeno in zaupanja vredno umetno inteligenco ter visoko ravnjo zaščite zdravja, varnosti, temeljnih pravic, demokracije, pravne države in okolja. Toda akt sam opozarja na pomembno dejstvo o institucionalni resničnosti: deluje skupaj z obstoječim pravom Unije na področju varstva podatkov, potrošnikov, zaposlovanja, delavcev in varnosti izdelkov. Pravni okvir ni nadomestilo za ta področja. Z njimi se sreča.

To bi moralo oblikovati praktični pogovor. Ekipa ne more razglasiti sistema za družbeno sprejemljivega zgolj s sklicevanjem na klasifikacijo tveganja umetne inteligence, medtem ko ignorira postopek zaposlovanja, ki ga obdaja. Javni organ ne more razglasiti sistema za odgovornega, ker je opravil tehnično oceno, medtem ko prebivalci še vedno ne morejo najti lastnika ali evidence. Ponudnik ne more prikazati problema prenosljivosti kot neobstoječega z uporabo besede oblak. Vprašanje je vedno, kako se nova komponenta obnaša znotraj obveznosti, ki so že obstajale.

Obstaja praktična skušnjava, da bi to razumeli kot argument za večjo mapo skladnosti. Ni. Več strani lahko organizaciji oteži delovanje, če nihče ne ve, katera stran spremeni odločitev. Institucije ne postanejo sposobne z zbiranjem predlog. Postanejo sposobne, ko se opredeljeni namen, imenovani organ, uporabni dokazi in pot za popravek srečajo v istem delu.

To je veliko zahtevnejši standard kot demonstracija. Je tudi pravičnejši. Ponudnik modela ne bi smel odgovarjati za vsako lokalno politično odločitev, ki jo sprejme uvajalec. Uvajalca ne bi smeli prositi, da obratno inženirsko razčleni vsako tehnično odločitev pri ponudniku. Vsaka stranka potrebuje mejo, evidenco tega, kar jo prečka, in način, kako ugotoviti, kdaj se je meja premaknila. Institucije obstajajo deloma zato, da te meje naredijo razumljive.

Pravo je temelj, ne celotna zgradba

Za Evropo se pogosto reče, da je izbrala pravila namesto tehnologije. Ta opis je preveč urejen, da bi bil uporaben. Pravo lahko prepoveduje, zahteva, dodeljuje dolžnosti in ohranja pravna sredstva. Lahko določi minimalno javno raven, pod katero sistem ne bi smel pasti. Ne more pa najeti ocenjevalca, ki razume lokalni delovni proces, vzdrževati podatkovnega vmesnika, napisati smiselne specifikacije za javno naročilo ali poskrbeti, da bi izčrpana ekipa nenadoma imela čas za učenje novega postopka. Te stvari zahtevajo zmogljivost.

Razlika je pomembna, ker lahko pravni jezik prikrije operativno odsotnost. Politika lahko navaja, da človeški nadzor obstaja. Ta trditev je brez pomena, če človek nima pooblastila, da ustavi pot, nima časa za pregled primera, nima informacij o različici modela, nima usposabljanja za nalogo in nima poti za posredovanje nestrinjanja. Nadzor obstaja le na papirju, podobno kot požarni izhod, skrit za omaro. Zelo pomirjujoč bo, dokler ga ne bomo potrebovali.

Enako velja za preglednost. Razkritje je lahko tehnično dostopno in praktično neuporabno. Oseba lahko prejme dolg opis sistema, ne da bi izvedela, kdo je lastnik odločitve, kateri zapis je mogoče izpodbijati ali kako pridobiti pravno sredstvo. Javni register lahko navaja algoritem, ne pove pa, ali je navedena različica trenutna, za kaj se sistem uporablja ali kdo ima pooblastilo za odgovor na vprašanje. Preglednost ni količina besedila. Je zmožnost, da poiščemo odločitev in njenega lastnika.

Evropsko pravno delo je dragoceno prav zato, ker nekatere od teh vprašanj oteži za zavrnitev. Zagotavlja skupni jezik za ponudnike, uvajalce, regulatorje in prizadete ljudi. Prav tako naredi vrzeli bolj vidne. Ko organizacija ne more navesti svojega predvidenega namena, opredeliti svojega podatkovnega toka, voditi evidence o bistveni spremembi ali imenovati osebe, ki lahko ustavi uporabo, težava ni le v tem, da je dokumentacija zamujala. Organizacija še ni zgradila stvari, za katero trdi, da jo upravlja.

Tu imajo institucije skromno prednost pred slogani. Spomnijo se, da se je odločitev zgodila. Ob njej ohranijo pogoje. Ohranjajo razliko med načrtom in dogodkom. K obljubi dodajo ime, e-poštni predal in včasih nekoliko trmast obrazec. Obrazec ni dosežek. Dosežek je, da je nekoga mogoče pozvati k odgovornosti za odgovor.

Dober zakon ustvarja prostor za to delo. Ne bi smel biti uporabljen kot nadomestek zanj. Zrelo vprašanje ni, ali je sistem skladen v abstraktnem smislu. Je, ali lahko odgovorne osebe dokažejo, kako njegova posebna uporaba izpolnjuje veljavne obveznosti, česa še ne vedo in kaj bodo storile, ko se bodo dokazi spremenili. To je hkrati pravno, operativno in institucionalno vprašanje.

Javna naročila so prostor, kjer se javni namen sreča s pogodbo z dobaviteljem

Javna naročila zvenijo postopkovno, ker so postopkovna. So tudi eno od mest, kjer javni namen postane resničen. Javni organ kupuje dela, blago ali storitve od izbranih podjetij skozi postopek, ki ga oblikujejo pravila, namenjena ohranjanju odprtosti in konkurenčnosti javnih naročil. V okviru umetne inteligence ta postopek ni le trenutek, ko je izbran izdelek. Je trenutek, ko se organ lahko odloči, kaj mora dobavitelj narediti pregledno, katere spremembe zahtevajo obvestilo, kateri zapisi ostanejo na voljo, kako se delo lahko preda in kaj se zgodi, če je treba sistem ustaviti.

Javno naročilo, ki sprašuje le po zmogljivostih modela, običajno kupi predstavitev s priloženim računom. Javno naročilo, ki sprašuje po pogojih delovanja, kupi nekaj bližje storitvi. Lahko zahteva opredeljen predvideni namen, vmesnike, dokumentacijo, dostopne dokaze, vloge z dovoljenji, kontakte za incidente, obvestila o posodobitvah, formate za izvoz, meje podpore, ureditve hrambe, pomoč pri izstopu in jasno razdelitev odgovornosti. Lahko vpraša, kdo je lastnik določenega tveganja, namesto da vsaki stranki dovoli domnevo, da je lastnik nekdo drug.

Nobena splošna klavzula ne ureja teh zadev. Majhna organizacija, ki kupuje ozko notranje orodje, ne bi smela podedovati pogodbe, pripravljene za nacionalno kritično storitev. Prav tako visoko vplivna javna raba ne bi smela dobiti pogodbene discipline brezplačnega preizkusa z nekoliko daljšim obrazcem. Pogodba mora slediti posledicam odločitve, odvisnosti, ki jo storitev ustvarja, in zmožnosti organizacije, da jo upravlja.

Ponazoritveni scenarij, ne poročilo o dejanskem javnem naročilu: predstavljajte si javni organ, ki preučuje sistem za pomoč uslužbencem pri urejanju prispelih gradiv v zadevah. Predstavitev prikazuje povzetke, izluščena polja in predlagano čakalno vrsto. Odgovorno vprašanje ni, ali je čakalna vrsta videti urejena. Vprašanje je, ali uslužbenci vidijo izvorno gradivo, ali so pravila za prednostno obravnavo dokumentirana, ali je mogoče zadevo popraviti brez ustvarjanja skritega drugega delovnega toka, ali posodobitev sistema spremeni rezultat, ali je zapise mogoče izvoziti in kdo odgovarja, ko oseba izpodbija način obravnave svojega gradiva. Nobeno od teh vprašanj ne zahteva teatralnega strahu pred umetno inteligenco. Zahtevajo zrelo pogodbo.

Javno naročanje lahko organizacijo zaščiti tudi pred lastnim optimizmom. Če ponudnik reče, da bo nova funkcija prišla pozneje, jo lahko organ zabeleži kot načrt in je ne kupi kot obstoječo zmogljivost. Če ponudnik obljubi pot človeškega pregleda, lahko pogodba opiše dejansko vlogo, pogoj odziva in dokaze, namesto da sprejme frazo, ki zveni pomirjujoče. Če je storitev odvisna od določenega podatkovnega formata, lahko organ zahteva preslikavo in izvoz, preden sistem postane težko zapustiti. Optimizem ima svoje mesto v inovacijah. Ne bi smel smeti podpisovati pogodb brez spremstva.

To ne pomeni, da mora vsaka ekipa za javna naročila postati modelni laboratorij. Pomeni, da morajo imeti ekipe dostop do pravega znanja. Pravno, tehnično, operativno, finančno in uporabniško znanje se mora srečati, preden so sprejete nepovratne odločitve. To je eden od razlogov, zakaj so institucije pomembne. Ustvarjajo način, da so različne oblike znanja prisotne, ne da bi se pretvarjale, da jih lahko nosi ena oseba.

Najboljše vprašanje pri javnem naročilu je pogosto presenetljivo preprosto: kaj bo ta ureditev zahtevala od nas po zagonu? Odgovor lahko vključuje čas uslužbencev, zapise, spremljanje, energijo, jezikovno znanje, integracijska dela, poti pregleda in načrt izhoda. Če nobena od teh stvari ni v odgovoru, javno naročilo ni odpravilo bremena. Preprosto ga je pustilo zunaj proračuna.

Infrastruktura ima javni naslov

Mikajoče je govoriti o računski moči, kot da bi bila vreme. Delovna obremenitev potrebuje zmogljivost, zmogljivost je nekje drugje, pomembno pa je, ali se stran na koncu naloži. Toda računska moč ima lokacijo, dobavno verigo, omrežno pot, energetsko povpraševanje, režim vzdrževanja in pravni okvir. Infrastruktura je zato del institucionalne zmogljivosti, ne njeno ozadje.

Delo Evropske komisije na področju digitalizacije energetskega sistema tega ne dopušča zanemariti. Obravnava optimizacijo omrežja, učinkovitost, prožnost in trajnostno vključevanje podatkovnih centrov. Pomembna beseda je vključevanje. Podatkovni center ni zgolj zasebna škatla strojev, ki po naključju porablja elektriko. Je del skupnega energetskega sistema z lokalnimi omejitvami, javnim načrtovanjem in drugimi zahtevami do omrežja. Resna strategija umetne inteligence mora videti celotno ureditev, namesto da elektriko obravnava kot opombo pod grafom računske moči.

To ne ustvari preprostega pravila, da mora biti vsa obdelava lokalna, centralna, nacionalna ali evropska. Vsaka izbira ima pogoje. Lokalna namestitev lahko zmanjša nekatere prenose podatkov in postavi nadzor blizu organizacije, hkrati pa poveča njeno breme vzdrževanja. Skupni evropski objekt lahko razširi dostop do drage zmogljivosti, vendar zahteva jasna pravila dostopa in realno pot od poskusa do delovanja. Komercialna gostujoča storitev je lahko uporabna pot za nekatera dela, vendar odpira vprašanja o jurisdikciji, odvisnosti, evidencah in nadzoru sprememb. Geografija je oblikovalska odločitev s posledicami, ne moralna nalepka.

Tovarne umetne inteligence programa EuroHPC so v tem pogledu zanimive, ker je njihov javni opis širši od prostora, polnega pospeševalnikov. Storitve vključujejo računalništvo in shranjevanje, dostop do podatkov in programske opreme, podporo, usposabljanje, uvajanje in sodelovanje, osredotočeno na posamezne sektorje. Ta kombinacija je pomembna. Stroj brez dostopne poti, ljudi, ki lahko pomagajo, in utemeljene povezave s področjem dela ni javna zmogljivost. Je drago pohištvo z impresivnim hrupom ventilatorjev.

Javna infrastruktura potrebuje tudi institucionalni spomin. Kdo lahko uporablja vir? Pod kakšnimi pogoji? Katero delo ima prednost, ko je zmogljivost omejena? Katere podatke je mogoče vnesti? Kateri rezultati lahko zapustijo sistem? Kaj se zgodi, ko se projekt konča? Kako manjšim organizacijam pomagamo pri uporabi vira, ne da bi od njih pričakovali, da bodo prišle z namensko raziskovalno pisarno in rezervnim tednom? Nabava strojne opreme ne odgovori na ta vprašanja. To stori delovanje.

Tu je lekcija o suverenosti, ki je pogosto zreducirana na zemljevid. Storitev je lahko fizično blizu in še vedno težko obvladljiva. Sistem je lahko gostovan na evropskih tleh, medtem ko ključni nadzor, pooblastila za posodobitve, vmesniki ali komercialni vpliv ostanejo drugje. Nasprotno pa lahko čezmejna evropska ureditev podpira smiselno javno zmogljivost, ko so meje, pravice dostopa, odgovornosti in izhodne poti izrecno določene. Relevantno vprašanje ni samo, kje stoji regal. Je, kdo lahko odloča, pregleduje, vzdržuje in odide.

Institucije so potrebne, da ta vprašanja držijo skupaj. Načrtovalci energetike ne morejo sklepati o delovni obremenitvi umetne inteligence z oglaševalske strani. Nabavni strokovnjaki ne morejo pogajati o odnosu s podatkovnim centrom na podlagi merila uspešnosti modela. Raziskovalna ekipa ne more spremeniti dostopa do stroja v trajno zmogljivost brez podpore, prakse ravnanja s podatki in poti do uporabe rezultata. Nit, ki povezuje te zadeve, ni določen model. Je javna sposobnost sprejeti omejeno odločitev in ohraniti možnost, da jo ponovno preučimo.

Zmogljivost ne stoji v središču sama od sebe. Izberite področje in si oglejte javno delo, ki ga mora nositi.

Delo ni podrobnost namestitve

Vsak sistem umetne inteligence nekje spremeni delo. Včasih je sprememba očitna, ker je naloga predana programski opremi. Pogosteje je tišja. Delavec preveri predlog namesto da bi ustvaril prvi osnutek. Vodja vidi oceno pred pogovorom. Operater klicnega centra prejme povzetek, ki oblikuje naslednje vprašanje. Referent porabi manj časa za iskanje dokumenta in več za razlago izjeme. Naloga se je spremenila, tudi če se naziv delovnega mesta ni.

Zato dela ni mogoče pustiti na koncu načrta izvajanja pod naslovom upravljanje sprememb. Delo ni površina, ki bi jo bilo treba upravljati po sprejetju tehnične odločitve. Na delu sistem pridobi svoj praktični pomen. Delavci vedo, kateri zapisi so nepopolni, katere izjeme so pogoste, kje smiselno pravilo postane nesmiselno in kaj navidez učinkovit postopek zahteva od človeka. Če jih izključimo iz pogovora o oblikovanju, je to zanesljiv način, da delovni proces postane manj razumljiv.

Pregled EU-OSHA o upravljanju delavcev z umetno inteligenco opozarja tako na priložnosti kot na tveganja za varnost in zdravje pri delu. Ta formulacija je uporabna, ker zavrača dve poenostavljeni zgodbi. Prva pravi, da je vsako orodje umetne inteligence prikriti nadzornik. Druga pravi, da je tehnologija nevtralna, dokler je ne zlorabi določen slab akter. V praksi lahko oblikovanje spremljanja, ciljev, priporočil, opozoril in razporejanja oblikuje kakovost dela, še preden kdo izreče dramatično besedo o nadomeščanju.

Človeški institucionalni odziv ni vztrajanje pri tem, da vsak zaposleni postane strokovnjak za umetno inteligenco. Gre za to, da postane odnos med orodjem in delom predmet razprave. Kaj sistem sme priporočiti? O čem ne sme odločati? Kateri signali vstopajo v pogovor o uspešnosti? Ali lahko delavec pregleda in popravi zapis, ki se uporablja o njem? Kaj se zgodi, ko je izhod sistema v nasprotju s strokovno presojo? Ali je na voljo čas za učenje orodja in ali se ta čas šteje za delo in ne za zasebni hobi, ki se ga lotimo, ko otroci zaspijo?

Vprašanje avtoritete je še posebej pomembno. Delavec, ki je nominalno svoboden, da preglasi izhod sistema, a ga ocenjuje nadzorna plošča, ki nagrajuje strinjanje, ni dobil smiselne diskrecijske pravice. Vodja, ki prejme oceno, ne da bi poznal njeno podlago, ni dobil smiselne odgovornosti. Predstavnik sindikata, ki sistem vidi šele po nabavi, ne more prispevati znanja, ki bi preprečilo izogibljiv spor. Institucije naredijo prostor za ta dejstva, preden jih preglednica spremeni v presenečenja.

Evropskega delovnega okolja ni mogoče posplošiti. Panožni dogovori, nacionalna delovna zakonodaja, organizacijska kultura in narava naloge so vsi pomembni. Toda institucionalno načelo se dobro prenaša: ljudi ne obravnavajte kot plast za obravnavanje napak sistema, ki jim ni bilo dovoljeno razumeti. Če je človeška presoja del varnostnega argumenta, mora organizacija tej presoji zagotoviti informacije, avtoriteto in pot, da je slišana.

Izobraževanje je praksa in jezik je del prakse

Pismenost na področju umetne inteligence je postala priljubljen odgovor na institucionalno šibkost. Pošljite ljudi na tečaj, izdajte potrdilo, objavite vesel prosojnico na intranetu in zadevo imejte za urejeno. To je boljši odgovor kot nobeno učenje. Ni pa dovolj.

Smernice Komisije o pismenosti na področju umetne inteligence postavljajo obveznost na bolj utemeljeno mesto. Ponudniki in uvajalci bi morali sprejeti ukrepe za zagotovitev zadostne ravni pismenosti med zaposlenimi in drugimi osebami, ki v njihovem imenu delajo s sistemi umetne inteligence. Upoštevni dejavniki vključujejo tehnično znanje, izkušnje, izobraževanje in usposabljanje ter okoliščine, v katerih se sistem uporablja. To ni zahteva za univerzalni kviz o strojnem učenju. Je povabilo, da se znanje uskladi z odgovornostjo.

Nabavni referent mora prepoznati trditev, ki je ni mogoče oceniti iz brošure. Delavec na prvi liniji mora vedeti, kdaj je treba rezultat preveriti glede na izvorno gradivo. Vodja mora razumeti, česa mu skupni rezultat ne more povedati o posameznem primeru. Član upravnega odbora mora znati vprašati, kdo ima pooblastilo, da ustavi sistem. Razvijalec potrebuje globlje razumevanje podatkov, vmesnikov, vrednotenja in napak. Vse to imenovati pismenost je morda nekoliko neurejeno. Resnične institucije si lahko privoščijo neurejenost, kadar je alternativa pretvarjanje, da en tečaj vsako vlogo pripravi enako dobro.

Izobraževanje ima tudi težavo s časom. Človek lahko orodje razume marca, oktobra pa se sooči z bistveno drugačnim vmesnikom, modelom ali potekom dela. Uporaben izobraževalni program zato sledi spremembam, ki so pomembne. Ljudem daje način, kako ponovno preučiti pogoje za odločanje, ne le spomin na dogodek ob zagonu. Etične smernice Komisije za izobraževalce opozarjajo na sorodno točko v drugem okolju: praktične presoje o umetni inteligenci pri poučevanju in učenju ni mogoče zreducirati na to, da se nekaj preprosto vklopi. Kontekst, namen in ljudje v prostoru ostajajo pomembni.

Sem sodi tudi jezik. Prikazani jezik sistema ni jezik družbe. Model lahko ustvarja tekoče besedilo v nekem jeziku, a mu manjkajo upravni izrazi, regionalne oblike, strokovno izrazje, kulturne reference ali pravni pomeni, zaradi katerih je resnična odločitev razumljiva. Prevod je lahko slovnično urejen in vseeno spremeni odgovornost, obveznost ali pravico. Večjezična uporaba ni okrasna lokalizacija na koncu sicer dokončanega izdelka.

Za Evropo je to praktično institucionalno vprašanje. Javne službe, delovna okolja in šole delujejo v številnih jezikih, včasih v več jezikih znotraj iste organizacije. Dokumentacija, poti za prijavo napak, usposabljanje, podpora in postopki za ugovor morajo ljudi doseči tam, kjer delo poteka. Če je politika na voljo v enem jeziku, delovni vmesnik pa v drugem, je organizacija sistem razdelila na dvoje. Če lahko oseba prejme odločbo v svojem jeziku, ne more pa v tem jeziku najti pojasnila ali poti za ugovor, je pravno sredstvo postalo zgolj teoretično.

Rešitev ni obljuba, da vsak sistem vsak jezik razume enako dobro. To bi bila trditev z zelo malo dokazi. Rešitev je, da pokritost pošteno opredelimo, preizkusimo dejansko predvideno uporabo, vidnost ohranimo pri omejitvah jezika in poskrbimo, da vrzel tiho ne postane slabost za ljudi, ki jo najmanj zmorejo odpraviti. To je manj bleščeče kot napovedovanje večjezične umetne inteligence. Je bolj spoštljivo.

Varnost se začne s trditvijo, o kateri se da razpravljati

Varnost je še ena beseda, ki postane nejasna, ko mora nositi preveč pomena. Sistem umetne inteligence ni varen, ker dobavitelj trdi, da ima zaščitne ukrepe. Ni varen, ker merilo uspešnosti vsebuje pomirjujočo številko. Ni varen, ker je nekje v procesu vključen človek. Varnost zadeva omejeno trditev: ta sistem se sme uporabljati za ta namen, v tem okolju, pod temi pogoji, s temi nadzornimi ukrepi, dokazi, preostalimi tveganji in ljudmi, ki lahko ukrepajo.

Zato so varnostni primeri uporabni tudi zunaj sektorjev, kjer se o njih običajno razpravlja. Varnostni primer ni značka. Je argument, ki trditev povezuje z nevarnostmi, nadzornimi ukrepi, predpostavkami, dokazi in odločitvijo. Pusti prostor za negotovost. Lahko pove, da pogoj še ni izpolnjen. Lahko pove, da sprememba zahteva ponovno oceno. Lahko pove, da je prava odločitev premor. Predstavitev nima pravega načina, da bi to povedala, ne da bi pokvarila lastno vzdušje.

Pri delu z umetno inteligenco je ključni korak povezati dokaze z dejansko uporabo. Vrednotenje modela lahko organizaciji pove nekaj o zmogljivosti pod določeno metodo. Samodejno pa ne dokazuje, da je model primeren v vsakem delovnem procesu, za vsako skupino, v vsakem jeziku ali po vsaki spremembi integracije. Institucija mora nositi verigo od modela do storitve in do lokalne odločitve. Prav v tej verigi postanejo številne sicer iskrene trditve preobsežne.

Dokazi imajo rok trajanja, tudi če datoteka sama nima. Različica se spremeni. Zbirka za iskanje se spremeni. Nova predloga poziva spremeni vedenje, ki ga uporabnik vidi. Delavec odkrije način odpovedi, ki ga v testnem nizu ni bilo. Spremeni se zakon, politika ali vir podatkov. To niso neprijetne prekinitve popolnega sistema. To so običajni pogoji delovanja programske opreme v svetu. Naloga institucije je odločiti, katere spremembe zahtevajo nov pregled, kdo sprejme to odločitev in kako prejšnji zapis ostane na voljo za primerjavo.

Sposobnost ustavitve je del istega argumenta. Pogoj za ustavitev, ki ga nihče ne more sprožiti, je dekorativna klavzula. Gumb za ustavitev brez lastnika je majhen kos sodobne umetnosti. Verodostojna ureditev imenuje organ, signal, ki lahko sproži ukrepanje, pot za eskalacijo, varno stanje in način zapisa odločitve. Podrobnosti se razlikujejo. Potreba po podrobnostih pa ne.

Varnost zato ni oddelek, ki na koncu pride z rdečim pisalom. Je način, kako skupno odločitev narediti natančnejšo, preden sistem postane težko spremeniti. Postavlja vprašanje, ki se mu predstavitve izogibajo, ker je odgovor lahko neprijeten: kateri dokazi bi nas prepričali, da ne nadaljujemo? Institucija, ki zna odgovoriti na to vprašanje, je že postala sposobnejša od tiste, ki zna samo proslaviti zagon.

Javna zmogljivost je veriga, ne razstavni prostor

Javna zmogljivost Evrope za umetno inteligenco se ne bo merila le s številom modelov, podatkovnih centrov ali raziskovalnih objav, ki jih lahko postavi na zemljevid. Te stvari so pomembne. Niso pa samozadostne. Zmogljivost je sposobnost uporabe tehničnih virov za javni namen skozi čas, z zadostno strokovnostjo in avtoriteto, da se izognemo odvisnosti, ki se maskira kot napredek.

Zakon o interoperabilni Evropi ponuja koristen namig. Njegova skrb je interoperabilnost javnega sektorja po vsej Uniji ter souporaba in ponovna uporaba interoperabilnostnih rešitev. Interoperabilnost se včasih obravnava kot tehnična izbira: vprašanje formata za ljudi, ki uživajo v diagramih s puščicami. Pri javnem delu pa je tudi institucionalna lastnost. Določa, ali lahko zapis potuje s svojim pomenom, ali lahko en organ razume meje sistema drugega organa, ali se izhod dobavitelja spremeni v obvladljivo selitev ali v omaro, polno neberljivih izvozov.

Interoperabilnost ne pomeni, da bi morali biti vsi sistemi videti enako ali da bi moralo biti vse javno delo centralizirano. Pomeni, da meja ne sme uničiti informacij, potrebnih za odgovorno nadaljevanje. Organizacija bi morala biti sposobna prepoznati objekt, njegovega lastnika, njegov namen, njegovo različico, dokaze, priložene k njemu, in odločitve, ki so ga spremenile. Nova storitev bi morala biti sposobna prejeti potrebne zapise brez dovoljenja starega dobavitelja za njihovo razlago. To ni oblikovalski okras. To je način, kako javna institucija ostane svobodna pri odločanju pozneje.

Nizozemski register algoritmov je še en majhen, a uporaben institucionalni objekt. Objavlja informacije o algoritmih, ki jih uporabljajo vladne organizacije, in se osredotoča na vplivne algoritme, vključno s sistemi umetne inteligence z visokim tveganjem. Register ne dokazuje, da je vsak navedeni sistem dober, pravičen ali zakonit. Njegova vrednost je drugje. Omogoča lažje iskanje obstoja sistema, prijavljene uporabe in odgovornega javnega organa. Ustvarja površino, na katero lahko pristane vprašanje.

Potrebujemo več teh površin, ne nujno več spletišč. Zapis modela ali sistema, javna pojasnila, nadzorovana tehnična dokumentacija, pot prijavljanja incidentov, zapis o javnem naročilu, načrt usposabljanja in specifikacija interoperabilnosti služijo različnim bralcem. Ujemati se morajo glede dejstev, ki prehajajo med njimi. Javna stran ni dolžna razkriti vsake občutljive podrobnosti. Ne sme pa biti v nasprotju z notranjimi dokazi. Dokument o javnem naročilu ni nujno priročnik za javnost. Ne sme pa organizaciji dovoliti, da pozabi pogoje, ki jih je kupila.

Nevarnost je, da zamenjamo vidnost za zmogljivost. Dodelan portal lahko skriva odsotnost operativnega modela. Nacionalna strategija lahko imenuje prednostno nalogo, ne zagotovi pa osebja, dostopa, vzdrževanja ali poti za manjše organizacije. Sklad za inovacije lahko podpre dokaz koncepta, ne podpre pa dela, potrebnega za ohranitev uporabne storitve pri življenju. Vrzel med temi stvarmi je kraj, kjer se mnogi razumni projekti tiho končajo.

Javna zmogljivost ima manj fotogenično obliko. Vključuje skupno strokovno znanje, dostopno infrastrukturo, usposobljenost za javna naročila, delo na standardih, vire v lokalnih jezikih, dolgoročno financiranje, neodvisen nadzor in ljudi, ki vedo dovolj, da dobavitelju zastavijo težko vprašanje. Vključuje sposobnost reči ne, se ustaviti, se prilagoditi in oditi. Celina, ki zmore te stvari, ima več kot le sektor umetne inteligence. Ima zametke tehnološke samouprave.

Javna zmogljivost je zanka: namen, dokazi, pooblastila, delovanje in učenje morajo po zagonu ostati povezani.

Delo po aplavzu

Morda si je lažje predstavljati teden po predstavitvi kot sam trenutek predstavitve. Ne resnični dogodek, ne prikrita študija primera, ampak preprosto običajno delo, ki sledi obetavni zamisli. Nekdo mora spremeniti navedeni namen v obseg, ki ga je mogoče oceniti. Nekdo se mora odločiti, kateri izvorni zapisi so primerni za uporabo. Nekdo mora opredeliti, kako rezultat vstopi v delovni proces. Nekdo se mora vprašati, ali se delo spremeni za ljudi, ki ga že opravljajo. Nekdo mora poskrbeti, da pot podpore deluje v jezikih, ki so pomembni. Nekdo mora ovrednotiti integracijo, spremljanje in morebitni izstop.

Na tej točki se lahko projekt zdi počasnejši, ker je dobil imena, pogoje in odvisnosti. Pravzaprav je postal obvladljiv. Predstavitev je hitra, ker zanemarja delo, potrebno za to, da sistem postane odgovoren. Institucija ni počasna zato, ker uporablja kontrolni seznam. Počasna postane, ko odkrije dejanske odvisnosti šele po tem, ko je rezultat že obljubila.

Praktična disciplina je, da se nerešena vprašanja umesti tja, kjer lahko spremenijo odločitev. Če organizacija ne ve, kako jo bo dobavitelj obvestil o pomembni spremembi modela, naj to zapiše, preden je pogodba sklenjena. Če ne more pojasniti, kdo lahko preglasi priporočilo, naj to razreši, preden vmesnik postane ustaljen. Če nihče ne upravlja izvornih podatkov, naj se podatki ne imenujejo pripravljeni. Če organizacija ne more podpirati predvidenih jezikov, naj zoži predvideno uporabo, namesto da bi široka obljuba postala tiha izključitev.

To ni birokratski maksimalizem. To je sorazmernost. Notranji pomočnik z nizkimi posledicami lahko potrebuje omejeno ureditev: določeno uporabo, jasno podatkovno mejo, navodila za osebje, način za prijavo težave in izhodno pot. Sistem, ki oblikuje dostop do dela, storitev, izobraževanja, kreditov, zdravja ali javne oblasti, potrebuje precej močnejšo ureditev. Pravilen odziv na sorazmernost ni manj vprašanj. So vprašanja, prilagojena škodi, ki jo lahko povzroči napaka.

Institucionalno delo prav tako omogoča večjo ponovno uporabnost inovacij. Ko ena ekipa dokumentira, kako je ovrednotila delovni postopek, se lahko druga ekipa uči iz metode, namesto da bi ponavljala isto negotovost. Ko organ objavi uporaben zapis sistema, imajo prebivalci in drugi javni organi izhodišče. Ko pogodba ohrani pravice do izvoza in zapise o spremembah, nasledniku ni treba rekonstruirati preteklosti iz posnetkov zaslona in računov. Ponovna uporaba ni le o kodi. Gre za to, da odločitve okoli kode ostanejo razumljive.

Tu je prijetna ironija. Organizacije, ki se najbolj bojijo, da jih bo upravljanje upočasnilo, pogosto nosijo največ skritega ponovnega dela. Znova izvajajo vrednotenja, ker pogoji niso bili nikoli zabeleženi. Razpravljajo o odgovornosti, ker vloge niso bile nikoli poimenovane. Ponovno se pogajajo o pogodbi, ker je bil izhod domnevan in ne določen. Usposabljajo ljudi po uvedbi, ker je bil delovni postopek obravnavan kot samoumeven. Institucije so videti kot breme le, dokler njihova odsotnost še ni vidna v projektnem načrtu.

Kaj institucije dejansko počnejo

Institucije je lahko predstaviti kot veličastne in oddaljene. V praksi opravljajo običajna dejanja vzdrževanja. Ohranjajo razlikovanja, ki jih tržni pogovor raje zamegli. Razlikujejo cilj od izida, načrt od dogodka, model od storitve, storitev od javne odločitve, zapis od dokaza in pritožbo od pravnega sredstva.

Razporejajo pooblastila. Ne simbolična pooblastila, temveč pooblastilo za odobritev predvidene uporabe, zavrnitev vira podatkov, začasno ustavitev poti, objavo popravka, sprejetje preostalega tveganja in sporočilo dobavitelju, da odgovor ni zadosten. Sistem brez take razporeditve pooblastila običajno odkrije skozi konflikt. To je drag način oblikovanja.

Ohranjajo spomin. Zapis prejšnje odločitve morda ni glamurozen, vendar omogoča novemu članu ekipe, da razume, zakaj omejitev obstaja. Zgodovina organizaciji omogoča, da spremenjen sistem primerja s pogoji, v katerih je bil odobren. Ščiti osebo, ki izpodbija izid, pred tem, da bi ji povedali, da so se ustrezni dokazi raztopili v prejšnji različici. Pozabljivost je včasih priročna. Le redko je močan model upravljanja.

Ustvarjajo poti za nestrinjanje. Dobra institucija ne domneva, da je pritožba dokaz neuspeha. Pritožbi daje prostor, kamor lahko gre, dovolj informacij za preučitev in osebo, ki lahko odgovori, ne da bi pod pritiskom izumljala nov postopek. To je pomembno za delavce, prebivalce, stranke, dobavitelje in notranje ekipe. Pot za izpodbijanje ni popuščanje pesimizmu. Je del tega, kako sistem opazi lastne meje.

Vlagajo v usposobljenost. Delo ni le tehnično. Vključuje ljudi, ki znajo brati pogodbo, oceniti podatkovno mejo, razumeti delovni postopek, razložiti izid v preprostem jeziku, upravljati infrastrukturo, usposabljati sodelavce in prepoznati, kdaj so dokazi prešibki za predlagano odločitev. Nobena organizacija ne zaposli vseh teh ljudi za vsak majhen projekt. Toda resne organizacije vedo, kako jih najti, si jih deliti ali jih povprašati, preden se odločitev strdi.

Navsezadnje institucije naredijo zaveze preživetja sposobne. Podjetje lahko spremeni smer, minister lahko zamenja resor, model lahko spremeni različico in proračun lahko postane manj domiseln. Javni namen, zapis, pooblastilo in pravno sredstvo ne bi smeli izginiti skupaj s prvotno predstavitveno predlogo. Zato trajnostni sistemi potrebujejo dolgočasne stvari: odprte vmesnike, kjer je to mogoče, jasno lastništvo, ohranjene zapise, realistične pogoje podpore, imenovane točke pregleda in izvedljiv izhod. Dolgočasne stvari niso nasprotje inovacij. So tisto, kar omogoča, da se inovacije revidirajo, ne da bi postale rušilna operacija.

Evropska prednost, ki jo je vredno zgraditi

Evropi ni treba zmagati v argumentu o tem, ali so institucije razburljive. Večino dni niso. Dobro vodena evidenca ni navdušujoča. Specifikacija interoperabilnosti še nikoli ni sprožila vala na stadionu. Določba o javnem naročilu glede izvoznih formatov ne bo natisnjena na vrečko. Pomanjkanje glamurja je del njihove vrednosti. Delujejo naprej, ko se pozornost premakne drugam.

Prav tako ni razloga, da bi to spremenili v zgodbo o evropski moralni večvrednosti. Vsaka regija ima institucije, neuspehe, tehnične dosežke in slepe pege. Evropa ima priložnost, ne dokončane prednosti. Njene pravne tradicije, javne storitve, večjezične družbe, raziskovalne mreže, industrijska baza in čezmejni dogovori lahko podprejo poseben pristop, če so povezani z dejansko operativno zmogljivostjo. Prav tako lahko ostanejo zbirka občudovanja vrednih dokumentov, če ljudje, ki morajo opraviti delo, ostanejo brez časa, pooblastil ali orodij.

Izbira je praktična. Gradite javna naročila, ki kupujejo dokaze in izhodne poti, ne le zmogljivosti. Gradite infrastrukturo, ki vključuje dostop, podporo, energetsko ozaveščenost in odgovorno delovanje. Gradite delovne procese, ki ljudem dajejo informacije in resnično diskrecijo. Gradite pismenost v vloge in spremembe, ne le v eno popoldne. Gradite jezikovno podporo v storitev, ne le na uvodno stran. Gradite varnostne argumente, ki jih je mogoče znova odpreti. Gradite javne evidence, ki omogočajo, da težko vprašanje doseže pravega lastnika.

Potem je mogoče naslednjo predstavitev ustrezno sprejeti. Uživamo lahko v njej zaradi tega, kar je: dokaz, da je tehnično zmogljivost morda vredno raziskati. Ni ji treba nositi nemogočega bremena dokazovanja, da je okoliška družba pripravljena. Ta dokaz, kjer je sploh mogoč, nastaja počasi, z institucijami, ki opravljajo svoje delo.

Majhna opomba od nas

Pri Dweve k istemu institucionalnemu problemu pristopamo z namerno ozko javno trditvijo. Naš Trust Centre v zapisih navaja, da Dweve Loom 1.0 ostaja v izključno notranjem predizdajnem testiranju, z zunanjim dostopom zaprtim. Objavljeni prag izdaje pravi, da odprtje zunanje poti zahteva dokaze, usklajene z različico, potrditve za posamezno pot, zabeleženo odločitev o izdaji in preverjanje celovitosti javnih zapisov. To ni trditev, da zapis naredi sistem varen ali da bo prihodnja izdaja zagotovo nastala. Gre za trditev o tem, da se načrt loči od dogodka, in operativno odločitev, vezano na dokaze.

To je standard, ki ga je vredno uporabljati širše. Ne zahtevajte od modela, da je institucija. Zahtevajte od institucij, da so dovolj dobre, da odločijo, kam model sodi, kaj sme početi, kako ga je mogoče izpodbijati in kdaj mora prenehati.

Viri