Tiho delo zakona EU o umetni inteligenci: zapisi, ne slogani

Težji del akta EU o umetni inteligenci ni ponavljanje njegovih načel, temveč pretvorba tveganja, dokumentacije, beleženja, človeškega nadzora in popravkov v...

Tiho delo zakona EU o umetni inteligenci: zapisi, ne slogani

Zapis, ki prispe po odločitvi

Obstaja trenutek po tem, ko je bilo avtomatizirano priporočilo sprejeto, ko se prostor spremeni. Zaslon še vedno prikazuje rezultat. Pogovor se je že premaknil na to, kaj sledi. Nekdo vpraša, katera različica sistema ga je ustvarila, katere informacije so bile takrat na voljo, ali bi operater lahko zavrnil rezultat in katero pravilo je pot omogočilo. Ta vprašanja niso dramatičen napad na tehnologijo. So običajna vprašanja, ki si jih institucije zastavljajo, ko dejanje dobi posledico.

Predstavljajte si sestavljen primer, namenoma brez imenovane organizacije, sistema ali incidenta. Javni organ uporablja visokotvegan sistem umetne inteligence za pomoč pri odločitvi, ki vpliva na posameznika. Usposobljen član osebja ostaja odgovoren za odločitev. Model poda rezultat, član osebja ga preveri in odločitev je sprejeta. Kasneje mora nadrejeni razumeti pot. Rezultat sam je prisoten. Odločitev je prisotna. Veriga med njima ni. Ni jasnega zapisa o veljavnih navodilih, uporabljenem vnosu, nameščeni različici, razpoložljivem posegu ali razlogu, zakaj je človek rezultat sprejel. Nič v tem opisu ne zahteva spektakularne okvare. Manjkajoč zapis je dovolj, da se pregled spremeni v vajo rekonstrukcije.

Akt o umetni inteligenci Evropske unije se pogosto obravnava kot katalog prepovedi, kategorij in kazni. Ti deli so pomembni, vendar niso celotno delo. Akt opisuje tudi tišjo infrastrukturo dokazov: upravljanje tveganj, ki je dokumentirano in vzdrževano, prakse podatkov z izvorom in namenom, tehnično dokumentacijo, ki jo je mogoče oceniti, dnevnike, ki beležijo pomembne dogodke, navodila, ki uvajalcu povedo, kako razlagati sistem, človeški nadzor z resnično avtoriteto ter zapise, ki ostanejo na voljo, ko se kasneje pojavi vprašanje. Zakon od institucije zahteva, da si namerno zapomni.

To je manj kinematografska naloga kot zagon modela. Prav tam pa odgovornost postane resnična. Slogan lahko trdi, da organizacija prevzema odgovornost. Zapis lahko pokaže, kako je odgovornost izgledala v določenem trenutku. Lahko pokaže mejo, negotovost, odobritev, zavrnitev, popravek ali odsotnost. Ne more narediti nezakonite odločitve zakonite zgolj z obstojem po dejstvu in ne more sam popraviti škode posameznika. Lahko pa naredi pot dovolj pregledno za pravno sredstvo, popravek in boljšo odločitev o naslednji različici.

Ta članek govori o tem tihem delu. Obveznosti beleženja in dokumentacije iz Akta o umetni inteligenci bere kot operativne zahteve in ne kot papirologijo, priloženo zagonu. Sprašuje se, kaj zapisi lahko ugotovijo, česa ne morejo ugotoviti, kako zapis dobi pomen iz konteksta, zakaj popolnost ni enaka količini in kako lahko organizacija zgradi rutino, ki pušča dokaze, ne da bi vsako človeško interakcijo spremenila v trajni predmet nadzora. Primeri, ki niso neposredno vzeti iz navedenega vira, so označeni kot predlagani, hipotetični ali sestavljeni. Na koncu zgodbe ni izmišljenega incidenta. Bistvo je, da ga ni treba potrebovati.

Obveznosti iz uredbe niso ločene police. Tvorijo pot od namena in tveganja do dokazov, nadzora in popravnih ukrepov.

Zakaj je tiho delo pomembno

Evidence je lahko lahko napačno razumljena, ker je prisotna v skoraj vsaki organizaciji. Vrstica v podatkovni bazi, zahtevek, zahteva za spremembo, podpisana odločitev, časovni žig in vrstica dnevnika so videti kot evidenca. Že njihova prisotnost pove zelo malo. Evidenca postane uporabna, ko odgovori na opredeljeno vprašanje z dovolj konteksta, da loči, kaj se je zgodilo, od tega, kar nekdo zdaj verjame, da se je zgodilo. To razlikovanje je še posebej pomembno pri umetni inteligenci, ker vidni rezultat pogosto skriva število transformacij, ki so mu sledile.

Običajen programski sistem lahko pusti sled, ki je operaterjem znana. Zahtevek vstopi, storitev preveri polja, pravilo se izvede, stanje se spremeni in odziv zapusti sistem. Sistemi umetne inteligence lahko dodajo sklepane kategorije, pridobljen kontekst, navodila v naravnem jeziku, verjetnostne rezultate, klice orodij, človeške urejanja in prilagodljivo stanje. Dodatna prožnost je lahko uporabna. Prav tako ustvarja več priložnosti, da dejstvo izgubi svoj izvor ali da navodilo postane avtoritativno, ne da bi bilo prepoznano kot tako. Evidenca mora ohraniti razlike, ki jih vmesnik skuša zabrisati.

Uredba o umetni inteligenci od organizacije ne zahteva, da ohrani vsak bajt, ki je kdaj šel skozi model. Njene zahteve so povezane z namenom, tveganjem, sledljivostjo, življenjskim ciklom in nadzorom. To je koristno izhodišče. Pravi, da morajo biti dokazi sorazmerni s predvidenim namenom in tveganji, hkrati pa dovolj strogi za ustrezno obveznost. Evidence predloga za urejanje z majhnim vplivom ne bi smeli obravnavati, kot da je popolna dokumentacija za odločitev, ki vpliva na temeljne pravice. Nasprotno pa pomembne odločitve ni mogoče narediti odgovorne s shranjevanjem enega samega končnega stavka in zelene kljukice.

Tiho delo se zato začne, preden je sistem dan v uporabo. Nekdo mora navesti, kaj naj bi sistem počel, kje ne sme delovati, kateri ljudje in okolja so vključeni, katere vnose lahko sprejme, kdo lahko ukrepa na podlagi rezultata in kaj se zgodi, ko je sistem negotov ali nedosegljiv. To niso le vprašanja oblikovanja. To so pogoji, ki dajejo poznejši evidenci pomen. Brez njih časovni žig pove, kdaj se je nekaj zgodilo, ne pa tudi, ali je bilo dovoljeno, pričakovano ali izjema.

Obstaja institucionalni razlog, da to vzamemo resno. Oseba, ki zahteva dokaze, pogosto ni oseba, ki je sistem zgradila. Pristojni organ, notranji ocenjevalec, prizadeta oseba ali nasledniška ekipa lahko naleti na zapis po tem, ko so se osebje, dobavitelji in modeli zamenjali. Dokazi, ki so razumljivi le svojemu prvotnemu avtorju, so krhka oblika odgovornosti. Vztrajanje uredbe pri jasni dokumentaciji, razumljivih navodilih in dostopu za organe je odgovor na to krhkost. Kontinuiteto obravnava kot del skladnosti.

Uredbo berite kot zaporedje, ne kot slogan

Zahteve uredbe za visoko tveganje lahko beremo kot zaporedje vprašanj. Kaj naj bi sistem počel. Kakšna tveganja lahko ustvari v tem okviru. Kateri podatki in predpostavke ga podpirajo. Kako je bil sistem zgrajen in preizkušen. Kaj mora vedeti uvajalec. Katere dogodke je treba zabeležiti. Kdo lahko nadzoruje, preglasi ali ustavi sistem. Kaj se zgodi, ko sistem ni skladen ali predstavlja tveganje. Zaporedje ni urejen programski cevovod. Je veriga odgovornosti, ki se zanke nazaj, ko se dokazi spremenijo.

Člen 9 opisuje obvladovanje tveganj kot stalen, ponavljajoč se proces, načrtovan in izvajan skozi celoten življenjski cikel visoko tveganega sistema umetne inteligence. Vzpostavljen, izveden, dokumentiran in vzdrževan mora biti. To besedilo ima praktično posledico. Ocena tveganja ni ceremonialni dokument, ki se upokoji na dan začetka uporabe. Je zapis živega procesa, ki prepoznava in ocenjuje znana ter razumno predvidljiva tveganja, upošteva informacije iz poprodajnega spremljanja in sprejema ciljno usmerjene ukrepe. Zapis naj poznejšemu bralcu omogoči, da vidi, kaj je bilo upoštevano, česa ni bilo mogoče odpraviti, kaj je ostalo kot preostalo tveganje in kdo je to stališče sprejel.

Člen 10 uvršča podatke in upravljanje podatkov v isto disciplino. Ustrezne prakse vključujejo oblikovne odločitve, izvor podatkov, pripravljalne postopke, predpostavke o tem, kaj podatki predstavljajo, razpoložljivost in primernost, morebitno pristranskost, vrzeli v podatkih ter ukrepe za njihovo obravnavo. To je drugačna zamisel od trditve, da je bil nabor podatkov čist. Čisto je sklep. Izvor, priprava, predpostavke in vrzeli so dokazi o tem, kako je bil sklep dosežen in kje lahko preneha biti zanesljiv. Zapis, ki ohrani le oznako kakovosti, je pozabil na vprašanja, zaradi katerih je bila kakovost smiselna.

Člen 11 zahteva tehnično dokumentacijo za visoko tvegani sistem umetne inteligence, preden se da na trg ali v uporabo, in zahteva, da se ta dokumentacija sproti posodablja. Namenjena je temu, da nacionalnim pristojnim organom in priglašenim organom zagotovi informacije, potrebne za oceno skladnosti. Pomembno ni to, da bi vsak bralec postal strokovnjak za prilogo. Pomembno je, da ima sistem lasten opis, ki je dovolj jasen in izčrpen za zunanjo oceno. Ta opis potrebuje različico, namen in razmerje do prejšnjih različic. Dokument, ki opisuje sistem, ki ne obstaja več, je arhiv, ne trenutni dokaz.

Člen 12 nato delovanje sistema sam postavi del dokazov. Visoko tvegani sistemi umetne inteligence morajo tehnično omogočati samodejno beleženje dogodkov v svoji življenjski dobi. Zmogljivosti beleženja morajo zabeležiti dogodke, pomembne za prepoznavanje situacij, ki lahko ustvarijo tveganje ali bistveno spremembo, olajšati poprodajno spremljanje ter spremljanje delovanja v okviru obveznosti uvajalca. Zahtevana raven sledljivosti je povezana z namenom uporabe. Zakon od dnevnika ne zahteva, da je dnevnik človeškega življenja. Od sistema zahteva, da pusti dovolj operativnega spomina za ustrezna vprašanja.

Člena 13 in 14 to pomnilnik povežeta z ljudmi. Sistem z visokim tveganjem mora biti dovolj pregleden, da lahko uvajalec razlaga njegove rezultate in jih ustrezno uporablja, spremljati pa ga morajo tudi navodila za uporabo. Človeški nadzor mora biti učinkovit ter sorazmeren s tveganjem, avtonomijo in okoliščinami. Osebe, zadolžene za nadzor, morajo razumeti zmogljivosti in omejitve, opaziti nepravilnosti in nepričakovano delovanje, se izogniti pretiranemu zanašanju, razlagati rezultate, jih prezreti ali razveljaviti ter po potrebi varno prekiniti delovanje sistema. Te zmožnosti ne morejo živeti samo na prosojnici za usposabljanje. Resen zapis bi moral omogočiti ugotoviti, kaj je človek lahko vedel in storil v trenutku odločitve.

Členi od 15 do 21 zaokrožijo lok od delovanja do odprave napak. Točnost, robustnost in kibernetska varnost so lastnosti celotnega življenjskega cikla. Ponudniki morajo vzdrževati sistem upravljanja kakovosti, ki je urejeno dokumentiran ter vključuje postopke za podatke, obvladovanje tveganj, spremljanje po dajanju na trg, poročanje o incidentih, komuniciranje, vodenje evidenc in okvir odgovornosti. Dokumentacija in dnevniki morajo ostati na voljo za obdobja in namene, ki jih določa uredba. Korektivni ukrepi in sodelovanje s pristojnimi organi so dolžnosti, ne neobvezni odnosi z javnostmi. Rezultat ni slogan o zaupanja vredni umetni inteligenci. Je niz artefaktov, ki instituciji omogočajo dokazovanje, preiskovanje, popravljanje in pojasnjevanje.

Tri stvari, ki jih zapis lahko stori

Prvič, zapis lahko ugotovi dogodek. Lahko pokaže, da je bil sistem priklican, da je bila aktivna določena različica, da je bil prejet vnos, da je bil predlagan klic orodja, da je bilo registrirano človeško odobritev, da je bilo dejanje dokončano ali da je bil sistem ustavljen. Dokazi o dogodkih so plast, ki si jo večina ljudi predstavlja ob besedi dnevnik. Pomembni so, ker spornega dejanja ni mogoče preiskati, če organizacija ne more ugotoviti, ali se je dejanje zgodilo. So pa tudi najmanj popolna plast, če stojijo sami.

Zapis o dogodku potrebuje stabilno identiteto, časovno referenco, akterja ali odgovorno vlogo, identiteto sistema ali komponente ter dovolj stanja, da se izognemo dvoumnosti. Natančna polja so odvisna od namena in zakonodaje. Časovni žig brez časovne osnove je lahko zmeden med sistemi. Identifikator uporabnika brez vloge pove malo o pooblastilih. Ime modela brez različice ne more ugotoviti, katero vedenje je bilo v obravnavi. Zapis je lahko tehnično pristen in še vedno institucionalno reven.

Drugič, zapis lahko ugotovi podlago. Lahko pokaže, kateri namen, pravilo, navodilo, vir podatkov, različica politike ali ocena je podpirala dejanje. Dokazi o podlagi preprečujejo, da bi odločitev postala prosto lebdeči rezultat. Ni treba reproducirati vsakega notranjega izračuna. Treba pa je opredeliti pogoje, ki so rezultat naredili smiseln, in meje, ki so omejevale, kaj sme oseba z njim storiti. Ko podlaga manjka, organizacija morda ve, kaj je storila, ne ve pa, zakaj je bila do tega upravičena.

Tretjič, zapis lahko ugotovi odziv. Lahko pokaže, da je bila nepravilnost opažena, da je operater zavrnil rezultat, da je bilo tveganje stopnjevano, da je bil sistem začasno ustavljen, da je bil popravek uporabljen ali da je bila pritožba prejeta in preusmerjena. Dokazi o odzivu so pogosto spregledani, ker se ekipe osredotočajo na prvi rezultat modela. V praksi odgovornost živi v tem, kaj se zgodi, ko negotovost postane vidna. Sistem, ki lahko ustvari zapis o težavi, nima pa zapisa o odzivu, je zgradil senzor brez zavore.

Te tri funkcije se prekrivajo, vendar jih ne bi smeli združiti. Navedba vira lahko vzpostavi podlago, ne dokaže pa, da je bil vir dejansko uporabljen pri izvedbi. Odobritev osebe lahko vzpostavi odziv, ne dokaže pa, da je pregledovalec videl celoten kontekst. Različica modela lahko vzpostavi identiteto, ne dokaže pa, da se je različica obnašala dosledno. Dobri zapisi jasno navedejo trditve, ki jih lahko podprejo. Ne izposojajo avtoritete od sosednjih zapisov in tega ne imenujejo veriga.

Popolnost ni število bajtov. Je zmožnost odgovoriti na vprašanja, ki jih ustvarjata namen in posledice sistema.

Česar zapis ne more storiti

Zapis ne more spremeniti prepovedane prakse v dovoljeno. Če je sama uporaba zunaj zakona, popolno beleženje ni obramba. Dokazi lahko razkrijejo napačno odločitev, ne morejo pa retroaktivno podeliti avtoritete, ki nikoli ni obstajala. Zato dokumentacije nikoli ne bi smeli predstavljati kot nadomestilo za pravno analizo, oceno temeljnih pravic ali jasen namen. Lepo indeksirana kršitev je še vedno kršitev. Indeks le olajša njeno iskanje.

Zapis ne more dokazati, da je bila odločitev poštena samo zato, ker so polja izpolnjena. Poštenost ni lastnost, ki se pojavi, ko obrazec doseže sto odstotkov. Pomembno vprašanje je, ali so sistem, podatki, delovni postopek in človeška presoja ljudi obravnavali na način, ki spoštuje veljavne pravice in obveznosti. Zapis lahko ohrani dokaze o tem vprašanju. Lahko pokaže, kateri podatki so bili uporabljeni, katero pravilo je bilo uporabljeno, katere izjeme so bile upoštevane in kako je bil obravnavan ugovor. Sam ne more odločiti moralnega in pravnega vprašanja.

Zapis ne more narediti šibke razlage pomembne z dodajanjem tehničnih podrobnosti. Oseba, na katero odločitev vpliva, morda potrebuje jasen opis vloge, ki jo je imela umetna inteligenca, in glavnih elementov odločitve. Natovarjanje notranjih identifikatorjev, surovih sledi žetonov ali celega zaslona strojne telemetrije na to osebo ni samodejno preglednost. Oblika dokazov mora ustrezati vprašanju in občinstvu. Organi potrebujejo ocenljivo dokumentacijo. Upravljavci potrebujejo uporabna navodila. Prizadete osebe potrebujejo razumljivo pot do razumevanja in izpodbijanja.

Zapis ne more ohraniti prihodnosti. Je pogled iz določenega časa, narejen s podatki in stanjem sistema, ki so obstajali takrat. Ta omejitev ni pomanjkljivost. Je razlog za beleženje različic, obdobij veljavnosti in negotovosti. Če se je politika spremenila po odločitvi, zapis ne sme tiho prikazati nove politike, kot da bi urejala staro dejanje. Če je bil vir popravljen, mora biti prejšnji vnos še vedno prepoznaven, popravek in njegov učinek pa zabeležena. Čas je del pomena, ne okras na desni strani nadzorne plošče.

Zapis organizaciji ne more povedati, česa ni zabeležila. To se sliši očitno, a je pomembna meja v dobi ustvarjenih pojasnil. Model lahko prosimo, naj opiše preteklo odločitev. Nastalo besedilo je lahko uporabno kot hipoteza ali povzetek. Če ni utemeljeno na ohranjenih dokazih, ni časovni stroj. Varnejša praksa je, da rekonstrukcijo označimo kot rekonstrukcijo, prepoznamo manjkajoče dokaze in se izognemo predstavitvi verjetnega opisa kot opazovanega. Poštena nepopolnost je uporabnejša od popolne izmišljotine.

Dnevniki so dokazi, ne moralno opravičilo

Beleženje je privlačno, ker deluje objektivno. Vrstica s časovnim žigom in identifikatorjem sistema je videti bolj nevtralna kot človeški zapis. Ni nevtralna. Nekdo se je odločil, kaj zabeležiti, kaj izpustiti, katera polja ohraniti, kako jih zaščititi, kako uskladiti čas in kdo lahko pregleda rezultat. Beleženje je inženirska odločitev s pravnimi in človeškimi posledicami. Določbe o vodenju evidenc iz Akta o umetni inteligenci to odločitev naredijo vidno, vendar ne odpravijo potrebe po skrbnem načrtovanju.

Prvo oblikovno vprašanje je namen. Člen 12 navaja sledljivost, prepoznavanje tveganj, spremljanje po dajanju na trg in spremljanje delovanja kot razloge za beleženje pomembnih dogodkov. Vsak razlog lahko zahteva drugačen pogled. Upravljavec lahko potrebuje jedrnato pojasnilo zavrnitve in pot do nadzornika. Strokovnjak za varnost lahko potrebuje različice in izvor vnosov. Pristojni organ lahko potrebuje dokumentacijo in dnevnike, zadostne za oceno skladnosti. Pooblaščena oseba za varstvo podatkov mora vedeti, katere osebne podatke dnevnik vsebuje in zakaj se hranijo. En sam nediferenciran tok je lahko hkrati preveč šumen za človeka in prešibek za preiskavo.

Drugo vprašanje je obseg. Uporaben dnevnik beleži dogodke, ki so pomembni za predvideni namen in tveganje, ne vsake naključne kretnje. Za sistem, ki samo osnutkuje notranje besedilo, so lahko pomembni dogodek klic, nabor virov, različica modela, različica navodil, človeška izdaja in končna obravnava. Za sistem, ki lahko spremeni zunanji zapis, so prehodi stanj in potrditve orodij bistveni. Za sistem, ki podpira odločitev z velikim učinkom, so obseg vnosa, izhod, človeški pregled in pot popravka pomembnejši od okrasnega števca žetonov. Zapis naj sledi posledicam.

Tretje vprašanje je celovitost. Zapis, ki ga je mogoče urediti brez zaznave, je lahko še vedno uporaben za delovanje, vendar daje šibkejšo trditev o zgodovini. Nadzor celovitosti lahko vključuje omejitve dostopa, shranjevanje samo z dodajanjem, kontrolne vsote, podpise, neodvisne časovne reference, nadzorovane popravke in dokumentirano hrambo. Ustrezen mehanizem je odvisen od tveganja. Pomembno je, da navedemo, kaj mehanizem ščiti in česa ne. Dokaz o posegu lahko pokaže, da se je zapis spremenil. Ne more pokazati, da je bil prvotni zapis popoln ali da je bil zajeti dogodek zakonit.

Četrto vprašanje je zasebnost. Dnevniki lahko vsebujejo pozive, identifikatorje, izvlečke virov, izhode modela, argumente orodij in človeške zapiske. Če jih hranimo vse za vedno, lahko ustvarimo drugi problem v imenu reševanja prvega. Uredba sama povezuje obveznosti beleženja z drugim pravom Unije in nacionalnim pravom, vključno z varstvom podatkov. Premišljena zasnova ločuje operativne dokaze od nepotrebne vsebine, omejuje dostop, določa obdobje hrambe ter podpira popravek ali izbris, kadar je to zahtevano. Minimizacija ni sovražnik odgovornosti. Prav ona preprečuje, da bi odgovornost postala dovoljenje za zbiranje zasebne biografije vsakega uporabnika.

Peto vprašanje je ponovljivost. Ponovljivost ne pomeni vedno ponovnega zagona verjetnostnega modela z pričakovanjem enakega stavka. Lahko pomeni rekonstrukcijo ustreznega stanja: različici modela in pravilnika, sklice na vire, klasifikacijo vnosa, nabor navodil, izhod, človeški poseg, rezultat orodja in nadaljnje dejanje. Ponovitev lahko razkrije, da je natančna reprodukcija nemogoča, ker se je oddaljena odvisnost spremenila. Tudi ta rezultat je dokaz, če sistem pove, kaj je bilo ohranjeno, kaj ne in zakaj. Iskrena meja ponovljivosti je vrednejša od teatralnega gumba z oznako reproduciraj.

Nazadnje, dnevniki potrebujejo skrbnika. Področje brez skrbnika postane zapuščena obljuba. Nekdo mora odločiti, kateri dogodki so pomembni, preveriti, da beleženje deluje, spremljati napake v poti beleženja, varovati dostop, preizkušati pridobivanje in umikati zapise v skladu z navedenim namenom. Skrbnik je lahko ekipa in ne posameznik, vendar odgovornosti ni mogoče prenesti na shrambo. Shramba se ne udeleži preglednega sestanka. Prav tako ima razočarajoče razumevanje sorazmernosti.

Dokumentacija je živi opis

Tehnična dokumentacija se včasih obravnava kot prostor, kjer si inženirska ekipa razlaga izdelek sama sebi. V skladu z aktom o umetni inteligenci ima širše občinstvo. Zagotoviti mora informacije, ki jih lahko nacionalni pristojni organ ali priglašeni organ uporabi za oceno skladnosti. To spremeni ton dokumenta. Ne sme biti oglas za sistem in ne sme biti zasebni zvezek, poln sklicev, ki jim nihče drug ne more slediti. Je nadzorovan opis namena, zasnove, delovanja, omejitev, podatkov, testiranja in sprememb.

Živi opis je povezan z identiteto sistema. Navaja ponudnika, predvideni namen in ustrezne različice. Pojasnjuje, kako sistem sodeluje z drugo programsko in strojno opremo. Opisuje komponente in postopke, ki vplivajo na zahteve. Beleži teste in validacijo, ki podpirajo trditve o zmogljivosti. Opredeljuje predvidljive pogoje, ki lahko spremenijo obnašanje. Navaja vmesnike in ukrepe nadzora, ki jih potrebuje uvajalec. To ne pomeni, da mora dokument nepremišljeno razkrivati poslovne skrivnosti. Pomeni, da zaupnost ne more postati izgovor za odsotnost ocenljivega poročila.

Različice so osrednji del. Dokument, ki se spreminja brez zgodovine, lahko prikrije spremembo tako, da novo stanje izgleda kot staro. Zgodovina, ki beleži vsak popravek ločila, lahko pomembno spremembo pokoplje med nenevarnim šumom. Uporaben zapis sprememb opredeli, kaj se je spremenilo, zakaj se je spremenilo, kdo je to odobril, katera ocena je bila ponovljena, katero nadaljnje gradivo je treba posodobiti in kdaj je novo stanje začelo veljati. Akt o umetni inteligenci na več mestih omenja bistveno spremembo. Organizacija potrebuje način, da opazi spremembo, preden oznaka postane predmet spora.

Izvor podatkov velja tudi za predpostavke. Sistem se lahko zanaša na predpostavko o populaciji, ki jo predstavlja nabor podatkov, o svežini vira, o pomenu polja ali o usposobljenosti osebe, ki sistem uvaja. Predpostavke niso neprijetne pomanjkljivosti, ki bi jih bilo treba skriti v opombo. So meje sistema, na katerih temelji njegova veljavnost. Zapis, ki jih navaja, operaterju omogoča, da prepozna, kdaj je meja dosežena. Zapis, ki jih skriva, pa vabi k uporabi sistema zunaj pogojev, v katerih so njegove ugotovitve še smiselne.

Dokumentacija mora negotovost prikazati razumljivo, ne da bi se pretvarjala, da je mogoče vsako neznanko ovrednotiti številčno. Nekatere negotovosti so številčne. Druge se nanašajo na manjkajoče pokritje, nerešena nasprotja, spreminjajočo se zakonodajo, nove vnose ali nepreizkušeno medsebojno delovanje z drugo komponento. Dober opis lahko pove, da pogoj ni bil ovrednoten, da je izid odvisen od človeške presoje ali da sistema ne bi smeli uporabljati za določen namen. Take izjave niso znak šibkega sistema. So informacije, ki močnemu sistemu omogočajo, da ostane v okviru svoje veljavnosti.

Obstaja razlika med omejitvijo in zavrnitvijo. Omejitev pove, kje veljavnost sistema postane nezanesljiva. Zavrnitev pove, da sistem pod določenim pogojem ne bo nadaljeval. Oboje je treba dokumentirati. Če uporabnik vidi le splošno sporočilo o napaki, organizacija izgubi priložnost, da pojasni, ali omejitev varuje varnost, zasebnost, pravice, kakovost ali zmogljivost. Jasni zapisi o zavrnitvah podpirajo tudi izboljšave. Ponavljajoče se zavrnitve lahko pokažejo, da delovni postopek od sistema zahteva nalogo, za katero ni bil nikoli zasnovan.

Človeški nadzor potrebuje dokaze o svojem delovanju

Določbe o človeškem nadzoru iz uredbe o umetni inteligenci je lahko povzeti, težko pa jih je izvajati. Dodelitev osebe ni enako omogočanju nadzora. Oseba potrebuje usposobljenost, izobraževanje, pooblastila in podporo. Razumeti mora zmogljivosti in omejitve, odkrivati nepravilnosti, se izogibati pristranskosti do avtomatizacije, razlagati izhodne podatke ter se odločiti, da sistema ne bo uporabila, da ga bo nadomestila, razveljavila ali ustavila. To so operativna pooblastila. Oseba, ki je tehnično imenovana za pregledovalko, pa ne more videti vhodnih podatkov, spremeniti izida ali začasno ustaviti delovnega postopka, je priča, ne nadzornica.

Zapisi lahko pokažejo, ali je bil nadzor dejansko učinkovit. Opredelijo lahko dodeljeno vlogo, predstavljene informacije, prikazano opozorilo ali omejitev, ukrepanje pregledovalca in končni izid. Ohranijo lahko razlog za razveljavitev, ne da bi osebo vsakič silili v pisanje dolgih obrazložitev. Pokažejo lahko tudi, kdaj sistem ni bil na voljo ali kdaj je bila pot pregleda obidena. Odsotnost človeškega ukrepanja ni samodejno nepravilnost. Je znak, da je treba preveriti, ali je zasnova ukrepanje omogočala, ga naredila potrebnega in vidnega.

Razmislimo o predlaganem vzorcu in ne o poročanem dogodku. Sistem zagotovi priporočilo in kratek sklop dokazov. Pregledovalec lahko priporočilo sprejme, uredi, zavrne ali posreduje naprej. Vmesnik zabeleži različico sistema, sklice na vire, stanje pravilnika, vlogo pregledovalca in izid. Če pregledovalec priporočilo zavrne, zapis shrani nadzorovani razlog in primer pošlje v nadaljnjo obravnavo, kadar vzorec kaže na ponavljajočo se napako. To ni trditev, da je vzorec zadosten za vsak kontekst z visokim tveganjem. Kaže, kako lahko vmesnik človeški nadzor spremeni iz potrditvenega polja v opazovani del odločanja.

Človeški pregled potrebuje zaščito tudi pred utrujenostjo in družbenim pritiskom. Zapis, ki kaže na tisoče odobritev, a nobenega smiselnega posega, lahko pomeni, da je delovni tok zdrav, lahko pa tudi, da pregledovalec izida realno ne more izpodbijati. Številke same ne morejo odločiti. Uporaben nadzorni postopek združuje odločitve z vzorčenjem, ugotovljenimi napakami, kakovostjo eskalacij, razpoložljivim časom, usposabljanjem in posledicami napačnega odgovora. Merjenje mora osvetliti delo, ne ustvarjati kvote, ki ljudi uči hitreje odobravati.

Nadzor mora vključevati pravico do zaustavitve. Člen 14 opisuje posredovanje ali prekinitev s pomočjo gumba za zaustavitev ali podobnega postopka, ki sistemu omogoči, da se ustavi v varnem stanju. Nadzor zaustavitve, ki obstaja le v priročniku, ni enak nadzoru, ki ga pooblaščena oseba lahko doseže pod pritiskom. Zapis mora pokazati, ali je bila zaustavitev na voljo, kdo jo je lahko uporabil, kakšno stanje je sledilo in kako se je delovni tok nadaljeval. Sistem, ki ga je mogoče ustaviti, a ne more pojasniti, kaj je bilo ustavljeno, je rešil le polovico problema.

Ta dokaz ima tudi človeško plat. Ko je izid izpodbijan, lahko zapisi zaščitijo tako pregledovalca kot prizadeto osebo. Lahko pokažejo, da je pregledovalec videl omejitev, upošteval postopek, eskaliral spor ali ustavil tvegano dejanje. To ne pomeni, da je vsaka odločitev pravilna. Pomeni, da so pogoji presoje vidni. Odgovornost ni lov na najbližji človeški prstni odtis. Je poskus razumevanja verige dovolj dobro, da bi jo lahko izboljšali.

Sistem kakovosti za dokumentacijo

Člen 17 od ponudnikov sistemov UI z visokim tveganjem zahteva, da vzpostavijo sistem upravljanja kakovosti ter ga sistematično in urejeno dokumentirajo s politikami, postopki in navodili. Njegov seznam je namerno širok. Vključuje skladnost s predpisi in upravljanje sprememb, nadzor nad načrtovanjem in razvojem, testiranje in validacijo, tehnične specifikacije, upravljanje podatkov, upravljanje tveganj, spremljanje po dajanju na trg, poročanje o resnih incidentih, komunikacijo z organi in drugimi operaterji, vodenje evidenc, upravljanje virov ter okvir odgovornosti za vodstvo in osebje.

Če ga beremo kot celoto, to ni zahteva po še eni mapi za skladnost. Je zahteva, da organizacija lahko poveže svoje odločitve. Postopek testiranja mora biti povezan s tveganjem. Proces podatkov mora biti povezan z namenom uporabe. Proces sprememb mora biti povezan z dokumentacijo. Proces spremljanja mora biti povezan s korektivnimi ukrepi. Okvir odgovornosti mora biti povezan z ljudmi, ki lahko dejansko spreminjajo sistem. Če se vsak dokument vzdržuje ločeno, sistem kakovosti postane arhiv nepovezanih dobrih namenov.

Uporaben zapis o kakovosti odgovarja na štiri praktična vprašanja. Kaj naj bi se zgodilo. Kaj se je dejansko zgodilo. Kako je bila razlika opažena. Kaj se je zaradi tega spremenilo. Odgovor je lahko razpršen po registru tveganj, poročilu o testiranju, zapisu o spremembi, poročilu o incidentu in odločitvi o izdaji. To je sprejemljivo, če so povezave stabilne in razumljive. Ni sprejemljivo, če mora pregledovalec ugibati, katere datoteke pripadajo istemu stanju sistema ali kateri rezultat testa je podpiral določeno izdajo.

Sistem potrebuje tudi način za zapis odločitve, da se sprememba ne izvede. Tveganje je lahko ocenjeno in sprejeto kot sprejemljivo v dokumentiranih pogojih. Predlagana funkcija je lahko zavrnjena, ker dokazi niso zadostni. Izdaja lahko počaka, ker je vrednotenje nepopolno. To so odločitve z utemeljitvijo, ne praznina v koledarju. Njihovo beleženje preprečuje, da bi poznejši bralec namerno mejo zamenjal z naključno opustitvijo. Prav tako pomaga ekipi, da se upre pritisku, da bi vsako nerešeno vprašanje spremenila v načrt za izdajo.

Upravljanje kakovosti ima časovno razsežnost. Postopek, ki je deloval za statični model, morda ne bo deloval, ko se sistem po uvedbi uči, spremeni svoj indeks iskanja ali prejme novo orodje. Postopek, ki deluje za notranjega pomočnika, morda ne bo deloval, ko je ista komponenta vključena v delovni potek odločanja. Zato bi moral zapis določiti sprožilce za pregled: različico modela, vir podatkov, namen, populacijo uporabnikov, dovoljenje za orodje, pravno zahtevo, incident ali vzorec v spremljanju. Sprožilec je del nadzora.

Tu je pomembna tudi sorazmernost. Uredba določa, da mora biti izvajanje sorazmerno z velikostjo organizacije ponudnika, ob spoštovanju strogosti in zaščite, potrebnih za skladnost. Sorazmerno ne pomeni neformalno. Manjši ponudnik lahko uporabi zbirko dobro zasnovanih zapisov, namesto da bi reproduciral mehanizme velike institucije. Še vedno mora vedeti, kdo je odgovoren za posamezno odločitev, kje so shranjeni dokazi, kako se ocenjujejo spremembe in kako lahko organ pridobi informacije, ki jih potrebuje. Majhnost ne pomeni izvzetja iz pomnjenja.

Hramba je oblikovalska odločitev

Člen 18 od ponudnikov zahteva, da določeno dokumentacijo hranijo na voljo pristojnim nacionalnim organom za obdobje, ki se konča deset let po tem, ko je bil visokotvegani sistem umetne inteligence dan na trg ali v uporabo. Člen 19 obravnava samodejno ustvarjene dnevnike in zahteva, da se hranijo, kadar so pod nadzorom ponudnika, za obdobje, primerno predvidenemu namenu, in vsaj šest mesecev, razen če drug zakon, vključno z zakonodajo o varstvu podatkov, ne določa drugače. To so pravne zahteve z natančno določenim obsegom. Ne bi jih smeli brez premisleka posploševati na vsak zapis v vsakem delovnem poteku umetne inteligence.

Praktična lekcija je, da je treba hrambo načrtovati po razredih zapisov. Tehnična dokumentacija, zapisi sistema kakovosti, gradivo za ugotavljanje skladnosti, dnevniki, izvorni podatki, človeški zapiski, nabori za vrednotenje, dokazi o incidentih in javna pojasnila imajo lahko različne namene in življenjske dobe. Enotna privzeta nastavitev hrambe je arhitekturna bližnjica, ne strategija upravljanja. Lahko izbriše dokaze prezgodaj ali hrani občutljivo gradivo še dolgo po tem, ko je njegov namen prenehal. Sistem bi moral vedeti, katero plast hrani in zakaj.

Hramba potrebuje tudi začetek in konec. Zapis, ki pravi hraniti deset let, ne da bi opredelil dogodek, od katerega teče obdobje, ni operativno popoln. Dnevnik, ki se hrani šest mesecev, ne da bi bilo navedeno, ali obdobje sledi dogodku, izdaji ali koncu cikla spremljanja, vabi k izogibni zmedi. Pravno besedilo zagotavlja ustrezne referenčne točke za posebne obveznosti. Organizacija mora te referenčne točke preslikati v stanja sistema in to preslikavo narediti pregledno.

Brisanje zapisa je samo po sebi dogodek. Če je delovni poziv odstranjen, ker je njegov namen prenehal, bo sistem morda moral ohraniti sklic, ki dokazuje, da je do odstranitve prišlo in katero pravilo hrambe jo je dovolilo. Če je napaka popravljena, morajo biti prvotni dokazi morda še naprej na voljo v nadzorovani zgodovini, namesto da izginejo brez pojasnila. Če so osebni podatki izbrisani, lahko izpeljani artefakti in poti dostopa zahtevajo ločeno analizo. Zapis o izbrisu ne bi smel biti zamenjan za dokaz, da je vsaka kopija izginila. Je dokaz nadzorovanega dejanja znotraj določene meje.

Hramba lahko tudi zaščiti institucionalno učenje. Pregled incidenta, ki ohrani samo končni sklep, izgubi pogoje, ki so povzročili težavo. Zapis vrednotenja, ki ohrani samo oceno, izgubi delovno obremenitev, populacijo, metodo in omejitve, zaradi katerih je bila ocena razumljiva. Zapis popravka, ki ohrani samo novo vrednost, izgubi dejstvo, da je napačna vrednost potovala skozi sistem. Hraniti vse ni odgovor. Hraniti prave dokaze za vprašanje je.

Ko dokazi manjkajo

The most useful record systems are designed for absence. They can say that a source was unavailable, that a field was redacted, that a version identifier was unknown, that a human review did not occur, that a tool acknowledgement failed or that a replay cannot be completed. This is not an invitation to manufacture a tidy placeholder. It is a way to prevent missing evidence from being silently converted into confidence.

Absence has types. Not collected means the system never attempted to preserve the field. Not available means the field existed elsewhere but could not be obtained. Not applicable means the condition did not belong to the workflow. Redacted means the evidence exists but is restricted under a rule. Conflicted means two sources disagree. Unknown means the organisation has not established the answer. These labels are proposed operating vocabulary, not terms mandated by the AI Act. Their value is that they keep different problems from collapsing into one empty cell.

A completeness inspector should therefore ask questions, not count fields. Does the record identify the system state. Does it show the purpose and input scope. Can the source or policy basis be found. Is the human authority visible. Are uncertainty and exclusions named. Can a person correct, appeal, suspend or delete within the applicable boundary. The answers depend on context. A record may be complete for an operational alert and incomplete for an individual decision. Completeness is a relationship between evidence and consequence.

Missing records should trigger a response that matches the risk. A low-impact missing label may be repaired in the next release. A missing model version for a consequential decision may require the decision to be reviewed or the workflow suspended. A missing log of a state-changing tool call may require investigation outside the model team. The organisation should decide these thresholds before the incident, because deciding them during a heated review usually produces a policy made of adrenaline.

The absence path also needs an owner and a timestamp. If a required record cannot be produced, someone should know who is responsible for investigating, who can decide whether work continues, which evidence is being sought and when the status will be reviewed. That turns a gap into a managed state. It does not make the gap harmless. It prevents the institution from pretending that a missing page is an empty page.

The AI Office and the work of interpretation

The AI Act creates institutions and procedures that help turn the Regulation into practice. The Commission’s AI Office has a role in supervising and enforcing the obligations for general-purpose AI models, while national competent authorities and market surveillance authorities have responsibilities within the broader framework. The AI Act Service Desk provides an explainer for Article 12 that summarises the record-keeping duty and points readers to the official text. Its summary is explicitly non-binding. That distinction is worth preserving.

Guidance can make a rule usable by translating a legal requirement into examples, questions and implementation choices. It cannot replace the Regulation. An organisation should be able to show which claim comes from the binding text, which comes from guidance and which is its own control decision. This source discipline is not academic fussiness. It prevents a helpful example from becoming a fictional obligation and prevents a voluntary practice from being marketed internally as a legal minimum.

Sporočilo Komisije AI@EC je uporaben institucionalni primer, ne trdi pa, da opisuje vsak javni organ. Komisija je januarja 2024 določila pristop k lastnemu razvoju in uporabi umetne inteligence, vključno z notranjimi operativnimi smernicami, ocenjevanjem in razvrščanjem na podlagi tveganja, izogibanjem sistemom, ki niso združljivi z evropskimi vrednotami ali ogrožajo pravice in varnost, ter organizacijskimi strukturami za izpolnjevanje obveznosti. Bistvo ni v tem, da sporočilo rešuje izvajanje. Bistvo je v tem, da mora institucija, ki se pripravlja na uporabo umetne inteligence, pripraviti tudi lastno zmogljivost za upravljanje te uporabe.

Ta zmogljivost je zgrajena iz evidenc, ki lahko potujejo. Politika mora kazati na lastnika. Ocena tveganja mora kazati na identiteto sistema. Tehnični opis mora kazati na izdajo. Evidenca usposabljanja mora kazati na vlogo in zmogljivost. Signal spremljanja mora kazati na ukrep. Pritožba mora kazati na pot. Ko so ta razmerja izrecna, je mogoče smernice uporabljati brez ustvarjanja ločenega sveta dokumentacije. Ko niso, vsak nov kos smernic postane še en dokument, za katerega organizacija upa, da bo nekako spremenil vedenje.

Evropsko pravo ima posebno institucionalno teksturo. Odgovornosti so porazdeljene med institucije Unije, države članice, organe, ponudnike, uvajalce in druge operaterje. Evidenca mora to porazdelitev narediti vidno, namesto da vsakega akterja splošči v generičnega lastnika sistema. Vprašanje ni samo, kdo je zgradil model. Vprašanje je, kdo ga je dal v uporabo, kdo nadzoruje vnose, kdo je dodelil nadzor, kdo lahko začasno ustavi uporabo in kdo mora sodelovati z organom. Imena in pogodbe so pomembni, pomembne pa so tudi operativne pristojnosti, ki jih evidenca lahko razkrije.

Od pravnega jezika do vsakdanje rutine

Pravo postane praktično, ko organizacija vsako obveznost pretvori v majhno število ponovljivih rutin. To je predlagani operativni vzorec, ne pravni kontrolni seznam. Ob sprejemu opredelite namen, prizadete osebe, kategorije podatkov, avtonomijo, orodja in pooblastilo za odločanje. Pred izdajo povežite identiteto sistema, različico, stanje navodil, vire podatkov, teste, omejitve, vlogo nadzora in pot zaustavitve. Med delovanjem beležite pomembne dogodke, spremljajte tveganja in naredite negotovost vidno. Po spremembi ali incidentu preiščite, popravite, posodobite opis in se odločite, ali naj se uporaba nadaljuje.

Opazite, česa ta vzorec ne pravi. Ne pravi, da je treba zbirati vsako sporočilo za vedno. Ne pravi, da je samodejni dnevnik enak pojasnilu. Ne pravi, da nadzorna plošča dokazuje varnost. Ne pravi, da človeško ime v delovnem toku dokazuje nadzor. Pravi, da mora imeti sistem evidenco pogojev, pod katerimi sme delovati, in dogodkov, ki lahko pokažejo, ali so bili ti pogoji izpolnjeni.

Dobra rutina ima začetek in konec. Evidenca se ustvari, ko se začne pomembno stanje, posodablja se, ko se spremenijo dokazi ali pooblastila, in zapre se, ko se konča namen ali obdobje pregleda. Dogodek zaprtja je pomemben, ker odprte evidence tiho postanejo trajne. Navesti mora, ali je bil sistem izdan, zavrnjen, začasno ustavljen, nadomeščen, popravljen ali umaknjen. Če evidence ni mogoče zapreti, mora organizacija vedeti, zakaj. Neskončni začasni status je vljuden način izogibanja odločitvi.

Rutine morajo razlikovati tudi dejstva od interpretacij. Dnevnik lahko zabeleži, da je model vrnil rezultat. Pregledovalec lahko zabeleži, da je bil rezultat zavrnjen, ker je vir nasprotoval politiki. Ekipa za incidente lahko pozneje sklepa, da je sprememba pridobivanja prispevala k nasprotju. Sklep je lahko močan, vendar ni ista vrsta dokaza kot dogodek. Označene plasti naredijo poznejšo preiskavo bolj pošteno. Brez njih se vsak zaključek postopoma strdi v dejstvo, ker se nihče ne spomni, kateri stavek je bil opažen in kateri je bil zapisan na sestanku.

Lastništvo mora biti vidno na ravni polja, kjer je to smiselno. Ponudnik lahko lastni tehnično dokumentacijo. Uvajalec lahko lasti ustreznost vhodnih podatkov in operativno spremljanje. Skrbnik podatkov lahko lasti pravice do vira in kakovost. Vloga človeškega nadzora lahko lasti odločitev o sprejetju, preglasitvi ali zaustavitvi. Funkcija arhiviranja lahko lasti hrambo in dostop. Razporeditev se razlikuje glede na kontekst in pogodbo. Zapis mora omogočati, da se pravemu lastniku zastavi vprašanje, ne da bi se pošiljal krožni elektronski dopis celotni organizaciji.

Preizkušanje postopka je prav tako pomembno kot njegovo pisanje. Predlagani nadzor je treba preizkusiti z varnim, jasno označenim scenarijem. Ali lahko ekipa pridobi zapis po različici sistema. Ali lahko operater vidi stanje navodila, uporabljeno ob izdaji. Ali lahko pregledovalec zavrne rezultat in ohrani razlog. Ali lahko pot zaustavitve pusti jasno stanje. Ali lahko pristojni organ prejme ustrezno dokumentacijo brez iskanja po labirintu. To so vaje, ne prijavljeni incidenti. Njihove rezultate je treba zabeležiti kot preizkuse, z jasno navedenimi omejitvami.

Postopek mora biti zasnovan za miren dan. Če deluje le, ko je specialist buden, dobavitelj hitro odgovori in se vsi spomnijo zgodovine uvajanja, to ni postopek. To je kolektivni spomin s pogodbo o ravni storitve. Resen sistem zapisov daje navadnim zaposlenim način za odgovarjanje na običajna vprašanja, specialistom pa globljo pot, ko vprašanje postane pomembno. Na miren dan sistem pridobi pravico, da mu zaupamo na hrupen dan.

Obstaja skušnjava, da bi bili zapisi lepi. Jasna zasnova pomaga ljudem pri uporabi, vendar vizualni sijaj ni dokaz. Barvno stanje, ocena zrelosti ali popoln videz kartice lahko skrijejo manjkajoča polja. Vmesnik mora otežiti spregledovanje negotovosti, zastarelih podatkov in nepreverjenih trditev. Podpirati mora dolgočasna dejanja, ki ohranjajo zapis resničen: pripenjanje različice, določanje vira, imenovanje vloge, označevanje omejitve, povezovanje popravka in zaključek stanja. Dobra zasnova daje zapisu ročaje. Ne daje mu moči, ki si je ni prislužil.

Kratka opomba z naše strani

Pri podjetju Dweve je naš Trust Centre organiziran okoli istega vprašanja: kaj naj bi druga oseba lahko preverila o modelu in njegovem delovanju. Javni indeks povezuje identiteto modela, vsebino usposabljanja, ocene, upravljanje tveganj, spremljanje po dajanju na trg, incidente, upravljanje podatkov in tehnično dokumentacijo. Ta ureditev ni trditev, da javna stran dokazuje skladnost, in ni nadomestilo za oceno pristojnega organa. Je premišljen poskus, da bi bili zapisi in njihove meje vidni. Naše delo na področju Ledger na operativni ravni zagovarja podobno stališče: zapis mora nositi dovolj identitete in zgodovine, da lahko poznejši bralec preveri, kaj se je spremenilo. Uporaben preizkus ni, ali stran izgleda pomirjujoče. Je, ali dokazi govorijo resnico o tem, kaj lahko in česa ne morejo ugotoviti.

Zapisi so del institucije

Najgloblja napaka je obravnavati zahteve po zapisih iz uredbe o umetni inteligenci kot davek na inovacije. Bolje jih je razumeti kot opis tega, kaj institucija potrebuje za uporabo zmogljivega, spreminjajočega se sistema, ne da bi izgubila svoj spomin. Model lahko hitro ustvari rezultat. Institucija se mora odločiti, ali rezultat sodi v odločitev, ali ga lahko nekdo izpodbija, ali lahko popravek potuje skozi sistem in ali lahko prihodnji bralec razume pot.

Zato zapisov ni mogoče puščati na robu arhitekture. Spadajo k podatkom, navodilom, različicam modelov, orodjem, vmesnikom, človeškim vlogam in ukrepom. Zapis je vezivno tkivo, ki tem delom omogoča, da se med seboj povezujejo. Iz izjave o tveganju naredi preverljiv pogoj. Iz vira naredi sledljivo podlago. Človeško odobritev spremeni v opazno dejanje. Popravek spremeni v spremembo, ki jo je mogoče preveriti. Manjkajoče polje spremeni v urejeno vprašanje in ne v praznino, za katero nihče ne odgovarja.

To delo je tiho, ker je videti običajno. Poimenujte sistem. Določite namen. Zabeležite različico. Ohranite mejo vira. Preizkusite dnevnik. Dajte pregledovalcu pooblastilo. Označite, kaj je neznano. Ohranite odziv. Arhivirajte zapis, ko namen preneha. Nič od tega nima glamurja predstavitvenega videa. Ima pa dragocenejšo lastnost: preživi zamenjavo osebja, zamenjavo modela, zamenjavo dobavitelja in vprašanje nekoga, ki ni bil v prostoru.

Še vedno bodo nesoglasja o razlagi akta o umetni inteligenci, o ustrezni ravni podrobnosti in o tem, kako bodo standardi prevedli pravne zahteve v tehnično prakso. Zapisovanje teh sporov ne odpravlja. Naredi jih natančnejše. Organizacija lahko pokaže, na katero besedilo se je oprla, katero predpostavko je sprejela, katere dokaze je imela, kateri nadzor je izbrala in kje ostaja njena negotovost. To je boljše izhodišče za regulatorja, sodelavca, prizadeto osebo in organizacijo samo.

Praktično spoznanje je preprosto. Ne sprašujte se le, ali lahko sistem umetne inteligence ustvari rezultat. Vprašajte se, ali si institucija lahko zapomni pogoje tega rezultata, pokaže dokaze, ki so bili pomembni, imenuje organ, ki je ukrepal, prepozna negotovost, ki je ostala, in omogoči, da popravek potuje. Če je odgovor ne, je sistem morda še vedno tehnično impresiven. Ni pa še institucionalno pripravljen.

Tiho delo akta EU o umetni inteligenci torej ni v tem, da tehnologija zveni resno. Gre za to, da resnost postane opazna. Zapisovanje niso slogani s časovnimi žigi. So omejeni dokazi, ustvarjeni z namenom, povezani z odgovornostjo in odprti za popravke. Če jih gradimo skrbno, lahko organizacija uporablja umetno inteligenco, ne da bi tekočnost nadomestila spomin. Če jih pustimo kot naknadno misel, bo prvo težko vprašanje razkrilo, da je sistem ohranil svoj rezultat, a izgubil svojo zgodovino.

Viri