Mirni rad EU zakona o umjetnoj inteligenciji: zapisi, ne slogani

Mirni rad EU zakona o umjetnoj inteligenciji: zapisi, ne slogani

Zapis koji stiže nakon odluke

Postoji trenutak nakon što je automatizirana preporuka prihvaćena kada se oblik prostorije mijenja. Zaslon i dalje prikazuje rezultat. Razgovor je prešao na ono što slijedi. Netko pita koja je verzija sustava to proizvela, koje su informacije bile dostupne u tom trenutku, je li operater mogao to odbiti i koje je pravilo rutu učinilo dopuštenom. Ta pitanja nisu dramatičan napad na tehnologiju. To su obična pitanja koja institucije postavljaju kada radnja dobije posljedicu.

Zamislite složeni slučaj, namjerno bez imenovane organizacije, sustava ili incidenta. Javno tijelo koristi visokorizični AI sustav za pomoć pri odluci koja utječe na osobu. Obučeni član osoblja ostaje odgovoran za odluku. Model daje rezultat, član osoblja ga provjerava i odluka je donesena. Kasnije nadređeni treba razumjeti put. Sam rezultat je prisutan. Odluka je prisutna. Lanac između njih nije. Ne postoji jasan zapis o važećim uputama, korištenom unosu, implementiranoj verziji, dostupnoj intervenciji ili razlogu zašto je čovjek prihvatio rezultat. Ništa u tom opisu ne zahtijeva spektakularan kvar. Nedostajući zapis dovoljan je da pretvori pregled u vježbu rekonstrukcije.

Zakon Europske unije o umjetnoj inteligenciji često se raspravlja kao katalog zabrana, kategorija i kazni. Ti su dijelovi važni, ali nisu cijelo djelo. Zakon također opisuje tišu infrastrukturu dokaza: upravljanje rizikom koje je dokumentirano i održavano, prakse podataka koje imaju podrijetlo i svrhu, tehničku dokumentaciju koja se može procijeniti, zapise koji bilježe relevantne događaje, upute koje korisniku govore kako protumačiti sustav, ljudski nadzor koji ima stvarni autoritet i zapise koji ostaju dostupni kada pitanje stigne kasnije. Zakon traži od institucije da pamti namjerno.

To je manje kinematografski zadatak od pokretanja modela. To je također mjesto gdje odgovornost postaje stvarna. Slogan može ustvrditi da organizacija preuzima odgovornost. Zapis može pokazati kako je odgovornost izgledala u određenom trenutku. Može pokazati granicu, nesigurnost, odobrenje, odbijanje, ispravak ili odsutnost. Ne može učiniti nezakonitu odluku zakonitom time što postoji naknadno i ne može sam popraviti nečiji gubitak. Može učiniti put dovoljno preglednim za pravni lijek, ispravak i bolju odluku o sljedećoj verziji.

Ovaj se članak bavi tim tihim radom. Obveze vođenja zapisa i dokumentacije iz Zakona o umjetnoj inteligenciji čita kao operativne zahtjeve, a ne kao papirologiju priloženu lansiranju. Pita što zapisi mogu utvrditi, što ne mogu utvrditi, kako zapis dobiva značenje iz konteksta, zašto potpunost nije isto što i opseg te kako organizacija može izgraditi rutinu koja ostavlja dokaze bez pretvaranja svake ljudske interakcije u trajni objekt nadzora. Primjeri koji nisu izravno preuzeti iz citiranog izvora označeni su kao predloženi, hipotetski ili složeni. Ne postoji izmišljeni incident koji čeka na kraju priče. Poanta je izbjeći potrebu za njim.

Zašto je tihi posao važan

Zapise je lako pogrešno shvatiti jer su prisutni u gotovo svakoj organizaciji. Redak u bazi podataka, zahtjev, zahtjev za promjenom, potpisana odluka, vremenska oznaka i redak zapisnika sve to izgleda kao zapis. Njihova sama prisutnost govori vrlo malo. Zapis postaje koristan kada odgovara na definirano pitanje s dovoljno konteksta da razlikuje ono što se dogodilo od onoga što netko sada vjeruje da se dogodilo. Ta je razlika posebno važna za AI jer vidljivi rezultat često skriva broj transformacija koje su mu prethodile.

Konvencionalni softverski sustav može ostaviti trag koji je njegovim operaterima poznat. Zahtjev ulazi, usluga validira polja, pravilo se izvršava, stanje se mijenja i odgovor izlazi. AI sustavi mogu dodati zaključene kategorije, dohvaćeni kontekst, upute na prirodnom jeziku, probabilističke rezultate, pozive alata, ljudske izmjene i prilagodljivo stanje. Dodatna fleksibilnost može biti korisna. Također stvara više prilika da činjenica izgubi svoje podrijetlo ili da uputa postane autoritativna a da se ne prepozna kao takva. Zapis mora zadržati razlike koje sučelje nastoji izgladiti.

AI Act ne zahtijeva od organizacije da sačuva svaki bajt koji je ikada prošao kroz model. Njegovi su zahtjevi vezani uz svrhu, rizik, sljedivost, životni ciklus i kontrolu. To je korisno polazište. Kaže da dokazi trebaju biti proporcionalni predviđenoj svrsi i rizicima, a istovremeno dovoljno rigorozni za relevantnu obvezu. Zapis o prijedlogu teksta s niskim utjecajem ne bi se trebao tretirati kao da je potpuni spis za odluku koja utječe na temeljna prava. Obratno, važna odluka ne može postati odgovorna pohranjivanjem jedne završne rečenice i zelene kvačice.

Tihi posao stoga počinje prije nego što se sustav stavi u uporabu. Netko mora navesti čemu je sustav namijenjen, gdje nije predviđen za rad, koji su ljudi i okruženja u opsegu, koje ulaze smije primati, tko može djelovati na temelju rezultata i što se događa kada je sustav nesiguran ili nedostupan. To nisu samo pitanja dizajna. To su uvjeti koji kasnijim zapisima daju značenje. Bez njih, vremenska oznaka govori nam kada se nešto dogodilo, ali ne i je li to bilo dopušteno, očekivano ili iznimka.

Postoji institucionalni razlog da se ovo shvati ozbiljno. Osoba koja traži dokaze često nije osoba koja je izgradila sustav. Nadležno tijelo, interni recenzent, pogođena osoba ili tim koji preuzima sustav može naići na zapis nakon što se osoblje, dobavljači i modeli promijene. Dokazi koji imaju smisla samo njihovom izvornom autoru krhak su oblik odgovornosti. Inzistiranje Uredbe na jasnoj dokumentaciji, razumljivim uputama i pristupu za tijela odgovor je na tu krhkost. Ona kontinuitet tretira kao dio usklađenosti.

Čitajte Uredbu kao slijed, a ne kao slogan

Zahtjevi Uredbe za visokorizične sustave mogu se čitati kao slijed pitanja. Čemu sustav treba služiti. Koje rizike može stvoriti u tom kontekstu. Koji podaci i pretpostavke ga podupiru. Kako je sustav izgrađen i testiran. Što korisnik treba znati. Koji se događaji moraju zabilježiti. Tko može nadzirati, nadjačati ili zaustaviti sustav. Što se događa kada sustav nije u skladu s propisima ili predstavlja rizik. Taj slijed nije uredan softverski proces. To je lanac odgovornosti koji se vraća natrag kada se dokazi promijene.

Članak 9. opisuje upravljanje rizicima kao kontinuiran, iterativan proces koji se planira i provodi tijekom cijelog životnog ciklusa visokorizičnog AI sustava. Mora se uspostaviti, provesti, dokumentirati i održavati. Ta formulacija ima praktičnu posljedicu. Procjena rizika nije ceremonijalan dokument koji odlazi u mirovinu na dan lansiranja. To je zapis o živom procesu koji identificira i procjenjuje poznate i razumno predvidive rizike, uzima u obzir informacije iz praćenja nakon stavljanja na tržište i poduzima ciljane mjere. Zapis bi trebao kasnijem čitatelju omogućiti da vidi što je razmatrano, što nije bilo moguće ukloniti, što je ostalo kao preostali rizik i tko je prihvatio taj položaj.

Članak 10. smješta podatke i upravljanje podacima u istu disciplinu. Relevantne prakse uključuju dizajnerske odabire, podrijetlo podataka, operacije pripreme, pretpostavke o tome što podaci predstavljaju, dostupnost i prikladnost, moguću pristranost, nedostatke u podacima i mjere poduzete za njihovo rješavanje. To je drugačija ideja od tvrdnje da je skup podataka bio čist. Čistoća je zaključak. Podrijetlo, priprema, pretpostavke i nedostaci dokazi su o tome kako je zaključak donesen i gdje on može prestati biti pouzdan. Zapis koji čuva samo oznaku kvalitete zaboravio je pitanja koja su kvalitetu činila smislenom.

Članak 11. zahtijeva tehničku dokumentaciju za visokorizični AI sustav prije nego što se stavi na tržište ili u uporabu te zahtijeva da ta dokumentacija bude ažurna. Namijenjena je pružanju nacionalnim nadležnim tijelima i prijavljenim tijelima informacija potrebnih za procjenu usklađenosti. Bitna poanta nije da svaki čitatelj postane stručnjak za prilog. Bitno je da sustav mora imati prikaz o sebi koji je dovoljno jasan i sveobuhvatan za vanjsku procjenu. Taj prikaz treba imati verziju, svrhu i odnos prema ranijim verzijama. Dokument koji opisuje sustav koji više ne postoji arhiv je, a ne aktualan dokaz.

Članak 12. zatim čini rad samog sustava dijelom dokaza. Visokorizični AI sustavi moraju tehnički omogućiti automatsko bilježenje događaja tijekom svog životnog vijeka. Mogućnosti evidentiranja moraju bilježiti događaje relevantne za prepoznavanje situacija koje mogu stvoriti rizik ili znatnu izmjenu, olakšavajući praćenje nakon stavljanja na tržište i praćenje rada u okviru obveza korisnika. Zahtijevana razina sljedivosti povezana je s namjeravanom svrhom. Zakon ne traži da zapisnik bude dnevnik ljudskog života. Traži da sustav ostavi dovoljno operativnog pamćenja za relevantna pitanja.

Članci 13. i 14. povezuju to pamćenje s ljudima. Sustav visokog rizika mora biti dovoljno transparentan da njegovi implementatori mogu protumačiti njegov izlaz i primjereno ga koristiti, a mora biti popraćen i uputama za uporabu. Ljudski nadzor mora biti učinkovit i razmjeran riziku, autonomiji i kontekstu. Osobe zadužene za nadzor moraju moći razumjeti mogućnosti i ograničenja, uočiti anomalije i neočekivano ponašanje, izbjeći pretjerano oslanjanje, protumačiti izlaze, zanemariti ih ili ih nadglasati te, prema potrebi, sigurno prekinuti rad sustava. Te sposobnosti ne mogu postojati samo na slajdu za obuku. Ozbiljan zapis trebao bi omogućiti utvrđivanje što je čovjek mogao znati i učiniti u trenutku odluke.

Članci od 15. do 21. dovršavaju luk od izvedbe do pravne zaštite. Točnost, robusnost i kibersigurnost svojstva su cijelog životnog ciklusa. Pružatelji moraju održavati sustav upravljanja kvalitetom koji je uredno dokumentiran i uključuje postupke s podacima, upravljanje rizicima, praćenje nakon stavljanja na tržište, izvješćivanje o incidentima, komunikaciju, vođenje evidencije i okvir odgovornosti. Dokumentacija i zapisnici moraju ostati dostupni u razdobljima i za svrhe koje Uredba propisuje. Korektivne mjere i suradnja s nadležnim tijelima obveze su, a ne dobrovoljni odnos s javnošću. Rezultat nije slogan o pouzdanoj umjetnoj inteligenciji. To je skup artefakata koji instituciji omogućuju da dokaže, istraži, ispravi i objasni.

Tri stvari koje zapis može učiniti

Prvo, zapis može utvrditi događaj. Može pokazati da je sustav pozvan, da je bila aktivna određena verzija, da je primljen unos, da je predložen poziv alata, da je registrirano ljudsko odobrenje, da je radnja dovršena ili da je sustav zaustavljen. Dokazi o događaju sloj su koji većina ljudi zamišlja kad čuje riječ zapisnik. Važni su jer se sporna radnja ne može istražiti ako organizacija ne može utvrditi je li se radnja uopće dogodila. To je ujedno i najmanje cjelovit sloj ako stoji sam.

Zapis o događaju treba stabilan identitet, vremensku referencu, aktera ili odgovornu ulogu, identitet sustava ili komponente te dovoljno stanja da se izbjegne dvosmislenost. Točna polja ovise o svrsi i zakonu. Vremenska oznaka bez vremenske osnove može biti zbunjujuća u različitim sustavima. Identifikator korisnika bez uloge govori malo o ovlastima. Naziv modela bez verzije ne može utvrditi koje je ponašanje bilo u opsegu. Zapis može biti tehnički autentičan, a institucionalno tanak.

Drugo, zapis može utvrditi osnovu. Može pokazati koja je svrha, pravilo, uputa, izvor podataka, verzija politike ili procjena poduprla radnju. Dokazi o osnovi ono su što sprječava da odluka postane slobodno plutajući izlaz. Ne moraju reproducirati svaki unutarnji izračun. Moraju identificirati uvjete koji su izlaz učinili smislenim i granice koje su ograničavale ono što je osoba smjela učiniti s njim. Kad osnova nedostaje, organizacija može znati što je učinila, a da ne zna zašto je to smjela učiniti.

Treće, zapis može utvrditi odgovor. Može pokazati da je anomalija uočena, da je operater odbio izlaz, da je rizik eskaliran, da je sustav suspendiran, da je primijenjena korekcija ili da je pritužba zaprimljena i proslijeđena. Dokazi o odgovoru često se zanemaruju jer se timovi usredotočuju na prvi izlaz modela. U praksi odgovornost živi u onome što se dogodi nakon što neizvjesnost postane vidljiva. Sustav koji može proizvesti zapis o problemu, ali nema zapis o odgovoru, izgradio je senzor bez kočnice.

Te se tri funkcije preklapaju, ali ih ne treba sažimati u jednu. Navod izvora može uspostaviti osnovu, a da ne dokaže da je izvor doista korišten u izvođenju. Ljudsko odobrenje može uspostaviti odgovor, a da ne dokaže da je recenzent vidio cijeli kontekst. Verzija modela može uspostaviti identitet, a da ne dokaže da se ta verzija ponašala dosljedno. Dobri zapisi jasno iskazuju tvrdnje koje mogu potkrijepiti. Oni ne posuđuju ovlast od susjednih zapisa i ne nazivaju taj aranžman lancem.

Što zapis ne može učiniti

Zapis ne može pretvoriti zabranjenu praksu u dopuštenu. Ako je sama uporaba izvan zakona, savršeno vođenje evidencije nije obrana. Dokazi mogu razotkriti pogrešnu odluku, ali ne mogu retroaktivno dodijeliti ovlast koja nikada nije postojala. Zato dokumentaciju nikada ne treba predstavljati kao zamjenu za pravnu analizu, procjenu temeljnih prava ili jasnu svrhu. Prekrasno indeksirana povreda i dalje je povreda. Indeks samo olakšava njezino pronalaženje.

Zapis ne može dokazati da je odluka bila pravedna samo zato što su polja popunjena. Pravednost nije svojstvo koje se pojavljuje kada obrazac dosegne sto posto. Relevantno je pitanje jesu li sustav, podaci, tijek rada i ljudska prosudba tretirali ljude na način koji poštuje primjenjiva prava i obveze. Zapis može sačuvati dokaze o tom pitanju. Može pokazati koje su informacije korištene, koje je pravilo primijenjeno, koje su iznimke razmatrane i kako je riješena žalba. Ne može sam odlučiti moralno i pravno pitanje.

Zapis ne može slabo objašnjenje učiniti smislenim dodavanjem tehničkih pojedinosti. Osoba na koju odluka utječe može trebati jasan prikaz uloge koju je AI imao i glavnih elemenata odluke. Izbacivanje internih identifikatora, sirovih zapisa tokena ili cijelog zaslona telemetrije stroja na tu osobu nije automatski transparentnost. Oblik dokaza mora odgovarati pitanju i publici. Tijela ovlasti trebaju dokumentaciju koja se može provjeriti. Operateri trebaju upute koje se mogu koristiti. Pogođene osobe trebaju razumljiv put za razumijevanje i osporavanje.

Zapis ne može sačuvati budućnost. On je pogled iz određenog vremena, nastao s informacijama i stanjem sustava koje je tada postojalo. To ograničenje nije mana. Ono je razlog za bilježenje verzija, razdoblja važenja i nesigurnosti. Ako se politika promijenila nakon odluke, zapis ne bi smio šutke prikazati novu politiku kao da je uređivala staru radnju. Ako je izvor ispravljen, raniji unos trebao bi ostati prepoznatljiv dok se bilježe ispravak i njegov učinak. Vrijeme je dio značenja, a ne ukras na desnoj strani nadzorne ploče.

Zapis ne može organizaciji reći ono što nije zabilježila. To zvuči očito, ali je važna granica u doba generiranih objašnjenja. Model se može zamoliti da ispriča prošlu odluku. Dobiveni tekst može biti koristan kao hipoteza ili sažetak. Ako nije utemeljen na sačuvanim dokazima, nije vremenski stroj. Sigurnija je praksa označiti rekonstrukciju kao rekonstrukciju, prepoznati nedostajuće dokaze i izbjegavati predstavljanje uvjerljivog prikaza kao opaženog. Iskrena nepotpunost korisnija je od potpune izmišljotine.

Zapisnici su dokaz, a ne moralni alibi

Vođenje zapisnika privlačno je jer djeluje objektivno. Redak s vremenskom oznakom i identifikatorom sustava izgleda neutralnije od ljudske bilješke. Nije neutralan. Netko je odlučio što zabilježiti, što izostaviti, koja polja zadržati, kako ih zaštititi, kako uskladiti vrijeme i tko može pregledati rezultat. Vođenje zapisnika inženjerski je izbor s pravnim i ljudskim posljedicama. Odredbe Akt o umjetnoj inteligenciji o vođenju evidencije čine taj izbor vidljivim, ali ne uklanjaju potrebu za pažljivim osmišljavanjem.

Prvo dizajnersko pitanje jest svrha. Članak 12. navodi sljedivost, prepoznavanje rizika, praćenje nakon stavljanja na tržište i praćenje rada kao razloge za bilježenje relevantnih događaja. Svaki razlog može zahtijevati drugačiji prikaz. Operateru može trebati sažeto objašnjenje odbijanja i put do nadređenog. Stručnjaku za sigurnost mogu trebati podrijetlo verzije i ulaznih podataka. Nadležnom tijelu mogu trebati dokumentacija i zapisnici dostatni za procjenu usklađenosti. Službeniku za zaštitu podataka može trebati znati koje osobne podatke zapisnik sadrži i zašto se čuvaju. Jedan nediferencirani tok može biti istodobno previše bučan za osobu i preslab za istragu.

Drugo pitanje jest opseg. Koristan zapisnik bilježi događaje koji su važni za namjeravanu svrhu i rizik, a ne svaku usputnu gestu. Za sustav koji samo sastavlja unutarnji tekst, relevantan događaj može biti poziv, skup izvora, verzija modela, verzija uputa, ljudsko odobrenje i konačno postupanje. Za sustav koji može promijeniti vanjski zapis, prijelazi stanja i potvrde alata postaju ključni. Za sustav koji podupire odluku s velikim učinkom, opseg ulaznih podataka, izlaz, ljudski pregled i put ispravka važniji su od ukrasnog brojača tokena. Zapis bi trebao pratiti posljedicu.

Treće pitanje jest cjelovitost. Zapis koji se može uređivati bez otkrivanja i dalje može biti koristan za rad, ali slabije svjedoči o povijesti. Kontrole cjelovitosti mogu uključivati ograničenja pristupa, pohranu samo s dodavanjem, kontrolne zbrojeve, potpise, neovisne vremenske reference, kontrolirane ispravke i dokumentirano čuvanje. Odgovarajući mehanizam ovisi o riziku. Važno je navesti što mehanizam štiti, a što ne. Dokaz o neovlaštenoj izmjeni može pokazati da se zapis promijenio. Ne može pokazati da je izvorni zapis bio potpun ili da je zabilježeni događaj bio zakonit.

Četvrto je pitanje privatnost. Zapisi mogu sadržavati upite, identifikatore, izvatke iz izvora, izlaze modela, argumente alata i ljudske bilješke. Čuvati ih sve zauvijek može stvoriti drugi problem u ime rješavanja prvoga. Uredba sama povezuje obveze vođenja zapisa s drugim pravom Unije i nacionalnim pravom, uključujući zaštitu podataka. Razuman dizajn odvaja operativne dokaze od nepotrebnog sadržaja, ograničava pristup, definira razdoblje čuvanja i podržava ispravak ili brisanje gdje je to potrebno. Minimizacija nije neprijatelj odgovornosti. Ona je ono što sprječava da odgovornost postane dozvola za prikupljanje privatne biografije svakog korisnika.

Peto je pitanje ponovno izvođenje. Ponovno izvođenje ne znači uvijek ponovno pokretanje probabilističkog modela i očekivanje iste rečenice. Ono može značiti rekonstrukciju relevantnog stanja: verzije modela i politike, reference na izvore, klasifikaciju ulaza, skup uputa, izlaz, ljudsku intervenciju, rezultat alata i naknadnu radnju. Ponovno izvođenje može otkriti da je točna reprodukcija nemoguća jer se udaljena ovisnost promijenila. I taj je rezultat dokaz ako sustav kaže što je sačuvano, što nije i zašto. Poštena granica ponovnog izvođenja vrijednija je od teatralnog gumba s oznakom reproduciraj.

Naposljetku, zapisi trebaju vlasnika. Polje bez vlasnika postaje usamljeno obećanje. Netko mora odlučiti koji su događaji relevantni, provjeriti da snimanje radi, pratiti kvarove u putu zapisivanja, štititi pristup, testirati dohvat i povući zapise u skladu s navedenom svrhom. Vlasnik može biti tim, a ne osoba, ali odgovornost se ne može prenijeti na spremište podataka. Spremište ne prisustvuje sastanku za pregled. Ono također ima razočaravajuće shvaćanje proporcionalnosti.

Dokumentacija je živi opis

Tehnička se dokumentacija ponekad tretira kao mjesto gdje inženjerski tim objašnjava proizvod samome sebi. Pod Aktom o umjetnoj inteligenciji ona ima širu publiku. Ona treba pružiti informacije koje nadležno nacionalno tijelo ili prijavljeno tijelo može upotrijebiti za ocjenu usklađenosti. To mijenja ton dokumenta. On ne smije biti reklama za sustav, niti smije biti privatna bilježnica puna referenci koje nitko drugi ne može pratiti. On je kontrolirani opis svrhe, dizajna, rada, ograničenja, podataka, testiranja i promjena.

Živi opis ima odnos prema identitetu sustava. On imenuje pružatelja, namjenu i relevantne verzije. Objašnjava kako sustav djeluje s drugim softverom i hardverom. Opisuje komponente i procese koji utječu na zahtjeve. Bilježi testove i validaciju koji podupiru tvrdnje o izvedbi. Prepoznaje predvidive uvjete koji mogu promijeniti ponašanje. Navodi sučelja i mjere nadzora koje primjenitelj treba. To ne znači da dokument mora nepromišljeno otkrivati poslovne tajne. To znači da povjerljivost ne može postati izgovor za nepostojanje provjerljivog izvješća.

Verzioniranje je ključ. Dokument koji se mijenja bez povijesti može prikriti promjenu čineći novo stanje sličnim starome. Povijest koja bilježi svaku izmjenu interpunkcije može zakopati bitnu promjenu među bezazlenim šumom. Koristan zapis o promjeni identificira što se promijenilo, zašto se promijenilo, tko je to odobrio, koja je procjena ponovljena, koji se nizvodni materijal mora ažurirati i kada je novo stanje stupilo na snagu. Akt o umjetnoj inteligenciji na više mjesta spominje bitnu izmjenu. Organizacija treba način da primijeti promjenu prije nego oznaka postane predmet spora.

Provenijencija se odnosi i na pretpostavke. Sustav se može oslanjati na pretpostavku o populaciji zastupljenoj u skupu podataka, svježini izvora, značenju polja ili stručnosti osobe koja ga primjenjuje. Pretpostavke nisu neugodni nedostaci koje treba sakriti u bilješci. One su granice sustavove tvrdnje. Zapis koji ih imenuje operateru daje priliku da prepozna kada je granica dosegnuta. Zapis koji ih skriva poziva na upotrebu sustava izvan uvjeta u kojima su njegovi dokazi imali smisla.

Dokumentacija bi trebala učiniti nesigurnost čitljivom bez pretvaranja da se svaka nepoznanica može kvantificirati. Neke su nesigurnosti numeričke. Druge se odnose na nedostatnu pokrivenost, neriješene sukobe, promjene zakona, nove ulaze ili neispitanu interakciju s drugom komponentom. Dobar opis može reći da uvjet nije procijenjen, da ishod ovisi o ljudskoj prosudbi ili da se sustav ne bi smio koristiti za navedenu svrhu. Te izjave nisu znak slabog sustava. One su informacije koje snažnom sustavu omogućuju da ostane unutar svojih granica ovlasti.

Postoji razlika između ograničenja i odbijanja. Ograničenje govori gdje sustavova tvrdnja postaje nepouzdana. Odbijanje govori da sustav neće nastaviti pod određenim uvjetom. Obje stvari treba dokumentirati. Ako korisnik vidi samo generičku pogrešku, organizacija gubi priliku objasniti štiti li ograničenje sigurnost, privatnost, prava, kvalitetu ili kapacitet. Jasni zapisi o odbijanjima također podupiru poboljšanje. Ponovljena odbijanja mogu pokazati da tijek rada od sustava traži posao za koji nikada nije bio osmišljen.

Ljudski nadzor treba dokaze oko sebe

Odredbe Akt-a o umjetnoj inteligenciji o ljudskom nadzoru lako je sažeti, a teško provesti. Dodijeliti osobu nije isto što i omogućiti nadzor. Osoba treba stručnost, obuku, ovlasti i podršku. Treba razumjeti mogućnosti i ograničenja, otkrivati anomalije, izbjegavati pristranost automatizacije, tumačiti rezultate te odlučiti neće li koristiti sustav, hoće li ga nadjačati, preokrenuti ili zaustaviti. To su operativne ovlasti. Osoba koja je tehnički imenovana recenzentom, ali ne može vidjeti ulaz, promijeniti ishod ili pauzirati tijek rada, svjedok je, a ne nadzornik.

Zapisi mogu pokazati je li nadzor imao zube. Mogu identificirati dodijeljenu ulogu, prikazane informacije, prikazano upozorenje ili ograničenje, radnju recenzenta i konačni ishod. Mogu sačuvati razlog za nadjačavanje bez prisiljavanja osobe da svaki put sastavlja esej. Mogu također pokazati kada sustav nije bio dostupan ili kada je put recenzije zaobiđen. Odsutnost ljudske radnje nije automatski loše ponašanje. To je signal da se ispita je li dizajn učinio radnju mogućom, nužnom i vidljivom.

Razmotrite predloženi obrazac, a ne prijavljeni događaj. Sustav daje preporuku i kratku ploču s dokazima. Recenzent može prihvatiti, urediti, odbiti ili proslijediti. Sučelje bilježi verziju sustava, referentne izvore, stanje politike, ulogu recenzenta i ishod. Ako recenzent odbije preporuku, zapis pohranjuje kontrolirani razlog i šalje slučaj za daljnje postupanje gdje obrazac upućuje na ponavljajući nedostatak. To nije tvrdnja da je obrazac dovoljan za svaki kontekst visokog rizika. To pokazuje kako sučelje može pretvoriti ljudski nadzor iz potvrdnog okvira u vidljiv dio odluke.

Ljudski pregled također treba zaštitu od umora i društvenog pritiska. Zapis koji pokazuje tisuće odobrenja, ali bez značajnih intervencija, može značiti da je tijek rada zdrav, ili može značiti da pregledavatelj realno ne može dovoditi u pitanje rezultat. Brojke same po sebi ne mogu to odlučiti. Korisna rutina praćenja kombinira odluke s uzorkovanjem, nalazima pogrešaka, kvalitetom eskalacija, raspoloživim vremenom, obukom i posljedicama pogrešnog odgovora. Mjerenje bi trebalo osvijetliti rad, a ne stvoriti kvotu koja ljude uči brže odobravati.

Nadzor mora uključivati pravo na zaustavljanje. Članak 14. opisuje intervenciju ili prekid putem gumba za zaustavljanje ili sličnog postupka koji sustavu omogućuje zaustavljanje u sigurnom stanju. Kontrola zaustavljanja koja postoji samo u priručniku nije isto što i kontrola kojoj ovlaštena osoba može pristupiti pod pritiskom. Zapis bi trebao pokazati je li zaustavljanje bilo dostupno, tko ga je mogao upotrijebiti, koje je stanje uslijedilo i kako se tijek rada nastavio. Sustav koji se može zaustaviti, ali ne može objasniti što je zaustavljeno, riješio je samo pola problema.

Postoji i humana strana ovih dokaza. Kad se rezultat dovede u pitanje, zapisi mogu zaštititi pregledavatelja jednako kao i pogođenu osobu. Mogu pokazati da je pregledavatelj uočio ograničenje, slijedio postupak, eskalirao sukob ili zaustavio rizičnu radnju. To ne čini svaku odluku ispravnom. Čini uvjete prosudbe vidljivima. Odgovornost nije potraga za najbližim ljudskim otiskom prsta. To je pokušaj razumijevanja lanca dovoljno dobro da bi se on mogao poboljšati.

Sustav kvalitete iza papirologije

Članak 17. zahtijeva od pružatelja visokorizičnih AI sustava da uspostave sustav upravljanja kvalitetom i da ga sustavno i uredno dokumentiraju kroz politike, postupke i upute. Njegov popis namjerno je širok. Uključuje usklađenost s propisima i upravljanje izmjenama, kontrole dizajna i razvoja, testiranje i validaciju, tehničke specifikacije, upravljanje podacima, upravljanje rizicima, praćenje nakon stavljanja na tržište, izvješćivanje o ozbiljnim incidentima, komunikaciju s tijelima i drugim operaterima, vođenje evidencije, upravljanje resursima i okvir odgovornosti za upravu i osoblje.

Promatran u cjelini, ovo nije zahtjev za još jednom mapom usklađenosti. To je zahtjev da organizacija može povezati svoje odluke. Postupak testiranja trebao bi biti u odnosu s rizikom. Proces podataka trebao bi biti u odnosu s namjeravanom svrhom. Proces izmjena trebao bi biti u odnosu s dokumentacijom. Proces praćenja trebao bi biti u odnosu s korektivnim djelovanjem. Okvir odgovornosti trebao bi biti u odnosu s ljudima koji sustav stvarno mogu mijenjati. Ako se svaki dokument vodi zasebno, sustav kvalitete postaje arhiv nepovezanih dobrih namjera.

Koristan zapis o kvaliteti odgovara na četiri praktična pitanja. Što se trebalo dogoditi. Što se stvarno dogodilo. Kako je razlika uočena. Što se promijenilo kao rezultat. Odgovor može biti raspoređen po registru rizika, izvješću o testiranju, zapisu o izmjeni, izvješću o incidentu i odluci o objavi. To je prihvatljivo ako su odnosi stabilni i razumljivi. Nije prihvatljivo ako pregledavatelj mora nagađati koji datoteke pripadaju istom stanju sustava ili koji je rezultat testiranja korišten za potporu određenoj objavi.

Sustav također treba način za bilježenje odluke da se nešto ne mijenja. Rizik se može procijeniti i ocijeniti prihvatljivim unutar dokumentiranih uvjeta. Predložena značajka može biti odbijena jer su dokazi nedostatni. Objava može pričekati jer evaluacija nije dovršena. To su odluke s osnovom, a ne prazan prostor u kalendaru. Njihovo bilježenje sprječava kasnijeg čitatelja da namjernu granicu zamijeni sa slučajnim propustom. Također pomaže timu da odoli pritisku da svako neriješeno pitanje pretvori u plan pokretanja.

Upravljanje kvalitetom ima vremensku dimenziju. Proces koji je funkcionirao za statični model možda neće funkcionirati kada sustav uči nakon implementacije, mijenja svoj indeks pretraživanja ili dobije novi alat. Proces koji funkcionira za internog asistenta možda neće funkcionirati kada se ista komponenta integrira u radni tijek odlučivanja. Zapis bi stoga trebao identificirati okidače za reviziju: verziju modela, izvor podataka, svrhu, populaciju korisnika, dozvolu za alat, zakonski zahtjev, incident ili obrazac u praćenju. Okidač je dio kontrole.

Proporcionalnost je ovdje također važna. Uredba kaže da provedba treba biti proporcionalna veličini organizacije pružatelja, uz poštivanje strogosti i zaštite potrebnih za usklađenost. Proporcionalno ne znači neformalno. Mali pružatelj može koristiti sažet skup dobro osmišljenih zapisa umjesto da reproducira mehanizme velike institucije. I dalje mora znati tko je odgovoran za svaku odluku, gdje se čuvaju dokazi, kako se procjenjuju promjene i kako tijelo može dobiti informacije koje su mu potrebne. Malo ne znači oslobođeno pamćenja.

Čuvanje je dizajnerski izbor

Članak 18. zahtijeva od pružatelja da nadležnim nacionalnim tijelima stave na raspolaganje određenu dokumentaciju u razdoblju koje završava deset godina nakon što je visokorizični AI sustav stavljen na tržište ili u uporabu. Članak 19. odnosi se na automatski generirane zapise i zahtijeva da se oni čuvaju, ako su pod kontrolom pružatelja, u razdoblju primjerenom predviđenoj svrsi, a najmanje šest mjeseci, osim ako drugi zakon ne propisuje drukčije, uključujući zakon o zaštiti podataka. To su zakonski zahtjevi s preciznim opsegom. Ne bi ih trebalo olako generalizirati na svaki zapis u svakom AI radnom tijeku.

Praktična pouka je da čuvanje mora biti osmišljeno prema klasi zapisa. Tehnička dokumentacija, zapisi sustava kvalitete, materijali o sukladnosti, zapisi, izvorni podaci, ljudske bilješke, skupovi za evaluaciju, dokazi o incidentima i javna objašnjenja mogu imati različite svrhe i vijek trajanja. Jedinstvena zadana postavka čuvanja je arhitektonska prečica, a ne strategija upravljanja. Može obrisati dokaze prerano ili zadržati osjetljiv materijal dugo nakon što je njegova svrha završila. Sustav bi trebao znati koji sloj drži i zašto.

Čuvanje također treba početak i kraj. Zapis koji kaže čuvati deset godina bez definiranja događaja od kojeg razdoblje teče nije operativno potpun. Zapis koji se čuva šest mjeseci bez navođenja slijedi li razdoblje nakon događaja, izdanja ili završetka ciklusa praćenja poziva na izbjegivu zabunu. Pravni tekst daje relevantne referentne točke za posebne obveze. Organizacija mora preslikati te referentne točke na stanja sustava i učiniti to preslikavanje provjerljivim.

Brisanje zapisa samo je po sebi događaj. Ako se radni upit ukloni jer mu je svrha završila, sustav će možda morati sačuvati referencu koja pokazuje da je do uklanjanja došlo i koje je pravilo čuvanja to odobrilo. Ako se pogreška ispravi, izvorni dokazi možda će morati ostati dostupni pod kontroliranom poviješću umjesto da nestanu bez objašnjenja. Ako se osobni podaci izbrišu, izvedeni artefakti i putovi pristupa mogu zahtijevati zasebnu analizu. Zapis o brisanju ne bi trebalo pogrešno smatrati dokazom da je svaka kopija nestala. To je dokaz kontrolirane radnje unutar definirane granice.

Čuvanje također može zaštititi institucionalno učenje. Revizija incidenta koja zadržava samo konačni zaključak gubi uvjete koji su proizveli problem. Zapis o evaluaciji koji zadržava samo rezultat gubi opterećenje, populaciju, metodu i ograničenja koja su rezultat učinila interpretabilnim. Zapis o ispravku koji zadržava samo novu vrijednost gubi činjenicu da je pogrešna vrijednost prošla kroz sustav. Zadržati sve nije rješenje. Zadržati prave dokaze za pitanje jest.

Kada dokazi nedostaju

The most useful record systems are designed for absence. They can say that a source was unavailable, that a field was redacted, that a version identifier was unknown, that a human review did not occur, that a tool acknowledgement failed or that a replay cannot be completed. This is not an invitation to manufacture a tidy placeholder. It is a way to prevent missing evidence from being silently converted into confidence.

Absence has types. Not collected means the system never attempted to preserve the field. Not available means the field existed elsewhere but could not be obtained. Not applicable means the condition did not belong to the workflow. Redacted means the evidence exists but is restricted under a rule. Conflicted means two sources disagree. Unknown means the organisation has not established the answer. These labels are proposed operating vocabulary, not terms mandated by the AI Act. Their value is that they keep different problems from collapsing into one empty cell.

A completeness inspector should therefore ask questions, not count fields. Does the record identify the system state. Does it show the purpose and input scope. Can the source or policy basis be found. Is the human authority visible. Are uncertainty and exclusions named. Can a person correct, appeal, suspend or delete within the applicable boundary. The answers depend on context. A record may be complete for an operational alert and incomplete for an individual decision. Completeness is a relationship between evidence and consequence.

Missing records should trigger a response that matches the risk. A low-impact missing label may be repaired in the next release. A missing model version for a consequential decision may require the decision to be reviewed or the workflow suspended. A missing log of a state-changing tool call may require investigation outside the model team. The organisation should decide these thresholds before the incident, because deciding them during a heated review usually produces a policy made of adrenaline.

The absence path also needs an owner and a timestamp. If a required record cannot be produced, someone should know who is responsible for investigating, who can decide whether work continues, which evidence is being sought and when the status will be reviewed. That turns a gap into a managed state. It does not make the gap harmless. It prevents the institution from pretending that a missing page is an empty page.

The AI Office and the work of interpretation

The AI Act creates institutions and procedures that help turn the Regulation into practice. The Commission’s AI Office has a role in supervising and enforcing the obligations for general-purpose AI models, while national competent authorities and market surveillance authorities have responsibilities within the broader framework. The AI Act Service Desk provides an explainer for Article 12 that summarises the record-keeping duty and points readers to the official text. Its summary is explicitly non-binding. That distinction is worth preserving.

Guidance can make a rule usable by translating a legal requirement into examples, questions and implementation choices. It cannot replace the Regulation. An organisation should be able to show which claim comes from the binding text, which comes from guidance and which is its own control decision. This source discipline is not academic fussiness. It prevents a helpful example from becoming a fictional obligation and prevents a voluntary practice from being marketed internally as a legal minimum.

Komunikacija Komisije o umjetnoj inteligenciji AI@EC koristan je institucionalni primjer, no ne tvrdi da opisuje svako javno tijelo. U siječnju 2024. Komisija je utvrdila pristup vlastitom razvoju i upotrebi umjetne inteligencije, uključujući interne operativne smjernice, procjenu i klasifikaciju na temelju rizika, izbjegavanje sustava nespojivih s europskim vrijednostima ili onih koji ugrožavaju prava i sigurnost te organizacijske strukture za ispunjavanje obveza. Poanta nije da komunikacija rješava provedbu. Poanta je da institucija koja se priprema koristiti umjetnom inteligencijom mora pripremiti i vlastitu sposobnost upravljanja tom upotrebom.

Ta se sposobnost gradi na evidenciji koja može putovati. Politika treba upućivati na vlasnika. Procjena rizika treba upućivati na identitet sustava. Tehnički opis treba upućivati na izdanje. Evidencija osposobljavanja treba upućivati na ulogu i sposobnost. Signal praćenja treba upućivati na radnju. Pritužba treba upućivati na put. Kada su ti odnosi izričiti, smjernice se mogu primjenjivati bez stvaranja zasebnog svijeta papirologije. Kada nisu, svaka nova smjernica postaje još jedan dokument za koji organizacija nada da će nekako promijeniti ponašanje.

Europsko pravo ima posebnu institucionalnu teksturu. Odgovornosti su raspoređene na institucije Unije, države članice, tijela, pružatelje, uvođenje u uporabu i druge operatore. Evidencija mora učiniti tu raspodjelu vidljivom, a ne svesti svakog aktera na generičkog vlasnika sustava. Pitanje nije samo tko je izradio model. Pitanje je tko ga je pustio u rad, tko kontrolira ulazne podatke, tko je dodijelio nadzor, tko može obustaviti uporabu i tko mora surađivati s tijelom. Imena i ugovori su važni, ali jednako su važne i operativne ovlasti koje evidencija može otkriti.

Od pravnog jezika do svakodnevne prakse

Zakon postaje praktičan kada organizacija pretvori svaku obvezu u mali broj ponovljivih postupaka. Ovo je predloženi operativni obrazac, a ne pravni popis. Pri zaprimanju klasificirajte namjeravanu svrhu, pogođene osobe, kategorije podataka, autonomiju, alate i ovlast odlučivanja. Prije puštanja u rad povežite identitet sustava, verziju, stanje instrukcija, izvore podataka, testove, ograničenja, ulogu nadzora i put zaustavljanja. Tijekom rada bilježite relevantne događaje, pratite rizike i učinite nesigurnost vidljivom. Nakon promjene ili incidenta istražite, ispravite, ažurirajte opis i odlučite treba li se uporaba nastaviti.

Primijetite što ovaj obrazac ne govori. Ne govori da treba zauvijek prikupljati svaku poruku. Ne govori da je automatski zapis isto što i objašnjenje. Ne govori da nadzorna ploča dokazuje sigurnost. Ne govori da ljudsko ime u radnom procesu dokazuje nadzor. Govori da sustav treba imati evidenciju uvjeta pod kojima mu je dopušteno raditi i događaja koji mogu pokazati jesu li ti uvjeti bili ispunjeni.

Dobar postupak ima početak i kraj. Evidencija se stvara kada započne značajno stanje, ažurira se kada se promijene dokazi ili ovlasti te zatvara kada završi svrha ili razdoblje pregleda. Događaj zatvaranja je važan jer otvorene evidencije tiho postaju trajne. Treba navesti je li sustav pušten u rad, odbijen, pauziran, zamijenjen, ispravljen ili povučen. Ako se evidencija ne može zatvoriti, organizacija treba znati zašto. Beskrajni privremeni status uljudan je način izbjegavanja odluke.

Postupci također trebaju razlikovati činjenice od tumačenja. Zapis može zabilježiti da je model vratio rezultat. Recenzent može zabilježiti da je rezultat odbijen jer je izvor bio u sukobu s politikom. Tim za incidente kasnije može zaključiti da je promjena u dohvaćanju pridonijela sukobu. Zaključak može biti čvrst, ali nije ista vrsta dokaza kao događaj. Označeni slojevi čine kasniju istragu poštenijom. Bez njih svaki se zaključak postupno stvrdne u činjenicu jer se nitko ne sjeća koja je rečenica opažena, a koja zapisana na sastanku.

Vlasništvo bi trebalo biti vidljivo na razini polja gdje je to praktično. Pružatelj može biti vlasnik tehničke dokumentacije. Implementator može biti vlasnik relevantnosti ulaza i operativnog nadzora. Skrbnik podataka može biti vlasnik izvornih prava i kvalitete. Osoba koja obavlja ljudski nadzor može biti vlasnik odluke o prihvaćanju, izmjeni ili zaustavljanju. Služba za evidenciju može biti vlasnik zadržavanja i pristupa. Raspodjela će se razlikovati ovisno o kontekstu i ugovoru. Evidencija bi trebala omogućiti postavljanje pitanja pravom vlasniku bez slanja kružne poruke e-pošte cijeloj organizaciji.

Testiranje postupka jednako je važno kao i njegovo pisanje. Predloženu kontrolu treba provesti u sigurnom, jasno označenom scenariju. Može li tim dohvatiti evidenciju prema verziji sustava? Može li operater vidjeti stanje uputa korišteno pri izdanju? Može li recenzent odbiti izlaz i sačuvati razlog? Može li put zaustavljanja ostaviti jasno stanje? Može li nadležno tijelo primiti relevantnu dokumentaciju bez potrage za blagom? To su vježbe, a ne prijavljeni incidenti. Njihove rezultate treba zabilježiti kao testove, s jasno navedenim ograničenjima.

Postupak bi trebao biti osmišljen za miran dan. Ako funkcionira samo dok je stručnjak budan, dobavljač brzo odgovara i svi se sjećaju povijesti implementacije, to nije postupak. To je kolektivno pamćenje s ugovorom o razini usluge. Ozbiljan sustav evidencije daje običnom osoblju način da odgovori na obična pitanja, a stručnjacima daje dublji put kada pitanje postane značajno. Miran dan je ono gdje sustav zaslužuje povjerenje za bučan dan.

Postoji iskušenje da evidencije budu lijepe. Jasan dizajn pomaže ljudima da ih koriste, ali vizualna dotjeranost nije dokaz. Obojeni status, ocjena zrelosti ili kartica koja izgleda potpuno mogu sakriti nedostajuća polja. Sučelje bi trebalo učiniti nesigurnost, zastarjele podatke i neprovjerene tvrdnje težima za previdjeti. Trebalo bi podržavati dosadne radnje koje održavaju evidenciju istinitom: prikvačivanje verzije, identificiranje izvora, imenovanje uloge, označavanje ograničenja, povezivanje ispravka i zatvaranje stanja. Dobar dizajn daje evidenciji ručke. Ne daje evidenciji moći koje nije zaslužila.

Kratka napomena od nas

U Dweveu je naš Trust Centre organiziran oko istog pitanja: što bi druga osoba trebala moći provjeriti o modelu i njegovom radu. Javni indeks povezuje identitet modela, sadržaj obuke, evaluacije, upravljanje rizicima, nadzor nakon stavljanja na tržište, incidente, upravljanje podacima i tehničku dokumentaciju. Taj raspored nije tvrdnja da javna stranica dokazuje usklađenost, niti je zamjena za procjenu tijela. To je namjeran pokušaj da evidencije i njihove granice ostanu vidljive. Naš rad na Ledgeru iznosi sličan argument na operativnoj razini: evidencija bi trebala nositi dovoljno identiteta i povijesti da kasniji čitatelj može provjeriti što se promijenilo. Koristan test nije izgleda li stranica umirujuće. To je govori li dokazi istinu o tome što mogu, a što ne mogu utvrditi.

Evidencije su dio institucije

Najdublja pogreška je tretirati zahtjeve za evidencijom iz Akta o umjetnoj inteligenciji kao porez na inovacije. Bolje ih je razumjeti kao opis onoga što institucija treba kako bi koristila moćan sustav koji se mijenja, a da ne izgubi svoje pamćenje. Model može brzo proizvesti izlaz. Institucija mora odlučiti pripada li izlaz u odluku, može li ga netko osporiti, može li se ispravak proširiti kroz sustav i može li budući čitatelj razumjeti put.

Zato se zapisi ne smiju ostavljati na rubu arhitekture. Pripadaju uz podatke, upute, verzije modela, alate, sučelja, ljudske uloge i mjere zaštite. Zapis je vezivno tkivo koje tim dijelovima omogućuje da odgovaraju jedni na druge. Izjavu o riziku pretvara u uvjet koji se može provjeriti. Izvor pretvara u osnovu koja se može pratiti. Ljudsko odobrenje pretvara u vidljiv čin. Ispravak pretvara u promjenu koja se može provjeriti. Polje koje nedostaje pretvara u pitanje kojim se upravlja, a ne u prazninu koju nitko ne posjeduje.

Taj je posao tih jer izgleda obično. Imenujte sustav. Odredite svrhu. Zabilježite verziju. Zadržite granicu izvora. Testirajte zapisnik. Dajte recenzentu ovlast. Označite ono što je nepoznato. Sačuvajte odgovor. Povucite zapis kada svrha prestane. Ništa od toga nema sjaj promotivnog videa. Ima vrijednije svojstvo: preživljava promjenu osoblja, promjenu modela, promjenu dobavljača i pitanje nekoga tko nije bio u prostoriji.

I dalje će postojati neslaganja oko tumačenja Akta o umjetnoj inteligenciji, odgovarajuće razine detalja i načina na koji će norme prevesti pravne zahtjeve u tehničku praksu. Zapisi ne uklanjaju te rasprave. Oni ih čine preciznijima. Organizacija može pokazati na koji se tekst oslonila, koju je pretpostavku donijela, koje je dokaze imala, koju je kontrolu odabrala i gdje je ostala njezina neizvjesnost. To je bolja polazna točka za nadzorno tijelo, kolegu, pogođenu osobu i samu organizaciju.

Praktična je pouka jednostavna. Ne pitajte samo može li sustav umjetne inteligencije proizvesti rezultat. Pitajte može li institucija zapamtiti uvjete tog rezultata, pokazati dokaze koji su bili važni, imenovati tijelo koje je djelovalo, prepoznati neizvjesnost koja je ostala i omogućiti da ispravak putuje. Ako je odgovor ne, sustav i dalje može biti tehnički dojmljiv. No još nije institucionalno spreman.

Tihi posao Akta o umjetnoj inteligenciji EU-a stoga nije u tome da tehnologiju učini ozbiljnom. On je u tome da ozbiljnost učini vidljivom. Zapisi nisu slogani s vremenskim oznakama. Oni su ograničeni dokazi, stvoreni sa svrhom, povezani s odgovornošću i otvoreni za ispravke. Gradite li ih pažljivo, organizacija može koristiti umjetnu inteligenciju bez da se oslanja na tečnost umjesto na pamćenje. Ostavite li ih kao naknadnu misao, prvo teško pitanje otkrit će da je sustav zadržao svoj rezultat, ali izgubio svoju povijest.

Izvori

• Regulation (EU) 2024/1689, the Artificial Intelligence Act (Europski parlament i Vijeće, Službeni list Europske unije, 12. srpnja 2024.).
• Article 12: Record-keeping (Europska komisija, AI Act Service Desk; objašnjenje i poveznica na službeni tekst).
• Artificial Intelligence in the European Commission (AI@EC) Communication (Europska komisija, 18. siječnja 2024.).
• Dweve Trust Centre (Dweve, javni indeks zapisa).
• Technical Documentation Index (Dweve Trust Centre, javni indeks zapisa).