Registr modelov je nova javna oglasna deska

Register modelov lahko javnosti pove, kaj sistem je, kdo stoji za njim, kje se lahko uporablja in kaj se je spremenilo. Ne more pa urejenega vnosa...

Registr modelov je nova javna oglasna deska

Stran, ki se začne s priznanjem, da ni čarobna

Prva stvar, ki jo naredi uporaben register modelov, je, da vas razočara. Ne reče, da je model varen. Ne reče, da je organizacija usposobljena. Ne spremeni dobaviteljeve obljube v dejstvo ali zelene oznake v razlog, da nehate postavljati vprašanja. Namesto tega vam da omejen zapis: to je stvar, to je različica, to je lastnik, to je navedeni namen, to je status in tu je shranjeni dokazni material.

Ta skromnost je začetek javnega zaupanja. Register je oglasna deska, ne svetišče. Oglasna deska soseski pove, kaj se gradi, kdo je za to odgovoren in katere objave so bile zamenjane. Ne potrjuje kakovosti izdelave vsake stavbe na ulici. Ljudem daje izhodišče za iskanje in način, da opazijo, kdaj je objava sama postala zastarela.

Odprite nizozemski register algoritmov in zasnova je nenavadno preprosta. Vladne organizacije objavljajo informacije o algoritmih, ki jih uporabljajo pri svojem delu. Register se osredotoča na vplivne algoritme, vključno z visoko tveganimi sistemi umetne inteligence, in obiskovalcem ponuja razlago, kako ti sistemi delujejo. Stran naredi tudi koristno razlikovanje, ki se mu bleščeči katalogi umetne inteligence pogosto izognejo: algoritem je niz pravil in navodil, ki jim računalnik sledi za izračun odgovora, ne osebnost z lansiranjem izdelka.

Stran je javna, ker je delo javno. Državljan ne potrebuje zasebnega računa, da odkrije, da organ uporablja algoritem, kaj organ pravi, da je njegov namen, ali kje postaviti naslednje vprašanje. To ne pomeni, da je vsaka tehnična podrobnost javna. Pomeni pa, da je obstoj sistema, njegova navedena vloga in njegov institucionalni lastnik težje skriti za dokumentacijo o javnem naročilu.

Registri modelov postajajo ista vrsta civilnega objekta. So med tehničnim katalogom in javno evidenco. Inženirji potrebujejo stabilno identiteto in različico za integracijo. Upravljavci potrebujejo status in lastnika za delovanje. Ponudniki v nadaljevanju potrebujejo zmogljivosti, omejitve in pogoje. Revizorji potrebujejo sled nazaj do dokazov. Prizadeti ljudje morajo vedeti, da sistem obstaja in kako ga izpodbijati. Ena stran ne more odgovoriti na vsa ta vprašanja, a dobro oblikovan register lahko vsakega bralca usmeri na pravo raven.

Nevarnost je v tem, da beseda register daje dokumentu videz popolnejšega, kot je. Telefonski imenik je register, vendar vam ne more povedati, ali številka še deluje. Tovorni manifest je register, vendar vam ne more povedati, ali je tovor preživel potovanje. Zapis modela je register, vendar ne more nositi celotnega dokaza o delovanju, pravičnosti, varnosti, zakonitosti in družbenih posledicah. Koristno vprašanje ni, ali je model v registru. Je, kaj vnos ugotavlja, kaj pušča odprtega in kaj lahko bralec pregleda naprej.

Oglasna deska je obljuba izbora

Inventar poskuša prešteti vse. Katalog vam poskuša pomagati izbrati. Register daje bolj formalno obljubo: ti vnosi spadajo v opredeljen obseg, imajo lastnika in informacije se vzdržujejo po pravilu. Obljuba je o izboru, preden je o programski opremi. Brez navedenega obsega je privlačen seznam le zbirka stvari, ki so si jih slučajno zapomnili.

Zato vsak register potrebuje stavek, ki pove, kaj vključuje in kaj namerno izpušča. Osrednja zbirka podatkov iz Akta o umetni inteligenci EU ni seznam vsakega modela, ki kroži v Evropi. Člen 71 vzpostavlja zbirko podatkov EU za določene visoko tvegane sisteme umetne inteligence in sisteme, ki so registrirani po poteh, opisanih v členu 49. Nizozemski register algoritmov ni seznam vsakega izračuna, narejenega v vladni pisarni. Osredotoča se na vplivne algoritme, vključno z visoko tveganimi sistemi umetne inteligence. Meja je del zapisa, ne opomba za pravnike.

Model register bi moralo na isto vprašanje o mejah odgovoriti v običajnem jeziku. Ali navaja temeljne modele, nameščene sisteme umetne inteligence, notranje poskuse, fine-tunane naslednike, pakete za vrednotenje ali samo modele, ponujene zunanjim uporabnikom? Ali nova konfiguracija strežbe dobi nov vnos, novo različico ali povezan zapis o namestitvi? Ali zajeto stanje prilagodljivega sistema šteje kot ista identiteta modela? Če register teh vprašanj ne razreši, jih bo vsak bralec razrešil drugače. Tako kratek seznam postane dolg spor.

Izbira tudi naredi odsotnost pomembno. Če področje uporabe pravi, da morajo biti vsi javno dostopni sistemi z visokim tveganjem vključeni, je manjkajoči vnos upravljavski problem. Če področje uporabe pravi, da so vključeni samo modeli, dani na trg, je notranji poskus lahko namenoma odsoten. Javnost ne more razlagati praznega rezultata iskanja, ne da bi vedela, katera od teh dveh situacij velja. Tišina ni nevtralna, če register ni pojasnil svojega besednjaka.

V tej jasnosti je majhna upravna vrlina. Registri se ni treba pretvarjati, da vedo vse. Bralcu morajo povedati, kaj vedo, za kaj so odgovorni in kaj je zunaj okvira. Register si avtoriteto prisluži z izrecno opredelitvijo meja svojega področja uporabe, ne z okraševanjem naslovnice. Tehnologija je novejša. Instinkt za papirologijo ni.

Kaj evropsko pravilo dejansko postavi na mizo

Akt o umetni inteligenci daje besedi registracija konkretno pravno obliko, a ne enotne univerzalne. Člen 49 zahteva, da ponudnik ali pooblaščeni zastopnik registrira določene sisteme umetne inteligence z visokim tveganjem, preden jih da na trg ali jih začne uporabljati. Prav tako zahteva registracijo, kadar ponudnik ugotovi, da sistem v skladu s pogoji iz člena 6(3) ni visoko tvegan. Javni organi in enakovredna javna telesa, ki nameščajo določene sisteme z visokim tveganjem, imajo lastno dolžnost registracije, vključno z registracijo njihove uporabe.

Isti člen izrecno opredeljuje mejo med javnim in zasebnim. Določeni sistemi z visokim tveganjem, ki se uporabljajo pri kazenskem pregonu, migracijah, azilu in upravljanju meja, so registrirani v varnem nejavnem delu. Sistemi z visokim tveganjem iz druge točke Priloge III so registrirani na nacionalni ravni. To niso podrobnosti izvajanja, ki bi jih bilo mogoče urediti na nadzorni plošči. Opisujejo različne publike, različna tveganja in različna dovoljenja za vpogled v zapis.

Člen 71 pravi, da Komisija v sodelovanju z državami članicami vzpostavi in vodi bazo podatkov EU. Informacije, registrirane v skladu s členom 49, morajo biti dostopne in javno na voljo na uporabniku prijazen način ter morajo biti lahko vodljive in strojno berljive, z izjemami za omejene dele. Baza podatkov sme vsebovati osebne podatke le, kolikor je to potrebno. To je uporabna opredelitev javne preglednosti: zapis, ki ga ljudje lahko najdejo in obdelajo, ne da bi zapis postal drug problem osebnih podatkov.

Priloga VIII je tista, kjer oglasna deska postane konkretna. Za ponudnika, ki registrira sistem z visokim tveganjem, zapis vključuje identiteto in kontaktne podatke ponudnika, nedvoumno trgovsko ime ali sklic, predvideni namen, osnovni opis uporabljenih informacij in operativne logike, status sistema, ustrezna potrdila, države članice, kjer je sistem dan na trg ali v uporabo, izjavo o skladnosti, navodila za uporabo in neobvezen URL za dodatne informacije. To niso trženjska polja. So ročaji za identifikacijo in odgovornost.

Za javnega uvajalca so informacije drugačne. Zapis vključuje identiteto uvajalca, osebo, ki informacije posreduje, URL vnosa ponudnika ter povzetke ocene učinka na temeljne pravice in, kjer je ustrezno, ocene učinka na varstvo podatkov. Razlika je pomembna, ker ponudnik modela in javni organ ne poznata istih stvari in ne nosita enake odgovornosti. Register, ki ju združi v eno kartico ponudnika, izbriše mesto, kjer sistem naleti na institucijo.

Pravna podatkovna zbirka ima zato večplasten značaj. Zabeleži identiteto sistema. Zabeleži ponudnika. Lahko zabeleži uvajalca in uporabo. Zabeleži status in spremljajoče izjave. Ne nadomešča tehnične dokumentacije, upravljanja tveganj, sistema kakovosti ali poprodajnega spremljanja, ki jih akt zahteva drugje. Podatkovna zbirka je javni indeks odgovornih dejstev. Ni celotna datoteka o skladnosti.

To razliko je lahko izgubiti, ker imajo ljudje radi en URL, za katerega se zdi, da vsebuje odgovor. Zakon je manj sentimentalen. Ustvari javno površino, omejene površine in nadzorovane poti dokumentacije. Javna površina mora biti uporabna. Omejena površina mora ostati omejena. Dokumentacija mora ostati na voljo pristojnemu organu ali ponudniku navzdol v verigi, ki jo potrebuje. Resen register je vmesnik med temi obveznostmi, ne bližnjica mimo njih.

Register postane uporaben, ko so identiteta, status in sprememba povezani. Barva brez prehoda je le okras.

Obstaja še ena pomembna meja. Določbe akta o umetni inteligenci o modelih splošnega namena niso isto kot javni katalog vseh modelov splošnega namena. Člen 53 od ponudnikov zahteva, da vodijo tehnično dokumentacijo, dajejo informacije na voljo ponudnikom sistemov umetne inteligence navzdol v verigi, vzdržujejo politiko avtorskih pravic in objavijo dovolj podroben povzetek vsebine usposabljanja. Smernice Komisije pojasnjujejo, da je tehnična dokumentacija namenjena uradu za umetno inteligenco in pristojnim nacionalnim organom na zahtevo, medtem ko dokumentacija navzdol v verigi pomaga integratorjem razumeti zmogljivosti in omejitve. Le del tega gradiva sodi na javno oglasno desko.

Akt od Komisije zahteva tudi, da objavi in vzdržuje seznam modelov umetne inteligence splošnega namena s sistemskim tveganjem. Seznam modelov s sistemskim tveganjem je dragocen javni signal, vendar ni isto kot celoten register modelov. Ima ožji namen in mora spoštovati pravice intelektualne lastnine, zaupne poslovne informacije in poslovne skrivnosti. Imenovati vsak seznam register je neškodljivo le, dokler nekdo ne domneva, da seznam dokazuje več, kot dejansko dokazuje.

Model ni ena sama vrstica

Ljudje govorijo o modelu, kot da bi bil kozarec na polici. Ime je natisnjeno na etiketi, različica je odtisnjena spodaj in vsebina ostane nespremenjena, dokler nekdo ne odpre pokrova. Ta slika deluje za statičen artefakt. Postane nezanesljiva, ko je model prilagojen, dodatno usposobljen, ovit v orodja, na voljo prek več poti ali spremenjen med uporabo.

Register potrebuje vsaj dve identiteti: identiteto modela in identiteto tistega, kar je dejansko delovalo. Prva odgovarja na vprašanje, kateri model ponudnik misli. Druga lahko identificira zajeto stanje, zapakiran paket za uvajanje, lokalni izvoz ali paket za ponovitev. Povezava med njima preprečuje dve nasprotni napaki. Storitev lahko neha pretvarjati se, da ima vsako živo stanje eno stalno zgoščeno vrednost, upravljavec pa lahko neha pretvarjati se, da sam izvleček paketa opisuje celotno družino modelov.

Številke različic so uporabne le, kadar je pravilo njihovega spreminjanja vidno. Različica lahko pomeni nov nabor naučenih parametrov, nov katalog omejitev, spremembo pri pridobivanju informacij, spremenjeno varnostno plast ali vsebinsko spremembo pogodbe o zagotavljanju storitve. Če ponudnik uporablja eno številko za vse to, številka postane vljuden način povedati, da se je nekaj spremenilo. Register bi moral naslednika povezati s predhodnikom in povedati, kateri del pogodbe se je spremenil.

Prilagodljivo vedenje dodaja še eno zapletenost. Če se sistem lahko spreminja med uporabo, bi moral zapis to povedati. To ni priznanje, da je sistem nenadzorovan. To je priznanje, da beseda različica ne more opraviti vsega dela. Register lahko ohrani stabilno identiteto modela, nanjo pritrdi časovno omejena zajeta stanja in zabeleži pogoje, pod katerimi je bilo stanje ustvarjeno. Bistvo ni zamrzniti živega sistema v lažno fotografijo. Bistvo je dati vsaki pomembni fotografiji datum in okvir.

Identiteta ima tudi družbeni rob. Ime modela ni dovolj, kadar več pravnih oseb distribuira podobne artefakte, kadar ponudnik v nadaljevanju verige spremeni model ali kadar izdelek vgradi model pod lastnim imenom. Register bi moral narediti verigo vidno: ponudnika, distributerja, kjer je ta drugačen, uvajalca, kjer je pomemben, ter sistem ali pot, v kateri se model uporablja. Oseba, na katero odločitev vpliva, ne bi smela opravljati forenzične arheologije po logotipu izdelka, da bi ugotovila, kdo lahko odgovarja zanjo.

Status je glagol, ne barva

Polja statusa so pogosto prikazana kot značke, ker se značke lepo prilegajo karticam. Značka ni status. Status je izjava o dejanju in času. Notranje testiranje pomeni eno stvar, kadar dostop nadzoruje ponudnik. Predizdaja pomeni nekaj drugega, kadar lahko povabljeni zunanji uporabniki uporabljajo pot pod določenimi pogoji. Na trgu, v uporabi, začasno ustavljeno, umaknjeno in odpoklicano ima vsako stanje drugačno operativno posledico.

Uporaben zapis navaja, kaj status dovoljuje in česa ne. Če je sistem namenjen le notranji uporabi, bralec ne bi smel sklepati o javni dostopnosti iz dokumentacijske strani. Če je zunanja beta različica načrtovana, bi moral biti datum označen kot načrtovan in ne predstavljen kot izdaja. Če je sistem umaknjen, bi moral zapis ohraniti prejšnjo identiteto in povedati, ali se obstoječe uvedbe lahko nadaljujejo, morajo prenehati ali se preseljujejo. Status brez datuma veljavnosti je govorica v uniformi.

Status bi moral imeti tudi lastnika. Kdo lahko premakne vnos iz notranjega v zunanji? Kdo lahko začasno ustavi pot? Kdo lahko razglasi spremembo datuma izdaje? Kateri dokazi so potrebni pred prehodom? Ta vprašanja sodijo v operativni proces, vendar bi moral javni vnos narediti nastalo odločitev berljivo. Register, ki prikazuje trenutno značko, a skriva oblast za njo, je le tabla razpoloženja za upravljanje.

Ilustrativni primer, ne dejanski vnos: zapis bi lahko povedal, da je model v nadzorovanem vrednotenju, da nobena zunanja pot ni odprta, da je preskus le s povabili predlagan za poznejši datum in da predlog ostaja predmet izdajnega vrat. Primer ne imenuje nobene organizacije, modela ali dogodka. Njegov namen je pokazati, kako zapis ločuje načrt od dejstva. Enaka disciplina velja za umik, trditev o zmogljivosti ali potrdilo, ki še ni bilo izdano.

To ločevanje ščiti bralce pred znanim trikom. Prihodnji namen se dovoljkrat ponovi, da začne zveneti kot zgodovina. Registri bi morali biti kraj, kjer ta trik preneha delovati. Vnos lahko prikazuje načrt, vendar mora načrt ohraniti svojo oznako. Evropa ima že dovolj koledarjev. Datum ni dejstvo zgolj zato, ker je bil postavljen v barvni pravokotnik.

Register ni dokazna soba

Javni vnos mora biti dovolj kratek za branje in dovolj trden, da usmeri resno vprašanje. Prostor z dokazi za njim je lahko precej večji. To ponazarjajo obveznosti dokumentacije iz člena 53 akta o umetni inteligenci. Ponudniki modelov umetne inteligence splošnega namena morajo pripraviti in hraniti tehnično dokumentacijo, ki zajema razvoj, usposabljanje, testiranje in vrednotenje. Pripraviti morajo informacije in dokumentacijo, ki so na voljo ponudnikom sistemov umetne inteligence v nadaljnji verigi, da ti razumejo zmogljivosti in omejitve. Objaviti morajo dovolj podroben povzetek vsebin, uporabljenih za usposabljanje, ter vzdrževati politiko za spoštovanje zakonodaje Unije o avtorskih pravicah.

Te obveznosti so namenjene različnim bralcem. Pristojni organ morda potrebuje celoten tehnični zapis. Ponudnik v nadaljnji verigi potrebuje informacije za vključevanje in omejitve. Javnost potrebuje jasen opis, kaj model je in kako je opredeljen povzetek vsebin, uporabljenih za usposabljanje. Vnos v register lahko poveže te ravni, ne da bi se pretvarjal, da mora javna stran vsebovati vsako podrobnost, občutljivo z vidika varnosti, vsako datoteko s utežmi ali vsak testni vzorec z osebnimi podatki.

Povezave tudi niso dokaz kar same po sebi. Register, ki kaže na poročilo o vrednotenju, mora navesti, katero izdajo poročilo zajema, kaj je vrednotenje merilo in katere pogoje omejujejo rezultat. Povezava do povzetka usposabljanja mora povedati, ali povzetek zajema predusposabljanje, dodatno usposabljanje ali določen nabor kategorij vsebin. Povezava do potrdila mora pokazati, kdo ga je izdal, kaj potrjuje in kdaj poteče. V nasprotnem primeru je stran polica neodprtih ovojnic.

Enako pravilo velja za varnostne trditve. Register lahko navede, da ocena tveganja obstaja, da je načrt spremljanja povezan ali da je pot za resne incidente objavljena. Ne sme pa namigovati, da obstoj dokumenta dokazuje, da je osnovni sistem varen. Dokumentacija je način za preverjanje trditve. Ni nadomestilo za trditev.

Tu javno pisanje potrebuje disciplino. Kartica modela, stran o preglednosti ali vnos v register lahko opisuje predvideno uporabo in znane omejitve. Ne more uporabiti besede zaupanja vreden kot zaključka, razen če dokazi in obseg ta zaključek podpirajo. Pošten stavek je pogosto bolj uporaben: to so pogoji, ki smo jih vrednotili, to so omejitve, ki smo jih opazili, in to so primeri, za katere nismo trdili, da jih pokrivamo.

Nizozemski register kaže vrednost navadnega javnega seznama

Nizozemski register algoritmov je poučen prav zato, ker ne poskuša biti videti kot futuristična nadzorna soba. Javnim organizacijam daje javno mesto za opis algoritmov, ki jih uporabljajo pri svojem delu. Njegova angleška stran opozarja, da so bili opisi strojno prevedeni in da je nizozemski izvirnik različica, ki je za opis zavezujoča. Ta majhna opomba je lekcija o izvoru. Dostop ni isto kot točnost in prevedeni vmesnik ne sme izbrisati izvornega jezika.

Javni namen registra je prav tako izražen brez teatralnega jezika. Osredotoča se na algoritme z velikim vplivom, vključno s sistemi umetne inteligence z visokim tveganjem, in obiskovalcem omogoča vpogled v njihovo delovanje. Obiskovalec lahko brska po algoritmih, organizacijah in predlogah. Cilj ni ponuditi oceno za vsak algoritem. Cilj je narediti uporabo algoritemskih sistemov dovolj vidno, da lahko ljudje, organizacije in mediji spremljajo, preizprašujejo in nadzirajo prakso vlade.

Spremljevalni nizozemski Algoritmekader ta namen spremeni v zahtevo. Navaja, da morajo javni organi, razen če velja izjema, objaviti algoritme z velikim vplivom in sisteme umetne inteligence z visokim tveganjem v registru. Prav tako navaja, da lahko nepravilna ali nepopolna objava oteži prizadetim ljudem in drugim deležnikom, da razumejo in izpodbijajo uporabo tehnologije, ki lahko posega v njihove pravice. Preglednost zato ni le vljudnost. Kakovost vnosa lahko vpliva na kakovost javnega nadzora.

Enako navodilo je previdno pri obsegu. Register opisuje kot orodje v širšem naboru zakonov in zahtev ter opozarja, da okvir ni popoln in morda ne vključuje sektorske zakonodaje. Dejstvo, da se algoritem pojavi v registru, ne razreši vsakega pravnega ali etičnega vprašanja. Dejstvo, da se ne pojavi, ne dokazuje, da je neškodljiv. Bralec potrebuje pravilo vključitve v register in okoliški okvir, da si razloži vnos.

To je uporaben vzorec za registre modelov. Javni seznam mora biti lahko najti, napisan za ljudi, ki niso bili na sestanku o javnem naročilu, in povezan z evidenco, ki vsebuje več podrobnosti. Razkriti mora negotovost, ne pa je skrivati. Navesti mora, kdaj je angleški opis strojno preveden. Pojasniti mora, kateri sistemi so vključeni in kateri ne. Manjkajoč ali zastarel vnos mora postati viden upravljavski problem, ne pa zasebno razočaranje.

Ni treba izmišljati dramatičnega dogodka, da bi videli, zakaj je to pomembno. Državljan, ki poskuša razumeti avtomatiziran vladni postopek, že ima praktično vprašanje: ali se sistem uporablja, kdo ga uporablja, za kakšen namen in na podlagi katere razlage? Register da temu vprašanju naslov. Odgovor je lahko še vedno nepopoln. Vsaj institucija se ne more pretvarjati, da ni nikogar, ki bi ga lahko vprašali.

Javno ne pomeni golo

Transparentnost postane kontraproduktivna, če jo obravnavamo kot ukaz, da je treba objaviti vse. Javne evidence lahko razkrijejo osebne podatke, varnostno občutljive informacije, poslovne skrivnosti in napadalne poti. Prav tako lahko ustvarijo lažno zaupanje z objavo tehničnih fragmentov, ki jih navaden bralec ne more razložiti. Meja med javnim in zasebnim mora biti načrtovana, dokumentirana in pregledana, ne pa improvizirana s strani ekipe, ki se naključno ukvarja s sistemom za upravljanje vsebin.

Akt o umetni inteligenci daje pravni primer. Člen 49(4) uvršča posebne sisteme v varen nejavni razdelek in omejuje dostop na Komisijo in pristojne nacionalne organe. Člen 71 določa, da so informacije, registrirane v skladu s členom 49, javno dostopne, razen omejenih razdelkov, medtem ko so informacije, registrirane v skladu s členom 60, dostopne le organom za nadzor trga in Komisiji, razen če ponudnik soglaša z javnim dostopom. Javnost je torej pravilo z izjemami, ne pa univerzalna privzeta nastavitev.

Člen 53 uvaja podobno razlikovanje za modele splošnega namena. Ponudniki morajo tehnično dokumentacijo dati na voljo Uradu za umetno inteligenco in pristojnim nacionalnim organom na zahtevo, integratorjem pa morajo zagotoviti dokumentacijo za naprej. Obveznosti so izrecno pogojene s potrebo po spoštovanju in zaščiti pravic intelektualne lastnine, zaupnih poslovnih informacij in poslovnih skrivnosti. Register ne sme prisiliti ponudnika, da objavi gradivo, za katerega zakon določa, da mora biti nadzorovano. Prav tako zaupnost ne sme postati vljuden izgovor za prikrivanje obstoja, namena ali statusa sistema, ki vpliva na javnost.

Praktičen register modelov lahko uporablja plasti. Javna plast identificira model, ponudnika, status, predvideni namen, široke zmogljivosti, znane omejitve, poti dostopa, pogoje izdaje, povezave do dokazov in zgodovino sprememb. Nadzorovana plast vsebuje podrobno tehnično dokumentacijo, modele groženj, omejeno evalvacijsko gradivo, podrobnosti o incidentih in druge informacije, ki jih potrebujejo pooblaščeni pregledovalci. Zasebna operativna plast vsebuje skrivnosti, osebne podatke in notranje nadzorne informacije, ki sploh ne smejo biti izpostavljene. Plastovite evidence so ločeni zapisi s povezavami, ne ena stran z zložljivim razdelkom z oznako transparentnost.

Dobra preglednost ima mejo. Objavlja tisto, kar ljudje potrebujejo za razumevanje sistema, in varuje tisto, kar morajo nadzorovati pooblaščeni pregledovalci.

Javna plast mora biti še vedno konkretna. Lahko pove, da je model prilagodljiv med uporabo, ne da bi razkrila zasebno predstavitev stanja. Lahko navede, da je pot dostopna le s povabilom, ne da bi objavila žetone za povabila. Lahko opiše načine izhoda in politiko označevanja vsebine, ne da bi razkrila podpisne ključe. Lahko pove, da ocena tveganja obstaja, in opredeli njen obseg, ne da bi objavila varnostni diagram, ki bi storitvi olajšal napad.

Nadzorovana plast potrebuje lastno poštenost. Dokument, označen kot zaupen, ni samodejno popoln, aktualen ali pravilen. Potrebuje lastnika, različico, pravilo dostopa in pravilo hrambe. Če javni register povezuje do nadzorovanega zapisa, mora povezava razkriti njegov status in odgovorno pot, tudi če je vsebina omejena. V nasprotnem primeru javnost vidi črno luknjo in se od nje pričakuje, da to imenuje upravljanje.

Različice so tisto, kjer register postane uporaben

Večina napak v registrih ni dramatičnih. So majhna dejanja pozabljanja. Nov model zamenja starega, vendar se vnos ureja na mestu. Politika se spremeni, vendar odstavek o predvideni uporabi ostane. Ponudnik premakne pot iz notranjega testiranja v zunanjo beta različico, vendar se značka statusa spremeni, preden se zabeleži datum začetka veljavnosti. Uvedba se umakne, vendar stari vnos izgine in s seboj odnese zgodovino. Sedanjost je videti urejena. Preteklost postane neodgovorljiva.

Zapis z različicami hrani vsaj štiri ločene ure. Različica vsebine pove, katero besedilo in polja zapisa so aktualni. Datum začetka veljavnosti pove, kdaj izjava velja. Različica modela ali paketa pove, kateri tehnični objekt je opisan. Datum preverjanja pove, kdaj je nekdo preveril zapis. Ti datumi lahko sovpadajo. Ni nujno, da se. Obravnavanje vseh kot enega datuma je priročno in pogosto napačno.

Prejšnje različice morajo ostati odkritljive v skladu z ustreznim pravilom hrambe. Javnost ne potrebuje vsakega notranjega urejanja, vendar mora vedeti, kdaj se je spremenila pomembna izjava o namenu, statusu, poti, omejitvi ali lastništvu. Dnevnik sprememb lahko pove, kaj se je spremenilo, ne da bi razkril zasebne informacije. Strojno berljiv zapis lahko poveže prejšnjo različico in manifest. Človeku berljiva stran lahko pojasni posledico v običajnem jeziku. Obe površini se morata ujemati.

Različice omogočajo tudi smiseln umik. Če je model umaknjen, ker je pot zaprta, je to drugače kot odpoklic, ker resna napaka ali pravno vprašanje zahteva ukrepanje. Če model ostane v obstoječih zasebnih uvedbah, mora javni zapis to povedati. Če je naslednik združljiv le za nekatere integracije, mora biti meja selitve vidna. Register, ki odstrani ime, ne da bi zabeležil zakaj, pusti vsakemu bralcu na koncu verige, da si izmisli razlog.

Zgodovina sprememb je še posebej pomembna za prilagodljive sisteme. Identiteta modela lahko ostane stabilna, medtem ko se spreminjajo zajeta stanja, nabori omejitev, viri pridobivanja ali nadzor izhoda. Register lahko navede, katere spremembe ustvarijo nov paket, katere spremembe zahtevajo novo oceno in katere spremembe ostanejo znotraj opredeljene meje identitete. To ni pretirana podrobnost. To je razlika med sistemom, ki ga je mogoče ponovno predvajati, in sistemom, ki ga je mogoče le pomniti.

Lastniki so del zapisa

Vnos v register modelov brez lastnika je vremenska napoved. Pove vam, kakšno je bilo nebo, ko pa streha zamaka, nimate nikogar, ki bi ga poklicali. Vlogi ponudnika in uvajalca nista enaki in nobena od njiju se ne sme raztopiti v besedi platforma.

Ponudnik je lastnik identitete modela, evidence razvoja in odločitve o izdaji v svojem obsegu. Uvajalec je lastnik odločitve o uporabi sistema v svoji pristojnosti, vključno z lokalnim namenom, zaščitnimi ukrepi, oceno učinka in operativnimi kontrolami. Ponudnik v nadaljnjem toku lahko vključi model splošnega namena v sistem umetne inteligence in nosi odgovornosti, ki jih ponudnik modela ne more videti. Javni register mora te odnose razkriti tam, kjer to zahtevata zakon in tveganje.

Kontaktni podatki niso administrativno polnilo. Prizadeti osebi omogočajo, da vpraša, kdo je sprejel odločitev, katera različica je bila uporabljena ali kako je mogoče zahtevati popravek. Splošni poštni predal je lahko primeren, vendar mora voditi do vzdrževanega postopka. Vnos mora tudi povedati, ali je kontakt namenjen tehnični podpori, zahtevkom glede pravic, prijavam incidentov, javnim naročilom ali javni odgovornosti. En predal ne more biti hkrati vsaka institucija, kljub najboljšim prizadevanjem sodobnih obrazcev.

Lastništvo mora vključevati pooblastilo za spreminjanje zapisa. Če imenovani lastnik ne more začasno ustaviti poti, popraviti statusa ali objaviti umika, je vnos zgolj dekorativen. Organizacija ima lahko pravnega lastnika še kje drugje, vendar operativna vrzel ostaja. Dober register naredi odgovornost vidno, preden incident prisili ljudi, da organizacijo rišejo na tablo.

Oblikovanje registra, ki ga ljudje dejansko preberejo

Prvi bralec registra modelov ni vedno regulator ali inženir. Lahko je novinar, uradnik za javna naročila, lokalni uradnik, raziskovalec, zaposleni, ki mora uporabljati sistem, ali oseba, ki poskuša razumeti, zakaj je avtomatizirana storitev obravnavala njen primer. Stran mora odgovoriti na pogosto vprašanje, preden seže po specializiranem besedišču.

Začnite z identiteto in razlogom za vnos. Povejte, kdo ponuja model, katera različica je opisana, kakšna vrsta predmeta gre in ali gre za model, integriran sistem umetne inteligence ali zapis o uvajanju. Povejte, ali je notranji, na voljo povabljenim uporabnikom, na trgu, začasno ustavljen ali umaknjen. Bralec ne sme statusa sklepati iz gumba za prenos.

Nato prikažite namen in meje. Navedite, kaj naj bi model počel, katere uporabe so zunaj trditev in o katerih odločitvah ni pooblaščen. Pojasnite, ali se model lahko prilagaja med uporabo, ali je za ponovitev potrebno zajeto stanje in ali nadaljnja pot spreminja pogoje. Seznam zmogljivosti brez namena je jedilnik brez kuhinje.

Uporabite postopno razkrivanje. Vrh strani mora biti miren in berljiv. Globlji razdelki lahko razkrijejo strojni zapis, metode vrednotenja, povzetek vsebine usposabljanja, pravne dokumente in dokaze o izdaji. Javni bralec se lahko ustavi po prvi plasti. Revizor lahko nadaljuje. Inženir lahko prenese stabilno predstavitev. Skrivanje podrobnosti ni preprostost. Je le počasno nalaganje presenečenja.

Dostopnost je del verodostojnosti zapisa. Stran in strojna predstavitev morata uporabljati jasne oznake, navigacijo s tipkovnico, uporabne naslove in besedilne nadomestke za vizualizacije. Datumi ne smejo biti kodirani samo z barvo. Rdeča značka ni status za bralca, ki ne vidi rdeče, graf, ki ga brez miške ni mogoče prebrati, pa ni dostopna razlaga. Oglasna deska na mestnem trgu ne postane javna, če se klančina konča pri prvi stopnici.

Strojna berljivost je pomembna iz povsem drugega razloga. Raziskovalcem omogoča primerjavo zapisov, javnim organom izdelavo evidenc, revizorjem odkrivanje zastarelih zapisov, orodjem v nadaljnji obdelavi pa preverjanje, da se stran in strukturiran zapis nanašata na isto različico. Strojno berljivo ne pomeni samo za stroje. Človeška stran in strojni zapis bi morala deliti identifikatorje, status, datume in povezave, z razmerjem celovitosti, ki ga je mogoče preveriti.

Polja registra so odločitve

Vsako polje bralcu pove, kaj organizacija meni, da je vredno ohraniti. Polje ponudnika pove, kdo stoji za modelom. Ime in različica modela povesta, kako ga ločiti od naslednika. Polje poti pove, kje je model dosegljiv. Polje predvidenega namena pove, katero delo je ponudnik pripravljen opisati. Polje omejitev pove, kje se opis konča. Shema je dokument upravljanja, zapisan v majhnih pravokotnikih.

Polja identitete bi morala biti nedvoumna in stabilna. Lahko vključujejo pravno ime ponudnika, ime modela, različico, edinstveno referenco in povezave do kanoničnega zapisa. Če je model mogoče uporabljati prek več izdelkov, bi moral register razlikovati identiteto modela od integracijske površine. Če izdelek vsebuje več modelov, vnos tega dejstva ne bi smel skrivati za imenom izdelka.

Polja statusa bi morala vključevati vrednost, datum veljavnosti, razlog ali pooblastilo za prehod ter morebitnega naslednika ali predhodnika. Datum, ki je le načrtovan, bi moral biti označen kot načrtovan. Zapis, ki že dlje časa ni bil preverjen, bi moral to povedati. Bralec bi moral brez razlage pridevnika, ki si ga je izmislila marketinška ekipa, razbrati, ali je model na voljo, predlagan, začasno ustavljen ali zgodovinski.

Polja namena in področja bi morala delo opisati tako, da ga razume tudi nestrokovnjak. Navesti bi morala predvidene uporabnike, kadar je to pomembno, vrste vhodov in izhodov ter odločitve ali dejanja, ki jih model lahko podpira. Navesti bi morala tudi prepovedane ali nepodprte uporabe. Model, ki lahko ustvarja besedilo, s tem ni pooblaščen za pisanje odločbe o upravičenosti, model, ki lahko razvršča dokumente, pa s tem ni pooblaščen za razvrščanje ljudi.

Polja zmogljivosti potrebujejo pogoje. Načini delovanja, omejitve konteksta, dostop do orodij, jezikovna pokritost, vedenje pri prilagajanju in označevanje izhodov so smiselni le, če so povezani s potjo in izdajo. Zmogljivosti, ki obstaja v notranjem poskusu, ne pa tudi v zunanji poti, ne bi smeli predstavljati kot enotno univerzalno funkcijo. Register ni seznam želja.

Polja podatkov bi morala povedati, kaj model prejema, kaj shranjuje, iz česa se uči med uporabo in kaj se uporablja za vrednotenje, in sicer na ravni, ki jo je mogoče javno razkriti brez izpostavljanja osebnih ali zaupnih podatkov. Povzetki učnih vsebin in politike pravic bi morali biti povezani, kjer je to zahtevano. Ohlapen stavek, kot je »učen na raznolikih podatkih«, bralcu pove skoraj nič in od njega zahteva, da si izmisli laskavo razlago.

Polja vrednotenja bi morala opredeliti vprašanje, metodo, mejo podatkov, datum, rezultat in omejitve. Vnosu ni treba reproducirati vsake tabele, ne bi pa smel prikazati rezultata brez imenovalca ali testa brez namena. Dobra povezava do vrednotenja bralcu omogoči, da vidi, ali dokazi pokrivajo predvideno uporabo, sorodno uporabo ali le laboratorijske pogoje.

Polja nadzora bi morala opredeliti, kdo lahko sistem ustavi, preglasi, pregleda in preiskuje. Če model le priporoča, povejte, katero dejanje ostane človeku. Če lahko pot deluje na zunanjih sistemih, povejte, katera dovoljenja in vrata veljajo. Če ima prijavljanje incidentov namensko pot, jo objavite. Nadzor ni odstavek o tem, da človek ostaja v zanki. Je zemljevid tega, kdo lahko kaj stori, ko je sistem negotov.

Polja z dokazi in integriteto naj javni vnos povežejo z različico strojnega zapisa, paketom izdaje, izjavo, paketom za vrednotenje ali dnevnikom preglednosti. Z zgoščevalno vrednostjo je mogoče ugotoviti, ali se je datoteka spremenila ali ne. Ne more pa dokazati, da je bila datoteka resnična, zato naj register trditev in preverjanje integritete hrani ločeno. Tehnična natančnost ni nadomestilo za presojo, olajša pa njeno umestitev.

Nazadnje naj polja o spremembah pojasnijo zgodovino. Kaj se je spremenilo, kdaj, zakaj, kdo je odobril, katere poti so prizadete in ali je potrebno novo vrednotenje. Vnos naj omogoči odgovor na najbolj običajno vprašanje v prostoru: kaj je drugače od zapisa, ki smo ga brali prejšnji mesec?

Kaj register lahko ugotovi

Dobro vzdrževan register lahko ugotovi, da določen objekt opisuje imenovani ponudnik pod določeno različico zapisa. Ugotovi lahko navedeni namen, status, pot dostopa in lastništvo. Ugotovi lahko, katere spremljevalne dokumente in zapise o integriteti si lahko bralec ogleda ter katere informacije so namerno nadzorovane. Ugotovi lahko, da je bila sprememba objavljena in da prejšnji zapis ostaja na voljo v skladu z navedenim pravilom hrambe.

Register lahko ugotovi tudi lastno stališče organizacije. Če ponudnik izjavi, da je model namenjen podpori pri odločanju in ne samodejnemu zavračanju, je ta izjava javna meja. Če uvajalec izjavi, da je bila ocena učinka opravljena, izjava ustvari vprašanje o tem, kje je mogoče najti povzetek ali nadzorovan zapis. Če ponudnik izdajo označi kot načrtovano, ta oznaka prepreči, da bi se načrt izdajal za zgodovino.

To so uporabna dejstva. Naredijo javno naročanje natančnejše, integracijo manj špekulativno in javna vprašanja lažje usmerljiva. Prav tako naredijo nestrinjanje ostrejše. Bralec lahko reče, da je navedeni namen preširok, da je status zastarel, da omejitev manjka ali da podporni dokazi ne pokrivajo trditve. Register upraviči svoj obstoj, ko omogoči prav takšno kritiko.

Česar register ne more ugotoviti

Vnos v registru ne more ugotoviti, da je model natančen za vsakega uporabnika, varen v vsakem okolju, pravičen do vsake skupine ali zakonit za vsako uporabo. Ne more ugotoviti, da je javni organ ravnal po pravilnem postopku zgolj zato, ker je sistem naveden. Ne more pokazati, da je človeški pregledovalec razumel izid, da je imel posameznik, na katerega se nanašajo podatki, učinkovito pravno sredstvo ali da bi bil incident odkrit pravočasno. Ti sklepi zahtevajo dokaze o sistemu v uporabi, instituciji, ki ga uporablja, in ljudeh, na katere vpliva.

Register tudi ne more ugotoviti, da je model neodvisen od svojega dobavitelja, da je pot suverena, ker je gostovana v Evropi, ali da odprta licenca pomeni, da odgovornost izgine. Lastništvo, pristojnost, dobavna veriga, operativni nadzor in vzdrževanje so ločena vprašanja. Register lahko razkrije imena in povezave, potrebne za njihovo zastavitev. Ne more pa nanje odgovoriti s tipografijo.

Register tudi ne more dokazati negativnega. Odsoten vnos lahko pomeni, da je objekt izven obsega, da velja izjema, da je objava zamujena ali da nekdo ni objavil. Bralec potrebuje jasno izjavo o pokritosti in pot za prijavo napak. Javna oglasna deska je zanesljiva le toliko, kolikor je zanesljiv postopek, ki opazi, da obvestilo manjka.

Ilustrativen zapis, ne prikrita študija primera

Sledi ilustrativna zasnova zapisa, ne poročilo o resnični organizaciji, modelu ali dogodku. Ne uporablja nobene stranke, javnega organa, datuma uvajanja ali izmerjenega rezultata. Njen namen je pokazati, kako lahko bralec preide od javnega vnosa do nadzorovane poti do dokazov, ne da bi zamešal obe plasti.

  • Identiteta: ime ponudnika, ime modela, različica in stabilen strojni identifikator.
  • Status: nadzorovano vrednotenje z datumom začetka veljavnosti in opombo, da ni odprte zunanje poti.
  • Namen: pomoč pri analizi dokumentov za usposobljeno osebje, pri čemer so samodejne zunanje odločitve zunaj opredeljenega področja.
  • Vhodi in izhodi: predstavljene modalitete, vrste pričakovanega izvornega gradiva in vrste izhodov, ki jih pot lahko ustvari.
  • Omejitve: znane jezikovne, domenske, svežinske, varnostne in dostopovne meje, vsaka povezana z ustreznim vrednotenjem ali politiko.
  • Nadzor: vloga, ki lahko začasno ustavi pot, postopek pregleda negotovih rezultatov in kontakt za incidente.
  • Dokazi: javni povzetek, različica tehničnega zapisa za pooblaščene pregledovalce in manifest celovitosti za objavljene datoteke.
  • Spremembe: povezava do prejšnjega zapisa, izjava o tem, kaj se je spremenilo, in pogoj, ki bi zahteval novo vrednotenje.

Nič v tem zapisu ne pravi, da je model dober. Pravi, kaj je ponudnik pripravljen trditi, kje trditev velja in kako jo lahko druga oseba preizkusi ali izpodbija. To je dovolj za oglasno desko. Prav tako je dovolj, da prepreči, da bi veliko promocijskega jezika neopaženo zašlo v pravno ali operativno odločitev.

Zakaj si status pred izdajo zasluži spoštovanje

Status pred izdajo ni šibkejša različica javne objave. Gre za drugačno stanje. Notranje testiranje lahko podpira inženirsko in varnostno delo, hkrati pa ohranja nadzorovan dostop. Povabljena beta različica lahko pot izpostavi zunanjim osebam, hkrati pa ohranja pogoje, področje in pravico do ustavitve. Javna izdaja spremeni, kdo se lahko zanese na sistem in katere obveznosti nastanejo za ponudnika, integratorje in uvajalce. Register bi moral te prehode narediti vidne, namesto da izdajo obravnava kot en sam trobentni zvok.

Zapis o statusu pred izdajo je lahko še vedno koristen za javnost. Lahko identificira model, ponudnika, predvideno pot, status, obstoječe dokaze in dokaze, ki še čakajo. Lahko navede, da je datum načrtovan in da dostop še ni bil odprt. Lahko objavi vrata za izdajo, ne da bi se pretvarjal, da so bila že prehojena. To je še posebej dobro mesto, kjer je register lahko dolgočasen. Dolgočasen status je varnejši od vznemirljive dvoumnosti.

Pri Dweve poskušamo to disciplino uporabiti tudi v lastnem javnem zapisu. V našem Trust Centru je register modelov označen kot pred izdajo in navaja Dweve Loom 1.0 kot notranje testiranje pred izdajo od 1. avgusta 2026. Zapisuje, da do tega datuma ni prišlo do zunanje izdaje, in navaja 1. september 2026 kot načrtovani datum dostopa do trga Unije za zunanjo beta različico samo s povabilom. Načrtovano je ključna beseda: vnos ne spremeni načrta v dogodek.

Naš javni zapis tudi jasno navaja, da je Loom edini model, naveden tam, da je lastniški in ne izdan pod odprtokodno licenco za modele, ter da naši izdelki in ločeno licencirana odprtokodna orodja niso predstavljeni kot dodatni modeli. Ta meja preprečuje, da bi katalog izdelkov zamenjali z registrom modelov. Prav tako ohranja javno trditev dovolj majhno, da jo je mogoče preveriti.

To je vse, kar moramo tukaj povedati o Dweve. Register modelov je uporaben, ko naredi naš lastni status izdaje manj laskav, a bolj natančen. Enako bi moral storiti za vse druge.

Meja med javnim in zasebnim je oblikovalska odločitev

Najmočnejši register ni tisti z največ polji. Je tisti, katerega polja imajo razlog, lastnika in mejo. Javni bralci potrebujejo stabilno identiteto, opredeljen namen, resničen status, odgovorno organizacijo, uporabne povezave in dovolj omejitev, da razumejo trditev. Pooblaščeni pregledovalci potrebujejo globlje dokaze, nadzorovane tehnične podrobnosti in pot do pregleda incidentov ali občutljivih testov. Upravljavci potrebujejo skrivnosti, dovoljenja in priročnike, ki sploh ne bi smeli biti na oglasni deski.

Te ravni bi se morale strinjati o dejstvih, ki prečkajo mejo. Če javna stran pravi, da je pot začasno ustavljena, bi moral nadzorovani zapis povedati, kdo jo je ustavil in zakaj. Če je tehnična datoteka nadomeščena, javni vnos ne bi smel še naprej nanjo povezovati kot na trenutno. Če je ocena omejena, bi morala javna stran še vedno navesti njen obseg in status. Meja bi morala omejiti dostop do podrobnosti, ne pa ustvariti treh nezdružljivih različic resničnosti.

Bralci bi morali imeti možnost zastaviti pet preprostih vprašanj in dobiti pet stabilnih odgovorov. Kaj je ta objekt? Kdo je zanj odgovoren? Kaj sme početi? Kakšen je njegov trenutni status? Kakšni dokazi in pravna sredstva obstajajo, ko je trditev izpodbijana? Register, ki odgovori na ta vprašanja, že opravlja institucionalno delo. Registra, ki nanje ne more odgovoriti, ne bi smele reševati animirane značke ali nadzorna plošča z dvanajstimi filtri.

Evropsko gibanje k registrom modelov in algoritmov je mogoče brati optimistično. Ne gre za to, da bo podatkovna zbirka rešila upravljanje umetne inteligence. Gre za to, da javne institucije gradijo prostore, kjer imajo trditve imena, datume, lastnike in meje. To so majhni gradniki, iz katerih so zgrajeni večji sistemi odgovornosti.

Oglasna deska mora preživeti spremembe

Register modelov je nova javna oglasna deska le, če obvestila ostanejo čitljiva tudi po tem, ko se vreme spremeni. Stran mora preživeti posodobitev modela, zamenjavo dobavitelja, novo uvedbo, popravljeno omejitev, umaknjeno pot in težko vprašanje nekoga, ki ni bil v prostoru. To pomeni ohranjanje zgodovine, označevanje načrtov, povezovanje dokazov in povedati, česa zapis ne more dokazati.

To delo je manj glamurozno kot predstavitvena stran. Je pa tudi bolj trajno. Javni zapis, ki razlikuje identiteto modela od stanja uvedbe, status od namena, dokumentacijo od dokaza ter javna dejstva od nadzorovanih dokazov, daje ljudem nekaj boljšega od pomiritve. Daje jim pot skozi sistem.

Dobri registri od bralcev ne zahtevajo, da zaupajo barvi, številki ali znanemu imenu. Trditev naredijo dovolj ozko za pregled in mejo dovolj jasno za izpodbijanje. Pustijo sled do ljudi, ki lahko odgovorijo, do zapisov, ki jih je mogoče preveriti, in do odločitve, ki jo je mogoče spremeniti. To je zelo stara civilna ideja, oblečena v dokaj sodobno obliko datoteke.

Objavite obvestilo na desko. Dokaze postavite za njim. Staro obvestilo obdržite tam, kjer ga lahko nekdo še vedno prebere. Nato pustite javnosti, da se odloči, kaj si zapis zasluži.

Viri