Novi javni oglasnik je registar modela.

Registar modela javnosti može reći što sustav jest, tko stoji iza njega, gdje se smije koristiti i što se promijenilo. No ne može uredan unos pretvoriti u...

Novi javni oglasnik je registar modela.

Stranica koja na početku priznaje da nije čarobna

Prva stvar koju koristan registar modela učini jest da vas razočara. Ne kaže da je model siguran. Ne kaže da je organizacija kompetentna. Ne pretvara obećanje dobavljača u činjenicu niti zelenu oznaku u razlog da prestanete postavljati pitanja. Umjesto toga daje vam ograničen zapis: ovo je stvar, ovo je verzija, ovo je vlasnik, ovo je deklarirana svrha, ovo je status i ovdje se čuva popratna dokumentacija.

Ta skromnost početak je povjerenja javnosti. Registar je oglasna ploča, a ne svetište. Oglasna ploča govori susjedstvu što se gradi, tko je za to odgovoran i koje su obavijesti zamijenjene. Ne potvrđuje kvalitetu izrade svake zgrade u ulici. Daje ljudima mjesto odakle početi tražiti i način da primijete kada je sama obavijest zastarjela.

Otvori li se Registar algoritama nizozemske vlade, dizajn je neobično jednostavan. Vladine organizacije objavljuju informacije o algoritmima koje koriste u svom radu. Registar se usredotočuje na algoritme s velikim utjecajem, uključujući visokorizične sustave umjetne inteligencije, i posjetiteljima objašnjava kako ti sustavi funkcioniraju. Stranica također pravi korisnu razliku koju mnogi sjajni katalozi umjetne inteligencije izbjegavaju: algoritam je skup pravila i uputa kojih se računalo pridržava kako bi izračunalo odgovor, a ne osobnost s lansiranjem proizvoda.

Stranica je javna jer je i posao javan. Građaninu nije potreban privatni račun da bi otkrio da tijelo vlasti koristi algoritam, što tijelo vlasti kaže da je njegova svrha ili gdje postaviti sljedeće pitanje. To ne čini svaki tehnički detalj javnim. Ali čini postojanje sustava, njegovu deklariranu ulogu i njegovog institucionalnog vlasnika težima za skrivanje iza dokumentacije o nabavi.

Registri modela postaju ista takva građanska stvar. Smješteni su između tehničkog kataloga i javnog zapisa. Inženjeri trebaju stabilan identitet i verziju za integraciju. Operatori trebaju status i vlasnika za upravljanje. Nizvodni pružatelji trebaju mogućnosti, ograničenja i uvjete. Revizori trebaju trag koji vodi do dokaza. Pogođeni ljudi trebaju znati da sustav postoji i kako osporiti ono što čini. Jedna stranica ne može odgovoriti na sva ta pitanja, ali dobro osmišljen registar može svakog čitatelja uputiti na pravu razinu.

Opasnost je u tome što riječ registar čini dokument potpunijim nego što jest. Imenik je registar, ali vam ne može reći funkcionira li broj još uvijek. Teretnica je registar, ali vam ne može reći je li teret preživio putovanje. Zapis o modelu jest registar, ali ne može nositi cjelokupni dokaz učinkovitosti, pravednosti, sigurnosti, zakonitosti i društvenih posljedica. Korisno pitanje nije je li model u registru. Pitanje je što unos utvrđuje, što ostavlja otvorenim i što čitatelj dalje može provjeriti.

Oglasna ploča obećanje je odabira

Inventar pokušava prebrojati sve. Katalog vam pomaže odabrati. Registar daje formalnije obećanje: ti unosi pripadaju definiranom opsegu, imaju vlasnika i informacije se održavaju prema pravilu. Obećanje se odnosi na odabir prije nego na softver. Bez navedenog opsega, privlačan popis samo je zbirka stvari kojih se netko slučajno sjetio.

Zato svaki registar treba rečenicu koja kaže što uključuje i što namjerno izostavlja. Središnja baza podataka EU Akta o umjetnoj inteligenciji nije popis svakog modela koji kruži Europom. Članak 71. uspostavlja bazu podataka EU-a za određene visokorizične sustave umjetne inteligencije i sustave koji su registrirani putem postupaka opisanih u članku 49. Nizozemski Registar algoritama nije popis svakog izračuna napravljenog u vladinom uredu. Usredotočuje se na algoritme s velikim utjecajem, uključujući visokorizične sustave umjetne inteligencije. Granica je dio zapisa, a ne fusnota za odvjetnike.

Model registar treba odgovoriti na isto pitanje o granicama običnim jezikom. Navodi li temeljne modele, implementirane AI sustave, interne eksperimente, fino podešene potomke, pakete za evaluaciju ili samo modele ponuđene vanjskim korisnicima? Dobiva li nova konfiguracija posluživanja novi unos, novu verziju ili povezani zapis o implementaciji? Računa li se zabilježeno stanje adaptivnog sustava kao isti identitet modela? Ako registar ne odluči o tim pitanjima, svaki će čitatelj o njima odlučiti drugačije. Tako kratak popis postane duga rasprava.

Odabir također čini odsutnost smislenom. Ako opseg kaže da svi javno dostupni sustavi visokog rizika moraju biti navedeni, nedostajući unos jest problem upravljanja. Ako opseg kaže da su uključeni samo modeli stavljeni na tržište, interni eksperiment može izostati namjerno. Javnost ne može protumačiti prazan rezultat pretrage ako ne zna koja se od te dvije situacije primjenjuje. Šutnja nije neutralna kada registar nije objasnio svoj vokabular.

Postoji mala administrativna vrlina u tome da se to kaže jasno. Registri ne moraju pretvarati se da znaju sve. Moraju čitatelju reći što znaju, za što su odgovorni i što je izvan okvira. Registar stječe svoj autoritet time što granicu svog opsega čini izričitom, a ne ukrašavanjem naslovnice. Tehnologija je novija. Instinkt za papirologiju nije.

Što europsko pravilo zapravo stavlja na ploču

Zakon o umjetnoj inteligenciji daje riječi registracija konkretan pravni oblik, ali ne i jedinstven univerzalan. Članak 49. zahtijeva od pružatelja ili ovlaštenog zastupnika da registriraju određene sustave umjetne inteligencije visokog rizika prije stavljanja na tržište ili u uporabu. Također zahtijeva registraciju kada je pružatelj zaključio da sustav nije visokog rizika pod uvjetima iz članka 6. stavka 3. Javna tijela i slična javna tijela koja primjenjuju određene sustave visokog rizika imaju vlastitu obvezu registracije, uključujući registraciju svoje uporabe.

Isti članak čini granicu između javnog i privatnog izričitom. Određeni sustavi visokog rizika koji se koriste u provedbi zakona, migracijama, azilu i upravljanju granicama registriraju se u sigurnom nejavnom dijelu. Sustavi visokog rizika iz druge točke Priloga III. registriraju se na nacionalnoj razini. To nisu detalji provedbe koji se mogu riješiti na nadzornoj ploči. Oni opisuju različite publike, različite rizike i različita dopuštenja za uvid u zapis.

Članak 71. kaže da Komisija, u suradnji s državama članicama, uspostavlja i vodi bazu podataka EU-a. Informacije registrirane prema članku 49. trebaju biti dostupne i javno objavljene na korisniku prijateljski način te bi trebale biti lako pretražive i strojno čitljive, uz iznimke za ograničene dijelove. Baza podataka trebala bi sadržavati osobne podatke samo u mjeri u kojoj je to potrebno. To je korisna definicija javne transparentnosti: zapis koji ljudi mogu pronaći i obraditi, bez pretvaranja zapisa u drugi problem osobnih podataka.

Prilog VIII. je mjesto gdje oglasna ploča postaje konkretna. Za pružatelja koji registrira sustav visokog rizika, zapis uključuje identitet i podatke za kontakt pružatelja, nedvosmisleno trgovačko ime ili referencu, namjenu, osnovni opis korištenih informacija i logike rada, status sustava, relevantne potvrde, države članice u kojima je sustav stavljen na tržište ili u uporabu, izjavu o sukladnosti, upute za uporabu i neobavezan URL za dodatne informacije. To nisu marketinška polja. To su ručke za identifikaciju i odgovornost.

Za javnog implementatora informacije su drukčije. Evidencija uključuje identitet implementatora, osobu koja podnosi informacije, URL unosa pružatelja te sažetke procjene utjecaja na temeljna prava i, gdje je primjenjivo, procjene utjecaja na zaštitu podataka. Ta je razlika važna jer pružatelj modela i javno tijelo ne znaju iste stvari niti nose istu odgovornost. Registar koji ih spaja u jednu karticu dobavljača briše mjesto na kojem se sustav susreće s institucijom.

Pravna baza podataka stoga ima slojeviti karakter. Bilježi identitet sustava. Bilježi pružatelja. Može bilježiti implementatora i uporabu. Bilježi status i prateće izjave. Ne zamjenjuje tehničku dokumentaciju, upravljanje rizicima, sustav kvalitete ni praćenje nakon stavljanja na tržište koje Akt zahtijeva drugdje. Baza podataka javni je indeks odgovornih činjenica. Nije cjelokupni spis o usklađenosti.

Tu je razliku lako izgubiti jer ljudi vole jedan URL za koji se čini da sadrži odgovor. Zakon je manje sentimentalan. On stvara javnu površinu, ograničene površine i kontrolirane putove dokumentacije. Javna površina mora biti upotrebljiva. Ograničena površina mora ostati ograničena. Dokumentacija mora ostati dostupna nadležnom tijelu ili nizvodnom pružatelju kojem je potrebna. Ozbiljan registar sučelje je između tih obveza, a ne prečac oko njih.

Registar postaje koristan kada su identitet, status i promjena povezani. Boja bez prijelaza samo je ukras.

Postoji još jedno važno ograničenje. Odredbe Aktâ o umjetnoj inteligenciji o modelima opće namjene nisu isto što i javni katalog svih modela opće namjene. Članak 53. zahtijeva od pružatelja da vode tehničku dokumentaciju, da informacije učine dostupnima nizvodnim pružateljima sustava umjetne inteligencije, da vode politiku autorskih prava i da objave dovoljno detaljan sažetak sadržaja za osposobljavanje. Smjernice Komisije objašnjavaju da je tehnička dokumentacija namijenjena Uredu za umjetnu inteligenciju i nadležnim nacionalnim tijelima na zahtjev, dok nizvodna dokumentacija pomaže integratorima da razumiju mogućnosti i ograničenja. Samo dio tog materijala pripada na javnu oglasnu ploču.

Akt također zahtijeva od Komisije da objavi i vodi popis modela umjetne inteligencije opće namjene sa sistemskim rizikom. Popis modela sa sistemskim rizikom vrijedan je javni signal, ali nije isto što i cjeloviti registar modela. Ima užu svrhu i mora poštivati prava intelektualnog vlasništva, povjerljive poslovne informacije i poslovne tajne. Nazivati svaki popis registrom bezopasno je samo dok netko ne pretpostavi da popis dokazuje više nego što doista dokazuje.

Model nije jedan redak

Ljudi govore o modelu kao da je staklenka na polici. Naziv je otisnut na etiketi, verzija je otisnuta ispod, a sadržaj ostaje nepromijenjen dok netko ne otvori poklopac. Ta slika funkcionira za statični artefakt. Postaje nepouzdana kada se model prilagodi, fino ugodi, umota u alate, poslužuje kroz više putova ili mijenja tijekom uporabe.

Registar treba najmanje dva identiteta: identitet modela i identitet stvari koja je doista pokrenuta. Prvi odgovara na pitanje na koji model pružatelj misli. Drugi može identificirati zabilježeno stanje, zapečaćeni paket za implementaciju, lokalni izvoz ili paket za ponavljanje. Njihovo povezivanje sprječava dvije suprotne pogreške. Usluga može prestati pretvarati se da svako živo stanje ima jedan trajni hash, a operater može prestati pretvarati se da sažetak paketa sam po sebi opisuje cijelu obitelj modela.

Brojevi verzija korisni su samo kad je vidljivo pravilo njihove promjene. Verzija može značiti novi skup naučenih parametara, novi katalog ograničenja, promjenu u dohvaćanju, izmijenjeni sigurnosni sloj ili materijalnu promjenu ugovora o pružanju usluge. Ako pružatelj koristi jedan broj za sve to, broj postaje uljudan način da se kaže da se nešto promijenilo. Registar bi trebao povezati nasljednika s njegovim prethodnikom i navesti koji se dio ugovora promijenio.

Prilagodljivo ponašanje dodaje još jednu poteškoću. Ako se sustav može mijenjati tijekom uporabe, zapis bi to trebao navesti. To nije priznanje da je sustav nekontroliran. To je priznanje da riječ verzija ne može obaviti sav posao. Registar može zadržati stabilan identitet modela, na njega priključiti vremenski ograničena snimljena stanja i zabilježiti uvjete pod kojima je stanje nastalo. Poanta nije zamrznuti živi sustav u lažnu fotografiju. Poanta je dati svakoj smislenoj fotografiji datum i okvir.

Identitet ima i društveni rub. Ime modela nije dovoljno kada više pravnih osoba distribuira slične artefakte, kada pružatelj nizvodno mijenja model ili kada proizvod ugrađuje model pod vlastitim imenom. Registar bi trebao učiniti lanac vidljivim: pružatelj, distributer ako je drukčiji, implementator ako je relevantan te sustav ili put u kojem se model koristi. Osoba na koju odluka utječe ne bi trebala provoditi forenzičku arheologiju na logotipu proizvoda da bi otkrila tko za nju može odgovarati.

Status je glagol, ne boja

Polja statusa često se prikazuju kao oznake jer oznake uredno pristaju na kartice. Oznaka nije status. Status je izjava o radnji i vremenu. Interno testiranje znači jedno kada pristup kontrolira pružatelj. Predizdanje znači nešto drugo kada pozvani vanjski korisnici mogu koristiti put pod definiranim uvjetima. Na tržištu, u službi, obustavljeno, povučeno i opozvano, svaki od tih pojmova nosi drukčiju operativnu posljedicu.

Koristan zapis navodi što status dopušta, a što ne. Ako je sustav samo za internu uporabu, čitatelj ne bi smio zaključiti da je javno dostupan na temelju dokumentacijske stranice. Ako je vanjska beta verzija planirana, datum bi trebao biti označen kao planiran, a ne predstavljen kao izdanje. Ako je sustav povučen, zapis bi trebao sačuvati prethodni identitet i navesti smiju li postojeće implementacije nastaviti, moraju li prestati ili se migriraju. Status bez datuma stupanja na snagu glasina je u uniformi.

Status bi također trebao imati vlasnika. Tko može premjestiti unos iz internog u vanjski? Tko može obustaviti put? Tko može proglasiti promjenu datuma izdanja? Koji su dokazi potrebni prije prijelaza? Ta pitanja pripadaju operativnom procesu, ali javni unos trebao bi učiniti rezultirajuću odluku čitljivom. Registar koji prikazuje trenutačnu oznaku dok skriva autoritet iza nje samo je ploča raspoloženja za upravljanje.

Ilustrativni primjer, ne stvarni unos: zapis bi mogao navesti da je model u kontroliranoj evaluaciji, da nijedan vanjski put nije otvoren, da je proba samo uz pozivnicu predložena za kasniji datum te da prijedlog ostaje podložan vratima izdanja. Primjer ne imenuje nijednu organizaciju, model ni događaj. Njegova je svrha pokazati kako zapis odvaja plan od činjenice. Ista se disciplina primjenjuje na povlačenje, tvrdnju o mogućnosti ili certifikat koji još nije izdan.

To razdvajanje štiti čitatelje od poznatog trika. Buduća namjera ponavlja se dovoljno često da počne zvučati kao povijest. Registri bi trebali biti mjesto gdje taj trik prestaje djelovati. Unos može prikazati plan, ali plan mora zadržati svoju oznaku. Europa već ima dovoljno kalendara. Datum nije činjenica samo zato što je smješten u obojeni pravokutnik.

Registar nije soba s dokazima

Javni unos treba biti dovoljno kratak da se može pročitati i dovoljno jasan da usmjeri ozbiljno pitanje. Prostorija s dokazima iza njega može biti znatno veća. Obveze dokumentacije iz članka 53. Akta o umjetnoj inteligenciji pokazuju zašto. Pružatelji modela umjetne inteligencije opće namjene moraju sastaviti i čuvati tehničku dokumentaciju koja obuhvaća razvoj, osposobljavanje, testiranje i evaluaciju. Moraju staviti informacije i dokumentaciju na raspolaganje pružateljima nizvodnih sustava umjetne inteligencije kako bi ti pružatelji mogli razumjeti mogućnosti i ograničenja. Moraju objaviti dovoljno detaljan sažetak sadržaja za osposobljavanje i voditi politiku usklađenu s pravom Unije o autorskom pravu.

Te obveze služe različitim čitateljima. Nadležno tijelo može trebati cjelokupnu tehničku evidenciju. Nizvodni pružatelj treba informacije o integraciji i ograničenjima. Javnost treba jasan prikaz toga što model jest i kako je ograničen sažetak njegova sadržaja za osposobljavanje. Unos u registru može povezati te razine bez pretvaranja da bi javna stranica trebala sadržavati svaki sigurnosno osjetljiv detalj, svaku datoteku s težinama ili svaki uzorak za testiranje koji nosi osobne podatke.

Ni poveznice nisu dokaz same po sebi. Registar koji upućuje na izvješće o evaluaciji trebao bi navesti na koje se izdanje izvješće odnosi, što je evaluacija mjerila i koji uvjeti ograničavaju rezultat. Poveznica na sažetak osposobljavanja trebala bi reći obuhvaća li sažetak prethodno osposobljavanje, fino uglađivanje ili utvrđeni skup kategorija sadržaja. Poveznica na potvrdu trebala bi pokazati tko ju je izdao, što potvrđuje i kada istječe. Inače je stranica polica s neotvorenim omotnicama.

Isto pravilo vrijedi za sigurnosne tvrdnje. Registar može reći da procjena rizika postoji, da je plan praćenja povezan ili da je put za ozbiljne incidente objavljen. Ne bi smio implicirati da postojanje dokumenta dokazuje da je temeljni sustav siguran. Dokumentacija je način da se ispita tvrdnja. Ona nije zamjena za tvrdnju.

Upravo tu javno pisanje zahtijeva disciplinu. Kartica modela, stranica transparentnosti ili unos u registru mogu opisati namjeravanu uporabu i poznata ograničenja. Ne mogu upotrijebiti izraz pouzdan kao zaključak ako dokazi i opseg taj zaključak ne čine obranjivim. Poštena rečenica često je korisnija: to su uvjeti koje smo evaluirali, to su ograničenja koja smo uočili i to su slučajevi za koje nismo tvrdili da ih pokrivamo.

Nizozemski registar pokazuje vrijednost običnog javnog popisa

Nizozemski registar algoritama poučan je upravo zato što ne pokušava izgledati kao futuristička kontrolna soba. Vladinim organizacijama daje javno mjesto za opis algoritama koje koriste u svom radu. Njegova engleska stranica upozorava da su opisi automatski prevedeni i da je nizozemski izvornik mjerodavna verzija opisa. Ta mala bilješka lekcija je o podrijetlu. Pristup nije isto što i točnost, a prevedeno sučelje ne bi smjelo izbrisati izvorni jezik.

Javna svrha registra također je iznesena bez teatralnog jezika. Usredotočuje se na algoritme s velikim učinkom, uključujući sustave umjetne inteligencije visokog rizika, i posjetiteljima daje uvid u to kako funkcioniraju. Posjetitelj može pregledavati algoritme, organizacije i predloške. Cilj nije ponuditi ocjenu za svaki algoritam. Cilj je učiniti uporabu algoritamskih sustava dovoljno vidljivom da ljudi, organizacije i mediji mogu pratiti, propitivati i preispitivati vladinu praksu.

Prateći nizozemski Algoritmekader pretvara tu svrhu u zahtjev. Kaže da, osim ako se ne primijeni iznimka, javna tijela objavljuju algoritme s velikim učinkom i sustave umjetne inteligencije visokog rizika u registru. Također kaže da netočna ili nepotpuna objava može otežati pogođenim osobama i drugim dionicima da razumiju i ospore uporabu tehnologije koja može utjecati na njihova prava. Transparentnost stoga nije samo ljubaznost. Kvaliteta unosa može utjecati na kvalitetu javnog nadzora.

Iste smjernice oprezne su u pogledu opsega. Registar opisuju kao alat unutar šireg skupa zakona i zahtjeva te upozoravaju da okvir nije potpun i da možda ne uključuje sektorsko zakonodavstvo. Činjenica da se algoritam pojavljuje u registru ne rješava svako pravno ili etičko pitanje. Činjenica da se ne pojavljuje ne dokazuje da je bezopasan. Čitatelj treba pravilo uključivanja u registar i okolni okvir kako bi protumačio unos.

To je koristan obrazac za registre modela. Javni popis trebao bi biti lako pronaći, pisan za ljude koji nisu bili na sastanku o nabavi te povezan sa zapisima koji sadrže više pojedinosti. Trebao bi otkriti nesigurnost umjesto da je skriva. Trebao bi navesti kada je engleski opis strojno preveden. Trebao bi objasniti koji su sustavi uključeni, a koji nisu. Trebao bi učiniti nedostajući ili zastarjeli unos vidljivim upravljačkim pitanjem umjesto privatnim razočaranjem.

Nije potrebno izmišljati dramatičan incident da bi se vidjelo zašto je to važno. Građanin koji pokušava razumjeti automatizirani vladin postupak već ima praktično pitanje: koristi li se neki sustav, tko ga koristi, u koju svrhu i na temelju kojeg objašnjenja? Registar tom pitanju daje adresu. Odgovor i dalje može biti nepotpun. No institucija barem ne može pretvarati se da se nema gdje upitati.

Javno ne znači razotkriveno

Transparentnost postaje kontraproduktivna kada se tretira kao naredba da se objavi sve. Javni zapisi mogu otkriti osobne podatke, osjetljive sigurnosne informacije, povjerljive poslovne pojedinosti i putove napada. Također mogu stvoriti lažno povjerenje objavljivanjem tehničkih ulomaka koje običan čitatelj ne može protumačiti. Granica između javnog i privatnog mora biti osmišljena, dokumentirana i revidirana, a ne improvizirana od strane tima koji slučajno upravlja sustavom za upravljanje sadržajem.

Akt o umjetnoj inteligenciji daje pravni primjer. Članak 49. stavak 4. smješta pojedine sustave u siguran nejavni odjeljak i ograničava pristup Komisiji i nadležnim nacionalnim tijelima. Članak 71. čini informacije registrirane na temelju članka 49. javno dostupnima, osim ograničenih odjeljaka, dok su informacije registrirane na temelju članka 60. dostupne samo tijelima za nadzor tržišta i Komisiji, osim ako pružatelj pristane na javni pristup. Publicitet je stoga pravilo s iznimkama, a ne univerzalna zadana postavka.

Članak 53. čini sličnu razliku za modele opće namjene. Pružatelji moraju tehničku dokumentaciju staviti na raspolaganje Uredu za umjetnu inteligenciju i nadležnim nacionalnim tijelima na zahtjev te moraju pružiti dokumentaciju nizvodno integrirajućim pružateljima. Obveze su izričito podložne potrebi poštivanja i zaštite prava intelektualnog vlasništva, povjerljivih poslovnih informacija i poslovnih tajni. Registar ne bi trebao prisiljavati pružatelja da objavi materijal koji zakon nalaže kontrolirati. Niti bi povjerljivost trebala postati pristojna isprika za uskraćivanje postojanja, svrhe ili statusa sustava koji utječe na javnost.

Praktični registar modela može koristiti razine. Javna razina identificira model, pružatelja, status, namjeravanu svrhu, široke mogućnosti, poznata ograničenja, putove pristupa, uvjete izdavanja, poveznice na dokaze i povijest promjena. Kontrolirana razina nosi detaljnu tehničku dokumentaciju, modele prijetnji, ograničeni materijal za evaluaciju, pojedinosti o incidentima i druge informacije koje ovlašteni recenzenti trebaju. Privatna operativna razina nosi tajne, osobne podatke i interne informacije o kontroli koje uopće ne bi trebale biti izložene. Razine su različiti zapisi s poveznicama, a ne jedna stranica s akordeonom označenim transparentnost.

Dobra transparentnost ima granicu. Objavljuje ono što ljudi trebaju razumjeti o sustavu i štiti ono što ovlašteni recenzenti moraju kontrolirati.

Javni sloj i dalje treba biti konkretan. Može reći da je model prilagodljiv tijekom uporabe bez otkrivanja privatnog prikaza stanja. Može navesti da je ruta dostupna samo pozivom bez objavljivanja tokena pozivnica. Može opisati modalitete izlaza i politiku označavanja sadržaja bez otkrivanja ključeva za potpisivanje. Može reći da procjena rizika postoji i odrediti njezin opseg bez objavljivanja sigurnosnog dijagrama koji bi napadačima olakšao napad na uslugu.

Kontrolirani sloj treba vlastitu iskrenost. Dokument označen kao povjerljiv nije automatski potpun, aktualan ni točan. Treba imati vlasnika, verziju, pravilo pristupa i pravilo zadržavanja. Ako javni registar vodi na kontrolirani zapis, poveznica treba otkriti njegov status i odgovornu rutu čak i kada je sadržaj ograničen. U suprotnom javnost vidi crnu rupu i od nje se traži da to nazove upravljanjem.

Verzioniranje je ono što registar čini korisnim

Većina neuspjeha registra nije dramatična. To su male radnje zaborava. Novi model zamijeni stari, ali se unos uređuje na mjestu. Politika se promijeni, ali odlomak o namjeravanoj uporabi ostaje. Davatelj premjesti rutu iz internog testiranja u vanjsku betu, ali se oznaka statusa promijeni prije nego što se zabilježi datum stupanja na snagu. Implementacija se povuče, ali stari unos nestane, odnoseći povijest sa sobom. Sadašnjost izgleda uredno. Prošlost postaje neodgovoriva.

Verzionirani zapis drži najmanje četiri sata odvojeno. Verzija sadržaja govori koji su tekst i polja zapisa aktualni. Datum stupanja na snagu govori kada izjava vrijedi. Verzija modela ili paketa govori koji se tehnički objekt opisuje. Datum provjere govori kada je netko provjerio zapis. Ti se datumi mogu podudarati. Ne moraju. Tretirati ih kao jedan datum zgodno je i često pogrešno.

Prethodne verzije trebaju ostati dostupne prema odgovarajućem pravilu zadržavanja. Javnost ne treba svaku internu izmjenu, ali treba znati kada se promijenila materijalna izjava o namjeni, statusu, ruti, ograničenju ili vlasništvu. Dnevnik promjena može reći što se promijenilo bez otkrivanja privatnih informacija. Strojno čitljiv zapis može povezati prethodnu verziju i manifest. Stranica čitljiva ljudima može objasniti posljedicu običnim jezikom. Te dvije površine trebaju se slagati.

Verzioniranje također čini povlačenje smislenim. Ako je model povučen jer je ruta zatvorena, to se razlikuje od opoziva zbog ozbiljnog nedostatka ili pravnog pitanja koje zahtijeva djelovanje. Ako model ostaje u postojećim privatnim implementacijama, javni zapis to treba reći. Ako je nasljednik kompatibilan samo za neke integracije, granica migracije treba biti vidljiva. Registar koji ukloni ime bez bilježenja razloga ostavlja svakog čitatelja nizvodno da izmisli razlog.

Povijest promjena posebno je važna za prilagodljive sustave. Identitet modela može ostati stabilan dok se snimljena stanja, skupovi ograničenja, izvori dohvaćanja ili kontrole izlaza mijenjaju. Registar može navesti koje promjene stvaraju novi paket, koje promjene zahtijevaju novu evaluaciju, a koje ostaju unutar deklarirane granice identiteta. To nije pretjerana detaljnost. To je razlika između sustava koji se može ponovno izvesti i sustava koji se može samo pamtiti.

Vlasnici su dio zapisa

Unos u registar modela bez vlasnika nalik je vremenskoj prognozi. Govori vam kakvo je nebo bilo, a ne ostavlja vam nikoga koga biste nazvali kad krov prokišnjava. Uloge pružatelja i implementatora nisu iste, i nijedna od tih uloga ne bi smjela biti dopuštena da se rastopi u riječi platforma.

Pružatelj posjeduje identitet modela, evidenciju razvoja i odluku o izdavanju unutar svojeg opsega. Implementator posjeduje odluku o korištenju sustava pod svojom odgovornošću, uključujući lokalnu svrhu, zaštitne mjere, procjenu učinka i operativne kontrole. Daljnji pružatelj može integrirati model opće namjene u AI sustav i nositi odgovornosti koje pružatelj modela ne može vidjeti. Javni registar trebao bi otkriti te odnose tamo gdje to zakon i rizik zahtijevaju.

Podaci za kontakt nisu administrativno popunjavanje. Oni daju pogođenoj osobi put da pita tko je donio odluku, koja je verzija korištena ili kako se može zatražiti ispravak. Generički poštanski sandučić može biti prikladan, ali bi trebao voditi do održavanog procesa. Unos bi također trebao navesti je li kontakt za tehničku podršku, zahtjeve za prava, prijavu incidenata, nabavu ili javnu odgovornost. Jedan sandučić ne može biti svaka institucija odjednom, unatoč najboljim naporima modernih obrazaca.

Vlasništvo bi trebalo uključivati ovlast za promjenu zapisa. Ako imenovani vlasnik ne može pauzirati rutu, ispraviti status ili objaviti povlačenje, unos je dekorativan. Organizacija i dalje može imati pravnog vlasnika negdje drugdje, ali operativni jaz ostaje. Dobar registar čini odgovornost vidljivom prije nego što incident prisili ljude da crtaju organizaciju na bijeloj ploči.

Oblikovanje registra koji ljudi stvarno mogu čitati

Prvi čitatelj registra modela nije uvijek regulator ili inženjer. To može biti novinar, službenik za nabavu, lokalni dužnosnik, istraživač, zaposlenik zamoljen da koristi sustav ili osoba koja pokušava razumjeti zašto je automatizirana usluga dotaknula njihov slučaj. Stranica bi trebala odgovoriti na uobičajeno pitanje prije nego što posegne za specijaliziranim rječnikom.

Počnite s identitetom i razlogom unosa. Recite tko pruža model, koja se verzija opisuje, kakva je to vrsta objekta i je li riječ o modelu, integriranom AI sustavu ili zapisu o implementaciji. Recite je li unutarnji, dostupan pozvanim korisnicima, na tržištu, obustavljen ili povučen. Čitatelj ne bi trebao morati zaključivati o statusu iz gumba za preuzimanje.

Zatim prikažite svrhu i granicu. Navedite čemu je model namijenjen, koje su upotrebe izvan tvrdnje i koje odluke nije ovlašten donositi. Objasnite može li se model prilagođavati tijekom upotrebe, je li snimljeno stanje potrebno za ponavljanje i mijenja li daljnja ruta uvjete. Popis mogućnosti bez svrhe jelovnik je bez kuhinje.

Koristite postupno otkrivanje. Vrh stranice trebao bi biti miran i čitljiv. Dublji odjeljci mogu otkriti strojni zapis, metode evaluacije, sažetak sadržaja za obuku, pravne dokumente i dokaze o izdavanju. Javni čitatelj može stati nakon prvog sloja. Revizor može nastaviti. Inženjer može preuzeti stabilnu reprezentaciju. Skrivanje detalja nije jednostavnost. To je samo sporo učitavajuće iznenađenje.

Pristupačnost je dio vjerodostojnosti zapisa. Stranica i strojna reprezentacija trebali bi koristiti jasne oznake, navigaciju tipkovnicom, korisne naslove i tekstualne alternative za vizualizacije. Datumi ne bi trebali biti kodirani samo bojom. Crvena značka nije status za čitatelja koji ne vidi crveno, a grafikon koji se ne može čitati bez miša nije pristupačno objašnjenje. Oglasna ploča na gradskom trgu ne postaje javna ako rampa završava na prvom koraku.

Strojna čitljivost važna je iz drugog razloga. Omogućuje istraživačima usporedbu unosa, javnim tijelima izradu inventara, revizorima otkrivanje zastarjelih zapisa, a daljnjim alatima provjeru da se stranica i strukturirani zapis odnose na istu inačicu. Strojno čitljivo ne znači samo za strojeve. Ljudska stranica i strojni zapis trebali bi dijeliti identifikatore, status, datume i poveznice, uz odnos cjelovitosti koji se može provjeriti.

Polja registra su odluke

Svako polje govori čitatelju što organizacija smatra vrijednim očuvanja. Polje pružatelja govori tko stoji iza modela. Naziv i inačica modela govore kako ga razlikovati od nasljednika. Polje putanje govori gdje mu se može pristupiti. Polje namjene govori koji je posao pružatelj spreman opisati. Polje ograničenja govori gdje opis prestaje. Shema je upravljački dokument napisan u malim pravokutnicima.

Polja identiteta trebala bi biti nedvosmislena i stabilna. Mogu uključivati pravni naziv pružatelja, naziv modela, inačicu, jedinstvenu referencu i poveznice na kanonski zapis. Ako se model može pružati kroz više proizvoda, registar bi trebao razlikovati identitet modela od integracijske površine. Ako proizvod sadrži više modela, unos ne bi trebao skrivati tu činjenicu iza naziva proizvoda.

Polja statusa trebala bi uključivati vrijednost, datum primjene, razlog ili ovlast za promjenu te nasljednika ili prethodnika. Datum koji je tek planiran trebao bi biti označen kao planiran. Zapis koji nije nedavno provjeren trebao bi to navesti. Čitatelj bi trebao moći razaznati je li model dostupan, predložen, obustavljen ili povijesni, bez tumačenja pridjeva koji je izmislio marketinški tim.

Polja namjene i opsega trebala bi opisati posao na način razumljiv nestručnjaku. Trebala bi navesti predviđene korisnike gdje je to važno, vrste ulaza i izlaza te odluke ili radnje koje model može podržati. Također bi trebala navesti zabranjene ili nepodržane upotrebe. Model koji može generirati tekst nije time ovlašten pisati odluku o podobnosti, a model koji može klasificirati dokumente nije time ovlašten klasificirati ljude.

Polja sposobnosti trebaju uvjete. Modaliteti, ograničenja konteksta, pristup alatima, jezična pokrivenost, ponašanje prilagodbe i označavanje izlaza smisleni su samo kada su povezani s putanjom i izdanjem. Sposobnost koja postoji u internom eksperimentu, ali ne i u vanjskoj putanji, ne bi se trebala predstavljati kao univerzalna značajka. Registar nije popis želja.

Polja podataka trebala bi navesti što model prima, što pohranjuje, iz čega uči tijekom upotrebe i što se koristi za evaluaciju, na razini koja se može javno objaviti bez otkrivanja osobnih ili povjerljivih materijala. Sažeci sadržaja za obuku i politike prava trebali bi biti povezani gdje je to potrebno. Nejasna rečenica poput obučen na raznolikim podacima čitatelju ne govori gotovo ništa i traži od njega da ponudi laskavo tumačenje.

Polja evaluacije trebala bi identificirati pitanje, metodu, granicu podataka, datum, rezultat i ograničenja. Unos ne mora reproducirati svaku tablicu, ali ne bi trebao prikazivati rezultat bez nazivnika ili test bez svrhe. Dobra poveznica na evaluaciju omogućuje čitatelju da vidi pokriva li dokaz predviđenu upotrebu, srodnu upotrebu ili samo laboratorijske uvjete.

Polja nadzora trebala bi identificirati tko može zaustaviti, nadglasati, pregledati i istražiti sustav. Ako model samo preporučuje, treba navesti koja radnja ostaje na čovjeku. Ako putanja može djelovati na vanjske sustave, treba navesti koje dozvole i zapreke se primjenjuju. Ako prijavljivanje incidenata ima namjensku putanju, objavite je. Nadzor nije odlomak o zadržavanju ljudi u procesu. To je karta tko može što učiniti kada je sustav nesiguran.

Polja dokaza i cjelovitosti trebala bi povezivati javni unos s verzioniranim strojnim zapisom, paketom izdanja, izjavom, paketom evaluacije ili zapisnikom transparentnosti. Hash može utvrditi je li se datoteka promijenila ili nije. Ne može utvrditi da je datoteka bila istinita, stoga bi registar trebao držati tvrdnju i provjeru cjelovitosti odvojenima. Tehnička preciznost nije zamjena za prosudbu, ali olakšava lociranje prosudbe.

Naposljetku, polja promjena trebala bi objasniti povijest. Što se promijenilo, kada, zašto, tko je odobrio, na koje su rute utjecale promjene i je li potrebna nova evaluacija. Unos bi trebao omogućiti odgovor na najobičnije pitanje u prostoriji: po čemu se razlikuje od zapisa koji smo pročitali prošli mjesec?

Što registar može utvrditi

Dobro održavan registar može utvrditi da imenovani pružatelj opisuje definirani objekt pod određenom verzijom zapisa. Može utvrditi deklariranu svrhu, status, put pristupa i vlasništvo. Može utvrditi koje prateće dokumente i zapise cjelovitosti čitatelj može pregledati te koje su informacije namjerno kontrolirane. Može utvrditi da je promjena objavljena i da prethodni zapis ostaje dostupan prema navedenom pravilu čuvanja.

Također može utvrditi vlastito stajalište organizacije. Ako pružatelj kaže da je model namijenjen podršci odlučivanju, a ne automatskom odbijanju, ta je izjava javna granica. Ako implementator kaže da je procjena učinka dovršena, ta izjava otvara pitanje gdje se može pronaći sažetak ili kontrolirani zapis. Ako pružatelj označi izdanje kao planirano, ta oznaka sprječava da se plan predstavi kao povijest.

To su korisne činjenice. One čine nabavu preciznijom, integraciju manje spekulativnom i javna pitanja lakšima za usmjeravanje. Također čine neslaganje oštrijim. Čitatelj može reći da je deklarirana svrha preširoka, da je status zastario, da ograničenje nedostaje ili da prateći dokazi ne pokrivaju tvrdnju. Registar opravdava svoje postojanje kada omogućuje takvu kritiku.

Što registar ne može utvrditi

Unos u registru ne može utvrditi da je model točan za svakog korisnika, siguran u svakom okruženju, pravedan prema svakoj skupini ili zakonit za svaku implementaciju. Ne može utvrditi da je javno tijelo slijedilo ispravan postupak samo zato što je sustav naveden u registru. Ne može pokazati da je ljudski recenzent razumio rezultat, da je ispitanik imao smislen pravni lijek ili da bi se incident otkrio na vrijeme. Ti zaključci zahtijevaju dokaze o sustavu u uporabi, instituciji koja ga koristi i ljudima na koje on utječe.

Također ne može utvrditi da je model neovisan o svom dobavljaču, da je ruta suverena zato što je smještena u Europi ili da otvorena licencija čini odgovornost nestalom. Vlasništvo, nadležnost, lanac opskrbe, operativna kontrola i održavanje zasebna su pitanja. Registar može izložiti nazive i poveznice potrebne za njihovo postavljanje. Ne može na njih odgovoriti tipografijom.

Registar također ne može dokazati negaciju. Odsutan unos može značiti da je objekt izvan opsega, da se primjenjuje izuzeće, da je objava zakasnila ili da netko nije objavio. Čitatelj treba jasnu izjavu o pokrivenosti i put za prijavu pogrešaka. Javna oglasna ploča pouzdana je samo onoliko koliko je pouzdan postupak koji primjećuje kada obavijest nedostaje.

Ilustrativni zapis, a ne skrivena studija slučaja

Sljedeće je ilustrativni dizajn zapisa, a ne izvješće o stvarnoj organizaciji, modelu ili događaju. Ne koristi nijednog korisnika, javno tijelo, datum implementacije ni izmjereni rezultat. Njegova je svrha pokazati kako se čitatelj može kretati od javnog unosa do kontroliranog puta dokaza, a da pritom ne pomiješa te dvije razine.

  • Identitet: naziv pružatelja, naziv modela, verzija i stabilni strojni identifikator.
  • Status: kontrolirana evaluacija, s datumom primjene i napomenom da nijedan vanjski put nije otvoren.
  • Svrha: pomoć pri analizi dokumenata za obučeno osoblje, s automatskim vanjskim odlukama izvan prijavljenog opsega.
  • Ulazi i izlazi: predstavljene modalitete, vrste očekivanog izvornog materijala i vrste izlaza koje put može proizvesti.
  • Ograničenja: poznata jezična, područna, svježinska, sigurnosna i pristupna ograničenja, svaka povezana s relevantnom evaluacijom ili politikom.
  • Nadzor: uloga koja može pauzirati put, put pregleda za nesigurne rezultate i kontakt za incidente.
  • Dokazi: javni sažetak, verzionirani tehnički zapis za ovlaštene recenzente i manifest cjelovitosti za objavljene datoteke.
  • Promjena: poveznica na prethodni zapis, izjava o tome što se promijenilo i uvjet koji bi zahtijevao novu evaluaciju.

Ništa u tom zapisu ne kaže da je model dobar. Kaže što je pružatelj spreman tvrditi, gdje se tvrdnja primjenjuje i kako druga osoba može testirati ili osporiti tu tvrdnju. To je dovoljno za oglasnu ploču. Također je dovoljno da spriječi da velik dio marketinškog jezika neprimjetno uđe u pravnu ili operativnu odluku.

Zašto status prije izdavanja zaslužuje poštovanje

Status prije izdavanja nije slabija verzija javnog statusa. To je drugačije stanje. Interno testiranje može podržati inženjerski i sigurnosni rad uz zadržavanje kontroliranog pristupa. Pozvana beta verzija može izložiti put vanjskim korisnicima uz očuvanje uvjeta, opsega i prava na zaustavljanje. Javno izdavanje mijenja tko se može osloniti na sustav i koje obveze nastaju za pružatelja, integratore i implementatore. Registar bi te prijelaze trebao učiniti vidljivima umjesto da tretira izdavanje kao jedan zvuk trube.

Zapis o statusu prije izdavanja i dalje može biti koristan javnosti. Može identificirati model, pružatelja, namijenjeni put, status, postojeće dokaze i dokaze koji još čekaju. Može reći da je datum planiran i da pristup nije otvoren. Može objaviti uvjet izdavanja bez pretvaranja da je uvjet ispunjen. Ovo je posebno dobro mjesto za registar da bude dosadan. Dosadan status sigurniji je od uzbudljive dvosmislenosti.

U Dweveu nastojimo tu disciplinu primijeniti na vlastiti javni zapis. U našem Trust Centru registar modela označen je kao status prije izdavanja i navodi Dweve Loom 1.0 kao interno testiranje prije izdavanja od 1. kolovoza 2026. Zapisuje da do tog datuma nije bilo vanjskog izdavanja i navodi 1. rujna 2026. kao planirani datum pristupa tržištu Unije za pozvanu vanjsku beta verziju. Planirano je ključna riječ: unos ne pretvara plan u događaj.

Naš javni zapis također jasno pokazuje da je Loom jedini model naveden tamo, da je vlasnički, a ne objavljen pod licencom otvorenog koda za modele, te da naši proizvodi i zasebno licencirani alati otvorenog koda nisu predstavljeni kao dodatni modeli. Ta granica sprječava da se katalog proizvoda zamijeni s registrom modela. Također održava javnu tvrdnju dovoljno malom da se može provjeriti.

To je sve što ovdje trebamo reći o Dweveu. Registar modela koristan je kada naš vlastiti status izdavanja čini manje laskavim, ali preciznijim. Trebao bi učiniti isto za svakoga drugoga.

Granica između javnog i privatnog dizajnerska je odluka

Najjači registar nije onaj s najviše polja. To je onaj čija polja imaju razlog, vlasnika i granicu. Javni čitatelji trebaju stabilan identitet, deklariranu svrhu, istinit status, odgovornu organizaciju, upotrebljive poveznice i dovoljno ograničenja da bi razumjeli tvrdnju. Ovlašteni recenzenti trebaju dublje dokaze, kontrolirane tehničke detalje i put do uvida u incidente ili osjetljive testove. Operatori trebaju tajne, dopuštenja i priručnike koji uopće ne bi trebali biti na oglasnoj ploči.

Ti slojevi trebaju se slagati oko činjenica koje prelaze granicu. Ako javna stranica kaže da je ruta pauzirana, kontrolirani zapis treba reći tko ju je pauzirao i zašto. Ako je tehnička datoteka zamijenjena, javni unos ne bi smio i dalje povezivati na nju kao na trenutnu. Ako je evaluacija ograničena, javna stranica i dalje treba navesti njezin opseg i status. Granica treba ograničiti pristup detaljima, a ne stvoriti tri nekompatibilne verzije stvarnosti.

Čitatelji bi trebali moći postaviti pet jednostavnih pitanja i dobiti pet stabilnih odgovora. Što je ovaj objekt? Tko je za njega odgovoran? Što smije raditi? Kakav je njegov trenutni status? Koji dokazi i pravni lijekovi postoje kada se tvrdnja ospori? Registar koji odgovara na ta pitanja već obavlja institucionalni posao. Registar koji na njih ne može odgovoriti ne treba spašavati animiranim značkama ili nadzornom pločom s dvanaest filtara.

Postoji optimističan način čitanja europskog pokreta prema registrima modela i algoritama. Nije riječ o tome da će baza podataka riješiti upravljanje umjetnom inteligencijom. Riječ je o tome da javne institucije grade mjesta na kojima tvrdnje imaju imena, datume, vlasnike i granice. To su male komponente od kojih se grade veći sustavi odgovornosti.

Oglasna ploča mora preživjeti promjene

Registar modela nova je javna oglasna ploča samo ako obavijesti ostanu čitljive nakon što se vrijeme promijeni. Stranica mora preživjeti ažuriranje modela, promjenu dobavljača, novu implementaciju, ispravljeno ograničenje, povučenu rutu i teško pitanje nekoga tko nije bio u prostoriji. To znači čuvati povijest, označavati planove, povezivati dokaze i reći što zapis ne može dokazati.

Posao je manje glamurozan od početne stranice. Ali je i trajniji. Javni zapis koji razlikuje identitet modela od stanja implementacije, status od namjere, dokumentaciju od dokaza i javne činjenice od kontroliranih dokaza daje ljudima nešto bolje od uvjeravanja. Daje im put kroz sustav.

Dobri registri ne traže od čitatelja da vjeruju boji, broju ili poznatom imenu. Tvrdnju čine dovoljno uskom za provjeru, a granicu dovoljno jasnom za osporavanje. Ostavljaju trag do ljudi koji mogu odgovoriti, zapisa koji se mogu provjeriti i odluke koja se može promijeniti. To je vrlo stara građanska ideja u prilično modernom formatu datoteke.

Stavite obavijest na ploču. Stavite dokaze iza nje. Zadržite staru obavijest tamo gdje je netko još može pročitati. Zatim pustite javnost da odluči što zapis zaslužuje.

Izvori