Mudeliregister on uus avalik teadetetahvel

Mudeliregister võib avalikkusele näidata, mis süsteem on, kes selle taga seisab, kus seda võib kasutada ja mis on muutunud. See ei suuda muuta korralikku...

Mudeliregister on uus avalik teadetetahvel

Leht, mis algab tunnistusega, et see pole maagia

Esimene asi, mida kasulik mudeliregister teeb, on teile pettumuse valmistamine. See ei ütle, et mudel on ohutu. See ei ütle, et organisatsioon on pädev. See ei muuda tarnija lubadust faktiks ega rohelist märgist põhjuseks, miks lõpetada küsimuste esitamine. Selle asemel annab see teile piiritletud kirje: see on asi, see on versioon, see on omanik, see on deklareeritud eesmärk, see on staatus ja see on koht, kus tõendusmaterjali hoitakse.

See tagasihoidlikkus on avaliku usalduse algus. Register on teadetetahvel, mitte pühamu. Teadetetahvel ütleb naabruskonnale, mida ehitatakse, kes selle eest vastutab ja millised teated on välja vahetatud. See ei sertifitseeri iga hoone ehitustöö kvaliteeti tänaval. See annab inimestele koha, kust alustada otsimist, ja võimaluse märgata, kui teade ise on aegunud.

Avage Hollandi valitsuse algoritmiregister ja kujundus on erakordselt lihtne. Valitsusorganisatsioonid avaldavad teavet algoritmide kohta, mida nad oma töös kasutavad. Register keskendub mõjukatele algoritmidele, sealhulgas kõrge riskiga tehisintellektisüsteemidele, ja annab külastajatele selgituse, kuidas need süsteemid töötavad. Leht teeb ka kasuliku vaheteo, mida paljud läikivad tehisintellektikataloogid väldivad: algoritm on reeglite ja juhiste kogum, mida arvuti järgib vastuse arvutamiseks, mitte isiksus koos toote turuletoomisega.

Leht on avalik, sest töö on avalik. Kodanikul ei ole vaja erakontot, et avastada, et asutus kasutab algoritmi, mida asutus selle eesmärgina väidab või kust küsida järgmine küsimus. See ei tee avalikuks iga tehnilist üksikasja. Kuid see muudab süsteemi olemasolu, selle deklareeritud rolli ja institutsionaalse omaniku raskemini hankefaili taha peidetavaks.

Mudeliregistrid muutuvad sama liiki kodanikuobjektideks. Need asuvad tehnilise kataloogi ja avaliku arhiivi vahel. Insenerid vajavad stabiilset identiteeti ja versiooni integreerimiseks. Operaatorid vajavad staatust ja omanikku käitamiseks. Allavoolu pakkujad vajavad võimeid, piiranguid ja tingimusi. Audiitorid vajavad rada tagasi tõendusmaterjalini. Mõjutatud inimesed peavad teadma, et süsteem on olemas, ja kuidas selle tegevust vaidlustada. Üks leht ei suuda vastata kõigile neile küsimustele, kuid hästi kujundatud register suudab suunata iga lugeja õigele kihile.

Oht on selles, et sõna register muudab dokumendi kõlama täielikumana, kui see tegelikult on. Telefoniraamat on register, kuid see ei ütle teile, kas number ikka töötab. Lastinimekiri on register, kuid see ei ütle teile, kas lasti elas reisi üle. Mudelikirje on register, kuid see ei suuda kanda kogu tõendit jõudluse, õigluse, turvalisuse, seaduslikkuse ja sotsiaalse tagajärje kohta. Kasulik küsimus ei ole see, kas mudel on registris. See on see, mida kanne tuvastab, mida see lahtiseks jätab ja mida lugeja saab järgmisena uurida.

Teadetetahvel on valiku lubadus

Inventuur püüab kõike üles lugeda. Kataloog püüab aidata teil valida. Register annab formaalsema lubaduse: need kanded kuuluvad määratletud ulatusse, neil on omanik ja teavet hooldatakse reegli alusel. Lubadus on enne tarkvara valiku kohta. Ilma väljendatud ulatuseta on atraktiivne nimekiri vaid kogum asjadest, mida juhtus meeles pidama.

Seetõttu vajab iga register lauset, mis ütleb, mida see hõlmab ja mida see teadlikult välja jätab. ELi tehisintellekti käsitleva määruse keskandmebaas ei ole nimekiri igast Euroopas ringlevast mudelist. Artikkel 71 kehtestab ELi andmebaasi kindlaksmääratud kõrge riskiga tehisintellektisüsteemidele ja süsteemidele, mis on registreeritud artiklis 49 kirjeldatud radade kaudu. Hollandi algoritmiregister ei ole nimekiri igast valitsusasutuses tehtud arvutusest. See keskendub mõjukatele algoritmidele, sealhulgas kõrge riskiga tehisintellektisüsteemidele. Piir on osa kirjest, mitte juristidele mõeldud joonealune märkus.

A mudeliregister peaks vastama samale piiriküsimusele tavakeeles. Kas see loetleb alusmudeleid, kasutusel olevaid AI-süsteeme, sisekatseid, peenhäälestatud järeltulijaid, hindamispakette või ainult väliskasutajatele pakutavaid mudeleid? Kas uus teenusekonfiguratsioon saab uue kande, uue versiooni või seotud juurutuskirje? Kas kohanemisvõimelise süsteemi jäädvustatud olek loetakse sama mudeli identiteediks? Kui register neid küsimusi ei otsusta, otsustab iga lugeja need erinevalt. Nii saab lühikesest loendist pikk vaidlus.

Valik muudab ka puudumise tähenduslikuks. Kui ulatus ütleb, et kõik avalikult kättesaadavad kõrge riskiga süsteemid peavad olema loetletud, on puuduv kanne valitsemisküsimus. Kui ulatus ütleb, et kaasatakse ainult turule lastud mudelid, võib sisekatse olla puudu kavandatult. Avalikkus ei saa tühja otsingutulemust tõlgendada, teadmata, kumb neist kahest olukorrast kehtib. Vaikus ei ole neutraalne, kui register ei ole oma sõnavara selgitanud.

Selle selgesõnaline ütlemine on väike administratiivne voorus. Registrid ei pea teesklema, et nad teavad kõike. Nad peavad lugejale ütlema, mida nad teavad, mille eest nad vastutavad ja mis jääb raamist välja. Register teenib oma autoriteedi, muutes oma ulatuse piiri selgesõnaliseks, mitte kaunistades kaant. Tehnoloogia on uuem. Paberimajanduse instinkt ei ole.

Mida Euroopa reegel tegelikult tahvlile paneb

AI-määrus annab sõnale registreerimine konkreetse õigusliku kuju, kuid mitte ühtset universaalset kuju. Artikkel 49 nõuab, et pakkuja või volitatud esindaja registreeriks teatud kõrge riskiga AI-süsteemid enne nende turule laskmist või kasutuselevõttu. See nõuab registreerimist ka siis, kui pakkuja on järeldanud, et süsteem ei ole artikli 6 lõike 3 tingimuste kohaselt kõrge riskiga. Avalikud asutused ja samaväärsed avalik-õiguslikud organid, kes võtavad kasutusele teatud kõrge riskiga süsteeme, kannavad oma registreerimiskohustust, sealhulgas registreerivad oma kasutuse.

Sama artikkel muudab avaliku ja erasektori piiri selgesõnaliseks. Teatud kõrge riskiga süsteemid, mida kasutatakse õiguskaitse, rände, varjupaiga ja piirihalduse valdkonnas, registreeritakse turvalises mitteavalikus jaotises. III lisa teises punktis nimetatud kõrge riskiga süsteemid registreeritakse riiklikul tasandil. Need ei ole rakendusüksikasjad, mida saaks juhtpaneelil siluda. Need kirjeldavad erinevaid sihtrühmi, erinevaid riske ja erinevaid õigusi kande nägemiseks.

Artikkel 71 ütleb, et komisjon loob ja haldab koostöös liikmesriikidega ELi andmebaasi. Artikli 49 kohaselt registreeritud teave peab olema kasutajasõbralikul viisil kättesaadav ja avalik, hõlpsasti navigeeritav ja masinloetav, välja arvatud piiratud jaotiste puhul. Andmebaas peaks sisaldama isikuandmeid ainult vajalikus ulatuses. See on kasulik avaliku läbipaistvuse määratlus: kanne, mille inimesed leiavad ja töötlevad, ilma et kanne muutuks teiseks isikuandmete probleemiks.

VIII lisa on koht, kus teadetetahvel muutub konkreetseks. Kõrge riskiga süsteemi registreeriva pakkuja kande hulka kuuluvad pakkuja identiteet ja kontaktandmed, ühemõtteline kaubanimi või viide, sihtotstarve, kasutatud teabe ja tööloogika põhikirjeldus, süsteemi olek, asjakohased sertifikaadid, liikmesriigid, kus see turule lastakse või kasutusele võetakse, vastavusdeklaratsioon, kasutusjuhend ja valikuline URL lisateabe saamiseks. Need ei ole turundusväljad. Need on identifitseerimise ja vastutuse käepidemed.

For a public deployer, the information is different. The record includes the deployer's identity, the person submitting the information, the URL of the provider's entry, and summaries of a fundamental-rights impact assessment and, where applicable, a data-protection impact assessment. The distinction matters because a model provider and a public authority do not know the same things and do not carry the same responsibility. A registry that collapses them into one vendor card erases the place where a system meets an institution.

The legal database therefore has a layered character. It records a system identity. It records a provider. It can record a deployer and a use. It records status and supporting declarations. It does not replace the technical documentation, risk management, quality system or post-market monitoring that the Act requires elsewhere. The database is a public index of accountable facts. It is not the whole compliance file.

This distinction is easy to lose because people like one URL that appears to contain the answer. The law is less sentimental. It creates a public surface, restricted surfaces and controlled documentation routes. The public surface must be usable. The restricted surface must stay restricted. The documentation must remain available to the competent authority or downstream provider that needs it. A serious registry is an interface between those obligations, not a shortcut around them.

A registry becomes useful when identity, status and change are connected. A colour without a transition is only decoration.

There is another important limit. The AI Act's general-purpose AI provisions are not the same thing as a public catalogue of all general-purpose models. Article 53 requires providers to keep technical documentation, make information available to downstream AI-system providers, maintain a copyright policy and publish a sufficiently detailed summary of training content. The Commission's guidance explains that the technical documentation is for the AI Office and national competent authorities on request, while downstream documentation helps integrators understand capabilities and limitations. Only some of that material belongs on a public noticeboard.

The Act also requires the Commission to publish and maintain a list of general-purpose AI models with systemic risk. A list of models with systemic risk is a valuable public signal, but it is not the same object as a full model registry. It has a narrower purpose, and it must respect intellectual-property rights, confidential business information and trade secrets. Calling every list a registry is harmless only until somebody assumes that a list proves more than it does.

A model is not a single line

People speak about a model as though it were a jar on a shelf. The name is printed on the label, the version is stamped underneath and the contents remain unchanged until someone opens the lid. That picture works for a static artefact. It becomes unreliable when a model is adapted, fine-tuned, wrapped in tools, served through several routes or changed during use.

A registry needs at least two identities: the model identity and the identity of the thing that actually ran. The first answers which model the provider means. The second can identify a captured state, a sealed deployment package, a local export or a replay bundle. Linking them prevents two opposite mistakes. A service can stop pretending that every live state has one permanent hash, and an operator can stop pretending that a package digest alone describes the whole model family.

Versiooninumbrid on kasulikud ainult siis, kui nende muutumise reegel on nähtav. Versioon võib tähendada uut õpitud parameetrite komplekti, uut piirangukataloogi, muutust otsingus, muutunud turvakihti või olulist muutust teenuse osutamise lepingus. Kui pakkuja kasutab kõigi nende jaoks ühte numbrit, muutub number viisakaks viisiks öelda, et midagi on muutunud. Register peaks siduma järglase eelkäijaga ja ütlema, milline lepingu osa liikus.

Kohanduv käitumine lisab veel ühe keerukuse. Kui süsteem võib kasutamise ajal muutuda, peaks kirje seda ütlema. See ei ole tunnistus, et süsteem on kontrollimatu. See on tunnistus, et sõna versioon ei suuda kogu tööd ära teha. Register võib säilitada stabiilse mudeli identiteedi, lisada sellele ajaliselt piiritletud jäädvustatud olekud ja märkida üles tingimused, mille korral olek loodi. Eesmärk ei ole külmutada elav süsteem valesse fotosse. Eesmärk on anda igale tähendusrikkale fotole kuupäev ja raam.

Identiteedil on ka sotsiaalne serv. Mudeli nimi ei piisa, kui mitu juriidilist isikut levitavad sarnaseid artefakte, kui allavoolu pakkuja muudab mudelit või kui toode peidab mudeli oma nime taha. Register peaks muutma ahela nähtavaks: pakkuja, levitaja, kui see on erinev, juurutaja, kui see on asjakohane, ning süsteem või marsruut, milles mudelit kasutatakse. Inimene, keda otsus mõjutab, ei peaks toote logol tegelema kohtuekspertiisiga, et avastada, kes saab selle eest vastutada.

Staatus on tegusõna, mitte värv

Staatuse välju kuvatakse sageli märkidena, sest märgid sobivad kenasti kaartidele. Märk ei ole staatus. Staatus on väide tegevuse ja aja kohta. Sisemine testimine tähendab üht, kui juurdepääsu kontrollib pakkuja. Eelväljalase tähendab midagi muud, kui kutsutud väljastpoolt saavad kindlaksmääratud tingimustel marsruuti kasutada. Turul, kasutuses, peatatud, tagasi võetud ja tagasi kutsutud kannavad igaüks erinevat operatiivset tagajärge.

Kasulik kirje ütleb, mida staatus lubab ja mida mitte. Kui süsteem on ainult sisemine, ei tohiks lugeja dokumentatsiooni lehelt avalikku kättesaadavust järeldada. Kui väline beetaversioon on plaanitud, tuleks kuupäev märkida plaanituna, mitte esitada seda väljalasena. Kui süsteem on tagasi võetud, peaks kirje säilitama varasema identiteedi ja ütlema, kas olemasolevad juurutused võivad jätkuda, peavad lõppema või neid migreeritakse. Staatus ilma jõustumiskuupäevata on kuulujutt vormiriietuses.

Staatusel peaks olema ka omanik. Kes saab kirje sisemiselt väliseks muuta? Kes saab marsruudi peatada? Kes saab väljalaske kuupäeva muudetuks kuulutada? Millist tõendit nõutakse enne üleminekut? Need küsimused kuuluvad tööprotsessi, kuid avalik kirje peaks muutma sellest tuleneva otsuse loetavaks. Register, mis näitab praegust märki, kuid peidab selle taga olevat volitust, on ainult meeleolulaud valitsemise jaoks.

Illustreeriv näide, mitte tegelik kanne: kirje võib öelda, et mudel on kontrollitud hindamisel, et ükski väline marsruut ei ole avatud, et kutsetega prooviversioon on kavandatud hilisemaks kuupäevaks ja et ettepanek sõltub endiselt väljalaskeväravast. Näide ei nimeta ühtegi organisatsiooni, mudelit ega sündmust. Selle eesmärk on näidata, kuidas kirje hoiab plaani eraldi faktist. Sama distsipliin kehtib tagasivõtmise, võimekuse väite või sertifikaadi puhul, mida pole veel välja antud.

See eraldus kaitseb lugejaid tuttava triki eest. Tulevast kavatsust korratakse piisavalt sageli, et see hakkab kõlama nagu ajalugu. Registrid peaksid olema koht, kus see trikk lakkab töötamast. Kirje võib näidata plaani, kuid plaan peab säilitama oma sildi. Euroopal on kalendreid juba piisavalt. Kuupäev ei ole fakt ainult sellepärast, et see on paigutatud värvilisse ristkülikusse.

Register ei ole tõendite ruum

Avalik kanne peaks olema piisavalt lühike, et seda saaks lugeda, ja piisavalt sisukas, et suunata tõsist küsimust. Selle taga olev tõendusruum võib olla palju suurem. AI-määruse artikli 53 dokumenteerimiskohustused illustreerivad seda. Üldotstarbeliste AI-mudelite pakkujad peavad koostama ja säilitama tehnilise dokumentatsiooni, mis hõlmab arendust, koolitust, testimist ja hindamist. Nad peavad tegema teabe ja dokumentatsiooni kättesaadavaks allavoolu AI-süsteemide pakkujatele, et need pakkujad saaksid mõista võimalusi ja piiranguid. Nad peavad avaldama piisavalt üksikasjaliku kokkuvõtte koolitusandmetest ja järgima liidu autoriõiguse poliitikat.

Need kohustused teenivad erinevaid lugejaid. Pädev asutus võib vajada täielikku tehnilist dokumenti. Allavoolu pakkuja vajab integreerimisteavet ja piiranguid. Avalikkus vajab selget ülevaadet sellest, mis mudel on ja kuidas on koolitusandmete kokkuvõte piiritletud. Registrikanne võib neid tasandeid ühendada, ilma et teeseldaks, et avalik leht peaks sisaldama iga turvatundlikku üksikasja, iga kaalufaili või iga isikuandmeid sisaldavat testinäidist.

Lingid ei ole ka iseenesest tõendus. Register, mis viitab hindamisaruandele, peaks märkima, millist väljalaset aruanne hõlmab, mida hindamine mõõtis ja millised tingimused tulemust piiravad. Link koolituskokkuvõttele peaks ütlema, kas kokkuvõte hõlmab eelkoolitust, peenhäälestust või kindlaksmääratud sisukategooriaid. Link sertifikaadile peaks näitama, kes selle välja andis, mida see sertifitseerib ja millal see aegub. Vastasel juhul on leht riiul avamata ümbrikke.

Sama reegel kehtib ohutusväidete kohta. Register võib öelda, et riskihindamine on olemas, et seireplaan on lingitud või et tõsiste juhtumite menetlus on avaldatud. See ei tohiks vihjata, et dokumendi olemasolu tõestab aluseks oleva süsteemi ohutust. Dokumentatsioon on viis väite kontrollimiseks. See ei asenda väidet ennast.

Siin vajab avalik kirjutamine distsipliini. Mudelikaart, läbipaistvusleht või registrikanne võib kirjeldada kavandatud kasutust ja teadaolevaid piiranguid. See ei saa kasutada sõna usaldusväärne järeldusena, välja arvatud juhul, kui tõendid ja ulatus muudavad selle järelduse kaitstavaks. Aus lause on sageli kasulikum: need on tingimused, mida me hindasime, need on piirangud, mida me täheldasime, ja need on juhtumid, mida me ei väitnud hõlmavat.

Hollandi register näitab tavalise avaliku loendi väärtust

Hollandi algoritmiregister on õpetlik just seetõttu, et see ei püüa välja näha futuristliku juhtimiskeskusena. See annab valitsusorganisatsioonidele avaliku koha, kus kirjeldada oma töös kasutatavaid algoritme. Selle ingliskeelne leht hoiatab, et kirjeldused on automaattõlgitud ja et hollandikeelne originaal on kirjelduse puhul autoriteetne versioon. See väike märkus on õppetund päritolu kohta. Juurdepääs ei ole sama mis täpsus, ja tõlgitud liides ei tohiks kustutada lähtekeelt.

Registri avalik eesmärk on samuti sõnastatud ilma teatraalse keeleta. See keskendub mõjukatele algoritmidele, sealhulgas kõrge riskiga AI-süsteemidele, ja annab külastajatele ülevaate nende toimimisest. Külastaja saab sirvida algoritme, organisatsioone ja malle. Eesmärk ei ole pakkuda igale algoritmile hinnangut. Eesmärk on muuta algoritmisüsteemide kasutamine piisavalt nähtavaks, et inimesed, organisatsioonid ja meedia saaksid valitsuse tegevust jälgida, kahtluse alla seada ja kontrollida.

Sellega kaasnev Hollandi Algoritmikader muudab selle eesmärgi nõudeks. See ütleb, et kui välistus ei kehti, avaldavad avalikud asutused mõjukad algoritmid ja kõrge riskiga AI-süsteemid registris. Samuti öeldakse, et ebaõige või mittetäielik avaldamine võib raskendada mõjutatud isikutel ja teistel sidusrühmadel mõista ja vaidlustada tehnoloogia kasutamist, mis võib puudutada nende õigusi. Läbipaistvus ei ole seega ainult viisakus. Kande kvaliteet võib mõjutada avaliku kontrolli kvaliteeti.

See juhend on ulatuse suhtes hoolikas. See kirjeldab registrit kui tööriista laiemate seaduste ja nõuete hulgas ning hoiatab, et raamistik ei ole täielik ega pruugi hõlmata valdkondlikke õigusakte. See, et algoritm on registris, ei lahenda kõiki õiguslikke ega eetilisi küsimusi. See, et algoritm seal puudub, ei tõesta, et see on kahjutu. Lugeja vajab registri kaasamise reeglit ja ümbritsevat raamistikku, et kannet tõlgendada.

See on kasulik muster mudeliregistrite jaoks. Avalik loend peaks olema lihtsalt leitav, kirjutatud inimestele, kes ei osalenud hankekoosolekul, ja ühendatud dokumentidega, mis sisaldavad rohkem üksikasju. See peaks ebakindlust pigem avalikustama kui varjama. See peaks märkima, kui ingliskeelne kirjeldus on masintõlgitud. See peaks selgitama, millised süsteemid on hõlmatud ja millised mitte. See peaks muutma puuduva või aegunud kande nähtavaks haldusprobleemiks, mitte erasektori pettumuseks.

Pole vaja välja mõelda dramaatilist juhtumit, et mõista, miks see oluline on. Kodanikul, kes üritab mõista automatiseeritud valitsusprotsessi, on juba praktiline küsimus: kas süsteemi kasutatakse, kes seda kasutab, mis eesmärgil ja millise selgituse alusel? Register annab sellele küsimusele aadressi. Vastus võib siiski olla puudulik. Vähemalt ei saa institutsioon teeselda, et küsida pole kuskilt.

Avalik ei tähenda alasti

Läbipaistvus muutub vastutulelikuks, kui seda käsitletakse käsklusena avaldada kõik. Avalikud dokumendid võivad paljastada isikuandmeid, turvatundlikku teavet, konfidentsiaalseid üksikasju ja ründeteid. Need võivad tekitada ka valet kindlustunnet, avaldades tehnilisi fragmente, mida tavalugeja ei suuda tõlgendada. Avaliku ja erasektori piir tuleb kavandada, dokumenteerida ja läbi vaadata, mitte improviseerida selle meeskonna poolt, kellele juhtub sisuhaldussüsteem kuuluma.

AI-määrus annab õigusliku näite. Artikli 49 lõige 4 paigutab teatud süsteemid turvalisse mitteavalikku jaotisesse ja piirab juurdepääsu komisjoni ja asjaomaste riiklike asutustega. Artikkel 71 teeb artikli 49 alusel registreeritud teabe avalikult kättesaadavaks, välja arvatud piiratud jaotised, samas kui artikli 60 alusel registreeritud teave on kättesaadav ainult turujärelevalveasutustele ja komisjonile, välja arvatud juhul, kui pakkuja nõustub avaliku juurdepääsuga. Avalikustamine on seega reegel eranditega, mitte universaalne vaikimisi valik.

Artikkel 53 teeb üldotstarbeliste mudelite puhul sarnase eristuse. Pakkujad peavad tegema tehnilise dokumentatsiooni AI-büroole ja riiklikele pädevatele asutustele taotluse korral kättesaadavaks ning nad peavad andma allapoole integreerivatele pakkujatele edasise dokumentatsiooni. Kohustused on sõnaselgelt allutatud vajadusele järgida ja kaitsta intellektuaalomandi õigusi, konfidentsiaalset äriteavet ja ärisaladusi. Register ei tohiks sundida pakkujat avaldama materjali, mida seadus ütleb, et tuleks kontrollida. Samuti ei tohiks konfidentsiaalsusest saada viisakas vabandus süsteemi olemasolu, eesmärgi või staatuse varjamiseks, kui see mõjutab avalikkust.

Praktiline mudeliregister võib kasutada kihte. Avalik kiht tuvastab mudeli, pakkuja, staatuse, kavandatud eesmärgi, laiad võimalused, teadaolevad piirangud, juurdepääsuteed, väljalasketingimused, tõenduslingid ja muudatuste ajaloo. Kontrollitud kiht kannab üksikasjalikku tehnilist dokumentatsiooni, ohumudeleid, piiratud hindamismaterjali, intsidentide üksikasju ja muud teavet, mida volitatud hindajad vajavad. Privaatne operatiivkiht kannab saladusi, isikuandmeid ja sisemist kontrolliteavet, mida ei tohiks üldse avaldada. Kihid on erinevad dokumendid linkidega, mitte üks leht akordionimenüüga, millel on silt läbipaistvus.

Heal läbipaistvus vajab piiri. See avalikustab selle, mida inimesed vajavad süsteemi mõistmiseks, ja kaitseb seda, mida volitatud hindajad peavad kontrollima.

Avalik kiht peaks siiski olema konkreetne. See võib öelda, et mudel on kasutamise ajal kohanduv, ilma et see paljastaks privaatset olekuesitust. See võib öelda, et marsruut on ainult kutsetega, ilma et see avaldaks kutsetoonge. See võib kirjeldada väljundmodaalsusi ja sisumärgistuse poliitikat, ilma et see paljastaks allkirjastusvõtmeid. See võib öelda, et riskihinnang on olemas, ja määrata selle ulatuse, ilma et see avaldaks turvaskeemi, mis muudaks teenuse ründamise lihtsamaks.

Kontrollitud kiht vajab oma ausust. Dokument, mis on märgitud konfidentsiaalseks, ei ole automaatselt täielik, ajakohane ega õige. See vajab omanikku, versiooni, juurdepääsureeglit ja säilitusreeglit. Kui avalik register viitab kontrollitud kirjele, peaks link paljastama selle staatuse ja vastutava marsruudi ka siis, kui sisu on piiratud. Muidu näeb avalikkus musta auku ja teda palutakse seda nimetada valitsemiseks.

Versioonihaldus muudab registri kasulikuks

Enamik registri tõrkeid ei ole dramaatilised. Need on väikesed unustamise aktid. Uus mudel asendab vana, kuid kanne redigeeritakse kohapeal. Poliitika muutub, kuid kavandatud kasutuse lõik jääb alles. Pakkuja liigutab marsruudi sisemisest testimisest välisesse beetafaasi, kuid staatuse märk muutub enne, kui jõustumiskuupäev on kirja pandud. Kasutuselevõtt tühistatakse, kuid vana kanne kaob, võttes ajaloo endaga kaasa. Olevik näeb korras välja. Minevik muutub vastuseta.

Versioneeritud kanne hoiab vähemalt nelja kella lahus. Sisuversioon ütleb, milline kirje tekst ja väljad on kehtivad. Jõustumiskuupäev ütleb, millal väide kehtib. Mudeli või paketi versioon ütleb, millist tehnilist objekti kirjeldatakse. Kontrollimise kuupäev ütleb, millal keegi kande üle vaatas. Need kuupäevad võivad kattuda. Nad ei pea seda tegema. Nende kohtlemine ühe kuupäevana on mugav ja sageli vale.

Eelmised versioonid peaksid jääma leitavaks asjakohase säilitusreegli alusel. Avalikkus ei vaja iga sisemist muudatust, kuid ta peab teadma, millal muutus oluline eesmärk, staatus, marsruut, piirang või omandiväide. Muudatuste logi võib öelda, mis liikus, ilma privaatset teavet paljastamata. Masinloetav kanne võib linkida eelmise versiooni ja manifesti. Inimloetav leht võib selgitada tagajärge tavakeeles. Need kaks pinda peaksid ühtima.

Versioonihaldus muudab ka tagasivõtmise tähendusrikkaks. Kui mudel võetakse tagasi, kuna marsruut on suletud, erineb see tagasikutsumisest, kuna tõsine defekt või õiguslik küsimus nõuab tegutsemist. Kui mudel jääb olemasolevatesse privaatsetesse kasutustesse, peaks avalik register seda ütlema. Kui järeltulija on ühilduv ainult mõne integratsiooniga, peaks rände piir olema nähtav. Register, mis eemaldab nime ilma põhjust kirja panemata, jätab iga allavoolu lugeja põhjuse välja mõtlema.

Muudatuste ajalugu on eriti oluline kohanduvate süsteemide puhul. Mudeli identiteet võib jääda stabiilseks, samal ajal kui salvestatud olekud, piirangute komplektid, otsinguallikad või väljundkontrollid muutuvad. Register võib öelda, millised muudatused loovad uue paketi, millised muudatused nõuavad uut hindamist ja millised muudatused jäävad deklareeritud identiteedi piiridesse. See ei ole liigne üksikasjalikkus. See on erinevus süsteemi vahel, mida saab taasesitada, ja süsteemi vahel, mida saab ainult meeles pidada.

Omanikud on kande osa

Registrikirje ilma omanikuta on nagu ilmateade. See ütleb, milline taevas oli, aga ei anna kedagi, kellele helistada, kui katus hakkab lekkima. Pakkuja ja juurutaja rollid ei ole samad ning kumbagi rolli ei tohiks lasta sulanduda sõna platvorm alla.

Pakkuja omab mudeli identiteeti, arenduslugemist ja väljalaskmise otsust oma vastutusala piires. Juurutaja omab otsust kasutada süsteemi oma volituste all, sealhulgas kohalikku eesmärki, kaitsemeetmeid, mõjuhinnangut ja toimimiskontrolli. Allavoolu pakkuja võib integreerida üldotstarbelise mudeli AI-süsteemi ja kanda vastutust, mida mudeli pakkuja ei näe. Avalik register peaks need suhted avalikustama seal, kus seadus ja risk seda nõuavad.

Kontaktandmed ei ole halduslik täitematerjal. Need annavad mõjutatud isikule võimaluse küsida, kes otsuse tegi, millist versiooni kasutati või kuidas parandust taotleda. Üldine postkast võib olla sobiv, kuid see peaks viima hooldatud protsessini. Kirjes peaks ka olema öeldud, kas kontakt on mõeldud tehnilise toe, õigustaotluste, juhtumitest teatamise, hankimise või avaliku vastutuse jaoks. Üks postkast ei saa olla korraga iga institutsioon, hoolimata kaasaegsete vormide parimatest pingutustest.

Omand peaks hõlmama volitust kirjet muuta. Kui nimetatud omanik ei saa marsruuti peatada, staatust parandada või tagasivõtmist avaldada, on kirje dekoratiivne. Organisatsioonil võib kusagil mujal olla juriidiline omanik, kuid tegevuslünk jääb. Hea register muudab vastutuse nähtavaks enne, kui juhtum sunnib inimesi organisatsiooni tahvlile joonistama.

Registri kujundamine, mida inimesed tegelikult loevad

Mudeliregistri esimene lugeja ei ole alati regulaator või insener. See võib olla ajakirjanik, hankeametnik, kohalik ametnik, teadlane, töötaja, kellel palutakse süsteemi kasutada, või inimene, kes üritab mõista, miks automatiseeritud teenus tema juhtumit puudutas. Leht peaks vastama tavapärasele küsimusele enne, kui see võtab kasutusele erialase sõnavara.

Alustage identiteedi ja kirje eesmärgiga. Öelge, kes mudelit pakub, millist versiooni kirjeldatakse, mis tüüpi objekt see on ja kas see on mudel, integreeritud AI-süsteem või juurutamise kirje. Öelge, kas see on sisemine, kutsutud kasutajatele kättesaadav, turul, peatatud või tagasi võetud. Lugeja ei peaks staatust allalaadimisnupust välja lugema.

Seejärel näidake eesmärk ja piir. Öelge, mida mudel on mõeldud tegema, millised kasutusalad on väite raamest väljas ja milliseid otsuseid tal pole volitatud teha. Selgitage, kas mudel võib kasutamise ajal kohaneda, kas taasesituseks on vaja salvestatud olekut ja kas allavoolu marsruut muudab tingimusi. Võimete loend ilma eesmärgita on menüü ilma köögita.

Kasutage astmelist avalikustamist. Lehe ülaosa peaks olema rahulik ja loetav. Sügavamad jaotised võivad avada masinkirje, hindamismeetodid, koolitusmaterjali kokkuvõtte, õigusdokumendid ja väljalaskmise tõendid. Avalik lugeja võib peatuda pärast esimest kihti. Audiitor võib jätkata. Insener saab alla laadida stabiilse esituse. Detailide peitmine ei ole lihtsus. See on lihtsalt aeglaselt laadiv üllatus.

Juurdepääsetavus on osa kirje usaldusväärsusest. Leht ja masinesitus peaksid kasutama selgeid silte, klaviatuuriga navigeerimist, kasulikke pealkirju ja tekstiasendusi visualiseeringutele. Kuupäevi ei tohiks kodeerida ainult värvina. Punane märk ei ole staatus lugejale, kes punast ei näe, ja graafik, mida ei saa lugeda ilma hiireta, ei ole juurdepääsetav selgitus. Teadetetahvel linnaväljakul ei muutu avalikuks, kui kaldtee lõpeb esimesel astmel.

Masinloetavus on oluline teisel põhjusel. See võimaldab teadlastel kirjeid võrrelda, avalikel asutustel inventuure koostada, audiitoritel aegunud kirjeid tuvastada ja allavoolu tööriistal kontrollida, et leht ja struktureeritud kirje viitavad samale versioonile. Masinloetav ei tähenda ainult masinatele mõeldud. Inimesele mõeldud leht ja masinloetav kirje peaksid jagama identifikaatoreid, olekut, kuupäevi ja linke, mille terviklikkuse seost saab kontrollida.

Registriväljad on otsused

Iga väli ütleb lugejale, mida organisatsioon peab säilitamist väärivaks. Pakkuja väli ütleb, kes mudeli taga seisab. Mudeli nimi ja versioon ütlevad, kuidas seda järglasest eristada. Marsruudi väli ütleb, kust mudelini jõuab. Sihtotstarbe väli ütleb, millist tööd on pakkuja valmis kirjeldama. Piirangute väli ütleb, kus kirjeldus lõpeb. Skeem on väikestesse ristkülikutesse kirjutatud haldusdokument.

Identiteediväljad peaksid olema üheselt mõistetavad ja stabiilsed. Need võivad sisaldada pakkuja juriidilist nime, mudeli nime, versiooni, unikaalset viidet ja linke kanoonilisele kirjele. Kui mudelit saab pakkuda mitme toote kaudu, peaks register eristama mudeli identiteeti integreerivast pinnast. Kui toode sisaldab mitut mudelit, ei tohiks kanne seda asjaolu toote nime taha peita.

Olekuväljad peaksid sisaldama väärtust, jõustumiskuupäeva, ülemineku põhjust või alust ning eelkäijat või järglast. Kuupäev, mis on vaid kavandatud, tuleks märkida kavandatuna. Kirje, mida pole hiljuti kontrollitud, peaks seda ütlema. Lugeja peaks suutma aru saada, kas mudel on saadaval, kavandatud, peatatud või ajalooline, ilma et ta peaks tõlgendama turundusmeeskonna välja mõeldud omadussõna.

Sihtotstarbe ja ulatuse väljad peaksid kirjeldama tööd viisil, millest mittespetsialist aru saab. Need peaksid nimetama sihtkasutajaid, kui see on oluline, sisendite ja väljundite liike ning otsuseid või toiminguid, mida mudel võib toetada. Samuti peaksid need märkima keelatud või mittetoetatud kasutusviisid. Mudel, mis suudab teksti genereerida, ei ole sellega volitatud kirjutama abikõlblikkuse otsust, ja mudel, mis suudab dokumente klassifitseerida, ei ole sellega volitatud inimesi klassifitseerima.

Võimekuse väljad vajavad tingimusi. Modaalsused, konteksti piirid, tööriistade juurdepääs, keelekatvus, kohandamiskäitumine ja väljundi märgistamine on tähenduslikud ainult siis, kui need on seotud marsruudi ja väljalaskega. Võimekus, mis eksisteerib sisemises katses, kuid mitte välises marsruudis, ei tohiks olla esitatud ühe universaalse funktsioonina. Register ei ole soovide nimekiri.

Andmeväljad peaksid ütlema, mida mudel saab, mida see salvestab, millest see kasutamise ajal õpib ja mida kasutatakse hindamiseks, tasemel, mida saab avalikustada ilma isiklikku või konfidentsiaalset materjali paljastamata. Koolitusmaterjali kokkuvõtted ja õiguspoliitikad tuleks vajadusel linkida. Selline ebamäärane lause nagu koolitatud mitmekesiste andmete põhjal ütleb lugejale peaaegu mitte midagi ja palub tal ise meelitav tõlgendus välja mõelda.

Hindamisväljad peaksid tuvastama küsimuse, meetodi, andmete piiri, kuupäeva, tulemuse ja piirangud. Kanne ei pea reprodutseerima iga tabelit, kuid see ei tohiks kuvada skoori ilma nimetajata ega testi ilma eesmärgita. Hea hindamislink võimaldab lugejal näha, kas tõendid hõlmavad kavandatud kasutust, sellega sarnast kasutust või ainult laboritingimusi.

Järelevalveväljad peaksid tuvastama, kes saab süsteemi peatada, üle kirjutada, üle vaadata ja uurida. Kui mudel ainult soovitab, öelge, milline tegevus jääb inimesele. Kui marsruut saab toimida välistes süsteemides, öelge, millised õigused ja väravad kehtivad. Kui intsidentidest teatamiseks on spetsiaalne marsruut, avaldage see. Järelevalve ei ole lõik inimese kaasamise kohta. See on kaart sellest, kes saab mida teha, kui süsteem on ebakindel.

Evidence and integrity fields should connect the public entry to a versioned machine record, a release package, a declaration, an evaluation bundle or a transparency log. A hash can establish that a file changed or did not change. It cannot establish that the file was truthful, so the registry should keep the claim and the integrity check separate. Technical precision is not a substitute for judgement, but it makes judgement easier to locate.

Finally, change fields should explain the history. What changed, when, why, who approved it, which routes are affected and whether a new evaluation is needed. The entry should make it possible to answer the most ordinary question in the room: what is different from the record we read last month?

What a registry can establish

A well-maintained registry can establish that a defined object is being described by a named provider under a particular record version. It can establish the declared purpose, status, access route and ownership. It can establish which supporting documents and integrity records a reader can inspect, and which information is deliberately controlled. It can establish that a change was published and that a previous record remains available under the stated retention rule.

It can also establish the organisation's own position. If a provider says that a model is for decision support and not for automatic refusal, the statement is a public boundary. If a deployer says that an impact assessment was completed, the statement creates a question about where the summary or controlled record can be found. If a provider marks a release as planned, the label prevents the plan from masquerading as history.

These are useful facts. They make procurement more precise, integration less speculative and public questions easier to route. They also make disagreement sharper. A reader can say that the declared purpose is too broad, the status is stale, the limitation is missing or the supporting evidence does not cover the claim. A registry earns its keep when it makes that criticism possible.

What a registry cannot establish

A registry entry cannot establish that a model is accurate for every user, safe in every environment, fair across every group or lawful for every deployment. It cannot establish that a public authority followed the right procedure merely because a system is listed. It cannot show that a human reviewer understood an output, that a data subject had a meaningful remedy or that an incident would be detected in time. Those conclusions require evidence about the system in use, the institution using it and the people affected by it.

It also cannot establish that a model is independent of its supplier, that a route is sovereign because it is hosted in Europe, or that an open licence makes responsibility disappear. Ownership, jurisdiction, supply chain, operating control and maintenance are separate questions. A registry can expose the names and links needed to ask them. It cannot answer them by typography.

Nor can a registry prove the negative. An absent entry may mean that the object is out of scope, that an exclusion applies, that publication is late or that someone failed to publish. The reader needs a clear coverage statement and a route to report errors. A public noticeboard is only as reliable as the process that notices when a notice is missing.

An illustrative record, not a hidden case study

The following is an illustrative record design, not a report of a real organisation, model or event. It uses no customer, public authority, deployment date or measured result. Its purpose is to show how a reader can move from a public entry to a controlled evidence route without confusing either layer.

  • Identiteet: teenusepakkuja nimi, mudeli nimi, versioon ja stabiilne masinloetav identifikaator.
  • Olek: kontrollitud hindamine, jõustumiskuupäevaga ja märkega, et välisteed ei ole avatud.
  • Eesmärk: abi dokumendianalüüsil koolitatud töötajatele, kusjuures automaatsed välised otsused jäävad deklareeritud ulatusest välja.
  • Sisendid ja väljundid: esindatud meediumiliigid, eeldatavad lähtematerjali liigid ja väljunditüübid, mida tee suudab toota.
  • Piirangud: teadaolevad keele-, valdkonna-, ajakohasuse-, ohutus- ja juurdepääsupiirangud, millest igaüks on seotud asjakohase hindamise või poliitikaga.
  • Järelevalve: roll, kes saab tee peatada, ebakindlate tulemuste läbivaatamise kord ja intsidentidest teavitamise kontakt.
  • Tõendid: avalik kokkuvõte, versioonitud tehniline dokument volitatud hindajatele ja avaldatud failide terviklikkuse manifest.
  • Muudatus: link eelmisele kandeandmele, kirjeldus sellest, mis muutus, ja tingimus, mille korral oleks vaja uut hindamist.

Miski selles kandes ei väida, et mudel on hea. See ütleb, mida teenusepakkuja on valmis väitma, kus väide kehtib ja kuidas teine inimene saab seda testida või vaidlustada. Sellest piisab teadetetahvli jaoks. Sellest piisab ka selleks, et hoida suur osa reklaamkeelest märkamatult õiguslikku või operatiivset otsust mõjutamast.

Miks eelväljalaske staatus väärib austust

Eelväljalase ei ole avaliku versiooni nõrgem variant. See on erinev olek. Sisetestimine võib toetada tehnika- ja ohutustööd, hoides samal ajal juurdepääsu kontrolli all. Kutsutud beetaversioon võib avada tee välistele isikutele, säilitades samal ajal tingimused, ulatuse ja õiguse peatada. Avalik väljalase muudab seda, kes võivad süsteemile tugineda ja millised kohustused lasuvad teenusepakkujal, integraatoritel ja juurutajatel. Register peaks need üleminekud nähtavaks tegema, mitte käsitlema väljalaset ühe trompetipuhanguna.

Eelväljalaske kanne võib olla avalikkusele siiski kasulik. See võib tuvastada mudeli, teenusepakkuja, kavandatud tee, oleku, olemasolevad tõendid ja tõendid, mis on veel pooleli. See võib öelda, et kuupäev on kavandatud ja juurdepääs ei ole avatud. See võib avaldada väljalaskevärava ilma teeskluseta, et värav on läbitud. See on eriti hea koht, kus register võib olla igav. Igav staatus on ohutum kui põnev ebaselgus.

Dweve püüab seda distsipliini rakendada ka oma avalikus kandes. Meie usalduskeskuses on mudeliregister märgitud eelväljalaskena ja loetleb Dweve Loom 1.0 kui ainult sisemise eelväljalaske testimise seisuga 1. august 2026. See märgib, et selleks kuupäevaks ei ole toimunud välist väljalaset, ja loetleb 1. septembri 2026 kui kavandatud liidu turulepääsu kuupäeva ainult kutsutud välistele beetatestijatele. Kavandatud on oluline sõna: kanne ei muuda plaani sündmuseks.

Meie avalik kanne teeb selgeks ka selle, et Loom on ainus seal loetletud mudel, et see on varaline, mitte avatud lähtekoodiga mudelilitsentsi all välja antud, ning et meie tooted ja eraldi litsentsitud avatud lähtekoodiga tööriistad ei ole esitatud täiendavate mudelitena. See piir hoiab ära tootekataloogi segiajamise mudeliregistriga. See hoiab ka avaliku väite piisavalt väikesena, et seda saaks kontrollida.

Sellest piisab, mida meil on vaja Dweve kohta siin öelda. Mudeliregister on kasulik siis, kui see muudab meie enda väljalaske staatuse vähem meelitavaks, kuid täpsemaks. See peaks tegema sama ka kõigi teiste jaoks.

Avaliku ja erasektori piir on disainiotsus

Tugevaim register ei ole see, millel on kõige rohkem välju. See on see, mille väljadel on põhjus, omanik ja piir. Avalikud lugejad vajavad stabiilset identiteeti, väljakuulutatud eesmärki, tõepärast staatust, vastutavat organisatsiooni, kasutatavaid linke ja piisavalt piiranguid, et väidet mõista. Volitatud ülevaatajad vajavad sügavamat tõendusmaterjali, kontrollitud tehnilisi üksikasju ja võimalust juhtumite või tundlike testidega tutvuda. Operaatorid vajavad saladusi, õigusi ja tegevusjuhendeid, mis ei tohiks üldse teadetetahvlil olla.

Need kihid peaksid piiri ületavate faktide osas ühel meelel olema. Kui avalik leht ütleb, et marsruut on peatatud, peaks kontrollitud kanne ütlema, kes selle peatas ja miks. Kui tehniline fail on asendatud, ei tohiks avalik kanne seda jätkuvalt kehtivana linkida. Kui hinnang on piiratud, peaks avalik leht siiski märkima selle ulatuse ja staatuse. Piir peaks piirama juurdepääsu üksikasjadele, mitte looma kolme kokkusobimatut reaalsuse versiooni.

Lugejad peaksid saama küsida viis lihtsat küsimust ja saama viis stabiilset vastust. Mis see objekt on? Kes selle eest vastutab? Mida see tohib teha? Mis on selle praegune staatus? Millised tõendid ja õiguskaitsevahendid on olemas, kui väidet vaidlustatakse? Register, mis neile küsimustele vastab, teeb juba institutsionaalset tööd. Registrit, mis neile vastata ei suuda, ei päästa animeeritud märgid ega kaksteist filtrit sisaldav juhtpaneel.

Euroopa liikumist mudeli- ja algoritmiregistrite suunas saab lugeda optimistlikult. Asi pole selles, et andmebaas lahendab AI-halduse. Asi on selles, et avalikud institutsioonid ehitavad kohti, kus väidetel on nimed, kuupäevad, omanikud ja piirid. Need on väikesed komponendid, millest suuremad vastutussüsteemid kokku pannakse.

Teadetetahvel peab muutust üle elama

Mudeliregister on uus avalik teadetetahvel ainult siis, kui teated jäävad loetavaks ka pärast ilma muutumist. Leht peab üle elama mudeliuuenduse, tarnija vahetuse, uue juurutuse, parandatud piirangu, tagasi võetud marsruudi ja keerulise küsimuse inimeselt, kes ruumis ei viibinud. See tähendab ajaloo säilitamist, plaanide märgistamist, tõendite linkimist ja selle ütlemist, mida kanne tõestada ei suuda.

Töö on vähem glamuurne kui käivitusleht. See on ka püsivam. Avalik kanne, mis eristab mudeli identiteeti juurutuse seisundist, staatust kavatsusest, dokumentatsiooni tõendist ja avalikke fakte kontrollitud tõendusmaterjalist, annab inimestele midagi paremat kui kinnitus. See annab neile tee läbi süsteemi.

Head registrid ei palu lugejatel usaldada värvi, numbrit ega kuulsat nime. Nad muudavad väite piisavalt kitsaks, et seda kontrollida, ja piiri piisavalt selgeks, et seda vaidlustada. Nad jätavad jälje inimesteni, kes oskavad vastata, dokumentideni, mida saab kontrollida, ja otsuseni, mida saab muuta. See on väga vana kodanikuidea, mis kannab üsna kaasaegset failivormingut.

Pange teade tahvlile. Pange tõendid selle taha. Hoidke vana teade alles, et keegi saaks seda veel lugeda. Seejärel laske avalikkusel otsustada, mida kanne välja teenib.

Allikad