Det nye opslagstavle for modeller

En modelregistrering kan fortælle offentligheden, hvad et system er, hvem der står bag det, hvor det må bruges, og hvad der er ændret. Den kan ikke gøre en...

Det nye opslagstavle for modeller

Siden, der starter med at indrømme, at den ikke er magi

Det første, en brugbar modelregistrering gør, er at skuffe dig. Den siger ikke, at en model er sikker. Den siger ikke, at en organisation er kompetent. Den forvandler ikke en leverandørs løfte til en kendsgerning eller et grønt mærke til en grund til at holde op med at stille spørgsmål. I stedet giver den dig en afgrænset registrering: dette er tingen, dette er versionen, dette er ejeren, dette er det erklærede formål, dette er status, og dette er, hvor det understøttende bevis opbevares.

Den beskedenhed er begyndelsen på offentlig tillid. En registrering er en opslagstavle, ikke en helligdom. En opslagstavle fortæller et nabolag, hvad der bliver bygget, hvem der er ansvarlig for det, og hvilke opslag der er blevet erstattet. Den certificerer ikke håndværket i hver bygning på gaden. Den giver folk et sted at begynde at lede og en måde at opdage, når selve opslaget er blevet forældet.

Åbn den hollandske regerings Algorithm Register, og designet er usædvanligt enkelt. Offentlige myndigheder offentliggør oplysninger om algoritmer, de bruger i deres arbejde. Registret fokuserer på betydningsfulde algoritmer, herunder AI-systemer med høj risiko, og giver besøgende en forklaring på, hvordan disse systemer fungerer. Siden gør også en nyttig sondring, som mange blanke AI-kataloger undgår: en algoritme er et sæt regler og instruktioner, som en computer følger for at beregne et svar, ikke en personlighed med en produktlancering.

Siden er offentlig, fordi arbejdet er offentligt. En borger behøver ikke en privat konto for at opdage, at en myndighed bruger en algoritme, hvad myndigheden siger, den bruges til, eller hvor man kan stille det næste spørgsmål. Det gør ikke alle tekniske detaljer offentlige. Det gør dog systemets eksistens, dets erklærede rolle og dets institutionelle ejer sværere at skjule bag en indkøbsfil.

Modelregistreringer er ved at blive den samme slags borgerligt objekt. De ligger mellem et teknisk katalog og en offentlig registrering. Ingeniører har brug for en stabil identitet og en version at integrere. Operatører har brug for en status og en ejer at drive. Underleverandører har brug for kapaciteter, begrænsninger og betingelser. Revisorer har brug for et spor tilbage til beviser. Berørte mennesker har brug for at vide, at et system findes, og hvordan de kan udfordre, hvad det gør. Én side kan ikke besvare alle disse spørgsmål, men en veltilrettelagt registrering kan pege hver læser mod det rigtige lag.

Faren er, at ordet registrering får et dokument til at lyde mere komplet, end det er. En telefonbog er en registrering, men den kan ikke fortælle dig, om et nummer stadig virker. En skibsmanifest er en registrering, men den kan ikke fortælle dig, om lasten overlevede rejsen. En modelpost er en registrering, men den kan ikke bære hele beviset for ydeevne, retfærdighed, sikkerhed, lovlighed og sociale konsekvenser. Det nyttige spørgsmål er ikke, om en model er i registret. Det er, hvad posten fastslår, hvad den lader stå åbent, og hvad en læser kan inspicere næste gang.

En opslagstavle er et løfte om udvælgelse

En fortegnelse forsøger at tælle alt. Et katalog forsøger at hjælpe dig med at vælge. Et register giver et mere formelt løfte: disse poster hører til et defineret omfang, de har en ejer, og oplysningerne vedligeholdes efter en regel. Løftet handler om udvælgelse, før det handler om software. Uden et angivet omfang er en attraktiv liste kun en samling af ting, der tilfældigvis blev husket.

Derfor har enhver registrering brug for en sætning, der siger, hvad den inkluderer, og hvad den bevidst udelader. EU's AI-forordnings centrale database er ikke en liste over hver model, der cirkulerer i Europa. Artikel 71 etablerer en EU-database for specifikke AI-systemer med høj risiko og de systemer, der er registreret i henhold til ruterne beskrevet i artikel 49. Det hollandske Algorithm Register er ikke en liste over hver beregning, der foretages på et regeringskontor. Det fokuserer på betydningsfulde algoritmer, herunder AI-systemer med høj risiko. Grænsen er en del af registreringen, ikke en fodnote for advokater.

En modelregistrering bør besvare det samme afgrænsningsspørgsmål i almindeligt sprog. Omfatter den grundmodeller, udrullede AI-systemer, interne eksperimenter, fintunede afledninger, evalueringspakker eller kun modeller, der tilbydes eksterne brugere? Skal en ny serveringskonfiguration have en ny post, en ny version eller en tilknyttet udrulningspost? Tæller en registreret tilstand af et adaptivt system som den samme modelidentitet? Hvis registret ikke afgør disse spørgsmål, vil hver læser afgøre dem forskelligt. Sådan bliver en kort liste til en lang diskussion.

Udvælgelse gør også fravær meningsfuldt. Hvis omfanget siger, at alle offentligt tilgængelige systemer med høj risiko skal fremgå, er en manglende post et forvaltningsproblem. Hvis omfanget siger, at kun modeller, der bringes i omsætning, er omfattet, kan et internt eksperiment være fraværende med vilje. Offentligheden kan ikke fortolke et tomt søgeresultat uden at vide, hvilken af de to situationer der gælder. Tavshed er ikke neutral, når registret ikke har forklaret sit ordforråd.

Der er en lille administrativ dyd i at sige dette klart. Registre behøver ikke at lade, som om de ved alt. De skal fortælle læseren, hvad de ved, hvad de er ansvarlige for, og hvad der ligger uden for rammen. Et register opnår sin autoritet ved at gøre grænsen for sit omfang eksplicit, ikke ved at pynte på forsiden. Teknologien er nyere. Papirarbejdsinstinktet er ikke.

Hvad den europæiske regel reelt sætter på tavlen

AI-forordningen giver ordet registrering en konkret juridisk form, men ikke én universel. Artikel 49 kræver, at en udbyder eller bemyndiget repræsentant registrerer visse AI-systemer med høj risiko, før de bringes i omsætning eller tages i brug. Det kræver også registrering, hvor en udbyder har vurderet, at et system ikke er højrisiko under betingelserne i artikel 6, stk. 3. Offentlige myndigheder og tilsvarende offentlige organer, der anvender visse systemer med høj risiko, har deres egen registreringspligt, herunder registrering af deres anvendelse.

Den samme artikel gør grænsen mellem offentligt og privat eksplicit. Visse systemer med høj risiko, der anvendes i forbindelse med retshåndhævelse, migration, asyl og forvaltning af grænsekontrol, registreres i en sikker, ikke-offentlig sektion. Systemer med høj risiko i andet punkt i bilag III registreres på nationalt plan. Dette er ikke implementeringsdetaljer, der kan udjævnes i et dashboard. De beskriver forskellige målgrupper, forskellige risici og forskellige tilladelser til at se registret.

Artikel 71 siger, at Kommissionen i samarbejde med medlemsstaterne skal oprette og vedligeholde EU-databasen. De oplysninger, der registreres i henhold til artikel 49, skal være tilgængelige og offentligt tilgængelige på en brugervenlig måde og bør være lette at navigere i og maskinlæsbare, med undtagelser for begrænsede sektioner. Databasen bør kun indeholde personoplysninger, i det omfang det er nødvendigt. Dette er en nyttig definition af offentlig gennemsigtighed: en registrering, som folk kan finde og behandle, uden at registreringen bliver et nyt personoplysningsproblem.

Bilag VIII er, hvor opslagstavlen bliver specifik. For en udbyder, der registrerer et system med høj risiko, omfatter registreringen udbyderens identitet og kontaktoplysninger, en utvetydig handelsbetegnelse eller reference, det tilsigtede formål, en grundlæggende beskrivelse af de anvendte oplysninger og driftslogikken, systemets status, relevante certifikater, medlemsstater, hvor det bringes i omsætning eller tages i brug, overensstemmelseserklæringen, brugsanvisningen og en valgfri URL med yderligere oplysninger. Dette er ikke marketingfelter. Det er håndtag til identifikation og ansvarlighed.

For a public deployer, the information is different. The record includes the deployer's identity, the person submitting the information, the URL of the provider's entry, and summaries of a fundamental-rights impact assessment and, where applicable, a data-protection impact assessment. The distinction matters because a model provider and a public authority do not know the same things and do not carry the same responsibility. A registry that collapses them into one vendor card erases the place where a system meets an institution.

The legal database therefore has a layered character. It records a system identity. It records a provider. It can record a deployer and a use. It records status and supporting declarations. It does not replace the technical documentation, risk management, quality system or post-market monitoring that the Act requires elsewhere. The database is a public index of accountable facts. It is not the whole compliance file.

This distinction is easy to lose because people like one URL that appears to contain the answer. The law is less sentimental. It creates a public surface, restricted surfaces and controlled documentation routes. The public surface must be usable. The restricted surface must stay restricted. The documentation must remain available to the competent authority or downstream provider that needs it. A serious registry is an interface between those obligations, not a shortcut around them.

A registry becomes useful when identity, status and change are connected. A colour without a transition is only decoration.

There is another important limit. The AI Act's general-purpose AI provisions are not the same thing as a public catalogue of all general-purpose models. Article 53 requires providers to keep technical documentation, make information available to downstream AI-system providers, maintain a copyright policy and publish a sufficiently detailed summary of training content. The Commission's guidance explains that the technical documentation is for the AI Office and national competent authorities on request, while downstream documentation helps integrators understand capabilities and limitations. Only some of that material belongs on a public noticeboard.

The Act also requires the Commission to publish and maintain a list of general-purpose AI models with systemic risk. A list of models with systemic risk is a valuable public signal, but it is not the same object as a full model registry. It has a narrower purpose, and it must respect intellectual-property rights, confidential business information and trade secrets. Calling every list a registry is harmless only until somebody assumes that a list proves more than it does.

A model is not a single line

People speak about a model as though it were a jar on a shelf. The name is printed on the label, the version is stamped underneath and the contents remain unchanged until someone opens the lid. That picture works for a static artefact. It becomes unreliable when a model is adapted, fine-tuned, wrapped in tools, served through several routes or changed during use.

A registry needs at least two identities: the model identity and the identity of the thing that actually ran. The first answers which model the provider means. The second can identify a captured state, a sealed deployment package, a local export or a replay bundle. Linking them prevents two opposite mistakes. A service can stop pretending that every live state has one permanent hash, and an operator can stop pretending that a package digest alone describes the whole model family.

Versionsnumre er kun nyttige, når deres ændringsregel er synlig. En version kan betyde et nyt sæt indlærte parametre, en ny katalog over begrænsninger, en ændring i hentning, et ændret sikkerhedslag eller en væsentlig ændring i leveringsaftalen. Hvis en udbyder bruger ét nummer til alle disse, bliver nummeret en høflig måde at sige, at noget er ændret. Et register bør forbinde en efterfølger med sin forgænger og angive, hvilken del af aftalen der er flyttet.

Adaptiv adfærd tilføjer endnu en komplikation. Hvis et system kan ændre sig, mens det er i brug, bør registreringen sige det. Det er ikke en indrømmelse af, at systemet er ukontrolleret. Det er en indrømmelse af, at ordet version ikke kan klare hele opgaven. Registret kan bevare en stabil modelidentitet, knytte tidsbegrænsede optagede tilstande til den og registrere de betingelser, under hvilke en tilstand blev oprettet. Pointen er ikke at fryse et levende system fast i et falsk fotografi. Det er at give ethvert meningsfuldt fotografi en dato og en ramme.

Identitet har også en social kant. Et modelnavn er ikke nok, når flere juridiske enheder distribuerer lignende artefakter, når en downstream-udbyder ændrer modellen, eller når et produkt indlejrer en model bag sit eget navn. Registret bør gøre kæden synlig: udbyder, distributør hvor denne er forskellig, implementør hvor relevant, og det system eller den rute, hvori modellen bruges. En person, der er berørt af en beslutning, bør ikke skulle udføre forensisk arkæologi på et produktlogo for at finde ud af, hvem der kan stå til ansvar for det.

Status er et verbum, ikke en farve

Statusfelter vises ofte som badges, fordi badges passer pænt på kort. Badgen er ikke status. Status er en erklæring om en handling og et tidspunkt. Intern testning betyder én ting, når adgangen er kontrolleret af udbyderen. Pre-release betyder noget andet, når inviterede udenforstående kan bruge en rute under definerede betingelser. På markedet, i drift, suspenderet, trukket tilbage og tilbagekaldt har hver især en anden operationel konsekvens.

En nyttig registrering angiver, hvad status tillader, og hvad den ikke tillader. Hvis et system kun er internt, bør en læser ikke udlede offentlig tilgængelighed fra en dokumentationsside. Hvis en ekstern beta er planlagt, bør datoen mærkes som planlagt snarere end præsenteres som en udgivelse. Hvis et system er trukket tilbage, bør registreringen bevare den tidligere identitet og angive, om eksisterende implementeringer må fortsætte, skal stoppe eller er ved at blive migreret. En status uden en ikrafttrædelsesdato er et rygte iført uniform.

Status bør også have en ejer. Hvem kan flytte en post fra intern til ekstern? Hvem kan suspendere en rute? Hvem kan erklære, at en udgivelsesdato er ændret? Hvilke beviser kræves før overgangen? Disse spørgsmål hører hjemme i driftsprocessen, men den offentlige post bør gøre den resulterende beslutning læsbar. Et register, der viser den aktuelle badge, mens det skjuler autoriteten bag den, er kun et moodboard for styring.

Illustrativt eksempel, ikke en reel registrering: en post kan sige, at en model er i kontrolleret evaluering, at ingen ekstern rute er åben, at en forsøgsordning kun med invitation er foreslået til en senere dato, og at forslaget fortsat er underlagt en udgivelsesport. Eksemplet nævner ingen organisation, model eller begivenhed. Formålet er at vise, hvordan en post holder en plan adskilt fra en kendsgerning. Den samme disciplin gælder for en tilbagetrækning, et kapabilitetskrav eller en certificering, der endnu ikke er udstedt.

Denne adskillelse beskytter læserne mod et velkendt trick. En fremtidig hensigt gentages ofte nok til, at den begynder at lyde som historie. Registre bør være det sted, hvor det trick holder op med at virke. Posten kan vise en plan, men planen skal beholde sin etiket. Europa har allerede nok kalendere. En dato er ikke en kendsgerning, blot fordi den er placeret i en farvet firkant.

Registret er ikke bevisrummet

En offentlig registrering skal være kort nok til at blive læst og stærk nok til at orientere et seriøst spørgsmål. Bevisrummet bag den kan være meget større. Artikel 53 i AI-forordningen om dokumentationspligter illustrerer hvorfor. Udbydere af generelle AI-modeller skal udarbejde og opbevare teknisk dokumentation, der dækker udvikling, træning, test og evaluering. De skal stille oplysninger og dokumentation til rådighed for downstream-udbydere af AI-systemer, så disse udbydere kan forstå kapaciteter og begrænsninger. De skal offentliggøre et tilstrækkeligt detaljeret resumé af træningsindhold og føre en politik for EU's ophavsretslovgivning.

Disse forpligtelser henvender sig til forskellige læsere. En kompetent myndighed kan have brug for den fulde tekniske dokumentation. En downstream-udbyder har brug for integrationsoplysninger og begrænsninger. Offentligheden har brug for en klar redegørelse for, hvad modellen er, og hvordan resuméet af træningsindholdet er afgrænset. En registreringspost kan forbinde disse overflader uden at lade som om, at en offentlig side skal indeholde alle sikkerhedsfølsomme detaljer, alle vægtfiler eller alle testprøver med personoplysninger.

Links er heller ikke bevis ved magi. Et register, der peger på en evalueringsrapport, bør angive, hvilken udgivelse rapporten dækker, hvad evalueringen målte, og hvilke betingelser der begrænser resultatet. Et link til et træningsresumé bør angive, om resuméet dækker prætræning, finjustering eller et defineret sæt af indholdskategorier. Et link til et certifikat bør vise, hvem der har udstedt det, hvad det certificerer, og hvornår det udløber. Ellers er siden en hylde med uåbnede kuverter.

Den samme regel gælder for sikkerhedspåstande. Et register kan sige, at en risikovurdering findes, at en overvågningsplan er linket, eller at en kanal for alvorlige hændelser er offentliggjort. Det bør ikke antyde, at eksistensen af et dokument beviser, at det underliggende system er sikkert. Dokumentation er en måde at inspicere en påstand på. Det er ikke en erstatning for påstanden.

Det er her, offentlig skrivning kræver disciplin. Et modelkort, en transparensside eller en registreringspost kan beskrive tilsigtet brug og kendte begrænsninger. Det kan ikke bruge ordet troværdig som en konklusion, medmindre beviserne og omfanget gør den konklusion forsvarlig. Den ærlige sætning er ofte mere nyttig: disse er de betingelser, vi evaluerede, disse er de begrænsninger, vi observerede, og disse er de tilfælde, vi ikke hævdede at dække.

Det hollandske register viser værdien af en almindelig offentlig liste

Det hollandske algoritmeregister er lærerigt netop fordi det ikke forsøger at ligne et futuristisk kontrolrum. Det giver offentlige organisationer et offentligt sted at beskrive algoritmer, der bruges i deres arbejde. Dets engelske side advarer om, at beskrivelser er automatisk oversat, og at den hollandske original er den autoritative version for beskrivelsen. Den lille note er en lektion i proveniens. Adgang er ikke det samme som nøjagtighed, og en oversat grænseflade bør ikke slette kildesproget.

Registerets offentlige formål er også formuleret uden teatralsk sprog. Det fokuserer på algoritmer med stor betydning, herunder højrisiko-AI-systemer, og giver besøgende indsigt i, hvordan de fungerer. Den besøgende kan gennemse algoritmer, organisationer og skabeloner. Formålet er ikke at tilbyde en score for hver algoritme. Det er at gøre brugen af algoritmiske systemer synlig nok til, at mennesker, organisationer og medier kan følge, udfordre og granske offentlig praksis.

Det tilhørende hollandske Algoritmekader gør det formål til et krav. Det siger, at medmindre en undtagelse finder anvendelse, offentliggør offentlige organer algoritmer med stor betydning og højrisiko-AI-systemer i registeret. Det siger også, at forkert eller ufuldstændig offentliggørelse kan gøre det sværere for berørte personer og andre interessenter at forstå og udfordre brugen af teknologi, der kan berøre deres rettigheder. Transparens er derfor ikke kun en høflighed. Kvaliteten af registreringen kan påvirke kvaliteten af offentlig kontrol.

Den samme vejledning er omhyggelig med afgrænsningen. Den beskriver registret som et værktøj inden for en bredere samling af love og krav og advarer om, at rammen ikke er komplet og måske ikke omfatter sektorspecifik lovgivning. At en algoritme optræder i et register afgør ikke alle juridiske eller etiske spørgsmål. At den ikke optræder, beviser ikke, at den er harmløs. En læser har brug for registrets inklusionsregel og den omkringliggende ramme for at fortolke posten.

Det er det nyttige mønster for modelregistre. En offentlig liste skal være let at finde, skrevet til personer, der ikke var med til indkøbsmødet, og forbundet til de registreringer, der indeholder flere detaljer. Den skal synliggøre usikkerhed frem for at skjule den. Den skal angive, hvornår en engelsk beskrivelse er maskinoversat. Den skal forklare, hvilke systemer der er omfattet, og hvilke der ikke er. Den skal gøre en manglende eller forældet post til et synligt styringsproblem i stedet for en privat skuffelse.

Der er ingen grund til at opfinde en dramatisk hændelse for at se, hvorfor dette betyder noget. En borger, der forsøger at forstå en automatiseret offentlig proces, har allerede et praktisk spørgsmål: bliver et system brugt, af hvem, til hvilket formål og med hvilken forklaring? Et register giver det spørgsmål en adresse. Svaret kan stadig være ufuldstændigt. I det mindste kan institutionen ikke lade, som om der ikke er nogen at spørge.

Offentlig betyder ikke nøgen

Transparens bliver kontraproduktiv, når den behandles som en befaling om at offentliggøre alt. Offentlige registreringer kan eksponere personoplysninger, sikkerhedsfølsomme oplysninger, forretningshemmeligheder og angrebsveje. De kan også skabe falsk tryghed ved at offentliggøre tekniske fragmenter, som ingen almindelig læser kan fortolke. Grænsen mellem offentligt og privat skal designes, dokumenteres og revurderes, ikke improviseres af det team, der tilfældigvis ejer indholdsstyringssystemet.

AI-forordningen giver et juridisk eksempel. Artikel 49, stk. 4, placerer bestemte systemer i en sikker, ikke-offentlig sektion og begrænser adgangen til Kommissionen og de relevante nationale myndigheder. Artikel 71 gør de oplysninger, der er registreret i henhold til artikel 49, offentligt tilgængelige undtagen for de begrænsede sektioner, mens oplysninger registreret i henhold til artikel 60 kun er tilgængelige for markedsovervågningsmyndighederne og Kommissionen, medmindre udbyderen giver samtykke til offentlig adgang. Offentlighed er derfor en regel med undtagelser, ikke en universel standard.

Artikel 53 laver en tilsvarende sondring for generelle AI-modeller. Udbyderne skal stille teknisk dokumentation til rådighed for AI-kontoret og de nationale kompetente myndigheder efter anmodning, og de skal levere downstream-dokumentation til integrerende udbydere. Forpligtelserne er udtrykkeligt underlagt behovet for at overholde og beskytte intellektuelle ejendomsrettigheder, fortrolige forretningsoplysninger og forretningshemmeligheder. Et register bør ikke tvinge en udbyder til at offentliggøre materiale, som loven siger skal være kontrolleret. Fortrolighed bør heller ikke blive en høflig undskyldning for at tilbageholde eksistensen, formålet eller statusen af et system, der påvirker offentligheden.

Et praktisk modelregister kan bruge lag. Det offentlige lag identificerer modellen, udbyderen, status, tilsigtet formål, brede kapaciteter, kendte begrænsninger, adgangsveje, frigivelsesbetingelser, evidenslinks og ændringshistorik. Et kontrolleret lag indeholder detaljeret teknisk dokumentation, trusselsmodeller, begrænset evalueringsmateriale, hændelsesdetaljer og andre oplysninger, som autoriserede reviewere har brug for. Et privat operationelt lag indeholder hemmeligheder, personoplysninger og interne kontroloplysninger, som slet ikke bør eksponeres. Lagene er forskellige registreringer med links, ikke én side med en accordion mærket transparens.

God gennemsigtighed har en grænse. Den offentliggør det, folk har brug for at forstå systemet, og beskytter det, som autoriserede reviewere skal kontrollere.

Det offentlige lag skal stadig være specifikt. Det kan sige, at en model er adaptiv under brug, uden at afsløre en privat tilstandsrepræsentation. Det kan oplyse, at en rute kun er efter invitation, uden at offentliggøre invitationstokens. Det kan beskrive outputmodaliteter og en politik for indholdsmærkning uden at afsløre signeringsnøgler. Det kan sige, at en risikovurdering findes, og identificere dens omfang, uden at offentliggøre et sikkerhedsdiagram, der ville gøre tjenesten lettere at angribe.

Det kontrollerede lag har brug for sin egen ærlighed. Et dokument, der er markeret som fortroligt, er ikke automatisk fuldstændigt, aktuelt eller korrekt. Det har brug for en ejer, en version, en adgangsregel og en opbevaringsregel. Hvis et offentligt register linker til en kontrolleret post, skal linket afsløre dens status og ansvarlige rute, selv når indholdet er begrænset. Ellers ser offentligheden et sort hul og bliver bedt om at kalde det governance.

Versionering er der, hvor et register bliver nyttigt

De fleste registerfejl er ikke dramatiske. De er små handlinger af glemsomhed. En ny model erstatter en gammel, men posten redigeres på plads. En politik ændres, men afsnittet om tilsigtet brug forbliver. En udbyder flytter en rute fra intern test til en ekstern beta, men statusbadgen ændres, før den effektive dato er registreret. En implementering trækkes tilbage, men den gamle post forsvinder og tager historikken med sig. Nutiden ser ryddelig ud. Fortiden bliver ubesvarlig.

En versioneret post holder mindst fire ure adskilt. Indholdsversionen angiver, hvilken posttekst og hvilke felter der er aktuelle. Den effektive dato angiver, hvornår erklæringen gælder. Model- eller pakkeversionen angiver, hvilket teknisk objekt der beskrives. Verifikationsdatoen angiver, hvornår nogen kontrollerede posten. Disse datoer kan falde sammen. De behøver ikke. At behandle dem som én dato er bekvemt og ofte forkert.

Tidligere versioner skal forblive søgbare under en passende opbevaringsregel. Offentligheden har ikke brug for hver intern redigering, men den har brug for at vide, hvornår en væsentlig formål-, status-, rute-, begrænsnings- eller ejerskabserklæring ændrede sig. En ændringslog kan sige, hvad der flyttede sig, uden at afsløre private oplysninger. En maskinlæsbar post kan linke til den tidligere version og et manifest. En menneskelæsbar side kan forklare konsekvensen i almindeligt sprog. De to overflader skal være enige.

Versionering gør også tilbagetrækning meningsfuld. Hvis en model trækkes tilbage, fordi en rute er lukket, er det anderledes end en tilbagekaldelse, fordi en alvorlig defekt eller et juridisk problem kræver handling. Hvis en model forbliver i eksisterende private implementeringer, skal den offentlige post sige det. Hvis en efterfølger kun er kompatibel med nogle integrationer, skal migrationsgrænsen være synlig. Et register, der fjerner et navn uden at registrere hvorfor, efterlader enhver downstream-læser med at opfinde en grund.

Ændringshistorik er især vigtig for adaptive systemer. Modelidentiteten kan forblive stabil, mens fangede tilstande, begrænsningssæt, hentningskilder eller outputkontroller ændres. Registret kan angive, hvilke ændringer der skaber en ny pakke, hvilke ændringer der kræver en ny evaluering, og hvilke ændringer der forbliver inden for den erklærede identitetsgrænse. Dette er ikke overdreven detalje. Det er forskellen mellem et system, der kan afspilles, og et system, der kun kan huskes.

Ejere er en del af posten

En modelregistreringspost uden en ejer er en vejrmelding. Den fortæller dig, hvordan himlen så ud, og efterlader dig uden nogen at ringe til, når taget lækker. Rolle som udbyder og rolle som deployer er ikke det samme, og ingen af rollerne bør få lov til at opløses i ordet platform.

Udbyderen ejer modelidentiteten, udviklingsregistreringen og beslutningen om udgivelse inden for sit ansvarsområde. En deployer ejer beslutningen om at bruge et system under sin myndighed, herunder det lokale formål, sikkerhedsforanstaltninger, konsekvensvurdering og driftsmæssige kontroller. En downstream-udbyder kan integrere en generel model i et AI-system og bære ansvar, som modeludbyderen ikke kan se. Et offentligt register bør synliggøre disse relationer, hvor loven og risikoen kræver det.

Kontaktoplysninger er ikke administrativ fyld. De giver en berørt person en vej til at spørge, hvem der traf en beslutning, hvilken version der blev brugt, eller hvordan en korrektion kan anmodes. En generisk postkasse kan være passende, men den bør føre til en vedligeholdt proces. Posten bør også angive, om kontakten er til teknisk support, rettighedsanmodninger, indberetning af hændelser, indkøb eller offentlig ansvarlighed. Én indbakke kan ikke være alle institutioner på én gang, på trods af moderne formularens bedste intentioner.

Ejerskab bør omfatte myndighed til at ændre registreringen. Hvis den navngivne ejer ikke kan sætte en rute på pause, rette en status eller offentliggøre en tilbagetrækning, er posten dekorativ. Organisationen kan stadig have en juridisk ejer et andet sted, men det operationelle hul består. Et godt register gør ansvar synligt, før en hændelse tvinger folk til at tegne organisationen på en whiteboard.

Design af et register, folk faktisk kan læse

Den første læser af et modelregister er ikke altid en regulator eller en ingeniør. Det kan være en journalist, en indkøbsansvarlig, en lokal embedsmand, en forsker, en medarbejder, der er bedt om at bruge systemet, eller en person, der forsøger at forstå, hvorfor en automatiseret tjeneste berørte deres sag. Siden bør besvare det almindelige spørgsmål, før den griber til specialiseret ordforråd.

Start med identiteten og begrundelsen for posten. Sig, hvem der udbyder modellen, hvilken version der beskrives, hvilken slags objekt det er, og om det er en model, et integreret AI-system eller en deploymentspost. Sig, om det er internt, tilgængeligt for inviterede brugere, på markedet, suspenderet eller trukket tilbage. Læseren bør ikke skulle udlede status fra en downloadknap.

Vis derefter formålet og grænsen. Angiv, hvad modellen er beregnet til at gøre, hvilke anvendelser der ligger uden for kravet, og hvilke beslutninger den ikke er autoriseret til at træffe. Forklar, om modellen kan tilpasse sig under brug, om en fanget tilstand er nødvendig for afspilning, og om en downstream-rute ændrer betingelserne. En kapabilitetsliste uden et formål er en menu uden et køkken.

Brug progressiv afsløring. Toppen af siden bør være rolig og læsbar. Dybere sektioner kan vise maskinregistreringen, evalueringsmetoder, træningsindholdsoversigt, juridiske dokumenter og udgivelsesdokumentation. En offentlig læser kan stoppe efter det første lag. En revisor kan fortsætte. En ingeniør kan downloade en stabil repræsentation. At skjule detaljen er ikke enkelhed. Det er bare en langsomt indlæst overraskelse.

Tilgængelighed er en del af registrets troværdighed. Siden og maskinrepræsentationen bør bruge tydelige etiketter, tastaturnavigation, nyttige overskrifter og tekstalternativer til visualiseringer. Datoer bør ikke kun kodes som farve. Et rødt badge er ikke en status for en læser, der ikke kan se rød, og en graf, der ikke kan læses uden en mus, er ikke en tilgængelig forklaring. En opslagstavle på torvet bliver ikke offentlig, hvis rampen ender ved det første trin.

Maskinlæsbarhed betyder noget af en anden grund. Det gør det muligt for forskere at sammenligne poster, for offentlige instanser at opbygge registre, for revisorer at opdage forældede poster og for et downstream-værktøj at verificere, at siden og den strukturerede post henviser til samme version. Maskinlæsbart betyder ikke kun for maskiner. Den menneskelige side og maskinposten bør dele identifikatorer, status, datoer og links, med en integritetsrelation, der kan kontrolleres.

Registerfelter er beslutninger

Hvert felt fortæller læseren, hvad organisationen mener er værd at bevare. Et udbyderfelt siger, hvem der står bag modellen. Et modelnavn og en version siger, hvordan man adskiller den fra en efterfølger. Et rute-felt siger, hvor den kan nås. Et formålsfelt siger, hvilket arbejde udbyderen er parat til at beskrive. Et begrænsningsfelt siger, hvor beskrivelsen stopper. Skemaet er et styringsdokument skrevet i små rektangler.

Identitetsfelter bør være utvetydige og stabile. De kan omfatte en udbyders juridiske navn, modelnavnet, versionen, en unik reference og links til en kanonisk post. Hvis modellen kan leveres gennem flere produkter, bør registret adskille modelidentiteten fra integrationsfladen. Hvis et produkt indeholder flere modeller, bør posten ikke skjule det bag produktnavnet.

Statusfelter bør omfatte værdien, ikrafttrædelsesdatoen, begrundelsen eller autoriteten for overgangen samt enhver efterfølger eller forgænger. En dato, der blot er planlagt, bør markeres som planlagt. En post, der ikke er verificeret for nylig, bør sige det. Læseren bør kunne se, om en model er tilgængelig, foreslået, sat på pause eller historisk uden at fortolke et adjektiv opfundet af et marketingteam.

Formåls- og omfangsfelter bør beskrive arbejdet i vendinger, som en ikke-specialist kan forstå. De bør nævne tilsigtede brugere, hvor det er relevant, hvilke typer input og output der er involveret, og hvilke beslutninger eller handlinger modellen kan understøtte. De bør også angive forbudte eller ikke-understøttede anvendelser. En model, der kan generere tekst, er ikke dermed autoriseret til at skrive en berettigelsesafgørelse, og en model, der kan klassificere dokumenter, er ikke dermed autoriseret til at klassificere mennesker.

Kapacitetsfelter har brug for betingelser. Modaliteter, kontekstgrænser, værktøjsadgang, sprogdækning, tilpasningsadfærd og outputmarkering er kun meningsfulde, når de er knyttet til en rute og en udgivelse. En kapacitet, der findes i et internt eksperiment, men ikke i den eksterne rute, bør ikke præsenteres som én universel funktion. Registret er ikke en ønskeliste.

Datafelter bør sige, hvad modellen modtager, hvad den gemmer, hvad den lærer fra under brug, og hvad der bruges til evaluering, på det niveau, der kan offentliggøres uden at afsløre personlige eller fortrolige oplysninger. Opsummeringer af træningsindhold og rettighedspolitikker bør linkes, hvor det kræves. En vag sætning som "trænet på forskellige data" fortæller læseren næsten intet og beder dem om at levere en smigrende fortolkning.

Evalueringsfelter bør identificere spørgsmålet, metoden, datagrænsen, datoen, resultatet og begrænsningerne. Posten behøver ikke at gengive hver tabel, men den bør ikke vise en score uden en nævner eller en test uden et formål. Et godt evalueringslink lader læseren se, om beviserne dækker den tilsigtede anvendelse, en beslægtet anvendelse eller kun en laboratoriebetingelse.

Tilsynsfelter bør identificere, hvem der kan pause, tilsidesætte, gennemgå og undersøge systemet. Hvis en model kun anbefaler, så sig, hvilken handling der forbliver hos mennesket. Hvis en rute kan handle på eksterne systemer, så sig, hvilke tilladelser og porte der gælder. Hvis indberetning af hændelser har en dedikeret rute, så offentliggør den. Tilsyn er ikke et afsnit om at holde mennesker i loopet. Det er et kort over, hvem der kan gøre hvad, når systemet er usikkert.

Felter til dokumentation og integritet bør forbinde den offentlige post med en versionsstyret maskinjournal, en udgivelsespakke, en erklæring, en evalueringspakke eller en transparenslog. En hash kan fastslå, at en fil er ændret eller ikke ændret. Den kan ikke fastslå, at filen var sandfærdig, så registret bør holde påstanden og integritetskontrollen adskilt. Teknisk præcision er ikke en erstatning for dømmekraft, men den gør dømmekraft lettere at lokalisere.

Endelig bør ændringsfelter forklare historikken. Hvad ændrede sig, hvornår, hvorfor, hvem godkendte det, hvilke ruter er berørt, og om der er behov for en ny evaluering. Posten bør gøre det muligt at besvare det mest almindelige spørgsmål i rummet: hvad er anderledes i forhold til den journal, vi læste sidste måned?

Hvad et register kan fastslå

Et velvedligeholdt register kan fastslå, at et defineret objekt beskrives af en navngiven udbyder under en bestemt journalversion. Det kan fastslå det erklærede formål, status, adgangsrute og ejerskab. Det kan fastslå, hvilke støttedokumenter og integritetsjournaler en læser kan inspicere, og hvilke oplysninger der bevidst er kontrolleret. Det kan fastslå, at en ændring blev offentliggjort, og at en tidligere journal forbliver tilgængelig under den angivne opbevaringsregel.

Det kan også fastslå organisationens egen position. Hvis en udbyder siger, at en model er til beslutningsstøtte og ikke til automatisk afvisning, er udsagnet en offentlig grænse. Hvis en implementør siger, at en konsekvensvurdering er gennemført, skaber udsagnet et spørgsmål om, hvor opsummeringen eller den kontrollerede journal kan findes. Hvis en udbyder markerer en udgivelse som planlagt, forhindrer etiketten, at planen udgiver sig for at være historik.

Disse er nyttige fakta. De gør indkøb mere præcise, integration mindre spekulativ og offentlige spørgsmål lettere at dirigere. De gør også uenighed skarpere. En læser kan sige, at det erklærede formål er for bredt, at status er forældet, at begrænsningen mangler, eller at støttedokumentationen ikke dækker påstanden. Et register tjener sin berettigelse, når det gør den kritik mulig.

Hvad et register ikke kan fastslå

En registerpost kan ikke fastslå, at en model er præcis for enhver bruger, sikker i ethvert miljø, retfærdig på tværs af enhver gruppe eller lovlig til enhver implementering. Det kan ikke fastslå, at en offentlig myndighed fulgte den korrekte procedure, blot fordi et system er opført. Det kan ikke vise, at en menneskelig gennemgåer forstod et output, at en registreret person havde en reel klageadgang, eller at en hændelse ville blive opdaget i tide. Disse konklusioner kræver dokumentation om systemet i brug, institutionen, der bruger det, og de mennesker, der berøres af det.

Det kan heller ikke fastslå, at en model er uafhængig af sin leverandør, at en rute er suveræn, fordi den er hostet i Europa, eller at en åben licens får ansvar til at forsvinde. Ejerskab, jurisdiktion, forsyningskæde, driftskontrol og vedligeholdelse er separate spørgsmål. Et register kan udstille de navne og links, der er nødvendige for at stille dem. Det kan ikke besvare dem med typografi.

Et register kan heller ikke bevise det negative. En fraværende post kan betyde, at objektet er uden for anvendelsesområdet, at en undtagelse gælder, at offentliggørelsen er forsinket, eller at nogen undlod at offentliggøre. Læseren har brug for en klar dækningserklæring og en rute til at rapportere fejl. En offentlig opslagstavle er kun så pålidelig som den proces, der bemærker, når en meddelelse mangler.

En illustrativ post, ikke en skjult casestudie

Det følgende er et illustrativt postdesign, ikke en rapport om en reel organisation, model eller begivenhed. Det bruger ingen kunde, offentlig myndighed, implementeringsdato eller målt resultat. Formålet er at vise, hvordan en læser kan bevæge sig fra en offentlig post til en kontrolleret dokumentationsrute uden at forveksle de to lag.

  • Identitet: et udbydernavn, et modelnavn, en version og en stabil maskinidentifikator.
  • Status: kontrolleret evaluering med en ikrafttrædelsesdato og en note om, at der ikke er nogen ekstern adgangsvej åben.
  • Formål: assistance med dokumentanalyse for uddannet personale, hvor automatiske eksterne beslutninger ligger uden for det erklærede omfang.
  • Input og output: de repræsenterede modaliteter, de typer kildemateriale, der forventes, og de outputtyper, som adgangsvejen kan producere.
  • Begrænsninger: kendte grænser for sprog, domæne, aktualitet, sikkerhed og adgang, hver især knyttet til den relevante evaluering eller politik.
  • Tilsyn: den rolle, der kan sætte adgangsvejen på pause, gennemgangsprocessen for usikre resultater og kontaktpersonen ved hændelser.
  • Dokumentation: en offentlig oversigt, en versionsstyret teknisk registrering for autoriserede reviewere og en integritetsmanifest for de offentliggjorte filer.
  • Ændringer: et link til den tidligere registrering, en redegørelse for, hvad der er ændret, og den betingelse, der ville kræve en ny evaluering.

Intet i den registrering siger, at modellen er god. Den siger, hvad udbyderen er parat til at hævde, hvor kravet gælder, og hvordan en anden person kan teste eller udfordre det. Det er nok til en opslagstavle. Det er også nok til at forhindre, at en hel del brochuresprog ubemærket glider ind i en juridisk eller operationel beslutning.

Hvorfor præ-release-status fortjener respekt

Præ-release er ikke en svagere version af offentlig. Det er en anden tilstand. Intern testning kan understøtte ingeniør- og sikkerhedsarbejde, mens adgangen holdes kontrolleret. En inviteret beta kan udsætte en adgangsvej for eksterne parter, mens betingelser, omfang og retten til at stoppe bevares. En offentlig udgivelse ændrer, hvem der kan stole på systemet, og hvilke forpligtelser der påhviler udbyderen, integratører og deployere. Registret bør gøre disse overgange synlige i stedet for at behandle udgivelse som en enkelt trompetfanfare.

En præ-release-registrering kan stadig være nyttig for offentligheden. Den kan identificere modellen, udbyderen, den tilsigtede adgangsvej, status, den dokumentation, der findes, og den dokumentation, der stadig afventer. Den kan sige, at en dato er planlagt, og at adgangen ikke er åbnet. Den kan offentliggøre udgivelsesporten uden at lade, som om porten er passeret. Dette er et særligt godt sted for et register at være kedeligt. Kedelig status er sikrere end spændende tvetydighed.

Hos Dweve forsøger vi at anvende den disciplin på vores egen offentlige registrering. I vores Trust Centre er modelregistret markeret som præ-release og lister Dweve Loom 1.0 som intern præ-release-testning pr. 1. august 2026. Det registrerer, at ingen ekstern udgivelse har fundet sted på den dato, og lister 1. september 2026 som en planlagt dato for adgang til Unionens marked for en inviteret ekstern beta. Planlagt er det vigtige ord: posten gør ikke en plan til en begivenhed.

Vores offentlige registrering gør det også klart, at Loom er den eneste model, der er listet der, at den er proprietær snarere end udgivet under en open source-modellicens, og at vores produkter og separat licenserede open source-værktøjer ikke præsenteres som yderligere modeller. Denne grænse forhindrer, at en produktkatalog forveksles med et modelregister. Den holder også det offentlige krav lille nok til at kunne kontrolleres.

Det er alt, vi behøver at sige om Dweve her. Et modelregister er nyttigt, når det gør vores egen udgivelsesstatus mindre smigrende, men mere præcis. Det bør gøre det samme for alle andre.

Den offentlige-private grænse er en designbeslutning

Det stærkeste register er ikke det med flest felter. Det er det, hvis felter har en begrundelse, en ejer og en afgrænsning. Offentlige læsere har brug for en stabil identitet, et erklæret formål, en sandfærdig status, en ansvarlig organisation, brugbare links og tilstrækkelige begrænsninger til at forstå påstanden. Autoriseret personale har brug for dybere dokumentation, kontrollerede tekniske detaljer og en vej til at inspicere hændelser eller følsomme tests. Operatører har brug for hemmeligheder, tilladelser og driftsmanualer, som slet ikke skal hænge på opslagstavlen.

Disse lag bør være enige om de fakta, der krydser afgrænsningen. Hvis den offentlige side siger, at en rute er sat på pause, bør den kontrollerede registrering sige, hvem der satte den på pause, og hvorfor. Hvis en teknisk fil er erstattet, bør den offentlige post ikke fortsat linke til den som aktuel. Hvis en evaluering er begrænset, bør den offentlige side stadig angive dens omfang og status. Afgrænsningen bør begrænse adgangen til detaljer, ikke skabe tre uforenelige versioner af virkeligheden.

Læsere bør kunne stille fem enkle spørgsmål og få fem stabile svar. Hvad er dette objekt? Hvem er ansvarlig for det? Hvad må det gøre? Hvad er dets nuværende status? Hvilke beviser og retsmidler findes der, når påstanden udfordres? Et register, der besvarer disse spørgsmål, udfører allerede institutionelt arbejde. Et register, der ikke kan besvare dem, bør ikke reddes af animerede badges eller et dashboard med tolv filtre.

Der er en optimistisk måde at læse den europæiske bevægelse mod model- og algoritmeregistre. Det er ikke, at en database vil løse AI-styring. Det er, at offentlige institutioner bygger steder, hvor påstande har navne, datoer, ejere og afgrænsninger. Det er de små komponenter, hvorfra større ansvarlighedssystemer er bygget.

Opslagstavlen skal overleve forandring

Et modelregister er kun den nye offentlige opslagstavle, hvis opslagene forbliver læselige, efter at vejret skifter. Siden skal overleve en modelopdatering, et leverandørskifte, en ny implementering, en korrigeret begrænsning, en trukket rute og et vanskeligt spørgsmål fra en, der ikke var i rummet. Det betyder at bevare historik, mærke planer, linke til beviser og sige, hvad registreringen ikke kan bevise.

Arbejdet er mindre glamourøst end en lanceringsside. Det er også mere holdbart. En offentlig registrering, der adskiller modelidentitet fra implementeringsstatus, status fra intention, dokumentation fra bevis og offentlige fakta fra kontrollerede beviser, giver folk noget bedre end beroligelse. Den giver dem en vej gennem systemet.

Gode registre beder ikke læserne om at stole på en farve, et tal eller et berømt navn. De gør påstanden snæver nok til at inspicere og afgrænsningen klar nok til at udfordre. De efterlader et spor til de mennesker, der kan svare, de registreringer, der kan kontrolleres, og den beslutning, der kan ændres. Det er en meget gammel borgerlig idé, klædt i et rimeligt moderne filformat.

Hæng opslaget på tavlen. Læg beviserne bag det. Behold det gamle opslag, hvor nogen stadig kan læse det. Lad derefter offentligheden beslutte, hvad registreringen fortjener.

Kilder