Model registr je nová veřejná nástěnka

Registr modelů může veřejnosti sdělit, čím systém je, kdo za ním stojí, kde jej lze použít a co se změnilo. Nemůže z úhledného záznamu udělat důkaz, že je...

Model registr je nová veřejná nástěnka

The page that starts by admitting it is not magic

The first thing a useful model registry does is disappoint you. It does not say that a model is safe. It does not say that an organisation is competent. It does not turn a supplier's promise into a fact, or a green label into a reason to stop asking questions. It gives you a bounded record instead: this is the thing, this is the version, this is the owner, this is the declared purpose, this is the status, and this is where the supporting evidence is kept.

That modesty is the beginning of public trust. A registry is a noticeboard, not a shrine. A noticeboard tells a neighbourhood what is being built, who is responsible for it and which notices have been replaced. It does not certify the workmanship of every building on the street. It gives people a place to start looking, and a way to notice when the notice itself has gone stale.

Open the Dutch government's Algorithm Register and the design is unusually plain. Government organisations publish information about algorithms they use in their work. The register focuses on impactful algorithms, including high-risk AI systems, and gives visitors an explanation of how those systems work. The page also makes a useful distinction that many glossy AI catalogues avoid: an algorithm is a set of rules and instructions a computer follows to calculate an answer, not a personality with a product launch.

The page is public because the work is public. A citizen does not need a private account to discover that an authority uses an algorithm, what the authority says it is for, or where to ask the next question. That does not make every technical detail public. It does make the existence of the system, its declared role and its institutional owner harder to hide behind a procurement file.

Model registries are becoming the same kind of civic object. They sit between a technical catalogue and a public record. Engineers need a stable identity and a version to integrate. Operators need a status and an owner to run. Downstream providers need capabilities, limits and conditions. Auditors need a trail back to evidence. Affected people need to know that a system exists and how to challenge what it does. One page cannot answer all of those questions, but a well-designed registry can point each reader to the right layer.

The danger is that the word registry makes a document sound more complete than it is. A phone book is a registry, but it cannot tell you whether a number still works. A shipping manifest is a registry, but it cannot tell you whether the cargo survived the voyage. A model record is a registry, but it cannot carry the entire proof of performance, fairness, security, legality and social consequence. The useful question is not whether a model is in the registry. It is what the entry establishes, what it leaves open and what a reader can inspect next.

A noticeboard is a promise of selection

An inventory tries to count everything. A catalogue tries to help you choose. A register makes a more formal promise: these entries belong to a defined scope, they have an owner, and the information is maintained under a rule. The promise is about selection before it is about software. Without a stated scope, an attractive list is only a collection of things that happened to be remembered.

That is why every registry needs a sentence that says what it includes and what it deliberately leaves out. The EU AI Act's central database is not a list of every model circulating in Europe. Article 71 establishes an EU database for specified high-risk AI systems and the systems that are registered under the routes described in Article 49. The Dutch Algorithm Register is not a list of every calculation made in a government office. It focuses on impactful algorithms, including high-risk AI systems. The boundary is part of the record, not a footnote for lawyers.

Modelový registr by měl na stejnou otázku ohraničení odpovědět v běžném jazyce. Uvádí základní modely, nasazené systémy AI, interní experimenty, jemně vyladěné odvozené modely, balíčky pro hodnocení, nebo pouze modely nabízené externím uživatelům? Získá nová konfigurace nasazení nový záznam, novou verzi, nebo propojený záznam o nasazení? Počítá se zachycený stav adaptivního systému jako stejná identita modelu? Pokud registr tyto otázky nerozhodne, každý čtenář si je rozhodne jinak. Tak se z krátkého seznamu stane dlouhý spor.

Výběr také dává nepřítomnosti smysl. Pokud rozsah říká, že se musí objevit všechny veřejně přístupné vysoce rizikové systémy, chybějící záznam je problém správy. Pokud rozsah říká, že jsou zahrnuty pouze modely uváděné na trh, interní experiment může chybět záměrně. Veřejnost si nemůže vyložit prázdný výsledek vyhledávání, aniž by věděla, která z těchto dvou situací nastává. Mlčení není neutrální, když registr nevysvětlil svůj slovník.

Na tom, že se to řekne jasně, je malá administrativní ctnost. Registry nemusí předstírat, že vědí všechno. Musí čtenáři sdělit, co vědí, za co odpovídají a co stojí mimo rámec. Registr si svou autoritu získává tím, že hranici svého rozsahu učiní explicitní, ne tím, že ozdobí obálku. Technologie je novější. Instinkt pro papírování není.

Co evropské nařízení skutečně klade na stůl

Nařízení o AI dává slovu registrace konkrétní právní podobu, ale ne jedinou univerzální. Článek 49 ukládá poskytovateli nebo pověřenému zástupci povinnost zaregistrovat určité vysoce rizikové systémy AI před jejich uvedením na trh nebo do provozu. Rovněž vyžaduje registraci v případě, že poskytovatel dospěl k závěru, že systém není vysoce rizikový za podmínek čl. 6 odst. 3. Veřejné orgány a rovnocenné veřejné subjekty, které nasazují určité vysoce rizikové systémy, mají vlastní registrační povinnost, včetně registrace jejich používání.

Tentýž článek činí hranici mezi veřejným a soukromým explicitní. Určité vysoce rizikové systémy používané v oblasti vymáhání práva, migrace, azylu a správy hranic se registrují v zabezpečené neveřejné části. Vysoce rizikové systémy podle druhého bodu přílohy III se registrují na vnitrostátní úrovni. Toto nejsou detaily implementace, které lze vyřešit v přehledové desce. Popisují různé publikum, různá rizika a různá oprávnění k nahlížení do záznamu.

Článek 71 říká, že Komise ve spolupráci s členskými státy zřídí a udržuje databázi EU. Informace registrované podle článku 49 mají být přístupné a veřejně dostupné uživatelsky přívětivým způsobem a měly by být snadno prohledávatelné a strojově čitelné, s výjimkami pro omezené části. Databáze by měla obsahovat osobní údaje pouze v nezbytném rozsahu. To je užitečná definice veřejné transparentnosti: záznam, který lidé mohou najít a zpracovat, aniž by se ze záznamu stal druhý problém s osobními údaji.

Příloha VIII je místem, kde se nástěnka stává konkrétní. Pro poskytovatele registrujícího vysoce rizikový systém záznam zahrnuje totožnost poskytovatele a kontaktní údaje, jednoznačný obchodní název nebo označení, zamýšlený účel, základní popis použitých informací a provozní logiky, stav systému, příslušná osvědčení, členské státy, ve kterých je systém uveden na trh nebo do provozu, prohlášení o shodě, návod k použití a volitelnou adresu URL pro další informace. Toto nejsou marketingová pole. Jsou to nástroje pro identifikaci a odpovědnost.

Pro veřejného nasazovatele je informace jiná. Záznam obsahuje identitu nasazovatele, osobu, která informaci předkládá, URL záznamu poskytovatele a souhrny posouzení dopadů na základní práva a případně posouzení dopadů na ochranu osobních údajů. Tento rozdíl je důležitý, protože poskytovatel modelu a veřejný orgán nevědí totéž a nenesou stejnou odpovědnost. Registr, který je sloučí do jedné karty dodavatele, smazává místo, kde se systém setkává s institucí.

Právní databáze má proto vrstevnatý charakter. Zaznamenává identitu systému. Zaznamenává poskytovatele. Může zaznamenat nasazovatele a použití. Zaznamenává status a podpůrná prohlášení. Nenahrazuje technickou dokumentaci, řízení rizik, systém kvality ani monitorování po uvedení na trh, které nařízení vyžaduje jinde. Databáze je veřejným rejstříkem odpovědných skutečností. Není celým spisem o souladu.

Tento rozdíl se snadno ztrácí, protože lidé mají rádi jednu URL, která jako by obsahovala odpověď. Právo je méně sentimentální. Vytváří veřejný povrch, omezené povrchy a řízené cesty k dokumentaci. Veřejný povrch musí být použitelný. Omezený povrch musí zůstat omezený. Dokumentace musí zůstat dostupná příslušnému orgánu nebo navazujícímu poskytovateli, který ji potřebuje. Seriózní registr je rozhraním mezi těmito povinnostmi, nikoli zkratkou kolem nich.

Registr se stává užitečným, když jsou identita, status a změna propojeny. Barva bez přechodu je jen dekorace.

Existuje ještě jedna důležitá hranice. Ustanovení o modelech umělé inteligence pro obecné účely v nařízení o umělé inteligenci nejsou totéž co veřejný katalog všech takových modelů. Článek 53 ukládá poskytovatelům povinnost vést technickou dokumentaci, zpřístupňovat informace navazujícím poskytovatelům systémů umělé inteligence, udržovat politiku autorských práv a zveřejňovat dostatečně podrobný souhrn tréninkového obsahu. Pokyny Komise vysvětlují, že technická dokumentace je na vyžádání určena úřadu pro umělou inteligenci a vnitrostátním příslušným orgánům, zatímco navazující dokumentace pomáhá integrátorům pochopit možnosti a omezení. Jen část tohoto materiálu patří na veřejnou nástěnku.

Nařízení také ukládá Komisi povinnost zveřejnit a udržovat seznam modelů umělé inteligence pro obecné účely se systémovým rizikem. Seznam modelů se systémovým rizikem je cenným veřejným signálem, ale není týmž objektem jako úplný registr modelů. Má užší účel a musí respektovat práva duševního vlastnictví, důvěrné obchodní informace a obchodní tajemství. Nazývat každý seznam registrem je neškodné jen do té doby, než někdo předpokládá, že seznam dokazuje víc, než dokazuje.

Model není jediný řádek

Lidé mluví o modelu, jako by to byla sklenice na polici. Jméno je vytištěno na štítku, verze je vyražena pod ním a obsah zůstává nezměněn, dokud někdo neotevře víčko. Tento obrázek funguje pro statický artefakt. Stává se nespolehlivým, když je model upraven, doladěn, zabalen do nástrojů, zpřístupněn několika cestami nebo měněn během používání.

Registr potřebuje alespoň dvě identity: identitu modelu a identitu toho, co skutečně běželo. První odpovídá na otázku, který model poskytovatel myslí. Druhá může identifikovat zachycený stav, zapečetěný balíček nasazení, místní export nebo balíček pro přehrání. Jejich propojení brání dvěma opačným chybám. Služba může přestat předstírat, že každý živý stav má jeden trvalý hash, a provozovatel může přestat předstírat, že samotný digest balíčku popisuje celou rodinu modelů.

Čísla verzí jsou užitečná pouze tehdy, když je viditelné pravidlo jejich změny. Verze může znamenat novou sadu naučených parametrů, nový katalog omezení, změnu ve vyhledávání, změněnou bezpečnostní vrstvu nebo podstatnou změnu v provozní smlouvě. Pokud poskytovatel používá jedno číslo pro všechny tyto případy, stává se toto číslo zdvořilým způsobem, jak říci, že se něco změnilo. Registr by měl propojit nástupce s jeho předchůdcem a uvést, která část smlouvy se změnila.

Adaptivní chování přidává další vrásku. Pokud se systém může měnit během používání, měl by to záznam uvést. To není přiznání, že je systém nekontrolovaný. Je to přiznání, že slovo verze nemůže zastat veškerou práci. Registr může udržovat stabilní identitu modelu, připojovat k ní časově ohraničené zachycené stavy a zaznamenávat podmínky, za kterých byl stav vytvořen. Smyslem není zmrazit živý systém do falešné fotografie. Smyslem je dát každé smysluplné fotografii datum a rám.

Identita má také společenský rozměr. Název modelu nestačí, když několik právnických osob distribuuje podobné artefakty, když downstream poskytovatel model změní nebo když produkt vloží model pod svůj vlastní název. Registr by měl zviditelnit řetězec: poskytovatele, distributora, pokud se liší, nasazovatele, pokud je relevantní, a systém či trasu, ve které je model používán. Osoba dotčená rozhodnutím by neměla provádět forenzní archeologii na logu produktu, aby zjistila, kdo za něj může nést odpovědnost.

Status je sloveso, ne barva

Pole statusu jsou často zobrazována jako odznaky, protože odznaky se úhledně vejdou na karty. Odznak není status. Status je prohlášení o akci a čase. Interní testování znamená jednu věc, když je přístup řízen poskytovatelem. Předběžné vydání znamená něco jiného, když pozvaní externí uživatelé mohou používat trasu za definovaných podmínek. Na trhu, v provozu, pozastaveno, staženo a odvoláno, každý z těchto stavů nese jiný provozní důsledek.

Užitečný záznam uvádí, co status umožňuje a co ne. Pokud je systém pouze interní, čtenář by neměl z dokumentační stránky vyvozovat veřejnou dostupnost. Pokud je plánováno externí beta testování, mělo by být datum označeno jako plánované, nikoli prezentováno jako vydání. Pokud je systém stažen, měl by záznam zachovat předchozí identitu a uvést, zda stávající nasazení mohou pokračovat, musí být ukončena nebo jsou migrována. Status bez data účinnosti je fáma v uniformě.

Status by měl mít také vlastníka. Kdo může přesunout záznam z interního na externí? Kdo může pozastavit trasu? Kdo může prohlásit, že se datum vydání změnilo? Jaké důkazy jsou před přechodem vyžadovány? Tyto otázky patří do provozního procesu, ale veřejný záznam by měl učinit výsledné rozhodnutí čitelným. Registr, který zobrazuje aktuální odznak, ale skrývá autoritu za ním, je pouze nástěnka nálad pro řízení.

Ilustrativní příklad, nikoli skutečný záznam: záznam by mohl uvádět, že model je v řízeném hodnocení, že není otevřena žádná externí trasa, že je pro pozdější datum navržena zkouška pouze na pozvání a že návrh zůstává podmíněn schvalovací branou. Příklad nejmenuje žádnou organizaci, model ani událost. Jeho účelem je ukázat, jak záznam odděluje plán od skutečnosti. Stejná disciplína platí pro stažení, tvrzení o schopnostech nebo certifikaci, která dosud nebyla vydána.

Toto oddělení chrání čtenáře před známým trikem. Budoucí záměr se opakuje tak často, že začne znít jako historie. Registry by měly být místem, kde tento trik přestane fungovat. Záznam může zobrazovat plán, ale plán si musí ponechat svůj štítek. Evropa má kalendářů dost. Datum není skutečností jen proto, že bylo umístěno do barevného obdélníku.

Registr není důkazní místnost

Veřejný záznam by měl být dostatečně krátký na přečtení a dostatečně silný na to, aby nasměroval vážnou otázku. Místnost s důkazy za ním může být mnohem větší. Proč to tak je, ilustrují povinnosti podle článku 53 nařízení o umělé inteligenci. Poskytovatelé modelů umělé inteligence pro obecné účely musí vypracovat a uchovávat technickou dokumentaci pokrývající vývoj, trénování, testování a vyhodnocování. Musí zpřístupnit informace a dokumentaci poskytovatelům navazujících systémů umělé inteligence, aby tito poskytovatelé mohli porozumět schopnostem a omezením. Musí zveřejnit dostatečně podrobný souhrn trénovacího obsahu a udržovat politiku týkající se autorského práva Unie.

Tyto povinnosti slouží různým čtenářům. Příslušný orgán může potřebovat úplný technický záznam. Poskytovatel navazujícího systému potřebuje informace o integraci a omezeních. Veřejnost potřebuje jasný popis toho, co model je a jak je ohraničen souhrn jeho trénovacího obsahu. Záznam v registru může tyto roviny propojit, aniž by předstíral, že veřejná stránka má obsahovat každý bezpečnostně citlivý detail, každý soubor vah nebo každý testovací vzorek obsahující osobní údaje.

Ani odkazy nejsou důkazem samy o sobě. Registr, který odkazuje na zprávu o vyhodnocení, by měl uvést, kterou verzi zpráva pokrývá, co vyhodnocení měřilo a které podmínky omezují výsledek. Odkaz na souhrn trénování by měl říci, zda souhrn pokrývá předtrénování, dolaďování nebo vymezený soubor kategorií obsahu. Odkaz na certifikát by měl ukázat, kdo jej vydal, co certifikuje a kdy vyprší. Jinak je stránka policí s nezalepenými obálkami.

Stejné pravidlo platí pro bezpečnostní tvrzení. Registr může uvést, že existuje posouzení rizik, že je připojen plán monitorování nebo že je zveřejněn postup pro závažné incidenty. Neměl by naznačovat, že existence dokumentu dokazuje, že je daný systém bezpečný. Dokumentace je způsob, jak prověřit tvrzení. Není náhradou za tvrzení.

Právě zde veřejné psaní potřebuje disciplínu. Karta modelu, stránka o transparentnosti nebo záznam v registru může popsat zamýšlené použití a známá omezení. Nemůže použít slovo důvěryhodný jako závěr, pokud důkazy a rozsah tento závěr neumožňují obhájit. Čestná věta je často užitečnější: toto jsou podmínky, které jsme vyhodnotili, toto jsou omezení, která jsme pozorovali, a toto jsou případy, u kterých netvrdíme, že je pokrýváme.

Nizozemský registr ukazuje hodnotu obyčejného veřejného seznamu

Nizozemský registr algoritmů je poučný právě proto, že se nesnaží vypadat jako futuristická řídicí místnost. Poskytuje vládním organizacím veřejné místo pro popis algoritmů používaných v jejich práci. Jeho anglická stránka upozorňuje, že popisy byly automaticky přeloženy a že nizozemský originál je pro popis závaznou verzí. Tato malá poznámka je lekcí o původu informací. Přístup není totéž co přesnost a přeložené rozhraní by nemělo vymazat zdrojový jazyk.

Veřejný účel registru je také vyjádřen bez teatrálního jazyka. Zaměřuje se na algoritmy s významným dopadem, včetně vysoce rizikových systémů umělé inteligence, a návštěvníkům poskytuje vhled do toho, jak fungují. Návštěvník může procházet algoritmy, organizace a šablony. Cílem není nabídnout skóre pro každý algoritmus. Cílem je učinit používání algoritmických systémů natolik viditelným, aby lidé, organizace a média mohli sledovat, zpochybňovat a prověřovat vládní praxi.

Doprovodný nizozemský Algoritmekader proměňuje tento účel v požadavek. Uvádí, že pokud se neuplatní výjimka, veřejné orgány zveřejňují algoritmy s významným dopadem a vysoce rizikové systémy umělé inteligence v registru. Rovněž uvádí, že nesprávné nebo neúplné zveřejnění může ztížit dotčeným lidem a dalším zúčastněným stranám pochopení a zpochybnění používání technologií, které se mohou dotýkat jejich práv. Transparentnost tedy není pouze zdvořilostí. Kvalita záznamu může ovlivnit kvalitu veřejné kontroly.

The same guidance is careful about scope. It describes the register as a tool within a wider set of laws and requirements, and warns that the framework is not complete and may not include sector-specific legislation. The fact that an algorithm appears in a register does not settle every legal or ethical question. The fact that it does not appear does not prove that it is harmless. A reader needs the register's inclusion rule and the surrounding framework to interpret the entry.

That is the useful pattern for model registries. A public list should be easy to find, written for people who were not in the procurement meeting, and connected to the records that carry more detail. It should expose uncertainty rather than hide it. It should say when an English description is machine-translated. It should explain which systems are included and which are not. It should make a missing or stale entry a visible governance issue instead of a private disappointment.

There is no need to invent a dramatic incident to see why this matters. A citizen trying to understand an automated government process already has a practical question: is a system being used, by whom, for what purpose and under which explanation? A registry gives that question an address. The answer may still be incomplete. At least the institution cannot pretend that there is nowhere to ask.

Public does not mean naked

Transparency becomes counterproductive when it is treated as a command to publish everything. Public records can expose personal data, security-sensitive information, proprietary details and attack paths. They can also create false confidence by publishing technical fragments that no ordinary reader can interpret. The public-private boundary must be designed, documented and reviewed, not improvised by whichever team happens to own the content-management system.

The AI Act gives a legal example. Article 49(4) places particular systems in a secure non-public section and limits access to the Commission and the relevant national authorities. Article 71 makes the information registered under Article 49 publicly available except for the restricted sections, while information registered under Article 60 is accessible only to market-surveillance authorities and the Commission unless the provider consents to public access. Publicity is therefore a rule with exceptions, not a universal default.

Article 53 makes a similar distinction for general-purpose models. Providers must make technical documentation available to the AI Office and national competent authorities on request, and they must provide downstream documentation to integrating providers. The obligations are explicitly subject to the need to observe and protect intellectual-property rights, confidential business information and trade secrets. A registry should not force a provider to publish the material that the law says should be controlled. Nor should confidentiality become a polite excuse for withholding the existence, purpose or status of a system that affects the public.

A practical model registry can use layers. The public layer identifies the model, provider, status, intended purpose, broad capabilities, known limits, access routes, release conditions, evidence links and change history. A controlled layer carries detailed technical documentation, threat models, restricted evaluation material, incident details and other information that authorised reviewers need. A private operational layer carries secrets, personal data and internal control information that should not be exposed at all. The layers are different records with links, not one page with an accordion labelled transparency.

Dobrá transparentnost má své hranice. Zveřejňuje to, co lidé potřebují k pochopení systému, a chrání to, co musí kontrolovat oprávnění recenzenti.

Veřejná vrstva by měla být stále konkrétní. Může říci, že je model během používání adaptivní, aniž by odhalovala soukromou reprezentaci stavu. Může uvést, že je trasa pouze na pozvání, aniž by zveřejňovala pozvánkové tokeny. Může popsat výstupní modality a politiku označování obsahu, aniž by odhalovala podpisové klíče. Může říci, že existuje hodnocení rizik a určit jeho rozsah, aniž by zveřejňovala bezpečnostní diagram, který by usnadnil útok na službu.

Řízená vrstva potřebuje vlastní poctivost. Dokument označený jako důvěrný není automaticky úplný, aktuální ani správný. Potřebuje vlastníka, verzi, pravidlo přístupu a pravidlo uchovávání. Pokud veřejný registr odkazuje na řízený záznam, měl by odkaz odhalit jeho stav a odpovědnou trasu, i když je obsah omezen. Jinak veřejnost vidí černou díru a má to nazývat správou.

Verzování je místo, kde se registr stává užitečným

Většina selhání registrů není dramatická. Jsou to drobné skutky zapomnění. Nový model nahradí starý, ale záznam je upraven na místě. Politika se změní, ale odstavec o zamýšleném použití zůstává. Poskytovatel přesune trasu z interního testování na externí betu, ale odznak stavu se změní před zaznamenáním data účinnosti. Nasazení je staženo, ale starý záznam zmizí a vezme s sebou historii. Přítomnost vypadá uklizeně. Minulost se stává nezodpověditelnou.

Verzovaný záznam udržuje oddělené alespoň čtyři data. Verze obsahu říká, který text a která pole záznamu jsou aktuální. Datum účinnosti říká, kdy prohlášení platí. Verze modelu nebo balíčku říká, který technický objekt je popisován. Datum ověření říká, kdy někdo záznam zkontroloval. Tato data se mohou shodovat. Nemusí. Zacházet s nimi jako s jedním datem je pohodlné a často chybné.

Předchozí verze by měly zůstat dohledatelné podle vhodného pravidla uchovávání. Veřejnost nepotřebuje každou interní úpravu, ale potřebuje vědět, kdy se změnilo podstatné prohlášení o účelu, stavu, trase, omezení nebo vlastnictví. Protokol změn může říci, co se změnilo, aniž by odhaloval soukromé informace. Strojově čitelný záznam může propojit předchozí verzi a manifest. Stránka pro lidi může vysvětlit důsledek běžným jazykem. Tyto dva povrchy by měly souhlasit.

Verzování také dává stažení smysl. Pokud je model stažen, protože je trasa uzavřena, je to jiné než svolání kvůli vážné vadě nebo právnímu problému, který vyžaduje opatření. Pokud model zůstává ve stávajících soukromých nasazeních, měl by to veřejný záznam říci. Pokud je nástupce kompatibilní pouze pro některé integrace, měla by být hranice migrace viditelná. Registr, který odstraní jméno bez zaznamenání důvodu, nechá každého downstream čtenáře vymyslet si důvod.

Historie změn je obzvláště důležitá pro adaptivní systémy. Identita modelu může zůstat stabilní, zatímco se mění zachycené stavy, sady omezení, zdroje vyhledávání nebo výstupní kontroly. Registr může uvést, které změny vytvářejí nový balíček, které změny vyžadují nové hodnocení a které změny zůstávají v rámci deklarované hranice identity. Toto není přehnaný detail. Je to rozdíl mezi systémem, který lze přehrát, a systémem, který lze pouze pamatovat.

Vlastníci jsou součástí záznamu

A model registry entry without an owner is a weather report. It tells you what the sky looked like and leaves you with no one to call when the roof leaks. Provider and deployer roles are not the same, and neither role should be allowed to dissolve into the word platform.

The provider owns the model identity, the development record and the release decision within its scope. A deployer owns the decision to use a system under its authority, including the local purpose, safeguards, impact assessment and operating controls. A downstream provider may integrate a general-purpose model into an AI system and carry responsibilities that the model provider cannot see. A public registry should expose those relationships where the law and the risk require them.

Contact information is not administrative filler. It gives an affected person a route to ask who made a decision, which version was used or how a correction can be requested. A generic mailbox can be appropriate, but it should lead to a maintained process. The entry should also say whether the contact is for technical support, rights requests, incident reporting, procurement or public accountability. One inbox cannot be every institution at once, despite the best efforts of modern forms.

Ownership should include authority to change the record. If the named owner cannot pause a route, correct a status or publish a withdrawal, the entry is decorative. The organisation may still have a legal owner somewhere else, but the operational gap remains. A good registry makes responsibility visible before an incident forces people to draw the organisation on a whiteboard.

Designing a registry people can actually read

The first reader of a model registry is not always a regulator or an engineer. It may be a journalist, a procurement officer, a local official, a researcher, an employee asked to use the system, or a person trying to understand why an automated service touched their case. The page should answer the common question before it reaches for specialised vocabulary.

Start with the identity and the reason for the entry. Say who provides the model, which version is being described, what kind of object it is and whether it is a model, an integrated AI system or a deployment record. Say whether it is internal, available to invited users, on the market, suspended or withdrawn. The reader should not have to infer the status from a download button.

Then show the purpose and the boundary. State what the model is intended to do, which uses are outside the claim and which decisions it is not authorised to make. Explain whether the model can adapt during use, whether a captured state is required for replay, and whether a downstream route changes the conditions. A capability list without a purpose is a menu without a kitchen.

Use progressive disclosure. The top of the page should be calm and readable. Deeper sections can expose the machine record, evaluation methods, training-content summary, legal documents and release evidence. A public reader can stop after the first layer. An auditor can continue. An engineer can download a stable representation. Hiding the detail is not simplicity. It is just a slow-loading surprise.

Accessibility is part of the record's credibility. The page and machine representation should use clear labels, keyboard navigation, useful headings and text alternatives for visualisations. Dates should not be encoded only as colour. A red badge is not a status for a reader who cannot see red, and a graph that cannot be read without a mouse is not an accessible explanation. A noticeboard in the town square does not become public if the ramp ends at the first step.

Strojová čitelnost je důležitá z jiného důvodu. Umožňuje výzkumníkům porovnávat záznamy, veřejným orgánům vytvářet inventáře, auditorům odhalovat zastaralé záznamy a navazujícím nástrojům ověřit, že se stránka a strukturovaný záznam týkají stejné verze. Strojově čitelný neznamená pouze pro stroje. Lidská stránka a strojový záznam by měly sdílet identifikátory, stav, data a odkazy, přičemž vztah integrity musí být ověřitelný.

Pole registru jsou rozhodnutí

Každé pole čtenáři říká, co organizace považuje za hodné uchování. Pole poskytovatele říká, kdo za modelem stojí. Název modelu a verze říkají, jak jej odlišit od nástupce. Pole trasy říká, kde je model dostupný. Pole zamýšleného účelu říká, jakou práci je poskytovatel připraven popsat. Pole omezení říká, kde popis končí. Schéma je správní dokument napsaný v malých obdélnících.

Pole identity by měla být jednoznačná a stabilní. Mohou zahrnovat právní název poskytovatele, název modelu, verzi, jedinečný odkaz a odkazy na kanonický záznam. Pokud lze model nabízet prostřednictvím několika produktů, měl by registr rozlišovat identitu modelu od integračního rozhraní. Pokud produkt obsahuje několik modelů, neměl by záznam tuto skutečnost skrývat za název produktu.

Pole stavu by měla zahrnovat hodnotu, datum účinnosti, důvod nebo orgán odpovědný za přechod a případného nástupce či předchůdce. Datum, které je pouze plánované, by mělo být označeno jako plánované. Záznam, který nebyl nedávno ověřen, by to měl uvést. Čtenář by měl být schopen poznat, zda je model dostupný, navrhovaný, pozastavený nebo historický, aniž by musel interpretovat přídavné jméno vymyšlené marketingovým týmem.

Pole účelu a rozsahu by měla popisovat práci způsobem srozumitelným pro laika. Měla by uvádět zamýšlené uživatele tam, kde to má význam, druhy vstupů a výstupů a rozhodnutí či úkony, které může model podporovat. Měla by také uvádět zakázaná nebo nepodporovaná použití. Model, který umí generovat text, tím není oprávněn psát rozhodnutí o nároku, a model, který umí třídit dokumenty, tím není oprávněn třídit lidi.

Pole schopností potřebují podmínky. Modality, limity kontextu, přístup k nástrojům, jazykové pokrytí, chování při adaptaci a označování výstupů mají smysl pouze ve spojení s trasou a vydáním. Schopnost, která existuje v interním experimentu, ale ne ve vnější trase, by neměla být prezentována jako jedna univerzální funkce. Registr není seznam přání.

Pole dat by měla uvádět, co model přijímá, co ukládá, z čeho se učí během používání a co se používá pro vyhodnocení, a to v míře, kterou lze zveřejnit bez odhalení osobních nebo důvěrných údajů. Souhrny trénovacího obsahu a zásady práv by měly být propojeny tam, kde to vyžadují předpisy. Vágní věta typu trénováno na rozmanitých datech čtenáři neřekne téměř nic a žádá ho, aby si domyslel lichotivý výklad.

Pole vyhodnocení by měla identifikovat otázku, metodu, hranici dat, datum, výsledek a omezení. Záznam nemusí reprodukovat každou tabulku, ale neměl by zobrazovat skóre bez jmenovatele ani test bez účelu. Dobrý odkaz na vyhodnocení umožní čtenáři zjistit, zda důkazy pokrývají zamýšlené použití, příbuzné použití nebo pouze laboratorní podmínky.

Pole dohledu by měla identifikovat, kdo může systém pozastavit, přepsat, přezkoumat a vyšetřit. Pokud model pouze doporučuje, uveďte, jaký úkon zůstává na člověku. Pokud trasa může zasahovat do externích systémů, uveďte, která oprávnění a brány se uplatňují. Pokud má hlášení incidentů vyhrazenou trasu, zveřejněte ji. Dohled není odstavec o udržení lidí ve smyčce. Je to mapa toho, kdo může co dělat, když si systém není jistý.

Pole důkazů a integrity by měla propojit veřejný záznam s verzovaným strojovým záznamem, balíčkem vydání, prohlášením, balíčkem hodnocení nebo protokolem transparentnosti. Hash může prokázat, že se soubor změnil nebo nezměnil. Nemůže prokázat, že byl soubor pravdivý, takže registr by měl oddělovat tvrzení od kontroly integrity. Technická přesnost nenahrazuje úsudek, ale usnadňuje jeho lokalizaci.

A konečně, pole změn by měla vysvětlit historii. Co se změnilo, kdy, proč, kdo to schválil, kterých tras se to týká a zda je potřeba nové hodnocení. Záznam by měl umožnit odpovědět na nejběžnější otázku v místnosti: co se liší od záznamu, který jsme četli minulý měsíc?

Co může registr prokázat

Dobře udržovaný registr může prokázat, že definovaný objekt popisuje jmenovaný poskytovatel v rámci konkrétní verze záznamu. Může prokázat deklarovaný účel, stav, přístupovou trasu a vlastnictví. Může prokázat, které podpůrné dokumenty a záznamy integrity může čtenář zkontrolovat a které informace jsou záměrně řízené. Může prokázat, že změna byla zveřejněna a že předchozí záznam zůstává dostupný podle stanoveného pravidla uchovávání.

Může také prokázat postoj samotné organizace. Pokud poskytovatel uvede, že model slouží k podpoře rozhodování a nikoli k automatickému odmítání, je toto prohlášení veřejnou hranicí. Pokud nasazovatel uvede, že hodnocení dopadů bylo dokončeno, vytváří to otázku, kde lze najít shrnutí nebo řízený záznam. Pokud poskytovatel označí vydání jako plánované, štítek zabrání tomu, aby se plán vydával za historii.

To jsou užitečné skutečnosti. Díky nim je zadávání zakázek přesnější, integrace méně spekulativní a veřejné dotazy snáze směrovatelné. Zároveň zostřují neshody. Čtenář může říci, že deklarovaný účel je příliš široký, stav je zastaralý, omezení chybí nebo podpůrné důkazy nepokrývají tvrzení. Registr má smysl, když takovou kritiku umožňuje.

Co registr prokázat nemůže

Záznam v registru nemůže prokázat, že je model přesný pro každého uživatele, bezpečný v každém prostředí, spravedlivý vůči každé skupině nebo zákonný pro každé nasazení. Nemůže prokázat, že veřejný orgán postupoval podle správného postupu jen proto, že je systém uveden v seznamu. Nemůže ukázat, že lidský recenzent porozuměl výstupu, že subjekt údajů měl účinný opravný prostředek nebo že by incident byl včas odhalen. Tyto závěry vyžadují důkazy o systému v provozu, instituci, která jej používá, a lidech, kterých se týká.

Rovněž nemůže prokázat, že je model nezávislý na svém dodavateli, že je trasa suverénní proto, že je hostována v Evropě, nebo že otevřená licence způsobí, že odpovědnost zmizí. Vlastnictví, jurisdikce, dodavatelský řetězec, provozní kontrola a údržba jsou samostatné otázky. Registr může zpřístupnit jména a odkazy potřebné k jejich položení. Nemůže na ně odpovědět typografií.

Registr také nemůže prokázat negativní skutečnost. Chybějící záznam může znamenat, že objekt je mimo rozsah, že se uplatňuje výjimka, že je zveřejnění opožděné nebo že někdo nesplnil povinnost zveřejnit. Čtenář potřebuje jasné prohlášení o rozsahu a cestu k nahlášení chyb. Veřejná nástěnka je spolehlivá jen potud, pokud existuje proces, který si všimne, že oznámení chybí.

Ilustrativní záznam, nikoli skrytá případová studie

Následuje ilustrativní návrh záznamu, nikoli zpráva o skutečné organizaci, modelu nebo události. Nepoužívá žádného zákazníka, veřejný orgán, datum nasazení ani naměřený výsledek. Jeho účelem je ukázat, jak se může čtenář přesunout z veřejného záznamu na řízenou cestu k důkazům, aniž by si tyto dvě vrstvy pletl.

  • Identita: název poskytovatele, název modelu, verze a stabilní strojový identifikátor.
  • Stav: řízené vyhodnocení s datem účinnosti a poznámkou, že není otevřena žádná externí cesta.
  • Účel: pomoc s analýzou dokumentů pro proškolený personál, přičemž automatická externí rozhodnutí jsou mimo deklarovaný rozsah.
  • Vstupy a výstupy: zastoupené modality, druhy očekávaných zdrojových materiálů a typy výstupů, které může cesta vytvářet.
  • Omezení: známé hranice jazyka, domény, aktuálnosti, bezpečnosti a přístupu, každá propojená s příslušným vyhodnocením nebo politikou.
  • Dohled: role, která může cestu pozastavit, postup přezkumu u nejistých výsledků a kontakt pro incidenty.
  • Důkazy: veřejné shrnutí, verzovaný technický záznam pro oprávněné recenzenty a manifest integrity pro zveřejněné soubory.
  • Změna: odkaz na předchozí záznam, prohlášení o tom, co se změnilo, a podmínka, která by vyžadovala nové vyhodnocení.

Nic v tomto záznamu neříká, že je model dobrý. Říká, co je poskytovatel připraven tvrdit, kde toto tvrzení platí a jak ho může jiná osoba otestovat nebo zpochybnit. To na nástěnku stačí. Stačí to také k tomu, aby se velká část propagačního jazyka nevloudila nepozorovaně do právního nebo provozního rozhodnutí.

Proč si předběžný stav zaslouží respekt

Předběžné vydání není slabší verzí veřejného vydání. Je to jiný stav. Interní testování může podporovat inženýrskou a bezpečnostní práci při zachování řízeného přístupu. Pozvaná beta verze může vystavit cestu externím osobám při zachování podmínek, rozsahu a práva zastavit. Veřejné vydání mění to, kdo se na systém může spolehnout, a jaké povinnosti vznikají poskytovateli, integrátorům a nasazujícím subjektům. Registr by měl tyto přechody zviditelnit, místo aby vydání považoval za jediný fanfárový tón.

Předběžný záznam může být pro veřejnost stále užitečný. Může identifikovat model, poskytovatele, zamýšlenou cestu, stav, existující důkazy a důkazy, které stále chybí. Může uvést, že je datum plánováno a že přístup nebyl otevřen. Může zveřejnit bránu vydání, aniž by předstíral, že bránou bylo prošlo. To je obzvláště dobré místo pro to, aby byl registr nudný. Nudný stav je bezpečnější než vzrušující nejednoznačnost.

Ve společnosti Dweve se snažíme tuto disciplínu uplatňovat i na náš vlastní veřejný záznam. V našem Trust Centre je registr modelů označen jako předběžné vydání a uvádí Dweve Loom 1.0 jako interní testování před vydáním k 1. srpnu 2026. Zaznamenává, že k tomuto datu nedošlo k žádnému externímu vydání, a uvádí 1. září 2026 jako plánované datum přístupu na trh Unie pro externí beta verzi pouze na pozvání. Plánované je důležité slovo: záznam neproměňuje plán v událost.

Náš veřejný záznam také jasně uvádí, že Loom je jediný model zde uvedený, že je proprietární a není vydán pod licencí open-source modelu, a že naše produkty a samostatně licencované nástroje s otevřeným zdrojovým kódem nejsou prezentovány jako další modely. Tato hranice zabraňuje tomu, aby byl katalog produktů zaměněn za registr modelů. Také udržuje veřejné tvrzení dostatečně malé na to, aby bylo možné ho ověřit.

To je vše, co zde o Dweve potřebujeme říci. Registr modelů je užitečný, když činí náš vlastní stav vydání méně lichotivým, ale přesnějším. Měl by udělat totéž pro kohokoli jiného.

Hranice mezi veřejným a soukromým je rozhodnutí o návrhu

The strongest registry is not the one with the most fields. It is the one whose fields have a reason, an owner and a boundary. Public readers need a stable identity, a declared purpose, a truthful status, an accountable organisation, usable links and enough limitations to understand the claim. Authorised reviewers need deeper evidence, controlled technical details and a route to inspect incidents or sensitive tests. Operators need secrets, permissions and runbooks that should not be on the noticeboard at all.

Those layers should agree about the facts that cross the boundary. If the public page says a route is paused, the controlled record should say who paused it and why. If a technical file is superseded, the public entry should not continue to link it as current. If an evaluation is restricted, the public page should still state its scope and status. The boundary should limit access to detail, not create three incompatible versions of reality.

Readers should be able to ask five simple questions and receive five stable answers. What is this object? Who is responsible for it? What may it do? What is its current status? What evidence and remedies exist when the claim is challenged? A registry that answers those questions is already doing institutional work. A registry that cannot answer them should not be rescued by animated badges or a dashboard with twelve filters.

There is an optimistic way to read the European movement towards model and algorithm registers. It is not that a database will solve AI governance. It is that public institutions are building places where claims have names, dates, owners and boundaries. Those are the small components from which larger accountability systems are made.

The noticeboard has to survive change

A model registry is the new public noticeboard only if the notices remain legible after the weather changes. The page must survive a model update, a supplier change, a new deployment, a corrected limitation, a withdrawn route and a difficult question from someone who was not in the room. That means keeping history, labelling plans, linking evidence and saying what the record cannot prove.

The work is less glamorous than a launch page. It is also more durable. A public record that distinguishes model identity from deployment state, status from intention, documentation from proof and public facts from controlled evidence gives people something better than reassurance. It gives them a route through the system.

Good registries do not ask readers to trust a colour, a number or a famous name. They make the claim narrow enough to inspect and the boundary clear enough to challenge. They leave a trail to the people who can answer, the records that can be checked and the decision that can be changed. That is a very old civic idea, wearing a reasonably modern file format.

Put the notice on the board. Put the evidence behind it. Keep the old notice where someone can still read it. Then let the public decide what the record earns.

Sources