Регистърът на моделите е новото публично табло за обяви

Моделният регистър може да каже на обществеността какво представлява дадена система, кой стои зад нея, къде може да се използва и какво се е променило. Той...

Регистърът на моделите е новото публично табло за обяви

Страницата, която започва с признанието, че не е магия

Първото нещо, което прави един полезен регистър на модели, е да ви разочарова. Той не казва, че даден модел е безопасен. Не казва, че дадена организация е компетентна. Не превръща обещанието на доставчика във факт, нито зеленият етикет в причина да спрете да задавате въпроси. Вместо това ви дава ограничен запис: това е нещото, това е версията, това е собственикът, това е обявената цел, това е статусът и ето къде се съхраняват доказателствата в подкрепа.

Тази скромност е началото на общественото доверие. Регистърът е табло за обяви, не олтар. Таблото за обяви казва на квартала какво се строи, кой отговаря за него и кои обяви са заменени. То не удостоверява качеството на строителството на всяка сграда на улицата. Дава на хората място, откъдето да започнат да търсят, и начин да забележат, когато самата обява е остаряла.

Отворите ли Регистъра на алгоритмите на нидерландското правителство, ще видите, че дизайнът е необичайно семпъл. Правителствените организации публикуват информация за алгоритмите, които използват в работата си. Регистърът се фокусира върху алгоритми със значително въздействие, включително системи с изкуствен интелект с висок риск, и дава на посетителите обяснение как работят тези системи. Страницата прави и едно полезно разграничение, което много лъскави каталози за изкуствен интелект избягват: алгоритъмът е набор от правила и инструкции, които компютърът следва, за да изчисли отговор, а не личност с продуктово представяне.

Страницата е публична, защото работата е публична. Гражданинът не се нуждае от личен акаунт, за да разбере, че даден орган използва алгоритъм, каква е обявената му цел според органа или къде да зададе следващия въпрос. Това не прави всеки технически детайл публичен. Но затруднява скриването на съществуването на системата, обявената ѝ роля и институционалния ѝ собственик зад досие за обществена поръчка.

Регистрите на модели се превръщат в същия вид граждански обект. Те стоят между техническия каталог и публичния запис. Инженерите се нуждаят от стабилна идентичност и версия, за да интегрират. Операторите се нуждаят от статус и собственик, за да работят. Доставчиците надолу по веригата се нуждаят от възможности, ограничения и условия. Одиторите се нуждаят от следа обратно към доказателствата. Засегнатите хора трябва да знаят, че системата съществува и как да оспорят това, което прави. Една страница не може да отговори на всички тези въпроси, но добре проектираният регистър може да насочи всеки читател към правилния слой.

Опасността е, че думата регистър кара документа да звучи по-пълен, отколкото е. Телефонният указател е регистър, но не може да ви каже дали номерът все още работи. Корабният манифест е регистър, но не може да ви каже дали товарът е оцелял по време на плаването. Записът за модел е регистър, но не може да носи цялото доказателство за производителност, справедливост, сигурност, законосъобразност и социални последици. Полезният въпрос не е дали моделът е в регистъра. А е какво установява записът, какво оставя отворено и какво може да провери читателят след това.

Таблото за обяви е обещание за подбор

Инвентаризацията се опитва да преброи всичко. Каталогът се опитва да ви помогне да изберете. Регистърът дава по-формално обещание: тези записи принадлежат към определен обхват, имат собственик и информацията се поддържа по правило. Обещанието е за подбора, преди да е за софтуера. Без обявен обхват един привлекателен списък е само колекция от неща, които случайно са били запомнени.

Ето защо всеки регистър се нуждае от изречение, което казва какво включва и какво съзнателно пропуска. Централната база данни на Закона за изкуствения интелект на ЕС не е списък на всеки модел, циркулиращ в Европа. Член 71 създава база данни на ЕС за определени системи с изкуствен интелект с висок риск и системите, които са регистрирани по процедурите, описани в член 49. Нидерландският регистър на алгоритмите не е списък на всяко изчисление, направено в правителствена служба. Той се фокусира върху алгоритми със значително въздействие, включително системи с изкуствен интелект с висок риск. Границата е част от записа, а не бележка под линия за юристи.

Един модел регистър трябва да отговори на същия въпрос за границите на обикновен език. Дали изброява базови модели, внедрени AI системи, вътрешни експерименти, фино настроени производни, пакети за оценка или само модели, предлагани на външни потребители? Дали нова конфигурация за обслужване получава нов запис, нова версия или свързан запис за внедряване? Дали уловеното състояние на адаптивна система се счита за същата идентичност на модела? Ако регистърът не реши тези въпроси, всеки читател ще ги реши по различен начин. Така един кратък списък се превръща в дълъг спор.

Подборът също прави отсъствието значимо. Ако обхватът казва, че всички публично достъпни системи с висок риск трябва да присъстват, липсващият запис е проблем на управлението. Ако обхватът казва, че се включват само модели, пуснати на пазар, вътрешен експеримент може да отсъства по замисъл. Обществеността не може да тълкува празен резултат от търсене, без да знае коя от двете ситуации се прилага. Мълчанието не е неутрално, когато регистърът не е обяснил своята терминология.

Има малка административна добродетел в това да се каже ясно. Регистрите не трябва да се преструват, че знаят всичко. Те трябва да кажат на читателя какво знаят, за какво отговарят и какво остава извън рамката. Един регистър печели авторитета си, като прави границата на обхвата си изрична, а не като украсява корицата. Технологията е по-нова. Инстинктът за документация не е.

Какво всъщност поставя европейското правило на дъската

Законът за ИИ дава на думата регистрация конкретна правна форма, но не и единна универсална. Член 49 изисква от доставчика или упълномощения представител да регистрира определени системи с висок риск с ИИ, преди да ги пусне на пазара или да ги въведе в експлоатация. Той също така изисква регистрация, когато доставчикът е заключил, че дадена система не е с висок риск съгласно условията на член 6, параграф 3. Публичните органи и еквивалентните публични органи, които внедряват определени системи с висок риск, имат свое собствено задължение за регистрация, включително регистриране на тяхното използване.

Същият член прави границата между публичен и частен сектор изрична. Определени системи с висок риск, използвани в правоприлагането, миграцията, убежището и управлението на граничния контрол, се регистрират в защитен непубличен раздел. Системите с висок риск във втората точка на приложение III се регистрират на национално ниво. Това не са детайли по изпълнението, които могат да бъдат изгладени в табло за управление. Те описват различни аудитории, различни рискове и различни разрешения за достъп до записа.

Член 71 казва, че Комисията, съвместно с държавите членки, създава и поддържа базата данни на ЕС. Информацията, регистрирана съгласно член 49, трябва да бъде достъпна и публично достъпна по удобен за потребителя начин и трябва да бъде лесна за навигация и машинно четена, с изключения за ограничените раздели. Базата данни трябва да съдържа лични данни само доколкото е необходимо. Това е полезна дефиниция на публичната прозрачност: запис, който хората могат да намерят и обработят, без да превръщат записа във втори проблем с личните данни.

Приложение VIII е мястото, където таблото става конкретно. За доставчик, регистриращ система с висок риск, записът включва самоличността и данните за контакт на доставчика, недвусмислено търговско наименование или референция, предвиденото предназначение, основно описание на използваната информация и оперативната логика, статуса на системата, съответните сертификати, държавите членки, в които системата се пуска на пазара или се въвежда в експлоатация, декларацията за съответствие, инструкциите за употреба и незадължителен URL адрес за допълнителна информация. Това не са маркетингови полета. Те са инструменти за идентификация и отчетност.

За публичния внедрител информацията е различна. Записът включва самоличността на внедрителя, лицето, подаващо информацията, URL адреса на записа на доставчика, както и обобщения на оценката на въздействието върху основните права и, когато е приложимо, оценката на въздействието върху защитата на данните. Разликата има значение, защото доставчикът на модел и публичният орган не знаят едни и същи неща и не носят една и съща отговорност. Регистър, който ги слее в една обща карта на доставчика, заличава мястото, където системата среща институцията.

Затова правната база данни има слоест характер. Тя записва самоличността на системата. Записва доставчика. Може да запише внедрител и употреба. Записва статуса и придружаващите декларации. Тя не замества техническата документация, управлението на риска, системата за качество или проследяването след пускане на пазара, които актът изисква другаде. Базата данни е публичен показалец към отчетни факти. Тя не е целият файл за съответствие.

Тази разлика лесно се губи, защото хората харесват един URL адрес, който сякаш съдържа отговора. Законът е по-малко сантиментален. Той създава публична повърхност, ограничени повърхности и контролирани пътища за документация. Публичната повърхност трябва да е използваема. Ограничената повърхност трябва да остане ограничена. Документацията трябва да остане достъпна за компетентния орган или за надолу по веригата доставчик, който има нужда от нея. Сериозният регистър е интерфейс между тези задължения, а не пряк път покрай тях.

Регистърът става полезен, когато самоличността, статусът и промяната са свързани. Цвят без преход е само декорация.

Има и друга важна граница. Разпоредбите на акта за ИИ относно моделите с общо предназначение не са същото нещо като публичен каталог на всички модели с общо предназначение. Член 53 изисква от доставчиците да поддържат техническа документация, да предоставят информация на доставчиците на ИИ системи надолу по веригата, да поддържат политика за авторското право и да публикуват достатъчно подробно обобщение на съдържанието за обучение. Насоките на Комисията обясняват, че техническата документация е за службата за ИИ и националните компетентни органи при поискване, докато документацията надолу по веригата помага на интеграторите да разберат възможностите и ограниченията. Само част от този материал принадлежи на публичното табло.

Актът също така изисква от Комисията да публикува и поддържа списък на моделите с общо предназначение със системен риск. Списъкът на моделите със системен риск е ценен публичен сигнал, но не е същият обект като пълния регистър на моделите. Той има по-тясна цел и трябва да зачита правата върху интелектуалната собственост, поверителната търговска информация и търговските тайни. Наричането на всеки списък регистър е безвредно само докато някой не предположи, че списъкът доказва повече, отколкото доказва.

Моделът не е един ред

Хората говорят за модела, сякаш е буркан на рафт. Името е отпечатано на етикета, версията е щампована отдолу и съдържанието остава непроменено, докато някой не отвори капака. Тази картина важи за статичен артефакт. Тя става ненадеждна, когато моделът е адаптиран, фино настроен, обвит в инструменти, обслужван по няколко пътя или променян по време на употреба.

Регистърът се нуждае от поне две самоличности: самоличността на модела и самоличността на нещото, което действително е работило. Първата отговаря кой модел има предвид доставчикът. Втората може да идентифицира заснето състояние, запечатан пакет за внедряване, локален експорт или пакет за повторно пускане. Свързването им предотвратява две противоположни грешки. Услугата може да спре да се преструва, че всяко живо състояние има един постоянен хеш, а операторът може да спре да се преструва, че само дайджестът на пакета описва цялото семейство модели.

Version numbers are useful only when their change rule is visible. A version may mean a new set of learned parameters, a new constraint catalogue, a change in retrieval, a changed safety layer or a material change in the serving contract. If a provider uses one number for all of those, the number becomes a polite way of saying that something changed. A registry should link a successor to its predecessor and say which part of the contract moved.

Adaptive behaviour adds another wrinkle. If a system can change while in use, the record should say so. That is not an admission that the system is uncontrolled. It is an admission that the word version cannot do all the work. The registry can keep a stable model identity, attach time-bound captured states to it and record the conditions under which a state was made. The point is not to freeze a living system into a false photograph. It is to give every meaningful photograph a date and a frame.

Identity also has a social edge. A model name is not enough when several legal entities distribute similar artefacts, when a downstream provider changes the model, or when a product embeds a model behind its own name. The registry should make the chain visible: provider, distributor where different, deployer where relevant, and the system or route in which the model is used. A person affected by a decision should not have to perform forensic archaeology on a product logo to discover who can answer for it.

Status is a verb, not a colour

Status fields are often rendered as badges because badges fit neatly on cards. The badge is not the status. The status is a statement about an action and a time. Internal testing means one thing when access is controlled by the provider. Pre-release means something else when invited outsiders can use a route under defined conditions. On the market, in service, suspended, withdrawn and recalled each carry a different operational consequence.

A useful record states what the status permits and what it does not. If a system is internal-only, a reader should not infer public availability from a documentation page. If an external beta is planned, the date should be labelled as planned rather than presented as a release. If a system is withdrawn, the record should preserve the previous identity and say whether existing deployments may continue, must stop or are being migrated. A status without an effective date is a rumour wearing a uniform.

The status should also be owned. Who can move an entry from internal to external? Who can suspend a route? Who can declare a release date changed? Which evidence is required before the transition? Those questions belong in the operating process, but the public entry should make the resulting decision legible. A registry that shows the current badge while hiding the authority behind it is only a mood board for governance.

Illustrative example, not a real listing: a record might say that a model is in controlled evaluation, that no external route is open, that an invite-only trial is proposed for a later date, and that the proposal remains subject to a release gate. The example names no organisation, model or event. Its purpose is to show how a record keeps a plan separate from a fact. The same discipline applies to a withdrawal, a capability claim or a certification that has not yet been issued.

This separation protects readers from a familiar trick. A future intention is repeated often enough that it starts to sound like history. Registries should be the place where that trick stops working. The entry can show a plan, but the plan must keep its label. Europe has enough calendars already. A date is not a fact merely because it has been placed in a coloured rectangle.

The registry is not the evidence room

Публичният запис трябва да е достатъчно кратък, за да се прочете, и достатъчно смислен, за да насочи сериозен въпрос. Зад него може да стои много по-голямо помещение за доказателства. Задълженията за документация по член 53 от Акта за ИИ показват защо. Доставчиците на модели с общо предназначение с изкуствен интелект трябва да изготвят и съхраняват техническа документация, обхващаща разработването, обучението, тестването и оценката. Те трябва да предоставят информация и документация на доставчиците на системи с ИИ надолу по веригата, за да могат те да разберат възможностите и ограниченията. Те трябва да публикуват достатъчно подробно резюме на съдържанието, използвано за обучение, и да поддържат политика за спазване на авторското право на Съюза.

Тези задължения обслужват различни читатели. Компетентният орган може да се нуждае от пълния технически досие. Доставчикът надолу по веригата се нуждае от информация за интеграцията и ограниченията. Обществеността се нуждае от ясен разказ за това какво представлява моделът и как е ограничено резюмето на съдържанието за обучение. Записът в регистъра може да свърже тези равнища, без да се преструва, че публичната страница трябва да съдържа всеки детайл, чувствителен за сигурността, всеки файл с тегла или всяка тестова извадка с лични данни.

Връзките също не са доказателство по магия. Регистър, който сочи към доклад за оценка, трябва да посочва коя версия обхваща докладът, какво е измервала оценката и кои условия ограничават резултата. Връзка към резюме на обучението трябва да показва дали резюмето обхваща предварителното обучение, фината настройка или определен набор от категории съдържание. Връзка към сертификат трябва да показва кой го е издал, какво удостоверява и кога изтича. В противен случай страницата е рафт с незапечатани пликове.

Същото правило важи и за твърденията за безопасност. Регистърът може да посочи, че съществува оценка на риска, че е приложен план за наблюдение или че е публикуван път за докладване на сериозни инциденти. Той не трябва да внушава, че съществуването на документ доказва, че основната система е безопасна. Документацията е начин да се провери дадено твърдение. Тя не е заместител на твърдението.

Тук публичното писане изисква дисциплина. Картата на модела, страницата за прозрачност или записът в регистъра могат да опишат предвидената употреба и известните ограничения. Те не могат да използват думата надежден като заключение, освен ако доказателствата и обхватът не правят това заключение защитимо. Честното изречение често е по-полезно: това са условията, при които оценихме, това са ограниченията, които наблюдавахме, и това са случаите, за които не твърдим, че покриваме.

Нидерландският регистър показва стойността на обикновен публичен списък

Нидерландският регистър на алгоритмите е поучителен именно защото не се опитва да изглежда като футуристична командна зала. Той дава на държавните организации публично място, където да описват алгоритмите, използвани в работата им. Английската му страница предупреждава, че описанията са преведени автоматично и че нидерландският оригинал е авторитетната версия на описанието. Тази малка бележка е урок за произхода на информацията. Достъпът не е същото като точността, а преведеният интерфейс не трябва да заличава изходния език.

Публичната цел на регистъра също е формулирана без театрален език. Той се фокусира върху алгоритми със значително въздействие, включително системи с ИИ с висок риск, и дава на посетителите представа как работят те. Посетителят може да разглежда алгоритми, организации и шаблони. Целта не е да се даде оценка за всеки алгоритъм. Целта е да се направи използването на алгоритмични системи достатъчно видимо, за да могат хората, организациите и медиите да следват, поставят под въпрос и проверяват държавната практика.

Придружаващата нидерландска рамка Algoritmekader превръща тази цел в изискване. Тя гласи, че освен ако не се прилага изключение, публичните органи публикуват алгоритми със значително въздействие и системи с ИИ с висок риск в регистъра. Тя също така гласи, че неправилната или непълна публикация може да затрудни засегнатите хора и други заинтересовани страни да разберат и оспорят използването на технология, която може да засяга правата им. Прозрачността следователно не е само въпрос на учтивост. Качеството на записа може да повлияе на качеството на публичния контрол.

Същите указания внимателно определят обхвата си. Те описват регистъра като инструмент в рамките на по-широк набор от закони и изисквания и предупреждават, че рамката не е пълна и може да не включва отраслово законодателство. Фактът, че даден алгоритъм фигурира в регистър, не решава всеки правен или етичен въпрос. Фактът, че не фигурира, не доказва, че е безвреден. Читателят се нуждае от правилото за включване в регистъра и от обкръжаващата рамка, за да тълкува записа.

Това е полезният модел за регистрите на модели. Публичният списък трябва да е лесен за откриване, да е написан за хора, които не са присъствали на срещата по възлагане на поръчката, и да е свързан с документите, които съдържат повече подробности. Той трябва да разкрива несигурността, а не да я прикрива. Трябва да посочва кога дадено описание на английски е машинно преведено. Трябва да обяснява кои системи са включени и кои не са. Трябва да превръща липсващия или остарял запис във видим проблем на управлението, а не в лично разочарование.

Не е нужно да измисляме драматичен инцидент, за да разберем защо това има значение. Гражданинът, който се опитва да разбере автоматизиран държавен процес, вече има практичен въпрос: използва ли се дадена система, от кого, за каква цел и въз основа на какво обяснение? Регистърът дава адрес на този въпрос. Отговорът може все още да е непълен. Поне институцията не може да се прави, че няма къде да се попита.

Публичността не означава голота

Прозрачността става контрапродуктивна, когато се третира като заповед да се публикува всичко. Публичните записи могат да разкрият лични данни, чувствителна за сигурността информация, търговски тайни и пътища за атака. Те могат също така да създадат фалшива увереност, като публикуват технически фрагменти, които никой обикновен читател не може да тълкува. Границата между публично и частно трябва да бъде проектирана, документирана и преразглеждана, а не импровизирана от екипа, който случайно управлява системата за управление на съдържанието.

Законът за ИИ дава правен пример. Член 49, параграф 4 поставя определени системи в защитен непубличен раздел и ограничава достъпа до Комисията и съответните национални органи. Член 71 прави информацията, регистрирана по член 49, публично достъпна, с изключение на ограничените раздели, докато информацията, регистрирана по член 60, е достъпна само за органите за надзор на пазара и Комисията, освен ако доставчикът не даде съгласие за публичен достъп. Публичността следователно е правило с изключения, а не универсална отправна точка.

Член 53 прави подобно разграничение за моделите с общо предназначение. Доставчиците трябва да предоставят техническата документация на Службата за ИИ и на националните компетентни органи при поискване и трябва да предоставят последваща документация на интеграторите. Задълженията изрично подлежат на необходимостта да се спазват и защитават правата върху интелектуалната собственост, поверителната търговска информация и търговските тайни. Регистърът не трябва да принуждава доставчика да публикува материал, който законът казва, че трябва да бъде контролиран. Нито пък поверителността трябва да се превръща в учтив претекст за укриване на съществуването, предназначението или статуса на система, която засяга обществеността.

Практичният регистър на модели може да използва слоеве. Публичният слой идентифицира модела, доставчика, статуса, предвиденото предназначение, широките възможности, известните ограничения, начините за достъп, условията за пускане, връзките към доказателствата и историята на промените. Контролираният слой съдържа подробна техническа документация, модели на заплахи, ограничени материали за оценка, данни за инциденти и друга информация, от която се нуждаят оторизираните проверяващи. Частният оперативен слой съдържа тайни, лични данни и вътрешна контролна информация, които изобщо не трябва да бъдат разкривани. Слоевете са различни записи с връзки, а не една страница с раздел, наречен прозрачност.

Добрата прозрачност има граница. Тя публикува това, от което хората се нуждаят, за да разберат системата, и защитава това, което оторизираните проверяващи трябва да контролират.

Публичният слой все пак трябва да е конкретен. Може да се каже, че даден модел се адаптира по време на употреба, без да се разкрива частно представяне на състоянието. Може да се посочи, че даден маршрут е само с покана, без да се публикуват поканите. Може да се опишат модалностите на изхода и политиката за маркиране на съдържание, без да се разкриват ключове за подписване. Може да се каже, че съществува оценка на риска, и да се посочи нейният обхват, без да се публикува схема за сигурност, която би улеснила атака срещу услугата.

Контролираният слой също изисква своята честност. Документ, отбелязан като поверителен, не е автоматично пълен, актуален или точен. Той се нуждае от собственик, версия, правило за достъп и правило за съхранение. Ако публичен регистър сочи към контролиран запис, връзката трябва да разкрива неговия статус и отговорния маршрут, дори когато съдържанието е ограничено. В противен случай публиката вижда черна дупка и е помолена да я нарече управление.

Версионирането прави регистъра полезен

Повечето провали на регистрите не са драматични. Те са малки актове на забравяне. Нов модел заменя стар, но записът се редактира на място. Политиката се променя, но параграфът за предназначение остава. Доставчик премества маршрут от вътрешно тестване към външна бета версия, но значката за статус се променя преди да бъде записана датата на влизане в сила. Разгръщане се оттегля, но старият запис изчезва, отнасяйки историята със себе си. Настоящето изглежда подредено. Миналото става безотговорно.

Версионираният запис държи поне четири часовника отделно. Версията на съдържанието показва кой текст и кои полета са актуални. Датата на влизане в сила показва кога се прилага твърдението. Версията на модела или пакета показва кой технически обект се описва. Датата на проверка показва кога някой е проверил записа. Тези дати могат да съвпадат. Не е задължително. Да се третират като една дата е удобно и често погрешно.

Предишните версии трябва да останат откриваеми при подходящо правило за съхранение. Публиката не се нуждае от всяка вътрешна редакция, но трябва да знае кога е променено съществено предназначение, статус, маршрут, ограничение или твърдение за собственост. Дневник на промените може да покаже какво се е променило, без да разкрива частна информация. Машинно четим запис може да свърже предишната версия и манифест. Човешки четимa страница може да обясни последицата на обикновен език. Двете повърхности трябва да съвпадат.

Версионирането прави и оттеглянето смислено. Ако модел е оттеглен, защото маршрутът е затворен, това е различно от изтегляне поради сериозен дефект или правен проблем, изискващ действие. Ако моделът остава в съществуващи частни разгръщания, публичният запис трябва да го каже. Ако наследникът е съвместим само за някои интеграции, границата на миграцията трябва да е видима. Регистър, който премахва име без да запише защо, оставя всеки следващ читател да измисли причина.

Историята на промените е особено важна за адаптивните системи. Идентичността на модела може да остане стабилна, докато уловените състояния, наборите от ограничения, източниците за извличане или контролите на изхода се променят. Регистърът може да посочи кои промени създават нов пакет, кои изискват нова оценка и кои остават в рамките на обявената граница на идентичността. Това не е прекомерна подробност. Това е разликата между система, която може да бъде възпроизведена, и система, която може само да бъде помнена.

Собствениците са част от записа

Запис в регистъра на моделите без посочен отговорник е като метеорологична справка. Казва ви какво е било времето, но не ви оставя никого, на когото да се обадите, когато покривът протече. Ролите на доставчик и внедряващ не са едно и също нещо и нито една от тях не бива да се размива в думата „платформа“.

Доставчикът притежава идентичността на модела, историята на разработката и решението за пускане в рамките на своя обхват. Внедряващият притежава решението да използва система под своя отговорност, включително местното предназначение, защитните мерки, оценката на въздействието и оперативния контрол. Доставчик надолу по веригата може да интегрира модел с общо предназначение в система с изкуствен интелект и да носи отговорности, които доставчикът на модела не може да види. Публичният регистър следва да разкрива тези взаимоотношения там, където законът и рискът го изискват.

Информацията за контакт не е административна формалност. Тя дава на засегнатото лице път да попита кой е взел дадено решение, коя версия е била използвана или как може да бъде поискана корекция. Обща пощенска кутия може да е подходяща, но тя трябва да води до поддържан процес. Записът трябва също да посочва дали контактът е за техническа поддръжка, искания за права, подаване на сигнали, обществени поръчки или публична отчетност. Една пощенска кутия не може да бъде едновременно всяка институция, колкото и да се стараят съвременните формуляри.

Собствеността трябва да включва правомощие за промяна на записа. Ако посоченият собственик не може да спре даден маршрут, да коригира статус или да публикува оттегляне, записът е декоративен. Организацията може да има законен собственик другаде, но оперативната празнина остава. Добрият регистър прави отговорността видима, преди инцидент да принуди хората да чертаят схемата на организацията на бяла дъска.

Проектиране на регистър, който хората наистина могат да четат

Първият читател на регистъра на моделите не винаги е регулатор или инженер. Може да е журналист, служител по обществени поръчки, местен служител, изследовател, служител, помолен да използва системата, или човек, който се опитва да разбере защо автоматизирана услуга е засегнала неговия случай. Страницата трябва да отговори на общия въпрос, преди да прибегне до специализирана терминология.

Започнете с идентичността и причината за записа. Посочете кой предоставя модела, коя версия се описва, какъв вид обект е той и дали става въпрос за модел, интегрирана система с изкуствен интелект или запис за внедряване. Посочете дали е вътрешен, достъпен за поканени потребители, на пазара, спрян или оттеглен. Читателят не трябва да се налага да прави изводи за статуса от бутон за изтегляне.

След това покажете предназначението и границите. Посочете за какво е предназначен моделът, кои употреби са извън заявеното и кои решения не е упълномощен да взема. Обяснете дали моделът може да се адаптира по време на употреба, дали е необходимо запазено състояние за възпроизвеждане и дали маршрут надолу по веригата променя условията. Списък с възможности без предназначение е меню без кухня.

Използвайте прогресивно разкриване. Горната част на страницата трябва да е спокойна и четима. По-задълбочените секции могат да разкрият машинния запис, методите за оценка, обобщението на учебното съдържание, правните документи и доказателствата за пускане. Обикновеният читател може да спре след първия слой. Одиторът може да продължи. Инженерът може да изтегли стабилно представяне. Скриването на подробностите не е опростяване. То е просто бавно зареждаща се изненада.

Достъпността е част от достоверността на записа. Страницата и машинното представяне трябва да използват ясни етикети, навигация с клавиатура, полезни заглавия и текстови алтернативи за визуализациите. Датите не трябва да са кодирани само чрез цвят. Червена значка не е статус за читател, който не вижда червено, а графика, която не може да се чете без мишка, не е достъпно обяснение. Таблото за обяви на градския площад не става публично, ако рампата свършва пред първото стъпало.

Машинната четимост е важна по друга причина. Тя позволява на изследователите да сравняват записи, на публичните органи да изграждат регистри, на одиторите да откриват остарели записи и на инструмент надолу по веригата да проверява, че страницата и структурираният запис се отнасят към една и съща версия. Машинно четимо не означава само за машини. Човешката страница и машинният запис трябва да споделят идентификатори, статус, дати и връзки, с връзка за цялостност, която може да бъде проверена.

Полетата в регистъра са решения

Всяко поле казва на читателя какво организацията смята, че си струва да бъде запазено. Полето за доставчик казва кой стои зад модела. Името на модела и версията казват как да се разграничи от наследника си. Полето за маршрут казва къде може да бъде достигнат. Полето за предназначение казва каква работа доставчикът е готов да опише. Полето за ограничения казва къде свършва описанието. Схемата е документ за управление, написан в малки правоъгълници.

Полетата за идентичност трябва да бъдат недвусмислени и стабилни. Те могат да включват правното име на доставчика, името на модела, версията, уникален референтен номер и връзки към каноничен запис. Ако моделът може да се предлага чрез няколко продукта, регистърът трябва да разграничава идентичността на модела от интегриращата повърхност. Ако даден продукт съдържа няколко модела, записът не трябва да крие този факт зад името на продукта.

Полетата за статус трябва да включват стойността, датата на влизане в сила, причината или органа за прехода и всеки наследник или предшественик. Дата, която е само планирана, трябва да бъде обозначена като планирана. Запис, който не е проверяван скоро, трябва да го казва. Читателят трябва да може да разбере дали даден модел е наличен, предложен, спрян или исторически, без да тълкува прилагателно, измислено от маркетингов екип.

Полетата за цел и обхват трябва да описват работата с термини, които неспециалист може да разбере. Те трябва да посочват предвидените потребители, когато това има значение, видовете входни и изходни данни и решенията или действията, които моделът може да подпомага. Те трябва също така да посочват забранени или неподдържани употреби. Модел, който може да генерира текст, не е автоматично упълномощен да пише решение за допустимост, а модел, който може да класифицира документи, не е автоматично упълномощен да класифицира хора.

Полетата за възможности изискват условия. Модалностите, ограниченията на контекста, достъпът до инструменти, езиковото покритие, поведението при адаптация и маркирането на изхода са значими само когато са обвързани с маршрут и версия. Възможност, която съществува във вътрешен експеримент, но не и във външния маршрут, не трябва да бъде представяна като една универсална функция. Регистърът не е списък с желания.

Полетата за данни трябва да казват какво получава моделът, какво съхранява, от какво се учи по време на употреба и какво се използва за оценка, на ниво, което може да бъде направено публично, без да се разкриват лични или поверителни материали. Обобщенията на обучителното съдържание и политиките за права трябва да бъдат свързани, когато се изисква. Неясно изречение като обучен върху разнообразни данни не казва на читателя почти нищо и го кара да предложи ласкателно тълкуване.

Полетата за оценка трябва да идентифицират въпроса, метода, границата на данните, датата, резултата и ограниченията. Записът не трябва да възпроизвежда всяка таблица, но не трябва да показва резултат без знаменател или тест без цел. Добра връзка за оценка позволява на читателя да види дали доказателствата покриват предвидената употреба, сходна употреба или само лабораторни условия.

Полетата за надзор трябва да идентифицират кой може да спре, отмени, прегледа и разследва системата. Ако моделът само препоръчва, кажете какво действие остава за човека. Ако даден маршрут може да действа върху външни системи, кажете кои разрешения и порти се прилагат. Ако докладването на инциденти има специален маршрут, публикувайте го. Надзорът не е параграф за запазване на човека в процеса. Това е карта на това кой може да прави какво, когато системата е несигурна.

Полетата за доказателства и цялостност трябва да свързват публичния запис с версиониран машинен запис, пакет за издаване, декларация, пакет за оценка или регистър за прозрачност. Хеш може да установи дали даден файл се е променил или не. Той не може да установи дали файлът е бил достоверен, затова регистърът трябва да държи твърдението и проверката за цялостност отделно. Техническата точност не замества преценката, но улеснява откриването на преценката.

Накрая, полетата за промени трябва да обясняват историята. Какво се е променило, кога, защо, кой го е одобрил, кои маршрути са засегнати и дали е необходима нова оценка. Записът трябва да дава възможност да се отговори на най-обикновения въпрос в стаята: какво е различното спрямо записа, който прочетохме миналия месец?

Какво може да установи един регистър

Добре поддържан регистър може да установи, че даден определен обект се описва от посочен доставчик под конкретна версия на записа. Той може да установи декларираната цел, статус, маршрут за достъп и собственост. Може да установи кои подкрепящи документи и записи за цялостност може да прегледа читателят и коя информация е умишлено контролирана. Може да установи, че промяна е публикувана и че предишен запис остава наличен съгласно посоченото правило за съхранение.

Той може също да установи позицията на самата организация. Ако доставчик каже, че даден модел е за подпомагане на решения, а не за автоматичен отказ, това изявление е публична граница. Ако внедряваща страна каже, че оценката на въздействието е завършена, изявлението поражда въпрос къде може да бъде намерено резюмето или контролираният запис. Ако доставчик отбележи дадено издание като планирано, етикетът не позволява планът да се представя за история.

Това са полезни факти. Те правят обществените поръчки по-точни, интеграцията по-малко спекулативна и обществените въпроси по-лесни за насочване. Те също правят несъгласието по-рязко. Читателят може да каже, че декларираната цел е твърде широка, статусът е остарял, ограничението липсва или подкрепящите доказателства не покриват твърдението. Един регистър оправдава съществуването си, когато прави тази критика възможна.

Какво не може да установи един регистър

Запис в регистър не може да установи, че даден модел е точен за всеки потребител, безопасен във всяка среда, справедлив за всяка група или законосъобразен за всяко внедряване. Той не може да установи, че публичен орган е спазил правилната процедура само защото дадена система е включена в списък. Не може да покаже, че човешки рецензент е разбрал даден резултат, че субект на данни е имал ефективно средство за защита или че инцидент би бил открит навреме. Тези изводи изискват доказателства за системата в употреба, институцията, която я използва, и хората, засегнати от нея.

Той също не може да установи, че даден модел е независим от своя доставчик, че даден маршрут е суверенен, защото се хоства в Европа, или че отворен лиценз прави отговорността да изчезне. Собствеността, юрисдикцията, веригата за доставки, оперативният контрол и поддръжката са отделни въпроси. Регистърът може да разкрие имената и връзките, необходими, за да бъдат зададени те. Той не може да отговори на тях чрез типография.

Нито пък регистърът може да докаже отрицанието. Липсващ запис може да означава, че обектът е извън обхвата, че се прилага изключение, че публикуването закъснява или че някой не е публикувал. Читателят се нуждае от ясна декларация за обхвата и маршрут за докладване на грешки. Едно публично табло е толкова надеждно, колкото е процесът, който забелязва, когато дадено известие липсва.

Илюстративен запис, а не скрит казус

Следващото е илюстративен дизайн на запис, а не доклад за реална организация, модел или събитие. Той не използва клиент, публичен орган, дата на внедряване или измерен резултат. Целта му е да покаже как читателят може да премине от публичен запис към контролиран маршрут за доказателства, без да обърква двата слоя.

  • Идентичност: име на доставчика, име на модела, версия и стабилен машинен идентификатор.
  • Статус: контролирана оценка, с дата на влизане в сила и бележка, че няма отворен външен път.
  • Предназначение: подпомагане на анализа на документи за обучен персонал, като автоматичните външни решения са извън обявения обхват.
  • Входни и изходни данни: представените модалности, видовете очакван изходен материал и типовете изходни данни, които пътят може да произведе.
  • Ограничения: известни граници по отношение на език, област, актуалност, безопасност и достъп, всяка от които е свързана със съответната оценка или политика.
  • Надзор: ролята, която може да спре пътя, пътят за преглед на несигурни резултати и контактът за инциденти.
  • Доказателства: публично резюме, версиониран технически запис за оторизирани рецензенти и манифест за цялостност на публикуваните файлове.
  • Промяна: връзка към предишния запис, изложение на това какво се е променило и условието, което би изисквало нова оценка.

Нищо в този запис не казва, че моделът е добър. Той казва какво е готов да твърди доставчикът, къде се прилага твърдението и как друг човек може да го тества или оспори. Това е достатъчно за табло за обяви. Също така е достатъчно, за да попречи на голяма част от рекламния език да проникне незабелязано в правно или оперативно решение.

Защо статусът преди пускане заслужава уважение

Преди пускането не е по-слаба версия на публичното. Това е различно състояние. Вътрешното тестване може да подпомогне инженерната работа и работата по безопасност, като същевременно запази контролиран достъп. Поканена бета версия може да изложи даден път на външни лица, като същевременно запази условията, обхвата и правото на спиране. Публичното пускане променя кой може да разчита на системата и какви задължения възникват за доставчика, интеграторите и внедряващите. Регистърът трябва да прави тези преходи видими, вместо да третира пускането като един-единствен сигнал от тръба.

Записът преди пускане все още може да бъде полезен за обществеността. Той може да идентифицира модела, доставчика, предвидения път, статуса, доказателствата, които съществуват, и доказателствата, които все още предстоят. Може да посочи, че е планирана дата и че достъпът не е отворен. Може да публикува вратата за пускане, без да се преструва, че вратата е премината. Това е особено подходящо място за един регистър да бъде скучен. Скучният статус е по-безопасен от вълнуващата двусмисленост.

В Dweve се опитваме да приложим тази дисциплина към собствения си публичен запис. В нашия Trust Centre регистърът на моделите е отбелязан като преди пускане и изброява Dweve Loom 1.0 като вътрешно тестване само преди пускане към 1 август 2026 г. В него се отбелязва, че не е имало външно пускане към тази дата, и се посочва 1 септември 2026 г. като планирана дата за достъп до пазара на Съюза за външна бета версия само с покана. Планирана е важната дума: записът не превръща плана в събитие.

Нашият публичен запис също така изяснява, че Loom е единственият модел, изброен там, че той е собственост, а не е пуснат под лиценз за модел с отворен код, и че нашите продукти и отделно лицензирани инструменти с отворен код не са представени като допълнителни модели. Тази граница предотвратява погрешното схващане, че продуктовият каталог е регистър на модели. Тя също така поддържа публичното твърдение достатъчно малко, за да бъде проверено.

Това е всичко, което трябва да кажем за Dweve тук. Регистърът на моделите е полезен, когато прави собствения ни статус на пускане по-малко ласкателен, но по-точен. Той трябва да прави същото и за всеки друг.

Границата между публично и частно е дизайнерско решение

Най-силният регистър не е този с най-много полета. Той е този, чиито полета имат причина, отговорник и граница. Публичните читатели се нуждаят от стабилна идентичност, обявено предназначение, достоверен статус, отговорна организация, работещи връзки и достатъчно ограничения, за да разберат твърдението. Оторизираните рецензенти се нуждаят от по-задълбочени доказателства, контролирани технически детайли и път за проверка на инциденти или чувствителни тестове. Операторите се нуждаят от тайни, разрешения и наръчници, които изобщо не трябва да са на таблото за обяви.

Тези слоеве трябва да са съгласувани по отношение на фактите, които пресичат границата. Ако публичната страница казва, че даден маршрут е спрян, контролираният запис трябва да казва кой го е спрял и защо. Ако технически файл е заменен, публичният запис не трябва да продължава да сочи към него като актуален. Ако дадена оценка е с ограничен достъп, публичната страница все пак трябва да посочва нейния обхват и статус. Границата трябва да ограничава достъпа до детайли, а не да създава три несъвместими версии на реалността.

Читателите трябва да могат да зададат пет прости въпроса и да получат пет стабилни отговора. Какво е това? Кой отговаря за него? Какво може да прави? Какъв е текущият му статус? Какви доказателства и средства за защита съществуват, когато твърдението бъде оспорено? Регистър, който отговаря на тези въпроси, вече върши институционална работа. Регистър, който не може да отговори на тях, не трябва да бъде спасяван с анимирани значки или табло с дванадесет филтъра.

Има оптимистичен начин да се чете европейското движение към регистри на модели и алгоритми. Не става въпрос за това, че база данни ще реши управлението на ИИ. Става въпрос за това, че публичните институции изграждат места, където твърденията имат имена, дати, отговорници и граници. Това са малките компоненти, от които се изграждат по-големите системи за отчетност.

Таблото за обяви трябва да устои на промяната

Регистърът на модели е новото публично табло за обяви само ако обявите остават четливи, след като времето се промени. Страницата трябва да устои на актуализация на модела, смяна на доставчик, ново внедряване, коригирано ограничение, оттеглен маршрут и труден въпрос от някой, който не е бил в стаята. Това означава да се съхранява история, да се обозначават плановете, да се свързват доказателствата и да се казва какво записът не може да докаже.

Работата е по-малко бляскава от страницата за стартиране. Тя е и по-трайна. Публичен запис, който разграничава идентичността на модела от състоянието на внедряването, статуса от намерението, документацията от доказателството и публичните факти от контролираните доказателства, дава на хората нещо по-добро от успокоение. Дава им път през системата.

Добрите регистри не искат от читателите да се доверяват на цвят, число или известно име. Те правят твърдението достатъчно тясно, за да бъде проверено, и границата достатъчно ясна, за да бъде оспорена. Те оставят следа към хората, които могат да отговорят, записите, които могат да бъдат проверени, и решението, което може да бъде променено. Това е много стара гражданска идея, облечена в сравнително модерен файлов формат.

Поставете обявата на таблото. Поставете доказателствата зад нея. Запазете старата обява там, където някой все още може да я прочете. След това оставете публиката да реши какво заслужава записът.

Източници