Tichá práca zákona EÚ o umelej inteligencii: záznamy, nie heslá

Najťažšia časť zákona EÚ o umelej inteligencii nie je opakovať jeho princípy, ale pretaviť riziká, dokumentáciu, logovanie, ľudský dohľad a opravy do...

Tichá práca zákona EÚ o umelej inteligencii: záznamy, nie heslá

Záznam, ktorý prichádza po rozhodnutí

Po tom, čo bol automatizovaný návrh prijatý, nastane okamih, keď sa miestnosť zmení. Obrazovka stále ukazuje výsledok. Konverzácia sa posunula k tomu, čo bude nasledovať. Niekto sa pýta, ktorá verzia systému ho vytvorila, aké informácie boli v tom čase k dispozícii, či operátor ho mohol odmietnuť a ktoré pravidlo umožnilo túto cestu. Tieto otázky nie sú dramatickým útokom na technológiu. Sú to bežné otázky, ktoré si inštitúcie kladú, keď čin nadobudne dôsledok.

Predstavte si zložený prípad, zámerne bez menovanej organizácie, systému alebo incidentu. Verejný orgán používa vysoko rizikový systém umelej inteligencie na pomoc pri rozhodovaní, ktoré sa týka osoby. Vyškolený člen personálu zostáva zodpovedný za rozhodnutie. Model poskytne výstup, člen personálu ho skontroluje a rozhodnutie je prijaté. Neskôr musí nadriadený pochopiť cestu. Výstup samotný je prítomný. Rozhodnutie je prítomné. Reťazec medzi nimi nie je. Neexistuje jasný záznam o platných pokynoch, použitom vstupe, nasadenej verzii, dostupnom zásahu alebo dôvode, prečo človek výsledok prijal. Nič v tomto opise nevyžaduje špekulatívnu poruchu. Chýbajúci záznam stačí na to, aby sa z preskúmania stalo rekonštrukčné cvičenie.

Akt o umelej inteligencii Európskej únie sa často diskutuje ako katalóg zákazov, kategórií a sankcií. Tieto časti sú dôležité, ale nie sú celým dielom. Akt tiež opisuje tichšiu infraštruktúru dôkazov: riadenie rizík, ktoré je zdokumentované a udržiavané, postupy s údajmi, ktoré majú pôvod a účel, technickú dokumentáciu, ktorú možno posúdiť, protokoly, ktoré zaznamenávajú relevantné udalosti, pokyny, ktoré nasadzovateľovi hovoria, ako interpretovať systém, ľudský dohľad so skutočnou autoritou, a záznamy, ktoré zostávajú k dispozícii, keď neskôr príde otázka. Zákon žiada inštitúciu, aby si pamätala zámerne.

To je menej filmová úloha ako spustenie modelu. Je to tiež miesto, kde sa zodpovednosť stáva skutočnou. Heslo môže tvrdiť, že organizácia preberá zodpovednosť. Záznam môže ukázať, ako zodpovednosť vyzerala v konkrétnom čase. Môže ukázať hranicu, neistotu, schválenie, odmietnutie, opravu alebo absenciu. Nemôže urobiť nezákonné rozhodnutie zákonným tým, že existuje dodatočne, a nemôže sám o sebe napraviť stratu osoby. Môže urobiť cestu dostatočne kontrolovateľnou pre nápravu, opravu a lepšie rozhodnutie o ďalšej verzii.

Tento článok je o tejto tichej práci. Číta povinnosti týkajúce sa vedenia záznamov a dokumentácie v Akte o umelej inteligencii ako prevádzkové požiadavky, nie ako papierovačku pripojenú k spusteniu. Pýta sa, čo záznamy môžu preukázať, čo nemôžu preukázať, ako záznam získava význam z kontextu, prečo úplnosť nie je to isté ako objem, a ako môže organizácia vybudovať rutinu, ktorá zanecháva dôkazy bez toho, aby zmenila každú ľudskú interakciu na trvalý objekt sledovania. Príklady, ktoré nie sú priamo prevzaté z citovaného zdroja, sú označené ako navrhované, hypotetické alebo zložené. Na konci príbehu nečaká žiadny vymyslený incident. Zmyslom je vyhnúť sa potrebe jedného.

Povinnosti podľa aktu nie sú oddelené police. Tvoria cestu od účelu a rizika k dôkazom, dohľadu a náprave.

Prečo na tichej práci záleží

Záznamy sa dajú ľahko nepochopiť, pretože sú prítomné takmer v každej organizácii. Riadok databázy, tiket, žiadosť o zmenu, podpísané rozhodnutie, časová pečiatka a riadok denníka vyzerajú ako záznamy. Ich samotná prítomnosť hovorí veľmi málo. Záznam sa stáva užitočným, keď odpovedá na definovanú otázku s dostatočným kontextom na rozlíšenie toho, čo sa stalo, od toho, čo si niekto teraz myslí, že sa stalo. Toto rozlíšenie je obzvlášť dôležité pre AI, pretože viditeľný výstup často skrýva množstvo transformácií, ktoré mu predchádzali.

Konvenčný softvérový systém môže zanechať stopu, ktorá je jeho prevádzkovateľom známa. Vstúpi požiadavka, služba overí polia, spustí sa pravidlo, zmení sa stav a odpoveď odíde. Systémy AI môžu pridať odvodené kategórie, získaný kontext, inštrukcie v prirodzenom jazyku, pravdepodobnostné výstupy, volania nástrojov, ľudské úpravy a adaptívny stav. Táto extra flexibilita môže byť užitočná. Zároveň vytvára viac príležitostí na to, aby fakt stratil svoj pôvod alebo aby sa inštrukcia stala autoritatívnou bez toho, aby bola ako taká rozpoznaná. Záznam musí zachovať rozlíšenia, ktoré má rozhranie tendenciu zahladzovať.

Akt o AI nevyžaduje, aby organizácia uchovávala každý bajt, ktorý kedy prešiel modelom. Jeho požiadavky sú viazané na účel, riziko, vysledovateľnosť, životný cyklus a kontrolu. To je užitočný východiskový bod. Hovorí, že dôkazy by mali byť primerané zamýšľanému účelu a rizikám, pričom by mali byť stále dostatočne prísne pre príslušnú povinnosť. Záznam o návrhu s nízkym dopadom by sa nemal považovať za úplný spis pre rozhodnutie ovplyvňujúce základné práva. Naopak, dôležité rozhodnutie nemožno urobiť zodpovedným uložením jedinej záverečnej vety a zeleného zaškrtnutia.

Tichá práca preto začína skôr, ako je systém uvedený do prevádzky. Niekto musí uviesť, čo má systém robiť, kde nemá fungovať, ktorí ľudia a prostredia sú v rozsahu, aký vstup môže prijímať, kto môže konať na základe výstupu a čo sa stane, keď je systém neistý alebo nedostupný. Toto nie sú len otázky dizajnu. Sú to podmienky, ktoré dávajú neskorším záznamom význam. Bez nich nám časová pečiatka povie, kedy sa niečo stalo, ale nie to, či to bolo povolené, očakávané alebo výnimka.

Existuje inštitucionálny dôvod brať to vážne. Osoba, ktorá žiada o dôkazy, často nie je tá, ktorá systém vytvorila. Príslušný orgán, interný posudzovateľ, dotknutá osoba alebo nástupnícky tím sa môžu stretnúť so záznamom až po tom, čo sa zmenili zamestnanci, dodávatelia a modely. Dôkazy, ktorým rozumie len ich pôvodný autor, sú krehkou formou zodpovednosti. Dôraz nariadenia na jasnú dokumentáciu, zrozumiteľné pokyny a prístup pre orgány je odpoveďou na túto krehkosť. Kontinuitu považuje za súčasť súladu s predpismi.

Čítajte nariadenie ako postupnosť, nie ako slogan

Požiadavky nariadenia na vysokorizikové systémy možno čítať ako postupnosť otázok. Čo má systém robiť. Aké riziká môže v tomto kontexte vytvárať. Aké údaje a predpoklady ho podporujú. Ako bol systém vytvorený a testovaný. Čo potrebuje vedieť prevádzkovateľ. Aké udalosti sa musia zaznamenať. Kto môže systém dohliadať, prepísať alebo zastaviť. Čo sa stane, keď systém nie je v súlade s predpismi alebo predstavuje riziko. Táto postupnosť nie je úhľadný softvérový pipeline. Je to reťazec zodpovednosti, ktorý sa vracia späť, keď sa zmenia dôkazy.

Článok 9 opisuje riadenie rizík ako nepretržitý, iteratívny proces plánovaný a vykonávaný počas celého životného cyklu vysokorizikového systému umelej inteligencie. Musí byť zavedený, implementovaný, zdokumentovaný a udržiavaný. Táto formulácia má praktický dôsledok. Posúdenie rizika nie je slávnostný dokument, ktorý odchádza do dôchodku v deň uvedenia na trh. Je to záznam živého procesu, ktorý identifikuje a vyhodnocuje známe a primerane predvídateľné riziká, zohľadňuje informácie z monitorovania po uvedení na trh a prijíma cielené opatrenia. Záznam by mal neskoršiemu čitateľovi umožniť vidieť, čo sa zvažovalo, čo nebolo možné odstrániť, čo zostalo ako zvyškové riziko a kto túto pozíciu prijal.

Článok 10 zaraďuje údaje a správu údajov do rovnakej disciplíny. Príslušné postupy zahŕňajú konštrukčné rozhodnutia, pôvod údajov, prípravné operácie, predpoklady o tom, čo údaje predstavujú, dostupnosť a vhodnosť, možnú zaujatosť, medzery v údajoch a opatrenia prijaté na ich riešenie. Toto je iná myšlienka ako tvrdenie, že súbor údajov bol čistý. Čistý je záver. Pôvod, príprava, predpoklady a medzery sú dôkazom o tom, ako sa k záveru dospelo a kde môže prestať byť spoľahlivý. Záznam, ktorý zachováva iba označenie kvality, zabudol na otázky, ktoré robili kvalitu zmysluplnou.

Článok 11 vyžaduje technickú dokumentáciu pre vysokorizikový systém umelej inteligencie pred jeho uvedením na trh alebo do prevádzky a vyžaduje, aby bola táto dokumentácia aktualizovaná. Má poskytnúť národným príslušným orgánom a notifikovaným orgánom informácie potrebné na posúdenie súladu s predpismi. Dôležitý bod nie je v tom, že každý čitateľ by sa mal stať odborníkom na prílohu. Je v tom, že systém musí mať o sebe záznam, ktorý je dostatočne jasný a komplexný na externé posúdenie. Tento záznam potrebuje verziu, účel a vzťah k predchádzajúcim verziám. Dokument, ktorý opisuje systém, ktorý už neexistuje, je archív, nie aktuálny dôkaz.

Článok 12 potom robí prevádzku systému súčasťou dôkazov. Vysokorizikové systémy umelej inteligencie musia technicky umožňovať automatické zaznamenávanie udalostí počas ich životnosti. Možnosti zaznamenávania musia evidovať udalosti relevantné na identifikáciu situácií, ktoré môžu vytvoriť riziko alebo podstatnú modifikáciu, uľahčovať monitorovanie po uvedení na trh a monitorovanie prevádzky v rámci povinností prevádzkovateľa. Požadovaná úroveň vysledovateľnosti je spojená so zamýšľaným účelom. Zákon nežiada, aby bol denník denníkom ľudského života. Žiada, aby systém zanechal dostatok prevádzkovej pamäte na relevantné otázky.

Články 13 a 14 spájajú túto pamäť s ľuďmi. Systém s vysokým rizikom musí byť dostatočne transparentný na to, aby prevádzkovatelia dokázali interpretovať jeho výstup a vhodne ho používať, a musí byť dodaný s návodom na použitie. Ľudský dohľad musí byť účinný a primeraný riziku, autonómii a kontextu. Osoby poverené dohľadom musia byť schopné porozumieť schopnostiam a obmedzeniam, všímať si anomálie a neočakávané správanie, vyhýbať sa nadmernému spoliehaniu, interpretovať výstupy, ignorovať ich alebo ich prepísať a v prípade potreby systém bezpečne prerušiť. Tieto schopnosti nemôžu žiť iba v tréningovom slajde. Seriózny záznam by mal umožniť zistiť, čo človek mohol vedieť a urobiť v momente rozhodnutia.

Články 15 až 21 uzatvárajú oblúk od výkonu k náprave. Presnosť, robustnosť a kybernetická bezpečnosť sú vlastnosti počas celého životného cyklu. Poskytovatelia musia udržiavať systém riadenia kvality, ktorý je prehľadne zdokumentovaný a zahŕňa postupy pre dáta, riadenie rizík, monitorovanie po uvedení na trh, hlásenie incidentov, komunikáciu, vedenie záznamov a rámec zodpovednosti. Dokumentácia a protokoly musia zostať k dispozícii počas období a na účely, ktoré nariadenie určuje. Nápravné opatrenia a spolupráca s príslušnými orgánmi sú povinnosti, nie voliteľný public relations. Výsledkom nie je slogan o dôveryhodnej AI. Je to súbor artefaktov, ktoré inštitúcii umožňujú preukázať, vyšetriť, opraviť a vysvetliť.

Tri veci, ktoré záznam dokáže

Po prvé, záznam môže potvrdiť udalosť. Môže ukázať, že systém bol vyvolaný, že bola aktívna konkrétna verzia, že bol prijatý vstup, že bol navrhnutý hovor nástroja, že bola zaregistrované schválenie človekom, že bola dokončená akcia alebo že bol systém zastavený. Dôkaz o udalosti je vrstva, ktorú si väčšina ľudí predstaví, keď počujú slovo protokol. Je dôležitý, pretože spornú akciu nemožno vyšetriť, ak organizácia nedokáže určiť, či k akcii došlo. Je to tiež najmenej úplná vrstva, ak stojí sama.

Záznam udalosti potrebuje stabilnú identitu, časový odkaz, aktéra alebo zodpovednú rolu, identitu systému alebo komponentu a dostatok stavu, aby sa predišlo nejednoznačnosti. Presné polia závisia od účelu a práva. Časová pečiatka bez časového základu môže byť mätúca naprieč systémami. Identifikátor používateľa bez roly hovorí málo o oprávnení. Názov modelu bez verzie nedokáže určiť, ktoré správanie bolo v rozsahu. Záznam môže byť technicky autentický a napriek tomu inštitucionálne chudobný.

Po druhé, záznam môže potvrdiť základ. Môže ukázať, ktorý účel, pravidlo, inštrukcia, zdroj dát, verzia politiky alebo hodnotenie podporilo akciu. Dôkaz o základe je to, čo bráni tomu, aby sa rozhodnutie stalo voľne plávajúcim výstupom. Nemusí reprodukovať každý interný výpočet. Musí identifikovať podmienky, ktoré urobili výstup zmysluplným, a hranice, ktoré obmedzovali, čo s ním človek mohol robiť. Keď základ chýba, organizácia môže vedieť, čo urobila, bez toho, aby vedela, prečo na to mala právo.

Po tretie, záznam môže potvrdiť reakciu. Môže ukázať, že anomália bola zistená, že operátor odmietol výstup, že riziko bolo eskalované, že systém bol pozastavený, že bola vykonaná oprava alebo že bola prijatá a smerovaná sťažnosť. Dôkaz o reakcii sa často prehliada, pretože tímy sa zameriavajú na prvý výstup modelu. V praxi zodpovednosť žije v tom, čo sa stane po tom, ako sa neistota stane viditeľnou. Systém, ktorý dokáže vytvoriť záznam o probléme, ale nemá záznam o reakcii, postavil senzor bez brzdy.

These three functions overlap, but they should not be collapsed. A source citation may establish a basis without proving that the source was actually used in the run. A human approval may establish a response without proving that the reviewer saw a complete context. A model version may establish identity without proving that the version behaved consistently. Good records make the claims they can support explicit. They do not borrow authority from neighbouring records and call the arrangement a chain.

Completeness is not a byte count. It is the ability to answer the questions created by the system’s purpose and consequences.

What a record cannot do

A record cannot convert a prohibited practice into a permitted one. If the use itself is outside the law, perfect logging is not a defence. Evidence can expose a wrong decision, but it cannot retroactively grant authority that never existed. This is why documentation should never be presented as a substitute for legal analysis, fundamental rights assessment or a clear purpose. A beautifully indexed violation is still a violation. The index merely makes it easier to find.

A record cannot prove that a decision was fair merely because the fields are filled. Fairness is not a property that appears when a form reaches one hundred per cent. The relevant question is whether the system, data, workflow and human judgement treated people in a way that respects the applicable rights and obligations. A record can preserve evidence about that question. It can show what information was used, what rule was applied, which exceptions were considered and how an appeal was handled. It cannot decide the moral and legal question by itself.

A record cannot make a weak explanation meaningful by adding technical detail. A person affected by a decision may need a clear account of the role the AI played and the main elements of the decision. Dumping internal identifiers, raw token traces or a screenful of machine telemetry onto that person is not automatically transparency. The form of the evidence has to match the question and the audience. Authority needs assessable documentation. Operators need usable instructions. Affected people need a comprehensible route to understand and challenge.

Záznam nemôže zachovať budúcnosť. Je pohľadom z konkrétneho času, vytvoreným s informáciami a stavom systému, ktoré vtedy existovali. Toto obmedzenie nie je chyba. Je dôvodom na zaznamenávanie verzií, období účinnosti a neistoty. Ak sa politika zmenila po rozhodnutí, záznam by nemal ticho zobrazovať novú politiku, akoby riadila starý úkon. Ak bol zdroj opravený, skorší vstup by mal zostať identifikovateľný, pričom oprava a jej účinok sú zaznamenané. Čas je súčasťou významu, nie ozdobou na pravej strane informačného panela.

Záznam nemôže organizácii povedať, čo nezaznamenala. Toto znie samozrejme, ale je to dôležitá hranica v ére generovaných vysvetlení. Model možno požiadať, aby rozprával o minulom rozhodnutí. Výsledný text môže byť užitočný ako hypotéza alebo zhrnutie. Pokiaľ nie je založený na zachovaných dôkazoch, nie je strojom času. Bezpečnejšou praxou je označiť rekonštrukciu ako rekonštrukciu, identifikovať chýbajúce dôkazy a vyhnúť sa prezentovaniu vierohodného opisu ako pozorovaného. Úprimná neúplnosť je užitočnejšia ako úplná fikcia.

Protokoly sú dôkaz, nie morálne alibi

Protokolovanie je príťažlivé, pretože pôsobí objektívne. Riadok s časovou pečiatkou a identifikátorom systému vyzerá neutrálnejšie ako ľudská poznámka. Nie je neutrálny. Niekto rozhodol, čo zaznamenať, čo vynechať, ktoré polia ponechať, ako ich chrániť, ako synchronizovať čas a kto môže výsledok kontrolovať. Protokolovanie je technické rozhodnutie s právnymi a ľudskými dôsledkami. Ustanovenia o vedení záznamov v zákone o umelej inteligencii toto rozhodnutie zviditeľňujú, ale neodstraňujú potrebu starostlivého navrhnutia.

Prvou otázkou návrhu je účel. Článok 12 uvádza vysledovateľnosť, identifikáciu rizík, monitorovanie po uvedení na trh a monitorovanie prevádzky ako dôvody na zaznamenávanie relevantných udalostí. Každý dôvod môže vyžadovať iný pohľad. Prevádzkovateľ môže potrebovať stručné vysvetlenie odmietnutia a cestu k nadriadenému. Špecialista na bezpečnosť môže potrebovať verziu a pôvod vstupov. Príslušný orgán môže potrebovať dokumentáciu a protokoly dostatočné na posúdenie súladu. Úradník na ochranu údajov môže potrebovať vedieť, ktoré osobné údaje protokol obsahuje a prečo sa uchovávajú. Jeden nediferencovaný prúd môže byť pre človeka príliš hlučný a pre vyšetrovanie príliš slabý.

Druhou otázkou je rozsah. Užitočný protokol zaznamenáva udalosti, ktoré sú dôležité pre zamýšľaný účel a riziko, nie každé vedľajšie gesto. Pre systém, ktorý len navrhuje interný text, môže byť relevantnou udalosťou vyvolanie, sada zdrojov, verzia modelu, verzia pokynov, ľudské uvoľnenie a konečné rozhodnutie. Pre systém, ktorý môže zmeniť externý záznam, sú prechody stavov a potvrdenia nástrojov nevyhnutné. Pre systém, ktorý podporuje rozhodnutie s vysokým vplyvom, sú rozsah vstupov, výstup, ľudská kontrola a cesta opravy dôležitejšie ako ozdobný počítadlo tokenov. Záznam by mal nasledovať dôsledky.

Tretou otázkou je integrita. Záznam, ktorý možno upraviť bez zistenia, môže byť stále užitočný na prevádzku, ale o histórii tvrdí menej. Kontroly integrity môžu zahŕňať obmedzenia prístupu, úložisko len na pridávanie, kontrolné súčty, podpisy, nezávislé časové referencie, kontrolované opravy a zdokumentované uchovávanie. Vhodný mechanizmus závisí od rizika. Dôležité je uviesť, čo mechanizmus chráni a čo nie. Dôkaz o manipulácii môže ukázať, že sa záznam zmenil. Nemôže ukázať, že pôvodný záznam bol úplný alebo že zachytená udalosť bola zákonná.

Štvrtou otázkou je súkromie. Protokoly môžu obsahovať výzvy, identifikátory, výňatky zo zdrojov, výstupy modelov, argumenty nástrojov a ľudské poznámky. Ich ponechanie všetkých navždy môže vytvoriť druhý problém v mene riešenia prvého. Samotné nariadenie spája povinnosti protokolovania s iným právom Únie a vnútroštátnym právom vrátane ochrany údajov. Rozumný návrh oddeľuje prevádzkové dôkazy od zbytočného obsahu, obmedzuje prístup, definuje uchovávanie a podporuje opravu alebo výmaz tam, kde sa to vyžaduje. Minimalizácia nie je nepriateľom zodpovednosti. Je to to, čo bráni tomu, aby sa zodpovednosť stala licenciou na zhromažďovanie súkromného životopisu každého používateľa.

Piatou otázkou je prehratie. Prehratie nemusí vždy znamenať opätovné spustenie pravdepodobnostného modelu a očakávanie rovnakej vety. Môže znamenať rekonštrukciu príslušného stavu: verzie modelu a politiky, odkazy na zdroje, klasifikáciu vstupov, súbor inštrukcií, výstup, ľudský zásah, výsledok nástroja a následnú akciu. Prehratie môže odhaliť, že presná reprodukcia je nemožná, pretože sa zmenila vzdialená závislosť. Tento výsledok je stále dôkazom, ak systém uvádza, čo sa zachovalo, čo nie a prečo. Úprimná hranica prehratia je cennejšia ako divadelné tlačidlo označené ako reprodukovať.

Napokon, protokoly potrebujú vlastníka. Pole bez vlastníka sa stáva osirelým sľubom. Niekto musí rozhodnúť, ktoré udalosti sú relevantné, overiť, že zaznamenávanie funguje, monitorovať zlyhania v ceste protokolovania, chrániť prístup, testovať vyhľadávanie a vyraďovať záznamy podľa uvedeného účelu. Vlastníkom môže byť tím, nie osoba, ale zodpovednosť nemožno delegovať na úložný priestor. Úložný priestor sa nezúčastňuje na kontrolnom stretnutí. Má tiež sklamaním končiace chápanie proporcionality.

Dokumentácia je živý opis

Technická dokumentácia sa niekedy považuje za miesto, kde si inžiniersky tím vysvetľuje produkt sám sebe. Podľa aktu o umelej inteligencii má širšie publikum. Musí poskytovať informácie, ktoré môže vnútroštátny orgán dohľadu alebo notifikovaný orgán použiť na posúdenie zhody. To mení tón dokumentu. Nemal by byť reklamou na systém a nemal by byť súkromným poznámkovým blokom plným odkazov, ktoré nikto iný nedokáže nasledovať. Je to kontrolovaný opis účelu, návrhu, prevádzky, obmedzení, údajov, testovania a zmien.

Živý opis má vzťah k identite systému. Uvádza poskytovateľa, zamýšľaný účel a príslušné verzie. Vysvetľuje, ako systém interaguje s iným softvérom a hardvérom. Opisuje komponenty a procesy, ktoré ovplyvňujú požiadavky. Zaznamenáva testy a validáciu, ktoré podporujú tvrdenia o výkone. Identifikuje predvídateľné podmienky, ktoré môžu zmeniť správanie. Uvádza rozhrania a opatrenia dohľadu, ktoré nasadzovateľ potrebuje. To neznamená, že dokument musí bez rozdielu odhaľovať obchodné tajomstvá. Znamená to, že dôvernosť sa nemôže stať výhovorkou pre absenciu posúditeľného opisu.

Verzovanie je kľúčovým bodom. Dokument, ktorý sa mení bez histórie, môže skryť zmenu tým, že nový stav vyzerá ako starý. História, ktorá zaznamenáva každú úpravu interpunkcie, môže pochovať podstatnú zmenu medzi neškodným šumom. Užitočný záznam o zmenách identifikuje, čo sa zmenilo, prečo sa to zmenilo, kto to schválil, ktoré posúdenie sa zopakovalo, ktorý nadväzujúci materiál sa musí aktualizovať a kedy sa nový stav stal účinným. Akt o umelej inteligencii sa na viacerých miestach odvoláva na podstatnú modifikáciu. Organizácia potrebuje spôsob, ako si všimnúť zmenu skôr, než sa označenie stane sporom.

Proveniencia sa vzťahuje aj na predpoklady. Systém sa môže spoliehať na predpoklad o populácii zastúpenej v súbore údajov, aktuálnosti zdroja, význame poľa alebo kompetencii osoby nasadzujúcej systém. Predpoklady nie sú trápnymi nedostatkami, ktoré treba skryť v poznámke pod čiarou. Sú hranicami tvrdenia systému. Záznam, ktorý ich pomenúva, dáva operátorovi šancu rozpoznať, kedy sa hranica dosiahla. Záznam, ktorý ich skrýva, pozýva na používanie systému mimo podmienok, za ktorých jeho dôkazy dávali zmysel.

Dokumentácia by mala robiť neistotu čitateľnou bez predstierania, že každú neznámu možno kvantifikovať. Niektoré neistoty sú numerické. Iné sa týkajú chýbajúceho pokrytia, nevyriešených konfliktov, meniacej sa legislatívy, nových vstupov alebo netestovanej interakcie s iným komponentom. Dobrý opis môže povedať, že podmienka nebola vyhodnotená, že výsledok závisí od ľudského úsudku alebo že systém by sa nemal používať na vymenovaný účel. Tieto vyhlásenia nie sú znakmi slabého systému. Sú informáciou, ktorá silnému systému umožňuje zostať v medziach svojho oprávnenia.

Existuje rozdiel medzi obmedzením a odmietnutím. Obmedzenie hovorí, kde sa tvrdenie systému stáva nespoľahlivým. Odmietnutie hovorí, že systém nebude pokračovať za určitej podmienky. Obe by mali byť zdokumentované. Ak používateľ vidí iba všeobecnú chybu, organizácia stráca príležitosť vysvetliť, či obmedzenie chráni bezpečnosť, súkromie, práva, kvalitu alebo kapacitu. Jasné záznamy o odmietnutiach tiež podporujú zlepšovanie. Opakované odmietnutia môžu ukázať, že pracovný postup žiada od systému prácu, na ktorú nebol nikdy navrhnutý.

Ľudský dohľad potrebuje dôkazy okolo seba

Ustanovenia o ľudskom dohľade v zákone o umelej inteligencii sa dajú ľahko zhrnúť a ťažko implementovať. Určenie osoby nie je to isté ako umožnenie dohľadu. Osoba potrebuje kompetenciu, školenie, právomoc a podporu. Musí rozumieť schopnostiam a obmedzeniam, odhaľovať anomálie, vyhýbať sa zaujatosti voči automatizácii, interpretovať výstup a rozhodnúť sa systém nepoužiť, prepísať ho, zvrátiť alebo zastaviť. Toto sú operačné právomoci. Osoba, ktorá je technicky určená ako recenzent, ale nevidí vstup, nemôže zmeniť výsledok ani pozastaviť pracovný postup, je svedkom, nie dohliadajúcim.

Záznamy môžu ukázať, či mal dohľad zuby. Môžu identifikovať pridelenú úlohu, prezentované informácie, zobrazené varovanie alebo obmedzenie, opatrenie prijaté recenzentom a konečné rozhodnutie. Môžu zachovať dôvod prepísania bez toho, aby nútil osobu písať zakaždým esej. Môžu tiež ukázať, kedy bol systém nedostupný alebo kedy bola cesta recenzie obídená. Absencia ľudského opatrenia nie je automaticky pochybením. Je signálom preskúmať, či dizajn umožnil opatrenie, urobil ho potrebným a viditeľným.

Zvážte navrhovaný vzor skôr ako hlásenú udalosť. Systém poskytne odporúčanie a krátky panel s dôkazmi. Recenzent môže prijať, upraviť, odmietnuť alebo eskalovať. Rozhranie zaznamenáva verziu systému, odkazy na zdroje, stav politiky, úlohu recenzenta a rozhodnutie. Ak recenzent odporúčanie odmietne, záznam uloží kontrolovaný dôvod a odošle prípad na ďalšie sledovanie tam, kde vzor naznačuje opakujúci sa nedostatok. Toto nie je tvrdenie, že vzor je dostatočný pre každý vysokorizikový kontext. Ukazuje, ako môže rozhranie premeniť ľudský dohľad zo zaškrtávacieho políčka na pozorovateľnú súčasť rozhodovania.

Ľudská kontrola potrebuje ochranu aj pred únavou a spoločenským tlakom. Záznam, ktorý ukazuje tisíce schválení, ale žiadne zmysluplné zásahy, môže naznačovať, že pracovný postup je v poriadku, alebo že kontrolór v skutočnosti nemôže spochybniť výstup. Samotné čísla to nedokážu rozhodnúť. Užitočný monitorovací režim spája rozhodnutia so vzorkovaním, zistenými chybami, kvalitou eskalácií, dostupným časom, školením a dôsledkami nesprávnej odpovede. Meranie by malo osvetľovať prácu, nie vytvárať kvótu, ktorá ľudí naučí schvaľovať rýchlejšie.

Dohľad musí zahŕňať právo zastaviť. Článok 14 opisuje zásah alebo prerušenie prostredníctvom tlačidla zastavenia alebo podobného postupu, ktorý systému umožní zastaviť sa v bezpečnom stave. Ovládací prvok zastavenia, ktorý existuje len v príručke, nie je to isté ako ovládací prvok, ktorý oprávnená osoba dosiahne pod tlakom. Záznam by mal ukázať, či bolo zastavenie dostupné, kto ho mohol použiť, aký stav nasledoval a ako sa pracovný postup obnovil. Systém, ktorý sa dá zastaviť, ale nedokáže vysvetliť, čo bolo zastavené, vyriešil len polovicu problému.

Tieto dôkazy majú aj ľudskú stránku. Keď je výsledok spochybnený, záznamy môžu chrániť kontrolóra aj dotknutú osobu. Môžu ukázať, že kontrolór videl obmedzenie, postupoval podľa postupu, eskaloval konflikt alebo zastavil rizikovú činnosť. To nerobí každé rozhodnutie správnym. Robí to podmienky rozhodovania viditeľnými. Zodpovednosť nie je lov na najbližší ľudský odtlačok prsta. Je to snaha pochopiť reťazec dostatočne dobre na to, aby sa dal zlepšiť.

Systém kvality za dokumentáciou

Článok 17 vyžaduje, aby poskytovatelia systémov umelej inteligencie s vysokým rizikom zaviedli systém riadenia kvality a systematicky a usporiadane ho dokumentovali prostredníctvom politík, postupov a pokynov. Jeho zoznam je zámerne široký. Zahŕňa regulačnú zhodu a riadenie zmien, kontroly návrhu a vývoja, testovanie a validáciu, technické špecifikácie, riadenie údajov, riadenie rizík, monitorovanie po uvedení na trh, hlásenie závažných incidentov, komunikáciu s orgánmi a inými prevádzkovateľmi, vedenie záznamov, riadenie zdrojov a rámec zodpovednosti pre vedenie a zamestnancov.

Pri čítaní ako celku to nie je požiadavka na ďalší priečinok so zhodou. Je to požiadavka, aby organizácia dokázala prepojiť svoje rozhodnutia. Testovací postup by mal mať vzťah k riziku. Proces s údajmi by mal mať vzťah k zamýšľanému účelu. Proces zmien by mal mať vzťah k dokumentácii. Monitorovací proces by mal mať vzťah k nápravným opatreniam. Rámec zodpovednosti by mal mať vzťah k ľuďom, ktorí môžu systém skutočne zmeniť. Ak sa každý dokument vedie izolovane, systém kvality sa stáva archívom nesúvisiacich dobrých úmyslov.

Užitočný záznam o kvalite odpovedá na štyri praktické otázky. Čo sa malo stať. Čo sa skutočne stalo. Ako bol rozdiel zistený. Čo sa v dôsledku toho zmenilo. Odpoveď môže byť rozdelená medzi register rizík, protokol o teste, záznam o zmene, správu o incidente a rozhodnutie o vydaní. To je prijateľné, ak sú vzťahy stabilné a zrozumiteľné. Nie je prijateľné, ak kontrolór musí hádať, ktoré súbory patria k rovnakému stavu systému alebo ktorý výsledok testu podporil konkrétne vydanie.

Systém potrebuje aj spôsob, ako zaznamenať rozhodnutie nezmeniť. Riziko sa môže posúdiť a vyhodnotiť ako prijateľné v rámci zdokumentovaných podmienok. Navrhovaná funkcia sa môže zamietnuť, pretože dôkazy sú nedostatočné. Vydanie môže počkať, pretože hodnotenie je neúplné. Toto sú rozhodnutia s odôvodnením, nie prázdny priestor v kalendári. Ich zaznamenanie zabráni tomu, aby si neskorší čitateľ pomýlil zámernú hranicu s náhodným opomenutím. Pomáha to aj tímu odolávať tlaku premeniť každú nevyriešenú otázku na plán spustenia.

Riadenie kvality má časový rozmer. Proces, ktorý fungoval pre statický model, nemusí fungovať, keď sa systém po nasadení učí, mení svoj index vyhľadávania alebo dostane nový nástroj. Proces, ktorý funguje pre interného asistenta, nemusí fungovať, keď je rovnaký komponent integrovaný do pracovného postupu rozhodovania. Záznam by preto mal identifikovať spúšťače preskúmania: verziu modelu, zdroj údajov, účel, skupinu používateľov, povolenie nástroja, právnu požiadavku, incident alebo vzor v monitorovaní. Spúšťač je súčasťou kontroly.

Aj tu záleží na proporcionalite. Nariadenie uvádza, že implementácia by mala byť primeraná veľkosti organizácie poskytovateľa, pričom musí rešpektovať prísnosť a ochranu potrebnú na dodržiavanie predpisov. Primerané neznamená neformálne. Malý poskytovateľ môže použiť kompaktný súbor dobre navrhnutých záznamov namiesto reprodukovania mechanizmov veľkej inštitúcie. Stále však potrebuje vedieť, kto je zodpovedný za každé rozhodnutie, kde sú uložené dôkazy, ako sa posudzujú zmeny a ako môže orgán získať informácie, ktoré potrebuje. Malý neznamená oslobodený od pamäti.

Uchovávanie je dizajnové rozhodnutie

Článok 18 vyžaduje, aby poskytovatelia uchovávali stanovenú dokumentáciu na dispozícii vnútroštátnym príslušným orgánom počas obdobia končiaceho desať rokov po uvedení vysokorizikového systému AI na trh alebo do prevádzky. Článok 19 sa zaoberá automaticky generovanými protokolmi a vyžaduje ich uchovávanie, ak sú pod kontrolou poskytovateľa, počas obdobia primeraného zamýšľanému účelu a najmenej šesť mesiacov, pokiaľ iný právny predpis, vrátane predpisov o ochrane údajov, neustanovuje inak. Sú to právne požiadavky s presným rozsahom. Nemali by sa bez rozdielu zovšeobecňovať na každý záznam v každom pracovnom postupe AI.

Praktické ponaučenie je, že uchovávanie musí byť navrhnuté podľa triedy záznamov. Technická dokumentácia, záznamy systému kvality, materiály o zhode, protokoly, zdrojové údaje, ľudské poznámky, hodnotiace súbory, dôkazy o incidentoch a verejné vysvetlenia môžu mať rôzne účely a životnosti. Jedno predvolené nastavenie uchovávania je architektonická skratka, nie stratégia riadenia. Môže vymazať dôkazy príliš skoro alebo uchovávať citlivý materiál dlho po tom, čo jeho účel skončil. Systém by mal vedieť, ktorú vrstvu drží a prečo.

Uchovávanie tiež potrebuje začiatok a koniec. Záznam, ktorý hovorí uchovávať desať rokov bez definovania udalosti, od ktorej sa obdobie počíta, nie je prevádzkovo úplný. Protokol uchovávaný šesť mesiacov bez uvedenia, či obdobie nasleduje po udalosti, vydaní alebo konci monitorovacieho cyklu, vyvoláva zbytočný zmätok. Právny text poskytuje relevantné referenčné body pre konkrétne povinnosti. Organizácia musí tieto referenčné body mapovať na stavy systému a zabezpečiť, aby bolo mapovanie kontrolovateľné.

Vymazanie záznamu je samo o sebe udalosťou. Ak sa funkčný prompt odstráni, pretože jeho účel skončil, systém môže potrebovať zachovať odkaz dokazujúci, že k odstráneniu došlo a ktoré pravidlo uchovávania ho povolilo. Ak sa opraví chyba, pôvodný dôkaz môže byť potrebné ponechať dostupný v rámci kontrolovanej histórie namiesto toho, aby zmizol bez vysvetlenia. Ak sa vymažú osobné údaje, odvodené artefakty a prístupové cesty môžu vyžadovať samostatnú analýzu. Záznam o vymazaní by sa nemal zamieňať s dôkazom, že každá kópia zmizla. Je dôkazom kontrolovanej akcie v rámci vymedzených hraníc.

Uchovávanie môže tiež chrániť inštitucionálne učenie sa. Preskúmanie incidentu, ktoré si ponechá len konečný záver, stráca podmienky, ktoré problém spôsobili. Záznam o hodnotení, ktorý si ponechá len skóre, stráca pracovnú záťaž, populáciu, metódu a obmedzenia, vďaka ktorým bolo skóre interpretovateľné. Záznam o oprave, ktorý si ponechá len novú hodnotu, stráca skutočnosť, že nesprávna hodnota prešla systémom. Ponechať si všetko nie je riešenie. Ponechať si správne dôkazy pre danú otázku áno.

Keď dôkazy chýbajú

The most useful record systems are designed for absence. They can say that a source was unavailable, that a field was redacted, that a version identifier was unknown, that a human review did not occur, that a tool acknowledgement failed or that a replay cannot be completed. This is not an invitation to manufacture a tidy placeholder. It is a way to prevent missing evidence from being silently converted into confidence.

Absence has types. Not collected means the system never attempted to preserve the field. Not available means the field existed elsewhere but could not be obtained. Not applicable means the condition did not belong to the workflow. Redacted means the evidence exists but is restricted under a rule. Conflicted means two sources disagree. Unknown means the organisation has not established the answer. These labels are proposed operating vocabulary, not terms mandated by the AI Act. Their value is that they keep different problems from collapsing into one empty cell.

A completeness inspector should therefore ask questions, not count fields. Does the record identify the system state. Does it show the purpose and input scope. Can the source or policy basis be found. Is the human authority visible. Are uncertainty and exclusions named. Can a person correct, appeal, suspend or delete within the applicable boundary. The answers depend on context. A record may be complete for an operational alert and incomplete for an individual decision. Completeness is a relationship between evidence and consequence.

Missing records should trigger a response that matches the risk. A low-impact missing label may be repaired in the next release. A missing model version for a consequential decision may require the decision to be reviewed or the workflow suspended. A missing log of a state-changing tool call may require investigation outside the model team. The organisation should decide these thresholds before the incident, because deciding them during a heated review usually produces a policy made of adrenaline.

The absence path also needs an owner and a timestamp. If a required record cannot be produced, someone should know who is responsible for investigating, who can decide whether work continues, which evidence is being sought and when the status will be reviewed. That turns a gap into a managed state. It does not make the gap harmless. It prevents the institution from pretending that a missing page is an empty page.

The AI Office and the work of interpretation

The AI Act creates institutions and procedures that help turn the Regulation into practice. The Commission’s AI Office has a role in supervising and enforcing the obligations for general-purpose AI models, while national competent authorities and market surveillance authorities have responsibilities within the broader framework. The AI Act Service Desk provides an explainer for Article 12 that summarises the record-keeping duty and points readers to the official text. Its summary is explicitly non-binding. That distinction is worth preserving.

Guidance can make a rule usable by translating a legal requirement into examples, questions and implementation choices. It cannot replace the Regulation. An organisation should be able to show which claim comes from the binding text, which comes from guidance and which is its own control decision. This source discipline is not academic fussiness. It prevents a helpful example from becoming a fictional obligation and prevents a voluntary practice from being marketed internally as a legal minimum.

Oznámenie Komisie AI@EC je užitočným inštitucionálnym príkladom bez toho, aby tvrdilo, že opisuje každý verejný orgán. V januári 2024 Komisia stanovila prístup k vlastnému vývoju a využitiu umelej inteligencie vrátane interných prevádzkových usmernení, hodnotenia a klasifikácie rizík, vyhýbania sa systémom nezlučiteľným s európskymi hodnotami alebo ohrozujúcim práva a bezpečnosť, ako aj organizačných štruktúr na plnenie povinností. Nejde o to, že oznámenie vyrieši implementáciu. Ide o to, že inštitúcia, ktorá sa pripravuje na využívanie umelej inteligencie, musí zároveň pripraviť vlastnú kapacitu na riadenie tohto využívania.

Táto kapacita je postavená na záznamoch, ktoré možno prenášať. Politika by mala ukazovať na vlastníka. Hodnotenie rizika by malo ukazovať na identitu systému. Technický opis by mal ukazovať na vydanie. Záznam o školení by mal ukazovať na rolu a spôsobilosť. Signál monitorovania by mal ukazovať na opatrenie. Sťažnosť by mala ukazovať na postup. Keď sú tieto vzťahy explicitné, usmernenia sa dajú uplatňovať bez vytvárania samostatného sveta papierovačiek. Keď nie sú, každé nové usmernenie sa stáva ďalším dokumentom, o ktorom organizácia dúfa, že nejako zmení správanie.

Európske právo má osobitnú inštitucionálnu štruktúru. Zodpovednosti sú rozdelené medzi inštitúcie Únie, členské štáty, orgány, poskytovateľov, nasadzovateľov a ďalších prevádzkovateľov. Záznam musí túto distribúciu zviditeľniť, nie sploštiť každého aktéra na všeobecného vlastníka systému. Otázkou nie je len to, kto model vytvoril. Je to aj to, kto ho uviedol do prevádzky, kto kontroluje vstupy, kto určil dohľad, kto môže pozastaviť používanie a kto musí spolupracovať s orgánom. Mená a zmluvy sú dôležité, ale rovnako dôležité sú aj prevádzkové právomoci, ktoré môže záznam odhaliť.

Od právneho jazyka ku každodennej rutine

Právo sa stáva praktickým, keď organizácia premení každú povinnosť na malý počet opakovateľných postupov. Toto je navrhovaný prevádzkový vzor, nie právny kontrolný zoznam. Pri prijatí klasifikujte zamýšľaný účel, dotknuté osoby, kategórie údajov, mieru autonómie, nástroje a rozhodovaciu právomoc. Pred vydaním prepojte identitu systému, verziu, stav inštrukcií, zdroje údajov, testy, limity, rolu dohľadu a postup zastavenia. Počas prevádzky zaznamenávajte relevantné udalosti, monitorujte riziká a zviditeľňujte neistotu. Po zmene alebo incidente vyšetrite, opravte, aktualizujte opis a rozhodnite, či má používanie pokračovať.

Všimnite si, čo tento vzor nehovorí. Nehovorí, aby sa každá správa zbierala navždy. Nehovorí, že automatický záznam je to isté ako vysvetlenie. Nehovorí, že informačný panel dokazuje bezpečnosť. Nehovorí, že ľudské meno v pracovnom postupe dokazuje dohľad. Hovorí, že systém by mal mať záznam o podmienkach, za ktorých môže pracovať, a o udalostiach, ktoré môžu ukázať, či tieto podmienky platili.

Dobrý postup má začiatok a koniec. Záznam sa vytvorí, keď sa začne zmysluplný stav, aktualizuje sa, keď sa zmenia dôkazy alebo právomoci, a uzavrie sa, keď sa skončí účel alebo obdobie preskúmania. Uzavretie je dôležité, pretože otvorené záznamy sa potichu stávajú trvalými. Malo by uviesť, či bol systém vydaný, zamietnutý, pozastavený, nahradený, opravený alebo vyradený. Ak záznam nemožno uzavrieť, organizácia by mala vedieť prečo. Nekonečný predbežný stav je zdvorilý spôsob, ako sa vyhnúť rozhodnutiu.

Postupy by mali tiež rozlišovať fakty od interpretácií. Záznam môže zaznamenať, že model vrátil výstup. Recenzent môže zaznamenať, že výstup bol zamietnutý, pretože zdroj bol v rozpore s politikou. Tím pre incidenty môže neskôr usúdiť, že zmena vyhľadávania prispela ku konfliktu. Tento záver môže byť silný, ale nie je rovnakým druhom dôkazu ako udalosť. Označené vrstvy robia neskoršie vyšetrovanie čestnejším. Bez nich sa každý záver postupne stáva faktom, pretože nikto si nepamätá, ktorá veta bola pozorovaná a ktorá bola napísaná na stretnutí.

Vlastníctvo by malo byť viditeľné na úrovni polí, kde je to praktické. Poskytovateľ môže vlastniť technickú dokumentáciu. Nasadzovateľ môže vlastniť relevantnosť vstupov a prevádzkové monitorovanie. Správca údajov môže vlastniť práva na zdroje a kvalitu. Úloha ľudského dohľadu môže vlastniť rozhodnutie o prijatí, prepísaní alebo zastavení. Archívna funkcia môže vlastniť uchovávanie a prístup. Rozdelenie sa bude líšiť podľa kontextu a zmluvy. Záznam by mal umožniť položiť otázku správnemu vlastníkovi bez posielania hromadného e-mailu celej organizácii.

Testovanie postupu je rovnako dôležité ako jeho písanie. Navrhovaná kontrola by sa mala vyskúšať na bezpečnom, jasne označenom scenári. Dokáže tím získať záznam podľa verzie systému? Dokáže operátor vidieť stav inštrukcií použitý pri vydaní? Dokáže recenzent odmietnuť výstup a zachovať dôvod? Dokáže cesta zastavenia zanechať jasný stav? Dokáže príslušný orgán získať relevantnú dokumentáciu bez pátrania? Toto sú cvičenia, nie nahlásené incidenty. Ich výsledky by sa mali zaznamenať ako testy s jasne uvedenými obmedzeniami.

Postup by mal byť navrhnutý na pokojný deň. Ak funguje len vtedy, keď je špecialista hore, dodávateľ rýchlo odpovedá a každý si pamätá históriu nasadenia, nie je to postup. Je to kolektívna pamäť s dohodou o úrovni služieb. Seriózny systém záznamov dáva bežným zamestnancom spôsob, ako odpovedať na bežné otázky, a špecialistom dáva hlbšiu cestu, keď sa otázka stane závažnou. Pokojný deň je miesto, kde si systém zaslúži dôveru na hlučný deň.

Existuje pokušenie robiť záznamy krásnymi. Jasný dizajn pomáha ľuďom ich používať, ale vizuálny lesk nie je dôkaz. Farebný stav, skóre zrelosti alebo úplne vyzerajúca karta môžu skryť chýbajúce polia. Rozhranie by malo sťažiť prehliadnutie neistoty, zastaraných údajov a neoverených tvrdení. Malo by podporovať nudné činnosti, ktoré udržiavajú záznam pravdivý: pripnutie verzie, identifikáciu zdroja, pomenovanie úlohy, označenie obmedzenia, prepojenie opravy a uzavretie stavu. Dobrý dizajn dáva záznamu rukoväte. Nedáva záznamu právomoci, ktoré si nezaslúžil.

Malá poznámka od nás

V spoločnosti Dweve je naše Trust Centre organizované okolo rovnakej otázky: čo by mala byť iná osoba schopná preskúmať o modeli a jeho prevádzke. Verejný index spája identitu modelu, tréningový obsah, hodnotenia, riadenie rizík, monitorovanie po uvedení na trh, incidenty, správu údajov a technickú dokumentáciu. Toto usporiadanie nie je tvrdením, že verejná stránka dokazuje súlad, ani nie je náhradou za hodnotenie orgánu. Je to zámerný pokus udržať záznamy a ich hranice viditeľné. Naša práca Ledger predstavuje podobný argument na prevádzkovej úrovni: záznam by mal niesť dostatok identity a histórie, aby si neskorší čitateľ mohol overiť, čo sa zmenilo. Užitočný test nie je to, či stránka vyzerá upokojujúco. Je to to, či dôkazy hovoria pravdu o tom, čo môžu a čo nemôžu preukázať.

Záznamy sú súčasťou inštitúcie

Najhlbšou chybou je považovať požiadavky na záznamy podľa aktu o umelej inteligencii za daň z inovácií. Lepšie ich chápať ako opis toho, čo inštitúcia potrebuje na používanie výkonného, meniaceho sa systému bez toho, aby sa vzdala svojej pamäti. Model môže rýchlo vytvoriť výstup. Inštitúcia musí rozhodnúť, či výstup patrí do rozhodnutia, či ho niekto môže spochybniť, či oprava môže prejsť systémom a či budúci čitateľ dokáže pochopiť cestu.

Preto záznamy nemôžu zostať na okraji architektúry. Patria vedľa dát, inštrukcií, verzií modelov, nástrojov, rozhraní, ľudských rolí a nápravných opatrení. Záznam je spojivové tkanivo, ktoré umožňuje týmto častiam vzájomne si zodpovedať. Premieňa vyhlásenie o riziku na kontrolovateľnú podmienku. Premieňa zdroj na vysledovateľný základ. Premieňa ľudské schválenie na pozorovateľný úkon. Premieňa opravu na zmenu, ktorú možno overiť. Premieňa chýbajúce pole na riadenú otázku, nie na prázdne miesto, za ktoré nikto nezodpovedá.

Táto práca je tichá, pretože vyzerá obyčajne. Pomenujte systém. Stanovte účel. Zaznamenajte verziu. Dodržte hranicu zdroja. Otestujte log. Dajte recenzentovi právomoc. Označte, čo je neznáme. Zachovajte odpoveď. Ukončite záznam, keď účel pominie. Nič z toho nemá pôvab propagačného videa. Má však cennejšiu vlastnosť: prežije zmenu personálu, zmenu modelu, zmenu dodávateľa aj otázku od niekoho, kto nebol v miestnosti.

Naďalej budú existovať nezhody o výklade aktu o umelej inteligencii, o vhodnej úrovni podrobností a o tom, ako normy prevedú právne požiadavky do technickej praxe. Záznamy tieto spory neodstránia. Urobia ich presnejšími. Organizácia môže ukázať, na ktorý text sa spoliehala, ktorý predpoklad prijala, aké dôkazy mala, ktorý kontrolný mechanizmus zvolila a kde pretrváva jej neistota. To je lepší východiskový bod pre regulátora, kolegu, dotknutú osobu aj samotnú organizáciu.

Praktické ponaučenie je jednoduché. Nepýtajte sa len, či systém umelej inteligencie dokáže vytvoriť výsledok. Pýtajte sa, či inštitúcia dokáže zapamätať si podmienky tohto výsledku, predložiť relevantné dôkazy, pomenovať orgán, ktorý konal, identifikovať pretrvávajúcu neistotu a zabezpečiť, aby sa oprava šírila. Ak je odpoveď nie, systém môže byť stále technicky pôsobivý. Ešte však nie je inštitucionálne pripravený.

Tichá práca aktu EÚ o umelej inteligencii preto nespočíva v tom, aby technológia znela seriózne. Ide o to, aby bola serióznosť pozorovateľná. Záznamy nie sú slogany s časovými pečiatkami. Sú to ohraničené dôkazy, vytvorené na konkrétny účel, prepojené so zodpovednosťou a otvorené oprave. Ak ich budete budovať starostlivo, organizácia môže používať umelú inteligenciu bez toho, aby sa plynulosť musela vydávať za pamäť. Ak ich necháte ako dodatočný nápad, prvá ťažká otázka odhalí, že systém si ponechal výstup, ale stratil svoju históriu.

Zdroje