Európsky dialóg o umelej inteligencii potrebuje menej demonštrácií a viac inštitúcií

Presvedčivá ukážka modelu môže predviesť schopnosť. Nerozhoduje však o tom, kto má právomoc, ako ľudia napadnú výsledok, kde sú dôkazy uložené, čo sa stane,...

Európsky dialóg o umelej inteligencii potrebuje menej demonštrácií a viac inštitúcií

Ukážka nie je verejná inštitúcia

Dobrá ukážka má osobitný druh sily. Stlačí možnosť do niekoľkých minút. Vyplní sa formulár, zhrnie sa dokument, objaví sa obrázok, na náročnú otázku príde hodnoverná odpoveď. Každý v miestnosti vidí, prečo by niekto mohol tú vec chcieť. To je užitočné. Je to však aj bod, v ktorom sa množstvo ťažších otázok zdvorilo odloží na neskôr.

Neskôr je miesto, kde sa začína inštitúcia. Kto má právo rozhodnúť, či sa systém môže používať? Akému verejnému účelu slúži? Ktorý dôkaz je na tento účel dostatočný a kto môže povedať, že dostatočný nie je? Čo sa stane, keď sa zmení verzia, keď pracovník spochybní odporúčanie, keď človek požiada o vysvetlenie, keď energetické obmedzenie uzavrie trasu alebo keď sa z cestovnej mapy dodávateľa stane iná cestovná mapa? Ukážka nie je navrhnutá tak, aby na tieto otázky odpovedala. Verejná inštitúcia áno.

Európa strávila veľa času diskusiou o AI ako o súboji schopností. Táto konverzácia je pochopiteľná. Schopnosť je viditeľná. Vytvorí úhľadný filmový záber. Inštitúcie sú väčšinou viditeľné cez prácu, ktorou bránia tomu, aby sa veci stali záhadnými: podmienky verejného obstarávania, vedenie záznamov, kontroly prístupu, školenia, dohľad, odvolacie cesty, rozpočty na údržbu, jazyková podpora, technické normy, človek, ktorého meno je pripojené k rozhodnutiu. Nič z toho nedá hlavnému prejavu jeho obvyklý lesk. Rozhoduje však o tom, či systém zostane zodpovedný aj vtedy, keď sa miestnosť vyprázdni.

Toto nie je argument za bojazlivú technológiu ani za verejný sektor, ktorý nič nekúpi, kým neuvidí budúcnosť. Je to argument za odmietnutie kategorickej chyby. Model môže generovať, klasifikovať, predpovedať alebo odporúčať. Sám o sebe nedokáže vytvoriť legitímny mandát, prideliť verejnú zodpovednosť, naučiť kolegu, ako ho spochybniť, udržiavať národný jazyk, vyrokovať pripojenie k sieti ani zachovať nápravu pre človeka, ktorého sa jeho používanie týka. Tieto úlohy patria ľuďom a organizáciám, aj keď softvér pri práci pomáha.

Európska konverzácia o AI potrebuje menej ukážok v tom zmysle, že potrebuje menej ukážok, ktoré zastupujú dôkaz pripravenosti. Potrebuje viac inštitúcií v tom zmysle, že potrebuje lepšie miesta na rozhodovanie, uchovávanie vedomostí a nápravu kurzu. Posun nie je od technológie k byrokracii. Je od úzkeho obrazu technológie k skutočnému usporiadaniu, v ktorom má technológia dôsledky.

Táto vec je dôležitá ďaleko za hranicami vlády. Nemocnica, obec, škola, výrobca, kultúrna inštitúcia a malý podnik nemajú rovnaké povinnosti ani riziká. Všetci však nakoniec zistia, že model je jednou súčasťou väčšieho usporiadania. Väčšie usporiadanie určuje, kto dodáva vstupy, kto číta výstupy, kto prijíma zvyškové riziko, kto môže systém zastaviť a kto zostane, keď softvérová spoločnosť pošle svoj štvrťročný newsletter.

Preto jazyk inštitúcií nie je ústupom od technických ambícií. Je to jazyk kontinuity. Verejná služba musí fungovať v obyčajný utorok, v jazyku ľudí, ktorí ju používajú, v rámci rozpočtu, ktorý môže niekto kontrolovať, po zmene personálu, počas nezhody s dodávateľom a vtedy, keď sa z pôvodného nadšenia stane lístok na údržbu. Každé vážne tvrdenie o AI musí nakoniec prežiť túto cestu.

Schopnosť je len jedna z otázok

Ukážka sa zvyčajne pýta na úzku a rozumnú otázku: dokáže systém vykonať túto úlohu za týchto podmienok? Inštitúcia musí položiť viac otázok naraz. Je táto úloha vhodná na automatizáciu alebo asistenciu? Je uvedený účel zákonný a primeraný? Sú ľudia, ktorí prácu vykonávajú, stále schopní pochopiť a napadnúť výsledok? Existuje cesta, ako sa člen verejnosti môže opýtať, čo sa stalo? Môže organizácia zmeniť poskytovateľa bez toho, aby opustila svoje záznamy? Závisí systém od vzácneho výpočtového výkonu, konkrétneho jazykového zdroja alebo dátového toku, ktorého údržbu nikto nerozpočítal?

Tieto otázky model nezhoršujú. Robia rozhodnutie čestnejším. Odlišujú funkciu od služby a službu od verejnej kapacity. Funkcia môže byť pôsobivá, zatiaľ čo okolité usporiadanie je krehké. Služba môže byť užitočná, zatiaľ čo jej zmluva znemožňuje preskúmať podstatnú zmenu. Verejná kapacita musí zostať použiteľná, riadená a opraviteľná v priebehu času. Musí niesť viac než len výstup.

O akte o umelej inteligencii sa často hovorí, ako keby bol jedinou odpoveďou na tento problém. Nie je. Je to významný právny rámec a jeho uvedený účel spája fungovanie vnútorného trhu s umelou inteligenciou zameranou na človeka a dôveryhodnou AI a s vysokou úrovňou ochrany zdravia, bezpečnosti, základných práv, demokracie, právneho štátu a životného prostredia. Samotný akt však poukazuje na dôležitú vec o inštitucionálnej realite: funguje popri existujúcom práve Únie týkajúcom sa ochrany údajov, spotrebiteľov, zamestnanosti, pracovníkov a bezpečnosti výrobkov. Právny rámec nenahrádza tieto oblasti. Stretáva sa s nimi.

To by malo formovať praktickú diskusiu. Tím nemôže vyhlásiť systém za spoločensky spoľahlivý poukázaním na klasifikáciu rizík AI a zároveň ignorovať proces zamestnávania, ktorý ho obklopuje. Verejný orgán nemôže vyhlásiť systém za zodpovedný, pretože dokončil technické posúdenie, zatiaľ čo obyvatelia nedokážu nájsť vlastníka ani záznam. Dodávateľ nemôže spôsobiť, že problém s prenositeľnosťou zmizne použitím slova cloud. Otázka je vždy o tom, ako sa nový komponent správa v rámci povinností, ktoré už existovali.

Existuje praktické pokušenie považovať to za argument pre väčší priečinok so súladom. Nie je. Viac strán môže spôsobiť, že organizácia bude menej schopná konať, ak nikto nevie, ktorá strana mení rozhodnutie. Inštitúcie sa nestávajú schopnými zbieraním šablón. Stávajú sa schopnými, keď sa definovaný účel, menovaný orgán, použiteľné dôkazy a cesta na nápravu môžu stretnúť v tej istej časti práce.

To je oveľa náročnejší štandard ako ukážka. Je tiež spravodlivejší. Poskytovateľ modelu by nemal zodpovedať za každé miestne politické rozhodnutie, ktoré urobí nasadzovateľ. Nasadzovateľ by nemal byť požiadaný, aby spätne analyzoval každé technické rozhodnutie na vyššej úrovni. Každá strana potrebuje hranicu, záznam o tom, čo ju prekračuje, a spôsob, ako zistiť, kedy sa hranica posunula. Inštitúcie existujú čiastočne preto, aby tieto hranice boli čitateľné.

Právo je základ, nie celá budova

O Európe sa často hovorí, ako keby si vybrala pravidlá namiesto technológie. Tento opis je príliš úhľadný na to, aby bol užitočný. Právo môže zakazovať, vyžadovať, prideľovať povinnosti a zachovávať nápravné prostriedky. Môže definovať minimálnu verejnú hranicu, pod ktorú by systém nemal klesnúť. Nemôže najať recenzenta, ktorý rozumie miestnemu pracovnému postupu, udržiavať dátové rozhranie, napísať rozumnú špecifikáciu obstarávania alebo spôsobiť, že vyčerpaný tím zrazu bude mať čas naučiť sa nový proces. Tieto veci si vyžadujú kapacitu.

Rozdiel je dôležitý, pretože právny jazyk môže zakryť prevádzkovú nečinnosť. Politika môže tvrdiť, že existuje ľudský dohľad. Toto tvrdenie je bezvýznamné, ak človek nemá právomoc zastaviť trasu, nemá čas preskúmať prípad, nemá informácie o verzii modelu, nemá školenie na danú úlohu a nemá cestu, ako eskalovať nezhodu. Dohľad existuje len na papieri, podobne ako núdzový východ skrytý za skriňou. Bude veľmi upokojujúci, až kým ho nebude treba.

To isté platí pre transparentnosť. Zverejnenie môže byť technicky dostupné a prakticky nepoužiteľné. Človek môže dostať dlhý opis systému bez toho, aby sa dozvedel, kto vlastní rozhodnutie, aký záznam možno napadnúť alebo ako získať nápravu. Verejný register môže uvádzať algoritmus bez toho, aby hovoril, či je uvedená verzia aktuálna, na čo sa systém používa alebo kto má právomoc odpovedať na otázku. Transparentnosť nie je množstvo textu. Je to schopnosť nájsť rozhodnutie a jeho vlastníka.

Právna práca Európy je cenná práve preto, že niektoré z týchto otázok robí ťažšie odmietnuteľnými. Poskytuje spoločný jazyk pre poskytovateľov, nasadzovateľov, regulačné orgány a dotknuté osoby. Zároveň robí medzery viditeľnejšími. Keď organizácia nedokáže uviesť svoj zamýšľaný účel, identifikovať svoj tok údajov, viesť záznam o podstatnej zmene alebo uviesť osobu, ktorá môže zastaviť používanie, problém nie je len v tom, že dokumentácia mešká. Organizácia ešte nepostavila to, čo tvrdí, že prevádzkuje.

Tu majú inštitúcie miernu výhodu oproti heslám. Pamätajú si, že sa rozhodnutie stalo. Uchovávajú podmienky s ním. Zachovávajú rozdiel medzi plánom a udalosťou. K sľubu pripájajú meno, e-mailovú adresu a niekedy aj mierne tvrdohlavý formulár. Formulár nie je úspech. Úspech je, že niekoho možno brať na zodpovednosť za odpoveď.

Dobrý zákon vytvára priestor pre túto prácu. Nemal by sa používať ako jej náhrada. Zrelá otázka nie je, či je systém v súlade s predpismi abstraktne. Je to, či zodpovední ľudia dokážu preukázať, ako jeho konkrétne použitie spĺňa príslušné povinnosti, čo ešte nevedia a čo urobia, keď sa dôkazy zmenia. To je zároveň právna, prevádzková aj inštitucionálna otázka.

Verejné obstarávanie je miestom, kde sa verejný zámer stretáva so zmluvou s dodávateľom

Verejné obstarávanie znie procedurálne, pretože procedurálne je. Je tiež jedným z miest, kde sa verejný zámer stáva skutočným. Verejný orgán nakupuje práce, tovary alebo služby od vybraných spoločností prostredníctvom procesu formovaného pravidlami, ktoré majú zabezpečiť, aby obstarávanie zostalo otvorené a konkurencieschopné. V kontexte umelej inteligencie tento proces nie je len okamihom, keď sa vyberie produkt. Je to okamih, keď orgán môže rozhodnúť, čo musí dodávateľ sprístupniť na kontrolu, aké zmeny si vyžadujú oznámenie, ktoré záznamy zostanú dostupné, ako možno prácu odovzdať a čo sa stane, ak systém musí byť zastavený.

Obstarávanie, ktoré sa pýta len na schopnosti modelu, má tendenciu kúpiť demonštráciu s priloženou faktúrou. Obstarávanie, ktoré sa pýta na prevádzkové podmienky, kupuje niečo bližšie k službe. Môže si vyžiadať definovaný zamýšľaný účel, rozhrania, dokumentáciu, prístupné dôkazy, oprávnenia na základe rolí, kontaktné osoby pre incidenty, oznámenia o aktualizáciách, exportné formáty, hranice podpory, opatrenia na uchovávanie, pomoc pri ukončení a jasné rozdelenie zodpovednosti. Môže sa pýtať, kto vlastní konkrétne riziko, namiesto toho, aby umožnil každej strane predpokladať, že ho vlastní tá druhá.

Neexistuje žiadna univerzálna klauzula, ktorá by tieto veci upravovala. Malá organizácia kupujúca úzky interný nástroj by nemala zdediť zmluvu navrhnutú pre národnú kritickú službu. Rovnako vysoko vplyvné verejné použitie by nemalo dostať zmluvnú disciplínu bezplatnej skúšobnej verzie s mierne dlhším formulárom. Zmluva musí nasledovať dôsledky rozhodnutia, závislosť vytvorenú službou a schopnosť organizácie ju prevádzkovať.

Ilustračný scenár, nie správa o skutočnom verejnom obstarávaní: predstavte si verejný orgán zvažujúci systém, ktorý pomáha zamestnancom organizovať prichádzajúci spisový materiál. Ukážka predstavuje súhrny, extrahované polia a navrhovaný front. Zodpovednou otázkou nie je, či front vyzerá upravene. Je ňou, či zamestnanci vidia zdrojový materiál, či sú pravidlá pre prioritu zdokumentované, či možno prípad opraviť bez vytvorenia skrytého druhého pracovného postupu, či aktualizácia systému zmení výsledok, či možno záznamy exportovať a kto odpovedá, keď osoba namieta, ako sa s jej materiálom zaobchádzalo. Žiadna z týchto otázok nevyžaduje divadelný strach z AI. Vyžadujú dospelú zmluvu.

Obstarávanie môže tiež chrániť organizáciu pred jej vlastným optimizmom. Ak poskytovateľ povie, že nová funkcia príde neskôr, orgán ju môže zaznamenať ako plán, nie ju kúpiť ako existujúcu schopnosť. Ak poskytovateľ sľubuje cestu ľudského preskúmania, zmluva môže opísať skutočnú úlohu, podmienku reakcie a dôkazy namiesto prijatia frázy, ktorá znie upokojujúco. Ak služba závisí od konkrétneho dátového formátu, orgán môže vyžadovať mapovanie a export skôr, než bude systém ťažké opustiť. Optimizmus má miesto v inovácii. Nemalo by mu byť dovolené podpisovať zmluvy bez sprievodu.

To neznamená, že každý obstarávací tím sa musí stať modelovým laboratóriom. Znamená to, že tímy potrebujú prístup k správnej kompetencii. Právne, technické, prevádzkové, finančné a používateľsky orientované znalosti sa musia stretnúť pred prijatím nezvratných rozhodnutí. To je jeden z dôvodov, prečo inštitúcie záležia. Vytvárajú spôsob, ako môžu byť prítomné rôzne formy znalostí bez predstierania, že ich jedna osoba dokáže niesť všetky.

Najlepšia otázka obstarávania je často zarážajúco jednoduchá: čo bude toto usporiadanie vyžadovať od nás po spustení? Odpoveď môže zahŕňať čas zamestnancov, záznamy, monitorovanie, energiu, jazykové znalosti, integračnú prácu, cesty preskúmania a plán odchodu. Ak sa žiadna z týchto vecí v odpovedi neobjaví, obstarávanie nespôsobilo, že bremeno zmizlo. Jednoducho ho nechalo mimo rozpočtu.

Infraštruktúra má verejnú adresu

Je lákavé hovoriť o výpočtovej kapacite, ako keby bola počasie. Pracovná záťaž potrebuje kapacitu, kapacita je niekde inde a dôležité je, či sa stránka nakoniec načíta. Ale výpočtová kapacita má polohu, dodávateľský reťazec, sieťovú cestu, dopyt po energii, režim údržby a právny kontext. Infraštruktúra je preto súčasťou inštitucionálnej kapacity, nie jej pozadím.

Práca Európskej komisie o digitalizácii energetického systému to robí ťažko ignorovateľným. Zaoberá sa optimalizáciou siete, efektívnosťou, flexibilitou a udržateľnou integráciou dátových centier. Dôležité slovo je integrácia. Dátové centrum nie je len súkromná škatuľa strojov, ktorá náhodou spotrebúva elektrinu. Nachádza sa v zdieľanom energetickom systéme s miestnymi obmedzeniami, verejným plánovaním a inými nárokmi na sieť. Vážna stratégia AI musí vidieť celé usporiadanie namiesto toho, aby zaobchádzala s elektrinou ako s poznámkou pod čiarou pod grafom výpočtovej kapacity.

To nevytvára jednoduché pravidlo, že všetko spracovanie musí byť lokálne, centrálne, národné alebo európske. Každá voľba má svoje podmienky. Lokálne nasadenie môže znížiť niektoré prenosy a priniesť kontrolu bližšie k organizácii, no zároveň zvyšuje jej nároky na údržbu. Spoločné európske zariadenie môže rozšíriť prístup k drahým kapacitám, ale vyžaduje jasné pravidlá prístupu a realistickú cestu od experimentu k prevádzke. Komerčná hostovaná služba môže byť užitočnou cestou pre niektoré práce, no vytvára otázky o jurisdikcii, závislosti, záznamoch a riadení zmien. Geografia je dizajnové rozhodnutie s dôsledkami, nie morálna nálepka.

AI továrne EuroHPC sú v tomto ohľade zaujímavé, pretože ich verejný opis je širší ako miestnosť plná akcelerátorov. Služby zahŕňajú výpočtový výkon a úložisko, prístup k dátam a softvéru, podporu, školenia, onboarding a spoluprácu zameranú na jednotlivé sektory. Táto kombinácia je dôležitá. Stroj bez prístupnej cesty, ľudí, ktorí vedia pomôcť, a odôvodneného prepojenia na oblasť práce nie je verejná kapacita. Je to drahý nábytok s pôsobivým hlukom ventilátorov.

Verejná infraštruktúra potrebuje aj inštitucionálnu pamäť. Kto môže zdroj používať? Za akých podmienok? Ktorá práca má prednosť, keď je kapacita obmedzená? Aké dáta možno vložiť? Ktoré výsledky môžu odísť? Čo sa stane, keď sa projekt skončí? Ako sa menším organizáciám pomáha využívať zdroj bez toho, aby sa od nich očakávalo, že prídu so špecializovaným výskumným oddelením a týždňom navyše? Obstarávanie hardvéru na tieto otázky neodpovedá. Odpovedá na ne prevádzka.

Je tu lekcia o suverenite, ktorá sa často redukuje na mapu. Služba môže byť fyzicky blízko a napriek tomu ťažko riaditeľná. Systém môže byť hostovaný na európskej pôde, zatiaľ čo kľúčové kontroly, právomoc aktualizácií, rozhrania alebo komerčná páka zostávajú inde. Naopak, cezhraničné európske usporiadanie môže podporiť zmysluplnú verejnú kapacitu, keď sú hranice, prístupové práva, zodpovednosti a cesty odchodu explicitné. Relevantná otázka nie je jednoducho to, kde stojí rack. Je to to, kto môže rozhodovať, kontrolovať, udržiavať a odísť.

Na udržanie týchto otázok pohromade sú potrebné inštitúcie. Energetickí plánovači nedokážu odvodiť AI pracovné zaťaženie z marketingovej stránky. Pracovníci obstarávania nemôžu vyjednávať vzťah s dátovým centrom na základe benchmarku modelu. Výskumný tím nemôže premeniť prístup k stroju na trvalú kapacitu bez podpory, dátových postupov a cesty na využitie výsledku. Niť, ktorá spája tieto veci, nie je konkrétny model. Je to verejná schopnosť urobiť ohraničené rozhodnutie a zachovať si možnosť ho prehodnotiť.

Kapacita nesedí v strede sama od seba. Vyberte oblasť a uvidíte verejnú prácu, ktorú musí niesť.

Práca nie je detail nasadenia

Každý AI systém niekde mení prácu. Niekedy je zmena zrejmá, pretože úloha sa odovzdá softvéru. Častejšie je tichšia. Pracovník kontroluje návrh namiesto toho, aby vytvoril prvý koncept. Manažér vidí skóre pred rozhovorom. Pracovník zákazníckej linky dostane zhrnutie, ktoré rámcuje ďalšiu otázku. Pracovník s prípadmi trávi menej času hľadaním dokumentu a viac času vysvetľovaním výnimky. Úloha sa zmenila, aj keď sa pracovná pozícia nezmenila.

Preto práca nemôže byť ponechaná na koniec implementačného plánu pod hlavičkou riadenie zmien. Práca nie je povrch, ktorý sa má riadiť až po prijatí technického rozhodnutia. Práve v nej systém nadobúda svoj praktický význam. Pracovníci vedia, ktoré záznamy sú neúplné, ktoré výnimky sú bežné, kde sa rozumné pravidlo stáva absurdným a čo musí človek absorbovať pri zdanlivo efektívnom procese. Vylúčiť ich z konverzácie o návrhu je spoľahlivý spôsob, ako urobiť pracovný postup menej zrozumiteľným.

Prehľad EU-OSHA o riadení pracovníkov pomocou umelej inteligencie poukazuje na príležitosti aj na riziká v oblasti bezpečnosti a ochrany zdravia pri práci. Táto formulácia je užitočná, pretože odmieta dva jednoduché príbehy. Prvý hovorí, že každý nástroj umelej inteligencie je manažér v prestrojení. Druhý hovorí, že technológia je neutrálna, kým ju nejaký konkrétny zlý aktér nezneužije. V praxi môže návrh monitorovania, cieľov, odporúčaní, upozornení a prideľovania ovplyvniť kvalitu práce skôr, než niekto povie čo i len dramatické slovo o nahrádzaní.

Humánna inštitucionálna reakcia nespočíva v tom, že každý zamestnanec sa musí stať špecialistom na umelú inteligenciu. Spočíva v tom, aby sa vzťah medzi nástrojom a prácou stal predmetom diskusie. Čo smie systém odporúčať? Čo nesmie rozhodovať? Ktoré signály vstupujú do hodnotiaceho rozhovoru? Môže pracovník skontrolovať a opraviť záznam, ktorý sa o ňom vedie? Čo sa stane, keď je výstup systému v rozpore s odborným úsudkom? Je čas naučiť sa pracovať s nástrojom a počíta sa tento čas ako práca, a nie ako súkromný koníček vykonávaný po tom, čo deti zaspia?

Otázka autority je mimoriadne dôležitá. Pracovník, ktorý má formálne možnosť prepísať výstup, ale je hodnotený podľa prehľadu, ktorý odmeňuje súhlas, nedostal skutočnú voľnosť rozhodovania. Manažér, ktorý dostane skóre bez toho, aby poznal jeho základ, nedostal skutočnú zodpovednosť. Zástupca odborov, ktorý systém vidí až po nákupe, nemôže pridať poznatky, ktoré by zabránili konfliktu, ktorému sa dalo vyhnúť. Inštitúcie vytvárajú priestor pre tieto skutočnosti skôr, než ich tabuľka premení na prekvapenia.

Neexistuje jediné európske pracovisko. Odvetvové dohody, vnútroštátne pracovné právo, organizačná kultúra a povaha úlohy, to všetko záleží. Inštitucionálna zásada sa však dá preniesť dobre: nezaobchádzajte s ľuďmi ako s vrstvou na riešenie chýb systému, ktorému nesmeli rozumieť. Ak je ľudský úsudok súčasťou argumentu o bezpečnosti, potom musí organizácia tomuto úsudku poskytnúť informácie, právomoc a cestu, ako byť vypočutý.

Vzdelávanie je prax a jazyk je jej súčasťou

Digitálna gramotnosť v oblasti umelej inteligencie sa stala obľúbenou odpoveďou na inštitucionálnu slabosť. Pošlite ľudí na kurz, vydajte certifikát, umiestnite veselý slajd na intranet a vybavené. Je to lepšia odpoveď ako žiadne vzdelávanie. Nestačí to.

Usmernenie Komisie o digitálnej gramotnosti v oblasti umelej inteligencie kladie povinnosť na pevnejší základ. Poskytovatelia a nasadzovatelia by mali prijať opatrenia na zabezpečenie dostatočnej úrovne gramotnosti medzi zamestnancami a inými osobami, ktoré s týmito systémami pracujú v ich mene. Medzi relevantné faktory patria technické znalosti, skúsenosti, vzdelanie a odborná príprava, ako aj kontext, v ktorom sa systém používa. Nejde o požiadavku na univerzálny kvíz o strojovom učení. Je to výzva zosúladiť vedomosti so zodpovednosťou.

Nákupný pracovník musí rozpoznať tvrdenie, ktoré nemožno vyhodnotiť z brožúry. Pracovník v prvej línii musí vedieť, kedy treba výstup skontrolovať so zdrojovým materiálom. Manažér musí pochopiť, čo mu agregované skóre nevie povedať o jednotlivom prípade. Člen predstavenstva musí vedieť položiť otázku, kto má právomoc zastaviť systém. Vývojár potrebuje hlbšie pochopenie dát, rozhraní, hodnotenia a zlyhaní. Nazývať to všetko gramotnosťou môže byť trochu neusporiadané. Skutočné inštitúcie si môžu dovoliť byť neusporiadané, keď alternatívou je predstierať, že jeden kurz pripraví každú rolu rovnako.

Vzdelávanie má aj časový problém. Človek môže pochopiť nástroj v marci a v októbri čeliť podstatne inému rozhraniu, modelu alebo pracovnému postupu. Užitočný vzdelávací program preto sleduje zmeny, ktoré majú význam. Dáva ľuďom spôsob, ako sa vrátiť k rozhodovacím podmienkam, nielen spomienku na uvedenie produktu. Etické usmernenia Komisie pre pedagógov poukazujú na podobnú vec v inom prostredí: praktický úsudok o umelej inteligencii vo vyučovaní a učení nemožno zredukovať na zapnutie vypínača. Kontext, účel a ľudia v miestnosti zostávajú dôležití.

Jazyk patrí aj sem. Jazyk zobrazený v systéme nie je jazykom spoločnosti. Model môže produkovať plynulý text v jazyku, no chýbajú mu administratívne pojmy, regionálne tvary, odborná slovná zásoba, kultúrne odkazy alebo právne významy, ktoré robia skutočné rozhodnutie zrozumiteľným. Preklad môže byť gramaticky čistý a napriek tomu zmeniť zodpovednosť, povinnosť alebo právo. Viacjazyčné používanie nie je dekoratívny lokalizačný krok na konci inak hotového produktu.

Pre Európu je to praktická inštitucionálna otázka. Verejné služby, pracoviská a školy fungujú vo viacerých jazykoch, niekedy niekoľkých v rámci tej istej organizácie. Dokumentácia, chybové postupy, školenia, podpora a procesy odvolania sa musia stretnúť s ľuďmi tam, kde sa práca odohráva. Ak je politika dostupná v jednom jazyku, ale prevádzkové rozhranie v inom, organizácia rozdelila systém na dve časti. Ak človek dostane rozhodnutie vo svojom jazyku, ale nenájde vysvetlenie ani postup odvolania v tomto jazyku, náprava sa stala teoretickou.

Riešením nie je sľubovať, že každý systém rozumie každému jazyku rovnako. To by bolo tvrdenie s veľmi malým množstvom dôkazov. Riešením je úprimne uviesť rozsah pokrytia, otestovať použitie, ktoré sa skutočne zamýšľa, udržiavať jazykové obmedzenia viditeľné a zabezpečiť, aby sa medzera potichu nestala nevýhodou pre ľudí, ktorí ju najmenej dokážu napraviť. Toto je menej efektné ako ohlasovanie viacjazyčnej umelej inteligencie. Je to úctivejšie.

Bezpečnosť sa začína tvrdením, o ktorom možno diskutovať

Bezpečnosť je ďalšie slovo, ktoré sa stáva vágnym, keď má uniesť príliš veľa. Systém umelej inteligencie nie je bezpečný preto, že dodávateľ tvrdí, že má ochranné mechanizmy. Nie je bezpečný preto, že benchmark obsahuje upokojujúce číslo. Nie je bezpečný preto, že v procese zostáva človek. Bezpečnosť sa týka ohraničeného tvrdenia: tento systém sa môže používať na tento účel, v tomto prostredí, za týchto podmienok, s týmito kontrolami, dôkazmi, zvyškovými rizikami a ľuďmi, ktorí môžu konať.

Preto sú bezpečnostné prípady užitočné aj mimo sektorov, v ktorých sa o nich bežne hovorí. Bezpečnostný prípad nie je odznak. Je to argument, ktorý spája tvrdenie s rizikami, kontrolami, predpokladmi, dôkazmi a rozhodnutím. Má priestor pre neistotu. Môže povedať, že podmienka ešte nie je splnená. Môže povedať, že zmena si vyžaduje nové posúdenie. Môže povedať, že správnym rozhodnutím je pozastaviť činnosť. Ukážka nemá skutočný spôsob, ako tieto veci povedať bez toho, aby si pokazila vlastnú náladu.

V práci s umelou inteligenciou je kľúčové prepojiť dôkazy so skutočným použitím. Vyhodnotenie modelu môže organizácii povedať niečo o schopnosti za stanovených podmienok. Automaticky však neznamená, že je model vhodný pre každý pracovný postup, pre každú skupinu, v každom jazyku alebo po každej zmene integrácie. Inštitúcia musí niesť reťaz od modelu cez službu až po miestne rozhodnutie. Práve v tomto reťazci sa mnohé inak úprimné tvrdenia stávajú príliš veľkými.

Dôkazy majú dátum spotreby, aj keď samotný súbor nie. Verzia sa zmení. Kolekcia na vyhľadávanie sa zmení. Nová šablóna výzvy zmení správanie, ktoré používateľ vidí. Pracovník objaví spôsob zlyhania, ktorý nebol v testovacej sade. Zmení sa zákon, politika alebo zdroj údajov. Toto nie sú trápne prerušenia dokonalého systému. Sú to bežné podmienky prevádzky softvéru vo svete. Úlohou inštitúcie je rozhodnúť, ktoré zmeny si vyžadujú nové preskúmanie, kto toto rozhodnutie robí a ako zostane predchádzajúci záznam dostupný na porovnanie.

Schopnosť zastaviť je súčasťou toho istého argumentu. Podmienka zastavenia, ktorú nikto nemôže aktivovať, je dekoratívna klauzula. Tlačidlo zastavenia bez vlastníka je malé umelecké dielo. Dôveryhodné usporiadanie určuje právomoc, signál, ktorý môže spustiť akciu, cestu eskalácie, bezpečný stav a spôsob zaznamenania rozhodnutia. Podrobnosti sa líšia. Potreba podrobností nie.

Bezpečnosť teda nie je oddelenie, ktoré príde na konci s červeným perom. Je to spôsob, ako spresniť spoločné rozhodnutie skôr, než sa systém stane ťažko zmeniteľným. Kladie otázku, ktorej sa demonštrácie vyhýbajú, pretože odpoveď môže byť nepohodlná: aké dôkazy by nás presvedčili, aby sme nepokračovali? Inštitúcia, ktorá vie odpovedať na túto otázku, je už schopnejšia ako tá, ktorá vie len oslavovať spustenie.

Verejná kapacita je reťaz, nie výstavná sieň

Verejná kapacita Európy pre umelú inteligenciu sa nebude merať len počtom modelov, dátových centier alebo výskumných oznámení, ktoré dokáže umiestniť na mapu. Tieto veci sú dôležité. Nie sú sebestačné. Kapacita je schopnosť využívať technické zdroje na verejný účel v priebehu času, s dostatočnou kompetenciou a právomocou, aby sa predišlo závislosti maskovanej ako pokrok.

Zákon o interoperabilnej Európe ponúka užitočnú indíciu. Jeho záujmom je interoperabilita verejného sektora v rámci Únie a zdieľanie a opätovné používanie interoperabilných riešení. Interoperabilita sa niekedy považuje za technickú preferenciu: otázka formátu pre ľudí, ktorí majú radi diagramy so šípkami. Vo verejnej práci je tiež inštitucionálnou vlastnosťou. Určuje, či záznam môže cestovať so svojím významom, či jedna autorita môže pochopiť hranice systému inej autority, či sa odchod dodávateľa zmení na zvládnuteľnú migráciu alebo na skriňu plnú nečitateľných exportov.

Interoperabilita neznamená, že každý systém by mal vyzerať rovnako alebo že všetka verejná práca by mala byť centralizovaná. Znamená to, že hranica by nemala zničiť informácie potrebné na zodpovedné pokračovanie. Organizácia by mala byť schopná identifikovať objekt, jeho vlastníka, jeho účel, jeho verziu, dôkazy k nemu pripojené a rozhodnutia, ktoré ho zmenili. Nová služba by mala byť schopná prijať potrebné záznamy bez toho, aby potrebovala povolenie starého dodávateľa na ich interpretáciu. To nie je dizajnérsky ozdoba. To je spôsob, akým verejná inštitúcia zostáva slobodná rozhodovať sa neskôr.

Holandský register algoritmov je ďalším malým, ale užitočným inštitucionálnym objektom. Zverejňuje informácie o algoritmoch používaných vládnymi organizáciami a zameriava sa na algoritmy s významným vplyvom, vrátane systémov umelej inteligencie s vysokým rizikom. Register nedokazuje, že každý uvedený systém je dobrý, spravodlivý alebo zákonný. Jeho hodnota je inde. Uľahčuje nájsť existenciu systému, deklarované použitie a zodpovedný verejný orgán. Vytvára povrch, na ktorý môže pristáť otázka.

Potrebujeme viac takýchto povrchov, nie nevyhnutne viac webových stránok. Záznam modelu alebo systému, verejné vysvetlenie, kontrolovaný technický súbor, postup pri incidente, záznam o obstarávaní, plán školenia a špecifikácia interoperability slúžia rôznym čitateľom. Mali by sa zhodovať na faktoch, ktoré medzi nimi prechádzajú. Verejná stránka nemusí odhaliť každý citlivý detail. Ale nemala by byť v rozpore s internými dôkazmi. Súbor o obstarávaní nemusí byť manuálom pre verejnosť. Ale nemal by organizácii dovoliť zabudnúť na podmienky, ktoré zakúpila.

Nebezpečenstvo spočíva v tom, že si mýlime viditeľnosť so schopnosťou. Vyleštený portál môže skrývať chýbajúci operačný model. Národná stratégia môže pomenovať prioritu bez toho, aby poskytla personál, prístup, údržbu alebo cestu pre menšie organizácie. Inovačný fond môže podporiť dôkaz koncepcie bez toho, aby podporil prácu potrebnú na udržanie užitočnej služby pri živote. Priepasť medzi týmito vecami je miestom, kde sa mnohé rozumné projekty potichu končia.

Verejná kapacita má menej fotogenický tvar. Zahŕňa zdieľané odborné znalosti, dostupnú infraštruktúru, kompetencie v obstarávaní, prácu na normách, zdroje v miestnych jazykoch, dlhodobé financovanie, nezávislý dohľad a ľudí, ktorí rozumejú dosť na to, aby dodávateľovi položili ťažkú otázku. Zahŕňa schopnosť povedať nie, pozastaviť sa, prispôsobiť sa a odísť. Kontinent, ktorý to dokáže, má viac než len sektor umelej inteligencie. Má začiatky technologickej samosprávy.

Verejná kapacita je slučka: účel, dôkazy, autorita, prevádzka a učenie musia zostať prepojené aj po spustení.

Práca po potlesku

Môže pomôcť predstaviť si týždeň po demonštrácii, nie samotný okamih. Nie skutočnú udalosť, nie zamaskovanú prípadovú štúdiu, jednoducho bežnú prácu, ktorá nasleduje po sľubnom nápade. Niekto musí premeniť uvedený účel na rozsah, ktorý možno posúdiť. Niekto musí rozhodnúť, ktoré zdrojové záznamy je vhodné použiť. Niekto musí zmapovať, ako výstup vstupuje do pracovného postupu. Niekto sa musí opýtať, či sa práca zmení pre ľudí, ktorí ju už vykonávajú. Niekto musí zabezpečiť, aby podporná cesta fungovala v jazykoch, na ktorých záleží. Niekto musí oceniť integráciu, monitorovanie a prípadný odchod.

V tomto bode sa projekt môže zdať pomalší, pretože získal mená, podmienky a závislosti. V skutočnosti sa stal riaditeľným. Demonštrácia je rýchla, pretože ignoruje prácu na tom, aby bol systém zodpovedný. Inštitúcia nie je pomalá preto, že používa kontrolný zoznam. Je pomalá, keď objaví skutočné závislosti až potom, čo už sľúbila výsledok.

Praktickou disciplínou je umiestniť nevyriešené otázky tam, kde môžu zmeniť rozhodnutie. Ak organizácia nevie, ako ju dodávateľ upozorní na podstatnú zmenu modelu, zaznamenajte to pred uzavretím zmluvy. Ak nedokáže vysvetliť, kto môže prepísať odporúčanie, vyriešte to skôr, než sa rozhranie stane zvykom. Ak nikto nevlastní zdrojové údaje, nenazývajte údaje pripravenými. Ak organizácia nedokáže podporiť zamýšľané jazyky, zúžte zamýšľané použitie namiesto toho, aby ste dovolili širokému sľubu stať sa tichým vylúčením.

Nejde o byrokratický maximalizmus. Ide o proporcionalitu. Asistent s nízkym dosahom vo vnútri organizácie môže potrebovať obmedzené opatrenia: stanovený účel, jasnú hranicu údajov, usmernenie pre zamestnancov, spôsob nahlásenia problému a cestu von. Systém, ktorý ovplyvňuje prístup k práci, službám, vzdelaniu, úverom, zdraviu alebo verejnej moci, si vyžaduje oveľa silnejšie opatrenia. Správnou odpoveďou na proporcionalitu nie je menej otázok. Sú to otázky prispôsobené škode, ktorú môže spôsobiť chyba.

Inštitucionálna práca tiež robí inovácie opätovne využiteľnými. Keď jeden tím zdokumentuje, ako vyhodnotil pracovný postup, iný tím sa môže poučiť z metódy namiesto toho, aby opakoval rovnakú neistotu. Keď orgán zverejní užitočný záznam o systéme, obyvatelia aj iné verejné orgány majú východiskový bod. Keď zmluva zachováva práva na export a záznamy o zmenách, nástupca nie je nútený rekonštruovať minulosť zo snímok obrazovky a faktúr. Opätovné využitie nie je len o kóde. Je o tom, aby rozhodnutia okolo kódu zostali zrozumiteľné.

Je tu príjemná irónia. Organizácie, ktoré sa najviac obávajú, že ich riadenie spomalí, často nesú najviac skrytej prepracovanosti. Znovu spúšťajú hodnotenia, pretože podmienky neboli nikdy zaznamenané. Diskutujú o zodpovednosti, pretože roly neboli nikdy pomenované. Znovu vyjednávajú zmluvu, pretože odchod bol predpokladaný, nie špecifikovaný. Školenia robia až po nasadení, pretože pracovný postup považovali za samozrejmý. Inštitúcie vyzerajú ako réžia naviac len dovtedy, kým ich absencia nie je viditeľná v projektovom pláne.

Čo inštitúcie v skutočnosti robia

Je ľahké vykresliť inštitúcie ako vznešené a vzdialené. V praxi vykonávajú obyčajné úkony údržby. Zachovávajú rozdiely, ktoré trhový rozhovor radšej rozmazáva. Rozlišujú cieľ od výsledku, plán od udalosti, model od služby, službu od verejného rozhodnutia, záznam od dôkazu a sťažnosť od nápravy.

Prideľujú právomoc. Nie symbolickú právomoc, ale právomoc schváliť zamýšľané použitie, odmietnuť zdroj údajov, pozastaviť cestu, zverejniť opravu, prijať zvyškové riziko a povedať dodávateľovi, že odpoveď nie je dostatočná. Systém bez takéhoto prideľovania má tendenciu objavovať právomoc prostredníctvom konfliktu. To je drahý spôsob navrhovania.

Zachovávajú pamäť. Záznam o skoršom rozhodnutí nemusí byť pôsobivý, ale umožňuje novému členovi tímu pochopiť, prečo obmedzenie existuje. História umožňuje organizácii porovnať zmenený systém s podmienkami, za ktorých bol schválený. Chráni človeka, ktorý spochybňuje výsledok, pred tvrdením, že príslušné dôkazy sa rozpustili v predchádzajúcej verzii. Zabúdanie je občas pohodlné. Málokedy je silným modelom riadenia.

Vytvárajú cesty pre nesúhlas. Dobrá inštitúcia nepredpokladá, že sťažnosť je dôkazom zlyhania. Dáva sťažnosti miesto, kam môže ísť, dostatok informácií na preskúmanie a človeka, ktorý môže odpovedať bez toho, aby pod tlakom vymýšľal nový postup. Toto je dôležité pre pracovníkov, obyvateľov, zákazníkov, dodávateľov aj interné tímy. Cesta pre námietky nie je ústupkom pesimizmu. Je súčasťou toho, ako si systém všimne vlastné limity.

Investujú do kompetencií. Práca nie je len technická. Zahŕňa ľudí, ktorí vedia prečítať zmluvu, posúdiť hranicu údajov, pochopiť pracovný postup, vysvetliť výsledok jednoduchým jazykom, prevádzkovať infraštruktúru, školiť kolegov a rozpoznať, kedy sú dôkazy príliš slabé na navrhované rozhodnutie. Žiadna organizácia nenajíma všetkých týchto ľudí na každý malý projekt. Ale seriózne organizácie vedia, ako ich nájsť, zdieľať alebo sa ich opýtať skôr, ako sa rozhodnutie stane nezvratným.

Napokon inštitúcie robia záväzky prežiteľnými. Spoločnosť môže zmeniť smer, minister môže zmeniť rezort, model môže zmeniť verziu a rozpočet môže byť menej nápaditý. Verejný účel, záznam, autorita a náprava by nemali zmiznúť spolu s pôvodnou prezentačnou zostavou. Preto trvalé systémy potrebujú nudné veci: otvorené rozhrania, kde je to možné, jasné vlastníctvo, uchovávané záznamy, realistické podmienky podpory, pomenované kontrolné body a funkčný spôsob ukončenia. Nudné veci nie sú opakom inovácie. Sú tým, čo umožňuje inováciu upravovať bez toho, aby sa zmenila na búracie práce.

Európska výhoda, ktorú sa oplatí budovať

Európa nemusí vyhrávať argument o tom, či sú inštitúcie vzrušujúce. Väčšinu dní nie sú. Dobre vedený register nie je vzrušujúci. Špecifikácia interoperability nikdy nevyvolala vlnu na štadióne. Klauzula o výstupných formátoch vo verejnom obstarávaní sa nedostane na plátenú tašku. Nedostatok lesku je súčasťou ich hodnoty. Fungujú aj vtedy, keď sa pozornosť presunie inde.

Nie je tiež dôvod robiť z toho príbeh o európskej morálnej nadradenosti. Každý región má inštitúcie, zlyhania, technické úspechy aj slepé miesta. Európa má príležitosť, nie hotovú výhodu. Jej právne tradície, verejné služby, mnohojazyčné spoločnosti, výskumné siete, priemyselná základňa a cezhraničné dojednania môžu podporiť osobitý prístup, ak budú prepojené so skutočnou prevádzkovou kapacitou. Môžu tiež zostať súborom obdivuhodných dokumentov, ak ľudia, ktorí majú prácu vykonať, zostanú bez času, právomocí alebo nástrojov.

Voľba je praktická. Budujte obstarávanie, ktoré kupuje dôkazy a únikové cesty, nielen schopnosti. Budujte infraštruktúru, ktorá zahŕňa prístup, podporu, povedomie o energii a zodpovednú prevádzku. Budujte pracovné procesy, ktoré dávajú ľuďom informácie a skutočnú voľnosť rozhodovania. Zabudujte gramotnosť do rolí a zmien, nie do jedného popoludnia. Zabudujte jazykovú podporu do služby, nielen do úvodnej stránky. Budujte bezpečnostné argumenty, ktoré sa dajú znovu otvoriť. Budujte verejné záznamy, ktoré umožnia, aby sa náročná otázka dostala k správnemu vlastníkovi.

Potom možno ďalšiu demonštráciu správne prijať. Možno si ju užiť za to, čím je: dôkazom, že technickú schopnosť sa možno oplatí preskúmať. Nemusí niesť nemožné bremeno dokazovania, že okolitá spoločnosť je pripravená. Tento dôkaz, ak je vôbec možný, vzniká pomaly tým, že inštitúcie robia svoju prácu.

Malá poznámka od nás

V spoločnosti Dweve pristupujeme k rovnakému inštitucionálnemu problému so zámerne úzkym verejným tvrdením. Naše záznamy v Trust Centre uvádzajú, že Dweve Loom 1.0 zostáva v internom predbežnom testovaní pred vydaním, s uzavretým externým prístupom. Zverejnená brána vydania hovorí, že otvorenie externej cesty závisí od dôkazov zodpovedajúcich verzii, prechodov špecifických pre danú cestu, zaznamenaného rozhodnutia o vydaní a overenia integrity verejných záznamov. To nie je tvrdenie, že záznam robí systém bezpečným alebo že k budúcemu vydaniu dôjde. Je to tvrdenie o oddelení plánu od udalosti a o prevádzkovom rozhodnutí spojenom s dôkazmi.

Toto je štandard, ktorý sa oplatí uplatňovať širšie. Nežiadajte od modelu, aby bol inštitúciou. Žiadajte od inštitúcií, aby boli dostatočne dobré na rozhodovanie o tom, kam model patrí, čo môže robiť, ako ho možno spochybniť a kedy musí prestať.

Zdroje