Euroopa tehisintellekti arutelu vajab vähem demonstratsioone ja rohkem institutsioone

Institutsioonilised küsimused

Euroopa tehisintellekti arutelu vajab vähem demonstratsioone ja rohkem institutsioone

Demo ei ole avalik institutsioon

Heal demokatsel on teatud liiki jõud. See surub võimaluse kokku mõneks minutiks. Täidetakse vorm, võetakse dokumendist kokkuvõte, ilmub pilt, keerulisele küsimusele saadakse usutav vastus. Igaüks ruumis näeb, miks keegi seda asja tahta võiks. See on kasulik. See on ka hetk, mil palju raskemad küsimused lükatakse viisakalt edasi.

Hiljem algab institutsioon. Kellel on õigus otsustada, kas süsteemi tohib kasutada? Millist avalikku eesmärki see teenib? Milline tõendus on selle eesmärgi jaoks piisav ja kes saab öelda, et see ei ole piisav? Mis juhtub siis, kui versioon muutub, kui töötaja vaidlustab soovituse, kui inimene küsib selgitust, kui energiapiirang sulgeb marsruudi või kui tarnija teekaart muutub teistsuguseks teekaardiks? Demo ei ole loodud nendele küsimustele vastama. Avalik institutsioon on.

Euroopa on palju aega kulutanud sellele, et arutada tehisintellekti kui võimekuste võistlust. See vestlus on mõistetav. Võimekus on nähtav. Sellest saab korralik filmilõik. Institutsioonid on enamasti nähtavad selle kaudu, mida nad takistavad muutumast müstiliseks: hanketingimused, arvestuse pidamine, juurdepääsukontrollid, koolitus, järelevalve, edasikaebamise võimalused, hoolduseelarved, keeletugi, tehnilised standardid, inimene, kelle nimi on otsuse küljes. Ükski sellest ei anna peaettekandele tavapärast sära. Küll aga otsustab see, kas süsteem jääb vastutavaks ka siis, kui ruum on tühjaks jäänud.

See ei ole argument argliku tehnoloogia ega avaliku sektori kasuks, mis ei osta midagi enne, kui suudab tulevikku näha. See on argument kategooriavea tagasilükkamiseks. Mudel suudab genereerida, klassifitseerida, ennustada või soovitada. See ei suuda iseenesest luua legitiimset volitust, jaotada avalikku vastutust, õpetada kolleegile, kuidas seda vaidlustada, hoida elus riigikeelt, pidada läbirääkimisi võrguga liitumise üle ega säilitada õiguskaitsevahendit inimesele, keda selle kasutamine mõjutab. Need tööd kuuluvad inimestele ja organisatsioonidele, isegi kui tarkvara aitab tööle kaasa.

Euroopa tehisintellekti-vestlus vajab vähem demosid selles mõttes, et vajab vähem demosid, mis seisavad valmisoleku tõendusena. See vajab rohkem institutsioone selles mõttes, et vajab paremaid kohti otsuste tegemiseks, teadmiste säilitamiseks ja kursi parandamiseks. Nihe ei ole tehnoloogiast bürokraatiasse. See on õhukesest tehnoloogiapildist tegeliku korralduseni, milles tehnoloogial on tagajärjed.

See küsimus on oluline kaugelt väljaspool valitsust. Haigla, omavalitsus, kool, tootja, kultuuriasutus ja väikeettevõte ei ole samade kohustuste ega riskidega. Kuid kõik nad avastavad lõpuks, et mudel on üks osa suuremast korraldusest. Suurem korraldus määrab, kes tarnib sisendid, kes loeb väljundeid, kes võtab vastu jääkriski, kes saab süsteemi peatada ja kes jääb alles siis, kui tarkvaraettevõte on saatnud oma kvartalikirja.

Sellepärast ei ole institutsioonide keel taganemine tehnilisest ambitsioonist. See on järjepidevuse keel. Avalik teenus peab töötama tavalisel teisipäeval, seda kasutavate inimeste keeles, eelarve all, mida keegi saab kontrollida, pärast personalivahetust, tarnija erimeelsuse ajal ja siis, kui algne entusiasm on muutunud hoolduspiletiks. Iga tõsine tehisintellekti väide peab lõpuks selle teekonna läbima.

Võimekus on vaid üks küsimustest

Demonstratsioon küsib tavaliselt kitsast ja mõistlikku küsimust: kas süsteem suudab seda ülesannet nendes tingimustes täita? Asutus peab esitama korraga suurema hulga küsimusi. Kas seda ülesannet on asjakohane automatiseerida või sellele kaasa aidata? Kas väljendatud eesmärk on seaduslik ja proportsionaalne? Kas tööd tegevad inimesed suudavad tulemust endiselt mõista ja vaidlustada? Kas avalikkuse liikmel on võimalik küsida, mis juhtus? Kas organisatsioon saab teenusepakkujat vahetada ilma oma andmeid kaotamata? Kas süsteem sõltub nappidest arvutusressurssidest, konkreetsest keeleressursist või andmevoolust, mille hooldamiseks pole keegi eelarvet ette näinud?

Need küsimused ei muuda mudelit halvemaks. Need muudavad otsuse ausamaks. Need eristavad funktsiooni teenusest ja teenust avalikust võimekusest. Funktsioon võib olla muljetavaldav, samal ajal kui seda ümbritsev korraldus on habras. Teenus võib olla kasulik, samal ajal kui selle leping muudab olulise muudatuse kontrollimise võimatuks. Avalik võimekus peab jääma aja jooksul kasutatavaks, juhitavaks ja parandatavaks. See peab kandma enamat kui lihtsalt väljundit.

AI-määrusest räägitakse sageli nii, nagu oleks see sellele probleemile üksainus vastus. See ei ole. See on oluline õigusraamistik ja selle väljendatud eesmärk ühendab siseturu toimimise inimkeskse ja usaldusväärse tehisintellekti ning tervise, ohutuse, põhiõiguste, demokraatia, õigusriigi ja keskkonnakaitse kõrgetasemelise kaitsega. Kuid määrus ise teeb institutsionaalse reaalsuse kohta olulise märkuse: see toimib koos kehtiva liidu õigusega, mis käsitleb andmekaitset, tarbijaid, tööhõivet, töötajaid ja tooteohutust. Õigusraamistik ei asenda neid valdkondi. See kohtub nendega.

See peaks kujundama praktilist vestlust. Meeskond ei saa kuulutada süsteemi ühiskondlikult usaldusväärseks, osutades tehisintellekti riskiklassifikatsioonile, ignoreerides samal ajal seda ümbritsevat tööhõiveprotsessi. Avalik asutus ei saa kuulutada süsteemi vastutustundlikuks, kuna on lõpetanud tehnilise hindamise, jättes samal ajal elanikud olukorda, kus nad ei leia omanikku ega andmekirjet. Tarnija ei saa muuta teisaldatavuse probleemi nähtamatuks, kasutades sõna pilv. Küsimus on alati selles, kuidas uus komponent käitub juba olemasolevate kohustuste raames.

On praktiline kiusatus käsitleda seda argumendina suurema vastavuskausta kasuks. See ei ole. Rohkem lehekülgi võib muuta organisatsiooni vähem võimeliseks tegutsema, kui keegi ei tea, milline lehekülg otsust muudab. Asutused ei muutu võimekaks malle kogudes. Need muutuvad võimekaks siis, kui määratletud eesmärk, nimetatud vastutaja, kasutatavad tõendid ja parandusvõimalus saavad kokku saada samas töös.

See on palju nõudlikum standard kui demo. See on ka õiglasem. Mudelipakkuja ei peaks vastutama iga juurutaja kohaliku poliitikavaliku eest. Juurutajalt ei tohiks nõuda iga ülesvoolu tehnilise otsuse tagurpidi konstrueerimist. Kumbki osapool vajab piiri, ülestähendust sellest, mis seda ületab, ja viisi, kuidas tuvastada, millal piir on liikunud. Asutused eksisteerivad osaliselt selleks, et muuta need piirid loetavaks.

Seadus on põrand, mitte terve hoone

Euroopat kirjeldatakse sageli nii, nagu oleks see valinud reeglid tehnoloogia asemel. See kirjeldus on liiga korralik, et olla kasulik. Seadus võib keelata, nõuda, jaotada kohustusi ja säilitada õiguskaitsevahendeid. See võib määratleda avaliku miinimumtaseme, millest allapoole süsteem ei tohiks langeda. See ei saa palgata hindajat, kes mõistab kohalikku töövoogu, hallata andmeliidest, koostada mõistlikku hankespetsifikatsiooni ega anda kurnatud meeskonnale ootamatult aega uue protsessi õppimiseks. Need asjad nõuavad suutlikkust.

See vahe on oluline, sest õiguskeel võib varjata tegevuse puudumist. Poliitika võib öelda, et inimjärelevalve on olemas. See väide on mõttetu, kui inimesel puudub õigus marsruut peatada, tal pole aega juhtumit üle vaadata, tal pole teavet mudeliversiooni kohta, tal puudub väljaõpe ülesande täitmiseks ja tal pole võimalust eriarvamust edasi kaevata. Järelevalve on olemas paberil, umbes nagu tuleväljapääs, mis on peidetud kapi taha. See on väga rahustav, kuni seda vaja läheb.

Sama kehtib läbipaistvuse kohta. Avalikustamine võib olla tehniliselt kättesaadav ja praktiliselt kasutu. Inimene võib saada pika kirjelduse süsteemi kohta, ilma et ta teada saaks, kes otsuse eest vastutab, millist kirjet saab vaidlustada või kuidas õiguskaitsevahendit saada. Avalik register võib loetleda algoritmi, ilma et oleks öeldud, kas loetletud versioon on praegune, milleks süsteemi kasutatakse või kellel on õigus küsimusele vastata. Läbipaistvus ei ole teksti hulk. See on võime leida üles otsus ja selle omanik.

Euroopa õigusalane töö on väärtuslik just seetõttu, et see muudab mõned neist küsimustest raskemini kõrvale heidetavaks. See annab ühise keele pakkujatele, kasutuselevõtjatele, reguleerijatele ja mõjutatud inimestele. See muudab ka lüngad nähtavamaks. Kui organisatsioon ei suuda esitada oma kavandatud eesmärki, tuvastada oma andmevoogu, pidada arvestust olulise muudatuse üle või nimetada isikut, kes saab kasutuse peatada, ei ole probleem ainult selles, et paberimajandus on hilinenud. Organisatsioon ei ole veel ehitanud seda, mida ta väidab end käitavat.

Siin on institutsioonidel tagasihoidlik eelis loosungite ees. Nad mäletavad, et otsus toimus. Nad säilitavad selle juurde kuuluvad tingimused. Nad hoiavad erinevust plaani ja sündmuse vahel. Nad panevad lubaduse kõrvale nime, meiliaadressi ja mõnikord ka veidi kangekaelse vormi. Vorm ei ole saavutus. Saavutus on see, et kedagi saab vastutusele võtta.

Hea seadus loob ruumi sellele tööle. Seda ei tohiks kasutada selle aseainena. Küps küsimus ei ole see, kas süsteem on abstraktselt nõuetele vastav. See on see, kas vastutavad inimesed suudavad näidata, kuidas selle konkreetne kasutus täidab kohaldatavaid kohustusi, mida nad veel ei tea ja mida nad teevad, kui tõendid muutuvad. See on samal ajal õigusküsimus, tegevusküsimus ja institutsionaalne küsimus.

Hanked on koht, kus avalik kavatsus kohtub tarnijalepinguga

Avalikud hanked kõlavad protseduurilistena, sest need on protseduurilised. Need on ka üks koht, kus avalik kavatsus muutub reaalseks. Avalik asutus ostab töid, kaupu või teenuseid valitud ettevõtetelt protsessi kaudu, mida kujundavad reeglid, mille eesmärk on hoida hanked avatud ja konkurentsipõhised. AI kontekstis ei ole see protsess ainult hetk, mil toode valitakse. See on hetk, mil asutus saab otsustada, mida tarnija peab kontrollitavaks muutma, millised muudatused nõuavad teatamist, millised kirjed jäävad kättesaadavaks, kuidas töö üle antakse ja mis juhtub, kui süsteem tuleb peatada.

Hange, mis küsib ainult mudeli võimekuse kohta, kipub ostma demonstratsiooni, millele on arve juures. Hange, mis küsib tegutsemistingimuste kohta, ostab midagi teenusele lähedasemat. See võib küsida määratletud kavandatud eesmärki, liideseid, dokumentatsiooni, kättesaadavaid tõendeid, rollipõhiseid õigusi, intsidentide kontaktisikuid, uuendusteateid, ekspordivorminguid, toe piire, säilituskorraldust, väljumisabi ja selget vastutuse jaotust. See võib küsida, kes konkreetse riski omanik on, selle asemel et lubada igal osapoolel eeldada, et see on keegi teine.

Ühtset klauslit, mis need küsimused lahendaks, ei ole. Väike organisatsioon, kes ostab kitsa sihtotstarbega sisetööriista, ei peaks pärima lepingut, mis on koostatud riikliku kriitilise teenuse jaoks. Samamoodi ei tohiks suure mõjuga avalik kasutus saada tasuta prooviversiooni lepingulist distsipliini, millele on lisatud veidi pikem vorm. Leping peab järgima otsuse tagajärgi, teenuse loodud sõltuvust ja organisatsiooni suutlikkust seda hallata.

Illustreeriv stsenaarium, mitte ülevaade tegelikust hankest: kujutage ette avalik-õiguslikku asutust, kes kaalub süsteemi, mis aitab töötajatel korraldada saabuvat toimikumaterjali. Demo näitab kokkuvõtteid, väljatõmmatud välju ja pakutud järjekorda. Vastutustundlik küsimus ei ole see, kas järjekord näeb kena välja. See on see, kas töötajad näevad lähtematerjali, kas prioriteetide reeglid on dokumenteeritud, kas toimikut saab parandada ilma varjatud teise töövoogu loomata, kas süsteemiuuendus muudab tulemust, kas andmeid saab eksportida ja kes vastutab, kui inimene vaidlustab selle, kuidas tema materjali on käsitletud. Ükski neist küsimustest ei nõua teatraalset hirmu tehisintellekti ees. Need nõuavad täiskasvanulikku lepingut.

Hange võib organisatsiooni kaitsta ka tema enda optimismi eest. Kui teenusepakkuja ütleb, et uus funktsioon tuleb hiljem, saab asutus selle kirja panna plaanina, mitte osta seda olemasoleva võimekusena. Kui teenusepakkuja lubab inimülevaate võimalust, saab lepingus kirjeldada tegelikku rolli, reageerimistingimust ja tõendusmaterjali, mitte leppida fraasiga, mis kõlab rahustavalt. Kui teenus sõltub konkreetsest andmevormingust, saab asutus nõuda vastendust ja eksporti enne, kui süsteemist on raske lahkuda. Optimismil on innovatsioonis oma koht. Sellele ei tohiks lasta alla kirjutada saatjata lepinguid.

See ei tähenda, et iga hankemeeskond peaks muutuma mudellaboriks. See tähendab, et meeskondadel peab olema juurdepääs õigele pädevusele. Õigusalased, tehnilised, operatiivsed, finants- ja kasutajakesksed teadmised peavad kohtuma enne pöördumatute otsuste tegemist. See on üks põhjus, miks institutsioonid on olulised. Need loovad võimaluse eri liiki teadmistel koos olla, ilma et teeseldaks, et üks inimene suudab neid kõiki kanda.

Parim hangeküsimus on sageli häbematult lihtne: mida see korraldus meilt pärast käivitamist nõuab? Vastus võib hõlmata töötajate aega, andmeid, järelevalvet, energiat, keeleoskust, integratsioonitööd, ülevaatevõimalusi ja lahkumisplaani. Kui ükski neist vastuses ei kajastu, ei ole hange koormust kuhugi kadunud. See on lihtsalt eelarvest välja jäetud.

Taristul on avalik aadress

On ahvatlev rääkida arvutusvõimsusest nagu ilmast. Töökoormus vajab võimsust, võimsus on kusagil mujal ja oluline on see, kas leht lõpuks laeb. Kuid arvutusvõimsusel on asukoht, tarneahel, võrgutee, energiavajadus, hoolduskord ja õiguslik kontekst. Taristu on seega osa institutsionaalsest suutlikkusest, mitte selle taust.

Euroopa Komisjoni töö energiasüsteemi digiteerimise kallal muudab selle ignoreerimise raskeks. See käsitleb võrgu optimeerimist, tõhusust, paindlikkust ja andmekeskuste jätkusuutlikku integreerimist. Oluline sõna on integreerimine. Andmekeskus ei ole lihtsalt eravalduses olev masinate kast, mis juhtumisi elektrit tarbib. See asub ühises energiasüsteemis koos kohalike piirangute, avaliku planeerimise ja muude võrgu kasutusnõuetega. Tõsine tehisintellekti strateegia peab nägema tervet korraldust, mitte käsitlema elektrit joonealusena arvutusvõimsuse graafiku all.

See ei anna lihtsat reeglit, et kogu töötlus peab toimuma kohalikul, kesk-, riiklikul või Euroopa tasandil. Igal valikul on tingimused. Kohalik paigaldus võib vähendada mõningaid ülekandeid ja tuua kontrolli organisatsiooni lähedale, suurendades samal ajal selle hoolduskoormust. Ühine Euroopa rajatist võib avardada juurdepääsu kallitele võimalustele, nõudes samas selgeid juurdepääsureegleid ja realistlikku teed katsetusest töösse. Kommertslik majutusteenus võib pakkuda mõne töö jaoks kasulikku teed, tekitades samas küsimusi jurisdiktsiooni, sõltuvuse, andmete ja muudatuste haldamise kohta. Geograafia on disainiotsus tagajärgedega, mitte moraalikleebis.

EuroHPC tehisintellektivabrikud on selles osas huvitavad, sest nende avalik kirjeldus on laiem kui ruum täis kiirendeid. Teenused hõlmavad arvutust ja salvestust, andmetele ja tarkvarale juurdepääsu, tuge, koolitust, sisseelamist ja valdkonnapõhist koostööd. See kombinatsioon on oluline. Masin ilma juurdepääsetava teeta, inimesteta, kes saavad aidata, ja põhjendatud seoseta töövaldkonnaga ei ole avalik võimekus. See on kallis mööbel muljetavaldava ventilaatorimüraga.

Avalik taristu vajab ka institutsionaalset mälu. Kes võib ressurssi kasutada? Millistel tingimustel? Milline töö saab prioriteedi, kui võimekus on napp? Milliseid andmeid võib sisse tuua? Millised tulemused võivad lahkuda? Mis juhtub, kui projekt lõpeb? Kuidas aidatakse väiksematel organisatsioonidel ressurssi kasutada, ilma et neilt oodataks saabumist pühendatud teadusosakonna ja varu-nädalaga? Riistvara hankimine neile küsimustele ei vasta. Töökorraldus vastab.

Siin on suveräänsusõppetund, mida taandatakse sageli kaardile. Teenus võib olla füüsiliselt lähedal ja siiski raskesti juhitav. Süsteem võib olla majutatud Euroopa pinnal, samas kui olulised juhtimisseadmed, uuendusõigused, liidesed või äriline mõjuvõim jäävad mujale. Vastupidi, piiriülene Euroopa kokkulepe võib toetada tähenduslikku avalikku võimekust, kui piirid, juurdepääsuõigused, vastutused ja väljumisteed on selgesõnaliselt määratletud. Oluline küsimus ei ole lihtsalt see, kus riiul seisab. See on see, kes saab otsustada, kontrollida, hooldada ja lahkuda.

Nende küsimuste kooshoidmiseks on vaja institutsioone. Energiaplaneerijad ei suuda turunduslehelt tehisintellekti töökoormust välja lugeda. Hankijad ei saa mudeli võrdlusnäitaja põhjal andmekeskuse suhet läbi rääkida. Teadusmeeskond ei suuda masinale juurdepääsu muuta püsivaks võimekuseks ilma toeta, andmetavade ja teeta tulemuse kasutamiseks. Neid teemasid ühendav lõim ei ole konkreetne mudel. See on avalik võime teha piiritletud otsus ja säilitada võime seda uuesti vaadata.

Võimekus ei asu iseenesest keskmes. Valige valdkond, et näha avalikku tööd, mida see peab kandma.

Tööjõud ei ole paigalduse üksikasj

Iga tehisintellektisüsteem muudab kuskil tööd. Mõnikord on muutus ilmne, sest ülesanne antakse tarkvarale. Sagedamini on see vaiksem. Töötaja kontrollib ettepanekut esialgse kavandi loomise asemel. Juht näeb vestluse ees skoori. Kõneoperaator saab kokkuvõtte, mis raamib järgmist küsimust. Juhtumitöötaja kulutab vähem aega dokumendi leidmisele ja rohkem aega erandi selgitamisele. Ülesanne on muutunud, isegi kui ametinimetus ei ole.

Seepärast ei saa tööd jätta rakenduskava lõppu muudatuste juhtimise peatüki alla. Töö ei ole pind, mida tuleks hallata pärast seda, kui tehniline otsus on tehtud. Töö on see, kus süsteem omandab oma praktilise tähenduse. Töötajad teavad, millised andmed on puudulikud, millised erandid on tavalised, kus mõistlik reegel muutub absurdseks ja mida näiliselt tõhus protsess inimeselt nõuab. Nende eemaldamine disainivestlusest on kindel viis muuta töövoog vähem arusaadavaks.

EU-OSHA ülevaade tehisintellektipõhisest töötajate juhtimisest toob välja nii võimalused kui ka töötervishoiu ja tööohutuse riskid. Selline sõnastus on kasulik, sest see lükkab tagasi kaks lihtsat narratiivi. Esimene väidab, et iga tehisintellekti tööriist on tegelikult juht. Teine väidab, et tehnoloogia on neutraalne, kuni mõni konkreetne halb tegutseja seda kuritarvitab. Praktikas võib seire, eesmärkide, soovituste, hoiatuste ja jaotuse kujundus mõjutada töö kvaliteeti juba enne, kui keegi on asendamisest üldse rääkinud.

Inimlik institutsionaalne vastus ei ole nõuda, et iga töötaja muutuks tehisintellekti spetsialistiks. Vastus on muuta tööriista ja töö suhe arutletavaks. Mida on süsteemil lubatud soovitada? Mida ei ole tal lubatud otsustada? Millised signaalid jõuavad tulemusvestlusse? Kas töötaja saab enda kohta käivat infot kontrollida ja parandada? Mis juhtub, kui süsteemi väljund läheb vastuollu professionaalse hinnanguga? Kas tööriista õppimiseks on aega ja kas seda aega käsitletakse tööna, mitte erahobina, mida harrastatakse pärast seda, kui lapsed on magama pandud?

Küsimus volitustest on eriti oluline. Töötaja, kes on nimeliselt vaba väljundit üle kirjutama, kuid keda hinnatakse armatuurlaua järgi, mis premeerib nõustumist, ei ole saanud tähenduslikku otsustusruumi. Juht, kes saab skoori teadmata selle aluseid, ei ole saanud tähenduslikku vastutust. Ametiühingu esindaja, kes näeb süsteemi alles pärast hankeprotsessi, ei saa lisada teadmisi, mis oleksid ära hoidnud välditava konflikti. Institutsioonid teevad nendele faktidele ruumi enne, kui tabelarvutusprogramm muudab need ootamatusteks.

Ei ole olemas ühtset Euroopa töökohta. Valdkondlikud kokkulepped, riiklik tööõigus, organisatsioonikultuur ja ülesande olemus on kõik olulised. Kuid institutsionaalne põhimõte kandub hästi edasi: ärge kohelge inimesi vigade käsitlemise kihina süsteemis, mida neil ei lubatud mõista. Kui inimlik hinnang on osa ohutusargumentatsioonist, peab organisatsioon andma sellele hinnangule teavet, volitused ja tee, kuidas seda kuulda võtta.

Haridus on praktika ja keel on osa praktikast

Tehisintellekti kirjaoskusest on saanud populaarne vastus institutsionaalsele nõrkusele. Saada inimesed kursusele, väljasta tunnistus, pane intranetile rõõmsameelne slaid ja kuuluta asi käsitletuks. See on parem vastus kui üldse mitte õppimine. Kuid sellest ei piisa.

Komisjoni tehisintellekti kirjaoskuse juhend asetab kohustuse maapinnale lähemale. Pakkujad ja kasutuselevõtjad peaksid võtma meetmeid, et tagada piisav kirjaoskuse tase töötajate ja teiste isikute seas, kes nende nimel tehisintellektisüsteemidega tegelevad. Asjakohased tegurid hõlmavad tehnilisi teadmisi, kogemusi, haridust ja koolitust ning konteksti, milles süsteemi kasutatakse. See ei ole nõue universaalseks masinõppe viktoriiniks. See on kutse viia teadmised vastavusse vastutusega.

A procurement officer needs to recognise a claim that cannot be evaluated from a brochure. A frontline worker needs to know when an output should be checked against the source material. A manager needs to understand what an aggregate score cannot tell them about an individual case. A board member needs to be able to ask who has authority to stop a system. A developer needs a deeper understanding of data, interfaces, evaluation and failure. Calling all of this literacy may be slightly untidy. Real institutions are allowed to be untidy when the alternative is pretending that one course makes every role equally ready.

Education also has a temporal problem. A person can understand a tool in March and be faced with a materially different interface, model or workflow in October. A useful learning programme therefore follows changes that matter. It gives people a way to revisit the decision conditions, not merely a memory of a launch event. The Commission's ethical guidance for educators makes a related point in another setting: practical judgement about AI in teaching and learning cannot be reduced to a switch being turned on. Context, purpose and the people in the room remain relevant.

Language belongs here too. A system's displayed language is not the language of a society. A model may produce fluent text in a language while missing the administrative terms, regional forms, professional vocabulary, cultural references or legal meanings that make a real decision intelligible. A translation may be grammatically tidy and still change a responsibility, an obligation or a right. Multilingual use is not a decorative localisation pass at the end of an otherwise finished product.

For Europe, this is a practical institutional question. Public services, workplaces and schools operate in many languages, sometimes several within the same organisation. Documentation, error routes, training, support and challenge processes have to meet people where the work happens. If the policy is available in one language but the operating interface in another, the organisation has split the system in two. If a person can receive a decision in their language but cannot find the explanation or challenge route in that language, the remedy has become theoretical.

The solution is not to promise that every system understands every language equally. That would be a claim with very little evidence behind it. The solution is to state the coverage honestly, test the use that is actually intended, keep language limitations visible and make sure that a gap does not quietly become a disadvantage for the people least able to correct it. This is less glamorous than announcing multilingual AI. It is more respectful.

Safety begins with a claim that can be argued about

Safety is another word that becomes vague when it is asked to carry too much. An AI system is not safe because a supplier says it has guardrails. It is not safe because a benchmark contains a reassuring number. It is not safe because a person remains somewhere in the loop. Safety concerns a bounded claim: this system may be used for this purpose, in this setting, under these conditions, with these controls, evidence, residual risks and people who can act.

That is why safety cases are useful beyond the sectors in which they are commonly discussed. A safety case is not a badge. It is an argument that connects a claim to hazards, controls, assumptions, evidence and a decision. It has room for uncertainty. It can say that a condition is not yet met. It can say that a change requires reassessment. It can say that the right decision is to pause. A demo has no real way to say those things without spoiling its own mood.

AI-töös on oluline samm ühendada tõendusmaterjal tegeliku kasutusega. Mudeli hindamine võib organisatsioonile öelda midagi võimekuse kohta kindlaksmääratud meetodi raames. See ei tõenda automaatselt, et mudel sobib igasse töövoogu, igale rühmale, igas keeles või pärast iga integratsioonimuudatust. Asutus peab kandma ahela mudelist teenuseni kohaliku otsuseni. Just selles ahelas muutuvad paljud muidu siirad väited liiga suureks.

Tõendusmaterjalil on aegumiskuupäev isegi siis, kui failil endal seda pole. Versioon muutub. Otsingukogu muutub. Uus prompti mall muudab käitumist, mida kasutaja näeb. Töötaja avastab rikke, mida testikomplektis polnud. Seadus, poliitika või andmeallikas muutub. Need ei ole piinlikud katkestused täiuslikus süsteemis. Need on tarkvara kasutamise tavalised tingimused maailmas. Asutuse ülesanne on otsustada, millised muudatused nõuavad uut ülevaadet, kes selle otsuse teeb ja kuidas varasem kirje võrdluseks kättesaadavaks jääb.

Peatumisvõime on sama argumendi osa. Peatumistingimus, mida keegi ei saa rakendada, on dekoratiivne klausel. Peatumisnupp ilma omanikuta on väike kaasaegse kunsti teos. Usaldusväärne kokkulepe nimetab volituse, signaali, mis võib tegevuse käivitada, eskaleerimistee, ohutu oleku ja viisi, kuidas otsus kirja pannakse. Üksikasjad varieeruvad. Vajadus üksikasjade järele ei varieeru.

Ohutus ei ole seega osakond, mis saabub lõpus punase pliiatsiga. See on viis muuta ühine otsus täpsemaks enne, kui süsteemi on raske muuta. See esitab küsimuse, mida demonstratsioonid väldivad, sest vastus võib olla ebamugav: milline tõendusmaterjal veenaks meid mitte jätkama? Asutus, kes suudab sellele küsimusele vastata, on juba võimekam kui see, kes oskab ainult käivitamist tähistada.

Avalik võimekus on ahel, mitte näitusesaal

Euroopa avalikku AI-võimekust ei mõõdeta ainult mudelite, andmekeskuste või teadusteadete arvuga, mida see kaardile panna suudab. Need asjad loevad. Need ei ole isemajandavad. Võimekus on oskus kasutada tehnilisi ressursse avalikul eesmärgil aja jooksul, piisava pädevuse ja volitusega, et vältida sõltuvust, mis maskeerib end arenguna.

Interoperable Europe Act pakub kasulikku vihjet. Selle mure on avaliku sektori koostalitlusvõime kogu liidus ning koostalitluslahenduste jagamine ja taaskasutamine. Koostalitlusvõimet koheldakse mõnikord tehnilise eelistusena: vorminguküsimusena inimestele, kellele meeldivad nooltega diagrammid. Avalikus töös on see ka institutsionaalne omadus. See määrab, kas kirje saab liikuda koos oma tähendusega, kas üks asutus saab mõista teise asutuse süsteemi piire, kas tarnija lahkumine muutub hallatavaks migratsiooniks või kapitäkste lugematuid eksporte täis kapiks.

Koostalitlusvõime ei tähenda, et iga süsteem peaks välja nägema ühesugune või et kogu avalik töö peaks olema tsentraliseeritud. See tähendab, et piir ei tohiks hävitada teavet, mida on vaja vastutustundlikuks jätkamiseks. Organisatsioon peaks suutma tuvastada objekti, selle omaniku, eesmärgi, versiooni, sellele lisatud tõendusmaterjali ja otsused, mis seda muutsid. Uus teenus peaks suutma vastu võtta vajalikud kirjed ilma vana tarnija loata neid tõlgendada. See ei ole disainikaunistus. See on see, kuidas avalik asutus jääb vabaks hiljem otsustada.

Hollandi algoritmiregister on veel üks väike, kuid kasulik institutsionaalne objekt. See avaldab teavet valitsusorganisatsioonide kasutatavate algoritmide kohta ja keskendub mõjukatele algoritmidele, sealhulgas kõrge riskiga AI-süsteemidele. Register ei tõenda, et iga loetletud süsteem on hea, õiglane või seaduslik. Selle väärtus on mujal. See muudab süsteemi olemasolu, deklareeritud kasutuse ja vastutava avaliku asutuse leidmise lihtsamaks. See loob pinna, millele küsimus saab maanduda.

Meil on vaja rohkem neid pindu, mitte tingimata rohkem veebisaite. Mudeli või süsteemi kanne, avalik selgitus, kontrollitud tehniline fail, intsidendi marsruut, hankekanne, koolitusplaan ja koostalitluse spetsifikatsioon teenivad kõik erinevaid lugejaid. Need peaksid ühtima faktide osas, mis nende vahel liiguvad. Avalik leht ei pea paljastama iga tundlikku üksikasja. Kuid see ei tohiks olla vastuolus sisemiste tõenditega. Hankefail ei pea olema avalikkusele mõeldud käsiraamat. Kuid see ei tohiks lasta organisatsioonil unustada tingimusi, mille ta ostis.

Oht on pidada nähtavust võimekuseks. Lihvitud portaal võib varjata puuduvat toimimismudelit. Riiklik strateegia võib nimetada prioriteedi ilma personali, juurdepääsu, hoolduse või väiksemate organisatsioonide jaoks mõeldud marsruudita. Innovatsioonifond võib toetada kontseptsiooni tõestust ilma toetamata tööd, mida on vaja kasuliku teenuse elus hoidmiseks. Lõhe nende asjade vahel on koht, kus paljud mõistlikud projektid vaikselt lõpevad.

Avalik võimekus on vähem fotogeenne. See hõlmab jagatud asjatundlikkust, juurdepääsetavat taristut, hankeoskust, standarditööd, kohaliku keele ressursse, pikaajalist rahastust, sõltumatut järelevalvet ja inimesi, kes mõistavad piisavalt, et esitada tarnijale keeruline küsimus. See hõlmab oskust öelda ei, peatuda, kohaneda ja lahkuda. Kontinent, kes suudab neid asju teha, omab enamat kui AI-sektorit. Tal on tehnoloogilise isevalitsemise algus.

Avalik võimekus on ahel: eesmärk, tõendid, volitus, toimimine ja õppimine peavad jääma ühendatuks ka pärast käivitamist.

Töö pärast aplausi

Võib aidata kujutada nädalat pärast demonstratsiooni, mitte selle hetke ennast. Mitte päris sündmust, mitte varjatud juhtumiuuringut, vaid lihtsalt tavalist tööd, mis järgneb paljulubavale ideele. Keegi peab muutma väljendatud eesmärgi hinnatavaks ulatuseks. Keegi peab otsustama, milliseid lähteandmeid on asjakohane kasutada. Keegi peab kaardistama, kuidas väljund siseneb töövoogu. Keegi peab küsima, kas töö muutub inimeste jaoks, kes seda juba teevad. Keegi peab veenduma, et tugitee toimib olulistes keeltes. Keegi peab hindama integratsiooni, seire ja lõpliku väljumise hinda.

Siinkohal võib projekt tunduda aeglasem, sest see on omandanud nimed, tingimused ja sõltuvused. Tegelikult on see muutunud juhitavaks. Demonstratsioon on kiire, sest see ignoreerib tööd, mis teeb süsteemi vastutavaks. Institutsioon ei ole aeglane sellepärast, et ta kasutab kontrollnimekirja. Ta on aeglane siis, kui avastab tegelikud sõltuvused pärast seda, kui on juba tulemuse lubanud.

Praktiline distsipliin on paigutada lahendamata küsimused kohta, kus need saavad otsust muuta. Kui organisatsioon ei tea, kuidas tarnija teda olulisest mudelimuudatusest teavitab, märkige see enne lepingu sõlmimist üles. Kui ta ei suuda selgitada, kes võib soovituse üle kirjutada, lahendage see enne, kui liides muutub harjumuspäraseks. Kui keegi ei oma lähteandmeid, ärge nimetage andmeid valmis olevaks. Kui organisatsioon ei suuda toetada kavandatud keeli, kitsendage kavandatud kasutust, mitte ärge laske laial lubadusel muutuda vaikseks välistuseks.

See ei ole bürokraatlik maksimalism. See on proportsionaalsus. Väikese mõjuga siseassistent võib vajada piiratud korraldust: määratletud kasutusotstarve, selge andmepiir, personali juhend, viis probleemist teatamiseks ja väljumistee. Süsteem, mis kujundab juurdepääsu tööle, teenustele, haridusele, krediidile, tervisele või avalikule võimule, vajab palju tugevamat korraldust. Õige vastus proportsionaalsusele ei ole vähem küsimusi. See on küsimused, mis on kohandatud kahjuga, mida viga võib tekitada.

Institutsionaalne töö muudab ka innovatsiooni korduvkasutatavamaks. Kui üks meeskond dokumenteerib, kuidas ta töövoogu hindas, saab teine meeskond õppida meetodist, mitte korrata sama ebakindlust. Kui asutus avaldab kasuliku süsteemikirje, on elanikel ja teistel avalik-õiguslikel asutustel lähtepunkt. Kui leping säilitab ekspordiõigused ja muudatuste protokollid, ei ole järglasel vaja minevikku ekraanipiltidest ja arvetest rekonstrueerida. Korduvkasutus ei puuduta ainult koodi. See puudutab koodi ümbritsevate otsuste arusaadavana hoidmist.

Siin on meeldiv iroonia. Organisatsioonid, kes kõige rohkem muretsevad, et haldus nende tegevust aeglustab, kannavad sageli kõige rohkem varjatud ümbertööd. Nad kordavad hinnanguid, sest tingimusi ei registreeritud kunagi. Nad vaidlevad vastutuse üle, sest rolle ei nimetatud kunagi. Nad peavad lepingut uuesti läbi rääkima, sest väljumine oli eeldatud, mitte täpsustatud. Nad koolitavad inimesi pärast kasutuselevõttu, sest töövoogu käsitleti iseenesestmõistetavana. Institutsioonid tunduvad üldkuluna ainult siis, kui nende puudumine pole projektiplaanil veel nähtav.

Mida institutsioonid tegelikult teevad

Institutsioone on lihtne kõlada suurejooneliste ja kaugetena. Praktikas teevad nad tavalisi hooldustoiminguid. Nad säilitavad eristusi, mida turuvestlus eelistab hägustada. Nad eristavad eesmärki tulemusest, plaani sündmusest, mudelit teenusest, teenust avalikust otsusest, kirjet tõendist ja kaebust õiguskaitsevahendist.

Nad jagavad volitusi. Mitte sümboolset volitust, vaid volitust kiita heaks kavandatud kasutus, keelduda andmeallikast, peatada marsruut, avaldada parandus, võtta vastu jääkrisk ja öelda tarnijale, et vastus ei ole piisav. Süsteem ilma sellise jaotuseta kipub avastama volituse konflikti kaudu. See on kallis viis selle kujundamiseks.

Nad säilitavad mälu. Varasema otsuse kirje ei pruugi olla glamuurne, kuid see võimaldab uuel meeskonnaliikmel mõista, miks piirang eksisteerib. Ajalugu võimaldab organisatsioonil võrrelda muudetud süsteemi tingimustega, mille alusel see heaks kiideti. See kaitseb inimest, kes vaidlustab tulemust, selle eest, et talle öeldakse, et asjakohane tõend on lahustunud eelmisesse versiooni. Unustamine on mõnikord mugav. See on harva tugev haldusmudel.

Nad loovad erimeelsuste jaoks rajad. Hea institutsioon ei eelda, et kaebus on tõend ebaõnnestumisest. See annab kaebusele koha, kuhu minna, piisavalt teavet selle uurimiseks ja inimese, kes saab vastata ilma survet all uut protseduuri välja mõtlemata. See on oluline töötajatele, elanikele, klientidele, tarnijatele ja sisemeeskondadele. Väljakutse rada ei ole järeleandmine pessimismile. See on osa sellest, kuidas süsteem märkab oma piire.

Nad investeerivad pädevusse. Töö ei ole ainult tehniline. See hõlmab inimesi, kes oskavad lugeda lepingut, hinnata andmepiiri, mõista töövoogu, selgitada tulemust lihtsas keeles, käitada infrastruktuuri, koolitada kolleege ja ära tunda, millal tõendid on kavandatava otsuse jaoks liiga nõrgad. Ükski organisatsioon ei palka kõiki neid inimesi iga väikese projekti jaoks. Kuid tõsised organisatsioonid teavad, kuidas neid leida, jagada või küsida enne, kui otsus kivistub.

Lõpuks muudavad institutsioonid kohustused vastupidavaks. Ettevõte võib muuta suunda, minister võib vahetada portfelli, mudel võib vahetada versiooni ja eelarve võib muutuda vähem kujutlusvõimeliseks. Avalik eesmärk, arvestus, volitus ja õiguskaitsevahend ei tohiks kaduda koos esialgse esitluse slaidikomplektiga. Seepärast vajavad püsivad süsteemid igavaid asju: avatud liideseid, kus võimalik, selget omandust, säilitatud arvestust, realistlikke tugitingimusi, nimetatud ülevaatuspunkte ja toimivat väljumisteed. Iga asjad ei ole innovatsiooni vastand. Need on see, mis võimaldavad innovatsiooni üle vaadata ilma, et sellest saaks lammutustöö.

Euroopa eelis, mida tasub üles ehitada

Euroopa ei pea võitma vaidlust selle üle, kas institutsioonid on põnevad. Enamikel päevadel nad ei ole. Hästi juhitud register ei ole põnev. Koostalitluse spetsifikatsioon pole kunagi pannud staadionil lainet tegema. Hankeklausel ekspordivormingute kohta ei jõua kunagi kilekotile. Glamuuri puudumine on osa nende väärtusest. Need töötavad edasi, kui tähelepanu liigub mujale.

Samuti pole põhjust muuta seda Euroopa moraalse üleoleku looks. Igas piirkonnas on institutsioone, ebaõnnestumisi, tehnilisi saavutusi ja pimealasid. Euroopal on võimalus, mitte valmis eelis. Selle õiguslikud traditsioonid, avalikud teenused, mitmekeelsed ühiskonnad, teadusvõrgustikud, tööstusbaas ja piiriülesed kokkulepped võivad toetada eristuvat lähenemist, kui need on ühendatud tegeliku tegutsemisvõimekusega. Need võivad jääda ka kogumikuks imetlusväärseid dokumente, kui inimestele, kellel on vaja töö ära teha, ei jäeta aega, volitusi ega vahendeid.

Valik on praktiline. Ehitage hankeid, mis ostavad tõendeid ja väljumisteid, mitte ainult võimekust. Ehitage taristut, mis hõlmab juurdepääsu, tuge, energiateadlikkust ja vastutustundlikku käitamist. Ehitage töökohaprotsesse, mis annavad inimestele teavet ja ehtsat otsustusruumi. Ehitage kirjaoskus rollidesse ja muudatustesse, mitte ühte pärastlõunasse. Ehitage keeletugi teenusesse, mitte ainult avalehele. Ehitage ohutusargumente, mida saab uuesti avada. Ehitage avalikke arvestusi, mis võimaldavad keerulisel küsimusel jõuda õige omanikuni.

Siis saab järgmist demonstratsiooni korralikult vastu võtta. Seda saab nautida selle eest, mis ta on: tõend, et tehniline võimekus võib väärida uurimist. See ei pea kandma võimatut koormat tõestada, et seda ümbritsev ühiskond on valmis. See tõestus, kui see üldse võimalik on, sünnib aeglaselt institutsioonide töö kaudu.

Väike märkus meilt

Dweve’is läheneme samale institutsionaalsele probleemile teadlikult kitsa avaliku väitega. Meie usalduskeskuse arvestus kinnitab, et Dweve Loom 1.0 on endiselt ainult sisemises eelväljalaske testimises, väline juurdepääs on suletud. Avaldatud väljalasketingimus ütleb, et välise tee avamine sõltub versioonile vastavatest tõenditest, teele omastest läbimistest, salvestatud väljalaskeotsusest ja avalike arvestuste terviklikkuse kontrollist. See ei ole väide, et arvestus muudab süsteemi turvaliseks või et tulevane väljalase toimub. See on väide plaani ja sündmuse eraldi hoidmisest ning tegevusotsusest, mis on seotud tõenditega.

See on standard, mida tasub laiemalt rakendada. Ärge paluge mudelil olla institutsioon. Paluge institutsioonidel olla piisavalt head, et otsustada, kuhu mudel kuulub, mida see tohib teha, kuidas seda saab vaidlustada ja millal see peab peatuma.

Allikad