Eiropas mākslīgā intelekta sarunā vajag mazāk demonstrāciju un vairāk institūciju

Institūciju jautājumi: modeļa demonstrācija var parādīt iespēju, bet nevar izlemt, kam ir vara, kā cilvēki apstrīd rezultātu, kur glabājas pierādījumi, kas...

Eiropas mākslīgā intelekta sarunā vajag mazāk demonstrāciju un vairāk institūciju

Demonstrācija nav publiska iestāde

Labai demonstrācijai piemīt īpašs spēks. Tā saspiež iespēju dažās minūtēs. Tiek aizpildīta veidlapa, apkopots dokuments, parādās attēls, sarežģīts jautājums saņem ticamu atbildi. Ikviens telpā var redzēt, kāpēc kāds varētu vēlēties šo lietu. Tas ir noderīgi. Tas ir arī brīdis, kad daudzi grūtāki jautājumi tiek pieklājīgi atlikti uz vēlāku laiku.

Vēlāk sākas iestāde. Kam ir tiesības izlemt, vai sistēmu drīkst izmantot? Kādam publiskam mērķim tā kalpo? Kādi pierādījumi ir pietiekami šim mērķim, un kurš var teikt, ka tie nav pietiekami? Kas notiek, kad mainās versija, kad darbinieks apstrīd ieteikumu, kad cilvēks lūdz skaidrojumu, kad enerģijas ierobežojums slēdz maršrutu vai kad piegādātāja ceļvedis kļūst par citu ceļvedi? Demonstrācija nav veidota, lai atbildētu uz šiem jautājumiem. Publiska iestāde ir.

Eiropa ir pavadījusi daudz laika, apspriežot mākslīgo intelektu kā spēju sacensību. Šī saruna ir saprotama. Spēja ir redzama. Tā veido glītu filmas fragmentu. Iestādes lielākoties ir redzamas caur darbu, ko tās neļauj kļūt noslēpumainam: iepirkuma nosacījumi, reģistru kārtošana, piekļuves kontrole, apmācība, uzraudzība, pārsūdzības ceļi, uzturēšanas budžeti, valodas atbalsts, tehniskie standarti, cilvēks, kura vārds ir piesaistīts lēmumam. Neviens no tā nepiešķir atklāšanas runai ierasto spožumu. Tomēr tas izšķir, vai sistēma paliek atbildīga, kad telpa ir tukša.

Šis nav arguments par bailīgu tehnoloģiju vai par publisko sektoru, kas neko nepērk, kamēr neredz nākotni. Tas ir arguments par kategoriju kļūdas noraidīšanu. Modelis var ģenerēt, klasificēt, prognozēt vai ieteikt. Tas pats par sevi nevar radīt leģitīmu pilnvarojumu, sadalīt publisko atbildību, iemācīt kolēģim to apstrīdēt, uzturēt nacionālo valodu, vienoties par tīkla pieslēgumu vai saglabāt tiesisko aizsardzību cilvēkam, kuru skar tā izmantošana. Šie uzdevumi pieder cilvēkiem un organizācijām, pat ja programmatūra palīdz darbā.

Eiropas mākslīgā intelekta sarunai ir vajadzīgs mazāk demonstrāciju tādā nozīmē, ka tai ir vajadzīgs mazāk demonstrāciju, kas aizstāj gatavības pierādījumus. Tai ir vajadzīgas vairāk iestādes tādā nozīmē, ka tai ir vajadzīgas labākas vietas lēmumu pieņemšanai, zināšanu saglabāšanai un kursa korekcijai. Pārmaiņas nav no tehnoloģijas uz birokrātiju. Tās ir no šauras tehnoloģijas ainas uz faktisko izkārtojumu, kurā tehnoloģijai ir sekas.

Šis jautājums ir svarīgs arī ārpus valdības. Slimnīcai, pašvaldībai, skolai, ražotājam, kultūras iestādei un mazam uzņēmumam nav vienādu pienākumu vai risku. Bet visi galu galā atklāj, ka modelis ir viens komponents lielākā izkārtojumā. Lielākais izkārtojums nosaka, kurš piegādā ievaddatus, kurš lasa rezultātus, kurš uzņemas atlikušo risku, kurš var apturēt sistēmu un kurš paliek, kad programmatūras uzņēmums ir nosūtījis savu ceturkšņa biļetenu.

Tāpēc iestāžu valoda nav atkāpšanās no tehniskās ambīcijas. Tā ir nepārtrauktības valoda. Publiskajam pakalpojumam ir jādarbojas parastā otrdienā, to lietojošo cilvēku valodā, budžeta ietvaros, ko kāds var pārbaudīt, pēc personāla maiņas, piegādātāja nesaskaņu laikā un tad, kad sākotnējais entuziasms ir kļuvis par uzturēšanas biļeti. Jebkuram nopietnam mākslīgā intelekta apgalvojumam galu galā ir jāiztur šis ceļš.

Spēja ir tikai viens no jautājumiem

Demonstrācija parasti uzdod šauru un saprātīgu jautājumu: vai sistēma spēj veikt šo uzdevumu šādos apstākļos? Iestādei vienlaikus jāuzdod plašāks jautājumu kopums. Vai šo uzdevumu ir lietderīgi automatizēt vai atbalstīt? Vai norādītais mērķis ir likumīgs un samērīgs? Vai cilvēki, kas veic darbu, joprojām spēj saprast un apstrīdēt rezultātu? Vai sabiedrības loceklim ir iespēja noskaidrot, kas noticis? Vai organizācija var mainīt pakalpojumu sniedzēju, neatsakoties no saviem ierakstiem? Vai sistēma ir atkarīga no ierobežotām skaitļošanas jaudām, konkrēta valodas resursa vai datu plūsmas, kuras uzturēšanai neviens nav paredzējis budžetu?

Šie jautājumi nepadara modeli sliktāku. Tie padara lēmumu godīgāku. Tie nošķir funkciju no pakalpojuma un pakalpojumu no publiskas spējas. Funkcija var būt iespaidīga, kamēr apkārtējais izkārtojums ir trausls. Pakalpojums var būt noderīgs, kamēr tā līgums padara neiespējamu pārbaudīt būtiskas izmaiņas. Publiskai spējai laika gaitā jāpaliek lietojamai, pārvaldītai un labojamai. Tai jānes vairāk nekā tikai rezultāts.

Par AI aktu bieži runā tā, it kā tas būtu viens vienīgs risinājums šai problēmai. Tas tā nav. Tas ir nozīmīgs tiesiskais regulējums, un tā norādītais mērķis savieno iekšējā tirgus darbību ar uz cilvēku vērstu un uzticamu mākslīgo intelektu, kā arī augstu veselības, drošības, pamattiesību, demokrātijas, tiesiskuma un vides aizsardzības līmeni. Taču pats akts norāda uz svarīgu institucionālās realitātes aspektu: tas darbojas līdzās esošajiem Savienības tiesību aktiem par datu aizsardzību, patērētājiem, nodarbinātību, darba ņēmējiem un produktu drošību. Tiesiskais regulējums neaizstāj šīs jomas. Tas tās papildina.

Tam būtu jāveido praktiskā saruna. Komanda nevar pasludināt sistēmu par sociāli drošu, norādot uz AI riska klasifikāciju, vienlaikus ignorējot apkārtējo nodarbinātības procesu. Publiska iestāde nevar pasludināt sistēmu par atbildīgu tāpēc, ka ir pabeigts tehniskais novērtējums, kamēr iedzīvotāji nevar atrast īpašnieku vai ierakstu. Piegādātājs nevar likt pārnesamības problēmai pazust, lietojot vārdu mākonis. Jautājums vienmēr ir par to, kā jaunā sastāvdaļa darbojas jau esošo pienākumu ietvaros.

Pastāv praktisks kārdinājums uztvert to kā argumentu par plašāku atbilstības dokumentu mapi. Tas tā nav. Vairāk lapu var padarīt organizāciju mazāk spējīgu rīkoties, ja neviens nezina, kura lapa maina lēmumu. Iestādes nekļūst spējīgas, vācot veidnes. Tās kļūst spējīgas, kad noteikts mērķis, nosaukta atbildīgā persona, izmantojami pierādījumi un iespēja labot kļūdu var satikties vienā un tajā pašā darbā.

Tas ir daudz prasīgāks standarts nekā demonstrācija. Tas ir arī taisnīgāks. Modeļa nodrošinātājam nevajadzētu atbildēt par katru vietējo politikas izvēli, ko veicis ieviesējs. Ieviesējam nevajadzētu lūgt atšifrēt katru augšupējo tehnisko lēmumu. Katrai pusei ir vajadzīga robeža, ieraksts par to, kas to šķērso, un veids, kā noteikt, kad robeža ir mainījusies. Iestādes pastāv daļēji tāpēc, lai padarītu šīs robežas skaidri saskatāmas.

Likums ir grīda, nevis visa ēka

Par Eiropu bieži runā tā, it kā tā būtu izvēlējusies noteikumus tehnoloģiju vietā. Šis apraksts ir pārāk glīts, lai būtu noderīgs. Likums var aizliegt, pieprasīt, sadalīt pienākumus un saglabāt tiesību aizsardzības līdzekļus. Tas var noteikt minimālo publisko grīdu, zem kuras sistēmai nevajadzētu nokrist. Tas nevar pieņemt darbā recenzentu, kurš izprot vietējo darba plūsmu, uzturēt datu saskarni, uzrakstīt saprātīgu iepirkuma specifikāciju vai dot nogurušai komandai pēkšņi laiku apgūt jaunu procesu. Šīm lietām ir vajadzīga kapacitāte.

The distinction matters because legal language can hide operational absence. A policy may say that human oversight exists. That statement is meaningless if the human being has no authority to pause the route, no time to review a case, no information about the model version, no training in the task and no path for escalating a disagreement. The oversight exists on paper, rather like a fire exit hidden behind a cupboard. It will be very reassuring until it is needed.

The same is true of transparency. A disclosure can be technically available and practically useless. A person may receive a long description of a system without learning who owns the decision, what record can be challenged or how to obtain a remedy. A public register may list an algorithm without saying whether the listed version is current, what the system is used for or who has authority to answer a question. Transparency is not the amount of text. It is the ability to locate a decision and its owner.

Europe's legal work is valuable precisely because it makes some of these questions harder to dismiss. It gives shared language for providers, deployers, regulators and affected people. It also makes the gaps more visible. When an organisation cannot state its intended purpose, identify its data flow, keep a record of a material change or name the person who can stop a use, the problem is not merely that the paperwork is late. The organisation has not yet built the thing it claims to be operating.

This is where institutions have a modest advantage over slogans. They remember that a decision happened. They keep the conditions with it. They preserve the difference between a plan and an event. They put a name, an inbox and sometimes a slightly stubborn form next to a promise. The form is not the achievement. The achievement is that somebody can be held to the answer.

Good law creates room for this work. It should not be used as a substitute for it. The mature question is not whether a system is compliant in the abstract. It is whether the people responsible can demonstrate how its particular use meets the applicable duties, what they do not yet know and what they will do when the evidence changes. That is a legal question, an operational question and an institutional question at the same time.

Procurement is where public intent meets a supplier contract

Public procurement sounds procedural because it is procedural. It is also one of the places where public intent becomes real. A public authority buys works, goods or services from selected companies through a process shaped by rules intended to keep procurement open and competitive. In an AI context, that process is not merely the moment at which a product is chosen. It is the moment at which an authority can decide what the supplier must make inspectable, what changes require notice, which records remain available, how the work can be handed over and what happens if the system must stop.

A procurement that asks only for a model's capabilities tends to buy a demonstration with an invoice attached. A procurement that asks for the operating conditions buys something closer to a service. It can ask for a defined intended purpose, interfaces, documentation, accessible evidence, role-based permissions, incident contacts, update notices, export formats, support boundaries, retention arrangements, exit assistance and a clear allocation of responsibility. It can ask who owns a particular risk rather than permitting every party to assume that the other one does.

Nav universālas klauzulas, kas šos jautājumus atrisinātu. Neliela organizācija, kas iegādājas šauru iekšēju rīku, nedrīkst mantot līgumu, kas veidots valstiski kritiskam pakalpojumam. Tikpat liela ietekme sabiedrībā nedrīkst saņemt līgumisko disciplīnu, kāda ir bezmaksas izmēģinājumam ar nedaudz garāku veidlapu. Līgumam ir jāseko lēmuma ietekmei, pakalpojuma radītajai atkarībai un organizācijas spējai to pārvaldīt.

Ilustratīvs scenārijs, nevis reāla iepirkuma apraksts: iedomāsimies publisku struktūru, kas apsver sistēmu, kura palīdz darbiniekiem sakārtot ienākošo lietu materiālus. Demonstrācija rāda kopsavilkumus, izvilktus laukus un ieteiktu rindu. Atbildīgais jautājums nav tas, vai rinda izskatās kārtīga. Tas ir, vai darbinieki var redzēt avota materiālus, vai prioritāšu noteikumi ir dokumentēti, vai lietu var labot bez slēptas otrās darbplūsmas izveides, vai sistēmas atjauninājums maina rezultātu, vai ierakstus var eksportēt un kurš atbild, ja persona apstrīd, kā ar tās materiāliem rīkots. Neviens no šiem jautājumiem neprasa teatrālas bailes no AI. Tie prasa nobriedušu līgumu.

Iepirkums var arī pasargāt organizāciju no tās pašas optimisma. Ja piegādātājs saka, ka jauna funkcija parādīsies vēlāk, struktūra to var fiksēt kā plānu, nevis iegādāties kā esošu iespēju. Ja piegādātājs sola cilvēka veiktu pārskatīšanas ceļu, līgums var aprakstīt faktisko lomu, atbildes nosacījumu un pierādījumus, nevis pieņemt frāzi, kas izklausās mierinoši. Ja pakalpojums ir atkarīgs no konkrēta datu formāta, struktūra var pieprasīt kartēšanu un eksportu, pirms sistēmu kļūst grūti pamest. Optimismam ir vieta inovācijā. Tam nevajadzētu ļaut parakstīt līgumus vienatnē.

Tas nenozīmē, ka katra iepirkumu komanda kļūst par modeļu laboratoriju. Tas nozīmē, ka komandām ir nepieciešama piekļuve pareizajai kompetencei. Juridiskajām, tehniskajām, operatīvajām, finanšu un lietotāju zināšanām ir jāsatiekas pirms neatgriezenisku lēmumu pieņemšanas. Tas ir viens no iemesliem, kāpēc institūcijām ir nozīme. Tās rada veidu, kā dažādas zināšanu formas var būt klātesošas, neizliekoties, ka viens cilvēks tās visas var nest.

Labākais iepirkuma jautājums bieži ir satriecoši vienkāršs: ko šī vienošanās prasīs no mums pēc ieviešanas? Atbildē var būt iekļauts personāla laiks, ieraksti, uzraudzība, enerģija, valodu prasmes, integrācijas darbs, pārskatīšanas ceļi un iziešanas plāns. Ja neviens no šiem elementiem atbildē neparādās, iepirkums nav panācis, ka slogs pazūd. Tas vienkārši to ir atstājis ārpus budžeta.

Infrastruktūrai ir publiska adrese

Ir vilinoši runāt par skaitļošanu tā, it kā tā būtu laikapstākļi. Darba slodzei ir vajadzīga jauda, jauda ir kaut kur citur, un svarīgi ir tas, vai lapa galu galā ielādējas. Bet skaitļošanai ir atrašanās vieta, piegādes ķēde, tīkla ceļš, enerģijas pieprasījums, apkopes režīms un juridiskais konteksts. Infrastruktūra tāpēc ir daļa no institucionālās kapacitātes, nevis tās fons.

Eiropas Komisijas darbs pie enerģētikas sistēmas digitalizācijas liek to nevarēt ignorēt. Tas attiecas uz tīkla optimizāciju, efektivitāti, elastību un datu centru ilgtspējīgu integrāciju. Svarīgais vārds ir integrācija. Datu centrs nav tikai privāta mašīnu kaste, kas nejauši patērē elektrību. Tas atrodas kopīgā enerģētikas sistēmā ar vietējiem ierobežojumiem, publisko plānošanu un citām prasībām pret tīklu. Nopietnai AI stratēģijai ir jāredz viss izkārtojums, nevis jāuztver elektrība kā zemsvītras piezīme zem skaitļošanas grafika.

Tas nerada vienkāršu noteikumu, ka visa apstrādei jābūt lokālai, centrālai, nacionālai vai Eiropas mēroga. Katrai izvēlei ir savi nosacījumi. Lokāla izvietošana var samazināt dažus datu pārraides apjomus un nodot kontroli organizācijas rokās, vienlaikus palielinot tās uzturēšanas slogu. Kopīga Eiropas mēroga infrastruktūra var paplašināt piekļuvi dārgām iespējām, vienlaikus prasot skaidrus piekļuves noteikumus un reālistisku ceļu no eksperimenta līdz darbībai. Komerciāls mitināšanas pakalpojums var piedāvāt noderīgu risinājumu daļai darba, vienlaikus radot jautājumus par jurisdikciju, atkarību, ierakstiem un izmaiņu kontroli. Ģeogrāfija ir dizaina lēmums ar sekām, nevis morāls marķējums.

EuroHPC mākslīgā intelekta rūpnīcas šajā ziņā ir interesantas, jo to publiskais apraksts ir plašāks nekā telpa, kas pilna ar akseleratoriem. Pakalpojumi ietver skaitļošanu un krātuvi, datu un programmatūras piekļuvi, atbalstu, apmācību, ieviešanu un nozaru sadarbību. Šī kombinācija ir svarīga. Iekārta bez pieejama ceļa, cilvēkiem, kas var palīdzēt, un pamatota saiknes ar darba jomu nav publiska kapacitāte. Tā ir dārga mēbele ar iespaidīgu ventilatoru troksni.

Publiskajai infrastruktūrai ir nepieciešama arī institucionālā atmiņa. Kam drīkst izmantot resursu? Ar kādiem nosacījumiem? Kurš darbs saņem prioritāti, kad kapacitāte ir ierobežota? Kādus datus drīkst ievadīt? Kuri rezultāti drīkst iziet? Kas notiek, kad projekts beidzas? Kā mazākām organizācijām palīdz izmantot resursu, negaidot, ka tās ieradīsies ar īpašu pētniecības nodaļu un brīvu nedēļu? Aparatūras iegāde uz šiem jautājumiem neatbild. To dara darbība.

Šeit ir suverenitātes mācība, ko bieži vien reducē līdz kartei. Pakalpojums var būt fiziski tuvu un tomēr grūti pārvaldāms. Sistēma var būt mitināta uz Eiropas augsnes, kamēr būtiskas kontroles, atjauninājumu pilnvaras, saskarnes vai komerciālā ietekme paliek citur. Un otrādi, pārrobežu Eiropas vienošanās var atbalstīt jēgpilnu publisko kapacitāti, ja robežas, piekļuves tiesības, pienākumi un izejas ceļi ir skaidri noteikti. Būtiskais jautājums nav tikai tas, kur stāv plaukts. Tas ir, kurš var izlemt, pārbaudīt, uzturēt un aiziet.

Šo jautājumu kopuma uzturēšanai ir nepieciešamas institūcijas. Enerģētikas plānotāji nevar secināt mākslīgā intelekta darba slodzi no mārketinga lapas. Iepirkumu speciālisti nevar sarunāt datu centra attiecības, pamatojoties uz modeļa etalonu. Pētniecības komanda nevar pārvērst piekļuvi iekārtai ilgnoturīgā kapacitātē bez atbalsta, datu prakses un ceļa rezultātu izmantošanai. Šos jautājumus savienojošais pavediens nav konkrēts modelis. Tā ir publiska spēja pieņemt ierobežotu lēmumu un saglabāt iespēju to pārskatīt.

Kapacitāte pati no sevis neatrodas centrā. Izvēlieties jomu, lai redzētu publisko darbu, kas tai jānes.

Darbaspēks nav ieviešanas detaļa

Katra mākslīgā intelekta sistēma kaut kur maina darbu. Dažreiz izmaiņas ir acīmredzamas, jo uzdevums tiek nodots programmatūrai. Biežāk tās ir klusākas. Darbinieks pārbauda ieteikumu, nevis veido pirmo melnrakstu. Vadītājs redz rezultātu pirms sarunas. Zvanu centra operators saņem kopsavilkumu, kas ietekmē nākamo jautājumu. Lietu speciālists pavada mazāk laika dokumenta meklēšanā un vairāk laika izņēmuma skaidrošanā. Uzdevums ir mainījies, pat ja amata nosaukums nav.

Tāpēc darbs nevar palikt ieviestā plāna beigās sadaļā "pārmaiņu vadība". Darbs nav virsma, ko pārvaldīt pēc tam, kad tehniskais lēmums jau pieņemts. Tieši tajā sistēma iegūst savu praktisko nozīmi. Strādnieki zina, kuri ieraksti ir nepilnīgi, kuri izņēmumi ir bieži, kur saprātīgs noteikums kļūst absurds un ko šķietami efektīvs process prasa cilvēkam uztvert. Viņu izslēgšana no dizaina sarunas ir drošs veids, kā padarīt darba plūsmu mazāk saprotamu.

EU-OSHA pārskats par uz mākslīgo intelektu balstītu darbinieku pārvaldību norāda gan uz iespējām, gan uz darba aizsardzības un veselības riskiem. Šāds formulējums ir noderīgs, jo tas noraida divus vienkāršotus stāstus. Pirmais apgalvo, ka katrs mākslīgā intelekta rīks ir slēpts vadītājs. Otrais apgalvo, ka tehnoloģija ir neitrāla, līdz kāds konkrēts ļaunprātīgs dalībnieks to nepareizi izmanto. Praksē uzraudzības, mērķu, ieteikumu, brīdinājumu un sadales dizains var ietekmēt darba kvalitāti, pirms vēl kāds ir teicis kādu dramatisku vārdu par aizstāšanu.

Cilvēcīga institucionāla atbilde nav uzstāt, ka katram darbiniekam jākļūst par mākslīgā intelekta speciālistu. Tā ir panākt, lai attiecības starp rīku un darbu būtu apspriežamas. Ko sistēmai ir atļauts ieteikt? Ko tai nav atļauts izlemt? Kuri signāli nonāk darba izpildes sarunā? Vai darbinieks var pārbaudīt un labot ierakstu, kas tiek izmantots par viņu? Kas notiek, ja sistēmas rezultāts ir pretrunā ar profesionālu spriedumu? Vai ir laiks apgūt rīku, un vai šis laiks tiek uzskatīts par darbu, nevis par privātu vaļasprieku, ko piekopj pēc tam, kad bērni ir aizgājuši gulēt?

Jautājums par pilnvarām ir īpaši svarīgs. Darbinieks, kuram formāli ir tiesības atcelt sistēmas rezultātu, bet kuru vērtē pēc informācijas paneļa, kas atalgo piekrišanu, nav saņēmis jēgpilnu rīcības brīvību. Vadītājs, kurš saņem rezultātu, nezinot tā pamatojumu, nav saņēmis jēgpilnu atbildību. Arodbiedrības pārstāvis, kurš sistēmu redz tikai pēc iepirkuma, nevar sniegt zināšanas, kas būtu novērsušas novēršamu konfliktu. Institūcijas šiem faktiem atvēl vietu, pirms izklājlapa tos pārvērš pārsteigumos.

Eiropā nav vienotas darba vietas. Nozaru līgumi, valstu darba tiesības, organizācijas kultūra un uzdevuma būtība visi ir svarīgi. Taču institucionālais princips ir pārnesams: neuztveriet cilvēkus kā kļūdu apstrādes slāni sistēmai, kuru viņiem nebija atļauts saprast. Ja cilvēka spriedums ir daļa no drošības argumenta, tad organizācijai šim spriedumam jādod informācija, pilnvaras un iespēja tikt uzklausītam.

Izglītība ir prakse, un valoda ir daļa no prakses

Mākslīgā intelekta pratība ir kļuvusi par populāru atbildi uz institucionālu vājumu. Nosūtiet cilvēkus uz kursiem, izsniedziet sertifikātu, ievietojiet intranetā jautru slaidu un uzskatiet jautājumu par atrisinātu. Tā ir labāka atbilde nekā nemācīties vispār. Taču ar to nepietiek.

Komisijas mākslīgā intelekta pratības pamatnostādnes pienākumu izklāsta daudz pamatotāk. Nodrošinātājiem un ieviesējiem būtu jāveic pasākumi, lai nodrošinātu pietiekamu pratības līmeni darbiniekiem un citām personām, kas viņu vārdā strādā ar mākslīgā intelekta sistēmām. Būtiskie faktori ietver tehniskās zināšanas, pieredzi, izglītību un apmācību, kā arī kontekstu, kurā sistēma tiek izmantota. Tas nav prasījums pēc universālas viktorīnas par mašīnmācīšanos. Tas ir aicinājums saskaņot zināšanas ar atbildību.

A procurement officer needs to recognise a claim that cannot be evaluated from a brochure. A frontline worker needs to know when an output should be checked against the source material. A manager needs to understand what an aggregate score cannot tell them about an individual case. A board member needs to be able to ask who has authority to stop a system. A developer needs a deeper understanding of data, interfaces, evaluation and failure. Calling all of this literacy may be slightly untidy. Real institutions are allowed to be untidy when the alternative is pretending that one course makes every role equally ready.

Education also has a temporal problem. A person can understand a tool in March and be faced with a materially different interface, model or workflow in October. A useful learning programme therefore follows changes that matter. It gives people a way to revisit the decision conditions, not merely a memory of a launch event. The Commission's ethical guidance for educators makes a related point in another setting: practical judgement about AI in teaching and learning cannot be reduced to a switch being turned on. Context, purpose and the people in the room remain relevant.

Language belongs here too. A system's displayed language is not the language of a society. A model may produce fluent text in a language while missing the administrative terms, regional forms, professional vocabulary, cultural references or legal meanings that make a real decision intelligible. A translation may be grammatically tidy and still change a responsibility, an obligation or a right. Multilingual use is not a decorative localisation pass at the end of an otherwise finished product.

For Europe, this is a practical institutional question. Public services, workplaces and schools operate in many languages, sometimes several within the same organisation. Documentation, error routes, training, support and challenge processes have to meet people where the work happens. If the policy is available in one language but the operating interface in another, the organisation has split the system in two. If a person can receive a decision in their language but cannot find the explanation or challenge route in that language, the remedy has become theoretical.

The solution is not to promise that every system understands every language equally. That would be a claim with very little evidence behind it. The solution is to state the coverage honestly, test the use that is actually intended, keep language limitations visible and make sure that a gap does not quietly become a disadvantage for the people least able to correct it. This is less glamorous than announcing multilingual AI. It is more respectful.

Safety begins with a claim that can be argued about

Safety is another word that becomes vague when it is asked to carry too much. An AI system is not safe because a supplier says it has guardrails. It is not safe because a benchmark contains a reassuring number. It is not safe because a person remains somewhere in the loop. Safety concerns a bounded claim: this system may be used for this purpose, in this setting, under these conditions, with these controls, evidence, residual risks and people who can act.

That is why safety cases are useful beyond the sectors in which they are commonly discussed. A safety case is not a badge. It is an argument that connects a claim to hazards, controls, assumptions, evidence and a decision. It has room for uncertainty. It can say that a condition is not yet met. It can say that a change requires reassessment. It can say that the right decision is to pause. A demo has no real way to say those things without spoiling its own mood.

Mākslīgā intelekta darbā svarīgais solis ir pierādījumu sasaistīšana ar faktisko lietojumu. Modeļa novērtējums organizācijai var pastāstīt par kādu spēju noteiktā metodē. Tas automātiski nenozīmē, ka modelis ir piemērots katrā darbplūsmā, katrai grupai, katrā valodā vai pēc katrām integrācijas izmaiņām. Iestādei ir jānes ķēde no modeļa līdz pakalpojumam un līdz vietējam lēmumam. Tieši šajā ķēdē daudzi citādi patiesi apgalvojumi kļūst pārspīlēti.

Pierādījumiem ir derīguma termiņš pat tad, ja pašam failam tāda nav. Mainās versija. Mainās izguves kolekcija. Jauna uzvednes veidne maina uzvedību, ko redz lietotājs. Darbinieks atklāj atteices veidu, kura nebija testa komplektā. Mainās likums, politika vai datu avots. Tās nav apkaunojošas nepilnības perfektā sistēmā. Tie ir parasti nosacījumi programmatūras darbībai pasaulē. Iestādes uzdevums ir izlemt, kuras izmaiņas prasa jaunu pārskatīšanu, kurš pieņem šo lēmumu un kā iepriekšējais ieraksts paliek pieejams salīdzināšanai.

Spēja apturēt ir daļa no tā paša argumenta. Apturēšanas nosacījums, kuru neviens nevar iedarbināt, ir dekoratīva klauzula. Apturēšanas poga bez atbildīgā ir neliels mūsdienu mākslas darbs. Uzticams izkārtojums nosauc iestādi, signālu, kas var izraisīt darbību, eskalācijas ceļu, drošo stāvokli un veidu, kā lēmums tiek ierakstīts. Detaļas atšķiras. Vajadzība pēc detaļām neatšķiras.

Tādēļ drošība nav nodaļa, kas ierodas beigās ar sarkanu pildspalvu. Tas ir veids, kā padarīt kopīgu lēmumu precīzāku, pirms sistēmu kļūst grūti mainīt. Tā uzdod jautājumu, no kura demonstrācijas izvairās, jo atbilde var būt neērta: kādi pierādījumi mūs pārliecinātu neturpināt? Iestāde, kas var atbildēt uz šo jautājumu, jau ir kļuvusi spējīgāka nekā tā, kas var tikai svinēt palaišanu.

Publiskā kapacitāte ir ķēde, nevis skatlogs

Eiropas publiskā kapacitāte mākslīgajā intelektā netiks mērīta tikai pēc modeļu, datu centru vai pētniecības paziņojumu skaita, ko tā var novietot kartē. Šīm lietām ir nozīme. Tās nav pašpietiekamas. Kapacitāte ir spēja laika gaitā izmantot tehniskos resursus publiskam mērķim ar pietiekamu kompetenci un pilnvarām, lai izvairītos no atkarības, kas maskējas kā progress.

Interoperabilitātes Eiropas akts piedāvā noderīgu pavedienu. Tā rūpe ir publiskā sektora sadarbspēja visā Savienībā un sadarbspējas risinājumu koplietošana un atkārtota izmantošana. Sadarbspēja dažkārt tiek uzskatīta par tehnisku izvēli: formāta jautājums cilvēkiem, kam patīk diagrammas ar bultiņām. Publiskajā darbā tā ir arī institucionāla īpašība. Tā nosaka, vai ieraksts var ceļot ar savu nozīmi, vai viena iestāde var saprast citas iestādes sistēmas robežas, vai piegādātāja aiziešana pārvēršas pārvaldāmā migrācijā vai skapī, kas pilns ar nesalasāmiem eksportiem.

Sadarbspēja nenozīmē, ka katrai sistēmai vajadzētu izskatīties vienādi vai ka viss publiskais darbs būtu jācentralizē. Tas nozīmē, ka robeža nedrīkst iznīcināt informāciju, kas nepieciešama atbildīgai turpināšanai. Organizācijai jāspēj identificēt objektu, tā īpašnieku, tā mērķi, tā versiju, tam pievienotos pierādījumus un lēmumus, kas to mainīja. Jaunam pakalpojumam jāspēj saņemt nepieciešamos ierakstus bez vecā piegādātāja atļaujas tos interpretēt. Tas nav dizaina izskaistinājums. Tas ir veids, kā publiska iestāde saglabā brīvību izlemt vēlāk.

Nīderlandes algoritmu reģistrs ir vēl viens mazs, bet noderīgs institucionāls objekts. Tas publicē informāciju par algoritmiem, ko izmanto valdības organizācijas, un koncentrējas uz ietekmīgiem algoritmiem, tostarp augsta riska mākslīgā intelekta sistēmām. Reģistrs nepierāda, ka katra uzskaitītā sistēma ir laba, taisnīga vai likumīga. Tā vērtība ir citur. Tas padara sistēmas esamību, deklarēto lietojumu un atbildīgo publisko iestādi vieglāk atrodamu. Tas rada virsmu, uz kuras var piezemēties jautājums.

Mums vajag vairāk šādu virsmu, ne vienmēr vairāk tīmekļa vietņu. Modeļa vai sistēmas ieraksts, publisks skaidrojums, kontrolēts tehniskais fails, incidenta ceļš, iepirkuma ieraksts, apmācības plāns un sadarbspējas specifikācija kalpo dažādiem lasītājiem. Tiem būtu jāsaskan par faktiem, kas šķērso to robežas. Publiskai lapai nav jāatklāj katrs sensitīvs sīkums. Taču tai nevajadzētu būt pretrunā ar iekšējiem pierādījumiem. Iepirkuma failam nav jābūt rokasgrāmatai sabiedrībai. Taču tam nevajadzētu ļaut organizācijai aizmirst nosacījumus, ko tā iegādājusies.

Briesmas ir sajaukt redzamību ar spēju. Pulēts portāls var slēpt neesošu darbības modeli. Valsts stratēģija var nosaukt prioritāti, nenodrošinot personālu, piekļuvi, uzturēšanu vai ceļu mazākām organizācijām. Inovāciju fonds var atbalstīt koncepcijas pierādījumu, neatbalstot darbu, kas vajadzīgs, lai uzturētu dzīvu noderīgu pakalpojumu. Atstarpe starp šīm lietām ir vieta, kur klusi beidzas daudzi saprātīgi projekti.

Publiskajai spējai ir mazāk fotogēniska forma. Tajā ietilpst kopīga kompetence, pieejama infrastruktūra, iepirkuma prasme, standartu darbs, vietējās valodas resursi, ilgtermiņa finansējums, neatkarīga uzraudzība un cilvēki, kas saprot pietiekami, lai uzdotu piegādātājam sarežģītu jautājumu. Tajā ietilpst spēja pateikt nē, apturēt, pielāgoties un aiziet. Kontinents, kas to spēj, ir vairāk nekā AI sektors. Tam ir tehnoloģiskās pašpārvaldes sākums.

Publiskā spēja ir cilpa: mērķim, pierādījumiem, pilnvarām, darbībai un mācībām pēc palaišanas jāpaliek savienotiem.

Darbs pēc aplausiem

Var palīdzēt iztēloties nedēļu pēc demonstrācijas, nevis pašu demonstrācijas brīdi. Ne īstu notikumu, ne maskētu gadījuma izpēti, vienkārši parasto darbu, kas seko daudzsološai idejai. Kādam jāpārvērš izteiktais mērķis tvērumā, ko var novērtēt. Kādam jāizlemj, kuri avota ieraksti ir piemēroti izmantošanai. Kādam jākartē, kā rezultāts nonāk darba plūsmā. Kādam jājautā, vai darbs mainās cilvēkiem, kas to jau veic. Kādam jāpārliecinās, ka atbalsta ceļš darbojas svarīgajās valodās. Kādam jāaprēķina integrācijas, uzraudzības un galīgās iziešanas izmaksas.

Šajā brīdī projekts var šķist lēnāks, jo tas ir ieguvis nosaukumus, nosacījumus un atkarības. Patiesībā tas ir kļuvis pārvaldāms. Demonstrācija ir ātra, jo tā ignorē darbu, kas vajadzīgs, lai sistēmu padarītu atbildīgu. Iestāde nav lēna tāpēc, ka izmanto kontrolsarakstu. Tā ir lēna, kad reālās atkarības atklāj pēc tam, kad jau ir apsolīts rezultāts.

Praktiskā disciplīna ir novietot neatrisinātos jautājumus tur, kur tie var ietekmēt lēmumu. Ja organizācija nezina, kā piegādātājs to informēs par būtiskām modeļa izmaiņām, pierakstiet to pirms līguma noslēgšanas. Ja tā nevar izskaidrot, kam ir atļauts atcelt ieteikumu, atrisiniet to, pirms saskarne kļūst ierasta. Ja neviens nepārvalda avota datus, nesauciet datus par gataviem. Ja organizācija nevar atbalstīt paredzētās valodas, sašauriniet paredzēto lietojumu, nevis ļaujiet plašam solījumam kļūt par klusu izslēgšanu.

Šī nav birokrātiska pārmērība. Tā ir proporcionalitāte. Iekšējam asistentam ar zemām sekām var pietikt ar ierobežotu kārtību: noteiktu lietojumu, skaidru datu robežu, personāla vadlīnijām, iespēju ziņot par problēmu un iziešanas ceļu. Sistēmai, kas ietekmē piekļuvi darbam, pakalpojumiem, izglītībai, kredītam, veselībai vai publiskajai varai, ir vajadzīga daudz stingrāka kārtība. Pareizā atbilde uz proporcionalitāti nav mazāk jautājumu. Tie ir jautājumi, kas pielāgoti kaitējumam, kādu var radīt kļūda.

Institucionāls darbs padara inovāciju arī vieglāk atkārtoti izmantojamu. Kad viena komanda dokumentē, kā tā izvērtēja darbplūsmu, cita komanda var mācīties no metodes, nevis atkārtot to pašu nenoteiktību. Kad iestāde publicē noderīgu sistēmas ierakstu, iedzīvotājiem un citām publiskām struktūrām ir sākumpunkts. Kad līgumā ir saglabātas eksporta tiesības un izmaiņu ieraksti, pārņēmējam nav jārekonstruē pagātne no ekrānuzņēmumiem un rēķiniem. Atkārtota izmantošana nav tikai par kodu. Tā ir par to, lai lēmumi ap kodu paliktu saprotami.

Šeit ir patīkama ironija. Organizācijas, kas visvairāk baidās, ka pārvaldība tās palēninās, bieži vien nes vislielāko slēpto pārstrādes slogu. Tās atkārtoti veic izvērtējumus, jo nosacījumi nekad netika fiksēti. Tās strīdas par atbildību, jo lomas nekad netika nosauktas. Tās pārrunā līgumu no jauna, jo iziešana bija pieņēmums, nevis noteikts nosacījums. Tās apmāca cilvēkus pēc ieviešanas, jo darbplūsma tika uzskatīta par pašsaprotamu. Iestādes izskatās kā lieka slodze tikai tad, kad to trūkums vēl nav redzams projekta plānā.

Ko iestādes patiesībā dara

Iestādes ir viegli attēlot kā grandiozas un attālinātas. Praksē tās veic ikdienišķas uzturēšanas darbības. Tās saglabā atšķirības, kuras tirgus saruna labprātāk izpludinātu. Tās nošķir mērķi no rezultāta, plānu no notikuma, modeli no pakalpojuma, pakalpojumu no publiska lēmuma, ierakstu no pierādījuma un sūdzību no risinājuma.

Tās sadala pilnvaras. Nevis simboliskas pilnvaras, bet pilnvaras apstiprināt paredzēto lietojumu, atteikt datu avotu, apturēt maršrutu, publicēt labojumu, pieņemt atlikušo risku un pateikt piegādātājam, ka atbilde nav pietiekama. Sistēma bez šādas sadales mēdz atklāt pilnvaras caur konfliktiem. Tas ir dārgs veids, kā to projektēt.

Tās saglabā atmiņu. Iepriekšēja lēmuma ieraksts varbūt nav glamūrīgs, bet tieši tas ļauj jaunam komandas loceklim saprast, kāpēc pastāv kāds ierobežojums. Vēsture ļauj organizācijai salīdzināt mainītu sistēmu ar apstākļiem, kādos tā tika apstiprināta. Tā aizsargā cilvēku, kurš apstrīd rezultātu, no situācijas, kurā viņam saka, ka attiecīgie pierādījumi ir izšķīduši iepriekšējā versijā. Aizmāršība reizēm ir ērta. Tā reti ir spēcīgs pārvaldības modelis.

Tās veido ceļus domstarpībām. Laba iestāde nepieņem, ka sūdzība ir pierādījums neveiksmei. Tā dod sūdzībai vietu, kur nonākt, pietiekami daudz informācijas, lai to izskatītu, un cilvēku, kurš var atbildēt, neizgudrojot jaunu procedūru spiediena apstākļos. Tas ir svarīgi darbiniekiem, iedzīvotājiem, klientiem, piegādātājiem un iekšējām komandām. Apstrīdēšanas ceļš nav piekāpšanās pesimismam. Tā ir daļa no tā, kā sistēma pamana savas robežas.

Tās investē kompetencē. Darbs nav tikai tehnisks. Tajā ietilpst cilvēki, kuri prot lasīt līgumu, izvērtēt datu robežu, saprast darbplūsmu, izskaidrot rezultātu vienkāršā valodā, uzturēt infrastruktūru, apmācīt kolēģus un atpazīt, kad pierādījumi ir pārāk vāji piedāvātajam lēmumam. Neviena organizācija nepieņem darbā visus šos cilvēkus katram mazam projektam. Taču nopietnas organizācijas zina, kā tos atrast, dalīties ar tiem vai uzrunāt tos, pirms lēmums ir nobriedis.

Visbeidzot, iestādes padara apņemšanās izdzīvot spējīgas. Uzņēmums var mainīt virzienu, ministrs var mainīt portfeli, modelis var mainīt versiju un budžets var kļūt mazāk iztēles bagāts. Sabiedriskais mērķis, ieraksts, pilnvaras un tiesiskās aizsardzības līdzeklis nedrīkst pazust līdz ar sākotnējo prezentācijas materiālu. Tāpēc ilgtspējīgām sistēmām ir vajadzīgas garlaicīgas lietas: atvērti saskarnes punkti, kur iespējams, skaidra īpašumtiesību struktūra, saglabāti ieraksti, reālistiski atbalsta noteikumi, noteikti pārskatīšanas punkti un funkcionējoša iziešanas kārtība. Garlaicīgās lietas nav inovācijas pretstats. Tās ir tas, kas ļauj inovāciju pārskatīt, nepārvēršot to par nojaukšanas operāciju.

Eiropas priekšrocība, ko vērts veidot

Eiropai nav jāuzvar arguments par to, vai iestādes ir aizraujošas. Lielākoties tās nav. Labi pārvaldīts reģistrs nav satriecošs. Sadarbspējas specifikācija nekad nav izraisījusi stadiona vilni. Iepirkuma klauzula par eksporta formātiem netiks uzdrukāta uz auduma maisiņa. Glamūra trūkums ir daļa no to vērtības. Tās turpina darboties, kad uzmanība pārvietojas citur.

Nav arī iemesla to pārvērst par stāstu par Eiropas morālo pārākumu. Katram reģionam ir iestādes, neveiksmes, tehniskie sasniegumi un aklo zonu. Eiropai ir iespēja, nevis pabeigta priekšrocība. Tās juridiskās tradīcijas, sabiedriskie pakalpojumi, daudzvalodu sabiedrības, pētniecības tīkli, rūpnieciskā bāze un pārrobežu vienošanās var atbalstīt atšķirīgu pieeju, ja tās ir savienotas ar faktisko darbības kapacitāti. Tās var arī palikt par apbrīnojamu dokumentu kopumu, ja cilvēkiem, kuriem jāveic darbs, netiek dots laiks, pilnvaras vai rīki.

Izvēle ir praktiska. Veidojiet iepirkumu, kas pērk pierādījumus un iziešanas ceļus, ne tikai spējas. Veidojiet infrastruktūru, kas ietver piekļuvi, atbalstu, energoapziņu un atbildīgu darbību. Veidojiet darba procesus, kas cilvēkiem sniedz informāciju un patiesu rīcības brīvību. Iebūvējiet lasītprasmi lomās un pārmaiņās, nevis vienā pēcpusdienā. Iebūvējiet valodas atbalstu pakalpojumā, ne tikai atvēršanas lapā. Veidojiet drošības argumentus, kurus var atkārtoti atvērt. Veidojiet publiskus ierakstus, kas ļauj sarežģītam jautājumam nonākt pie īstā īpašnieka.

Tad nākamo demonstrāciju var pienācīgi uzņemt. To var novērtēt par to, kas tā ir: pierādījums, ka tehniska spēja var būt vērta izpētei. Tai nav jānes neiespējamais slogs, lai pierādītu, ka apkārtējā sabiedrība ir gatava. Šis pierādījums, ja tas vispār ir iespējams, tiek lēnām veidots iestādēm, kas dara savu darbu.

Maza piezīme no mums

Uzņēmumā Dweve mēs pieejam tai pašai institucionālajai problēmai ar apzināti šauru publisku apgalvojumu. Mūsu Trust Centre ieraksti norāda, ka Dweve Loom 1.0 joprojām ir iekšējā pirmsizlaišanas testēšanā, un ārējā piekļuve ir slēgta. Publicētais izlaišanas vārtu nosacījums nosaka, ka ārēja ceļa atvēršana ir atkarīga no versijai atbilstošiem pierādījumiem, maršrutam specifiskām pārbaudēm, reģistrēta izlaišanas lēmuma un publisko ierakstu integritātes verifikācijas. Tas nav apgalvojums, ka ieraksts padara sistēmu drošu vai ka nākotnē notiks izlaišana. Tas ir apgalvojums par plāna nošķiršanu no notikuma un darbības lēmuma piesaisti pierādījumiem.

Tas ir standarts, ko vērts piemērot plašāk. Nelūdziet modelim būt par iestādi. Lūdziet iestādēm būt pietiekami labām, lai izlemtu, kur modelis pieder, ko tas drīkst darīt, kā to var apstrīdēt un kad tam jāapstājas.

Avoti