Den europæiske AI-debat har brug for færre demoer og flere institutioner

En overbevisende modeldemonstration kan vise en kapacitet. Den kan ikke afgøre, hvem der har autoritet, hvordan folk anfægter et resultat, hvor beviserne...

Den europæiske AI-debat har brug for færre demoer og flere institutioner

En demo er ikke en offentlig institution

En god demonstration har en særlig form for kraft. Den presser en mulighed sammen til få minutter. En formular udfyldes, et dokument opsummeres, et billede vises, et svært spørgsmål får et plausibelt svar. Alle i lokalet kan se, hvorfor nogen kunne ønske sig tingen. Det er nyttigt. Det er også det punkt, hvor en lang række sværere spørgsmål høfligt bliver skubbet til senere.

Senere er, hvor institutionen begynder. Hvem har ret til at beslutte, om systemet må bruges? Hvilket offentligt formål tjener det? Hvilke beviser er tilstrækkelige til det formål, og hvem kan sige, at de ikke er tilstrækkelige? Hvad sker der, når en version ændres, når en medarbejder bestrider en anbefaling, når en person beder om en forklaring, når en energibegrænsning lukker en rute, eller når leverandørens køreplan bliver en anden køreplan? En demonstration er ikke designet til at besvare de spørgsmål. Det er en offentlig institution.

Europa har brugt en god del tid på at diskutere AI som en konkurrence om kapaciteter. Den samtale er forståelig. Kapacitet er synlig. Den giver et pænt filmklip. Institutioner er for det meste synlige gennem det arbejde, de forhindrer i at blive mystisk: udbudsbetingelser, registrering, adgangskontrol, uddannelse, tilsyn, klagemuligheder, vedligeholdelsesbudgetter, sprogstøtte, tekniske standarder, en person, hvis navn er knyttet til en beslutning. Intet af dette giver en keynote dens sædvanlige glans. Det afgør dog, om et system forbliver ansvarligt, når lokalet er tømt.

Dette er ikke et argument for forsigtig teknologi eller for en offentlig sektor, der ikke køber noget, før den kan se fremtiden. Det er et argument for at afvise en kategorifejl. En model kan generere, klassificere, forudsige eller anbefale. Den kan ikke af sig selv skabe et legitimt mandat, fordele offentligt ansvar, lære en kollega at udfordre den, vedligeholde et nationalsprog, forhandle en netforbindelse eller bevare en klageadgang for en person, der er berørt af dens brug. De opgaver tilhører mennesker og organisationer, selv når software hjælper med arbejdet.

Den europæiske AI-samtale har brug for færre demonstrationer i den forstand, at den har brug for færre demonstrationer, der står i stedet for bevis på parathed. Den har brug for flere institutioner i den forstand, at den har brug for bedre steder at træffe beslutninger, bevare viden og korrigere kursen. Skiftet er ikke fra teknologi til bureaukrati. Det er fra et tyndt billede af teknologi til det faktiske arrangement, hvor teknologi har konsekvenser.

Pointen betyder noget langt ud over regeringen. Et hospital, en kommune, en skole, en producent, en kulturel institution og en lille virksomhed har ikke de samme forpligtelser eller risici. Men alle opdager til sidst, at modellen er én komponent i et større arrangement. Det større arrangement afgør, hvem der leverer input, hvem der læser output, hvem der accepterer den resterende risiko, hvem der kan stoppe systemet, og hvem der bliver tilbage, når softwarevirksomheden har sendt sit kvartalsvise nyhedsbrev.

Derfor er institutionernes sprog ikke en tilbagetrækning fra teknisk ambition. Det er kontinuitetens sprog. En offentlig tjeneste skal virke på en almindelig tirsdag, på sproget hos de mennesker, der bruger den, under et budget, som nogen kan inspicere, efter en personaleforandring, under en uenighed med leverandøren, og når den oprindelige entusiasme er blevet en vedligeholdelsessag. Ethvert seriøst AI-krav skal til sidst overleve den rejse.

Kapacitet er kun ét af spørgsmålene

En demonstration stiller normalt et snævert og rimeligt spørgsmål: kan systemet løse denne opgave under disse betingelser? En institution er nødt til at stille en større række spørgsmål på én gang. Er denne opgave egnet til automatisering eller assistance? Er det angivne formål lovligt og proportionalt? Kan de mennesker, der udfører arbejdet, stadig forstå og bestride resultatet? Er der en vej for en borger til at spørge, hvad der skete? Kan organisationen skifte udbyder uden at opgive sine registre? Afhænger systemet af begrænset regnekraft, en bestemt sproglig ressource eller en datastrøm, som ingen har budgetteret til at vedligeholde?

Disse spørgsmål gør ikke modellen dårligere. De gør beslutningen mere ærlig. De adskiller en funktion fra en tjeneste og en tjeneste fra en offentlig kapacitet. En funktion kan være imponerende, mens den omkringliggende ordning er skrøbelig. En tjeneste kan være nyttig, mens dens kontrakt gør det umuligt at inspicere en væsentlig ændring. En offentlig kapacitet skal forblive brugbar, styret og reparerbar over tid. Den skal bære mere end et output.

AI-forordningen omtales ofte, som om den var et enkelt svar på dette problem. Det er den ikke. Den er en betydelig juridisk ramme, og dens angivne formål forbinder det indre markeds funktion med menneskecentreret og pålidelig AI og et højt beskyttelsesniveau for sundhed, sikkerhed, grundlæggende rettigheder, demokrati, retsstatsprincippet og miljøbeskyttelse. Men forordningen selv fremhæver et vigtigt punkt om institutionel virkelighed: den fungerer side om side med eksisterende EU-ret om databeskyttelse, forbrugere, beskæftigelse, arbejdstagere og produktsikkerhed. Den juridiske ramme er ikke en erstatning for disse områder. Den møder dem.

Det bør forme den praktiske samtale. Et team kan ikke erklære et system socialt forsvarligt ved at pege på en AI-risikoklassificering og samtidig ignorere ansættelsesprocessen omkring det. En offentlig myndighed kan ikke erklære et system ansvarligt, fordi den har gennemført en teknisk vurdering, mens borgerne stadig ikke kan finde ejeren eller registret. En leverandør kan ikke få et portabilitetsproblem til at forsvinde ved at bruge ordet cloud. Spørgsmålet er altid, hvordan den nye komponent opfører sig inden for de forpligtelser, der allerede var der.

Der er en praktisk fristelse til at behandle dette som et argument for en større compliance-mappe. Det er det ikke. Flere sider kan gøre en organisation mindre i stand til at handle, hvis ingen ved, hvilken side der ændrer beslutningen. Institutioner bliver ikke kompetente ved at samle skabeloner. De bliver kompetente, når et defineret formål, en navngiven myndighed, brugbar dokumentation og en vej til korrektion kan mødes i samme stykke arbejde.

Det er en langt mere krævende standard end en demo. Det er også en mere fair en. En modeludbyder bør ikke skulle svare for enhver lokal politisk beslutning truffet af en implementør. En implementør bør ikke blive bedt om at reverse-engineere enhver upstream-teknisk beslutning. Hver part har brug for en grænse, en registrering af, hvad der krydser den, og en måde at identificere, hvornår grænsen har flyttet sig. Institutioner eksisterer delvist for at gøre disse grænser læselige.

Lov er et gulv, ikke hele bygningen

Europa beskrives ofte, som om det har valgt regler i stedet for teknologi. Beskrivelsen er for pæn til at være nyttig. Lov kan forbyde, kræve, fordele pligter og bevare retsmidler. Den kan definere et minimums offentligt gulv, som et system ikke bør falde under. Den kan ikke ansætte den reviewer, der forstår en lokal arbejdsgang, vedligeholde en datagrænseflade, skrive en fornuftig udbudsspecifikation eller få et udmattet team til pludselig at have tid til at lære en ny proces. Disse ting kræver kapacitet.

Forskellen er vigtig, fordi juridisk sprog kan skjule et fravær af operationel praksis. En politik kan sige, at der findes menneskeligt tilsyn. Den udtalelse er meningsløs, hvis mennesket ikke har myndighed til at standse ruten, ikke har tid til at gennemgå en sag, ikke har oplysninger om modelversionen, ikke har træning i opgaven og ingen vej til at eskalere en uenighed. Tilsynet eksisterer på papiret, lidt ligesom en brandudgang gemt bag et skab. Det vil være meget betryggende, indtil det er nødvendigt.

Det samme gælder gennemsigtighed. En oplysning kan være teknisk tilgængelig og praktisk ubrugelig. En person kan modtage en lang beskrivelse af et system uden at lære, hvem der ejer beslutningen, hvilken registrering der kan anfægtes, eller hvordan man opnår en løsning. Et offentligt register kan opføre en algoritme uden at sige, om den opførte version er aktuel, hvad systemet bruges til, eller hvem der har myndighed til at besvare et spørgsmål. Gennemsigtighed er ikke mængden af tekst. Det er evnen til at lokalisere en beslutning og dens ejer.

Europas juridiske arbejde er værdifuldt netop, fordi det gør nogle af disse spørgsmål sværere at afvise. Det giver et fælles sprog for udbydere, implementører, reguleringsmyndigheder og berørte personer. Det gør også hullerne mere synlige. Når en organisation ikke kan angive sit tilsigtede formål, identificere sin dataflyt, føre en registrering af en væsentlig ændring eller navngive den person, der kan standse en brug, er problemet ikke blot, at papirarbejdet er forsinket. Organisationen har endnu ikke bygget det, den hævder at drive.

Det er her, institutioner har en beskeden fordel i forhold til slogans. De husker, at en beslutning fandt sted. De bevarer betingelserne sammen med den. De fastholder forskellen mellem en plan og en begivenhed. De sætter et navn, en indbakke og nogle gange en let stædig formular ved siden af et løfte. Formularen er ikke præstationen. Præstationen er, at nogen kan holdes fast på svaret.

God lovgivning skaber plads til dette arbejde. Den bør ikke bruges som en erstatning for det. Det modne spørgsmål er ikke, om et system er kompatibelt i abstrakt forstand. Det er, om de ansvarlige mennesker kan demonstrere, hvordan dets specifikke brug opfylder de gældende forpligtelser, hvad de endnu ikke ved, og hvad de vil gøre, når beviserne ændrer sig. Det er et juridisk spørgsmål, et operationelt spørgsmål og et institutionelt spørgsmål på samme tid.

Indkøb er, hvor offentlig hensigt møder en leverandørkontrakt

Offentlige indkøb lyder proceduremæssige, fordi de er proceduremæssige. De er også et af de steder, hvor offentlig hensigt bliver reel. En offentlig myndighed køber værker, varer eller tjenesteydelser fra udvalgte virksomheder gennem en proces formet af regler, der har til formål at holde indkøb åbne og konkurrencedygtige. I en AI-sammenhæng er denne proces ikke blot det øjeblik, hvor et produkt vælges. Det er det øjeblik, hvor en myndighed kan beslutte, hvad leverandøren skal gøre inspicerbart, hvilke ændringer der kræver varsel, hvilke registreringer der forbliver tilgængelige, hvordan arbejdet kan overdrages, og hvad der sker, hvis systemet skal standses.

Et indkøb, der kun spørger til en models kapaciteter, har tendens til at købe en demonstration med en faktura vedhæftet. Et indkøb, der spørger til driftsbetingelserne, køber noget tættere på en tjenesteydelse. Det kan kræve et defineret tilsigtet formål, grænseflader, dokumentation, tilgængeligt bevis, rollebaserede tilladelser, kontaktpersoner for hændelser, opdateringsvarsler, eksportformater, supportgrænser, opbevaringsordninger, udtrædelsesbistand og en klar ansvarsfordeling. Det kan spørge, hvem der ejer en bestemt risiko, i stedet for at tillade hver part at antage, at den anden gør det.

Der findes ingen universel klausul, der afgør disse forhold. En lille organisation, der køber et snævert internt værktøj, skal ikke arve en kontrakt, der er udarbejdet til en national kritisk tjeneste. Lige så lidt skal en offentlig anvendelse med stor betydning underlægges den kontraktlige disciplin, der gælder for en gratis prøveperiode med en lidt længere formular. Kontrakten skal følge konsekvensen af beslutningen, den afhængighed, som tjenesten skaber, og organisationens evne til at drive den.

Illustrativt scenarie, ikke en beretning om et faktisk indkøb: forestil dig et offentligt organ, der overvejer et system, som hjælper medarbejdere med at organisere indkommende sagsmateriale. Demonstrationen viser resuméer, udtrukne felter og en foreslået kø. Det ansvarlige spørgsmål er ikke, om køen ser pæn ud. Det er, om medarbejderne kan se kildematerialet, om reglerne for prioritering er dokumenteret, om en sag kan rettes uden at skabe en skjult anden arbejdsgang, om en systemopdatering ændrer resultatet, om registreringerne kan eksporteres, og hvem der svarer, når en person bestrider, hvordan deres materiale er blevet behandlet. Intet af disse spørgsmål kræver en teatralsk frygt for AI. De kræver en voksen kontrakt.

Indkøb kan også beskytte organisationen mod dens egen optimisme. Hvis en leverandør siger, at en ny funktion kommer senere, kan myndigheden registrere det som en plan frem for at købe det som en eksisterende kapacitet. Hvis en leverandør lover en menneskelig gennemgangsproces, kan kontrakten beskrive den faktiske rolle, reaktionsbetingelse og dokumentation frem for at acceptere en formulering, der lyder betryggende. Hvis en tjeneste afhænger af et bestemt dataformat, kan myndigheden kræve kortlægningen og eksporten, før systemet bliver svært at forlade. Optimisme har en plads i innovation. Den skal ikke have lov til at underskrive kontrakter uden følgeskab.

Det betyder ikke, at ethvert indkøbsteam skal blive et modellaboratorium. Det betyder, at teams har brug for adgang til den rette kompetence. Juridisk, teknisk, operationel, økonomisk og brugerorienteret viden skal mødes, før de irreversible valg træffes. Det er en af grundene til, at institutioner betyder noget. De skaber en måde, hvorpå forskellige former for viden kan være til stede uden at lade, som om én person kan bære dem alle.

Det bedste indkøbsspørgsmål er ofte forbløffende enkelt: hvad vil denne ordning kræve af os efter lanceringen? Svaret kan omfatte medarbejdertid, registreringer, overvågning, energi, sprogkompetence, integrationsarbejde, gennemgangsprocesser og en exitplan. Hvis intet af dette optræder i svaret, har indkøbet ikke fået byrden til at forsvinde. Det har blot udeladt den af budgettet.

Infrastruktur har en offentlig adresse

Det er fristende at tale om compute, som om det var vejr. En arbejdsbyrde har brug for kapacitet, kapaciteten er et andet sted, og det vigtige er, om siden i sidste ende indlæses. Men compute har en placering, en forsyningskæde, en netværkssti, et energibehov, en vedligeholdelsesordning og en juridisk kontekst. Infrastruktur er derfor en del af institutionel kapacitet, ikke en kulisse for den.

Europa-Kommissionens arbejde med digitalisering af energisystemet gør dette svært at ignorere. Det adresserer netoptimering, effektivitet, fleksibilitet og bæredygtig integration af datacentre. Det vigtige ord er integration. Et datacenter er ikke blot en privat kasse med maskiner, der tilfældigvis forbruger elektricitet. Det indgår i et fælles energisystem med lokale begrænsninger, offentlig planlægning og andre krav på nettet. En seriøs AI-strategi skal se hele arrangementet frem for at behandle elektricitet som en fodnote under en compute-graf.

Det giver ikke en simpel regel om, at al behandling skal være lokal, central, national eller europæisk. Hvert valg har betingelser. En lokal installation kan reducere nogle overførsler og lægge kontrollen tæt på organisationen, men øger samtidig vedligeholdelsesbyrden. En fælles europæisk facilitet kan udbrede adgangen til dyr kapacitet, men kræver klare adgangsregler og en realistisk vej fra eksperiment til drift. En kommerciel hosted-tjeneste kan være en nyttig vej for noget arbejde, men rejser spørgsmål om jurisdiktion, afhængighed, registrering og ændringsstyring. Geografi er en designbeslutning med konsekvenser, ikke et moralsk klistermærke.

EuroHPC's AI Factories er interessante i denne sammenhæng, fordi deres offentlige beskrivelse er bredere end et rum fyldt med acceleratorer. Tjenesterne omfatter computing og lagring, adgang til data og software, support, uddannelse, onboarding og sektorfokuseret samarbejde. Den kombination betyder noget. En maskine uden en tilgængelig vej, mennesker der kan hjælpe, og en begrundet forbindelse til et fagområde er ikke offentlig kapacitet. Det er dyr indretning med en imponerende blæserstøj.

Offentlig infrastruktur har også brug for en institutionel hukommelse. Hvem må bruge ressourcen? Under hvilke betingelser? Hvilket arbejde prioriteres, når kapaciteten er knap? Hvilke data må bringes ind? Hvilke resultater kan forlade systemet? Hvad sker der, når et projekt slutter? Hvordan hjælpes mindre organisationer til at bruge ressourcen uden at skulle møde op med et dedikeret forskningskontor og en ekstra uge? Hardwareindkøb besvarer ikke de spørgsmål. Drift gør.

Der er en suverænitetslektion her, der ofte reduceres til et kort. En tjeneste kan være fysisk tæt på og stadig være svær at styre. Et system kan være hostet på europæisk jord, mens afgørende kontroller, opdateringsautoritet, grænseflader eller kommerciel indflydelse forbliver andre steder. Omvendt kan et grænseoverskridende europæisk arrangement understøtte meningsfuld offentlig kapacitet, når grænser, adgangsrettigheder, ansvarsområder og udtrædelsesveje er gjort eksplicitte. Det relevante spørgsmål er ikke blot, hvor et rack står. Det er, hvem der kan beslutte, inspicere, vedligeholde og forlade.

Institutioner er nødvendige for at holde de spørgsmål sammen. Energiplanlæggere kan ikke udlede en AI-arbejdsbyrde fra en marketingside. Indkøbsansvarlige kan ikke forhandle et datacenterforhold ud fra en modelbenchmark. Et forskerteam kan ikke forvandle adgang til en maskine til varig kapacitet uden support, datapraksis og en vej til at bruge resultatet. Tråden, der forbinder disse forhold, er ikke en bestemt model. Det er den offentlige evne til at træffe en afgrænset beslutning og bevare muligheden for at genbesøge den.

Kapacitet sidder ikke i centrum af sig selv. Vælg et felt for at se det offentlige arbejde, det skal bære.

Arbejdskraft er ikke en implementeringsdetalje

Ethvert AI-system ændrer arbejde et sted. Nogle gange er ændringen tydelig, fordi en opgave overdrages til software. Oftere er den mere stille. En medarbejder tjekker et forslag i stedet for at lave et første udkast. En leder ser en score før en samtale. En telefonagent modtager et resumé, der rammesætter det næste spørgsmål. En sagsbehandler bruger mindre tid på at finde et dokument og mere tid på at forklare en undtagelse. Opgaven er ændret, selvom jobtitlen ikke er.

Derfor kan arbejdet ikke lægges til sidst i en implementeringsplan under overskriften forandringsledelse. Arbejde er ikke en overflade, der skal forvaltes, efter at den tekniske beslutning er truffet. Det er her, systemet får sin praktiske betydning. Arbejderne ved, hvilke registreringer der er ufuldstændige, hvilke undtagelser der er almindelige, hvor en fornuftig regel bliver absurd, og hvad en tilsyneladende effektiv proces kræver, at et menneske absorberer. At fjerne dem fra design-dialogen er en pålidelig måde at gøre en arbejdsgang mindre forståelig på.

EU-OSHA's oversigt over AI-baseret styring af arbejdstagere peger både på muligheder og på risici for arbejdsmiljø og sikkerhed. Den formulering er nyttig, fordi den afviser to nemme fortællinger. Den første siger, at ethvert AI-værktøj er en leder i forklædning. Den anden siger, at teknologien er neutral, indtil en bestemt aktør med onde hensigter misbruger den. I praksis kan udformningen af overvågning, mål, anbefalinger, advarsler og allokering forme arbejdets kvalitet, før nogen har sagt et dramatisk ord om erstatning.

En human institutionel reaktion er ikke at insistere på, at hver medarbejder bliver AI-specialist. Det er at gøre forholdet mellem værktøjet og arbejdet diskutabelt. Hvad må systemet anbefale? Hvad må det ikke beslutte? Hvilke signaler indgår i en præstationssamtale? Kan en arbejdstager inspicere og korrigere den registrering, der bruges om vedkommende? Hvad sker der, når systemets output er i konflikt med professionel dømmekraft? Er der tid til at lære værktøjet at kende, og tæller den tid som arbejde snarere end som en privat hobby, der dyrkes, efter at børnene er lagt i seng?

Spørgsmålet om autoritet er særligt vigtigt. En arbejdstager, der nominelt er fri til at tilsidesætte et output, men som vurderes ud fra et dashboard, der belønner enighed, har ikke fået reel handlefrihed. En leder, der modtager en score uden at kende dens grundlag, har ikke fået reelt ansvar. En fagforeningsrepræsentant, der først ser systemet efter indkøbet, kan ikke tilføje den viden, der kunne have forhindret en undgåelig konflikt. Institutioner skaber plads til disse fakta, før et regneark gør dem til overraskelser.

Der findes ikke ét europæisk arbejdsmarked. Brancheaftaler, national arbejdsret, organisationskultur og opgavens karakter har alle betydning. Men det institutionelle princip kan overføres: behandl ikke mennesker som fejlhåndteringslaget for et system, de ikke fik lov til at forstå. Hvis menneskelig dømmekraft er en del af sikkerhedsargumentet, skal organisationen give den dømmekraft information, autoritet og en vej til at blive hørt.

Uddannelse er en praksis, og sprog er en del af praksissen

AI-kompetence er blevet et populært svar på institutionel svaghed. Send folk på et kursus, udsted et certifikat, læg en munter slide på intranettet, og kald sagen for håndteret. Det er et bedre svar end ingen læring overhovedet. Det er ikke nok.

Kommissionens vejledning om AI-kompetence placerer forpligtelsen et mere jordnært sted. Udbyderne og implementørerne bør træffe foranstaltninger for at sikre et tilstrækkeligt kompetenceniveau blandt medarbejdere og andre personer, der på deres vegne arbejder med AI-systemer. De relevante faktorer omfatter teknisk viden, erfaring, uddannelse og træning samt den kontekst, som systemet anvendes i. Dette er ikke et krav om en universel quiz om maskinlæring. Det er en invitation til at matche viden med ansvar.

En indkøbsansvarlig skal kunne genkende et krav, der ikke kan vurderes ud fra en brochure. En medarbejder i frontlinjen skal vide, hvornår et output skal kontrolleres mod kildematerialet. En leder skal forstå, hvad en samlet score ikke kan fortælle om en enkeltsag. Et bestyrelsesmedlem skal kunne spørge, hvem der har beføjelse til at stoppe et system. En udvikler har brug for en dybere forståelse af data, grænseflader, evaluering og fejl. At kalde alt dette for literacy er måske lidt rodet. Virkelige institutioner har lov til at være rodede, når alternativet er at lade som om, at ét kursus gør alle roller lige parate.

Uddannelse har også et tidsmæssigt problem. En person kan forstå et værktøj i marts og i oktober stå over for en væsentligt anderledes grænseflade, model eller arbejdsgang. Et brugbart læringsprogram følger derfor de ændringer, der betyder noget. Det giver folk en måde at genbesøge beslutningsbetingelserne på, ikke blot en erindring om en lancering. Kommissionens etiske vejledning til undervisere fremsætter et beslægtet punkt i en anden sammenhæng: Praktisk dømmekraft om AI i undervisning og læring kan ikke reduceres til, at en kontakt tændes. Kontekst, formål og de mennesker, der er til stede, forbliver relevante.

Sprog hører også til her. Et systems viste sprog er ikke samfundets sprog. En model kan producere flydende tekst på et sprog, mens den mangler de administrative termer, regionale former, faglige vokabular, kulturelle referencer eller juridiske betydninger, der gør en reel beslutning forståelig. En oversættelse kan være grammatisk pæn og stadig ændre et ansvar, en forpligtelse eller en rettighed. Flersproget brug er ikke en dekorativ lokalisering i slutningen af et ellers færdigt produkt.

For Europa er dette et praktisk institutionelt spørgsmål. Offentlige tjenester, arbejdspladser og skoler opererer på mange sprog, nogle gange flere inden for samme organisation. Dokumentation, fejlforløb, træning, support og klageprocesser skal møde folk, hvor arbejdet foregår. Hvis politikken er tilgængelig på ét sprog, men brugergrænsefladen på et andet, har organisationen delt systemet i to. Hvis en person kan modtage en afgørelse på sit sprog, men ikke kan finde forklaringen eller klagemuligheden på det sprog, er retsmidlet blevet teoretisk.

Løsningen er ikke at love, at ethvert system forstår alle sprog lige godt. Det ville være en påstand med meget lidt evidens bag sig. Løsningen er at oplyse dækningen ærligt, teste den brug, der faktisk er tilsigtet, holde sprogbegrænsninger synlige og sikre, at et hul ikke stille og roligt bliver en ulempe for de mennesker, der mindst er i stand til at rette det. Dette er mindre glamourøst end at annoncere flersproget AI. Det er mere respektfuldt.

Sikkerhed begynder med et krav, der kan diskuteres

Sikkerhed er endnu et ord, der bliver vagt, når det skal bære for meget. Et AI-system er ikke sikkert, fordi en leverandør siger, at det har sikkerhedsforanstaltninger. Det er ikke sikkert, fordi en benchmark indeholder et betryggende tal. Det er ikke sikkert, fordi en person forbliver et sted i processen. Sikkerhed vedrører et afgrænset krav: Dette system må bruges til dette formål, i denne sammenhæng, under disse betingelser, med disse kontroller, evidens, resterende risici og mennesker, der kan handle.

Derfor er sikkerhedsargumenter nyttige ud over de sektorer, hvor de almindeligvis diskuteres. Et sikkerhedsargument er ikke et mærke. Det er et argument, der forbinder et krav med farer, kontroller, antagelser, evidens og en beslutning. Det har plads til usikkerhed. Det kan sige, at en betingelse endnu ikke er opfyldt. Det kan sige, at en ændring kræver en ny vurdering. Det kan sige, at den rigtige beslutning er at pause. En demo har ingen reel måde at sige disse ting på uden at ødelægge sin egen stemning.

I AI-arbejde er det vigtigste skridt at forbinde evidensen med den faktiske anvendelse. En model-evaluering kan fortælle en organisation noget om en kapacitet under en angivet metode. Den fastslår ikke automatisk, at modellen er egnet i enhver arbejdsgang, for enhver gruppe, på ethvert sprog eller efter enhver integrationsændring. En institution skal bære kæden fra model til tjeneste til lokal beslutning. Det er i kæden, at mange ellers oprigtige påstande bliver for store.

Evidens har en udløbsdato, selv når selve filen ikke har det. En version ændrer sig. En retrieval-samling ændrer sig. En ny prompt-skabelon ændrer den adfærd, en bruger ser. En medarbejder opdager en fejltilstand, der ikke var i testsættet. En lov, en politik eller en datakilde ændrer sig. Det er ikke pinlige afbrydelser af et perfekt system. Det er almindelige vilkår for at drive software i verden. Den institutionelle opgave er at beslutte, hvilke ændringer der kræver en ny gennemgang, hvem der træffer den beslutning, og hvordan den tidligere registrering forbliver tilgængelig til sammenligning.

Evnen til at stoppe er en del af samme argument. En stopbetingelse, som ingen kan aktivere, er en dekorativ klausul. En stopknap uden en ejer er et lille stykke moderne kunst. En troværdig ordning navngiver myndigheden, signalet der kan udløse handling, vejen for eskalering, den sikre tilstand og måden beslutningen registreres på. Detaljerne varierer. Behovet for detaljer gør ikke.

Sikkerhed er derfor ikke den afdeling, der ankommer til sidst med en rød pen. Det er en måde at gøre en fælles beslutning mere præcis, før systemet bliver svært at ændre. Den stiller det spørgsmål, som demonstrationer undgår, fordi svaret kan være ubelejligt: hvilken evidens ville overbevise os om ikke at fortsætte? En institution, der kan svare på det spørgsmål, er allerede blevet mere kapabel end en, der kun kan fejre en lancering.

Offentlig kapacitet er en kæde, ikke et udstillingslokale

Europas offentlige kapacitet for AI vil ikke kun blive målt på antallet af modeller, datacentre eller forskningsmeddelelser, det kan placere på et kort. De ting betyder noget. De er ikke selvopretholdende. Kapacitet er evnen til at bruge tekniske ressourcer til et offentligt formål over tid, med tilstrækkelig kompetence og autoritet til at undgå afhængighed, der maskerer sig som fremskridt.

Interoperable Europe Act giver et nyttigt fingerpeg. Dets bekymring er interoperabilitet i den offentlige sektor på tværs af Unionen og deling og genbrug af interoperabilitetsløsninger. Interoperabilitet behandles nogle gange som en teknisk præference: et formatspørgsmål for folk, der nyder diagrammer med pile. I offentligt arbejde er det også en institutionel egenskab. Det afgør, om en registrering kan rejse med sin betydning, om en myndighed kan forstå grænserne for en anden myndigheds system, om en leverandørudtræden bliver til en håndterbar migration eller et skab fuld af ulæselige eksporter.

Interoperabilitet betyder ikke, at hvert system skal se ens ud, eller at alt offentligt arbejde skal centraliseres. Det betyder, at en grænse ikke skal ødelægge den information, der er nødvendig for at fortsætte ansvarligt. En organisation skal kunne identificere objektet, dets ejer, dets formål, dets version, den evidens, der er knyttet til det, og de beslutninger, der ændrede det. En ny tjeneste skal kunne modtage de nødvendige registreringer uden at kræve den gamle leverandørs tilladelse til at fortolke dem. Det er ikke en designudsmykning. Det er sådan en offentlig institution forbliver fri til at beslutte senere.

Det hollandske algoritmeregister er et andet lille, men nyttigt institutionelt objekt. Det offentliggør information om algoritmer, der bruges af offentlige organisationer, og fokuserer på algoritmer med stor betydning, herunder højrisiko-AI-systemer. Et register beviser ikke, at hvert opført system er godt, fair eller lovligt. Dets værdi ligger andetsteds. Det gør eksistensen af et system, en erklæret anvendelse og et ansvarligt offentligt organ lettere at finde. Det skaber en overflade, som et spørgsmål kan lande på.

Vi har brug for flere af de overflader, ikke nødvendigvis flere hjemmesider. En model- eller systemregistrering, en offentlig forklaring, en kontrolleret teknisk fil, en hændelsesrute, en indkøbsregistrering, en uddannelsesplan og en interoperabilitetsspecifikation betjener alle forskellige læsere. De bør være enige om de fakta, der krydser mellem dem. En offentlig side behøver ikke at udstille alle følsomme detaljer. Men den bør ikke modsige de interne beviser. En indkøbsfil behøver ikke at være en manual for offentligheden. Men den bør ikke tillade organisationen at glemme de betingelser, den har købt.

Faren er at forveksle synlighed med kapacitet. En poleret portal kan skjule en fraværende driftsmodel. En national strategi kan nævne en prioritet uden at levere personale, adgang, vedligeholdelse eller en rute for mindre organisationer. En innovationsfond kan støtte et proof of concept uden at støtte det arbejde, der kræves for at holde en nyttig tjeneste i live. Kløften mellem disse ting er, hvor mange fornuftige projekter stille og roligt ender.

Offentlig kapacitet har en mindre fotogen form. Den omfatter delt ekspertise, tilgængelig infrastruktur, indkøbskompetence, standardiseringsarbejde, lokale sprogressourcer, langsigtet finansiering, uafhængig granskning og mennesker, der forstår nok til at stille en leverandør et vanskeligt spørgsmål. Den omfatter evnen til at sige nej, til at pause, til at tilpasse og til at forlade. Et kontinent, der kan gøre disse ting, har mere end en AI-sektor. Det har begyndelsen til teknologisk selvstyre.

Offentlig kapacitet er en loop: formål, beviser, autoritet, drift og læring skal forblive forbundet efter en lancering.

Arbejdet efter applausen

Det kan hjælpe at forestille sig ugen efter en demonstration snarere end øjeblikket for en. Ikke en reel begivenhed, ikke en forklædt case study, blot det almindelige arbejde, der følger en lovende idé. Nogen skal omsætte det erklærede formål til et omfang, der kan vurderes. Nogen skal beslutte, hvilke kilderegistreringer der er passende at bruge. Nogen skal kortlægge, hvordan et output indgår i en arbejdsgang. Nogen skal spørge, om arbejdet ændrer sig for de mennesker, der allerede udfører det. Nogen skal sikre, at supportruten fungerer på de sprog, der betyder noget. Nogen skal prissætte integrationen, overvågningen og den eventuelle udfasning.

På dette tidspunkt kan projektet føles langsommere, fordi det har fået navne, betingelser og afhængigheder. Faktisk er det blevet muligt at styre. En demonstration er hurtig, fordi den ignorerer arbejdet med at gøre et system ansvarligt. En institution er ikke langsom, fordi den bruger en tjekliste. Den er langsom, når den opdager de reelle afhængigheder, efter den allerede har lovet et resultat.

Den praktiske disciplin er at placere de uafklarede spørgsmål, hvor de kan ændre beslutningen. Hvis organisationen ikke ved, hvordan en leverandør vil underrette den om en væsentlig modelændring, skal det registreres, før kontrakten er afsluttet. Hvis den ikke kan forklare, hvem der kan tilsidesætte en anbefaling, skal det løses, før grænsefladen bliver vanemæssig. Hvis ingen ejer kildedataene, skal dataene ikke kaldes klar. Hvis organisationen ikke kan understøtte de tilsigtede sprog, skal den tilsigtede anvendelse indsnævres i stedet for at lade et bredt løfte blive til en stille udelukkelse.

Dette er ikke bureaukratisk maksimalisme. Det er proportionalitet. En intern assistent med lave konsekvenser kan have brug for en begrænset ordning: en angivet anvendelse, en klar datagrænse, vejledning til personalet, en måde at rapportere et problem på og en udgangsvej. Et system, der former adgangen til arbejde, tjenester, uddannelse, kredit, sundhed eller offentlig magt, har brug for en langt stærkere ordning. Det rigtige svar på proportionalitet er ikke færre spørgsmål. Det er spørgsmål, der er tilpasset den skade, en fejl kan skabe.

Institutionelt arbejde gør også innovation mere genanvendelig. Når ét team dokumenterer, hvordan det evaluerede en arbejdsgang, kan et andet team lære af metoden i stedet for at gentage den samme usikkerhed. Når en myndighed offentliggør en nyttig systemregistrering, har borgere og andre offentlige organer et udgangspunkt. Når en kontrakt bevarer eksportrettigheder og ændringsregistreringer, er en efterfølger ikke tvunget til at rekonstruere fortiden ud fra skærmbilleder og fakturaer. Genanvendelse handler ikke kun om kode. Det handler om at holde beslutningerne omkring koden forståelige.

Der er en behagelig ironi her. De organisationer, der er mest bekymrede for, at styring vil bremse dem, bærer ofte på den mest skjulte dobbeltarbejde. De kører evalueringer igen, fordi betingelserne aldrig blev registreret. De debatterer ansvar, fordi roller aldrig blev navngivet. De genforhandler en kontrakt, fordi udgang blev antaget snarere end specificeret. De træner folk efter implementering, fordi arbejdsgangen blev behandlet som selvindlysende. Institutioner ligner overhead kun, når deres fravær endnu ikke er synligt på en projektplan.

Hvad institutioner faktisk gør

Det er let at få institutioner til at lyde storslåede og fjerne. I praksis udfører de almindelige vedligeholdelseshandlinger. De bevarer skel, som en markedsdialog foretrækker at udviske. De adskiller et mål fra et resultat, en plan fra en begivenhed, en model fra en tjeneste, en tjeneste fra en offentlig beslutning, en registrering fra bevis og en klage fra en afhjælpning.

De fordeler autoritet. Ikke symbolsk autoritet, men autoriteten til at godkende en tilsigtet anvendelse, afvise en datakilde, sætte en rute på pause, offentliggøre en korrektion, acceptere en resterende risiko og fortælle en leverandør, at svaret ikke er tilstrækkeligt. Et system uden denne fordeling har en tendens til at opdage autoritet gennem konflikt. Det er en dyr måde at designe det på.

De bevarer hukommelse. Registreringen af en tidligere beslutning er måske ikke glamourøs, men det er det, der gør det muligt for et nyt teammedlem at forstå, hvorfor en begrænsning findes. Historie lader en organisation sammenligne et ændret system med de betingelser, hvorunder det blev godkendt. Det beskytter en person, der udfordrer et resultat, mod at få at vide, at de relevante beviser er opløst i en tidligere version. Glemsomhed er lejlighedsvis bekvemt. Det er sjældent en stærk styringsmodel.

De skaber ruter for uenighed. En god institution antager ikke, at en klage er bevis på fiasko. Den giver en klage et sted at gå hen, nok information til at blive undersøgt og en person, der kan svare uden at opfinde en ny procedure under pres. Dette betyder noget for medarbejdere, borgere, kunder, leverandører og interne teams. En udfordringsrute er ikke en indrømmelse til pessimisme. Det er en del af, hvordan et system bemærker sine egne grænser.

De investerer i kompetence. Arbejdet er ikke kun teknisk. Det inkluderer mennesker, der kan læse en kontrakt, vurdere en datagrænse, forstå en arbejdsgang, forklare et resultat i klart sprog, drive infrastruktur, træne kolleger og genkende, når beviser er for svage til den beslutning, der foreslås. Ingen organisation ansætter alle disse mennesker til hvert lille projekt. Men seriøse organisationer ved, hvordan man finder dem, deler dem eller spørger dem, før beslutningen hærder.

Endelig gør institutioner forpligtelser holdbare. En virksomhed kan skifte retning, en minister kan skifte ressort, en model kan skifte version, og et budget kan blive mindre fantasifuldt. Det offentlige formål, registret, autoriteten og afhjælpningen bør ikke forsvinde sammen med den oprindelige præsentationspræsentation. Derfor har holdbare systemer brug for kedelige ting: åbne grænseflader, hvor det er muligt, klar ejerskab, bevarede registre, realistiske supportvilkår, navngivne evalueringspunkter og en funktionsdygtig udgang. De kedelige ting er ikke det modsatte af innovation. De er det, der gør det muligt at revidere innovation uden, at det bliver en nedrivningsoperation.

En europæisk fordel værd at opbygge

Europa behøver ikke at vinde en argumentation om, hvorvidt institutioner er spændende. Det er de ikke de fleste dage. Et velfungerende register er ikke oprivende. En interoperabilitetsspecifikation har aldrig fået en stadionbølge. En udbudsklausul om eksportformater vil ikke blive trykt på en stofpose. Manglen på glamour er en del af deres værdi. De fortsætter med at fungere, når opmærksomheden flytter sig hen andetsteds.

Der er heller ingen grund til at gøre dette til en fortælling om europæisk moralsk overlegenhed. Enhver region har institutioner, fejl, tekniske resultater og blinde vinkler. Europa har en mulighed, ikke en fuldendt fordel. Dets retstraditioner, offentlige tjenester, flersprogede samfund, forskningsnetværk, industrielle base og grænseoverskridende arrangementer kan understøtte en distinkt tilgang, hvis de forbindes med faktisk operationel kapacitet. De kan også forblive en samling beundringsværdige dokumenter, hvis de mennesker, der skal udføre arbejdet, efterlades uden tid, autoritet eller værktøjer.

Valget er praktisk. Opbyg udbud, der køber dokumentation og udveje, ikke kun kapacitet. Opbyg infrastruktur, der inkluderer adgang, support, energihensyn og ansvarlig drift. Opbyg arbejdspladsprocesser, der giver mennesker information og ægte skøn. Opbyg digital dannelse ind i roller og forandringer frem for en enkelt eftermiddag. Opbyg sprogstøtte ind i tjenesten, ikke kun på lanceringssiden. Opbyg sikkerhedsargumenter, der kan genåbnes. Opbyg offentlige registre, der gør det muligt for et vanskeligt spørgsmål at nå frem til den rette ejer.

Så kan den næste demonstration modtages ordentligt. Den kan nydes for, hvad den er: dokumentation for, at en teknisk kapacitet kan være værd at undersøge. Den behøver ikke at bære den umulige byrde med at bevise, at det omkringliggende samfund er klar. Det bevis, hvor det overhovedet er muligt, skabes langsomt af institutioner, der udfører deres arbejde.

En lille note fra os

Hos Dweve nærmer vi os det samme institutionelle problem med et bevidst snævert offentligt krav. Vores Trust Centre registrerer, at Dweve Loom 1.0 fortsat er i intern pre-release-testning med ekstern adgang lukket. Den offentliggjorte release-gate siger, at åbning af en ekstern rute afhænger af versionsmatchet dokumentation, rutespecifikke godkendelser, en registreret releasebeslutning og integritetsverifikation af de offentlige registre. Det er ikke et krav om, at et register gør et system sikkert, eller at en fremtidig release vil ske. Det er et krav om at holde en plan adskilt fra en begivenhed og en operationel beslutning knyttet til dokumentation.

Det er den standard, der er værd at anvende mere bredt. Bed ikke en model om at være en institution. Bed institutioner om at være gode nok til at beslutte, hvor en model hører til, hvad den må gøre, hvordan den kan udfordres, og hvornår den skal stoppe.

Kilder