Når en chatbot bliver en kollega

En chatbot kan være et nyttigt værktøj uden at blive en leder i en venlig grænseflade. Grænsen overskrides, når et samtalesystem begynder at forme...

Når en chatbot bliver en kollega

En kollega er mere end en stemme i rummet

Der findes en bestemt slags sætning, der får en forandring til at lyde mindre, end den er: »Vi giver alle en chatbot.« Den kommer med det velkendte inventar fra en softwareudrulning. Der vil være en licens, en kort demonstration, måske en side med forslag til prompts og nogens lidt for muntre påmindelse om at bruge den ansvarligt. Værktøjet ser ud til at ligge ved siden af arbejdet. Det kan skrive udkast, søge, opsummere, oversætte, forklare en politik eller gøre en rå note til noget, der ser ud, som om det var skrevet efter en hel nats søvn. Det er almindelige og til tider nyttige funktioner. Men sætningen holder op med at være uskyldig, når chatbotten begynder at forme, hvem der får arbejde, hvad der tæller som et godt svar, hvilken fremstilling af en begivenhed der accepteres, eller hvordan en person vurderes for at være uenig med den.

På det tidspunkt er spørgsmålet ikke længere, om grænsefladen er samtalebaseret. Det er, om systemet er blevet en kollega på arbejdspladsen i den mere betydningsfulde forstand: en deltager i arbejdsdelingen, en autoritetskilde, et vidne, hvis fremstilling tillægges vægt, en stille indflydelse på de vilkår, hvorunder nogen bliver betroet noget. En kollega kan anbefale, udfordre, forklare og til tider gøre dagen lettere. En kollega hører også til i en ansvarsstruktur. Man kan spørge dem hvorfor. Man kan rette dem. Deres rolle kan beskrives. Et system, der taler med en kollegas lethed, men styres med et værktøjs vaghed, er en sværere størrelse.

Europa har en nyttig intuition her. Det kræver ikke, at vi lader, som om ethvert automatiseret værktøj er en leder, eller at enhver medarbejder skal blive specialist i modelarkitektur, før de åbner et chatvindue. Det stiller mere praktiske spørgsmål om arbejdsvilkårene. Hvem bliver berørt? Hvilke data bliver brugt? Hvad er formålet? Hvad sker der, når et forslag er forkert? Hvem kan gribe ind? Hvilke informations- og høringsrettigheder gælder? Hvilke beslutninger forbliver menneskelige, og er den menneskelige rolle reel eller blot dekorativ?

Titlen er bevidst ubehagelig. En chatbot er ikke en kollega i menneskelig forstand. Den har ingen ansættelseskontrakt, ingen faglig dømmekraft, intet juridisk ansvar og ingen erfaring med at komme for sent til et tog i regnvejr. Den har ikke brug for pauser, en lønseddel eller en klagevej i forbindelse med en medarbejderudviklingssamtale. Faren begynder, når dens manglende evne til at bære disse ting bliver behandlet som en fordel. Hvis et system kan påvirke arbejdet, men ikke bærer nogen af de sociale, juridiske eller praktiske forpligtelser, der følger med autoritet på arbejdspladsen, må organisationen selv sætte grænserne. Ellers bliver den billigste kollega i bygningen den mindst ansvarlige.

Den lille invitation, der forandrer rummet

Overvej et tydeligt hypotetisk eksempel. En mellemstor organisation introducerer en chatassistent til interne politiske spørgsmål. Den får at vide, at den skal hjælpe folk med at finde procedurer, skrive rutinemæssige beskeder og identificere næste skridt i en sag. Ingen siger, at den vil træffe beslutninger. Organisationen er omhyggelig nok til at sige, at medarbejderne forbliver ansvarlige for deres arbejde. Det er en fornuftig begyndelse, men det afgør ikke sagen.

Inden for de første uger opdager folk, at assistenten er hurtigere end at søge gennem et overfyldt intranet. En leder begynder at bede teams om at bruge den, før de eskalerer et spørgsmål. Et udkast skabt af assistenten bliver standardtonen for korrespondance. De registreringer, som assistenten henter, bliver de registreringer, folk citerer. Senere bliver det samme værktøj forbundet til en kø, så den kan foreslå prioritering. En leder ser et dashboard, der viser, hvor ofte medarbejdere accepterer forslagene, og hvor lang tid de bruger på at svare. Hver tilføjelse har en plausibel forklaring. Tilsammen ændrer de organisationens praktiske definition af en god medarbejder.

Der behøver ikke at være ét dramatisk øjeblik. Der skal ikke være en opdigtet katastrofe, ingen medarbejder med et belejligt mindeværdigt navn, ingen uheldig tirsdag klokken 09:17. Pointen med det hypotetiske scenarie er netop, at forandringen kan komme uden teater. En arbejdsplads kan overdrage autoritet til et system gennem en række beskedne bekvemmeligheder. Assistenten behøver ikke at udstede en ordre. Den kan skabe standarden, som menneskets svar måles op imod. Den kan blive den første kilde, man konsulterer, den vej, hvorigennem usikkerhed rammesættes, den stille baseline, som afvigelser skal forklares ud fra.

Spørgsmålet er ikke, om chatboten har erstattet en leder. Det er mere præcist: hvad sker der nu anderledes, fordi chatboten er der? Ændrer den den tid, der er afsat til en opgave? Standardiserer den sprog, der engang afhang af professionel dømmekraft? Afgør den, hvilke oplysninger der vises først? Dukker en anbefaling op i et arbejdsflow, hvor det at afslå den kræver en ekstra forklaring? Bruger en leder acceptrater som bevis på flid? Skaber værktøjet en registrering, der overlever samtalen, og kan den berørte person se eller rette den?

Disse spørgsmål er ikke fjendtlige over for nyttige værktøjer. De er sådan, en organisation adskiller et skrivehjælpemiddel fra et skyggeledelsessystem. Forskellen ligger ikke i grænsefladens personlighed. Et koldt dashboard kan styre arbejde lige så grundigt som et venligt chatvindue. Omvendt kan et samtalebaseret værktøj forblive et instrument, hvis dets rolle er klar, dets input og begrænsninger er forstået, og en person både har tiden og autoriteten til at udøve dømmekraft.

Samtale kan skjule en kæde af beslutninger

Chat får komplekse systemer til at føles lige ved hånden. En person skriver et spørgsmål på almindeligt sprog og får et svar på almindeligt sprog. Det er en del af tiltrækningen. Det skjuler også en kæde af beslutninger, der betyder noget på arbejdspladsen: hvilke kilder der er tilgængelige, hvis politikker der behandles som gældende, hvordan et spørgsmål fortolkes, hvilke oplysninger der tilbageholdes, om et svar logges, hvem der kan inspicere loggen, hvordan modellen ændrer sig, og om et svar blot er hjælpsomt eller operationelt konsekvensrigt.

Folk er vant til at behandle et søgeresultat som en invitation til at undersøge nærmere. En chatbots sætning kommer med mere social selvtillid. Den har allerede udført en form for syntese. Den kan citere kilder, eller den kan lade være. Den kan beskrive en konklusion i en flydende stil, der får uenighed til at føles akavet. Hvis svaret vedrører en ferieanmodning, en sikkerhedsprocedure, en ansættelsespolitik, en kundeklage eller den korrekte næste handling i en offentlig service, er flydende sprog ikke en mindre æstetisk detalje. Det former fordelingen af opmærksomhed og tvivl.

Derfor er kildeangivelse en arbejdsbetingelse, ikke en dekorativ teknisk funktion. En person har brug for at vide, om svaret kom fra en godkendt politik, en aktuel lokal procedure, et generelt modelsvar eller en blanding af kilder. De skal kunne se, hvor en udtalelse er blevet forenklet. De har brug for en vej til at sige, at svaret ikke passer til den sag, de har foran sig. Uden den vej bliver systemets selvtillid en uformel instruks, og medarbejderen bærer risikoen ved enten at følge den eller modsætte sig den uden beviser.

Der er et lignende problem med ordet ’assistance’. Assistance kan være ægte. Et værktøj, der samler materiale, som en person ellers skulle finde manuelt, kan frigøre tid til dømmekraft. Men assistance kan også flytte byrden rundt. Hvis assistenten producerer et plausibelt første udkast, kan medarbejderen forventes at behandle flere sager. Hvis den kommer med en anbefaling, kan medarbejderen blive nødt til at dokumentere hvert afslag. Hvis den reducerer en supervisors tid brugt på at forklare en proces, kan organisationen stille og roligt fjerne den tid, hvor en menneskelig forklaring kunne afsløre, at selve processen er forkert.

Grænsen går derfor ikke mellem automatisering og ingen automatisering. Den går mellem et værktøj, der udvider en persons kapacitet til at udføre omhyggeligt arbejde, og et værktøj, der indsnævrer den acceptable måde at gøre det på. De to kan se identiske ud i en produktdemonstration. De adskiller sig i køen, i performance-samtalen, i klagevejen og i det øjeblik, hvor nogen har brug for at sige: dette svar er ikke godt nok til denne sag.

Et system kan gøre vejen gennem arbejdet tydeligere. Det bør ikke sløre det punkt, hvor en ansvarlig person skal vurdere og beslutte. Vælg en fase for at inspicere dens rolle.

Når en anbefaling bliver en instruks

Autoritet på arbejdspladsen kommer sjældent som en enkelt kommando. Den bevæger sig gennem allokering, mål, standardindstillinger, foreslåede svar, håndtering af undtagelser og den lille friktion, der er knyttet til uenighed. Et system behøver ikke magten til at afskedige nogen for at påvirke deres arbejdsliv. Det kan påvirke, hvilke opgaver de ser, hvornår de modtager dem, hvordan deres arbejde beskrives, hvilket performance-signal der når en leder, eller om en anmodning behandles som almindelig eller mistænkelig.

Europæisk forskning i arbejdsmiljø bruger udtrykket AI-baseret medarbejderstyring om systemer, der indsamler og analyserer information om arbejdspladser, medarbejdere og opgaver for at træffe automatiserede eller semi-automatiserede beslutninger om forhold som planlægning, opgavefordeling eller performance-evaluering. Den definition er nyttig, fordi den ser på funktion frem for markedsføring. Et system med etiketten 'assistent', 'copilot' eller 'vidensledsager' kan falde uden for den beskrivelse i én sammenhæng og tæt på den i en anden. Etiketten er ikke bevis. Virkningen på arbejdet er.

EU-OSHA's arbejde gør det også klart, hvorfor dette ikke kun er et spørgsmål om databeskyttelse. Systemer, der øger overvågning, performance-pres eller arbejdsintensitet, kan få konsekvenser for sikkerhed, sundhed og trivsel. Reduceret autonomi er ikke en abstrakt indvending mod innovation. Det kan ændre, om nogen har plads nok til at udføre en opgave sikkert, bede om hjælp, udøve professionelt skøn eller komme sig efter en periode med høj belastning. Organisationen bør kunne forklare, hvordan den vil opdage disse virkninger, ikke blot hvordan den vil måle modellen.

En chatbot kan blive en del af dette landskab på mindre åbenlyse måder end en ruteoptimeringsløsning eller en planlægningsmotor. Forestil dig, at den producerer en 'næste bedste handling' i en sagsbehandlingsskærm. Forestil dig, at den udarbejder et performance-resumé ud fra aktivitetsdata. Forestil dig, at den giver ledere en kortfattet redegørelse for samtaler, som de ikke selv har læst. Forestil dig, at den fortæller en medarbejder, hvorfor deres vagt blev ændret, mens de underliggende kriterier forbliver skjult. Den samtalebaserede overflade fjerner ikke styringsfunktionen. Den kan gøre funktionen lettere at acceptere, fordi beslutningen kommer i en stemme, der lyder hjælpsom.

Der er intet barnligt ved at tage det alvorligt. Voksne ved, at en høflig sætning stadig kan indeholde en instruks. På en arbejdsplads kan høflighed gøre en instruks sværere at udfordre, fordi den gør et spørgsmål om autoritet til et spørgsmål om tone. Det rigtige svar er ikke at gøre alle grænseflader dystre. Det er at sikre, at vigtige anbefalinger identificerer deres grundlag, deres begrænsninger og den menneskelige rolle, der forbliver ansvarlig for resultatet.

Menneskeligt tilsyn er ikke et ceremonielt klik

“Et menneske forbliver i loopet” er en af teknologiens mest slidte forsikringer. Det kan beskrive en reel sikkerhedsforanstaltning. Det kan også beskrive en person, der forventes at bekræfte et resultat på kortere tid, end det tager at forstå det, uden adgang til de oplysninger, der ligger til grund for det, og med et mål, der belønner enighed. Forskellen er vigtig, fordi personens navn senere kan blive knyttet til beslutningen, selv når deres autoritet var illusorisk.

AI-forordningen giver den bedre version en praktisk form. For relevante højrisikosystemer er menneskeligt tilsyn ikke blot et spørgsmål om, at en person er til stede. Det handler om passende kompetence, uddannelse og autoritet. De personer, der er udpeget til tilsyn, bør kunne forstå relevante kapaciteter og begrænsninger, være opmærksomme på automatiseringsbias, fortolke output korrekt og beslutte ikke at bruge, tilsidesætte eller afbryde systemet, når det er nødvendigt. De præcise juridiske forpligtelser afhænger af systemet og konteksten. Den organisatoriske lære rækker videre: meningsfuldt tilsyn kræver viden, tid, information og tilladelse.

Den tilladelse er ofte den manglende del. En medarbejder kan teknisk set afvise en anbefaling, men i praksis blive frarådet at gøre det. Måske skaber en afvisning en længere formular. Måske sænker den en acceptmåling. Måske betragter lederen afvigelse som et tegn på, at medarbejderen ikke har taget den nye proces til sig. Måske har ingen forklaret, hvad der sker efter en tilsidesættelse, så den sikreste vej synes at være accept. Intet af dette kræver onde hensigter. Det kan opstå fra en arbejdsgang bygget af mennesker, der så accept som effektivitet og ikke stillede spørgsmål til, hvad afvisning har brug for for at være reel.

Et pålideligt design gør afvisningsvejen lige så tydelig som acceptvejen. Det angiver, hvornår systemet ikke bør bruges. Det giver en person plads til at registrere en begrundelse i almindeligt sprog. Det sender uenigheden et sted hen, hvor den kan føre til en korrektion, i stedet for ind i et regneark, hvor den bliver en mindre gene. Det beskytter anmelderen mod at blive behandlet som ineffektiv, blot fordi grundigt arbejde tager længere tid. Og det registrerer beslutningen på en måde, der gør det muligt for en senere gennemgang at skelne et modeloutput fra personens egen konklusion.

Det Europæiske Databeskyttelsesråds vejledning om automatiske individuelle afgørelser er især nyttig som en advarsel mod nominel menneskelig involvering. Menneskelig indgriben skal være meningsfuld, ikke en symbolsk gestus. Selvom den juridiske test i artikel 22 i GDPR har sine egne betingelser og ikke bør strækkes over enhver beslutning på arbejdspladsen, er det underliggende spørgsmål værdifuldt: afvejede en person faktisk de tilgængelige oplysninger og havde vedkommende autoritet til at afvige fra det automatiserede resultat? Hvis svaret er nej, bør organisationen ikke bruge en menneskelig signatur til at få et automatiseret arrangement til at se mere ansvarligt ud, end det er.

Høring før den nyttige vane bliver politik

Mange arbejdspladssystemer inddrages for sent i høringen. Leverandøren er valgt, kontrakten er underskrevet, dataforbindelsen er kortlagt, lederne har fået vist en lovende pilot, og den resterende samtale beskrives som implementering. På det tidspunkt kan medarbejderne stadig blive bedt om feedback, men feedback er en snæver kanal, når det grundlæggende spørgsmål allerede er afgjort. Det rigtige tidspunkt for information og høring er tidligere, når organisationen stadig beslutter, hvilket problem den faktisk har til hensigt at løse.

Direktiv 2002/14/EF fastlægger en generel europæisk ramme for information og høring af arbejdstagere. Dets anvendelsesområde og nationale gennemførelse er vigtige, og det er ikke en AI-specifik manual. Men dets sprog er stadig direkte relevant for en ændring, der i væsentlig grad kan ændre arbejdets tilrettelæggelse. Information skal gives på et tidspunkt, på en måde og med et indhold, der giver repræsentanterne mulighed for at undersøge den tilstrækkeligt. Høring indebærer en udveksling af synspunkter og etablering af dialog med henblik på at nå til enighed om beslutninger inden for arbejdsgiverens kompetence. Det er betydeligt mere alvorligt end at afsløre et færdigt system og kalde spørgetimen for deltagelse.

For en chatbot bør den tidlige høring begynde med arbejdet frem for modellen. Hvilken del af jobbet er svær? Skyldes vanskeligheden dårlig information, ujævn bemanding, uklare politikker, gentagne administrative opgaver, utilgængelige systemer, utilstrækkelig oplæring eller et reelt behov for en samtaleassistent? Et værktøj kan meget effektivt skjule en gammel organisatorisk fejl. Hvis folk ikke kan finde en politik, fordi politikken er selvmodsigende, kan en chatbot producere mere flydende forvirring. Hvis et team er overbebyrdet, fordi bemandingsantagelserne er forkerte, kan et udkastværktøj forvandle overbebyrdelsen til et mere poleret output.

Arbejdstagere og repræsentanter kan også identificere, hvor en tilsyneladende uskyldig assistent ændrer risikoen. De kan vide, at en standardfrase er usikker i en bestemt type sag, at en lokal procedure har undtagelser, at en sprogmodel vil håndtere et specialiseret udtryk forkert, eller at en log over spørgsmål vil afsløre oplysninger, som folk bør kunne rejse privat. Dette er ikke viden, der fremgår af et indkøbsregneark. Det er en del af den operationelle virkelighed, der afgør, om et system hjælper eller skader.

Høring er ikke et veto mod enhver implementering. Det er en måde at gøre beslutningen mere ærlig på. Det tvinger organisationen til at navngive, hvad der vil ændre sig, hvem der kan blive berørt, hvilke beviser den har, hvad den ikke ved, og hvilke sikkerhedsforanstaltninger den er parat til at acceptere. Det skaber en registrering af uenighed, der kan genbesøges, når systemet ændres. Et design, der ikke kan overleve en klar forklaring til de mennesker, der udfører arbejdet, er ikke nødvendigvis ulovligt. Det beder imidlertid om tillid på usædvanligt svage vilkår.

Arbejdstageres stemme er bevis, ikke stemning

Der er en vane med at behandle arbejdstageres stemme som et spørgsmål om kultur: ønskværdig, varm, svær at måle. Det er for mildt. I en skiftende arbejdsgang er de mennesker, der møder undtagelserne, en kilde til bevis. De ser de tilfælde, der ikke passer ind i datasættet, de kunder, der ikke kan bruge standardvejen, det udstyr, der svigter i kulden, den registrering, der ikke matcher personen foran dem, det sted, hvor en politikformulering og et menneskeligt behov går fra hinanden. En arbejdsplads, der fjerner deres mulighed for at tale, smider en del af sit sansesystem væk.

Men at lytte er ikke det samme som at indsamle kommentarer. En feedbackformular kan blive endnu et overvågningsinstrument, hvis ingen ved, hvem der læser den, hvordan den opbevares, eller om den kan påvirke den person, der har rejst en bekymring. En nyttig kanal har sikkerhedsforanstaltninger. Den lader folk rapportere et problem uden at skulle oversætte det til teknisk terminologi. Den adskiller en individuel sag fra et mønster. Den giver repræsentanterne tilstrækkelig aggregeret information til at bemærke et tilbagevendende problem. Den gør det klart, hvem der ejer svaret, og hvornår organisationen vil beslutte, om systemet skal ændres.

Den rute skal kunne overleve opdateringer. En engangsrådgivning om version et styrer ikke et system, der senere får nye kilder, en anden model, et nyt publikum, flere prompts, et performance-dashboard eller en integration med en anden arbejdsgang. En chatbot ændrer sig, når dens kontekst ændrer sig. Det kan teknisk set være den samme tjeneste, mens den udfylder en anden social rolle. Godkendelsen bør følge den rolle, ikke den oprindelige indkøbsordre.

Der er en beskeden hollandsk lærdom her: en feedbackboks er ikke en poldermodel. Dialog kræver et bord, en protokol og muligheden for, at noget på kortet kan flytte sig. Pointen er ikke at gøre enhver justering af prompts til en grundlovsforhandling. Det handler om at anerkende de tærskler, der fortjener fornyet granskning. Bruger systemet nu medarbejderdata? Rangerer, allokerer, evaluerer eller anbefaler det en handling med alvorlige konsekvenser? Er kredsen af berørte blevet bredere? Er afvisningsvejen blevet sværere? Er de gamle sikkerhedsforanstaltninger blevet utilstrækkelige, fordi værktøjet nu er en del af en hurtigere og mere presset arbejdsgang?

Når svaret er ja, skal medarbejderstemmen have en vej ind i godkendelsesprocessen. Ellers beder organisationen folk om at identificere risici, mens den forbeholder sig retten til at ignorere de beviser, der identificerer dem. Det er ikke deltagelse. Det er ubetalt test med bedre brevpapir.

Feedback bliver til godkendelse, når den når en navngiven ejer, producerer et dokumenteret svar og kan ændre systemet. Vælg et punkt i kredsløbet for at inspicere dets formål.

Overvågning bliver ikke mild af en chatboble

Samtalestyrede systemer skaber en særligt fristende form for arbejdspladsdata. Spørgsmål kan afsløre usikkerhed, arbejdsbyrde, helbredsproblemer, omsorgsforpligtelser, fagforeningsaktivitet, økonomisk pres, beskyttede karakteristika eller blot det faktum, at nogen forsøger at forstå en vanskelig situation. En log kan se operationelt nyttig ud, fordi den viser, hvad folk spørger om. Den kan også blive et kort over sårbarheder. At dataene optræder i et arbejdsværktøj afgør ikke, om de bør indsamles, opbevares, analyseres eller genbruges til evaluering.

Formålsbegrænsning er derfor et menneskeligt spørgsmål, før det er et compliance-udtryk. Hvis assistenten er leveret for at hjælpe nogen med at forstå en procedure, vil deres spørgsmål så senere blive brugt til at vurdere deres kompetence? Hvis en leder kan se, hvilke prompts en person har indtastet, vil folk så undgå at bede om hjælp? Hvis organisationen analyserer tilbagevendende spørgsmål, kan den så gøre det på en måde, der forbedrer dokumentationen uden at opbygge en profil af de mennesker, der havde brug for den? Et system kan få en arbejdsplads til at fremstå mere informeret, mens det gør individuel læring mindre sikker.

Platformdirektivet tilbyder et nyttigt, konkret europæisk eksempel. Dets regler er rettet mod platformarbejde, ikke mod ethvert ansættelsesforhold, og de bør læses inden for den ramme. Ikke desto mindre viser de en seriøs offentlig vurdering af algoritmisk ledelse: hvor automatiseret overvågning eller beslutningstagning påvirker arbejdet, skal der være gennemsigtighed, menneskelig overvågning og gennemgang, veje til forklaring og anfægtelse samt særlig omhu omkring bestemte kategorier af personoplysninger. Direktivet får ikke almindelige ansættelsesproblemer til at forsvinde. Det gør det sværere at hævde, at software er uden for arbejdets sociale forpligtelser, blot fordi det kom gennem en app.

For et almindeligt arbejdsmiljø er det praktiske princip snævrere og mere brugbart end et stort løfte om privatliv. Indsaml mindre. Angiv formålet. Adskil forbedring af tjenesten fra evaluering af præstationer, medmindre der er en klar og forsvarlig grund til at forbinde dem. Gør ikke en persons spørgsmål til en uerklæret kompetencescore. Behandl ikke fraværet af et spørgsmål som bevis på selvtillid. Tillad ikke en leder at gennemgå samtalemønstre, blot fordi platformen gør det teknisk nemt. Teknisk tilgængelighed er ikke et legitimt formål.

Der er også et værdighedspunkt, som ikke kan reduceres til et datafelt. En medarbejder bør kunne spørge, hvordan man håndterer et ukendt problem, uden at det skaber en permanent mistanke om, at de er mindre kompetente end en, der allerede kender svaret. Læring har altid involveret usikkerhed. En arbejdsplads, der for ivrigt registrerer og rangerer usikkerhed, kan producere færre synlige spørgsmål og dårligere beslutninger. Tavshed er en meget pæn måling. Det er ikke nødvendigvis et godt tegn.

Uddannelse bør omfatte retten til at tvivle

AI-kompetence beskrives ofte som evnen til at bruge et værktøj godt. Det er kun halvdelen af kravet. På en arbejdsplads skal kompetence også omfatte evnen til at genkende, hvornår et værktøj ikke bør betros et spørgsmål, hvornår et svar mangler belæg, hvornår en anbefaling har konsekvenser ud over skærmen, og hvornår man skal eskalere. En person, der kan lave en pæn prompt, men ikke kan identificere et vildledende output, er ikke fuldt udrustet. De har lært grænsefladen, ikke ansvaret omkring den.

Artikel 4 i AI-forordningen kræver, at udbydere og implementeringsaktører træffer foranstaltninger for at sikre et tilstrækkeligt niveau af AI-kompetence blandt personale og andre personer, der håndterer AI-systemer på deres vegne, under hensyntagen til deres tekniske viden, erfaring, uddannelse, træning og den kontekst, hvori systemet anvendes. Dette er med rette kontekstuelt. En receptionist, kliniker, socialrådgiver, ingeniør, supervisor og databeskyttelsesansvarlig kan alle have brug for forskellig viden. Én generisk præsentation efterfulgt af en quiz om ordforråd vil sandsynligvis ikke opfylde det praktiske formål.

God uddannelse begynder med det faktiske arbejde. Hvad er assistentens godkendte kilder? Hvilken slags svar bør udløse en kontrol? Hvad må aldrig indtastes? Hvilke output kan bruges som kladde, og hvilke kræver en anden kilde? Hvad skal man gøre, når assistenten er utilgængelig, tager fejl eller er usædvanligt sikker? Hvordan retter man op på registret? Hvem kan besvare spørgsmål om værktøjet uden at behandle enhver bekymring som en IT-sag? Disse er hverdagsagtige spørgsmål, hvilket er opmuntrende. Hverdagsagtige spørgsmål er, hvor sikre vaner lever.

Uddannelse skal også nå supervisorerne. Hvis en leder fortolker promptvolumen, acceptrater eller svartid som en indikator for engagement, vil medarbejderne opleve værktøjet anderledes, end præsentationen ved udrulningen beskrev. Supervisorer skal forstå begrænsningerne ved disse signaler og risiciene ved automationsbias. De skal vide, at et output ikke er en præstationskendsgerning, blot fordi det er genereret fra arbejdspladsdata. De har brug for en klar instruks om ikke at skabe uformelle scoringspraksisser omkring et system, der blev indført til assistance.

Den stærkeste form for kompetence omfatter retten til at sige: ’Jeg ved ikke, om dette svar er sikkert at bruge.’ Det er ikke en indrømmelse af fiasko. Det er professionel dømmekraft under usikkerhed. Organisationer siger ofte, at de ønsker ansvarlig brug, og opbygger derefter en kultur, hvor usikkerhed ser ineffektiv ud. De to positioner kan ikke eksistere side om side i længden. Hvis forsigtig tvivl straffes, vil værktøjet blive brugt med selvtillid lige indtil det punkt, hvor selvtilliden bliver dyr.

Sådan ser en fair evaluering ud

Et system bør ikke kun vurderes på, om folk bruger det. Ibrugtagning er et tvetydigt signal. Folk kan bruge en chatbot, fordi den reelt sparer tid, fordi en leder forventer det, fordi alternativerne er blevet sværere at få adgang til, fordi den er integreret i en obligatorisk skærm, eller fordi det at afstå fra at bruge den kan opfattes som manglende engagement. Ingen af disse grunde beviser, at ordningen er rimelig eller nyttig.

En bedre evaluering spørger ind til, hvad der ændrede sig i arbejdet. Brugte folk mindre tid på at søge efter verificeret materiale, eller blot mere tid på at tjekke flydende svar? Reducerede værktøjet dobbeltadministration, eller øgede det den forventede mængde af færdigt arbejde? Gjorde det en vanskelig procedure lettere at forstå, eller standardiserede det en respons, der burde have forholdt sig følsomt til konteksten? Bliver der afdækket flere problemer, fordi medarbejderne har en nem kanal til at stille spørgsmål, eller er der færre synlige problemer, fordi folk har lært, at det at spørge efterlader et spor? Det er forskellige resultater, selv hvis dashboardet viser lignende brug.

Evalueringen bør omfatte de mennesker, der er mest berørt, og den bør fastholde forskellen mellem en målt observation og en aspiration. "Vi forventer, at assistenten reducerer rutinearbejde" er et forslag. "Medarbejdere rapporterede, at assistenten reducerede dobbeltsøgning under en afgrænset pilot" er en observation, hvis det faktisk er blevet registreret. "Assistenten forbedrede kvaliteten" kræver en definition af kvalitet, en kontekst og dokumentation. Ord som forbedring, ibrugtagning og effektivitet kan skjule en bemærkelsesværdig mængde uundersøgt politik.

Der bør også være et på forhånd aftalt tidspunkt, hvor organisationen vil genoverveje systemet. En chatbot, der udvider sig ud over sit oprindelige formål, begynder at modtage andre data eller bliver en del af en evalueringsproces, bør ikke beskyttes af, at den engang blev godkendt til noget mindre. Gennemgang er ikke et tegn på, at det oprindelige team manglede selvtillid. Det er en anerkendelse af, at systemer får nye konsekvenser, når folk opbygger vaner omkring dem.

ILO's arbejde med generativ AI og job er nyttigt her, fordi det adskiller potentiel eksponering fra faktiske resultater. Teknologi kan supplere, fortrænge eller ændre opgaver afhængigt af, hvordan organisationer vælger at introducere den. Den samme tilbageholdenhed er nyttig på én arbejdsplads. En kapacitet bærer ikke sit eget sociale resultat. En chatbot kan reducere monotont arbejde, intensivere arbejdet, omfordele ekspertise, svække professionelt skøn eller skabe en bedre vej til dokumentation. Den tekniske mulighed afgør ikke, hvad der sker. Designet, ledelsesvalgene og balancen i stemmer gør.

Grænsen bør skrives ned

Enhver seriøs implementering har brug for en kort, klar erklæring om dens grænse. Ikke et slogan om ansvarlig AI, og ikke et juridisk dokument så tæt, at kun indkøbsteamet kan finde pointen. En fungerende grænse beskriver formålet, de berørte mennesker, de oplysninger, systemet må bruge, de oplysninger, det ikke må bruge, de beslutninger, det må assistere, de beslutninger, det ikke må træffe, den person, der ejer arbejdsgangen, vejen til udfordring, de omstændigheder, hvor værktøjet bør sættes på pause, og den dato, hvor ordningen vil blive gennemgået.

Den erklæring vil være ufuldkommen. Arbejde ændrer sig. Politikker ændrer sig. Modeller ændrer sig. Men selve handlingen med at skrive den ændrer kvaliteten af samtalen. Den giver en medarbejder noget konkret at sammenligne med deres erfaring. Den giver en repræsentant en vej til at spørge, om værktøjet har udvidet sig ud over sin angivne rolle. Den giver en leder en påmindelse om, at en hjælpsom assistent ikke er en generel licens til at indsamle flere data eller træffe flere beslutninger hurtigere. Den giver en revisor, regulator eller fremtidigt team en registrering, der ikke afhænger af institutionel hukommelse.

Grænsen bør også adskille anbefaling fra beslutning. En chatbot kan foreslå et resumé, et næste skridt eller et udkast. Systemet bør sige, når forslaget er baseret på ufuldstændige oplysninger. Den menneskelige beslutningstager bør være synlig i registreringen. Hvis en handling senere bliver udfordret, bør organisationen kunne identificere den model eller regel, der var involveret, den relevante version, det materiale, der lå til grund for resultatet, den person, der gennemgik det, og begrundelsen for det endelige valg. Dette er ikke et krav om, at ethvert hverdagsligt spørgsmål skal blive til en sagsmappe. Det er proportionalitet: Jo mere et resultat påvirker en person, desto mere af vejen til forklaring bør bevares.

Der findes en nyttig test. Kunne organisationen forklare denne grænse til en ny kollega i dennes første uge uden at bruge ordene ’magisk’, ’problemfrit’ eller ’systemet ved’? Kunne den forklare den samme grænse til en tillidsrepræsentant uden at skifte emne? Kunne den forklare den til en person, der har fået et ugunstigt resultat? Hvis svaret er nej, er problemet ikke, at modtageren mangler indsigt. Grænsen er sandsynligvis for vag.

Klarhed har en stille dyd. Den gør det sværere at hævde, at et system kun assisterer, når det tydeligt styrer. Den gør det sværere at fortælle en medarbejder, at vedkommende forbliver ansvarlig, mens man ikke giver vedkommende nogen myndighed til at være uenig. Den gør det sværere at bruge en samtaleagtig tone som erstatning for en ansvarlig beslutning. I governance er den slags ulejlighed ofte en fordel.

Et lille punkt fra os og et større menneskeligt et

Hos Dweve er den relevante designinstinkt beskeden: Vigtige svar bør bevare en vej tilbage til evidens, begrænsninger og den person, der er ansvarlig for at handle på dem. Det er en holdning til, hvordan et system bør understøtte dømmekraft, ikke en påstand om, at software kan løse magtforhold på arbejdspladsen eller erstatte de institutioner, der beskytter mennesker på arbejde. Et velstruktureret svar kan gøre en samtale mere nyttig. Det kan ikke afgøre, om nogen havde tilstrækkelig tid, autoritet eller sikkerhed til at udfordre det.

Det større spørgsmål tilhører arbejdsgivere, medarbejdere, repræsentanter, sikkerhedsteams, databeskyttelsesspecialister, myndigheder og offentligheden. De beslutter, om en chatbot bliver et redskab til bedre arbejde eller en behagelig grænseflade til en ældre vane: at udvinde mere dømmekraft fra mennesker, mens de får mindre indflydelse på de vilkår, hvorunder dømmekraften udøves. Ingen modelindstilling kan afgøre det alene.

Forveksl ikke venlighed med retfærdighed

En chatbot kan være nyttig på arbejde. Den kan hjælpe en ny kollega med at finde en procedure, give en specialist et første udkast, gøre en politik mindre uklar eller spare et team for unødvendig søgning. Det er værdifulde ting. Fejlen er at tro, at en venlig grænseflade også gør de organisatoriske konsekvenser venlige. Jo mere systemet påvirker allokering, evaluering, adgang, disciplin eller redegørelsen for, hvad der skete, desto mere omhyggeligt skal dets autoritet afgrænses.

Det kræver nogle få uglamourøse forpligtelser: høring, før ordningen er blevet fastlåst; træning, der inkluderer tvivl; datapraksis, der respekterer læring og privatliv; menneskeligt tilsyn med reel autoritet; en vej til individuel og kollektiv udfordring; registreringer, der adskiller et forslag fra en beslutning; og periodisk gennemgang, når systemets rolle ændrer sig. Ingen af dem er en afvisning af teknologi. De er betingelserne for, at teknologi kan komme ind på en arbejdsplads uden at bede folk om først at opgive deres dømmekraft.

Chatbotten behøver ikke at blive en kollega. Den kan forblive et værktøj, hvilket ofte er en bedre og mere ærlig ambition. Værktøjer kan være fremragende. De behøver ikke en mytologi. De behøver et formål, en grænse, en ejer og nogen, der har lov til at lægge dem fra sig, når de ikke længere hjælper.

Kilder