Ko klepetalnik postane sodelavec

Klepetalnik je lahko uporaben pripomoček, ne da bi postal upravitelj v prijaznem vmesniku. Meja je prestopljena, ko pogovorni sistem začne oblikovati...

Ko klepetalnik postane sodelavec

Sodelavec je več kot glas v prostoru

Obstaja posebna vrsta stavka, zaradi katere se sprememba zdi manjša, kot v resnici je: »Vsem dajemo klepetalnega robota.« Pride skupaj z znanim ozadjem uvajanja programske opreme. Sledila bo licenca, kratka predstavitev, morda stran s predlogi pozivov in nekdo, ki bo malce preveč veselo opominjal, naj ga uporabljamo odgovorno. Orodje se zdi, kot da stoji ob delu. Zna osnovati osnutek, iskati, povzemati, prevajati, razložiti pravilnik ali spremeniti grobo zapisano opombo v nekaj, kar je videti, kot da je nastalo po polni noči spanja. To so običajne in včasih uporabne zmožnosti. Toda stavek ni več nedolžen, ko klepetalni robot začne oblikovati to, kdo dobi delo, kaj velja za dober odgovor, kateri opis dogodka je sprejet ali kako je oseba ocenjena, ker se z njim ne strinja.

Na tej točki vprašanje ni več, ali je vmesnik pogovoren. Vprašanje je, ali je sistem postal sodelavec na delovnem mestu v pomembnejšem pomenu: udeleženec pri delitvi dela, vir avtoritete, priča, katere pripovedi se pripisuje teža, tih vpliv na pogoje, pod katerimi nekdo uživa zaupanje. Sodelavec lahko priporoča, oporeka, razlaga in včasih olajša dan. Sodelavec pa tudi sodi v strukturo odgovornosti. Lahko ga vprašamo, zakaj. Lahko ga popravimo. Njegovo vlogo je mogoče opisati. Sistem, ki govori z lahkotnostjo sodelavca, a se upravlja z ohlapnostjo pripomočka, je veliko težji zalogaj.

Evropa ima tu koristen nagon. Od nas ne zahteva, da se pretvarjamo, da je vsako avtomatizirano orodje vodja, niti da bi moral vsak delavec postati strokovnjak za arhitekturo modelov, preden odpre okno za klepet. Postavlja bolj praktična vprašanja o pogojih dela. Koga to zadeva? Kateri podatki se uporabljajo? Kaj je namen? Kaj se zgodi, ko je predlog napačen? Kdo lahko posreduje? Katere pravice do obveščenosti in posvetovanja veljajo? Katere odločitve ostajajo človeške in ali je ta človeška vloga resnična ali zgolj okrasna?

Naslov je namerno neprijeten. Klepetalni robot ni sodelavec v človeškem pomenu. Nima pogodbe o zaposlitvi, strokovne presoje, pravne odgovornosti in izkušnje, kaj pomeni zamuditi vlak v dežju. Ne potrebuje odmorov, plačilne liste ali poti do pritožbe na oceno uspešnosti. Nevarnost se začne, ko se njegova nezmožnost nositi te stvari obravnava kot prednost. Če sistem lahko vpliva na delo, a ne nosi nobenih družbenih, pravnih ali praktičnih obveznosti, ki spremljajo avtoriteto na delovnem mestu, mora organizacija meje postaviti sama. V nasprotnem primeru postane najcenejši sodelavec v stavbi tisti, ki nosi najmanj odgovornosti.

Majhno povabilo, ki spremeni prostor

Poglejmo si jasno hipotetičen primer. Srednje velika organizacija uvede klepetalnega pomočnika za vprašanja o notranjih pravilnikih. Namenjen je temu, da ljudem pomaga najti postopke, pripraviti osnutke rutinskih sporočil in določiti naslednji korak v zadevi. Nihče ne reče, da bo sprejemal odločitve. Organizacija je dovolj previdna, da pove, da zaposleni ostajajo odgovorni za svoje delo. To je razumen začetek, vendar zadeve ne reši.

V prvih tednih ljudje ugotovijo, da je pomočnik hitrejši od iskanja po natrpanem intranetu. Nadrejeni začne ekipe prositi, naj ga uporabijo, preden vprašanje posredujejo naprej. Osnutek, ki ga pripravi pomočnik, postane privzeti ton dopisovanja. Zapiski, ki jih pomočnik poišče, postanejo zapiski, na katere se ljudje sklicujejo. Kasneje je isto orodje povezano s čakalno vrsto, da lahko predlaga prednost. Vodja vidi nadzorno ploščo, ki prikazuje, kako pogosto zaposleni sprejmejo predloge in koliko časa potrebujejo za odziv. Vsaka dodana funkcija ima verjetno razlago. Skupaj spremenijo praktično opredelitev dobrega delavca v organizaciji.

Noben posamezen trenutek ni treba, da bi bil dramatičen. Ni treba izmišljene katastrofe, ni zaposlenega s priročno nepozabnim imenom, ni nesrečnega torka ob 09:17. Bistvo hipotetičnega primera je natanko v tem, da lahko sprememba pride brez gledališkega učinka. Delovno okolje lahko preda oblast sistemu skozi vrsto skromnih ugodnosti. Pomočniku ni treba izdati ukaza. Lahko ustvari merilo, po katerem se meri človeški odgovor. Lahko postane prvi vir, ki ga kdo preveri, pot, skozi katero se oblikuje negotovost, tiha osnova, od katere je treba pojasniti vsako odstopanje.

Vprašanje, ki si ga je treba zastaviti, ni, ali je klepetalni robot nadomestil vodjo. Natančnejše je: kaj se zdaj dogaja drugače, ker je klepetalni robot tu? Ali spremeni čas, ki je na voljo za nalogo? Ali poenoti jezik, ki je nekoč bil odvisen od strokovne presoje? Ali odloča, katere informacije so vidne najprej? Ali se priporočilo pojavi v delovnem toku, kjer zavrnitev zahteva dodatno pojasnilo? Ali vodja uporablja stopnje sprejetosti kot dokaz prizadevnosti? Ali orodje ustvari zapis, ki preživi pogovor, in ali lahko prizadeta oseba ta zapis vidi ali popravi?

Ta vprašanja niso sovražna do uporabnih orodij. So način, kako organizacija loči pripomoček za pisanje od sistema prikritega upravljanja. Razlika ni v osebnosti vmesnika. Hladna nadzorna plošča lahko upravlja delo prav tako temeljito kot prijazen pogovorni zavihek. Nasprotno pa lahko pogovorno orodje ostane instrument, če je njegova vloga jasna, če so njegovi vnosi in omejitve razumljivi in če ima oseba tako čas kot pooblastilo za presojo.

Pogovor lahko skrije verigo odločitev

Klepet daje občutek, da so zapleteni sistemi na dosegu roke. Oseba vnese vprašanje v običajnem jeziku in prejme odgovor v običajnem jeziku. To je del privlačnosti. Hkrati pa skriva verigo odločitev, ki so pomembne pri delu: kateri viri so na voljo, čigave politike se obravnavajo kot veljavne, kako se vprašanje razlaga, katere informacije so zadržane, ali se odgovor beleži, kdo lahko pregleda dnevnik, kako se model spreminja in ali je odgovor zgolj v pomoč ali pa ima operativne posledice.

Ljudje smo navajeni, da rezultat iskanja obravnavamo kot povabilo k preverjanju. Stavek klepetalnega robota pride z večjo družbeno samozavestjo. Že je opravil neko obliko sinteze. Lahko navede vire, lahko pa tudi ne. Lahko opiše sklep v tekočem jeziku, zaradi katerega je nestrinjanje videti nerodno. Če ta odgovor zadeva prošnjo za dopust, varnostni postopek, kadrovsko politiko, pritožbo stranke ali pravilno naslednje dejanje v javni službi, tekočnost ni zgolj manjša estetska značilnost. Oblikuje porazdelitev pozornosti in dvoma.

Zato je izvor podatka delovni pogoj, ne okrasna tehnična značilnost. Oseba mora vedeti, ali je odgovor prišel iz odobrene politike, veljavnega lokalnega postopka, splošnega odziva modela ali mešanice virov. Videti mora, kje je bila izjava poenostavljena. Potrebuje pot, da pove, da odgovor ne ustreza primeru, ki ga ima pred seboj. Brez te poti postane samozavest sistema neuradno navodilo, delavec pa nosi tveganje, da ga bodisi upošteva bodisi se mu upre brez dokazov.

Podobna težava je z besedo »pomoč«. Pomoč je lahko iskrena. Orodje, ki združi gradivo, ki bi ga oseba sicer morala poiskati ročno, lahko prihrani čas za presojo. Toda pomoč lahko tudi premakne breme. Če pomočnik pripravi verjeten prvi osnutek, se od delavca morda pričakuje, da obdela več primerov. Če poda priporočilo, mora delavec morda dokumentirati vsako zavrnitev. Če skrajša čas, ki ga nadzornik porabi za razlago postopka, lahko organizacija tiho odstrani čas, v katerem bi človeška razlaga lahko razkrila, da je sam postopek napačen.

Meja torej ni med avtomatizacijo in njeno odsotnostjo. Je med orodjem, ki širi človekovo zmožnost za skrbno delo, in orodjem, ki zožuje sprejemljiv način dela. Obe lahko na predstavitvi izdelka izgledata enako. Razlikujeta se v čakalni vrsti, v pogovoru o uspešnosti, v postopku pritožbe in v trenutku, ko mora nekdo reči: ta odgovor za ta primer ni dovolj dober.

Sistem lahko naredi pot skozi delo jasnejšo. Ne sme pa zamegliti točke, na kateri mora odgovorna oseba presoditi in se odločiti. Izberite stopnjo in preverite njeno vlogo.

Ko priporočilo postane navodilo

Avtoriteta na delovnem mestu le redko pride kot eno samo navodilo. Potuje skozi razporejanje, cilje, privzete nastavitve, predlagane odgovore, obravnavo izjem in drobno trenje, povezano z nestrinjanjem. Sistem ne potrebuje moči, da bi nekoga odpustil, da bi vplival na njegovo delovno življenje. Lahko vpliva na to, katere naloge vidi, kdaj jih prejme, kako je njegovo delo opisano, kateri signal o uspešnosti doseže nadrejenega ali ali je zahtevek obravnavan kot običajen ali sumljiv.

Evropske raziskave o varnosti in zdravju pri delu uporabljajo izraz upravljanje delavcev z umetno inteligenco za sisteme, ki zbirajo in analizirajo informacije o delovnih mestih, delavcih in nalogah, da bi sprejemali avtomatizirane ali delno avtomatizirane odločitve o zadevah, kot so razporejanje, razdelitev nalog ali ocenjevanje uspešnosti. Ta opredelitev je uporabna, ker gleda na funkcijo in ne na trženje. Sistem z oznako »asistent«, »kopilot« ali »znanja spremljevalec« je lahko v enem okolju zunaj tega opisa, v drugem pa blizu njega. Oznaka ni dokaz. Učinek na delo je.

Delo agencije EU-OSHA prav tako pojasnjuje, zakaj to ni le vprašanje varstva podatkov. Sistemi, ki povečujejo nadzor, pritisk glede uspešnosti ali intenzivnost dela, imajo lahko posledice za varnost, zdravje in dobro počutje. Zmanjšana avtonomija ni abstrakten ugovor zoper inovacije. Lahko spremeni, ali ima nekdo dovolj prostora, da nalogo opravi varno, poišče pomoč, uporabi strokovno presojo ali si opomore po obdobju visokih zahtev. Organizacija bi morala znati pojasniti, kako bo opazila te učinke, ne le kako bo merila model.

Klepetalni robot lahko postane del te pokrajine na manj očitne načine kot optimizator poti ali mehanizem za razporejanje. Predstavljajte si, da v zaslonu za obravnavo primera ustvari »naslednje najboljše dejanje«. Predstavljajte si, da iz podatkov o dejavnosti pripravi povzetek uspešnosti. Predstavljajte si, da nadrejenim da jedrnat prikaz pogovorov, ki jih sami niso prebrali. Predstavljajte si, da delavcu pove, zakaj je bila njegova izmena spremenjena, medtem ko osnovna merila ostanejo skrita. Pogovorna površina ne odstrani funkcije upravljanja. Lahko olajša sprejemanje funkcije, ker odločitev pride v glasu, ki zveni ustrežljivo.

V tem, da to jemljemo resno, ni nič otročjega. Odrasli vedo, da lahko vljuden stavek še vedno nosi navodilo. Na delovnem mestu lahko vljudnost oteži izpodbijanje navodila, ker vprašanje avtoritete spremeni v vprašanje tona. Pravilen odziv ni, da postane vsak vmesnik mračen. Je v tem, da pomembna priporočila navedejo svojo podlago, svoje meje in človeško vlogo, ki ostaja odgovorna za izid.

Človeški nadzor ni ceremonialni klik

»Človek ostaja v zanki« je ena najbolj izrabljenih zagotovil v tehnologiji. Lahko opisuje pravo zaščito. Lahko pa opisuje tudi nekoga, od katerega se pričakuje, da potrdi rezultat v krajšem času, kot je potrebno, da ga razume, brez dostopa do informacij, ki so rezultat ustvarile, in s ciljem, ki nagrajuje strinjanje. Razlika je pomembna, ker je lahko ime te osebe pozneje pripisano odločitvi, tudi če je bila njena pristojnost zgolj navidezna.

Akt o umetni inteligenci daje boljši različici praktično obliko. Pri ustreznih visokotveganih sistemih človeški nadzor ne pomeni le prisotnosti osebe. Gre za ustrezno usposobljenost, izobraževanje in pooblastila. Osebe, dodeljene nadzoru, bi morale biti sposobne razumeti ustrezne zmogljivosti in omejitve, se zavedati pristranskosti avtomatizacije, pravilno interpretirati rezultate ter se po potrebi odločiti, da sistema ne bodo uporabile, ga preglasile ali prekinile. Natančne pravne obveznosti so odvisne od sistema in okoliščin. Organizacijska lekcija sega dlje: smiseln nadzor zahteva znanje, čas, informacije in dovoljenje.

To dovoljenje je pogosto manjkajoči del. Delavec tehnično lahko zavrne priporočilo, vendar ga praksa pri tem odvrača. Morda zavrnitev pomeni daljši obrazec. Morda zniža merilo sprejetosti. Morda nadrejeni odstopanje razume kot znak, da delavec ni sprejel novega postopka. Morda nihče ni pojasnil, kaj se bo zgodilo po preglasitvi, zato se zdi sprejetje varnejša pot. Za vse to ni potrebnih slabih namenov. Lahko izhaja iz delovnega procesa, ki so ga zgradili ljudje, ki so sprejetje razumeli kot učinkovitost in se niso vprašali, kaj zavrnitev potrebuje, da bi bila resnična.

Zanesljiva zasnova naredi pot zavrnitve enako razumljivo kot pot sprejetja. Določi, kdaj sistema ne bi smeli uporabiti. Omogoči osebi, da razlog zapiše v običajnem jeziku. Nestrinjanje pošlje tja, kjer lahko privede do popravka, namesto v preglednico, kjer postane manjša nevšečnost. Ščiti pregledovalca pred obravnavo kot neučinkovitega zgolj zato, ker skrbno delo traja dlje. In odločitev zabeleži tako, da poznejši pregled lahko loči rezultat modela od osebnega zaključka posameznika.

Smernice Evropskega odbora za varstvo podatkov o avtomatiziranem sprejemanju posameznih odločitev so še posebej uporabne kot opozorilo pred zgolj nominalno vključenostjo človeka. Človeški poseg mora biti smiseln, ne zgolj simbolična gesta. Čeprav ima pravni test iz člena 22 GDPR svoje pogoje in ga ne bi smeli raztegniti na vsako odločitev na delovnem mestu, je temeljno vprašanje dragoceno: ali je oseba dejansko pretehtala razpoložljive informacije in imela pooblastilo, da odstopi od avtomatiziranega rezultata? Če je odgovor ne, organizacija ne bi smela uporabiti človeškega podpisa, da bi avtomatizirana ureditev delovala bolj odgovorno, kot je.

Posvetujte se, preden koristna navada postane politika

Pri mnogih sistemih na delovnem mestu se posvetovanje začne prepozno. Dobavitelj je že izbran, pogodba je podpisana, podatkovna povezava je opredeljena, vodje so si ogledali obetaven pilotni projekt, preostali pogovor pa je opisan kot izvajanje. Na tej stopnji se od delavcev še vedno lahko zahteva povratna informacija, vendar je povratna informacija ozek kanal, ko je temeljno vprašanje že odločeno. Pravi čas za obveščanje in posvetovanje je prej, ko se organizacija še odloča, kateri problem dejansko namerava rešiti.

Direktiva 2002/14/ES vzpostavlja splošni evropski okvir za obveščanje in posvetovanje z delavci. Njen obseg in nacionalna izvedba sta pomembna, ni pa priročnik, namenjen posebej umetni inteligenci. Kljub temu njen jezik ostaja neposredno pomemben za spremembo, ki lahko bistveno spremeni organizacijo dela. Informacije morajo biti zagotovljene ob pravem času, na pravi način in z vsebino, ki predstavnikom omogoča, da jih ustrezno preučijo. Posvetovanje vključuje izmenjavo mnenj in vzpostavitev dialoga z namenom doseči dogovor o odločitvah v okviru pristojnosti delodajalca. To je precej resnejše od predstavitve dokončanega sistema in imenovanja vprašanj za sodelovanje.

Pri klepetalnem robotu bi se moralo zgodnje posvetovanje začeti pri delu in ne pri modelu. Kateri del naloge je težaven? Ali težavo povzročajo slabe informacije, neenakomerna zasedenost, nejasna politika, ponavljajoče se administrativno delo, nedostopni sistemi, neustrezno usposabljanje ali dejanska potreba po pogovornem pomočniku? Orodje lahko zelo učinkovito prikrije staro organizacijsko pomanjkljivost. Če ljudje ne morejo najti politike, ker je ta protislovna, lahko klepetalni robot ustvari bolj tekočo zmedo. Če je ekipa preobremenjena, ker so predpostavke o zasedenosti napačne, lahko orodje za pripravo besedil preobremenjenost spremeni v bolj dodelan rezultat.

Delavci in predstavniki lahko tudi ugotovijo, kje na videz neškodljiv pomočnik spremeni tveganje. Morda vedo, da je standardna fraza v določeni vrsti primera nevarna, da ima lokalni postopek izjeme, da bo jezikovni model napačno obravnaval strokovni izraz ali da bo dnevnik vprašanj razkril informacije, ki bi jih ljudje morali imeti možnost sprožiti zasebno. To ni znanje, ki se pojavi v preglednici za javno naročilo. Je del operativne resničnosti, ki določa, ali sistem pomaga ali škodi.

Posvetovanje ni veto na vsako uvedbo. Je način, kako odločitev narediti bolj pošteno. Organizacijo prisili, da poimenuje, kaj se bo spremenilo, koga bi to lahko prizadelo, kakšne dokaze ima, česa ne ve in katere zaščitne ukrepe je pripravljena sprejeti. Ustvarja zapis nestrinjanja, h kateremu se je mogoče vrniti, ko se sistem spremeni. Zasnova, ki ne preživi jasne razlage ljudem, ki opravljajo delo, ni nujno nezakonita. Vendar pa prosi za zaupanje na nenavadno šibkih temeljih.

Glas delavcev je dokaz, ne vzdušje

Obstaja navada, da se glas delavcev obravnava kot vprašanje kulture: zaželeno, toplo, težko merljivo. To je preveč blago. V spreminjajočem se delovnem procesu so ljudje, ki naletijo na izjeme, vir dokazov. Vidijo primere, ki ne sodijo v nabor podatkov, stranke, ki ne morejo uporabiti standardne poti, opremo, ki odpove na mrazu, zapis, ki se ne ujema z osebo pred njimi, mesto, kjer se fraza iz politike in človeška potreba razideta. Delovno mesto, ki jim odvzame možnost govora, zavrže del svojega sistema zaznavanja.

Toda poslušanje ni isto kot zbiranje komentarjev. Obrazec za povratne informacije lahko postane še en instrument nadzora, če nihče ne ve, kdo ga bere, kako je shranjen ali ali lahko vpliva na osebo, ki je izrazila pomislek. Uporabna pot ima zaščitne ukrepe. Ljudem omogoča, da sporočijo težavo, ne da bi jo morali prevesti v tehnični besednjak. Ločuje posamezni primer od vzorca. Predstavnikom daje dovolj zbirnih informacij, da opazijo ponavljajočo se težavo. Jasno določa, kdo je odgovoren za odziv in kdaj se bo organizacija odločila, ali bo sistem spremenila.

Ta pot mora preživeti posodobitve. Enkratno posvetovanje o prvi različici ne ureja sistema, ki pozneje dobi nove vire, drugačen model, novo občinstvo, dodatne pozive, nadzorno ploščo uspešnosti ali integracijo z drugim delovnim tokom. Klepetalni robot se spremeni, ko se spremeni njegov kontekst. Tehnično je lahko ista storitev, hkrati pa opravlja drugačno družbeno vlogo. Upravljanje naj sledi tej vlogi, ne prvotni naročilnici.

Tu je poučna nizozemska izkušnja: polje za povratne informacije ni polder model. Dialog zahteva mizo, zapisnik in možnost, da se kaj na zemljevidu premakne. Bistvo ni v tem, da bi vsako prilagoditev poziva spremenili v ustavno konvencijo. Bistvo je prepoznati mejnike, ki si zaslužijo ponovni premislek. Ali sistem zdaj uporablja podatke o zaposlenih? Ali razvršča, dodeljuje, ocenjuje ali priporoča dejanje z resnimi posledicami? Se je nabor prizadetih ljudi razširil? Je pot do zavrnitve postala težja? Ali so stari zaščitni ukrepi postali neustrezni, ker je orodje zdaj del hitrejšega in bolj obremenjenega delovnega procesa?

Ko je odgovor pritrdilen, mora glas imeti pot do upravljanja. V nasprotnem primeru organizacija od ljudi zahteva, da prepoznavajo tveganja, hkrati pa si pridržuje pravico, da prezre dokaze, ki jih razkrivajo. To ni participacija. To je neplačano testiranje z lepšimi pisarniškimi pripomočki.

Povratna informacija postane upravljanje, ko doseže imenovanega lastnika, ustvari dokumentiran odziv in lahko spremeni sistem. Izberite točko v vezju, da preverite njen namen.

Nadzor ne postane prijaznejši zaradi klepetalnega oblačka

Pogovorni sistemi ustvarjajo posebno mamljivo obliko podatkov na delovnem mestu. Vprašanja lahko razkrijejo negotovost, delovno obremenitev, zdravstvene težave, skrbi za bližnje, sindikalno dejavnost, finančni stres, zaščitene značilnosti ali preprosto dejstvo, da nekdo poskuša razumeti težko situacijo. Dnevnik je lahko videti operativno uporaben, ker prikazuje, kaj ljudje sprašujejo. Lahko pa postane tudi zemljevid ranljivosti. Dejstvo, da se podatki pojavljajo v delovnem orodju, ne odloča o tem, ali jih je treba zbirati, hraniti, analizirati ali ponovno uporabiti za ocenjevanje.

Omejitev namena je zato človeško vprašanje, preden postane skladnostni izraz. Če je pomočnik namenjen temu, da nekdo razume postopek, ali bodo njegova vprašanja pozneje uporabljena za oceno njegove usposobljenosti? Če lahko vodja vidi, katere pozive je oseba vnesla, ali se bodo ljudje izogibali prošnjam za pomoč? Če organizacija analizira ponavljajoča se vprašanja, ali lahko to stori tako, da izboljša dokumentacijo, ne da bi zgradila profil ljudi, ki so jo potrebovali? Sistem lahko ustvari videz bolj obveščenega delovnega mesta, hkrati pa posamezno učenje naredi manj varno.

Direktiva o delu prek platform ponuja uporaben, konkreten evropski primer. Njena pravila so namenjena delu prek platform, ne vsakemu delovnemu razmerju, in jih je treba brati v tem okviru. Kljub temu kažejo resno javno presojo o algoritmičnem upravljanju: kadar avtomatizirano spremljanje ali odločanje vpliva na delo, morajo obstajati preglednost, človeški nadzor in pregled, poti do pojasnil in izpodbijanja ter posebna skrb glede določenih kategorij osebnih podatkov. Direktiva ne odpravlja običajnih težav v delovnih razmerjih. Otežuje pa trditev, da je programska oprema zunaj družbenih obveznosti dela zgolj zato, ker je prišla prek aplikacije.

Za splošno delovno okolje je praktično načelo ožje in uporabnejše od velike obljube o zasebnosti. Zbirajte manj. Poimenujte namen. Ločite izboljševanje storitev od ocenjevanja uspešnosti, razen če za njun obstoj obstaja jasen in obranljiv razlog. Ne spreminjajte vprašanj zaposlenega v neprijavljeno oceno usposobljenosti. Odsotnosti vprašanja ne obravnavajte kot dokaz samozavesti. Vodji ne dovolite brskanja po sledeh pogovorov zgolj zato, ker platforma to tehnično omogoča. Tehnična dostopnost ni legitimen namen.

Obstaja tudi vidik dostojanstva, ki ga ni mogoče strniti v podatkovno polje. Delavec bi moral imeti možnost vprašati, kako rešiti neznano težavo, ne da bi s tem ustvaril trajen sum, da je manj sposoben od nekoga, ki že pozna odgovor. Učenje je vedno povezano z negotovostjo. Delovno okolje, ki negotovost preveč vneto beleži in razvršča, lahko privede do manj vidnih vprašanj in slabših odločitev. Molk je zelo urejena metrika. Ni pa nujno dobro znamenje.

Usposabljanje mora vključevati pravico do dvoma

Pismenost na področju umetne inteligence se pogosto opisuje kot sposobnost dobre uporabe orodja. To je le polovica zahteve. Na delovnem mestu mora pismenost vključevati tudi sposobnost prepoznavanja, kdaj orodju ne bi smeli zaupati vprašanja, kdaj odgovoru manjka podpora, kdaj ima priporočilo posledice, ki segajo onkraj zaslona, in kdaj je treba zadevo posredovati naprej. Kdor zna sestaviti urejen poziv, a ne prepozna zavajajočega izida, ni povsem opremljen. Naučil se je vmesnika, ne pa odgovornosti, ki jo ta prinaša.

4. člen uredbe o umetni inteligenci od ponudnikov in uvajalcev zahteva, da sprejmejo ukrepe za zagotovitev zadostne ravni pismenosti na področju umetne inteligence med zaposlenimi in drugimi osebami, ki v njihovem imenu delajo s sistemi umetne inteligence, pri čemer upoštevajo njihovo tehnično znanje, izkušnje, izobrazbo, usposabljanje in okoliščine uporabe sistema. To je modro kontekstualno. Receptor, klinični delavec, socialni delavec, inženir, nadrejeni in pooblaščenec za varstvo podatkov morda potrebujejo različno znanje. Ena splošna predstavitev, ki ji sledi kviz o besedišču, verjetno ne bo izpolnila praktičnega namena.

Dobro usposabljanje se začne pri dejanskem delu. Kateri so odobreni viri pomočnika? Kakšen odgovor bi moral sprožiti preverjanje? Česa nikoli ne smete vnesti? Katere izide je mogoče uporabiti kot osnutek in kateri zahtevajo drug vir? Kaj naj nekdo stori, ko pomočnik ni na voljo, je napačen ali nenavadno prepričan vase? Kako popravijo zapis? Kdo lahko odgovarja na vprašanja o orodju, ne da bi vsako skrb obravnaval kot IT-prijavo? To so običajna vprašanja, kar je spodbudno. Prav v običajnih vprašanjih se skrivajo varne navade.

Usposabljanje mora doseči tudi nadrejene. Če vodja obseg pozivov, stopnjo sprejetosti ali odzivni čas razlaga kot merilo predanosti, bodo delavci orodje doživljali drugače, kot ga je opisala predstavitev ob uvedbi. Nadrejeni morajo razumeti omejitve teh signalov in tveganja pristranskosti avtomatizacije. Vedeti morajo, da izid ni dejstvo o uspešnosti zgolj zato, ker je bil ustvarjen iz podatkov z delovnega mesta. Potrebujejo jasno navodilo, naj ne ustvarjajo neuradnih praks ocenjevanja okoli sistema, ki je bil uveden za pomoč.

Najmočnejša oblika pismenosti vključuje pravico reči: »Ne vem, ali je ta odgovor varen za uporabo.« To ni priznanje neuspeha. To je strokovna presoja v negotovosti. Organizacije pogosto trdijo, da si želijo odgovorne uporabe, nato pa zgradijo kulturo, v kateri je negotovost videti kot neučinkovitost. Ti dve stališči ne moreta dolgo sobivati. Če je previden dvom kaznovan, bo orodje uporabljano samozavestno vse do trenutka, ko samozavest postane draga.

Kako izgleda pošteno ocenjevanje

Sistema ne bi smeli presojati zgolj po tem, ali ga ljudje uporabljajo. Sprejetje je dvoumen signal. Ljudje lahko uporabljajo klepetalnega robota, ker jim resnično prihrani čas, ker to pričakuje vodja, ker je do alternativ težje dostopati, ker je vgrajen v obvezen zaslon ali ker bi zavrnitev uporabe izgledala kot pomanjkanje zavzetosti. Noben od teh razlogov ne dokazuje, da je ureditev poštena ali koristna.

Boljša ocena se vpraša, kaj se je spremenilo pri delu. Ali so ljudje porabili manj časa za iskanje preverjenega gradiva ali le več časa za preverjanje tekočih odgovorov? Ali je orodje zmanjšalo podvajanje administrativnih opravil ali je povečalo pričakovani obseg opravljenega dela? Ali je olajšalo razumevanje zahtevnega postopka ali je poenotilo odziv, ki bi moral ostati občutljiv na okoliščine? Ali se pojavlja več težav, ker imajo zaposleni preprosto pot do vprašanj, ali je težav vidnih manj, ker so se ljudje naučili, da spraševanje pusti sled? To so različni izidi, tudi če nadzorna plošča prikazuje podobno uporabo.

V oceno bi morali vključiti ljudi, ki jih to najbolj prizadene, in ohraniti razliko med izmerjenim opažanjem in željo. »Pričakujemo, da bo asistent zmanjšal rutinski napor« je predlog. »Zaposleni so poročali, da je asistent med opredeljeno pilotno fazo zmanjšal podvajanje iskanja« je opažanje, če je bilo dejansko zabeleženo. »Asistent je izboljšal kakovost« potrebuje opredelitev kakovosti, okoliščine in dokaze. Besede, kot so izboljšanje, sprejetje in učinkovitost, lahko skrijejo izjemno veliko nepreverjene politike.

Obstajati bi morala tudi vnaprej dogovorjena točka, na kateri bo organizacija sistem ponovno preučila. Klepetalni robot, ki preseže svoj prvotni namen, začne prejemati drugačne podatke ali postane del delovnega toka ocenjevanja, ne bi smel biti zaščiten z dejstvom, da je bil nekoč odobren za nekaj manjšega. Pregled ni znak, da prvotni ekipi ni manjkalo zaupanja. Je priznanje, da sistemi pridobijo nove posledice, ko ljudje okoli njih zgradijo navade.

Delo ILO o generativni umetni inteligenci in delovnih mestih je tu v pomoč, ker ločuje potencialno izpostavljenost od dejanskih izidov. Tehnologija lahko dopolnjuje, izpodriva ali spreminja naloge, odvisno od tega, kako se organizacije odločijo, da jo bodo uvedle. Enaka zadržanost je koristna znotraj enega delovnega okolja. Zmožnost sama po sebi ne prinaša svojega družbenega rezultata. Klepetalni robot lahko zmanjša garanje, intenzivira delo, prerazporedi strokovno znanje, oslabi poklicno presojo ali ustvari boljšo pot do dokazov. Tehnična možnost ne odloča o tem, kaj se zgodi. Odločajo zasnova, vodstvene odločitve in ravnovesje glasov.

Meja bi morala biti zapisana

Vsaka resna uvedba potrebuje kratko, preprosto izjavo o svojih mejah. Ne slogan o odgovorni umetni inteligenci in ne pravni dokument, tako gost, da lahko bistvo najde le ekipa za javna naročila. Delujoča meja opisuje namen, ljudi, na katere vpliva, informacije, ki jih sistem lahko uporablja, informacije, ki jih ne sme uporabljati, odločitve, pri katerih lahko pomaga, odločitve, ki jih ne sme sprejemati, osebo, ki je lastnica delovnega toka, pot za pritožbo, okoliščine, v katerih bi bilo treba orodje začasno ustaviti, in datum, na katerega bo ureditev pregledana.

Ta izjava bo nepopolna. Delo se spreminja. Politike se spreminjajo. Modeli se spreminjajo. Toda samo dejanje zapisa spremeni kakovost pogovora. Zaposlenemu da nekaj konkretnega, s čimer lahko primerja svoje izkušnje. Predstavniku da pot, da vpraša, ali se je orodje razširilo prek svoje opredeljene vloge. Vodji da opomnik, da koristen asistent ni splošno dovoljenje za zbiranje več podatkov ali hitrejše sprejemanje več odločitev. Revizorju, regulatorju ali prihodnji ekipi pa da zapis, ki ni odvisen od institucionalnega spomina.

Meja naj ločuje tudi priporočilo od odločitve. Klepetalnik lahko predlaga povzetek, naslednji korak ali osnutek. Sistem naj pove, kdaj predlog temelji na nepopolnih informacijah. Človek, ki sprejema odločitev, naj bo viden v zapisu. Če je dejanje pozneje izpodbijano, mora organizacija znati ugotoviti, kateri model ali pravilo je bilo vpleteno, katera različica, katero gradivo je vplivalo na rezultat, kdo ga je pregledal in zakaj je bila sprejeta končna odločitev. To ni zahteva, da vsako vsakdanje vprašanje postane spis. Gre za sorazmernost: bolj ko rezultat vpliva na posameznika, bolj mora ostati ohranjena pot do pojasnila.

Obstaja uporaben preizkus. Ali bi organizacija lahko razložila to mejo novemu sodelavcu v njegovem prvem tednu, ne da bi uporabila besede »čarobno«, »brezšivno« ali »sistem ve«? Ali bi lahko isto mejo razložila predstavniku delavcev, ne da bi zamenjala temo? Ali bi jo lahko razložila osebi, ki je prejela neugoden izid? Če je odgovor ne, težava ni v tem, da občinstvu manjka razumevanja. Meja je verjetno preveč nejasna.

Jasnost ima tiho vrlino. Zaradi nje je težje trditi, da sistem le pomaga, ko v resnici neposredno usmerja. Zaradi nje je težje delavcu reči, da ostaja odgovoren, hkrati pa mu ne dati nobene pristojnosti, da bi ugovarjal. Zaradi nje je težje uporabiti prijazen ton kot nadomestilo za odgovorno odločitev. V upravljanju je tovrstna nevšečnost pogosto prednost.

Majhna točka z naše strani in večja, človeška

Pri Dweve je ustrezni oblikovalski nagon skromen: pomembni odgovori naj ohranijo pot nazaj do dokazov, omejitev in osebe, odgovorne za ukrepanje na njihovi podlagi. To je stališče o tem, kako naj sistem podpira presojo, ne pa trditev, da lahko programska oprema razreši razmerja moči na delovnem mestu ali nadomesti institucije, ki ščitijo ljudi pri delu. Dobro strukturiran odgovor lahko naredi pogovor uporabnejši. Ne more pa odločiti, ali je imel kdo dovolj časa, pooblastil ali varnosti, da bi mu ugovarjal.

Večje vprašanje pripada delodajalcem, delavcem, predstavnikom, varnostnim ekipam, strokovnjakom za varstvo podatkov, regulatorjem in javnosti. Oni odločajo, ali bo klepetalnik postal orodje za boljše delo ali prijeten vmesnik za starejšo navado: iz ljudi iztisniti več presoje, hkrati pa jim dati manj besede pri pogojih, v katerih se presoja izvaja. Nobena nastavitev modela tega ne bo rešila sama od sebe.

Prijaznosti ne zamenjujte s poštenostjo

Klepetalnik je lahko pri delu uporaben. Novemu sodelavcu lahko pomaga najti postopek, strokovnjaku pripravi prvi osnutek, naredi politiko manj nejasno ali ekipi prihrani nepotrebno iskanje. To so vredna prizadevanja. Napaka pa je misliti, da je prijazen vmesnik prijazen tudi do organizacijskih posledic. Bolj ko sistem vpliva na razporejanje, ocenjevanje, dostop, disciplino ali poročilo o tem, kaj se je zgodilo, bolj skrbno je treba omejiti njegovo avtoriteto.

To zahteva nekaj neuglednih zavez: posvetovanje, preden se ureditev utrdi; usposabljanje, ki vključuje dvom; prakse ravnanja s podatki, ki spoštujejo učenje in zasebnost; človeški nadzor z resničnimi pooblastili; pot za posamezne in kolektivne ugovore; zapise, ki ločujejo predlog od odločitve; ter redni pregled, ko se vloga sistema spremeni. Nobena od teh ni zavrnitev tehnologije. To so pogoji, pod katerimi lahko tehnologija vstopi na delovno mesto, ne da bi od ljudi najprej zahtevala, da se odpovejo svoji presoji.

Klepetalniku ni treba postati sodelavec. Lahko ostane orodje, kar je pogosto boljši in poštenejši cilj. Orodja so lahko odlična. Ne potrebujejo mitologije. Potrebujejo namen, mejo, lastnika in nekoga, ki jih sme odložiti, ko ne pomagajo več.

Viri