Kdo dobi novo delo, ko avtomatizacija spremeni delo?

Avtomatizacija redko odpravi cel poklic v enem samem čistem zamahu. Preuredi naloge, presojo, usposabljanje, nadzor in odgovornost. Pravo vprašanje je, kdo...

Kdo dobi novo delo, ko avtomatizacija spremeni delo?

Delo ni nikoli le seznam opravil

Eno najbolj zavajajočih vprašanj v razpravi o avtomatizaciji je, ali bo stroj prevzel delovno mesto. Delo le redko predstavlja ena sama stvar, ki bi jo lahko vzeli iz človeka in prenesli v strežnik. Je skupek nalog, presoj, rutin, odnosov, pooblastil in drobcev lokalnega znanja. Nekatere od teh delov je mogoče podpreti. Nekatere je mogoče standardizirati. Nekatere je mogoče odstraniti. Druge postanejo pomembnejše prav zato, ker je bilo rutinsko delo prestavljeno drugam.

Sprememba zato pride pred spremembo naziva delovnega mesta. Sistem za razporejanje lahko spremeni, koga prosijo za delo, tudi če razpored še vedno nosi ista imena. Dokumentacijski pomočnik lahko spremeni, kaj se šteje za razumno obremenitev, tudi če pogodba še vedno govori o socialnem delavcu. Nadzorna plošča uspešnosti lahko neformalno presojo spremeni v cilj, tudi če nihče ne reče, da je plošča vodja. Delo se je spremenilo. Organizacija je morda preprosto pozabila spremeniti svoj besednjak.

Zato resno vprašanje ni, ali avtomatizacija v abstraktnem smislu uničuje delovna mesta. Vprašanje je, kdo odloča, katere naloge se premaknejo, katere nove naloge se pojavijo, katera tveganja so sprejeta, kateri ljudje so usposobljeni in kdo ima pooblastilo, da izpodbija rezultat. Odgovor določa, ali tehnična sprememba postane pravičen prehod, intenzifikacija dela ali tihi prenos moči z ljudi, ki delo opravljajo, na sistem, ki ga meri.

Predstavljajte si sestavljen delovni dan, oblikovan iz znanih značilnosti in ne iz poročila katerega koli imenovanega delodajalca. Ekipa prejme orodje, ki pripravlja povzetke, predlaga prednostne naloge in meri čas, porabljen za vsak primer. Orodje je opisano kot pomoč. Ekipi povedo, da nobena vloga ne bo ukinjena. V nekaj tednih so lahki primeri opravljeni hitreje, težki primeri ostanejo, cilj se preračuna glede na hitrejše povprečje, ljudje, ki dvomijo v predlog, pa porabijo več časa za dokumentiranje, zakaj so to storili. V tem zaporedju nič ne zahteva, da stroj prevzame delovno mesto. Kljub temu je bilo delo na novo zasnovano okoli stroja.

To razlikovanje je pomembno, ker spremeni, na kaj mora odgovoriti odgovorna uvedba. Če se delo preureja, morajo delavci imeti besedo pri načrtu, ne pa motivacijski plakat, ko je načrt že dokončan. Če se presoja seli v sistem točkovanja, morajo prizadeti ljudje imeti način, da rezultat pregledajo in izpodbijajo. Če je za delovanje nove ureditve potrebno usposabljanje, je usposabljanje del same spremembe, ne ugodnost, ki se ponudi, ko je proračun radodaren.

Začnite s tem, kaj ljudje dejansko počnejo

Dobro prehodno delo se začne z opazovanjem. Preden ekipa izbere model, mora opisati delo, kot se dejansko opravlja, vključno z nerodnimi deli, ki se nikoli ne pojavijo v diagramu procesa. Katere odločitve so rutinske? Katere so odvisne od konteksta? Katere zahtevajo pogovor, poklicni odnos ali fizični pregled? Kje ljudje opazijo, da je evidenca nepopolna? Kje kompenzirajo za sistem, ki ne pozna razlike med nenavadnim primerom in slabim?

To ni argument za romantiziranje človeškega dela. Nekatere rutine so dolgočasne, ponavljajoče se in slabo primerne za človeka, ki ima druge stvari za početi. Odprava nepotrebnega prepisovanja, iskanja ali preoblikovanja je lahko resnična izboljšava. Bistvo je poimenovati nalogo, ki bi se morala spremeniti, namesto da bi poklic obravnavali kot en sam blok. Sistem, ki odpravi podvajanje vnosa, lahko vrne čas. Sistem, ki odpravi čas, potreben za preverjanje negotovega odgovora, lahko ustvari hitrejši način, da se zmoti.

Uporaben zemljevid nalog ima vsaj štiri plasti. Prva je vidno dejanje: razvrsti, osnutek, načrtuj, preveri, odgovori ali odobri. Druga je presoja, skrita v njem: kaj šteje za dokončano, nujno, varno, pošteno ali pomembno. Tretja je odgovornost, povezana s presojo: kdo mora pojasniti odločitev, jo popraviti in nositi posledice. Četrta je učna zanka: kdo opazi nov vzorec, posodobi prakso in sistemu sporoči, da njegova stara bližnjica ne deluje več.

Te plasti so pogosto razporejene po celotni ekipi. Receptor lahko opazi podrobnost, ki jo analitik politik formalizira. Tehnik lahko prepozna napako, ki jo inženir pozneje kodira kot pravilo. Socialni delavec lahko ve, da je besedna zveza v obrazcu znak stiske in ne manjkajoče polje. Sistem lahko vsako osebo podpira drugače, vendar ne sme izbrisati poti, po kateri znanje vstopa v organizacijo. Če so ljudje, ki vidijo izjemo, izključeni iz oblikovanja, bo sistem zelo dosleden pri tem, da je ne bo opazil.

Delo Mednarodne organizacije dela o generativni umetni inteligenci je tu v pomoč, ker ločuje izpostavljenost nalog od usode celotnih poklicev. Njena analiza ugotavlja, da je veliko delovnih mest le delno izpostavljenih in da je bolj verjetno, da bodo dopolnjena kot v celoti nadomeščena. To ne pomeni, da je prehod neškodljiv. ILO opozarja na spremembe v kakovosti dela, intenzivnosti dela in avtonomiji ter pravi, da je izid odvisen od tega, kako je tehnologija uvedena. Naloga lahko formalno ostane človeška, medtem ko razmere okoli nje postanejo manj humane.

Ista analiza tudi svari pred obravnavanjem kazalnikov izpostavljenosti kot napovedi izgube delovnih mest. Ocena izpostavljenosti lahko pokaže, kje bi tehnologija lahko vplivala na delo. Ne more nam povedati, ali bo delodajalec to možnost uporabil za zmanjšanje napornosti, povečanje pretočnosti, odpravo diskrecije ali ustvarjanje boljše storitve. To je vodstveno in družbeno vprašanje. Številka lahko pokaže na vrata. Ne more nam povedati, komu je dovoljeno skozi njih.

Avtomatizacija spreminja mrežo dela, ne le enega polja v organizacijski shemi. Zemljevid ohranja presojo in odgovornost vidni.

Dopolnjevanje lahko še vedno okrepi delo

Beseda dopolnjevanje zveni pomirjujoče, ker nakazuje, da človek ostaja v sliki. Sama po sebi ni zagotovilo za boljše delo. Sistem lahko delavca dopolnjuje tako, da mu da uporaben pripomoček, ali tako, da mu da večji kup primerov in manj časa za vsakega. Lahko izboljša kakovost odločitve ali pa odločitev naredi videti dovolj objektivno, da nihče ne čuti, da jo sme postaviti pod vprašaj.

Intenzivnost dela ni le število opravljenih nalog. Vključuje pričakovano hitrost, prenašanje prekinitev, čustveni napor pri obravnavi izjem in količino pozornosti, ki je na voljo za premišljeno odločitev. Orodje za pripravo osnutkov lahko prihrani čas pri rutinskem pismu, hkrati pa poveča število pisem, ki naj bi jih oseba pripravila. Optimizator poti lahko skrajša vožnjo, a vsako prihranjeno minuto napolni z novim obiskom. Nadzorna plošča lahko razkrije ozko grlo, nato pa to ozko grlo tiho spremeni v problem posameznikove uspešnosti.

Ugotovitve ILO postavljajo kakovost dela ob bok količini dela z razlogom. Delovno mesto lahko preživi, medtem ko se avtonomija krči. Oseba lahko obdrži naziv, izgubi pa diskrecijsko pravico, zaradi katere je bilo delo strokovno. Prehod je lahko tudi neenakomeren. Delavci, ki že imajo dostop do zanesljivih sistemov in usposabljanja, lahko pridobijo prednost, medtem ko so delavci v istem poklicu prepuščeni zahtevnim primerom z manj časa in manj sredstvi. Skupna slika je lahko videti kot produktivnost, medtem ko je vsakdanja izkušnja čakalna vrsta, ki se nikoli povsem ne izprazni.

Zato bi moral odgovoren predlog opisati predvideno izboljšavo s pojmi, ki jih delavec lahko preizkusi. Bo sistem odpravil podvojen korak? Bo olajšal iskanje ustreznih informacij? Bo pustil čas za pogovor, ki ga ni mogoče avtomatizirati? Bo zmanjšal izpostavljenost nevarni nalogi? Kaj se zgodi s prihranjenim časom? Če je odgovor preprosto ta, da bo ekipa obdelala več, organizacija ne razpravlja o razširitvi zmogljivosti. Razpravlja o novem cilju obsega dela s prijaznim vmesnikom.

Obstaja tudi problem kakovosti. Ko sistem obravnava običajne primere, ljudje vidijo večji delež neobičajnih primerov. Preostalo delo postane bolj dvoumno, bolj posledično ali bolj odvisno od izkušenj. To je lahko dober razlog za vlaganje v strokovno znanje. Lahko pa se uporabi tudi za sklep, da je delo zdaj preveč nepravilno, da bi si zaslužilo ustrezen postopek. Prva pot obravnava presojo kot zmogljivost. Druga jo obravnava kot stroškovno središče, ki ga še ni bilo mogoče uspešno stisniti.

Načrt prehoda bi moral zato vključevati kontrafaktualni scenarij, ki je le redko zapisan: kako bo delo videti, če bo sistem dovolj natančen, da bo uporaben, a ne dovolj natančen, da bi mu zaupali brez pregleda? To je običajno stanje za številne sisteme za podporo odločanju. Odgovor bi moral opredeliti, kje poteka pregled, koliko časa traja, katere dokaze potrebuje in kako lahko oseba zavrne priporočilo, ne da bi bila označena za neučinkovito.

Skriti upravitelj v programski opremi

Avtomatizacija postane upravljanje delovnega okolja, ko programska oprema začne razporejati, usmerjati, ocenjevati ali nadzorovati delo. Ni je treba imenovati umetna inteligenca. Fiksno pravilo, ki dodeli nalogo na podlagi razpoložljivosti, lahko oblikuje dan. Sistem ocenjevanja lahko vpliva na dostop do prihodnjega dela. Model, ki napoveduje verjetno zamudo, lahko spremeni, kdo dobi zahtevno izmeno. Tehnična razlika med pravilom in naučenim modelom je pomembna za preglednost, vendar delavec oboje doživlja skozi odločitev, ki prispe.

Študija Evropske komisije o algoritmičnem upravljanju to področje opisuje kot sklop praks, ki lahko avtomatizirajo ali podpirajo tradicionalne upravljavske funkcije. Te funkcije vključujejo zaposlovanje, razporejanje nalog, spremljanje, ocenjevanje in odločitve o napredovanju ali prenehanju delovnega razmerja. Študija tudi ugotavlja, da so politični in pravni odzivi razpršeni po več instrumentih in niso zajeti v enem samem enotnem kodeksu delovnega okolja. Ta razdrobljenost je upravna dejanskost, ne dovoljenje za pretvarjanje, da programska oprema nima učinkov, podobnih upravitelju.

Algoritemsko upravljanje pogosto uvedemo z majhno operativno obljubo. Hitreje poveži ljudi z nalogami. Opazi zmogljivost, preden se razpored zlomi. Nadrejenemu omogoči jasnejši pregled. Zaznaj varnostni pomislek. Vsaka obljuba je lahko razumna. Tveganje se pojavi, ko meritev postane nadomestek za delo. Odzivni čas nadomesti skrb. Ocena nadomesti zanesljivost. Spremljanje zaslona nadomesti trud. Nadomestek je lažje šteti, zato ga organizacija začne obravnavati kot bolj resničnega od tistega, kar naj bi opisoval.

Ko nadomestek ureja dostop do dela, se spremeni breme dokazovanja. Vodja lahko odločitev običajno pojasni v okviru, tudi če je pojasnilo slabo. Sistem lahko ustvari rezultat, ki je videti nevtralen, ker so njegovi vnosi skriti. Delavec mora nato izpodbijati tako rezultat kot tudi predstavo, da je rezultat prava vrsta dokaza. Zato so dostop do informacij, človeški pregled in smiselna izpodbojnost pomembni. Odgovor, da je sistem zapleten, ni pojasnilo. Je povabilo, naj nehamo spraševati.

Nadzor si zasluži posebno pozornost. Podatki, zbrani za usklajevanje, se lahko ponovno uporabijo za ocenjevanje. Podatki, zbrani za varnost, se lahko preusmerijo v disciplinske postopke. Podatki, zbrani med delom, lahko razkrijejo občutljive informacije o zdravju, skrbstvenih obveznostih ali povezavah. Dejstvo, da sistem lahko zbira signal, ne pomeni, da je signal pošteno uporabiti. Delovno mesto ni laboratorij, v katerem lahko domnevamo privolitev, ker je zaposleni pred začetkom izmene kliknil skozi zaslon.

Evropska konfederacija sindikatov je zagovarjala, da so za vsiljive aplikacije na delovnem mestu potrebne strožje omejitve, da delavci in njihovi predstavniki prejmejo informacije v preprostem jeziku ter da posvetovanje poteka pred uvedbo in večjimi spremembami. Njeno stališče algoritemske sisteme povezuje tudi s kolektivnimi pogajanji, usposabljanjem delavcev in pravico do preverjanja in popravljanja odločitev. To niso tehnični dodatki. Priznavajo, da je delovno mesto družbena ustanova in da prenos avtoritete v programsko opremo spremeni ravnovesje znotraj te ustanove.

Posvetovanje je del načrtovanja

Informiranje in posvetovanje se včasih obravnavata kot ceremonialni stopnji, ki sledita dejanski odločitvi. Evropski okvir nam ne daje razloga, da bi ju tako obravnavali. Okvir Komisije v zvezi z Direktivo 2002/14/ES predstavlja pravočasno informiranje in posvetovanje kot del tega, kako organizacije obravnavajo pomembne spremembe in nove oblike organizacije dela. Direktiva vzpostavlja splošni okvir z nacionalnimi izbirami glede področja uporabe in izvajanja. Ni priročnik o umetni inteligenci. Je opomnik, da ima pomembna sprememba dela postopkovno življenje, preden postane tehnična uvedba.

Časovni okvir je pomemben. Sestanek po tem, ko je bil dobavitelj izbran in potek dela konfiguriran, ni enak pogovoru, medtem ko se organizacija še odloča, kateri problem želi rešiti. Zgodnja vključenost delavcem omogoči, da vprašajo, kateri podatki so potrebni, katere naloge se dejansko spreminjajo, kako bodo obravnavane napake in kako izgleda rezervni načrt. Prav tako razkrije znanje, ki ga je težko kupiti od zunaj. Ljudje, ki opravljajo delo, vedo, kje je proces krhek, ker so leta skrbeli, da ostane pokonci.

Posvetovanje ne zahteva, da je vsaka odločitev soglasna. Zahteva, da se ljudi, ki jih sprememba zadeva, obravnava kot udeležence v spremembi, ne kot senzorje, ki bodo po uvedbi poročali o odporu. Resen postopek bi moral zabeležiti, kaj je bilo predlagano, kaj so delavci izpodbijali, kaj se je zaradi tega spremenilo in katera nesoglasja ostajajo. Če je predlog kljub vsemu sprejet, bi morala organizacija znati pojasniti, zakaj. To je zrelejše od pretvarjanja, da pomanjkanje soglasja pomeni, da nihče ni imel mnenja.

Obstaja praktičen razlog, da ta zapis postane izrecen. Sistemi se po uvedbi spreminjajo. Model se posodobi, vir podatkov se spremeni, doda se nov oddelek, prilagodi se meritev vrednotenja ali dobavitelj prenovi pravila politike. Enkratno posvetovanje ne more zajeti sistema, ki se spreminja. Predstavniki delavcev potrebujejo stalno pot, da opazijo učinke in zahtevajo ponovni pregled. V nasprotnem primeru se je organizacija posvetovala o prvi različici, do tretje različice pa je upravljala povsem drug stroj.

Predlog ETUC za direktivo o algoritemskih sistemih na delovnem mestu zahteva oceno učinka pred uvedbo in v rednih presledkih po njej, ob sodelovanju delavcev in njihovih predstavnikov. To je uporabno načelo oblikovanja tudi tam, kjer predlog ni zakon. Ocena učinka ne bi smela biti dokument, ki dokazuje, da je bila odločitev že sprejeta. Biti bi morala prostor, kjer organizacija navede, kdo bi lahko bil prizadet, kaj bi lahko šlo narobe, katere dokaze bo spremljala in kdo ima pooblastilo za spremembo smeri.

Enako načelo velja za majhne organizacije. Manjši delodajalec morda nima sveta delavcev ali posebne pisarne za podatke, vendar mora še vedno razumeti, kaj sistem spreminja za ljudi, ki ga uporabljajo. Papirologija je lahko lažja. Vprašanja ne morejo izginiti. V nasprotnem primeru lahko skromna uvedba postane velik upravljavski problem, pri katerem ni nikogar, ki bi bil zadolžen za opažanje težav.

Usposabljanje je delovna moč

Usposabljanje je pogosto prva obljuba, ki je dana, in prva stvar, ki je okrnjena. Načrt uvedbe pravi, da bodo zaposleni dobili predavanje. Predavanje postane predstavitev. Predstavitev postane posnetek. Posnetek postane povezava v učnem portalu, za katero se pričakuje, da si jo je vsak ogledal, preden novi sistem tiho spremeni pravila dela.

To ni tisto, kar ljudje potrebujejo. Potrebujejo dovolj razumevanja, da prepoznajo, kaj sistem počne, česa ne počne, katere podatke uporablja, kako je treba preverjati njegove rezultate, kdaj ga je treba prezreti, kako prijaviti napako in kaj se zgodi, če zavrnejo priporočilo. Potrebujejo čas za vajo z dejanskimi primeri in robnimi pogoji svojega dela. Vedeti morajo, kdo lahko odgovori na vprašanje, ne da bi ga spremenil v zahtevek, ki izgine v čakalni vrsti dobavitelja.

Akt o umetni inteligenci to praktično točko izraža v pravnem jeziku. Ponudniki in uvajalci morajo sprejeti ukrepe za zagotovitev ustrezne ravni pismenosti na področju umetne inteligence za ljudi, ki v njihovem imenu uporabljajo sisteme, ob upoštevanju njihovega tehničnega znanja, izkušenj, izobrazbe, usposabljanja in okoliščin, v katerih bo sistem uporabljen. Za določene visoko tvegane sisteme morajo imeti osebe, zadolžene za človeški nadzor, ustrezno usposobljenost, znanje in pooblastila. Akt ohranja tudi obstoječe pravice do obveščanja in posvetovanja delavcev in njihovih predstavnikov. Pismenost je zato povezana s pooblastili, ne le s poznavanjem zaslona izdelka.

Stališče ETUC o razvoju spretnosti delavcev gre dlje v smeri, ki je pomembna za pravičnost. Pismenost na področju umetne inteligence obravnava kot sposobnost kritičnega razumevanja, kako umetna inteligenca vpliva na delo in poklice, ne le kot sposobnost upravljanja orodja za delodajalca. To razliko je zlahka spregledati. Če usposabljanje človeka nauči, kako sprejeti predlog, ne pa tudi, kako dvomiti o sistemu, ki ga je ustvaril, je organizacija usposobila za skladnost, ne za sposobnost.

Uporaben načrt usposabljanja ima vsaj tri ciljne skupine. Prva je oseba, ki sistem uporablja pri običajnem delu. Potrebuje operativno pismenost: vnose, rezultate, negotovost, eskalacijo in varno uporabo. Druga je oseba, ki delo pregleduje ali nadzira. Potrebuje pismenost za odločanje: dokaze, pristranskost, nestrinjanje, razveljavitev in posledice. Tretja je skupina, ki zastopa delavce ali nadzira organizacijo. Potrebuje pismenost za upravljanje: namen, tokove podatkov, učinke, spremembe, dostop do strokovnega znanja in poti do pravnih sredstev.

Usposabljanje ima tudi problem porazdelitve. Tisti z najmanj časa in najšibkejšim pogajalskim položajem pogosto dobijo kratko generično predavanje. Tisti, ki sistem oblikujejo, dobijo podrobne informacije in neposredno povezavo do ponudnika. Rezultat je hierarhija znanja, ki sledi moči. Če bo nov sistem spremenil delo mnogih ljudi, bi morala organizacija več truda nameniti tistim, ki bodo s sistemom živeli, kot tistim, ki bodo predstavili zagon.

Usposabljanje bi morali obravnavati kot dokaz pripravljenosti, ne kot ceremonialno stopnjo dokončanosti. Ali delavec prepozna primer, ki zahteva človeški pregled? Ali zna pojasniti, zakaj je bilo priporočilo zavrnjeno? Ali lahko nadzornik začasno ustavi delovni tok? Ali lahko predstavnik zahteva informacije, potrebne za oceno spremembe? Ali lahko organizacija pokaže, kaj se je zgodilo, ko je nekdo izrazil pomislek? Če je odgovor ne, problem ni v tem, da delavci niso dovolj navdušeni. Sistem ni bil uveden odgovorno.

Spretnosti postanejo smiselne šele, ko spremlja njih avtoriteta za postavljanje vprašanj, preglasovanje in preoblikovanje sistema.

Kdo dobi novo delo?

Ko se rutina preseli v programsko opremo, delo ne izgine v oblaku. Pojavi se nekje drugje. Nekdo piše pravila, ureja podatke, preverja izjeme, obravnava pritožbe, vzdržuje integracijo, spremlja varnost in pojasnjuje rezultate. Te naloge so lahko nove vloge, nove odgovornosti znotraj obstoječih vlog ali nevidno delo, dodano tistim, ki imajo že tako najmanj prostega časa.

Vprašanje porazdelitve je zato konkretno. Kdo dobi tehnično delo? Kdo dobi interpretativno delo? Kdo je izpostavljen tveganju, ko sistem odpove? Kdo prejme prihranjeni čas zaradi avtomatizacije? Od koga se pričakuje, da se bo naučil novega procesa brez spremembe plače, delovne obremenitve ali statusa? Prehod, ki odgovori le na prvo vprašanje, lahko ustvari majhno skupino specialistov in veliko večjo skupino ljudi, katerih delo se meri natančneje.

Ni univerzalnega pravila, da mora vsak prihranek postati prosti čas ali da mora vsaka nova naloga postati nov naziv delovnega mesta. Organizacije imajo različne namene in kolektivne pogodbe. Toda porazdelitev bi morala biti premišljena in o njej bi se moralo dati razpravljati. Če avtomatizacija odstrani ponavljajočo se administracijo, bi lahko bila korist več časa za oskrbo, raziskave, vzdrževanje ali stik z javnostjo. Če ustvari naloge spremljanja, te naloge potrebujejo zmogljivost in priznanje. Če poveča vrednost kontekstualnega strokovnega znanja, ljudi s tem znanjem ne bi smeli obravnavati kot začasne ovire za čistejši nabor podatkov.

Politike znanj so pomembne, ker lahko prehod poglobi obstoječe neenakosti. ILO ugotavlja, da je v njeni analizi izpostavljenost ženske zaposlitve generativni umetni inteligenci višja, deloma zato, ker so ženske nadpovprečno zastopane v pisarniških delih. To je ugotovitev o morebitni izpostavljenosti, ne napoved o tem, kdo bo izgubil službo. Vseeno kaže, zakaj lahko nevtralno zveneča uvedba povzroči neenake učinke. Če so najbolj prizadeta delovna mesta hkrati tista z manj priložnostmi za plačano usposabljanje ali napredovanje, se koristi ne bodo porazdelile kar same od sebe. Čudeži ostajajo nezanesljiva strategija upravljanja človeških virov.

Starost, invalidnost, skrb za druge, jezik in zaposlitveni status lahko prav tako vplivajo na to, kdo ima od novega sistema koristi. Orodje, ki predpostavlja neprekinjeno razpoložljivost, lahko prikrajša tiste, ki skrbijo za druge. Merilo uspešnosti, ki ne upošteva dostopnih načinov dela, lahko spremeni prilagoditve v odstopanje. Sistem, ki uporablja ozek jezikovni model, lahko ljudem, ki komunicirajo v drugem jeziku, povzroči dodatno preverjanje. To niso robni primeri, ki bi jih lahko prestavili v kasnejše poročilo o enakosti. So del tega, kaj pomeni, da sistem organizira delo.

Platformno gospodarstvo daje Evropi jasno priložnost za preučevanje teh dinamik. Direktiva o delu prek platform, sprejeta kot Direktiva (EU) 2024/2831, obravnava zaposlitveni status in algoritemsko upravljanje pri delu prek platform. Vključuje pravila o preglednosti, varstvu podatkov, človeškem nadzoru in pregledu pomembnih odločitev ter pravice do pojasnil in izpodbijanja. Direktiva je osredotočena na delo prek platform, vendar je njena logika širša: kadar programska oprema usmerja in ocenjuje delo, delavec potrebuje več kot le povezavo do pogojev uporabe in veselo obvestilo.

Direktiva je tudi koristen opomnik, da ima tehnični nadzor lahko pravni pomen. Organizacije poziva, naj omogočijo človeški nadzor in pregled, pojasnijo pomembne odločitve in z določenimi kategorijami podatkov o delavcih ravnajo previdno. To ne ustvari enega popolnega modela za vsako delovno mesto. Postavlja temelj, na katerem se lahko začne širši pogovor: če programska oprema organizira delo, ljudje potrebujejo pravice, ki preživijo vmesnik programske opreme.

Izpodbojnost je delovni pogoj

Delavec ne more smiselno izpodbijati odločitve, ki je ni mogoče locirati. Organizacija mora vedeti, kateri sistem jo je ustvaril, katera različica je veljala, kateri podatki so bili uporabljeni, katero pravilo ali izhod modela je bilo pomembno in kdo je pooblaščen za njen pregled. Delavec potrebuje pot, ki ni odvisna od ugibanja notranjega imena funkcije prodajalca. Pregledovalec potrebuje dovolj časa in informacij, da stori več kot le odobri rezultat s človeškim podpisom.

Direktiva o delu prek platform daje temu načelu pravno obliko za ljudi, ki jih pokriva. Zahteva človeški nadzor nad avtomatiziranimi sistemi za spremljanje in odločanje, zagotavlja pojasnila odločitev, ki jih takšni sistemi sprejmejo ali podprejo, ter ustvarja poti za izpodbijanje pomembnih odločitev. Prav tako postavlja omejitve glede kategorij osebnih podatkov, ki jih platforme lahko obdelujejo za algoritemsko upravljanje. Te podrobnosti so pomembne, ker je pravica brez operativne poti pogosto zgolj priporočilo, preoblečeno v zaščito.

Za druga delovna mesta arhitektura izpodbojnosti še vedno ponuja uporaben preizkus. Vprašajte se, ali lahko oseba ustavi dejanje, preden se škoda razširi. Vprašajte se, ali lahko vidi razlog v izrazih, ki se nanašajo na delo. Vprašajte se, ali ima pregledovalec pooblastilo, da rezultat zavrže. Vprašajte se, ali lahko ponavljajoča se izpodbijanja privedejo do spremembe sistema, namesto da se nabere zbirka posameznih izjem, ki jih nihče ne analizira. Vprašajte se, ali lahko delavec vloži izpodbijanje, ne da bi tvegal skrito kazen pri naslednji razporeditvi dela.

Izpodbojnost je tudi kolektivna. En sam sporen rezultat je lahko videti kot osebno nestrinjanje. Vzorec spornih rezultatov lahko razkrije slab vnos, nepošten približek ali delovno obremenitev, ki je sistem nikoli ni bil zasnovan predstavljati. Predstavniki delavcev in inšpektorji potrebujejo dostop do vzorca, ne le do posameznih zaslonov. Organizacija bi morala biti sposobna združevati ugovore, ne da bi ljudi, ki so jih sprožili, spremenila v novo rizično kategorijo.

Obstaja skušnjava, da bi človeški pregled obravnavali kot zgolj formalni pečat. To je nevarno in nepošteno. Pregledovalec, ki ga merijo po hitrosti, nima dostopa do osnovnih informacij in mu sporočajo, da je sistem natančnejši od njega, ne izvaja nadzora. Avtomatizirani odločitvi le daje človeški obraz. Sklicevanja AI Act na usposobljenost, izobraževanje, pooblastila ter zmožnost prezreti ali prekiniti visokorizični sistem so uporabna, ker razliko jasno opredelijo. Človek v delovnem procesu ni samodejno tudi človek, ki ima nadzor.

Pravno dno in organizacijski strop

Evropsko pravo postavlja dna. Ne piše pa vsakega dobrega delovnega procesa namesto organizacije. AI Act vključuje zahteve glede pismenosti o umetni inteligenci, obveščanja delavcev in njihovih predstavnikov pri ustreznih visokorizičnih uvedbah, človeškega nadzora ter ocen vpliva na temeljne pravice za določene namene uporabe. Okvir za obveščanje in posvetovanje dodaja širši delovnopravni kontekst. Pravila o varstvu podatkov omejujejo, kaj se sme zbirati in kako se smejo sprejemati odločitve. Direktiva o delu prek platform dodaja posebna varstva tam, kjer digitalne platforme organizirajo delo.

Pravno dno je dragoceno, ker ustavi najslabši argument v prostoru: da ni treba storiti ničesar, dokler regulator ne pokaže na točno to funkcijo. Ni pa strop. Sistem lahko izpolnjuje ozko zahtevo in hkrati delo še bolj izčrpava, ga dela manj razumljivega ali težje izpodbojnega. Organizacije, ki si želijo trajnostnega prehoda, bi morale zapisati višji notranji standard, zlasti kjer je zakonodaja namenoma splošna ali kjer uvedba sodi izven posebnega sektorskega pravila.

Ta standard je mogoče izraziti kot verigo vprašanj. Kakšen je namen sistema in kaj je zunaj njegovega namena? Katere naloge se spremenijo in katere presoje morajo ostati vidne? Kateri podatki so nujni in kateri so zgolj na voljo? Kdo je prizadet neposredno in posredno? Kateri dokazi kažejo, da je sistem v tem kontekstu uporaben? Kdo ga lahko preglasi, s kakšnim usposabljanjem in zaščito? Kako bo delavec izpodbijal rezultat? Kaj se zgodi, ko se spremenijo model, dobavitelj ali politika? Kdo je lastnik odločitve o začasni ustavitvi ali umiku sistema?

Na ta vprašanja bi bilo treba odgovoriti, preden je nabava končana, ne pa jih skriti v prilogo po prvem incidentu. Dobavitelj lahko zagotovi dokumentacijo in podporo. Ne more pa poznati celotnega pomena delovnega procesa v organizaciji, ki je ne upravlja. Uvajalec pozna kontekst, prizadete ljudi in posledice slabega bližnjice. Zato AI Act obravnava uvajalce kot pomembne akterje pri visokorizičnih sistemih. Odgovornost ne izgine na pogodbeni meji.

Koristno je tudi opredeliti, kaj uspeh ni. Uspešna uvedba ni visoka stopnja sprejetja, če delavci sistem sprejmejo, ker bi zavrnitev škodila njihovim možnostim. Ni nižji povprečni čas obravnave, če se težki primeri odlagajo. Ni nadzorna plošča z zelenimi indikatorji, če so ljudje, ki so najbližje delu, prenehali poročati o napakah. Ni številka o zaključenem usposabljanju, če nihče ne zna pojasniti, kako ustaviti delovni proces. Meritve so orodja za presojo, ne njen nadomestek.

Prehod, ki pusti sled

Odgovorne spremembe potrebujejo spomin. Organizacija naj zabeleži namen, zemljevid nalog, vire podatkov, posvetovanja, usposabljanja, preizkuse, omejitve in odločitve, sprejete, kadar so bili dokazi negotovi. Zabeležiti mora, katera različica je bila uporabljena in kdaj so se spremenili pogoji delovanja. Delavec ne bi smel rekonstruirati zgodovine odločitve iz sporočil, posnetkov zaslona in spomina sodelavca. To je slab način ravnanja tako z delom kot z dokazi.

Zapis naj vključuje tudi nestrinjanje. Dodelan datoteka z uvedbo, ki vsebuje samo odobritve, ni poročilo o posvetovanju. Je potrdilo o optimizmu. Vprašanja delavcev, predstavnikov, varnostnega osebja in strokovnjakov za enakost so del dokazov o oblikovanju. Pokažejo, kje bi sistem lahko odpovedal in katere predpostavke niso bile skupne. Če ostanejo vidna, je tudi lažje ponovno preučiti odločitev, ne da bi se pretvarjali, da se je pomislek pojavil šele po uvedbi.

Spremljanje naj sledi delu in ne le modelu. Spremljajte spremembe v sestavi nalog, času pregleda, vzorcih napak, dostopu do usposabljanja, pritožbah, odsotnostih, nadurah in tem, kdo prejema težke primere. To niso vsi kazalniki umetne inteligence. To so znaki delovnih pogojev. Model lahko ohranja enako natančnost, medtem ko okoliško delo postaja manj vzdržno. Če organizacija spremlja samo model, lahko spregleda delo, ki je bilo preurejeno okoli njega.

Obstajati mora zgodba o izteku. Sistem, uveden za en namen, ne bi smel postati stalen zaradi vztrajnosti. Določite datum pregleda, prag sprememb in jasnega lastnika. Če se spremenijo podatki, naloga, pravna podlaga ali prizadeti ljudje, mora organizacija vedeti, ali sta potrebni nova ocena in posvetovanje. Vzdrževanje ni priznanje, da je bila prva odločitev šibka. Je priznanje, da se tako delo kot programska oprema spreminjata.

To se lahko zdi težko za majhen poseg. Odgovor je sorazmernost, ne izginotje. Pomočnik za osnutke brez dostopa do osebnih evidenc morda potrebuje lažji postopek kot sistem, ki določa dostop do izmen, ugodnosti, oskrbe ali zaposlitve. Toda tudi majhno orodje si zasluži izjavo o tem, kaj sme in česa ne sme početi. Jasnost se bolje prilagaja navzdol kot birokracija, ker ljudem pove, kje se ustaviti.

Kako izgleda pravičen delež

Besedna zveza pravičen prehod se pogosto uporablja, kot da bo pravičnost prišla, ko bo tehnologija pravilno nameščena. Ne bo. Pravičnost je niz odločitev o času, glasu, zmožnostih, tveganju in nagradi. Sprašuje, ali lahko delavci oblikujejo spremembo, ali jo lahko razumejo, ali jo lahko izpodbijajo in ali so dobički deljeni in ne tiho spremenjeni v višja pričakovanja.

Deljenje dobička ne pomeni vedno neposrednega plačila. Lahko pomeni krajšo čakalno vrsto, več časa z ljudmi, manj nevarno delo, boljšo opremo, priložnost za učenje cenjene veščine, pot do nove vloge ali strokovno presojo, ki se jemlje resneje, ker je rutinsko delo ne izpodriva več. Odločitev je treba sprejeti z ljudmi, katerih delo se spreminja. V nasprotnem primeru lahko organizacija optimizira izid, ki je videti učinkovit iz upravne sobe, na delovnem mestu pa se zdi kot nenehno pospeševanje.

Obstaja tudi državljanska razsežnost. Delovna mesta usposabljajo ljudi za institucije okoli njih. Če vsak digitalni sistem uči, da je rezultat bolj verodostojen kot človek, se ta navada prenese v javne storitve in vsakdanje življenje. Če delovna mesta učijo, da je dokaze mogoče izpodbijati, odločitve pojasniti in avtoriteto prekiniti, se te navade prenesejo prav tako. Oblikovanje avtomatiziranega poteka dela zato ni le notranja zadeva. Je praksa, kako družba obravnava presojo.

Evropsko vztrajanje pri obveščanju, posvetovanju, socialnem dialogu, varstvu podatkov in človeškem nadzoru je včasih prikazano kot zavora inovacij. Boljše branje je, da gre za načine odločanja o tem, kdo nosi posledice nove zmogljivosti. Hitrost ni nevtralna, kadar so ljudje, ki sistema ne morejo upočasniti, izpostavljeni njegovim napakam. Prehod, o katerem se da razpravljati, ki ga je mogoče preverjati in spreminjati, morda potrebuje več časa za zagon. Prav tako je bolj verjetno, da bo ostal uporaben, ko novost zbledi.

Pri Dweve se k temu majhnemu delu vprašanja nenehno vračamo v okviru Ground truth in našega dela na področju AI pismenosti. Sistem si zasluži zaupanje, kadar lahko ljudje okoli njega poimenujejo njegove vire, omejitve, negotovost in avtoriteto. To ni trditev, da lahko knjižnica ali izdelek reši delovna razmerja. Gre za oblikovalsko stališče: dokazi naj ostanejo blizu odločitve, ljudje, odgovorni za odločitev, pa naj imajo dovolj strukture, da jo lahko izpodbijajo. Širše delo pripada delodajalcem, delavcem, predstavnikom, regulatorjem in javnosti.

Novo delo je kolektivna odločitev

Avtomatizacija spremeni delo, preden spremeni organizacijsko shemo. Premakne pozornost, presojo in tveganje. Ustvari vzdrževalno delo, delo pregledovanja, delo usposabljanja in delo razlaganja sistema ljudem, ki ga niso izbrali. Delo lahko izboljša ali pa ga spremeni v hitrejšo pot skozi ožji hodnik. Razlika ni skrita samo v modelu. Ustvarja se v odločitvah okoli modela.

Ljudje, ki dobijo novo delo, ne bi smeli biti izbrani šele po tem, ko so stare naloge odstranjene. Morali bi biti del odločanja o tem, kaj novo delo je. Imeti bi morali čas za učenje, pooblastilo za spraševanje, zaščito, ko to storijo, in delež pri zmogljivosti, ki jo sprememba ustvari. Ljudje, ki jih predstavljajo metrike, bi morali imeti možnost preveriti, kaj metrike pomenijo. Ljudje, ki nosijo posledice, bi morali imeti možnost ustaviti sistem, ki ni več varen ali pravičen.

Dober prehod pusti za seboj več kot le delujoče orodje. Pusti jasnejši zemljevid nalog, močnejše veščine, pot za nestrinjanje, zapis o tem, kaj se je spremenilo, in institucijo, ki ve, kdo je odgovoren. To so skromni dosežki v primerjavi z obljubami na predstavitvi izdelka. A so tudi tisto, kar preprečuje, da bi delovno mesto postalo kraj, kjer programska oprema odloča, vsi drugi pa dobavljajo alibije.

Zato si praktično vprašanje zastavite zgodaj. Ko se ta naloga premakne, kakšno delo se pojavi? Kdo ga bo opravljal? Kakšno pooblastilo bodo imeli? Kakšno usposabljanje bo to pooblastilo uresničilo? Kdo lahko izpodbija ureditev? Kam gre prihranjeni čas? Če organizacija ne more odgovoriti, ni pripravljena avtomatizirati naloge. Pripravljena je le upati, da bo delo nekako poskrbelo samo zase. Dela so le redko tako ustrežljiva.

Viri