Kad automatizacija promijeni posao, tko dobiva novo radno mjesto?

Automatizacija rijetko ukida cijelo zanimanje jednim potezom. Ona preuređuje zadatke, ovlasti, obuku, nadzor i odgovornost. Pravo je pitanje tko oblikuje to...

Kad automatizacija promijeni posao, tko dobiva novo radno mjesto?

Posao nikad nije samo popis zadataka

Jedno od najzavaravajućih pitanja u raspravi o automatizaciji jest hoće li stroj preuzeti nečiji posao. Posao rijetko kad predstavlja jednu stvar koja se može izvući iz osobe i smjestiti u poslužitelj. On je skup zadataka, prosudbi, rutina, odnosa, ovlasti i dijelova lokalnog znanja. Neki od tih dijelova mogu se podržati. Neki se mogu standardizirati. Neki se mogu ukloniti. Drugi postaju važniji upravo zato što je rutinski rad premješten drugamo.

Promjena stoga stiže prije nego što se promijeni naziv radnog mjesta. Sustav za planiranje može promijeniti to koga se pita da radi, čak i ako raspored i dalje nosi ista imena. Dokumentacijski asistent može promijeniti što se smatra razumnim opsegom predmeta, čak i ako ugovor i dalje kaže socijalni radnik. Nadzorna ploča uspješnosti može neformalnu prosudbu pretvoriti u cilj, čak i ako nitko tu ploču ne naziva upraviteljem. Posao se promijenio. Organizacija je možda jednostavno zaboravila promijeniti svoj rječnik.

Zato ozbiljno pitanje nije hoće li automatizacija u apstraktnom smislu uništavati poslove. Pitanje je tko odlučuje koji se zadaci premještaju, koji se novi zadaci pojavljuju, koji se rizici prihvaćaju, koji se ljudi osposobljavaju te tko ima ovlast osporiti rezultat. Odgovor određuje hoće li tehnička promjena postati poštena tranzicija, intenziviranje rada ili tihi prijenos moći s ljudi koji obavljaju posao na sustav koji ga mjeri.

Zamislite kombinirani radni dan, sastavljen od poznatih elemenata, a ne izvještaj o nekom imenovanom poslodavcu. Tim dobiva alat koji sastavlja sažetke, predlaže prioritete i mjeri vrijeme provedeno na svakom predmetu. Alat se opisuje kao pomoć. Timu se kaže da se nijedna uloga ne ukida. U roku od nekoliko tjedana laki se predmeti rješavaju brže, teški ostaju, cilj se preračunava prema bržem prosjeku, a ljudi koji dovode u pitanje neki prijedlog troše više vremena na dokumentiranje zašto su to učinili. Ništa u tom slijedu ne zahtijeva da stroj preuzme posao. Posao je ipak redizajniran oko stroja.

Ta razlika je važna jer mijenja ono na što odgovorno uvođenje mora odgovoriti. Ako se rad preuređuje, radnici trebaju imati riječ u planu, a ne motivacijski plakat nakon što je plan konačan. Ako se prosudba seli u sustav bodovanja, pogođeni ljudi trebaju način da pregledaju i ospore ocjenu. Ako je osposobljavanje nužno da bi novi raspored funkcionirao, osposobljavanje je dio same promjene, a ne pogodnost koju ćemo ponuditi kad proračun bude velikodušan.

Krenite od onoga što ljudi stvarno rade

Dobar rad na tranziciji počinje promatranjem. Prije nego što tim odabere model, trebao bi opisati posao onako kako se obavlja, uključujući i nezgodne dijelove koji se nikad ne pojavljuju u dijagramu procesa. Koje su odluke rutinske? Koje ovise o kontekstu? Koje zahtijevaju razgovor, profesionalni odnos ili fizički pregled? Gdje ljudi primijete da je zapis nepotpun? Gdje kompenziraju za sustav koji ne razlikuje neobičan predmet od lošeg?

To nije argument za romantiziranje ljudskog rada. Neke su rutine dosadne, ponavljajuće i loše prilagođene čovjeku koji ima i drugih obaveza. Uklanjanje nepotrebnog kopiranja, pretraživanja ili preoblikovanja može biti stvarno poboljšanje. Poanta je imenovati zadatak koji bi se trebao promijeniti, umjesto da se zanimanje tretira kao jedan blok. Sustav koji uklanja dvostruki unos može vratiti vrijeme. Sustav koji uklanja vrijeme potrebno za provjeru nesigurnog odgovora može stvoriti brži način da se pogriješi.

Korisna karta zadataka ima najmanje četiri sloja. Prvi je vidljiva radnja: klasificirati, sastaviti, zakazati, provjeriti, odgovoriti ili odobriti. Drugi je prosudba skrivena unutar nje: što se smatra dovršenim, hitnim, sigurnim, poštenim ili relevantnim. Treći je odgovornost vezana uz tu prosudbu: tko mora objasniti odluku, ispraviti je i snositi posljedice. Četvrti je krug učenja: tko uočava novi obrazac, ažurira praksu i javlja sustavu da njegova stara prečica više ne funkcionira.

Ti su slojevi često raspoređeni unutar tima. Recepcioner može uočiti pojedinost koju analitičar politika formalizira. Tehničar može prepoznati kvar koji inženjer kasnije ugradi kao pravilo. Socijalni radnik može znati da je izraz u obrascu znak uznemirenosti, a ne nepopunjeno polje. Sustav može podržati svaku osobu na drugačiji način, ali ne bi smio izbrisati put kojim znanje ulazi u organizaciju. Ako su ljudi koji vide iznimku isključeni iz dizajna, sustav će biti vrlo dosljedan u tome da je propusti.

Rad Međunarodne organizacije rada o generativnoj umjetnoj inteligenciji koristan je ovdje jer razdvaja izloženost zadataka od sudbine cijelih zanimanja. Njezina analiza pokazuje da su mnoga radna mjesta samo djelomično izložena i da je vjerojatnije da će biti dopunjena nego u potpunosti zamijenjena. To ne znači da je tranzicija bezopasna. ILO upozorava na promjene u kvaliteti posla, intenzitetu rada i autonomiji te kaže da ishod ovisi o tome kako se tehnologija uvodi. Zadatak može formalno ostati ljudski, dok uvjeti oko njega postanu manje humani.

Ista analiza također upozorava protiv tretiranja pokazatelja izloženosti kao prognoza gubitka radnih mjesta. Rezultat izloženosti može pokazati gdje bi tehnologija mogla dotaknuti rad. Ne može nam reći hoće li poslodavac iskoristiti tu mogućnost za smanjenje napornog rada, povećanje propusnosti, ukidanje diskrecije ili stvaranje bolje usluge. To je pitanje upravljanja i društva. Broj može locirati vrata. Ne može nam reći kome je dopušteno proći kroz njih.

Automatizacija mijenja mrežu posla, a ne jednu kutiju u organizacijskoj shemi. Karta zadržava prosudbu i odgovornost vidljivima.

Dopuna i dalje može intenzivirati rad

Riječ dopuna zvuči umirujuće jer sugerira da osoba ostaje u igri. Sama po sebi nije jamstvo boljeg posla. Sustav može dopuniti radnika tako što mu daje koristan instrument ili tako što mu daje veću hrpu predmeta i manji vremenski okvir za svaki od njih. Može poboljšati kvalitetu odluke ili može učiniti da odluka izgleda dovoljno objektivno da nitko ne smatra da je smije dovesti u pitanje.

Intenzitet rada nije samo broj obavljenih zadataka. Uključuje očekivanu brzinu, tolerirane prekide, emocionalni napor suočavanja s iznimkama i količinu pažnje dostupne za promišljenu odluku. Alat za izradu nacrta može uštedjeti vrijeme na rutinskom pismu, ali istovremeno povećati broj pisama koje se od osobe očekuje da proizvede. Optimizator rute može skratiti putovanje, ali svaku ušteđenu minutu ispuniti novim posjetom. Nadzorna ploča može otkriti usko grlo, a zatim tiho pretvoriti to usko grlo u individualni problem učinka.

Nalazi ILO-a s razlogom stavljaju kvalitetu posla uz kvantitetu posla. Radno mjesto može opstati dok se autonomija smanjuje. Osoba može zadržati svoj naziv radnog mjesta dok gubi diskrecijsko pravo koje je to radno mjesto činilo stručnim. Tranzicija može biti i neravnomjerna. Radnici koji već imaju pristup pouzdanim sustavima i obuci mogu dobiti prednost, dok radnici u istoj profesiji ostaju prepušteni teškim slučajevima s manje vremena i manje resursa. Ukupna slika može izgledati kao produktivnost, dok svakodnevno iskustvo postaje red koji se nikada sasvim ne isprazni.

Zato bi odgovoran prijedlog trebao opisati namjeravano poboljšanje na način koji radnik može provjeriti. Hoće li sustav ukloniti suvišan korak? Hoće li olakšati pronalaženje relevantnih informacija? Hoće li ostaviti vremena za razgovor koji se ne može automatizirati? Hoće li smanjiti izloženost opasnom zadatku? Što se događa s ušteđenim vremenom? Ako je odgovor jednostavno da će tim obraditi više, organizacija ne raspravlja o proširenju ljudskih sposobnosti. Raspravlja o novom cilju proizvodnje s pristojnim sučeljem.

Postoji i problem kvalitete. Kada sustav rješava uobičajene slučajeve, ljudi vide veći udio neuobičajenih slučajeva. Preostali rad postaje dvosmisleniji, važniji ili više ovisan o iskustvu. To može biti dobar razlog za ulaganje u stručnost. To se također može iskoristiti za zaključak da je rad sada previše nepravilan da bi zaslužio odgovarajući proces. Prvi put tretira prosudbu kao sposobnost. Drugi je tretira kao troškovno mjesto koje još nije uspješno komprimirano.

Plan tranzicije stoga bi trebao uključivati kontrafaktual koji se rijetko zapisuje: kako će posao izgledati ako je sustav dovoljno točan da bude koristan, ali ne dovoljno točan da mu se vjeruje bez provjere? To je normalno stanje za mnoge sustave za podršku odlučivanju. Odgovor bi trebao identificirati gdje se provjera odvija, koliko dugo traje, koje dokaze zahtijeva i kako osoba može odbiti preporuku bez da bude označena kao neučinkovita.

Skriveni upravitelj u softveru

Automatizacija postaje upravljanje na radnom mjestu kada softver počne raspoređivati, usmjeravati, ocjenjivati ili kontrolirati rad. Ne mora se nazivati umjetnom inteligencijom. Fiksno pravilo koje dodjeljuje zadatak na temelju dostupnosti može oblikovati dan. Sustav ocjenjivanja može utjecati na pristup budućem radu. Model koji predviđa vjerojatno kašnjenje može promijeniti tko dobiva tešku smjenu. Tehnička razlika između pravila i naučenog modela važna je za transparentnost, ali radnik oboje doživljava kroz odluku koja stigne.

Studija Europske komisije o algoritamskom upravljanju opisuje ovo područje kao skup praksi koje mogu automatizirati ili podržati tradicionalne upravljačke funkcije. Te funkcije uključuju zapošljavanje, raspodjelu zadataka, praćenje, ocjenjivanje i odluke o napredovanju ili prestanku radnog odnosa. Studija također napominje da je politički i pravni odgovor raspoređen na nekoliko instrumenata, a ne sadržan u jednom urednom kodeksu radnog prava. Ta fragmentacija je administrativna činjenica, a ne dozvola da se pretvara da softver nema učinke slične upravitelju.

Algoritamsko upravljanje često se uvodi kroz malo operativno obećanje. Brže poveži ljude sa zadacima. Uoči kapacitet prije nego se raspored raspadne. Pruži nadređenom jasniji pregled. Otkrij sigurnosni problem. Svako obećanje može biti razumno. Rizik se pojavljuje kada mjera postane zamjena za sam rad. Vrijeme odziva zamjenjuje brigu. Ocjena zamjenjuje pouzdanost. Praćenje zaslona zamjenjuje trud. Zamjenu je lakše brojati, pa je organizacija počinje tretirati kao stvarniju od onoga što je trebala opisati.

Jednom kada zamjena upravlja pristupom radu, mijenja se teret dokazivanja. Nadređeni obično može objasniti odluku u kontekstu, čak i ako je objašnjenje loše. Sustav može proizvesti rezultat koji izgleda neutralno jer su njegovi ulazi skriveni. Radnik tada mora osporiti i rezultat i ideju da je rezultat prava vrsta dokaza. Zato su pristup informacijama, ljudski pregled i smislena mogućnost osporavanja važni. Odgovor koji kaže da je sustav složen nije objašnjenje. To je poziv da prestanete pitati.

Nadzor zaslužuje posebnu pažnju. Podaci prikupljeni za koordinaciju mogu se ponovno upotrijebiti za evaluaciju. Podaci prikupljeni za sigurnost mogu se prenamijeniti za disciplinu. Podaci prikupljeni dok netko radi mogu otkriti intimne informacije o zdravlju, obvezama skrbi ili udruživanju. Činjenica da sustav može prikupiti signal ne znači da je signal pošteno koristiti. Radno mjesto nije laboratorij u kojem se pristanak može pretpostaviti jer je zaposlenik kliknuo kroz zaslon prije početka smjene.

Europska konfederacija sindikata tvrdila je da nametljive radne aplikacije trebaju stroža ograničenja, da radnici i njihovi predstavnici trebaju primati informacije na jednostavnom jeziku te da bi se savjetovanje trebalo odvijati prije uvođenja i značajnih promjena. Njezin stav također povezuje algoritamske sustave s kolektivnim pregovaranjem, osposobljavanjem radnika i pravom na provjeru i reviziju odluka. To nisu tehnički dodaci. Oni prepoznaju da je radno mjesto društvena institucija i da premještanje ovlasti u softver mijenja ravnotežu unutar te institucije.

Savjetovanje je dio dizajna

Informiranje i savjetovanje ponekad se tretiraju kao ceremonijalne faze koje slijede stvarnu odluku. Europski okvir ne daje nam razloga da ih tako tretiramo. Okvir Komisije oko Direktive 2002/14/EZ predstavlja pravodobno informiranje i savjetovanje kao dio načina na koji organizacije upravljaju značajnim promjenama i novim oblicima organizacije rada. Direktiva uspostavlja opći okvir, s nacionalnim izborima oko opsega i provedbe. To nije AI priručnik. To je podsjetnik da značajna promjena u radu ima proceduralni život prije nego što postane tehničko uvođenje.

Vrijeme je važno. Sastanak nakon što je dobavljač odabran i tijek rada konfiguriran nije isto što i razgovor dok organizacija još odlučuje koji problem želi riješiti. Rano uključivanje omogućuje radnicima da pitaju koji su podaci nužni, koji se zadaci stvarno mijenjaju, kako će se pogreške rješavati i kako izgleda rezervna opcija. Također otkriva znanje koje je teško kupiti izvana. Ljudi koji obavljaju posao znaju gdje je proces krhak jer su godinama održavali njegovu stabilnost.

Savjetovanje ne zahtijeva da svaka odluka bude jednoglasna. Zahtijeva da se ljudi na koje promjena utječe tretiraju kao sudionici u promjeni, a ne kao senzori koji će prijaviti otpor nakon uvođenja. Ozbiljan proces trebao bi zabilježiti što je predloženo, što su radnici osporili, što se kao rezultat promijenilo i koji nesporazumi ostaju. Ako se prijedlog ipak usvoji, organizacija bi trebala moći objasniti zašto. To je zrelije nego pretvarati se da nedostatak dogovora znači da nitko nije imao stajalište.

Postoji praktičan razlog da se ovo izričito zabilježi. Sustavi se mijenjaju nakon uvođenja. Model se ažurira, izvor podataka se mijenja, dodaje se novi odjel, prilagođava se metrika evaluacije ili dobavljač prepiše mehanizam politika. Jednokratno savjetovanje ne može obuhvatiti sustav koji se mijenja. Predstavnici radnika trebaju stalni put za uočavanje učinaka i zahtijevanje preispitivanja. U suprotnom, organizacija se savjetovala o prvoj verziji, a do treće verzije upravlja potpuno drugim strojem.

Prijedlog ETUC-a za direktivu o algoritamskim sustavima na radu predviđa procjenu učinka prije uvođenja i u redovitim intervalima nakon toga, uz sudjelovanje radnika i njihovih predstavnika. To je korisno načelo oblikovanja čak i tamo gdje prijedlog nije zakon. Procjena učinka ne bi trebala biti dokument koji dokazuje da je odluka već donesena. Trebala bi biti mjesto na kojem organizacija navodi tko bi mogao biti pogođen, što bi moglo poći po zlu, koji će se dokazi pratiti i tko ima ovlast promijeniti smjer.

Isto načelo vrijedi i za male organizacije. Manji poslodavac možda nema radničko vijeće niti poseban ured za podatke, ali svejedno mora razumjeti što sustav mijenja za ljude koji ga koriste. Papirologija može biti lakša. Pitanja ne mogu nestati. U suprotnom, skromno uvođenje može postati veliki problem upravljanja bez ikoga tko bi to uočio.

Obuka je radna moć

Obuka je često prvo obećanje koje se da i prvo što se izostavi. Plan uvođenja kaže da će zaposlenici dobiti edukaciju. Edukacija postane prezentacija. Prezentacija postane snimka. Snimka postane poveznica u portalu za učenje za koju se očekuje da su je svi pogledali prije nego novi sustav tiho promijeni pravila posla.

To nije ono što ljudima treba. Treba im dovoljno razumijevanja da prepoznaju što sustav radi, što ne radi, koje podatke koristi, kako treba provjeravati njegove rezultate, kada ga treba zanemariti, kako prijaviti pogrešku i što će se dogoditi ako odbiju preporuku. Treba im vremena za vježbu sa stvarnim slučajevima i rubnim uvjetima njihova posla. Trebaju znati tko može odgovoriti na pitanje bez pretvaranja u zahtjev koji nestane u redu čekanja dobavljača.

Akt o umjetnoj inteligenciji ovu praktičnu poantu izražava pravnim jezikom. Pružatelji i uvoditelji moraju poduzeti mjere kako bi osigurali odgovarajuću razinu AI pismenosti za ljude koji koriste sustave u njihovo ime, uzimajući u obzir njihovo tehničko znanje, iskustvo, obrazovanje, obuku i kontekst u kojem će se sustav koristiti. Za određene visokorizične sustave, osobe zadužene za ljudski nadzor moraju imati kompetencije, obuku i ovlasti. Akt također čuva postojeća prava na informiranje i savjetovanje radnika i njihovih predstavnika. Pismenost je stoga povezana s ovlastima, a ne samo s poznavanjem zaslona proizvoda.

Stajalište ETUC-a o razvoju vještina radnika ide dalje u smjeru koji je važan za pravednost. AI pismenost tretira kao sposobnost kritičkog razumijevanja kako AI utječe na rad i zanimanja, a ne samo sposobnost upravljanja alatom za poslodavca. Tu je razliku lako previdjeti. Ako obuka uči osobu kako prihvatiti prijedlog, ali ne i kako dovesti u pitanje sustav koji ga je proizveo, organizacija je obučila poslušnost, a ne sposobnost.

Koristan plan obuke ima najmanje tri publike. Prva je osoba koja sustav koristi u redovnom radu. Treba joj operativna pismenost: ulazi, izlazi, nesigurnost, eskalacija i sigurna uporaba. Druga je osoba koja pregledava ili nadzire rad. Treba joj pismenost odlučivanja: dokazi, pristranost, neslaganje, nadjačavanje i posljedice. Treća je skupina koja predstavlja radnike ili nadzire organizaciju. Treba joj upravljačka pismenost: svrha, tokovi podataka, učinak, promjene, pristup stručnosti i putovi do pravne zaštite.

Obuka također ima problem raspodjele. Ljudi s najmanje vremena i najslabijim pregovaračkim položajem često su upravo oni koji dobiju kratku generičku sesiju. Ljudi koji oblikuju sustav dobivaju detaljne brifinge i izravnu liniju prema dobavljaču. Rezultat je hijerarhija znanja koja prati moć. Ako novi sustav treba promijeniti rad mnogih ljudi, organizacija bi trebala uložiti više truda u ljude koji moraju živjeti sa sustavom nego u one koji će održati prezentaciju o pokretanju.

Obuku treba tretirati kao dokaz spremnosti, a ne kao ceremonijalnu stopu završenosti. Može li radnik prepoznati slučaj koji zahtijeva ljudski pregled? Može li objasniti zašto je preporuka odbijena? Može li nadređeni pauzirati tijek rada? Može li predstavnik zatražiti informacije potrebne za procjenu promjene? Može li organizacija pokazati što se dogodilo kada je netko iznio zabrinutost? Ako je odgovor ne, problem nije u tome što radnici nisu dovoljno entuzijastični. Sustav nije uveden odgovorno.

Vještine postaju smislene kada putuju zajedno s ovlastima da se sustav propituje, mijenja i preoblikuje.

Tko dobiva novi posao?

Kada rutinski posao prijeđe u softver, rad ne nestaje u oblaku. Pojavljuje se negdje drugdje. Netko piše pravila, uređuje podatke, provjerava iznimke, rješava žalbe, održava integraciju, prati sigurnost i objašnjava ishod. Ti zadaci mogu biti nove uloge, nove odgovornosti unutar postojećih uloga ili nevidljiv rad koji se dodaje ljudima koji već imaju najmanje slobodnog vremena.

Pitanje raspodjele stoga je konkretno. Tko dobiva tehnički posao? Tko dobiva interpretativni posao? Tko je izložen riziku kada sustav zakaže? Tko dobiva vrijeme koje je automatizacija uštedjela? Od koga se očekuje da nauči novi proces bez promjene plaće, opterećenja ili statusa? Tranzicija koja odgovara samo na prvo pitanje može stvoriti malu skupinu stručnjaka i mnogo veću skupinu ljudi čiji se rad mjeri pomnije.

Ne postoji univerzalno pravilo da svaka ušteda mora postati slobodno vrijeme ili da svaki novi zadatak mora postati novi naziv radnog mjesta. Organizacije imaju različite svrhe i kolektivne ugovore. No raspodjela bi trebala biti promišljena i otvorena za raspravu. Ako automatizacija uklanja repetitivnu administraciju, korist bi mogla biti više vremena za skrb, istraživanje, održavanje ili kontakt s javnošću. Ako stvara dužnosti nadzora, te dužnosti zahtijevaju kapacitet i priznanje. Ako povećava vrijednost kontekstualne stručnosti, ljudi s tom stručnošću ne bi se trebali tretirati kao privremene prepreke čišćem skupu podataka.

Politika vještina važna je jer tranzicija može produbiti postojeće nejednakosti. ILO primjećuje da je u njegovoj analizi izloženost ženskog zaposlenja generativnoj umjetnoj inteligenciji veća, dijelom zato što su žene nadzastupljene u administrativnim poslovima. To je izjava o potencijalnoj izloženosti, a ne prognoza o tome tko će izgubiti posao. Ipak, pokazuje zašto neutralno zvučeće uvođenje može imati nejednake učinke. Ako su najpogođenije uloge ujedno i one s manje mogućnosti za plaćeno usavršavanje ili napredovanje, koristi se neće raspodijeliti sama od sebe. Magija ostaje nepouzdana strategija upravljanja ljudskim resursima.

Dob, invaliditet, obveze skrbi, jezik i radni status također mogu utjecati na to tko ima koristi od novog sustava. Alat koji pretpostavlja neprekidnu dostupnost može nepovoljno utjecati na osobe koje skrbe o drugima. Mjera učinka koja zanemaruje pristupačne načine rada može pretvoriti prilagodbu u odstupanje. Sustav koji koristi uski jezični model može stvoriti dodatnu provjeru za ljude koji komuniciraju na drugom jeziku. To nisu rubni slučajevi koje treba gurnuti u kasnije izvješće o jednakosti. Oni su dio onoga što znači da sustav organizira rad.

Platformska ekonomija Europi daje jasno mjesto za proučavanje tih dinamika. Direktiva o radu putem platformi, donesena kao Direktiva (EU) 2024/2831, bavi se radnim statusom i algoritamskim upravljanjem u radu putem platformi. Uključuje pravila o transparentnosti, zaštiti podataka, ljudskom nadzoru i preispitivanju značajnih odluka, uz prava na objašnjenja i osporavanje. Direktiva je usmjerena na rad putem platformi, ali njezina je logika šira: kada softver usmjerava i ocjenjuje rad, radnik treba više od poveznice na uvjete korištenja i vesele obavijesti.

Direktiva je također koristan podsjetnik da tehnička kontrola može imati pravno značenje. Od organizacija traži da osiguraju prostor za ljudsko praćenje i preispitivanje, da objašnjavaju značajne odluke i da se prema određenim kategorijama podataka o radnicima odnose s oprezom. To ne stvara jedan savršen model za svako radno mjesto. Postavlja temelj s kojeg širi razgovor može započeti: ako softver organizira rad, ljudi trebaju prava koja preživljavaju softversko sučelje.

Mogućnost osporavanja uvjet je rada

Radnik ne može smisleno osporiti odluku koja se ne može locirati. Organizacija mora znati koji je sustav proizveo odluku, koja je verzija bila na snazi, koji su podaci korišteni, koje je pravilo ili izlaz modela bilo važno i tko je ovlašten za preispitivanje. Radnik treba put koji ne ovisi o pogađanju internog naziva značajke dobavljača. Osoba koja preispituje odluku treba dovoljno vremena i informacija da učini više od odobravanja rezultata ljudskim potpisom.

Direktiva o radu putem platformi daje tom načelu pravni oblik za ljude koje pokriva. Zahtijeva ljudski nadzor nad automatiziranim sustavima za praćenje i donošenje odluka, predviđa objašnjenja odluka koje su ti sustavi donijeli ili podržali te stvara putove za osporavanje značajnih odluka. Također postavlja ograničenja oko kategorija osobnih podataka koje platforme smiju obrađivati za algoritamsko upravljanje. Ti su detalji važni jer je pravo bez operativnog puta često prijedlog prerušen u zaštitnu mjeru.

Za druga radna mjesta, arhitektura mogućnosti osporavanja i dalje nudi koristan test. Postavite pitanje može li osoba zaustaviti djelovanje prije nego se šteta proširi. Postavite pitanje može li vidjeti razlog u terminima koji se odnose na rad. Postavite pitanje ima li osoba koja preispituje odluku ovlast zanemariti rezultat. Postavite pitanje mogu li ponovljena osporavanja dovesti do promjene sustava, umjesto do zbirke pojedinačnih iznimaka koje nitko ne analizira. Postavite pitanje može li radnik podnijeti osporavanje bez rizika od skrivene kazne u sljedećoj raspodjeli zadataka.

Pobojivost je također kolektivna. Jedan sporni rezultat može izgledati kao osobno neslaganje. Uzorak spornih rezultata može otkriti loš unos, nepravedan pokazatelj ili opterećenje koje sustav nikada nije bio osmišljen predstaviti. Predstavnici radnika i inspektori trebaju pristup uzorku, ne samo pojedinačnim zaslonima. Organizacija bi trebala moći objediniti prigovore, a da pritom ljude koji su ih podnijeli ne pretvori u novu kategoriju rizika.

Postoji iskušenje da se ljudski pregled tretira kao konačni pečat odobrenja. To je nesigurno i nepravedno. Pregledavatelj kojeg se mjeri prema brzini, kojem se ne daje pristup temeljnim informacijama i kojem se govori da je sustav točniji od njega, ne provodi nadzor. On posuđuje ljudsko lice automatiziranoj odluci. Pozivanje Akta o umjetnoj inteligenciji na osposobljenost, obuku, ovlasti i mogućnost zanemarivanja ili prekida visokorizičnog sustava korisno je jer čini tu razliku izričitom. Čovjek u radnom procesu nije automatski i čovjek koji upravlja.

Pravni minimum i organizacijski maksimum

Europsko pravo postavlja minimume. Ono ne propisuje svaki dobar radni proces za organizaciju. Akt o umjetnoj inteligenciji sadrži zahtjeve u vezi s AI pismenošću, informiranjem radnika i njihovih predstavnika u relevantnim visokorizičnim primjenama, ljudskim nadzorom i procjenama učinka na temeljna prava za određene namjene. Okvir za informiranje i savjetovanje dodaje širi kontekst radnog prava. Pravila o zaštiti podataka ograničavaju što se smije prikupljati i kako se smiju donositi odluke. Direktiva o radu putem platformi dodaje posebne zaštite tamo gdje digitalne platforme organiziraju rad.

Pravni minimum vrijedan je jer zaustavlja najgori argument u prostoriji: da ništa ne treba učiniti dok regulator ne ukaže na točno taj element. On nije maksimum. Sustav može ispunjavati uski zahtjev i i dalje činiti rad iscrpljujućim, manje razumljivim ili teže pobojivim. Organizacije koje žele trajnu tranziciju trebale bi propisati viši interni standard, osobito tamo gdje je zakon namjerno općenit ili gdje se primjena nalazi izvan pojedinog sektorskog pravila.

Taj se standard može izraziti kao lanac pitanja. Koja je svrha sustava i što je izvan njegove svrhe? Koji se zadaci mijenjaju i koje prosudbe moraju ostati vidljive? Koji su podaci nužni, a koji su samo dostupni? Na koga se utječe izravno, a na koga neizravno? Koji dokazi pokazuju da je sustav koristan u ovom kontekstu? Tko ga može nadglasati, uz kakvu obuku i zaštitu? Kako će radnik pobiti rezultat? Što se događa kada se model, dobavljač ili politika promijene? Tko je odgovoran za odluku o pauziranju ili povlačenju sustava?

Na ta pitanja treba odgovoriti prije nego što je nabava dovršena, a ne sakriti ih u dodatku nakon prvog incidenta. Dobavljač može pružiti dokumentaciju i podršku. On ne može znati puno značenje radnog procesa unutar organizacije kojom ne upravlja. Korisnik koji primjenjuje sustav poznaje kontekst, pogođene ljude i posljedice loše prečice. Zato Akt o umjetnoj inteligenciji tretira primjenitelje kao važne aktere za visokorizične sustave. Odgovornost ne nestaje na granici ugovora.

Također je korisno odrediti što uspjeh nije. Uspješno uvođenje nije visoka stopa prihvaćanja ako radnici prihvaćaju sustav jer im odbijanje šteti izgledima. Nije niže prosječno vrijeme obrade ako se teški slučajevi odgađaju. Nije nadzorna ploča sa zelenim pokazateljima ako ljudi najbliži poslu prestanu prijavljivati pogreške. Nije brojka o završenoj obuci ako nitko ne zna objasniti kako zaustaviti radni proces. Mjere su alati za prosudbu, a ne njezina zamjena.

Tranzicija koja ostavlja trag

Odgovorna promjena treba pamćenje. Organizacija bi trebala zabilježiti namjeravanu svrhu, mapu zadataka, izvore podataka, konzultacije, obuku, testove, ograničenja i odluke donesene kada su dokazi bili nesigurni. Trebala bi zabilježiti koja je verzija korištena i kada su se promijenili uvjeti rada. Radnik ne bi trebao rekonstruirati povijest odluke iz poruka, snimaka zaslona i sjećanja kolege. To je loš način postupanja i prema radu i prema dokazima.

Zapis bi trebao uključivati i neslaganje. Uglancana datoteka za implementaciju koja sadrži samo odobrenja nije prikaz konzultacija. To je potvrda optimizma. Pitanja radnika, predstavnika, sigurnosnog osoblja i stručnjaka za jednakost dio su dokaza o dizajnu. Ona pokazuju gdje sustav može zakazati i koje pretpostavke nisu bile zajedničke. Njihovo zadržavanje na vidiku također olakšava ponovno razmatranje odluke bez pretvaranja da se zabrinutost pojavila prvi put nakon implementacije.

Praćenje bi trebalo pratiti rad, a ne samo model. Pazite na promjene u sastavu zadataka, vremenu pregleda, obrascima pogrešaka, pristupu obuci, žalbama, izostancima, prekovremenim satima i tome tko dobiva teške slučajeve. To nisu sve AI metrike. To su signali o uvjetima rada. Model može zadržati istu točnost dok okolni posao postaje manje održiv. Ako organizacija prati samo model, može propustiti posao koji je preuređen oko njega.

Trebao bi postojati plan isteka. Sustav uveden za jednu svrhu ne bi trebao postati trajan zbog inercije. Postavite datum revizije, prag promjene i jasnog vlasnika. Ako se podaci promijene, zadatak promijeni, pravna osnova promijeni ili se promijene pogođene osobe, organizacija bi trebala znati treba li nova procjena i konzultacije. Održavanje nije priznanje da je prva odluka bila slaba. To je priznanje da se i rad i softver kreću.

To može zvučati teško za malu intervenciju. Odgovor je proporcionalnost, a ne nestanak. Asistent za pisanje bez pristupa osobnim evidencijama možda treba lakši proces od sustava koji određuje pristup smjenama, beneficijama, skrbi ili zaposlenju. Ali čak i mali alat zaslužuje izjavu o tome što smije, a što ne smije raditi. Jasnoća se bolje skalira od birokracije jer ljudima govori gdje stati.

Kako izgleda pravedan udio

Fraza pravedna tranzicija često se koristi kao da će pravednost doći jednom kada je tehnologija ispravno instalirana. Neće. Pravednost je skup izbora o vremenu, glasu, sposobnostima, riziku i nagradi. Postavlja pitanje mogu li radnici oblikovati promjenu, mogu li je razumjeti, mogu li je osporiti i jesu li dobitci podijeljeni, a ne tiho pretvoreni u viša očekivanja.

Dijeljenje dobitka ne znači uvijek izravnu isplatu. Može značiti kraći red, više vremena s ljudima, manje opasan posao, bolju opremu, priliku za stjecanje vrijedne vještine, put do nove uloge ili profesionalnu prosudbu koja se shvaća ozbiljnije jer rutinski posao više ne istiskuje. Izbor bi trebao biti donesen s ljudima čiji se rad mijenja. Inače organizacija može optimizirati ishod koji iz uprave izgleda učinkovito, a na radnom mjestu osjeća se kao trajno ubrzanje.

Postoji i građanska dimenzija. Radna mjesta obučavaju ljude za institucije oko njih. Ako svaki digitalni sustav uči da je rezultat vjerodostojniji od osobe, ta navika prelazi u javne usluge i svakodnevni život. Ako radna mjesta uče da se dokazi mogu dovoditi u pitanje, odluke objašnjavati i autoritet prekidati, te navike također prelaze. Dizajn automatiziranog tijeka rada stoga nije samo unutarnja stvar. To je praksa u tome kako društvo postupa s prosudbom.

Europsko inzistiranje na informiranju, savjetovanju, socijalnom dijalogu, zaštiti podataka i ljudskom nadzoru ponekad se karikira kao kočnica inovacijama. Bolje je čitanje da su to načini odlučivanja o tome tko snosi posljedice nove sposobnosti. Brzina nije neutralna kada su ljudi koji ne mogu usporiti sustav izloženi njegovim pogreškama. Prijelaz o kojem se može raspravljati, koji se može nadzirati i mijenjati možda će se dulje pokretati. Također je vjerojatnije da će ostati koristan nakon što novost izblijedi.

U Dweveu, to je mali dio pitanja kojem se stalno vraćamo u radu na Ground truth i našem radu na AI pismenosti. Sustav zaslužuje povjerenje kada ljudi oko njega mogu imenovati njegove izvore, ograničenja, nesigurnost i autoritet. To nije tvrdnja da knjižnica ili proizvod mogu riješiti radne odnose. To je dizajnerska pozicija: dokazi bi trebali ostati blizu odluke, a ljudi odgovorni za odluku trebali bi imati dovoljno strukture da je ospore. Veći posao pripada poslodavcima, radnicima, predstavnicima, regulatorima i javnosti.

Novi posao je zajednička odluka

Automatizacija mijenja posao prije nego što promijeni organizacijsku shemu. Pomakne pozornost, diskreciju i rizik. Stvara posao održavanja, posao pregleda, posao osposobljavanja i posao objašnjavanja sustava ljudima koji ga nisu odabrali. Može učiniti posao boljim ili može učiniti posao bržim putem kroz uži koridor. Razlika nije skrivena samo u modelu. Stvara se u odlukama oko modela.

Ljudi koji dobiju novi posao ne bi trebali biti odabrani tek nakon što su stari zadaci uklonjeni. Trebali bi biti dio odlučivanja o tome što je novi posao. Trebali bi imati vremena za učenje, ovlast za propitivanje, zaštitu kada to čine i udio u sposobnosti koju promjena stvara. Ljudi koje predstavljaju mjerni podaci trebali bi moći provjeriti što ti podaci znače. Ljudi koji snose posljedice trebali bi moći zaustaviti sustav koji više nije siguran ili pošten.

Dobar prijelaz ostavlja više od funkcionalnog alata. Ostavlja jasniju mapu zadataka, jače vještine, put za neslaganje, zapis onoga što se promijenilo i instituciju koja zna tko je odgovoran. To su skromna postignuća u usporedbi s obećanjima danima u demonstraciji proizvoda. To su također stvari koje sprječavaju da radno mjesto postane mjesto gdje softver donosi odluke, a svi ostali pružaju alibije.

Zato postavite praktično pitanje rano. Kada se ovaj zadatak pomakne, koji se posao pojavljuje? Tko će ga raditi? Koju će ovlast imati? Kakvo će osposobljavanje učiniti tu ovlast stvarnom? Tko može osporiti taj aranžman? Kamo odlazi ušteđeno vrijeme? Ako organizacija ne može odgovoriti, nije spremna automatizirati zadatak. Spremna je nadati se da će se posao nekako pobrinuti sam za sebe. Poslovi rijetko su tako obzirni.

Izvori