Kad chatbot postane radni kolega

Chatbot može biti koristan alat, a da ne postane upravitelj u prijateljskom sučelju. Crta se prelazi kada konverzacijski sustav počne oblikovati prosudbe,...

Kad chatbot postane radni kolega

Kolega je više od glasa u prostoriji

Postoji posebna vrsta rečenice zbog koje promjena zvuči manje nego što jest: „Svima dajemo chatbot.“ Dolazi s poznatim okruženjem uvođenja softvera. Bit će licence, kratke demonstracije, možda stranica s prijedlozima upita i nečiji pomalo previše vedar podsjetnik da ga koristimo odgovorno. Čini se da alat stoji uz posao. Može sastaviti nacrt, pretraživati, sažeti, prevoditi, objasniti pravilo ili pretvoriti grubu bilješku u nešto što izgleda kao da je napisano nakon cijele noći sna. To su obične i ponekad korisne mogućnosti. Ali rečenica prestaje biti bezazlena kada chatbot počne oblikovati tko dobiva posao, što se smatra dobrim odgovorom, koje se tumačenje događaja prihvaća ili kako se osoba ocjenjuje kada se s njim ne slaže.

U tom trenutku pitanje više nije je li sučelje razgovorno. Pitanje je je li sustav postao radni kolega u ozbiljnijem smislu: sudionik u podjeli rada, izvor autoriteta, svjedok čije se tumačenje uvažava, tihi utjecaj na uvjete pod kojima se nekome vjeruje. Kolega može preporučiti, osporiti, objasniti i ponekad olakšati dan. Kolega također pripada strukturi odgovornosti. Njega se može pitati zašto. Njega se može ispraviti. Njegova se uloga može opisati. Sustav koji govori lakoćom kolege, ali se njime upravlja s nejasnoćom komunalne usluge, mnogo je teži slučaj.

Europa ovdje ima koristan instinkt. Ne zahtijeva od nas da se pretvaramo da je svaki automatizirani alat upravitelj, niti da svaki radnik postane stručnjak za arhitekturu modela prije nego što otvori prozor za razgovor. Postavlja praktičnija pitanja o uvjetima rada. Na koga se utječe? Koji se podaci koriste? Koja je svrha? Što se događa kada je prijedlog pogrešan? Tko može intervenirati? Koja prava na informiranje i savjetovanje vrijede? Koje odluke ostaju ljudske i je li ta ljudska uloga stvarna ili samo dekorativna?

Naslov je namjerno nelagodan. Chatbot nije kolega u ljudskom smislu. Nema ugovor o radu, nema profesionalnu prosudbu, nema pravnu odgovornost i nema iskustvo zakasnjenja na vlak po kiši. Ne treba mu pauza, platna lista niti put za žalbu na ocjenu rada. Opasnost počinje kada se njegova nesposobnost da nosi te stvari tretira kao prednost. Ako sustav može utjecati na rad, ali ne nosi nikakve društvene, pravne ili praktične obveze koje dolaze s autoritetom na radnom mjestu, organizacija mora sama postaviti granice. Inače najjeftiniji kolega u zgradi postaje onaj koji snosi najmanje odgovornosti.

Mali poziv koji mijenja prostoriju

Razmotrimo jasno hipotetski primjer. Organizacija srednje veličine uvodi chat asistenta za interna pitanja o politikama. Rečeno mu je da pomaže ljudima pronaći procedure, sastaviti nacrte rutinskih poruka i identificirati sljedeći korak u predmetu. Nitko ne kaže da će donositi odluke. Organizacija je dovoljno oprezna da kaže kako zaposlenici ostaju odgovorni za svoj rad. To je razuman početak, ali ne rješava stvar.

U prvim tjednima ljudi otkriju da je asistent brži od pretraživanja pretrpanog intraneta. Nadređeni počinje tražiti od timova da ga koriste prije nego što eskaliraju pitanje. Nacrt koji je izradio asistent postaje zadani ton za korespondenciju. Zapisi koje asistent dohvaća postaju zapisi koje ljudi citiraju. Kasnije se isti alat povezuje s redom čekanja kako bi mogao predlagati prioritet. Upravitelj vidi nadzornu ploču koja pokazuje koliko često zaposlenici prihvaćaju prijedloge i koliko im vremena treba za odgovor. Svaki dodatak ima uvjerljivo objašnjenje. Zajedno mijenjaju praktičnu definiciju dobrog radnika u organizaciji.

Nijedan pojedinačni trenutak ne mora biti dramatičan. Ne mora postojati izmišljena katastrofa, nijedan zaposlenik s prikladno pamtljivim imenom, nijedan nesretni utorak u 09:17. Poanta hipotetskog primjera upravo je u tome da promjena može doći bez teatralnosti. Radno mjesto može predati ovlast sustavu kroz niz skromnih pogodnosti. Pomoćnik ne mora izdati naredbu. Može stvoriti standard prema kojem se mjeri ljudski odgovor. Može postati prvi izvor koji se konzultira, put kojim se oblikuje neizvjesnost, tiha osnovica od koje se odstupanje mora objašnjavati.

Pitanje koje treba postaviti nije je li chatbot zamijenio menadžera. Preciznije je: što se sada događa drugačije zato što je chatbot tu? Mijenja li vrijeme dopušteno za zadatak? Standardizira li jezik koji je nekoć ovisio o profesionalnoj prosudbi? Odlučuje li koje će informacije biti vidljive prve? Pojavljuje li se preporuka u radnom tijeku gdje odbijanje zahtijeva dodatno objašnjenje? Koristi li menadžer stope prihvaćanja kao dokaz marljivosti? Stvara li alat zapis koji nadživi razgovor i može li ga pogođena osoba vidjeti ili ispraviti?

Ta pitanja nisu neprijateljska prema korisnim alatima. Ona su način na koji organizacija razlikuje pomoć pri pisanju od skrivenog sustava upravljanja. Razlika nije u osobnosti sučelja. Hladna nadzorna ploča može upravljati radom jednako temeljito kao prijateljski prozor za razgovor. Obratno, razgovorni alat može ostati instrument ako je njegova uloga jasna, ako su njegovi ulazi i ograničenja razumljivi te ako osoba zadržava i vrijeme i ovlast za prosudbu.

Razgovor može sakriti lanac odluka

Razgovor čini složene sustave dojmljivo bliskima. Osoba upisuje pitanje na običnom jeziku i dobiva odgovor na običnom jeziku. To je dio privlačnosti. Također skriva lanac odluka koji je važan na poslu: koji su izvori dostupni, čije se politike tretiraju kao aktualne, kako se pitanje tumači, koje se informacije uskraćuju, bilježi li se odgovor, tko može pregledati zapisnik, kako se model mijenja te je li odgovor tek koristan ili operativno posljedičan.

Ljudi su navikli tretirati rezultat pretrage kao poziv na provjeru. Rečenica chatbota dolazi s više društvenog samopouzdanja. Ona je već izvršila oblik sinteze. Može navesti izvore, a može i ne. Može opisati zaključak u tečnom registru zbog kojeg se neslaganje čini neugodnim. Ako se taj odgovor odnosi na zahtjev za godišnji odmor, sigurnosnu proceduru, politiku zapošljavanja, pritužbu kupca ili ispravnu sljedeću radnju u javnoj službi, tečnost nije manja estetska značajka. Ona oblikuje raspodjelu pažnje i sumnje.

Zato je podrijetlo radni uvjet, a ne dekorativna tehnička značajka. Osoba mora znati je li odgovor došao iz odobrene politike, aktualne lokalne procedure, općeg odgovora modela ili mješavine izvora. Mora vidjeti gdje je izjava pojednostavljena. Treba joj put da kaže da odgovor ne odgovara slučaju pred njom. Bez tog puta, samopouzdanje sustava postaje neformalna uputa, a radnik snosi rizik ili da je slijedi ili da joj se odupre bez dokaza.

Sličan problem postoji s riječju 'pomoć'. Pomoć može biti iskrena. Alat koji okuplja materijal koji bi osoba inače morala pronaći ručno može zaštititi vrijeme za prosudbu. Ali pomoć također može premjestiti teret. Ako pomoćnik proizvede uvjerljivu prvu verziju, radnik će možda morati obraditi više slučajeva. Ako daje preporuku, radnik će možda morati dokumentirati svako odbijanje. Ako smanji vrijeme koje nadređeni provodi objašnjavajući proces, organizacija može tiho ukloniti vrijeme u kojem bi ljudsko objašnjenje moglo otkriti da je sam proces pogrešan.

Granica stoga nije između automatizacije i njezina izostanka. Ona je između alata koji proširuje nečiju sposobnost za pažljiv rad i alata koji sužava prihvatljiv način obavljanja tog rada. To dvoje može izgledati jednako u demonstraciji proizvoda. Razilaze se u redu čekanja, u razgovoru o učinku, u putu za žalbu i u trenutku kada netko mora reći: ovaj odgovor nije dovoljno dobar za ovaj slučaj.

Sustav može učiniti put kroz posao jasnijim. Ne bi smio zamagliti točku u kojoj odgovorna osoba mora procijeniti i odlučiti. Odaberite fazu da biste vidjeli njezinu ulogu.

Kada preporuka postane uputa

Autoritet na radnom mjestu rijetko dolazi kao jedna zapovijed. Putuje kroz raspodjelu zadataka, ciljeve, zadane postavke, predložene odgovore, postupanje s iznimkama i malu trenju koja prati neslaganje. Sustavu ne treba moć otpuštanja nekoga da bi utjecao na njegov radni život. Može utjecati na to koje zadatke osoba vidi, kada ih prima, kako je njezin rad opisan, koji signal o učinku stigne do nadređenog ili hoće li se zahtjev tretirati kao uobičajen ili sumnjiv.

Europska istraživanja o sigurnosti na radu koriste pojam upravljanje radnicima temeljeno na umjetnoj inteligenciji za sustave koji prikupljaju i analiziraju informacije o radnim mjestima, radnicima i zadacima kako bi donosili automatizirane ili poluautomatizirane odluke o pitanjima poput rasporeda, raspodjele zadataka ili procjene učinka. Ta je definicija korisna jer promatra funkciju, a ne marketing. Sustav označen kao 'asistent', 'kopilot' ili 'pratitelj znanja' može biti izvan tog opisa u jednom okruženju, a blizu njega u drugom. Oznaka nije dokaz. Učinak na rad jest.

Rad EU-OSHA-e također jasno pokazuje zašto ovo nije samo pitanje zaštite podataka. Sustavi koji povećavaju nadzor, pritisak na učinak ili intenzitet rada mogu imati posljedice za sigurnost, zdravlje i dobrobit. Smanjena autonomija nije apstraktan prigovor inovaciji. Može promijeniti ima li netko dovoljno prostora da zadatak obavi sigurno, zatraži pomoć, iskoristi profesionalnu prosudbu ili se oporavi od razdoblja visoke potražnje. Organizacija bi trebala moći objasniti kako će primijetiti te učinke, a ne samo kako će mjeriti model.

Chatbot može postati dio ovog okruženja na manje očite načine nego optimizator ruta ili mehanizam za raspoređivanje. Zamislite da proizvodi 'sljedeću najbolju radnju' na zaslonu za upravljanje predmetima. Zamislite da sastavlja sažetak učinka iz podataka o aktivnostima. Zamislite da nadređenima daje sažet prikaz razgovora koje sami nisu pročitali. Zamislite da radniku objašnjava zašto je njegova smjena promijenjena, dok temeljni kriteriji ostaju izvan vidokruga. Razgovorna površina ne uklanja upravljačku funkciju. Može učiniti funkciju prihvatljivijom jer odluka stiže glasom koji zvuči uslužno.

Nema ničega djetinjastog u tome da se to shvati ozbiljno. Odrasli znaju da uljudna rečenica i dalje može nositi uputu. Na radnom mjestu uljudnost može otežati osporavanje upute jer pitanje autoriteta pretvara u pitanje tona. Pravi odgovor nije učiniti svako sučelje sumornim. On je osigurati da važne preporuke identificiraju svoju osnovu, svoja ograničenja i ljudsku ulogu koja ostaje odgovorna za ishod.

Ljudski nadzor nije ceremonijalan klik

„Čovjek ostaje u petlji“ jedna je od najizlizanih tvrdnji u tehnologiji. Može opisivati stvarnu zaštitu. Može opisivati i osobu od koje se očekuje da potvrdi rezultat u vremenu kraćem od onog potrebnog da ga razumije, bez pristupa informacijama koje su ga proizvele i s ciljem koji nagrađuje slaganje. Ta razlika je važna jer se ime te osobe kasnije može vezati uz odluku čak i kada je njezin autoritet bio prividan.

Akt o umjetnoj inteligenciji daje boljoj verziji praktičan oblik. Za relevantne visokorizične sustave, ljudski nadzor nije samo prisutnost osobe. Riječ je o odgovarajućoj stručnosti, osposobljenosti i ovlastima. Osobe zadužene za nadzor trebale bi moći razumjeti relevantne mogućnosti i ograničenja, biti svjesne pristranosti automatizacije, pravilno tumačiti rezultate te odlučiti ne koristiti sustav, nadjačati ga ili prekinuti kada je to potrebno. Točne pravne obveze ovise o sustavu i kontekstu. Organizacijska pouka ide i dalje: smislen nadzor zahtijeva znanje, vrijeme, informacije i ovlasti.

Te ovlasti često nedostaju. Radnik tehnički može odbiti preporuku, ali ga se praktično odvraća od toga. Možda odbijanje stvara dulji obrazac. Možda snižava metriku prihvaćanja. Možda nadređeni tretira odstupanje kao znak da se radnik nije prilagodio novom procesu. Možda nitko nije objasnio što će se dogoditi nakon nadjačavanja, pa se prihvaćanje čini sigurnijim putem. Ništa od toga ne zahtijeva loše namjere. Može proizaći iz tijeka rada koji su izgradili ljudi koji su prihvaćanje vidjeli kao učinkovitost i nisu se zapitali što je potrebno da odbijanje bude stvarno.

Pouzdan dizajn čini put odbijanja jednako jasnim kao i put prihvaćanja. Navodi kada se sustav ne smije koristiti. Daje osobi prostor da zabilježi razlog običnim jezikom. Šalje neslaganje negdje gdje može proizvesti ispravak, umjesto u proračunsku tablicu gdje postaje manja neugodnost. Štiti recenzenta od toga da ga se tretira kao neučinkovitog samo zato što pažljiv rad traje dulje. I bilježi odluku na način koji kasnijem pregledu omogućuje razlikovanje rezultata modela od osobnog zaključka osobe.

Smjernice Europskog odbora za zaštitu podataka o automatiziranom pojedinačnom donošenju odluka posebno su korisne kao upozorenje protiv nominalnog ljudskog sudjelovanja. Ljudska intervencija mora biti smislena, a ne puki znak. Iako pravni test iz članka 22. GDPR-a ima vlastite uvjete i ne bi ga trebalo protezati na svaku radnu odluku, temeljno je pitanje vrijedno: je li osoba doista razmotrila dostupne informacije i imala ovlasti odstupiti od automatiziranog rezultata? Ako je odgovor ne, organizacija ne bi smjela koristiti ljudski potpis kako bi automatizirani aranžman izgledao odgovornije nego što jest.

Konzultirajte se prije nego korisna navika postane politika

O mnogim se sustavima na radnom mjestu konzultira prekasno. Dobavljač je odabran, ugovor potpisan, podatkovna veza definirana, menadžerima je prikazan obećavajući pilot, a preostali razgovor opisuje se kao implementacija. U toj fazi radnici i dalje mogu biti zamoljeni za povratne informacije, ali povratna informacija je uzak kanal kada je osnovno pitanje već riješeno. Pravo vrijeme za informiranje i konzultacije je ranije, kada organizacija još odlučuje koji problem zapravo namjerava riješiti.

Direktiva 2002/14/EZ uspostavlja opći europski okvir za informiranje i savjetovanje radnika. Njezin opseg i nacionalna provedba su važni, i nije riječ o priručniku specifičnom za umjetnu inteligenciju. Ipak, njezin jezik ostaje izravno relevantan za promjenu koja može bitno izmijeniti organizaciju rada. Informacije se moraju pružiti u vrijeme, na način i sa sadržajem koji predstavnicima omogućuju da ih primjereno ispitaju. Savjetovanje uključuje razmjenu stajališta i uspostavu dijaloga, s ciljem postizanja dogovora o odlukama u okviru ovlasti poslodavca. To je znatno ozbiljnije od predstavljanja gotovog sustava i nazivanja sesije pitanja i odgovora sudjelovanjem.

Kad je riječ o chatbotu, rano savjetovanje trebalo bi početi od posla, a ne od modela. Koji je dio posla težak? Je li poteškoća uzrokovana lošim informacijama, neravnomjernom raspodjelom osoblja, nejasnom politikom, ponavljajućom administracijom, nedostupnim sustavima, neodgovarajućom obukom ili stvarnom potrebom za pomoćnikom za razgovor? Alat može vrlo učinkovito prikriti stari organizacijski propust. Ako ljudi ne mogu pronaći politiku jer je politika proturječna, chatbot može proizvesti glađu zbrku. Ako je tim preopterećen jer su pretpostavke o broju osoblja pogrešne, alat za sastavljanje teksta može preopterećenje pretvoriti u dotjeraniji rezultat.

Radnici i predstavnici također mogu prepoznati gdje naizgled bezopasan pomoćnik mijenja rizik. Možda znaju da je standardna fraza nesigurna u određenoj vrsti slučaja, da lokalni postupak ima iznimke, da će jezični model pogrešno obraditi stručni pojam ili da će zapisnik pitanja otkriti informacije koje bi ljudi trebali moći iznijeti privatno. To nije znanje koje se pojavljuje u proračunskoj tablici nabave. To je dio operativne stvarnosti koja određuje pomaže li sustav ili šteti.

Savjetovanje nije veto na svako uvođenje. To je način da odluka bude iskrenija. Ono prisiljava organizaciju da imenuje što će se promijeniti, tko bi mogao biti pogođen, koje dokaze ima, što ne zna i koje zaštitne mjere je spremna prihvatiti. Ono stvara zapis o neslaganju kojem se može vratiti kad se sustav promijeni. Dizajn koji ne može preživjeti jasno objašnjenje ljudima koji obavljaju posao nije nužno protuzakonit. Ipak, traži povjerenje pod neobično slabim uvjetima.

Glas radnika je dokaz, a ne atmosfera

Postoji navika tretirati glas radnika kao pitanje kulture: poželjno, toplo, teško mjerljivo. To je preblago. U radnom procesu koji se mijenja, ljudi koji se susreću s iznimkama izvor su dokaza. Oni vide slučajeve koji ne odgovaraju skupu podataka, kupce koji ne mogu koristiti standardni put, opremu koja otkazuje na hladnoći, zapis koji ne odgovara osobi pred njima, mjesto gdje se fraza iz politike i ljudska potreba razdvajaju. Radno mjesto koje im oduzima mogućnost da govore baca dio svog sustava osjetila.

Ali slušanje nije isto što i prikupljanje komentara. Obrazac za povratne informacije može postati još jedan instrument nadzora ako nitko ne zna tko ga čita, kako se pohranjuje ili može li utjecati na osobu koja je iznijela zabrinutost. Koristan put ima zaštitne mjere. Omogućuje ljudima da prijave problem bez potrebe da ga prevedu u tehnički rječnik. Razlikuje pojedinačni slučaj od obrasca. Predstavnicima daje dovoljno zbirnih informacija da uoče ponavljajući problem. Jasno pokazuje tko je odgovoran za odgovor i kada će organizacija odlučiti hoće li promijeniti sustav.

Ta ruta mora preživjeti ažuriranja. Jednokratno savjetovanje o prvoj verziji ne upravlja sustavom koji kasnije dobiva nove izvore, drugačiji model, novu publiku, dodatne upite, nadzornu ploču učinka ili integraciju s drugim tijekom rada. Chatbot se mijenja kada se mijenja njegov kontekst. Tehnički može biti ista usluga, a istovremeno obavljati drugačiju društvenu ulogu. Upravljanje bi trebalo slijediti tu ulogu, a ne izvornu narudžbenicu.

Ovdje postoji poučna nizozemska lekcija: okvir za povratne informacije nije polder model. Dijalog zahtijeva stol, zapisnik i mogućnost da se nešto na karti pomakne. Poanta nije pretvoriti svaku prilagodbu upita u ustavnu konvenciju. Poanta je prepoznati pragove koji zaslužuju ponovni nadzor. Koristi li sustav sada podatke o zaposlenicima? Rangira li, raspoređuje li, procjenjuje li ili preporučuje li radnju s ozbiljnim posljedicama? Je li se skup pogođenih osoba proširio? Je li put odbijanja postao teži? Jesu li stara jamstva postala nedostatna jer je alat sada dio bržeg i stresnijeg tijeka rada?

Kada je odgovor potvrdan, glas mora imati put do upravljanja. U suprotnom, organizacija traži od ljudi da prepoznaju rizike, dok zadržava pravo ignorirati dokaze koji ih identificiraju. To nije sudjelovanje. To je neplaćeno testiranje s boljim uredskim priborom.

Povratna informacija postaje upravljanje kada stigne do imenovanog vlasnika, proizvede dokumentirani odgovor i može promijeniti sustav. Odaberite točku u krugu da biste pregledali njezinu svrhu.

Nadzor ne postaje blag zbog prozora za chat

Konverzacijski sustavi stvaraju posebno primamljiv oblik podataka na radnom mjestu. Pitanja mogu otkriti nesigurnost, opterećenje, zdravstvene probleme, obiteljske obveze, sindikalno djelovanje, financijski stres, zaštićena obilježja ili jednostavno činjenicu da netko pokušava razumjeti tešku situaciju. Dnevnik može djelovati operativno korisno jer pokazuje što ljudi pitaju. Također može postati karta ranjivosti. Činjenica da se podaci pojavljuju u radnom alatu ne rješava pitanje treba li ih prikupljati, čuvati, analizirati ili ponovno koristiti za procjenu.

Ograničenje svrhe stoga je ljudsko pitanje prije nego što postane usklađenost. Ako je pomoćnik namijenjen pomaganju nekome da razumije postupak, hoće li se njegova pitanja kasnije koristiti za procjenu njegove stručnosti? Ako upravitelj može vidjeti koje je upite osoba unijela, hoće li ljudi izbjegavati tražiti pomoć? Ako organizacija analizira ponavljajuća pitanja, može li to učiniti na način koji poboljšava dokumentaciju bez izrade profila ljudi kojima je bila potrebna? Sustav može učiniti da radno mjesto djeluje informiranije, dok individualno učenje čini manje sigurnim.

Direktiva o radu putem platformi nudi koristan, konkretan europski primjer. Njezina pravila usmjerena su na rad putem platformi, a ne na svaki radni odnos, te ih treba tumačiti u tom okviru. Ipak, ona pokazuju ozbiljan javni sud o algoritamskom upravljanju: gdje automatizirani nadzor ili donošenje odluka utječe na rad, moraju postojati transparentnost, ljudski nadzor i revizija, putevi do objašnjenja i osporavanja te posebna pažnja oko određenih kategorija osobnih podataka. Direktiva ne čini da obični problemi u zapošljavanju nestanu. Ona otežava tvrdnju da je softver izvan društvenih obveza rada samo zato što je stigao putem aplikacije.

Za opće radno okruženje, praktično je načelo uže i korisnije od velikog obećanja privatnosti. Prikupljajte manje. Imenujte svrhu. Odvojite poboljšanje usluge od procjene radnog učinka, osim ako ne postoji jasan i obranjiv razlog da ih povežete. Ne pretvarajte nečija pitanja u neprijavljenu ocjenu kompetencija. Ne tretirajte izostanak pitanja kao dokaz samopouzdanja. Ne dopustite nadređenom da pregledava tragove razgovora samo zato što platforma to tehnički olakšava. Tehnička dostupnost nije legitimna svrha.

Postoji i pitanje dostojanstva koje se ne može svesti na polje podataka. Radnik bi trebao moći pitati kako riješiti nepoznat problem bez stvaranja trajne sumnje da je manje sposoban od nekoga tko već zna odgovor. Učenje je oduvijek uključivalo nesigurnost. Radno okruženje koje previše revno bilježi i rangira nesigurnost može proizvesti manje vidljivih pitanja i lošije odluke. Šutnja je vrlo uredna metrika. Nije nužno dobar znak.

Obuka bi trebala uključivati pravo na sumnju

AI pismenost često se opisuje kao sposobnost dobrog korištenja alata. To je samo pola zahtjeva. Na radnom mjestu pismenost mora uključivati i sposobnost prepoznavanja kada se alatu ne smije povjeriti pitanje, kada odgovor nema potporu, kada preporuka ima posljedice izvan zaslona i kada treba eskalirati. Osoba koja može sastaviti uredan upit, ali ne može prepoznati pogrešan rezultat, nije potpuno opremljena. Naučila je sučelje, ali ne i odgovornost koja ide uz njega.

Članak 4. Akta o umjetnoj inteligenciji zahtijeva od pružatelja i korisnika da poduzmu mjere kako bi osigurali odgovarajuću razinu AI pismenosti među osobljem i drugim osobama koje u njihovo ime rade sa sustavima umjetne inteligencije, uzimajući u obzir njihovo tehničko znanje, iskustvo, obrazovanje, obuku i kontekst u kojem se sustav koristi. To je mudro kontekstualno. Recepcioner, kliničar, socijalni radnik, inženjer, nadređeni i službenik za zaštitu podataka mogu trebati različita znanja. Jedna generička prezentacija, praćena kvizom o vokabularu, vjerojatno neće ispuniti praktičnu svrhu.

Dobra obuka počinje od stvarnog posla. Koji su odobreni izvori asistenta? Kakva vrsta odgovora treba potaknuti provjeru? Što se nikada ne smije unijeti? Koji se rezultati mogu koristiti kao nacrt, a koji zahtijevaju drugi izvor? Što netko treba učiniti kada asistent nije dostupan, pogriješi ili je neobično uvjeren? Kako ispraviti zapis? Tko može odgovoriti na pitanja o alatu bez tretiranja svake zabrinutosti kao IT zahtjeva? To su svakodnevna pitanja, što je ohrabrujuće. Svakodnevna pitanja su mjesto gdje žive sigurne navike.

Obuka mora dosegnuti i nadređene. Ako nadređeni tumači broj upita, stope prihvaćanja ili vrijeme odgovora kao pokazatelj predanosti, radnici će doživjeti alat drugačije nego što je opisano u prezentaciji uvođenja. Nadređeni moraju razumjeti ograničenja tih signala i rizike pristranosti automatizacije. Moraju znati da rezultat nije činjenica o radnom učinku samo zato što je generiran iz podataka s radnog mjesta. Trebaju jasnu uputu da ne stvaraju neformalne prakse ocjenjivanja oko sustava koji je uveden za pomoć.

Najjači oblik pismenosti uključuje pravo da se kaže: „Ne znam je li ovaj odgovor siguran za upotrebu.” To nije priznanje neuspjeha. To je profesionalna prosudba u uvjetima nesigurnosti. Organizacije često kažu da žele odgovornu upotrebu, a zatim grade kulturu u kojoj nesigurnost izgleda neučinkovito. Ta dva stajališta ne mogu dugo koegzistirati. Ako se oprezna sumnja kažnjava, alat će se koristiti samouvjereno sve do točke u kojoj samouvjerenost postaje skupa.

Kako izgleda poštena procjena

Sustav ne treba procjenjivati samo prema tome koriste li ga ljudi. Prihvaćenost je dvosmislen signal. Ljudi mogu koristiti chatbot jer im stvarno štedi vrijeme, jer to očekuje nadređeni, jer su alternative postale teže dostupne, jer je ugrađen u obavezan zaslon ili jer odbijanje korištenja izgleda kao nedostatak entuzijazma. Nijedan od tih razloga ne dokazuje da je takvo rješenje pošteno ili korisno.

Bolja procjena ispituje što se promijenilo u radu. Jesu li ljudi trošili manje vremena na traženje provjerenog materijala ili samo više vremena na provjeru tečnih odgovora? Je li alat smanjio dupliciranu administraciju ili je povećao očekivani opseg dovršenog posla? Je li olakšao razumijevanje složenog postupka ili je standardizirao odgovor koji je trebao ostati osjetljiv na kontekst? Pojavljuje li se više problema jer zaposlenici imaju jednostavan put za postavljanje pitanja ili je vidljivo manje problema jer su ljudi naučili da postavljanje pitanja ostavlja trag? To su različiti ishodi, čak i ako nadzorna ploča pokazuje sličnu upotrebu.

U procjenu treba uključiti ljude na koje se najviše odnosi, a treba zadržati razliku između izmjerene činjenice i želje. „Očekujemo da će asistent smanjiti rutinski napor” prijedlog je. „Radnici su izvijestili da je asistent smanjio duplicirano pretraživanje tijekom definiranog pilot razdoblja” činjenica je, ako je doista zabilježena. „Asistent je poboljšao kvalitetu” zahtijeva definiciju kvalitete, kontekst i dokaze. Riječi poput poboljšanje, prihvaćenost i učinkovitost mogu prikriti iznimnu količinu neispitane politike.

Također bi trebala postojati unaprijed dogovorena točka u kojoj će organizacija preispitati sustav. Chatbot koji se proširi izvan svoje prvotne namjene, počne primati drugačije podatke ili postane dio postupka procjene ne smije biti zaštićen činjenicom da je nekada odobren za nešto manje. Preispitivanje nije znak da izvorni tim nije imao povjerenja u svoj rad. To je priznanje da sustavi dobivaju nove posljedice kada ljudi oko njih razviju navike.

Rad ILO-a na generativnoj umjetnoj inteligenciji i radnim mjestima ovdje je koristan jer razdvaja potencijalnu izloženost od stvarnih ishoda. Tehnologija može nadopunjavati, zamijeniti ili mijenjati zadatke ovisno o tome kako je organizacije odluče uvesti. Ista je suzdržanost korisna unutar jednog radnog mjesta. Mogućnost sama po sebi ne nosi svoj društveni rezultat. Chatbot može smanjiti monotoniju, intenzivirati rad, preraspodijeliti stručnost, oslabiti profesionalnu prosudbu ili stvoriti bolji put do dokaza. Tehnička mogućnost ne određuje što će se dogoditi. Određuju dizajn, upravljačke odluke i ravnoteža glasova.

Granicu treba zapisati

Svaka ozbiljna primjena treba kratku, jasnu izjavu o svojoj granici. Ne slogan o odgovornoj umjetnoj inteligenciji i ne pravni dokument toliko gust da samo tim za nabavu može pronaći poantu. Radna granica opisuje svrhu, ljude na koje se odnosi, informacije koje sustav smije koristiti, informacije koje ne smije koristiti, odluke u kojima smije pomagati, odluke koje ne smije donositi, osobu koja je vlasnik tijeka rada, put za prigovor, okolnosti u kojima alat treba pauzirati i datum na koji će se dogovor preispitati.

Ta će izjava biti nesavršena. Posao se mijenja. Politike se mijenjaju. Modeli se mijenjaju. Ali sam čin pisanja mijenja kvalitetu razgovora. Radniku daje nešto konkretno s čime može usporediti svoje iskustvo. Predstavniku daje put da pita je li se alat proširio izvan svoje navedene uloge. Nadređenom daje podsjetnik da koristan asistent nije opća dozvola za prikupljanje više podataka ili brže donošenje više odluka. Revizoru, regulatoru ili budućem timu daje zapis koji ne ovisi o institucionalnom pamćenju.

Granica bi također trebala odvajati prijedlog od odluke. Chatbot može predložiti sažetak, sljedeći korak ili nacrt. Sustav bi trebao reći kada se prijedlog temelji na nepotpunim informacijama. Osoba koja donosi odluku trebala bi biti vidljiva u zapisu. Ako se radnja kasnije ospori, organizacija bi trebala moći utvrditi koji je model ili pravilo uključeno, relevantnu verziju, materijal koji je utjecao na rezultat, osobu koja ga je pregledala i razlog konačnog odabira. To nije zahtjev da svako svakodnevno pitanje postane predmet dosjea. Riječ je o proporcionalnosti: što rezultat više utječe na osobu, to bi put do objašnjenja trebao dulje ostati dostupan.

Postoji koristan test. Može li organizacija objasniti tu granicu novom kolegi u njihovom prvom tjednu bez upotrebe riječi 'magija', 'besprijekorno' ili 'sustav zna'? Može li istu granicu objasniti predstavniku radnika bez promjene teme? Može li je objasniti osobi koja je dobila nepovoljan ishod? Ako je odgovor ne, problem nije u tome što publika nije dovoljno sofisticirana. Granica je vjerojatno previše nejasna.

Jasnoća ima tihu vrlinu. Otežava tvrdnju da sustav samo pomaže kada zapravo izravno usmjerava. Otežava govoriti radniku da on ostaje odgovoran dok mu se ne daje ovlast da se ne složi. Otežava korištenje razgovornog tona kao zamjene za odgovornu odluku. U upravljanju je takva neugodnost često prednost.

Naša mala poanta i jedna veća, ljudska

U Dweveu je relevantan dizajnerski instinkt skroman: važni odgovori trebali bi zadržati put natrag do dokaza, ograničenja i osobe odgovorne za postupanje na temelju njih. To je stajalište o tome kako bi sustav trebao podupirati prosuđivanje, a ne tvrdnja da softver može riješiti odnose moći na radnom mjestu ili zamijeniti institucije koje štite ljude na radu. Dobro strukturiran odgovor može učiniti razgovor korisnijim. Ne može odlučiti je li netko imao dovoljno vremena, ovlasti ili sigurnosti da ga ospori.

Veće pitanje pripada poslodavcima, radnicima, predstavnicima, sigurnosnim timovima, stručnjacima za zaštitu podataka, regulatorima i javnosti. Oni odlučuju hoće li chatbot postati instrument boljeg rada ili ugodno sučelje za stariju naviku: izvlačiti više prosuđivanja iz ljudi dok im se daje manje riječi o uvjetima u kojima se to prosuđivanje provodi. Nijedna postavka modela to neće riješiti sama po sebi.

Ne brkajte ljubaznost s pravednošću

Chatbot može biti koristan na poslu. Može pomoći novom kolegi pronaći proceduru, dati stručnjaku prvi nacrt, učiniti politiku manje nerazumljivom ili poštedjeti tim nepotrebnog traženja. To su vrijedne stvari. Pogreška je misliti da prijateljsko sučelje čini i organizacijske posljedice prijateljskima. Što sustav više utječe na raspodjelu, procjenu, pristup, disciplinu ili prikaz onoga što se dogodilo, to pažljivije njegove ovlasti trebaju biti ograničene.

To zahtijeva nekoliko neatraktivnih obveza: savjetovanje prije nego se dogovor učvrsti; obuku koja uključuje sumnju; prakse s podacima koje poštuju učenje i privatnost; ljudski nadzor sa stvarnom ovlasti; put za pojedinačno i kolektivno osporavanje; zapise koji razlikuju prijedlog od odluke; i periodični pregled kada se uloga sustava promijeni. Nijedna od tih obveza nije odbacivanje tehnologije. One su uvjeti pod kojima tehnologija može ući na radno mjesto bez zahtjeva da ljudi prvo predaju svoje prosuđivanje.

Chatbot ne mora postati kolega. Može ostati alat, što je često bolja i iskrenija ambicija. Alati mogu biti izvrsni. Ne trebaju mitologiju. Trebaju svrhu, granicu, vlasnika i nekoga tko ih smije odložiti kada više ne pomažu.

Izvori