Kun chatbotista tulee työkaveri

Chatbot voi olla hyödyllinen työkalu ilman, että siitä tulee johtaja ystävällisessä käyttöliittymässä. Raja ylittyy, kun keskusteleva järjestelmä alkaa...

Kun chatbotista tulee työkaveri

Kollegassa on kyse muustakin kuin äänestä kokoushuoneessa

On olemassa tietynlaisia lauseita, jotka saavat muutoksen kuulostamaan pienemmältä kuin se on: ”Annamme kaikille chatbotin.” Lauseen mukana tulee ohjelmistokäyttöönoton tuttu rekvisiitta. Luvassa on lisenssi, lyhyt esittely, kenties sivu promptiehdotuksia ja jonkun hieman liian iloinen muistutus vastuullisesta käytöstä. Työkalu vaikuttaa asettuvan työn rinnalle. Se voi luonnostella, hakea, tiivistää, kääntää, selittää käytännön tai muuttaa raakilemuistiinpanon sellaiseksi, että se näyttää syntyneen täyden yöunen jälkeen. Nämä ovat tavallisia ja joskus hyödyllisiä ominaisuuksia. Mutta lause lakkaa olemasta viaton, kun chatbot alkaa muokata sitä, kuka saa töitä, mitä pidetään hyvänä vastauksena, mikä selitys tapahtumasta hyväksytään tai miten henkilöä arvioidaan, kun hän on eri mieltä.

Silloin kysymys ei ole enää siitä, onko käyttöliittymä keskusteleva. Kysymys on siitä, onko järjestelmästä tullut työpaikan kollega vaikutukseltaan merkittävämmässä mielessä: osallistuja työnjaossa, auktoriteetin lähde, todistaja, jonka kertomukselle annetaan painoarvoa, hiljainen vaikuttaja niihin ehtoihin, joilla ihmiseen luotetaan. Kollega voi suositella, haastaa, selittää ja joskus helpottaa arkea. Kollega kuuluu myös vastuurakenteen sisään. Häneltä voi kysyä miksi. Häntä voi oikaista. Hänen roolinsa voidaan kuvata. Järjestelmä, joka puhuu kollegan vaivattomuudella mutta jota hallitaan työkalun epämääräisyydellä, on vaikeampi yhtälö.

Euroopalla on tässä hyödyllinen vaisto. Se ei edellytä, että teeskentelemme jokaisen automatisoidun työkalun olevan esihenkilö, eikä sitä, että jokaisesta työntekijästä tulisi mallin arkkitehtuurin asiantuntija ennen kuin hän avaa chat-ikkunan. Se kysyy käytännöllisempiä kysymyksiä työn ehdoista. Keihin vaikutus kohdistuu? Mitä dataa käytetään? Mikä on tarkoitus? Mitä tapahtuu, kun ehdotus on väärä? Kuka voi puuttua asiaan? Mitä tiedonsaanti- ja kuulemisoikeuksia sovelletaan? Mitkä päätökset pysyvät ihmisillä, ja onko se ihmisen rooli todellinen vai pelkkä koriste?

Otsikko on tarkoituksella epämukava. Chatbot ei ole kollega ihmismielessä. Sillä ei ole työsopimusta, ammatillista harkintaa, oikeudellista vastuuta eikä kokemusta siitä, että myöhästyy junasta sateessa. Se ei tarvitse taukoja, palkkalaskelmaa tai reittiä valittaa kehityskeskustelusta. Vaara alkaa, kun sen kyvyttömyyttä kantaa näitä asioita pidetään etuna. Jos järjestelmä voi vaikuttaa työhön mutta ei kanna mitään niistä sosiaalisista, oikeudellisista tai käytännön velvoitteista, jotka liittyvät työpaikan auktoriteettiin, organisaation on itse asetettava rajat. Muuten rakennuksen halvin kollega on myös se, jolle on vaikeinta asettaa vastuuta.

Pieni kutsu, joka muuttaa huoneen

Tarkastellaan selvästi hypoteettista esimerkkiä. Keskikokoinen organisaatio ottaa käyttöön chat-avustajan sisäisiä käytäntökysymyksiä varten. Sen tehtäväksi sanotaan auttaa ihmisiä löytämään menettelytavat, luonnostelemaan rutiiniviestejä ja tunnistamaan seuraavan vaiheen asiassa. Kukaan ei sano, että se tekee päätöksiä. Organisaatio on sen verran huolellinen, että se sanoo henkilöstön pysyvän vastuussa työstään. Tämä on järkevä alku, mutta se ei ratkaise asiaa.

Ensimmäisten viikkojen aikana ihmiset huomaavat, että avustaja on nopeampi kuin tungoksen täyttämän intranetin selaaminen. Esihenkilö alkaa pyytää tiimejä käyttämään sitä ennen kuin kysymys nostetaan eteenpäin. Avustajan luonnostelmasta tulee kirjeenvaihdon oletussävy. Avustajan hakemat asiakirjat ovat niitä, joihin ihmiset viittaavat. Myöhemmin sama työkalu yhdistetään jonoon, jotta se voi ehdottaa prioriteettia. Esihenkilö näkee kojelaudan, joka kertoo, kuinka usein henkilöstö hyväksyy ehdotukset ja kuinka kauan vastaaminen kestää. Jokaiselle lisäykselle on uskottava selitys. Yhdessä ne muuttavat organisaation käytännön määritelmää hyvästä työntekijästä.

Minkään yksittäisen hetken ei tarvitse olla dramaattinen. Ei tarvita keksittyä katastrofia, ei työntekijää, jolla on kätevästi mieleen jäävä nimi, ei epäonnekasta tiistaita kello 09.17. Hypoteettisen esimerkin tarkoitus on juuri se, että muutos voi tulla ilman teatraalisuutta. Työpaikka voi luovuttaa auktoriteettia järjestelmälle sarjan vaatimattomia mukavuuksia kautta. Avustajan ei tarvitse antaa käskyä. Se voi luoda standardin, johon ihmisen vastausta verrataan. Siitä voi tulla ensimmäinen lähde, jota konsultoidaan, reitti, jonka kautta epävarmuus kehystetään, hiljainen perustaso, josta poikkeaminen on selitettävä.

Kysymys ei ole siitä, onko chatbot korvannut esimiehen. Se on tarkempi: mitä nyt tapahtuu toisin, koska chatbot on olemassa? Muuttaako se tehtävään varattua aikaa? Yhdenmukaistaako se kielen, joka aiemmin riippui ammatillisesta harkinnasta? Päättääkö se, mikä tieto näkyy ensin? Tuleeko suositus näkyviin työnkulkuun, jossa sen hylkääminen vaatii ylimääräisen selityksen? Käyttääkö esimies hyväksymisasteita näyttönä tunnollisuudesta? Luoko työkalu tallenteen, joka säilyy keskustelun jälkeen, ja voiko asianomainen henkilö nähdä tai korjata sen?

Nämä kysymykset eivät ole vihamielisiä hyödyllisille työkaluille. Ne ovat tapa, jolla organisaatio erottaa kirjoitusavun varjohallintajärjestelmästä. Ero ei ole käyttöliittymän persoonallisuudessa. Kylmä kojelauta voi ohjata työtä yhtä perusteellisesti kuin ystävällinen keskusteluikkuna. Toisaalta keskusteleva työkalu voi pysyä välineenä, jos sen rooli on selkeä, sen syötteet ja rajat ymmärretään, ja ihmisellä säilyy sekä aika että valta käyttää harkintaa.

Keskustelu voi kätkeä päätösten ketjun

Chat saa monimutkaiset järjestelmät tuntumaan läheisiltä. Ihminen kirjoittaa kysymyksen tavallisella kielellä ja saa vastauksen tavallisella kielellä. Se on osa vetovoimaa. Se myös kätkee päätösten ketjun, jolla on merkitystä työssä: mitkä lähteet ovat käytettävissä, kenen käytännöt katsotaan voimassa oleviksi, miten kysymys tulkitaan, mitä tietoa pidätetään, kirjataanko vastaus, kuka voi tarkastella lokia, miten malli muuttuu ja onko vastaus vain hyödyllinen vai toiminnallisesti seurauksellinen.

Ihmiset ovat tottuneet kohtelemaan hakutuosta kutsuna tarkasteluun. Chatbotin lause saapuu suuremmalla sosiaalisella varmuudella. Se on jo suorittanut eräänlaisen synteesin. Se voi viitata lähteisiin, se voi olla viittaamatta. Se voi kuvata johtopäätöksen sujuvassa rekisterissä, joka tekee eri mieltä olemisesta hankalaa. Jos vastaus koskee lomapyyntöä, turvallisuusohjetta, työsuhdekäytäntöä, asiakasvalitusta tai oikeaa seuraavaa toimenpidettä julkisessa palvelussa, sujuvuus ei ole vähäinen esteettinen ominaisuus. Se muokkaa huomion ja epäilyn jakautumista.

Siksi alkuperä on työskentelyehto, ei koristeellinen tekninen ominaisuus. Ihmisen on tiedettävä, tuliko vastaus hyväksytystä käytännöstä, voimassa olevasta paikallisesta menettelystä, yleisestä mallivastauksesta vai lähteiden sekoituksesta. Heidän on nähtävä, missä väitettä on yksinkertaistettu. He tarvitsevat reitin sanoa, että vastaus ei sovi käsillä olevaan tapaukseen. Ilman tätä reittiä järjestelmän varmuudesta tulee epävirallinen ohje, ja työntekijä kantaa riskin joko noudattaa sitä tai vastustaa sitä ilman todisteita.

Samanlainen ongelma liittyy sanaan ’avustaa’. Avustaminen voi olla aitoa. Työkalu, joka kokoaa yhteen materiaalia, jonka ihminen muuten joutuisi etsimään käsin, voi vapauttaa aikaa harkinnalle. Mutta avustaminen voi myös siirtää taakkaa. Jos avustaja tuottaa uskottavan ensimmäisen luonnoksen, työntekijältä voidaan odottaa useampien tapausten käsittelyä. Jos se tekee suosituksen, työntekijän on ehkä dokumentoitava jokainen kieltäytyminen. Jos se vähentää esimiehen käyttämää aikaa prosessin selittämiseen, organisaatio voi hiljaa poistaa ajan, jossa ihmisen selitys voisi paljastaa, että itse prosessi on väärä.

Raja ei siis kulje automatisoinnin ja automatisoimattomuuden välillä. Se kulkee työkalun välillä, joka laajentaa ihmisen kykyä tehdä huolellista työtä, ja työkalun välillä, joka kaventaa hyväksyttävää tapaa tehdä se. Nämä kaksi voivat näyttää samalta tuote-esittelyssä. Ne erkanevat jonossa, suorituskeskustelussa, muutoksenhakuprosessissa ja hetkessä, jolloin jonkun on sanottava: tämä vastaus ei ole riittävän hyvä tähän tapaukseen.

Järjestelmä voi tehdä työn etenemisestä selkeämpää. Sen ei pitäisi hämärtää kohtaa, jossa vastuullisen henkilön on arvioitava ja päätettävä. Valitse vaihe tarkastellaksesi sen roolia.

Kun suosituksesta tulee määräys

Työpaikan auktoriteetti tulee harvoin yhtenä käskynä. Se kulkee työnjaon, tavoitteiden, oletusarvojen, ehdotettujen vastausten, poikkeusten käsittelyn ja erimielisyyteen liitetyn pienen kitkan kautta. Järjestelmän ei tarvitse pystyä erottamaan ketään, jotta se vaikuttaisi tämän työelämään. Se voi vaikuttaa siihen, mitä tehtäviä henkilö näkee, milloin ne saapuvat, miten työ kuvataan, mikä suoritussignaali päätyy esihenkilölle tai kohdellaanko pyyntöä tavallisena vai epäilyttävänä.

Eurooppalaisessa työturvallisuustutkimuksessa käytetään termiä tekoälypohjainen työntekijöiden hallinta järjestelmistä, jotka keräävät ja analysoivat tietoa työpaikoista, työntekijöistä ja tehtävistä tehdäkseen automatisoituja tai puoliautomatisoituja päätöksiä esimerkiksi aikataulutuksesta, tehtävien jaosta tai suorituksen arvioinnista. Tämä määritelmä on hyödyllinen, koska se katsoo toimintoa, ei markkinointia. Järjestelmä, jota kutsutaan ’avustajaksi’, ’rinnakkaisohjaajaksi’ tai ’tieto-oppaaksi’, voi olla tämän kuvauksen ulkopuolella yhdessä ympäristössä ja lähellä sitä toisessa. Nimike ei ole todiste. Vaikutus työhön on.

EU-OSHA:n työ tekee myös selväksi, miksi tämä ei ole vain tietosuojakysymys. Järjestelmät, jotka lisäävät seurantaa, suorituspainetta tai työn intensiteettiä, voivat vaikuttaa turvallisuuteen, terveyteen ja hyvinvointiin. Vähentynyt autonomia ei ole abstrakti vastalause innovaatiolle. Se voi muuttaa sitä, onko jollakulla riittävästi tilaa tehdä tehtävä turvallisesti, pyytää apua, käyttää ammatillista harkintaa tai toipua kiireisestä jaksosta. Organisaation pitäisi pystyä selittämään, miten se huomaa nämä vaikutukset, ei vain sitä, miten se mittaa mallia.

Chatbot voi tulla osaksi tätä maisemaa vähemmän ilmeisillä tavoilla kuin reitinoptimoija tai aikataulutusmoottori. Kuvittele, että se tuottaa ’seuraavan parhaan toimenpiteen’ asiankäsittelynäkymässä. Kuvittele, että se luonnostelee suoritusyhteenvedon toimintatiedoista. Kuvittele, että se antaa esihenkilöille tiiviin selvityksen keskusteluista, joita he eivät itse lukeneet. Kuvittele, että se kertoo työntekijälle, miksi tämän vuoro vaihdettiin, kun taustalla olevat kriteerit pysyvät näkymättömissä. Keskustelupinta ei poista hallintatoimintoa. Se voi tehdä toiminnosta helpommin hyväksyttävän, koska päätös saapuu äänessä, joka kuulostaa avuliaalta.

Ei ole mitään lapsellista siinä, että tämä otetaan vakavasti. Aikuiset tietävät, että kohtelias lause voi silti sisältää käskyn. Työpaikalla kohteliaisuus voi tehdä käskystä vaikeammin haastettavan, koska se muuttaa auktoriteettikysymyksen sävykysymykseksi. Oikea vastaus ei ole tehdä jokaisesta käyttöliittymästä synkkää. Se on varmistaa, että tärkeät suositukset kertovat perustansa, rajansa ja sen ihmisen roolin, joka on edelleen vastuussa lopputuloksesta.

Ihmisen valvonta ei ole seremoniallinen napsautus

”Ihminen pysyy mukana prosessissa” on yksi teknologia-alan kuluneimmista vakuutteluista. Se voi kuvata todellista suojakeinoa. Se voi myös kuvata henkilöä, jonka odotetaan vahvistavan tulos nopeammin kuin sen ymmärtäminen vaatii, ilman pääsyä tuloksen tuottaneisiin tietoihin ja tavoitteella, joka palkitsee samaa mieltä olemisesta. Erolla on merkitystä, koska henkilön nimi voidaan myöhemmin liittää päätökseen, vaikka hänen valtuutensa olisi ollut kuvitteellinen.

EU:n tekoälyasetus antaa paremmalle versiolle käytännön muodon. Merkittävissä korkean riskin järjestelmissä ihmisen suorittama valvonta ei tarkoita vain sitä, että ihminen on läsnä. Se koskee asianmukaista osaamista, koulutusta ja valtuuksia. Valvontaan määrättyjen henkilöiden tulisi ymmärtää järjestelmän olennaiset ominaisuudet ja rajoitukset, pysyä tietoisina automaatioharhasta, tulkita tuloksia asianmukaisesti ja päättää olla käyttämättä järjestelmää, ohittaa se tai keskeyttää se tarvittaessa. Tarkat lakisääteiset velvoitteet riippuvat järjestelmästä ja asiayhteydestä. Organisaatiota koskeva opetus kantaa pidemmälle: merkityksellinen valvonta edellyttää tietoa, aikaa, informaatiota ja lupaa.

Se lupa on usein puuttuva osa. Työntekijä voi teknisesti hylätä suosituksen, mutta käytännössä häntä voidaan kannustaa olemaan tekemättä niin. Ehkä hylkääminen tarkoittaa pidempää lomaketta. Ehkä se heikentää hyväksyntämittaria. Ehkä esihenkilö pitää poikkeamista merkkinä siitä, että työntekijä ei ole omaksunut uutta prosessia. Ehkä kukaan ei ole selittänyt, mitä ohituksen jälkeen tapahtuu, joten turvallisemmalta reitiltä vaikuttaa hyväksyntä. Mikään tästä ei edellytä pahoja aikomuksia. Se voi syntyä työnkulusta, jonka ovat rakentaneet ihmiset, jotka näkivät hyväksynnän tehokkuutena eivätkä kysyneet, mitä kieltäytyminen tarvitsee ollakseen todellista.

Luotettava suunnittelu tekee kieltäytymisreitistä yhtä selkeän kuin hyväksymisreitistä. Se ilmaisee, milloin järjestelmää ei tulisi käyttää. Se antaa henkilölle mahdollisuuden kirjata syy tavallisella kielellä. Se ohjaa erimielisyyden jonnekin, missä se voi johtaa korjaukseen, eikä laskentataulukkoon, jossa siitä tulee pieni haitta. Se suojaa arvioijaa siltä, että häntä pidettäisiin tehottomana pelkästään siksi, että huolellinen työ vie enemmän aikaa. Ja se tallentaa päätöksen tavalla, joka mahdollistaa myöhemmän tarkastelun erottamaan mallin tuotoksen henkilön omasta johtopäätöksestä.

Euroopan tietosuojaneuvoston ohjeistus automatisoidusta yksittäispäätöksenteosta on erityisen hyödyllinen varoituksena näennäisestä ihmisen osallistumisesta. Ihmisen väliintulon on oltava merkityksellistä, ei pelkkä ele. Vaikka GDPR:n 22 artiklan oikeudellisella testillä on omat edellytyksensä eikä sitä tulisi venyttää koskemaan jokaista työpaikan päätöstä, taustalla oleva kysymys on arvokas: punnitsiko henkilö todella saatavilla olevaa tietoa ja oliko hänellä valtuudet poiketa automatisoidusta tuloksesta? Jos vastaus on ei, organisaation ei tulisi käyttää ihmisen allekirjoitusta saadakseen automatisoidun järjestelyn näyttämään vastuullisemmalta kuin se on.

Konsultoi ennen kuin hyödyllisestä tavasta tulee käytäntö

Monia työpaikan järjestelmiä konsultoidaan liian myöhään. Toimittaja on valittu, sopimus on allekirjoitettu, tietoyhteys on suunniteltu, johdolle on esitelty lupaava pilottihanke ja jäljellä olevaa keskustelua kutsutaan käyttöönotoksi. Siinä vaiheessa työntekijöiltä voidaan vielä pyytää palautetta, mutta palaute on kapea kanava, kun peruskysymys on jo ratkaistu. Oikea aika tiedottamiselle ja kuulemiselle on aikaisemmin, kun organisaatio vielä päättää, minkä ongelman se itse asiassa aikoo ratkaista.

Direktiivi 2002/14/EY luo yleiset eurooppalaiset puitteet työntekijöiden tiedottamiselle ja kuulemiselle. Sen soveltamisalalla ja kansallisella täytäntöönpanolla on merkitystä, eikä se ole tekoälykohtainen käsikirja. Sen sanamuoto on kuitenkin edelleen suoraan olennaista muutokselle, joka voi muuttaa työn organisointia olennaisesti. Tieto on annettava ajankohtana, tavalla ja sisällöltään sellaisena, että edustajat voivat tutkia sitä asianmukaisesti. Kuulemiseen kuuluu näkemysten vaihto ja vuoropuhelun käynnistäminen, tavoitteena päästä sopimukseen työnantajan toimivaltaan kuuluvista päätöksistä. Se on huomattavasti vakavampi asia kuin valmiin järjestelmän paljastaminen ja kyselytuokion kutsuminen osallistumiseksi.

Keskustelurobotin kohdalla varhaisen kuulemisen tulisi alkaa työstä, ei mallista. Mikä osa työstä on vaikeaa? Johtuuko vaikeus huonosta tiedosta, epätasaisesta henkilöstömitoituksesta, epäselvistä toimintatavoista, toistuvasta hallinnollisesta työstä, saavuttamattomista järjestelmistä, riittämättömästä koulutuksesta vai todellisesta tarpeesta keskustelevälle avustajalle? Työkalu voi peittää vanhan organisatorisen epäkohdan hyvin tehokkaasti. Jos ihmiset eivät löydä toimintatapaa, koska toimintatapa on ristiriitainen, keskustelurobotti voi tuottaa sujuvampaa sekavuutta. Jos tiimi on ylikuormittunut, koska henkilöstömitoitusoletukset ovat vääriä, luonnostelutyökalu voi muuttaa ylikuormituksen viimeistellymmäksi tuotokseksi.

Työntekijät ja edustajat voivat myös tunnistaa, missä näennäisen vaaraton avustaja muuttaa riskejä. He saattavat tietää, että jokin vakiintunut ilmaus on turvaton tietynlaisessa tapauksessa, että paikallisessa menettelyssä on poikkeuksia, että kielimalli käsittelee erikoistermin väärin tai että kyselyloki paljastaa tietoja, joita ihmisten tulisi voida nostaa esiin yksityisesti. Tämä ei ole tietoa, joka näkyy hankintataulukossa. Se on osa toiminnallista todellisuutta, joka ratkaisee, auttaako järjestelmä vai vahingoittaako se.

Kuuleminen ei ole veto-oikeus jokaiseen käyttöönottoon. Se on tapa tehdä päätöksestä rehellisempi. Se pakottaa organisaation nimeämään, mikä muuttuu, keihin se voi vaikuttaa, mitä näyttöä sillä on, mitä se ei tiedä ja mihin suojatoimiin se on valmis sitoutumaan. Se luo erimielisyydestä kirjauksen, johon voidaan palata, kun järjestelmä muuttuu. Suunnittelu, joka ei kestä selkeää selitystä työtä tekeville ihmisille, ei välttämättä ole lainvastaista. Se kuitenkin pyytää luottamusta poikkeuksellisen heikoilla ehdoilla.

Työntekijöiden ääni on näyttöä, ei tunnelmaa

On tapana kohdella työntekijöiden ääntä kulttuurikysymyksenä: toivottavana, lämpimänä ja vaikeasti mitattavana. Se on liian lempeä näkemys. Muuttuvassa työnkulussa poikkeuksiin törmäävät ihmiset ovat näytön lähde. He näkevät tapaukset, jotka eivät sovi aineistoon, asiakkaat, jotka eivät pysty käyttämään vakiopolkua, laitteet, jotka pettävät pakkasessa, kirjauksen, joka ei vastaa heidän edessään olevaa henkilöä, ja kohdan, jossa toimintatavan ilmaus ja inhimillinen tarve erkanevat toisistaan. Työpaikka, joka poistaa heidän mahdollisuutensa puhua, heittää pois osan havainnointijärjestelmästään.

Kuunteleminen ei kuitenkaan ole sama asia kuin palautteen kerääminen. Palautelomakkeesta voi tulla toinen valvontaväline, jos kukaan ei tiedä, kuka sen lukee, miten sitä säilytetään tai voiko se vaikuttaa huolen esittäneeseen henkilöön. Toimivalla kanavalla on suojatoimia. Se antaa ihmisten ilmoittaa ongelmasta ilman, että heidän täytyy kääntää se teknisiksi termeiksi. Se erottaa yksittäisen tapauksen toistuvasta ilmiöstä. Se antaa edustajille riittävästi koostettua tietoa toistuvan ongelman huomaamiseksi. Se tekee selväksi, kuka vastaa palautteeseen ja milloin organisaatio päättää, muuttaako se järjestelmää.

Sen reitin on kestettävä päivitykset. Kertaluonteinen konsultaatio versiosta yksi ei hallitse järjestelmää, joka myöhemmin saa uusia lähteitä, eri mallin, uuden yleisön, lisää kehotteita, suorituskykykoontinäytön tai integraation toiseen työnkulkuun. Chattibotti muuttuu, kun sen konteksti muuttuu. Se voi olla teknisesti sama palvelu, mutta toimia erilaisessa sosiaalisessa roolissa. Hallinnan on seurattava tuota roolia, ei alkuperäistä tilausvahvistusta.

Tässä on vaatimaton oppi Alankomaista: palautelaatikko ei ole polderimalli. Vuoropuhelu vaatii pöydän, pöytäkirjan ja mahdollisuuden siihen, että jokin kartalla liikkuu. Tarkoitus ei ole muuttaa jokaista kehotehiennosta perustuslakia säätäväksi kokoukseksi. Tarkoitus on tunnistaa kynnykset, jotka ansaitsevat uutta tarkastelua. Käyttääkö järjestelmä nyt työntekijöiden tietoja? Luokitteleeko, kohdentaako, arvioiko tai suositteleeko se toimenpidettä, jolla on vakavia seurauksia? Onko asianomaisten joukko laajentunut? Onko kieltäytymisreitistä tullut vaikeampi? Ovatko vanhat suojatoimet käyneet riittämättömiksi, koska työkalu on nyt osa nopeampaa ja paineistetumpaa työnkulkua?

Kun vastaus on kyllä, äänellä on oltava reitti hallintaan. Muuten organisaatio pyytää ihmisiä tunnistamaan riskejä samalla kun se varaa itselleen oikeuden jättää huomiotta ne todisteet, jotka ne tunnistavat. Se ei ole osallistumista. Se on palkatonta testausta hienommilla paperitarvikkeilla.

Palaute muuttuu hallinnaksi, kun se tavoittaa nimetyn omistajan, tuottaa dokumentoidun vastauksen ja voi muuttaa järjestelmää. Valitse piirin piste tarkastellaksesi sen tarkoitusta.

Valvonnasta ei tule lempeää keskustelukuplan ansiosta

Keskustelevat järjestelmät luovat erityisen houkuttelevan työpaikkatiedon muodon. Kysymykset voivat paljastaa epävarmuutta, työkuormaa, terveyshuolia, hoivavastuita, ammattiyhdistystoimintaa, taloudellista stressiä, suojattuja ominaisuuksia tai yksinkertaisesti sen, että joku yrittää ymmärtää vaikeaa tilannetta. Loki voi näyttää toiminnallisesti hyödylliseltä, koska se kertoo, mitä ihmiset kysyvät. Siitä voi myös tulla haavoittuvuuksien kartta. Se, että tiedot näkyvät työvälineessä, ei ratkaise, pitääkö ne kerätä, säilyttää, analysoida tai käyttää uudelleen arviointiin.

Käyttötarkoituksen rajaaminen on siis inhimillinen kysymys ennen kuin se on vaatimustenmukaisuuden ilmaus. Jos avustaja on tarkoitettu auttamaan jotakuta ymmärtämään menettelyä, käytetäänkö hänen kysymyksiään myöhemmin hänen osaamisensa arviointiin? Jos esihenkilö näkee, mitä kehotteita henkilö on syöttänyt, lakkaavatko ihmiset pyytämästä apua? Jos organisaatio analysoi toistuvia kysymyksiä, voiko se tehdä sen tavalla, joka parantaa dokumentaatiota rakentamatta profiilia sitä tarvinneista ihmisistä? Järjestelmä voi saada työpaikan näyttämään paremmin perillä olevilta samalla kun se tekee yksilöllisestä oppimisesta vähemmän turvallista.

Alustatyödirektiivi tarjoaa hyödyllisen, konkreettisen eurooppalaisen esimerkin. Sen säännöt kohdistuvat alustatyöhön, eivät jokaiseen työsuhteeseen, ja niitä on luettava tässä laajuudessa. Ne osoittavat silti vakavan julkisen kannanoton algoritmiseen johtamiseen: kun automatisoitu seuranta tai päätöksenteko vaikuttaa työhön, on oltava läpinäkyvyyttä, inhimillistä seurantaa ja tarkistusta, reittejä selityksiin ja riitauttamiseen sekä erityistä huolellisuutta määrättyjen henkilötietoluokkien kohdalla. Direktiivi ei saa tavallisia työelämän ongelmia katoamaan. Se vaikeuttaa väittämistä, että ohjelmisto olisi työn sosiaalisten velvoitteiden ulkopuolella vain siksi, että se saapui sovelluksen kautta.

Yleisellä työpaikalla käytännön periaate on kapeampi ja hyödyllisempi kuin suuri yksityisyyden lupaus. Kerää vähemmän. Nimeä tarkoitus. Erota palvelun kehittäminen suorituksen arvioinnista, ellei niiden yhdistämiseen ole selvää ja perusteltua syytä. Älä muuta ihmisen kysymyksiä ilmoittamattomaksi osaamispisteytykseksi. Älä pidä kysymysten puuttumista osoituksena itsevarmuudesta. Älä salli esihenkilön selata keskustelujälkiä vain siksi, että alusta tekee sen teknisesti helpoksi. Tekninen saatavuus ei ole hyväksyttävä tarkoitus.

On myös ihmisarvoon liittyvä seikka, jota ei voi pelkistää tietokentäksi. Työntekijän pitäisi voida kysyä, miten käsitellä outoa ongelmaa, ilman että siitä syntyy pysyvä epäilys siitä, että hän on vähemmän kyvykäs kuin joku, joka jo tietää vastauksen. Oppimiseen on aina liittynyt epävarmuus. Työpaikka, joka tallentaa ja pisteyttää epävarmuutta liian innokkaasti, voi tuottaa vähemmän näkyviä kysymyksiä ja huonompia päätöksiä. Hiljaisuus on hyvin siisti mittari. Se ei välttämättä ole hyvä merkki.

Koulutukseen pitää kuulua oikeus epäillä

TEKOÄLYLUKUTAIDOSTA puhutaan usein kykynä käyttää työkalua hyvin. Se on vain puolet vaatimuksesta. Työpaikalla lukutaitoon on kuuluttava myös kyky tunnistaa, milloin työkaluun ei pidä luottaa kysymyksen kanssa, milloin vastauksesta puuttuu tuki, milloin suosituksella on seurauksia ruudun ulkopuolella ja milloin asia pitää viedä eteenpäin. Henkilö, joka osaa tuottaa siistin kehotteen mutta ei tunnista harhaanjohtavaa tulosta, ei ole täysin varustautunut. Hän on oppinut käyttöliittymän, ei sen ympärillä olevaa vastuuta.

AI-asetuksen 4 artikla edellyttää, että tarjoajat ja käyttöönot-tajat toteuttavat toimenpiteitä varmistaakseen riittävän tekoälylukutaidon tason henkilöstön ja muiden heidän puolestaan tekoälyjärjestelmiä käsittelevien henkilöiden keskuudessa ottaen huomioon heidän teknisen tietämyksensä, kokemuksensa, koulutuksensa ja sen asiayhteyden, jossa järjestelmää käytetään. Tämä on viisaasti asiayhteyteen sidottua. Vastaanottovirkailija, kliinikko, sosiaalityöntekijä, insinööri, esihenkilö ja tietosuojavastaava voivat kaikki tarvita erilaista tietoa. Yksi yleinen esitys, jota seuraa sanastotietovisa, ei todennäköisesti täytä käytännön tarkoitusta.

Hyvä koulutus alkaa varsinaisesta työstä. Mitkä ovat avustajan hyväksytyt lähteet? Millainen vastaus pitäisi saada tarkistuksen? Mitä sinne ei saa koskaan syöttää? Mitä tuloksia saa käyttää luonnoksena ja mitkä vaativat toisen lähteen? Mitä pitää tehdä, kun avustaja ei ole käytettävissä, se on väärässä tai se on epätavallisen varma? Miten virheellinen tieto korjataan? Kuka voi vastata työkalua koskeviin kysymyksiin käsittelemättä jokaista huolta IT-tikettinä? Nämä ovat arkisia kysymyksiä, mikä on rohkaisevaa. Arkisissa kysymyksissä turvalliset toimintatavat elävät.

Koulutuksen on tavoitettava myös esihenkilöt. Jos esihenkilö tulkitsee kehotteiden määrän, hyväksymisasteet tai vasteajan sitoutumisen mittarina, työntekijät kokevat työkalun eri tavalla kuin käyttöönottoesityksessä kuvattiin. Esihenkilöiden on ymmärrettävä näiden signaalien rajat ja automaatioharhan riskit. Heidän on tiedettävä, että tuloste ei ole suoritusta koskeva tosiasia pelkästään siksi, että se on tuotettu työpaikan tiedoista. He tarvitsevat selvän ohjeen olla luomatta epävirallisia pisteytyskäytäntöjä järjestelmän ympärille, joka otettiin käyttöön avustamista varten.

Vahvin lukutaidon muoto sisältää oikeuden sanoa: ”En tiedä, onko tätä vastausta turvallista käyttää.” Se ei ole tunnustus epäonnistumisesta. Se on ammatillista harkintaa epävarmuuden vallitessa. Organisaatiot sanovat usein haluavansa vastuullista käyttöä ja rakentavat sitten kulttuurin, jossa epävarmuus näyttää tehottomalta. Nämä kaksi kantaa eivät voi elää rinnakkain pitkään. Jos huolellinen epäily rangaistaan, työkalua käytetään luottavaisesti aina siihen pisteeseen asti, jossa luottamus tulee kalliiksi.

Miltä oikeudenmukainen arviointi näyttää

Järjestelmää ei pitäisi arvioida pelkästään sen perusteella, käyttävätkö ihmiset sitä. Käyttöönotto on monitulkintainen signaali. Ihmiset voivat käyttää chatbotia, koska se aidosti säästää aikaa, koska esihenkilö odottaa sitä, koska vaihtoehtoihin on tullut vaikeampi päästä käsiksi, koska se on upotettu pakolliseen näyttöön tai koska sen käyttämättä jättäminen näyttää innottomuudelta. Mikään näistä syistä ei osoita, että järjestely olisi oikeudenmukainen tai hyödyllinen.

Parempi arviointi kysyy, mikä työssä muuttui. Käyttivätkö ihmiset vähemmän aikaa varmistetun materiaalin etsimiseen vai vain enemmän aikaa sujuvien vastausten tarkistamiseen? Vähensikö työkalu päällekkäistä hallintotyötä vai lisäsikö se valmiin työn odotettua määrää? Tekikö se vaikeasta menettelystä helpommin ymmärrettävän vai yhdenmukaistiko se vastauksen, jonka olisi pitänyt pysyä herkkänä asiayhteydelle? Nouseeko ongelmia esiin enemmän, koska henkilöstöllä on helppo reitti kysymysten esittämiseen, vai näkyykö ongelmia vähemmän, koska ihmiset ovat oppineet, että kysyminen jättää jäljen? Nämä ovat erilaisia lopputuloksia, vaikka kojelauta näyttäisikin samankaltaista käyttöä.

Arviointiin on otettava mukaan eniten asian vaikuttamat ihmiset, ja siinä on säilytettävä ero mitatun havainnon ja tavoitteen välillä. ”Odotamme avustajan vähentävän rutiinityötä” on ehdotus. ”Työntekijät kertoivat, että avustaja vähensi päällekkäistä etsimistä määritellyn pilottijakson aikana” on havainto, jos se on todella kirjattu. ”Avustaja paransi laatua” vaatii laadun määritelmän, asiayhteyden ja näyttöä. Sanat kuten parannus, käyttöönotto ja tehokkuus voivat kätkeä huomattavan määrän tutkimatonta politiikkaa.

Lisäksi tarvitaan ennalta sovittu kohta, jossa organisaatio harkitsee järjestelmää uudelleen. Chatbot, joka laajenee alkuperäisen tarkoituksensa ulkopuolelle, alkaa vastaanottaa erilaisia tietoja tai tulee osaksi arviointityönkulkua, ei saa olla suojattu sillä, että se on kerran hyväksytty johonkin pienempään. Uudelleentarkastelu ei ole merkki siitä, että alkuperäisellä tiimillä ei ollut luottamusta. Se on tunnustus siitä, että järjestelmät saavat uusia seurauksia, kun ihmiset rakentavat niiden ympärille tapoja.

ILO:n työ generatiivisesta tekoälystä ja työpaikoista on hyödyllistä tässä, koska se erottaa mahdollisen altistumisen todellisista lopputuloksista. Teknologia voi täydentää, korvata tai muuttaa tehtäviä riippuen siitä, miten organisaatiot päättävät ottaa sen käyttöön. Sama pidättyvyys on hyödyllistä myös yhden työpaikan sisällä. Kyvykkyys ei tuo mukanaan omaa yhteiskunnallista lopputulostaan. Chatbot voi vähentää rasittavaa työtä, tehostaa työtä, jakaa asiantuntemusta uudelleen, heikentää ammatillista harkintavaltaa tai luoda paremman reitin näytön äärelle. Tekninen mahdollisuus ei ratkaise, mikä näistä toteutuu. Sen ratkaisevat suunnittelu, johtamisen valinnat ja äänen tasapaino.

Raja on kirjattava ylös

Jokainen vakava käyttöönotto tarvitsee lyhyen ja selkeän kuvauksen rajastaan. Ei iskulausetta vastuullisesta tekoälystä eikä niin tiheää juridista asiakirjaa, että vain hankintatiimi löytää olennaisen. Toimiva raja kuvaa tarkoituksen, asian vaikuttamat ihmiset, tiedot, joita järjestelmä saa käyttää, tiedot, joita se ei saa käyttää, päätökset, joissa se saa avustaa, päätökset, joita se ei saa tehdä, työnkulun omistajan, oikaisun reitin, olosuhteet, joissa työkalu on keskeytettävä, ja päivämäärän, jolloin järjestely tarkistetaan.

Tämä kuvaus on epätäydellinen. Työ muuttuu. Käytännöt muuttuvat. Mallit muuttuvat. Mutta sen kirjoittaminen muuttaa keskustelun laatua. Se antaa työntekijälle jotakin konkreettista, johon verrata omaa kokemustaan. Se antaa edustajalle reitin kysyä, onko työkalu laajentunut ilmoitetun roolinsa ulkopuolelle. Se muistuttaa esihenkilöä siitä, että hyödyllinen avustaja ei ole yleinen lupa kerätä enemmän tietoja tai tehdä päätöksiä nopeammin. Se antaa tilintarkastajalle, valvojalle tai tulevalle tiimille tallenteen, joka ei ole riippuvainen organisaation muistista.

Rajan tulisi myös erottaa suosituksesta ja päätöksestä. Chatbotti voi ehdottaa yhteenvetoa, seuraavaa vaihetta tai luonnosta. Järjestelmän tulisi kertoa, milloin ehdotus perustuu puutteellisiin tietoihin. Ihmisen tekemä päätös tulisi olla näkyvissä tallenteessa. Jos toimintaan haastetaan myöhemmin, organisaation tulisi pystyä tunnistamaan käytetty malli tai sääntö, asiaankuuluva versio, tulokseen vaikuttanut aineisto, sen tarkistanut henkilö ja lopullisen valinnan syy. Tämä ei ole vaatimus siitä, että jokaisesta arkipäivän kysymyksestä tulisi asiakirjakokonaisuus. Kyse on suhteellisuudesta: mitä enemmän tulos vaikuttaa ihmiseen, sitä paremmin selityksen polun tulisi säilyä.

On olemassa hyödyllinen testi. Voisiko organisaatio selittää tämän rajan uudelle työtoverille ensimmäisellä viikolla käyttämättä sanoja ’taika’, ’saumaton’ tai ’järjestelmä tietää’? Voisiko se selittää saman rajan työntekijöiden edustajalle vaihtamatta puheenaihetta? Voisiko se selittää sen henkilölle, joka on saanut epäedullisen lopputuloksen? Jos vastaus on ei, ongelma ei ole siinä, että yleisöltä puuttuu hienostuneisuus. Raja on todennäköisesti liian epämääräinen.

Selkeydellä on hiljainen hyve. Se vaikeuttaa väittämistä, että järjestelmä vain avustaa, kun se selvästi ohjaa. Se vaikeuttaa työntekijälle sanomista, että hän säilyttää vastuunsa, vaikka hänelle ei anneta valtaa olla eri mieltä. Se vaikeuttaa keskustelevan sävyn käyttämistä vastuullisen päätöksen korvikkeena. Hallinnossa tuollainen hankaluus on usein ominaisuus.

Pieni näkökanta meiltä ja suurempi inhimillinen kysymys

Dwevellä asiaankuuluva suunnitteluvaisto on vaatimaton: tärkeistä vastauksista tulisi säilyä polku takaisin todisteisiin, rajoituksiin ja henkilöön, joka vastaa niiden mukaan toimimisesta. Tämä on kanta siitä, miten järjestelmän tulisi tukea harkintaa, ei väite siitä, että ohjelmisto voisi ratkaista työpaikan valtasuhteet tai korvata instituutioita, jotka suojelevat ihmisiä työssä. Hyvin jäsennelty vastaus voi tehdä keskustelusta hyödyllisemmän. Se ei voi päättää, oliko jollakulla riittävästi aikaa, valtaa tai turvallisuutta haastaa sitä.

Suurempi kysymys kuuluu työnantajille, työntekijöille, edustajille, turvallisuustiimeille, tietosuoja-asiantuntijoille, sääntelyviranomaisille ja yleisölle. He päättävät, tuleeko chatbotista väline parempaan työhön vai miellyttävä käyttöliittymä vanhemmalle tavalle: puristaa ihmisistä enemmän harkintaa samalla kun heille annetaan vähemmän sananvaltaa olosuhteisiin, joissa harkintaa käytetään. Mikään malliasetus ei ratkaise tätä yksinään.

Älä sekoita ystävällisyyttä oikeudenmukaisuuteen

Chatbotti voi olla hyödyllinen työssä. Se voi auttaa uutta työtoveria löytämään menettelytavan, antaa asiantuntijalle ensimmäisen luonnoksen, tehdä politiikasta vähemmän epäselvää tai säästää tiimiltä turhaa etsimistä. Nämä ovat arvokkaita asioita. Virhe on ajatella, että ystävällinen käyttöliittymä tekee myös organisaation seurauksista ystävällisiä. Mitä enemmän järjestelmä vaikuttaa kohdentamiseen, arviointiin, pääsyyn, kurinpitoon tai tapahtumien kuvaukseen, sitä huolellisemmin sen valtaa on rajattava.

Tämä edellyttää muutamia epäkiitollisia sitoumuksia: kuulemista ennen kuin järjestely on jähmettynyt; koulutusta, joka sisältää epäilyn; tietokäytäntöjä, jotka kunnioittavat oppimista ja yksityisyyttä; inhimillistä valvontaa, jolla on todellista valtaa; väylän yksilölliselle ja kollektiiviselle haasteelle; tallenteita, jotka erottavat ehdotuksen päätöksestä; ja säännöllistä tarkistusta, kun järjestelmän rooli muuttuu. Mikään näistä ei ole teknologian hylkäämistä. Ne ovat ehtoja, joilla teknologia voi tulla työpaikalle vaatimatta ihmisiä luopumaan harkinnastaan ensin.

Chatbotin ei tarvitse tulla työtoveriksi. Se voi pysyä työkaluna, mikä on usein parempi ja rehellisempi tavoite. Työkalut voivat olla erinomaisia. Ne eivät tarvitse mytologiaa. Ne tarvitsevat tarkoituksen, rajan, omistajan ja jonkun, jolla on lupa laskea ne käsistään, kun ne eivät enää auta.

Lähteet