Vastuullisen tekoälyn taustalla oleva tilakone
Lomake, jota ei ajettu
Ensimmäinen vastuullisen tekoälyn työpaja päättyy usein lomakkeeseen. Lomake on yleensä siisti sillä tavalla, jolla sisäiset lomakkeet voivat olla siistejä, kun komitea on löytänyt välistyksen. Siinä kysytään tarkoituksesta, vaikutuksesta, datasta, riskistä, harhasta, ihmisen valvonnasta, toimittajariippuvuudesta, säilytyksestä ja eskalaatiosta. Ihmiset täyttävät sen huolellisesti. Ruutu rastitetaan. Arviointilautakunta nyökkää. Projekti etenee. Jossain kansio saa jälleen yhden asiakirjan ja alkaa hiukan enemmän uskoa itseensä.
Kolme kuukautta myöhemmin järjestelmä on tuotannossa, eikä lomake ole enää siellä, missä asiat tapahtuvat. Tukipyyntö saapuu puutteellisine kenttineen. Malli antaa varman vastauksen heikkoon näyttöön perustuen. Työkalukutsu päivittäisi asiakastietueen. Käytäntö muuttuu luonnoksen ja lopullisen toimenpiteen välillä. Ihmisarvioija on sairaana. Hakemisto on vanhentunut. Uutta datalähdettä ehdotetaan, koska se olisi kätevää, ja juuri näin monet huonot ideat esittäytyvät kohteliaasti.
Tuolla hetkellä vastuullinen tekoäly ei ole periaate. Se on tilasiirtymä. Järjestelmä on yhdessä tilassa ja haluaa siirtyä toiseen. Luonnoksesta päätökseen. Ehdotuksesta toimintaan. Pienestä vaikutuksesta suureen. Sisäisestä avusta ulkoiseen viestintään. Arvioidusta toteutettuun. Sallitusta estettyyn. Väliaikaisesta poikkeuksesta pysyväksi reitiksi, jos kukaan ei katso. Kysymys on siitä, onko siirtymällä vartija, tietue, omistaja ja poistumispolku.
Tämä on vastuullisen tekoälyn takana oleva tilakone. Ei siksi, että etiikka voitaisiin pelkistää laatikoiksi ja nuoliksi. Se olisi outo uskomus ja vielä oudompi hankinta. Asia on yksinkertaisempi. Vakavat järjestelmät liikkuvat jo tilojen läpi. Jos tiloja ei nimetä, malli liikkuu silti, työnkulku etenee silti, ja organisaatio löytää hallintonsa vahingossa. Tilojen nimeäminen ei ole byrokraattista nipottamista. Se on tapa antaa vastuulle suoritusaikainen muoto.
Miksi periaatteet tarvitsevat rajat
Periaatteet ovat hyödyllisiä alussa, koska ne antavat suunnan. Oikeudenmukaisuus, läpinäkyvyys, vastuuvelvollisuus, yksityisyys, turvallisuus, ihmisen toimijuus, kestävyys, kiistettävyys. Nämä sanat eivät ole tyhjiä. Ne eivät myöskään ole itsessään suoritettavissa. Järjestelmä ei voi kutsua periaatetta suoritusaikana ja kysyä, onko seuraava toimenpide sallittu. Kehittäjä voi kirjoittaa kehotteen, joka sanoo ole reilu, mutta työnkulun on silti tiedettävä, milloin pysähtyä, milloin kysyä, milloin tallentaa ja milloin kieltäytyä.
Reunat ovat paikka, jossa periaatteista tulee käyttökelpoisia. Oikeudenmukaisuusperiaatteesta tulee vaatimus, että tietyn luokan päätöksen on läpäistävä ryhmätason arviointi ennen julkaisua ja tuotettava tapauskohtaiset perustelukoodit julkaisun jälkeen. Läpinäkyvyysperiaatteesta tulee kuitti, joka nimeää lähteet, malliversion, käytäntöversion ja ihmisen roolin. Yksityisyysperiaatteesta tulee suoja, joka kieltäytyy hausta tarkoituksen, säilytyksen, suostumuksen tai oikeusperustan ulkopuolella. Vastuullisuudesta tulee tila, joka ei voi edetä ilman omistajaa. Riitautettavuudesta tulee valitusreitti, joka on olemassa ennen ensimmäistä valitusta, ei ensimmäisen lehtisoiton jälkeen.
Ilman reunoja vastuullisesta tekoälystä tulee joukko adjektiiveja järjestelmän ympärillä, joka käyttäytyy silti miten työnkulku sallii. Tiimi voi vilpittömästi uskoa, että sillä on ihmisen valvonta, koska ihminen voi katsoa tulosteita. Mutta jos järjestelmä voi toimia ennen kuin ihminen on nähnyt todisteet, valvonta on koristeellista. Tiimi voi uskoa, että sillä on läpinäkyvyys, koska malli selittää itseään. Mutta jos selitystä ei voi sitoa lähteisiin ja tilaan, läpinäkyvyys on harhautunut teatteriksi. Tiimi voi uskoa, että se on turvassa, koska malli kieltäytyy vaarallisista kehotteista. Mutta jos työkaluyhdyskäytävä myöntää laajan valtuuden, kieltäytyminen on vain yksi ovi talossa, jossa on hyvin innokkaita ikkunoita.
Tilakone ei ole korvike harkinnalle. Se on tapa saada harkinta laskeutumaan jonnekin. Se pakottaa tiimin vastaamaan käytännön kysymyksiin. Missä tilassa tämä tapaus on. Mitkä siirtymät ovat mahdollisia tästä. Mitä todisteita vaaditaan. Mikä rooli saa hyväksyä. Mikä siirtymä on peruuttamaton. Mikä siirtymä luo tallenteen. Mikä siirtymä luo velvollisuuden ilmoittaa, säilyttää, poistaa tai eskaloida. Nämä kysymykset ovat vähemmän runollisia kuin arvolausumat. Ne ovat myös vaikeampia kiertää.
Piilotettu kone on aina olemassa
Jokaisessa tekoälytyönkulussa on jo tilakone, vaikka kukaan ei olisi piirtänyt sitä. Piilotettu versio elää tiketin tiloissa, laskentataulukon sarakkeissa, uudelleenyritysjonoissa, kehotteen haaroissa, arvioijan tavoissa, Slack-viesteissä, tietokannan lipuissa, poikkeustauluissa ja sen yhden ihmisen muistissa, jolta kaikki kysyvät, koska hän oli paikalla, kun pilotti tapahtui. Tämä ei ole viehättävä hajautettu arkkitehtuuri. Se on institutionaalista kansanperinnettä viiveellä.
Piilotettu kone on vaarallinen, koska se antaa hallinnan vaikutelman samalla kun se siirtää vastuun paikkoihin, joita ei voi tarkastella. Kehote voi sanoa, että arkaluonteiset tapaukset pitäisi eskaloida, mutta jono ei välttämättä säilytä syytä. Tapausjärjestelmä voi näyttää hyväksytyn, mutta ei sitä, koskiko hyväksyntä mallin vastausta, työkalukutsua vai ulkoista viestintää. Arvioija voi hylätä tulosteen, mutta hylkäys ei välttämättä koskaan päädy arviointijoukkoon. Tapaus voi olla suljettu, mutta johdettu data voi silti elää piirrevarastossa. Malli voidaan korvata, mutta vireillä olevat tapaukset voivat silti kantaa vanhemman version tulostetta. Järjestelmä liikkuu; tallenne laahaa sen perässä solmio päällä.
Tilakoneen tekeminen näkyväksi ei vaadi organisaation muuttamista formaalien menetelmien laboratorioksi. Se vaatii tarpeeksi kuria erottamaan tilat, joilla on erilaiset velvollisuudet. Luonnos ei ole arvioitu. Arvioitu ei ole suoritettu. Suoritettu ei ole suljettu. Suljettu ei ole pyyhitty. Pyyhitty ei ole arkistoitu. Käytännön estämä ei ole infrastruktuurin aiheuttama epäonnistuminen. Vaatii ihmisen harkintaa ei ole matala luottamus. Epäilty tapaus ei ole vahvistettu tapaus. Nämä erottelut kuulostavat tavallisilta, kunnes auditoija kysyy, mikä niistä tapahtui, milloin ja miksi.
Nimetyt tilat pysäyttävät myös automaation yleisen epäonnistumisen: pehmeän liu'un avustuksesta päätöksentekoon. Järjestelmä alkaa luonnostelun apuvälineenä. Ihmiset luottavat siihen. Luonnoksesta tulee oletus. Oletuksesta tulee suositus. Suosituksesta tulee toiminto. Kukaan ei äänestänyt täyden automaation puolesta. Kukaan ei suunnitellut uutta vastuupintaa. Siirtymä tapahtui mukavuuden kautta, joka on ohjelmistojen menestynein lobbari. Tilakone voi pakottaa tuon liikkeen näkyväksi.
Suojat eivät ole tunnelmia
Siirtymä tarvitsee suojan. Suoja on ehto, jonka on oltava tosi ennen kuin järjestelmä saa siirtyä. Tavallisessa ohjelmistossa tämä voi olla boolean-tarkistus, käytäntöarviointi, käyttöoikeusraja, validointitulos tai ihmisen hyväksyntä. Vastuullisessa tekoälyssä se on myös paikka, jossa institutionaaliset lupaukset muuttuvat toiminnaksi. Suoja kysyy, onko tarkoitus sallittu, ovatko tiedot soveltamisalan piirissä, onko tuloksella riittävästi näyttöä, onko malli hyväksytty tähän käyttöön, onko toiminto peruutettavissa, onko henkilöllä valtuudet, onko kustannus rajattu ja onko vaikutuksen kohteena olevalla käyttäjällä reitti takaisin.
Käytännön temppu on pitää suojat lähellä siirtymää, jota ne suojaavat. Jos suoja elää vain käytäntöasiakirjassa, suoritusaika unohtaa sen huomattavalla nopeudella. Jos se elää vain kehotteessa, sitä on vaikea testata ja helppo kiertää. Jos se elää vain ihmisen tottumuksessa, se pettää sairauspäivinä, lomina, uudelleenjärjestelyissä ja sillä viikolla, kun kaikki yrittävät julkaista. Hyvä suoja on riittävän yksiselitteinen testattavaksi ja riittävän paikallinen merkitäkseen.
Tämä ei tarkoita, että jokainen suoja on automatisoitava. Jotkut suojat ovat inhimillisiä, koska kysymys on aidosti kontekstuaalinen. Mutta myös inhimilliset suojat tarvitsevat tilan. Arvioijan pitäisi nähdä näyttö, sovellettava käytäntö, riskiluokitus, ehdotettu toiminto ja hyväksymisen seuraukset. Järjestelmän pitäisi tallentaa päätös siirtymänä, ei kommenttina, jonka tuleva arkeologia saattaa tai ei saata löytää. Ihmisen valvonta ilman tilanmuutosta on usein vain kokous käyttöliittymällä.
On myös tylsä mutta tärkeä seikka negatiivisista suojista. Vastuullinen tekoäly ei ole vain vastuullista kyllä-sanomista. Se on selkeää ei-sanomista. Ei, koska tarkoitus puuttuu. Ei, koska lähde on vanhentunut. Ei, koska malli on hyväksytyn toimialueensa ulkopuolella. Ei, koska käyttäjältä puuttuvat valtuudet. Ei, koska ihmisen arviointi vaaditaan. Ei, koska toiminto on liian seurauksellinen käytettävissä olevaan näyttöön nähden. Kieltäytyminen perusteluineen on parempi järjestelmän tila kuin epämääräinen virhe, joka houkuttelee yrittämään uudelleen, kunnes jotain liikkuu.
Tilat tekevät vastuusta kohdennettavaa
Yksi syy siihen, miksi tekoälyn vastuullisuus muuttuu sumeaksi, on se, että vastuusta puhutaan koko järjestelmän tasolla. Organisaatio on vastuussa. Toimittaja on vastuussa. Tuoteomistaja on vastuussa. Tietosuojavastaava on vastuussa. Malli on vastuussa, mikä on ilmaus, joka saisi juristin tuijottamaan kattoon hakien voimaa. Ajonaikaisesti vastuu tarvitsee pienemmän kahvan.
Tilat luovat sen kahvan. Vastaanoton aikana palvelun omistaja voi olla vastuussa tarkoituksesta ja laajuudesta. Haun aikana datan omistaja voi olla vastuussa lähteen laadusta ja luvista. Mallin generoinnin aikana tekninen omistaja voi olla vastuussa hyväksytyistä versioista ja asetuksista. Tarkastuksen aikana ihmisen rooli voi olla vastuussa harkinnasta. Toiminnan aikana työnkulun omistaja voi olla vastuussa ulkoisista vaikutuksista. Päättämisen aikana asiakirjahallinta voi olla vastuussa säilytyksestä ja poistosta. Tarkka kartta vaihtelee, mutta periaate pätee: vastuu kiinnittyy paremmin siirtymiin kuin sumuun.
Tällä on merkitystä, kun jotain menee pieleen. Jos tulos oli huono, koska lähde oli vanhentunut, tilakoneen pitäisi näyttää, missä ajantasaisuus tarkistettiin tai jäi tarkistamatta. Jos ihminen hyväksyi riskialttiin toimenpiteen, tallenteen pitäisi näyttää, mitä näyttöä hän näki. Jos käytäntö muuttui, vireillä olevien tapausten pitäisi paljastaa, mikä versio niitä hallitsi. Jos mallia päivitettiin, julkaisurajan ylittävien siirtymien pitäisi olla tarkastettavissa. Tarkoitus ei ole löytää syyllistä nopeammin. Tarkoitus on tehdä korjaaminen mahdolliseksi teeskentelemättä, että koko järjestelmä epäonnistui yhdessä eriyttämättömässä kohautuksessa.
Kohdennettavissa oleva vastuu parantaa myös arjen työtä. Tiimit tietävät, minkä tilan ne omistavat. Mittareista tulee vähemmän teatraalisia. Sen sijaan, että organisaatio julistaisi vastuullisen tekoälyn ohjelman kypsäksi, se voi mitata vanhentuneiden lähteiden estoja, puuttuvan tarkoituksen kieltäytymisiä, tarkastuksen ohituksia, valitusten lopputuloksia, poikkeamien siirtymiä ja päättämisen viiveitä. Tämä sopii huonommin kiiltävälle dialle. Se sopii paljon paremmin järjestelmän pyörittämiseen.
Huonot tilat ansaitsevat kunnolliset nimet
Useimmat vastuullisen tekoälyn epäonnistumiset eivät ole pahantahtoisia. Ne ovat tavallisia tiloja, joilla on huonot nimet tai ei nimiä ollenkaan. Luonnosvastausta käsitellään lopullisena vastauksena. Väliaikaisesta poikkeuksesta tulee reitti. Matalan luottamuksen tulos muuttuu suuren vaikutuksen toimenpiteeksi, koska työnkulussa ei ollut väli tilaa. Malli näkee dataa, jota sen ei olisi pitänyt nähdä, koska hakutila ei kantanut tarkoitusta. Ihmistarkastajasta tulee leimasin, koska tarkastukseksi kutsuttu tila ei edellyttänyt näyttöä tai eriävän mielipiteen tallentamista.
Huonojen tilojen nimeäminen kunnolla on epämukavaa ja hyödyllistä. Hiljainen luonnos. Laajuuden laajeneminen. Vanhentunut lähde. Puuttuva omistaja. Tarkastamaton toimi. Ei ulospääsyä. Nämä eivät yksinään ole perimmäisiä syitä, mutta ne ovat paikkoja, joihin kontrollit sijoitetaan. Järjestelmä voi havaita hiljaisen luonnoksen, kun generoitua tekstiä kopioidaan ulkoiseen viestintään ilman hyväksyntää. Se voi havaita laajuuden laajenemisen, kun työnkulku pyytää lähdettä ilmoitetun tarkoituksen ulkopuolelta. Se voi havaita vanhentuneen lähteen, kun viittaus on vanhempi kuin käytäntö sallii. Se voi havaita tilanteen, jossa ei ole ulospääsyä, kun jumittuneet tapaukset makaavat ikuisesti, koska kukaan ei suunnitellut inhimillistä kieltäytymistä.
Tämä tapa myös estää moraalista ylireagointia. Kaikki epäonnistumiset eivät ole eettisiä kriisejä. Joskus kyse on jonotilasta ilman omistajaa. Joskus kyse on säilytystilasta, jota kukaan ei yhdistänyt poistoon. Joskus kyse on luottamuskynnyksestä, joka teeskentelee olevansa harkintaa. Tilojen nimeäminen antaa tiimille mahdollisuuden korjata mekanismin. Ilman nimiä jokaisesta poikkeamasta tulee keskustelu kulttuurista. Kulttuurilla on merkitystä, mutta se on huono korvike sille, että tietää, mikä siirtymä vuoti.
On kuivaa komiikkaa siinä, kun katsoo organisaatioiden pelkäävän sanaa tilakone, koska se kuulostaa liian tekniseltä, samalla kun ne pyörittävät onnellisina hyväksyntäsähköpostien, laskentataulukkojen tilojen ja poikkeusten labyrinttia, jonka tuntevat vain kolme ihmistä ja yksi kalenterikutsu. Muodollinen versio on usein yksinkertaisempi. Sillä on vain se epäkohteliaisuus, että se on näkyvä.
Näyttö kuuluu siirtymään
Jos tilakoneen on tarkoitus olla merkityksellinen, se tarvitsee näyttöä. Tallenteen ei pitäisi vain sanoa, että tapaus on hyväksytty. Sen pitäisi kertoa, mikä laukaisi siirtymän, mikä suojamekanismi arvioitiin, mitä dataa käytettiin, mitkä malli- ja käytäntöversiot olivat voimassa, kuka tai mikä hyväksyi, mitä seurauksia syntyi ja miten tapaus voidaan toistaa tai haastaa. Näyttö ei ole koristelua toiminnan jälkeen. Se on osa toiminnan vastuulliseksi tulemista.
Tämä on erityisen tärkeää tekoälyssä, koska tulokset voivat olla uskottavia, vaikka niiden polku olisi hauras. Yhteenveto voi olla oikea mutta perustua lähteeseen, jota käyttäjä ei saanut käyttää. Suositus voi olla järkevä mutta mallin hyväksytyn käyttötarkoituksen ulkopuolella. Luokitus voi olla tarkka mutta tuotettu käytäntöjen määräajan jälkeen. Kieltäytyminen voi olla turvallinen mutta juridisesti hyödytön, jos se ei anna reittiä korjaukseen. Vastaus yksinään ei voi kertoa näitä asioita. Siirtymätallenne voi.
Hyvä näyttö antaa myös tiimeille rohkeutta automatisoida silloin, kun automatisointi on asianmukaista. Vastuullinen tekoäly ei ole pysyvä anteeksipyyntö koneiden käytöstä. Jos tehtävä on vähävaikutteinen, hyvin rajattu, palautettavissa, riittävästi testattu ja asianmukaisesti tallennettu, automatisointi voi olla vastuullinen reitti. Jos tehtävä on suurivaikutteinen, kiistanalainen, uudenlainen tai peruuttamaton, tilakoneen pitäisi hidastaa sitä. Tarkoitus ei ole palvoa ihmisen tarkistusta. Tarkoitus on ohjata työtä riskin, näytön ja korjausmahdollisuuden mukaan.
Näyttö tekee tästä ohjauksesta vähemmän poliittista. Tiimi voi osoittaa, että tila on turvallinen automatisoida, koska aiemmat siirtymät olivat tarkkoja, valitukset olivat harvinaisia, korjaukset otettiin huomioon ja suojamekanismit nappasivat oikeat tapaukset. Tai se voi osoittaa, että tila vaatii enemmän ihmisen harkintaa, koska virhekuviot ovat edelleen vaikeita, asianosaiset kiistävät tuloksia tai datan laatu on heikkoa. Tämä on parempi argumentti kuin tavallinen teatteri, jossa toinen puoli sanoo innovaatio ja toinen riski, kunnes kaikki tarvitsevat kahvia.
Ihmisen tekemä tarkistus on tila, ei ele
Ihmisen tekemään tarkistukseen vedotaan usein ikään kuin vastuu ratkeaisi pelkällä olemassaololla. Ihminen on silmukassa. Hyvä. Missä silmukassa. Missä tilassa. Millä todisteilla. Millä valtuuksilla. Voiko ihminen olla eri mieltä. Muuttaako erimielisyys järjestelmää. Onko tarkistus otantapohjainen, pakollinen, riskiperusteinen vai kosmeettinen. Näkeekö tarkistaja lähdemateriaalin vai vain mallin siistin proosan. Onko aikaa ajatella. Onko koulutusta. Onko olemassa tallennetta. Ilmaus ihminen silmukassa pitäisi nähdä avauskysymyksenä, ei loppuargumenttina.
Tilakone tekee ihmisen tekemästä tarkistuksesta konkreettista. Se voi erottaa toisistaan tarkistuksen, joka on pakollinen, ja tarkistuksen, joka on vapaaehtoinen, tarkistuksen, joka on kesken, ja tarkistuksen, joka on valmis, sen, onko ihminen muuttanut tuotosta vai vahvistanut sen, ja sen, onko eskalointi tarpeen vai tehty. Se voi myös erottaa, millaisesta harkinnasta on kyse. Jotkin tarkistukset varmistavat faktapohjaisen lähdekäytön. Jotkin tarkistavat politiikan noudattamista. Jotkin tarkistavat empatiaa ja sävyä. Jotkin tarkistavat oikeudellista toimivaltaa. Jotkin tarkistavat, onko poikkeus perusteltu. Yksi laatikko, jonka nimi on hyväksytty, on harvoin riittävän rikas vakavaan työhön.
Tarkistuksen suunnittelu tilana suojaa myös ihmisiä siltä, että heitä käytetään moraalisena täytteenä. Jos järjestelmä lähettää jokaisen hankalan tapauksen ihmiselle ilman todisteita, priorisointia tai palautetta, ihmisestä tulee epävarmuuden kaatopaikka. Se ei ole valvontaa. Se on henkilöstömalli, johon on liitetty syyllisyys. Vastuullinen tarkistustila paketoi tapauksen, nimeää tarvittavan päätöksen, säilyttää eriävän mielipiteen ja syöttää tulokset takaisin arviointiin. Se antaa ihmiselle ihmisen arvoisen työn.
Myös käänteinen on totta. Jotkin järjestelmät käyttävät ihmisen tekemää tarkistusta, vaikka parempi suoja olisi armollisempi. Jos tapaukselta puuttuu oikeudellinen perusta, älä lähetä sitä tarkistajalle, joka joutuu huomaamaan sen käsin. Estä se. Jos lähde on vanhentunut, päivitä tai kieltäydy. Jos käyttäjältä puuttuu toimivalta, sano se. Ihmisten pitäisi hoitaa harkinta, ei korvata puuttuvaa putkistoa. Olemme käyttäneet vuosikymmeniä koneiden keksimiseen. Olisi huonoa käytöstä pakottaa ihmiset käyttäytymään kuin validointiskriptit.
Peruuttamattomuus muuttaa konetta
Kaikki siirtymät eivät ole samanarvoisia. Jotkin ovat peruutettavissa. Luonnosta voi muokata. Reittiä voi vaihtaa. Suositusta voi vetää takaisin. Muita siirtymiä on vaikeampi kumota: viesti on lähetetty, etuus on evätty, riskilippu muuttaa jonon asemaa, tietue on päivitetty, henkilöstä on tehty ilmoitus, maksu on suoritettu, asiakas on lukittu ulos. Vastuullisen tekoälyn on tiedettävä, mitkä siirtymät ylittävät rajan maailmaan.
Peruuttamattomuuden pitäisi muuttaa vartijan toimintaa. Järjestelmän pitäisi vaatia enemmän todisteita, vahvempaa auktoriteettia, selvempää inhimillistä harkintaa, parempaa ilmoitusta ja näkyvämpää valitusreittiä ennen peruuttamattomia vaikutuksia. Sen pitäisi myös suosia vaiheistettuja siirtymiä aina kun mahdollista. Luonnostele ennen lähettämistä. Suosittele ennen päättämistä. Pidä ennen hylkäämistä. Ilmoita ennen täytäntöönpanoa. Arvioi ennen raportointia. Tämä ei ole hidastelua hidastelun vuoksi. Se on ero järjestelmän välillä, joka osaa korjata itsensä, ja järjestelmän välillä, joka luo siivoustöitä itsevarmalla ilmeellä.
Tilakone auttaa myös osittaisessa peruutettavuudessa. Osa haitasta voidaan korjata teknisesti, mutta ei sosiaalisesti. Väärän sisäisen yhteenvedon voi korjata. Väärä ulkoinen syytös voi jäädä elämään korjauksen jälkeenkin. Viivästyneen etuuden voi maksaa myöhemmin, mutta vuokra oli erääntynyt jo aiemmin. Poistetun tietueen voi joskus palauttaa, mutta luottamus ei välttämättä palaudu. Koneen tulisi kohdella näitä siirtymiä niiden inhimillisen vaikutuksen vakavuudella, ei pelkästään tietokannan palautuksena.
Tässä vastuullinen tekoäly pakenee harhasta, että etiikka olisi erillään operaatioista. Operatiivinen yksityiskohta on eettinen pinta. Jonosuunnittelu vaikuttaa oikeudenmukaisuuteen. Uudelleenyrityskäytäntö vaikuttaa päällekkäisyyksiin. Aikakatkaisukäyttäytyminen vaikuttaa pääsyyn. Säilytys vaikuttaa yksityisyyteen. Arviointityömäärä vaikuttaa ihmisarvoon. Tilasiirtymät eivät ole neutraalia putkistoa. Ne ovat tapa, jolla järjestelmä kohtaa ihmiset.
Arviointi siirtymän todisteena
Arviointi on usein työnkulun ulkopuolella, ikään kuin se olisi koulukoe, joka suoritetaan ennen järjestelmän valmistumista. Vastuullisessa tilakoneessa arvioinnista tulee jatkuvaa siirtymän todistusaineistoa. Jokainen siirtymä voi tuottaa signaaleja: kuinka usein vartija esti, kuinka usein ihmiset ohittivat sen, kuinka usein valitukset menivät läpi, kuinka usein lähteet olivat vanhentuneita, kuinka usein mallin luottamus oli eri mieltä inhimillisen harkinnan kanssa, kuinka usein oletetusti vähävaikutteinen reitti synnytti valituksia.
Näiden signaalien pitäisi ruokkia konetta. Siirtymä, joka tuottaa toistuvia valituksia, voi tarvita vahvemman vartijan tai selvemmän ilmoituksen. Inhimillisen tarkastelun tila, jossa yksimielisyys on korkea ja vaikutus pieni, voi olla oikeutettu lisäämään automaatiota, kunhan korjauskeino pysyy todellisena. Kieltäytymistila, joka loukuttaa käyttäjiä, voi tarvita korjauspolun. Käytäntövartija, joka estää liian monta oikeutettua tapausta, voi paljastaa huonon käytännön, ei huonoa mallia. Kone ei ole vastuullinen siksi, että se on staattinen. Se on vastuullinen, koska se voi oppia piilottamatta menneisyyttä.
Tämä oppiminen vaatii versiointia. Tilat, vartijat, kynnykset, kehotteet, mallit, käytännöt, tietolähteet ja tarkastusohjeet muuttuvat. Tietueen on kerrottava, mikä versio sovellettiin mihinkin siirtymään. Muuten organisaatio voi arvioida vain menneiden valintojen keittoa. Keitolla on kulinaarisia käyttötarkoituksia. Se ei ole hallintamenetelmä, vaikka kuinka monta kojelautaa kelluisi sen pinnalla.
Versioitu siirtymän todistusaineisto pitää myös parantamisen rehellisenä. Tiimi voi sanoa, että uusi vartija vähensi tarkistamattomia toimia mutta lisäsi viivettä. Se voi sanoa, että uusi lähde paransi tarkkuutta mutta lisäsi yksityisyyden kitkaa. Se voi sanoa, että mallipäivitys paransi yhteenvetoja mutta heikensi kieltäytymiskuria. Kompromissit eivät ole epäonnistumisia. Piilotetut kompromissit ovat epäonnistumisia, jotka odottavat kalenterikutsua.
Opetus
Vastuullisen tekoälyn taustalla oleva tilakone ei ole kutsu kylmempiin järjestelmiin. Se on kutsu järjestelmiin, jotka tietävät mitä tekevät samalla kun tekevät sen. Nimetty tila ei ole moraalinen saavutus. Vartija ei ole oikeus. Kuitti ei ole luottamus. Mutta ilman näitä asioita vastuullinen tekoäly pysyy aikomuksen tasolla, ja aikomuksella on huono käytettävyystilasto.
Vastuullinen tekoäly tarvitsee tarkoituksen, toimivallan, näytön, rajat, inhimillisen harkinnan, muutoksenhaun, korjauksen, säilytyksen ja oppimisen. Nämä sanat muuttuvat toiminnaksi tilojen ja siirtymien kautta. Ne ratkaisevat, milloin asia etenee, milloin se pysähtyy, kuka sen omistaa, mikä merkintä siitä luodaan, mikä korjaustoimi on olemassa ja mitä järjestelmän tulisi muistaa seuraavalla kerralla. Tämä ei ole koko etiikka. Se on se osa, joka voi pysäyttää huonon teon ennen kuin siitä tulee erittäin hyvin dokumentoitu katumus.
Alussa olevalla lomakkeella on edelleen arvoa. Se kysyy oikeat aloituskysymykset. Mutta lomakkeen on johdettava koneeseen, joka toimii: nimettyihin tiloihin, selviin rajoitteisiin, pysyvään näyttöön, todelliseen arviointiin ja poistumisreitteihin järjestelmän vaikutuspiirissä oleville ihmisille. Vastuullista tekoälyä ei osoiteta sen perusteella, että käytäntö on olemassa. Se osoitetaan tai kumotaan siirtymässä, jossa järjestelmä päättää, mitä tapahtuu seuraavaksi.