Julkinen tekoäly tarvitsee todisteet
Kuitti ilman kuittia
Julkinen virasto ilman kuitteja tuntuisi järjettömältä. Kuvittele, että uusit luvan, luovutat asiakirjoja, maksat maksun ja saat virkailijalta vain ystävällisen nyökkäyksen. Ei viitenumeroa. Ei päivämäärää. Ei merkintää siitä, mitä on hyväksytty. Ei reittiä oikaisuun. Virkailija hymyilee ja sanoo, että järjestelmä tietää. Jopa kärsivällisimmässä kunnassa joku jonossa alkaisi tehdä sellaista ilmettä, joka tarkoittaa, että demokratiasta on tulossa paperisotaa.
Kuitit ovat pieniä asioita, mutta niillä on institutionaalista painoarvoa. Ne kertovat ihmisille, että jokin tapahtui, että hakemus eteni prosessiin, että raha vaihtoi omistajaa, että sääntöä sovellettiin, että määräaika alkoi, että päätös on löydettävissä uudelleen. Ne eivät ole hohdokkaita. Ne ovat parempia kuin hohdokkaat. Ne ovat vaatimatonta näyttöä siitä, että valtio ei vain imenyt asiaasi beigenvärisen koneen sisään ja pyytänyt sinua uskomaan.
Julkinen tekoäly tarvitsee nyt saman tavan. Kun algoritmi tiivistää asiakirjan, ehdottaa kelpoisuutta, priorisoi tarkastuksia, luonnostelee vastauksen, merkitsee riskin, ohjaa kansalaisen tai tukee päätöstä, julkisen toimijan pitäisi pystyä tuottamaan kuitti. Ei teatraalista selitystä, joka on laadittu jälkikäteen. Ei kojelautakuvakaappausta. Ei lupausta siitä, että toimittaja todennäköisesti pystyy rekonstruoimaan jotain, jos tukeen ottaa yhteyttä virka-aikana. Kuitti: tiivis, jäsennelty ja ymmärrettävä näyttö siitä, mitä tapahtui ja miksi se sai tapahtua.
Tämä ei johdu siitä, että jokainen tekoälytoiminto olisi pahaenteinen. Useimmiten ongelma on vähemmän dramaattinen ja tavallisempi. Järjestelmät ovat monimutkaisia. Lähteet muuttuvat. Käytännöt päivittyvät. Malleja korvataan. Ihmiset siirtyvät osastojen välillä. Kansalainen riitauttaa lopputuloksen kuusi kuukautta myöhemmin. Tilintarkastaja kysyy, mitä sääntöversiota käytettiin. Ministeri haluaa vakuutuksen ennen kuulemista. Ilman kuitteja organisaation on luotava menneisyys uudelleen muistojen, lokien, viennin ja sellaisen henkilön optimismin varassa, joka vakuuttaa, että arkkitehtuurikaavio on melkein ajan tasalla.
Luottamus ei ole tunnelma
Julkiset toimijat puhuvat luottamuksesta usein kuin se olisi lämmin ilmapiiri palveluiden ympärillä. Ole läpinäkyvä, ole inhimillinen, ole innovatiivinen, niin luottamus tulee kävelemään sisään kangaskassin kanssa. Se on liian pehmeää tekoälylle. Julkinen luottamus ei ole tunnelma. Se on institutionaalinen tila, jonka tuottavat oikeudet, menettelyt, asiakirjat, arviointi, rajoitukset ja kyky kertoa, mitä tapahtui, kun lopputuloksesta kiistellään.
AI tekee tästä vaikeampaa, koska se voi saada hallinnollisen työn näyttämään sujuvammalta samalla kun sen päättelypolkua on vaikeampi tarkastaa. Käsittelijä voi saada yhteenvedon, joka on riittävän tarkka ollakseen hyödyllinen. Suunnittelija voi saada riskipisteen, joka säästää aikaa. Kansalainen voi saada chatbot-vastauksen, joka vähentää puhelun tarvetta. Nämä voivat olla todellisia hyötyjä. Mutta kun vastaus vaikuttaa hoitoon, kiireellisyysjärjestykseen, kelpoisuuteen, täytäntöönpanoon tai palvelun saatavuuteen, instituutio tarvitsee muutakin kuin hyödyllisyyttä. Se tarvitsee julkista vastuuvelvollisuutta.
Julkinen vastuuvelvollisuus tarkoittaa, että instituutio voi yhdistää tuotoksen toimeksiantoonsa. Se voi osoittaa, mitä tietoja käytettiin ja mitä tietoja ei ollut sallittua käyttää. Se voi osoittaa, toimiko malli luonnosapuna, suositusmoottorina, seulontatyökaluna vai automatisoidun päätöksenteon osana. Se voi osoittaa säännöstön version ja ihmisen hyväksynnän silloin, kun se vaaditaan. Se voi selittää, miten asianomainen voi riitauttaa lopputuloksen. Nämä eivät ole koristeita AI:n ympärillä. Ne ovat sen alla oleva lattia.
On houkutus vastata luottamushuoliin laajoilla vakuutteluilla. Järjestelmä on testattu. Malli on turvallinen. Toimittaja on sertifioitu. Prosessissa on hallintomalli. Nämä väitteet voivat olla totta ja silti riittämättömiä. Julkinen työ tapahtuu tapaus kerrallaan. Kansalainen ei elä aggregaattimittarin sisällä. Hän elää omassa päätöksessään, omassa asiakirjassaan, omassa määräajassaan, omassa menetetyssä etuudessaan, omassa tarkastuksessaan, omassa varatussa ajassaan, omassa vastaamattomassa kysymyksessään. Kuittaukset tuovat vastuuvelvollisuuden sille tasolle, jolla julkinen valta koetaan.
Kuittaus ei ole pelkkä loki
Ensimmäinen virhe on sekoittaa kuittaukset lokeihin. Lokit ovat arvokkaita, mutta ne on kirjoitettu koneille, käyttäjille, tietoturvatiimeille tai tulevaa hämmennystä varten. Ne voivat olla liian yksityiskohtaisia, liian arkaluonteisia, liian teknisiä, liian hajallaan tai liian riippuvaisia toimittajasta. Kuittaus on muotoiltu artefakti. Se on suunniteltu vastaamaan julkisen vastuuvelvollisuuden kysymyksiin paljastamatta jokaista salaisuutta, kuormittamatta jokaista lukijaa tai vaatimatta viikonlopun mittaista kurssia hajautetussa jäljityksessä.
Hyödyllisessä kuittauksessa on kerroksia. Julkinen kerros voi sisältää palvelukontekstin, päivämäärän, päätösviitteen, korkean tason tietoluokat, sääntöperustan ja muutoksenhakutien. Sisäinen kerros voi sisältää lähdetunnisteet, malliversion, kehotepohjan, hakuparametrit, käytäntötarkistukset, käyttöoikeuksien hallinnan ja tarkastajan henkilöllisyyden. Auditointikerros voi sisältää tiivisteet, aikaleimat, allekirjoitukset, säilytyssäännöt ja linkit muuttumattomaan näyttöön. Kerrokset suojaavat yksityisyyttä säilyttäen samalla tarkastettavuuden. Kaikkien ei tarvitse nähdä samoja yksityiskohtia. Jonkun on kuitenkin voitava nähdä riittävästi.
Tämä erottelu on tärkeä, koska julkisten AI-kuittausten on vältettävä muuttumasta valvonnaksi toisella nimellä. Vastaus läpinäkymättömyyteen ei ole tallentaa kaikkea ikuisesti. Näin hallinto-ongelmasta tulee yksityisyysongelma, jolla on paremmat kansiot. Kuittausten tulisi olla minimaalisia, tarkoitukseen sidottuja, säilytettyjä selkein ajanjaksoin, erotettuja tarpeettomasta sisällöstä ja saatavilla määriteltyjen roolien kautta. Testi on yksinkertainen: voiko instituutio selittää lopputuloksen ja tukea korjausta rakentamatta pysyvää päiväkirjaa jokaisesta kansalaisvuorovaikutuksesta.
Lokit ovat raaka-aine. Kuittaukset ovat vastuullinen tuote. Kypsässä järjestelmässä ne ovat yhteydessä toisiinsa. Kuittaus voi viitata syvempiin lokeihin, kun valtuutettu tutkimus sitä vaatii. Loki voi osoittaa, ettei kuittausta keksitty vasta keskustelun alettua. Mutta kuittaus on se asia, jonka julkinen palvelu voi antaa omille prosesseilleen ja joskus myös asianomaiselle henkilölle ilman, että kaikkia pyydetään ihailemaan JSON-objektia sen luonnollisessa elinympäristössä.
Kansalainen näkee rajan
Arkkitehtuurikaaviot piirretään yleensä sisältä käsin. Laatikoita, nuolia, palveluita, jonoja, malleja, tietokantoja, politiikkamoottoreita, henkilöstöportaaleja. Kansalainen ei koe mitään tästä. Kansalainen kokee rajan. Hakemus hyväksytään tai hylätään. Riskilippu ilmestyy tai ei. Aika on varattavissa tai ei. Asiakirja riittää tai ei. Vastaus sanoo kyllä, ei, odota, lähetä, soita, valita, poistu.
Tuolla rajalla kuitit ovat tärkeimpiä. Jos kansalaiselle kerrotaan, ettei pyyntöä voida käsitellä automaattisesti, kuitin tulisi kertoa, mikä ehto epäonnistui ja miten se korjataan. Jos tekoälyn yhteenveto vaikutti päätökseen, asiakirjassa tulisi näkyä, että ihminen tarkisti sen ja mitä lähdemateriaalia oli käytettävissä. Jos chatbot antaa menettelytapaneuvoja, kuitin tulisi yksilöidä julkisen lähteen versio ja selventää, oliko neuvo sitova. Jos riskimalli priorisoi tarkastuksen, kuitin tulisi osoittaa lainmukainen peruste, tietoluokat ja muutoksenhakureitti paljastamatta menetelmiä, jotka heikentäisivät itse tarkastusta.
Tässä ei ole kyse siitä, että jokainen julkinen vuorovaikutus muutettaisiin juridiseksi tutkielmaksi. Ihmisten ei pitäisi tarvita lakimiestä ymmärtääkseen pysäköintiluvan. Mutta julkinen valta on ihmisille velkaa ymmärrettävän otteen. Kuitti voi olla lyhyt ja silti merkityksellinen: pyyntösi arvioitiin tämän sääntöversion mukaan, näitä tietoja käyttäen, tällä automaattisella tuella, tämän roolin tarkistamana, ja siitä voi valittaa tätä reittiä. Se ei ole runoutta, mikä on onneksi. Runoudella on huono ennätys palveluportaaleissa.
Raja merkitsee myös viranomaisille. Käsittelijöitä, tarkastajia, opettajia, suunnittelijoita, kliinikkoja ja asiakaspalvelun henkilökuntaa ei pitäisi jättää tekoälyn tuotosten kanssa, joiden alkuperää he eivät osaa selittää. Kuitti suojaa heitä siltä, että heistä tulisi mysteerisen koneiston inhimillisiä kääreitä. Se antaa heille keinon kertoa, mitä järjestelmä teki, missä heidän harkintansa tuli mukaan ja milloin asia on siirrettävä pois automatisoinnista. Se ei ole byrokratiaa byrokratian vuoksi. Se on ammatillista arvokkuutta viitenumerolla.
Oikeusturva koneen ajassa
Julkishallinnolla on jo oikeusturvan perinteitä: ilmoitus, perustelut, pääsy asiakirjoihin, kuuleminen, muutoksenhaku, suhteellisuus, yhdenvertainen kohtelu, säilytyssäännöt ja nimetty toimivalta. Tekoäly ei korvaa näitä perinteitä. Se tiivistää ajan, jossa niiden on toimittava. Malli voi käsitellä tuhat tiedostoa ennen lounasta. Reitityssääntö voi vaikuttaa kokonaisiin kaupunginosiin ennen kuin kukaan huomaa. Yhteenvetovirhe voi kulkea työnkulun läpi nopeammin kuin korjaus. Koneen aika tekee vanhoista oikeuksista kiireellisempiä, ei vähemmän tärkeitä.
Kuitit ovat yksi tapa varmistaa, että oikeusturva säilyy vauhdissa. Ne luovat taukoja asiakirja-aineistoon, vaikka työnkulku olisi nopea. Kun tekoälyjärjestelmä käsittelee asiaa, kuitti voi tallentaa tarkoituksen, toimivallan, lähteen laajuuden, mallin tilan, käytäntötarkistukset ja käsittelytilan. Kun ihminen luottaa tuotokseen, kuitti voi tallentaa roolin ja toimen. Kun kansalainen saa päätöksen, kuitti voi tarjota viitteen ja reitin. Näin prosessille syntyy muisti.
Muisti on tärkeää, koska julkiset virheet huomataan usein myöhään. Henkilö ei välttämättä tiedä, että puuttuvalla tietokentällä oli merkitystä, ennen kuin etuus evätään. Tarkastaja ei välttämättä tiedä, että lähde oli vanhentunut, ennen kuin kohdekäynti tuntuu oudon kohdistetulta. Opettaja ei välttämättä tiedä, että riskimerkintä tuli virheellisestä läsnäolotietovirrasta, ennen kuin vanhempi kysyy suoran kysymyksen. Ilman kuitteja myöhäinen löytö muuttuu myöhäiseksi arvailuksi. Kuittien avulla myöhäinen löytö voi muuttua korjaukseksi.
Tämä ei tarkoita, että jokaisesta tekoälyavusteisesta vaiheesta tulisi erikseen valituskelpoinen. Julkisen prosessin on pysyttävä toimivana. Mutta ketjun on säilytettävä riittävästi todisteita merkityksellistä haastamista varten oikeassa kohdassa. Jos järjestelmä antaa ehdotuksen, jonka ihminen jättää huomiotta, kuitin tulee heijastaa sitä. Jos järjestelmä antaa suosituksen, jonka ihminen hyväksyy, kuitin tulee heijastaa myös sitä. Erolla on merkitystä. Kansalaiset eivät voi haastaa aavetta, eivätkä viranomaiset voi puolustaa sellaista.
Kuitit ilman valvontaa
Vahvin vastaväite kuiteille on, että ne voisivat luoda uusia tietoriskejä. Tämä vastaväite on vakava. Julkisten laitosten ei pitäisi ratkaista tekoälyn läpinäkymättömyyttä keräämällä toista varjotiedostoa jokaisesta kansalaisesta. Kuittijärjestelmä, joka säilyttää ikuisesti tarpeettomia kehotteita, kokonaisia keskusteluja, arkaluonteisia lähdeotteita, sisäisiä muistiinpanoja, työkalujen tuotoksia ja käyttäytymisjälkiä, ei ole vastuullisuutta. Se on hyvin organisoitu ongelma.
Tietosuojaa kunnioittavat kuitit vaativat suunnitteludiscipliiniä. Tallenna tunnisteita mieluummin kuin koko sisältöä, kun se on mahdollista. Käytä tiivisteitä eheyden varmistamiseksi. Erota kansalaisille suunnatut kuitit sisäisistä tarkastusrekistereistä. Säilytä todisteita prosessin oikeudellisen arvon mukaan, ei tallennusjärjestelmien kapasiteetin mukaan. Poista tai yhdistele matalan riskin vuorovaikutuksia. Suojaa tarkastajien henkilöllisyydet, kun henkilöturvallisuus tai riippumattomuus sitä vaatii, mutta säilytä silti roolivastuullisuus. Pidä pääsyrekisteriä itse kuittivarastosta, koska todisteilla todisteista on ikävä tapa muuttua tärkeiksi.
Suunnittelun tulisi myös välttää väärän tarkkuuden luomista. Kuitti ei saa väittää, että malli päätteli kuin ihminen, jos se ei niin tehnyt. Sen ei pidä kääntää todennäköisyyspohjaista tuotosta moraaliseksi arvostelmaksi. Sen ei pidä teeskennellä, että korkea pistemäärä on tosiasia. Sen pitäisi kertoa, mitä järjestelmä teki: nouti nämä lähteet, sovelsi tätä sääntöä, tuotti tämän tuotoksen, merkitsi tämän luottamusvälin, siirsi tähän rooliin, vastaanotti tämän ihmisen toimen. Kuiva kieli on kansalaispalvelu. Julkisella sektorilla on jo riittävästi koristeellista sumua.
Tässä on hyödyllistä nöyryyttä. Kuitit eivät tee tekoälystä täydellisen oikeudenmukaista, tarkkaa tai lainmukaista. Ne tekevät järjestelmästä paremmin tarkasteltavan. Ne alentavat virheiden löytämisen kustannuksia. Ne luovat paikan korjaukselle. Ne vaikeuttavat laitosten piiloutumista lauseen järjestelmä sanoi niin taakse. Julkisessa työssä tämä ei ole pieni asia. Se on ero automatisoinnin ja hallinnon välillä verrattuna automaatioon lukittuna laatikkoon.
Kuittirajapinnan hankinta
Jos tositteet ovat tärkeitä, ne on ostettava ja rakennettava, ei toivottava olemassa oleviksi käyttöönoton jälkeen. Julkisten hankkijoiden tulisi kysyä toimittajilta, miten järjestelmä tuottaa tapauskohtaisen näytön. Voidaanko malliversiot lukita. Ovatko kehote-pohjat versioituja. Palautetaanko lähdetunnisteet. Voidaanko hakupäätökset viedä. Kirjataanko käytäntötarkistukset. Voidaanko lokit erotella tarkoituksen mukaan. Ovatko tarkastustietueet allekirjoitettuja tai peukalointia paljastavia. Voidaanko kansalaisille suunnatut yhteenvedot tuottaa samasta näytöstä paljastamatta arkaluonteisia sisäisiä osia. Voiko toimielin lähteä tositteet ehjinä mukanaan.
Nämä kysymykset saattavat kuulostaa vaativilta, mutta ne ovat vähemmän vaativia kuin kiistellyn automatisoidun prosessin rekonstruoiminen sen jälkeen, kun sanomalehti, tuomioistuin, valtuusto, eduskunta tai oikeusasiamies kiinnostuu asiasta. Jälkikäteen lisättävät tositteet ovat hankalia, koska puuttuvaa näyttöä ei usein koskaan tallennettu. Eiliseen näkymättömään tapahtumaan ei voi nitoa tositetta. Voi vain esittää tulkitsevaa tanssia telemetrian ympärillä. Tätä ei suositella hallintomenetelmäksi.
Tositerajapinnat auttavat myös sisäisiä tiimejä. Ne helpottavat arviointia, koska tuotoksia voidaan verrata lähteeseen ja sääntötilaan. Ne nopeuttavat häiriötilanteisiin vastaamista, koska vaikuttaneet tapaukset voidaan jäljittää. Ne tekevät käytäntömuutoksista mitattavampia, koska tiimit näkevät, mitkä säännöt aiheuttavat kitkaa. Ne tekevät kouluttamisesta turvallisempaa, koska esimerkit voidaan valita alkuperän perusteella. Ne tekevät poistamisesta ja korjaamisesta vähemmän teatraalista, koska johdetut artefaktit voidaan löytää.
Julkisten toimielinten ei tarvitse vaatia jokaista toimittajaa paljastamaan jokaista sisäistä salaisuutta. Jotkin osat pysyvät mustina laatikkoina jollakin tasolla. Mutta palvelun kokonaisuutena on tuotettava käyttökelpoisia tositteita julkisella rajapinnalla. Jos toimittaja ei pysty tukemaan tätä, toimielimen tulisi ymmärtää, mitä se on ostamassa: ei vain ominaisuutta, vaan aukon omassa kyvyssään vastata vallankäytöstä.
Kun tositteet paljastavat huonon käytännön
Tositteet paljastavat joskus, että tekoälyjärjestelmä ei ole pääongelma. Se on hyödyllistä ja epämukavaa. Tosite voi osoittaa, että malli noudatti sääntöä oikein, mutta sääntö oli vanhentunut. Se voi osoittaa, että ihminen ohitti järjestelmän usein, koska käytäntö oli liian jäykkä. Se voi osoittaa, että toisen osaston puuttuvat tiedot aiheuttivat toistuvia kielteisiä päätöksiä. Se voi osoittaa, että riskiliputus oli teknisesti tarkka ja sosiaalisesti järjetön. Hyvällä näytöllä on epäkohtelias tapa laajentaa keskustelua.
Tämä on yksi syy siihen, miksi instituutiot saattavat vastustaa kuittauksia sanomatta sitä suoraan. Kuittaukset luovat vastuullisuutta paitsi teknologiaryhmille myös politiikan omistajille, tietojen omistajille, esihenkilöille, toimittajille ja valituille johtajille. Niiden avulla on vaikeampaa syyttää algoritmia päätöksestä, jonka ovat itse asiassa suunnitelleet politiikka, budjetti, henkilöstö tai laskentataulukko, jossa on sankarillinen määrä piilotettuja sarakkeita. Tämä epämukavuus on ominaisuus. Julkisen tekoälyn ei pitäisi tarjota uutta piilopaikkaa vanhoille valinnoille.
Kuittaukset tukevat myös oppimista. Jos monet tapaukset epäonnistuvat samassa näyttövaatimuksessa, lomake voi olla epäselvä. Jos henkilökunta korjaa monia tekoälyn yhteenvetoja, lähdepoiminta voi olla heikkoa. Jos valitukset kumoavat toistuvasti tiettyä sääntöä koskevia päätöksiä, politiikkaa tulisi tarkistaa. Jos kansalaiset kysyvät saman kysymyksen kuittauksen saatuaan, selitys ei ole riittävän hyvä. Vastuullisuudesta tulee silmukka, ei muistomerkki menneelle käyttöönotolle.
Julkisten instituutioiden ei tarvitse olla täydellisiä. Niiden ei kuitenkaan ole sallittua olla tarkastamattomia käyttäessään valtaa. Kuittaukset tekevät epätäydellisyydestä hallittavaa. Ne antavat ihmisille jotakin, jota haastaa, ja organisaatioille jotakin, jota parantaa. Tämä on vähemmän romanttista kuin luotettavan tekoälyn lupaaminen strategia-asiakirjassa. Se on myös huomattavasti hyödyllisempää, mikä on käytännön toimien tunnettu riski.
Julkinen päätös, jolla on muisti
Parhaat kuittausjärjestelmät eivät ole passiivisia arkistoja. Ne ruokkivat päätössilmukkaa. Pyyntö saapuu. Toimivalta ja tarkoitus varmistetaan. Lähteet valitaan. Malli tai sääntömoottori tukee työtä ilmoitettujen rajojen sisällä. Ihmisen rooli hyväksyy, hylkää tai muokkaa tuotoksen tarvittaessa. Kansalainen saa tuloksen ja reitin. Haasteet ja korjaukset palaavat järjestelmään parannusevidenssinä. Kuittaus on lanka, joka kulkee silmukan läpi.
Tämä silmukka on tärkeä, koska julkiset palvelut muuttuvat. Lakeja muutetaan. Lomakkeita suunnitellaan uudelleen. Tietoaineistoja siivotaan. Malleja päivitetään. Organisaatiorajat liikkuvat. Viime vuoden kuittausta saatetaan joutua lukemaan tämän vuoden prosessin mukaisesti. Tämä edellyttää vakaita tunnisteita, versioituja sääntöjä, siirtolokeja ja säilytyskuria. Muuten julkinen toimija voi säilyttää kuittauksen, joka viittaa kadonneeseen järjestelmään sanastolla, jota kukaan ei ymmärrä. Se ei ole vastuullisuutta. Se on digitaalista arkeologiaa paremman kahvin kera.
Kuittauksia tulisi siis hallinnoida kuten asiakirjoja. Ne tarvitsevat omistajuuden, säilytysaikataulut, käyttöoikeudet, vientimuodot, eheystarkistukset, poistosäännöt ja tarkistusmenettelyt. Niitä ei tulisi jättää minkään lokituskirjaston sivutuotteeksi, joka sattui olemaan muodissa palvelun käynnistämisen aikaan. Julkiset asiakirjat ovat kansalaisteknologiaa. Tekoälykuittaukset ovat osa tätä perinnettä, vaikka ne sisältäisivät malliversioita mustekynäallekirjoitusten sijaan.
On myös demokraattinen hyöty. Kuittaukset mahdollistavat kokonaisvaltaisen valvonnan altistamatta jokaista henkilöä. Instituutiot voivat mitata, mitkä palvelut käyttävät tekoälyä, miten automatisoitu tuki muokkaa tuloksia, kuinka usein ihmiset ohittavat järjestelmän, missä valitukset menestyvät, mitkä lähteet aiheuttavat kitkaa ja vaikuttaako jokin ryhmä suhteettoman paljon. Näin julkinen tekoäly voi siirtyä epämääräisistä vakuutteluista hallittuun käytäntöön. Ei pyytämällä yhteiskuntaa ihailemaan mallia, vaan tekemällä julkisesta vallasta riittävän laskettavaa, jotta sitä voidaan kyseenalaistaa.
Opetus
Julkinen AI tarvitsee kuitteja, koska julkinen valta tarvitsee tallenteita. Sujuva mallin vastaus ei riitä. Hyödyllinen riskipiste ei riitä. Onnistunut pilotti ei riitä. Kun AI koskettaa oikeuksia, palveluja, etusijaa, rahaa, täytäntöönpanoa, hoivaa, koulutusta tai pääsyä, instituution on pystyttävä osoittamaan tuloksen taustalla olevat valtuudet, lähteet, mallin tila, säännöt, ihmisen rooli ja arviointireitti.
Tämä ei edellytä jokaisen vuorovaikutuksen muuttamista paperityöksi. Se edellyttää todisteiden suunnittelua järjestelmään oikealla tasolla. Julkisten kuittien tulisi olla tiiviitä, kerroksellisia, yksityisyyttä säilyttäviä, roolitietoisia, peukaloinnilta suojattuja ja yhteydessä todelliseen arviointiin. Niiden tulisi auttaa kansalaisia ymmärtämään rajoja, auttaa viranomaisia käyttämään harkintaa, auttaa tilintarkastajia rekonstruoimaan tapahtumia ja auttaa instituutioita oppimaan haasteista.
Julkinen sektori ei tarvitse AI:ta, joka esittää luottamusta. Se tarvitsee AI:ta, jota voidaan pitää vastuullisena. Kuitit ovat vaatimaton teknologia tuon vastuullisuuden toteuttamiseen. Ne ovat pieniä, tylsiä ja sitkeän hyödyllisiä. Julkishallinnossa tuo yhdistelmä on kantanut enemmän painoa kuin useimmat manifestit. Julkisen AI:n tulevaisuutta ei ratkaise vain mallin kyvykkyys. Sen ratkaisee myös se, pystyykö instituutio tuottamaan kysyttäessä, mitä tapahtui, jotain parempaa kuin itsevarman olankohautuksen.