Päätökset tarvitsevat versiohistorian
Kuusi kuukautta myöhässä saapunut valitus
Päätös näytti tavalliselta, kun se tehtiin. Etuushakemus hylättiin tiistaiaamuna, käsittelijä tarkisti sen ennen lounasta, ja kansalaiselle lähetettiin kohtelias selvitys, joka ei aivan selittänyt tarpeeksi. Järjestelmä näytti lopullisen tilan, päivämäärän, työntekijän ja syykoodin. Se näytti hallinnolliselta, ja niin monet merkittävät asiat piiloutuvat. Kuusi kuukautta myöhemmin kansalainen valitti. Siihen mennessä käytäntö oli muuttunut kahdesti, pisteytysmalli oli päivitetty, tulotietovirta oli korjannut kentän, ja käsittelijä oli siirtynyt toiseen tiimiin. Tietue sanoi edelleen hylätty. Organisaatio ei enää tiennyt, mitä hylkäystä se tarkoitti.
Kaikki näkivät lopputuloksen. Kukaan ei pystynyt rekonstruoimaan päätöstä. Tietokanta sisälsi uusimman version hakijan profiilista, ei sitä versiota, jota päätöksenteon aikaan käytettiin. Sääntömoottorissa oli voimassa olevat säännöt, ei vanhaa raja-arvoa. Mallirekisteri listasi käytössä olevan mallin, mutta palautushistoria oli puutteellinen. Selityspohjaa oli muokattu. Ihmisen tekemä tarkistusmerkintä sanoi tarkistettu, mikä on rohkea pieni sana tulevaa käsittelyä ajatellen. Audit-loki näytti pääsytapahtumat, mutta ei riittävästi kontekstia ymmärtääkseen, miksi tulos seurasi. Valituksesta tuli kokous institutionaalisesta muistista, ja institutionaalista muistia edustivat kolme ihmistä, taulukkolaskenta ja yhteinen ahdistuksen tunne.
Siksi päätökset tarvitsevat versiohistorian. Päätös ei ole sama asia kuin rivi tilalla. Se on hetki, jossa data, käytäntö, mallin käyttäytyminen, inhimillinen harkinta, työnkulun tila, käyttöoikeudet, todisteet ja seuraus kohtaavat. Jos näitä ainesosia ei versioida, organisaatio voi osoittaa, että jotain tapahtui, mutta ei sitä, mitä tapahtui vastuullisessa mielessä. Lokit kertovat, että ovi avattiin. Versiohistoria kertoo, mikä huone oli oven takana, mikä avain hyväksyttiin, kuka sitä käänsi ja miksi reitti oli sallittu.
Lokit eivät riitä
Lokit ovat välttämättömiä. Ne kertovat, että tapahtuma sattui, milloin se sattui ja usein myös, mikä toimija tai palvelu sen tuotti. Hyvät lokit ovat arvokkaita. Mutta pelkät lokit eivät ole päätöshistoriaa. Lokirivi, joka sanoo sääntö arvioitiin todeksi, on heikko, jos säännön määritelmä on muuttunut. Loki, joka tallentaa malli pisteytti 0,71, on heikko, jos mallin versio, raja-arvo, piirteet ja kalibrointi puuttuvat. Loki, joka tallentaa käyttäjä hyväksyi, on heikko, jos tarkistaja näki eri todisteet kuin myöhempi tietue osoittaa. Tapahtumat ilman versioita ovat jalanjälkiä tuoreessa lumessa sen jälkeen, kun joku on järjestänyt rakennuksen uudelleen.
Päätöshistoria tarvitsee sekä tapahtuman että tilan. Sen on tallennettava tai viitattava silloin merkitykselliseen tilaan: datan tilannekuva, lähteen tuoreus, säännön versio, mallin versio, kehotteen versio, raja-arvo, käytännön perusta, käyttöoikeudet, jonon tila, tarkistajan näkymä, tulos, ilmoitus ja jatkotoimi. Sen ei aina tarvitse kopioida jokaista yksityistä sisältöä. Viittaukset, hajautusarvot, tilannekuvat ja säilytysluokat voivat pitää jäljen oikeasuhtaisena. Mutta järjestelmän on säilytettävä riittävästi vastatakseen vastuulliseen kysymykseen: kun otetaan huomioon, mitä silloin tiedettiin ja sallittiin, miksi tämä päätös tapahtui.
Tämä ero on tärkeä, koska monilla organisaatioilla on jo lokit ja ne olettavat ongelman olevan ratkaistu. Sitten tulee riita, ja lokit osoittavat järjestelmiin, jotka ovat siirtyneet eteenpäin. Käytäntötietue on ylikirjoitettu. Piirre on laskettu uudelleen. Indeksi on rakennettu uudelleen. Kehotetta on muokattu, koska joku paransi sanamuotoa. Joku on korjannut lähdedataa, mikä on hyväksi palvelulle ja kamalaa menneisyyden rekonstruoinnille, jos vanha arvo katosi. Nykyhetki siivoaa huonetta jatkuvasti, ja menneisyys menettää jatkuvasti todisteita.
Ohjelmisto oppi tämän läksyn jo
Ohjelmistotiimit versioivat koodia, koska kukaan ei halua selvittää tuotanto-ongelmaa kysymällä, kuka muistaa torstain. Versionhallinta kertoo, mikä muuttui, milloin, kenen toimesta ja usein myös miksi. Se antaa tiimeille mahdollisuuden vertailla, palauttaa, haarauttaa, tarkastella ja linkittää muutokset ongelmiin. Tämä ei tehnyt ohjelmistosta täydellistä. Se teki ohjelmistosta vähemmän riippuvaisen käytäväarkeologiasta. Sama perusperiaate tarvitaan nyt päätöksille, etenkin kun päätökset riippuvat dataputkista, säännöistä, tekoälymalleista, ihmisten työnkuluista ja toimittajista, jotka muuttuvat toisistaan riippumatta.
Analogia on hyödyllinen mutta puutteellinen. Koodin versiointi koskee enimmäkseen artefakteja, jotka ovat teknisen hallinnan piirissä. Päätöshistorian on katettava useampia muutostyyppejä. Hakijan tulotiedot voi korjata ulkoinen lähde. Kelpoisuussääntö voi muuttua lain myötä. Mallin voi päivittää alustatiimi. Kehotetta voi muuttaa operatiivinen henkilöstö. Tarkastaja voi lisätä huomautuksen. Työnkulku voi ohjata asian eri tavalla ruuhkatilanteessa. Toimittaja voi muuttaa rajapintaa. Päätös on monien versioitujen maailmojen leikkauspisteessä. Se tarvitsee historian, joka kestää sen, että kaikki nämä maailmat ovat hankalia.
Tämän historian ei pitäisi olla jättimäinen kuvakaappaus kaikesta. Kuvakaappaukset ovat lohdullisia, koska ne näyttävät todisteilta, mutta ne ovat usein todisteen näköistä tapettia. Päätösten versiointi tarvitsee jäsenneltyjä viittauksia: mikä tietueversio, mikä politiikkaversio, mikä malliversio, mikä ominaisuusjoukko, mikä kehote, mikä selitysmalli, mikä tarkastajarooli, mikä todistepaketti, mikä ilmoitusteksti. Ihmiset saattavat tarvita luettavan näkymän, mutta koneet tarvitsevat vakaita tunnisteita. Muuten jokaisesta muutoksenhausta tulee kirjallisuusharjoitus vanhojen käyttöliittymäpikselien tulkinnassa.
Säännöt muuttuvat nopeammin kuin muistot
Politiikka ei ole staattista. Verokynnykset muuttuvat. Kelpoisuuskriteerit muuttuvat. Turvamenettelyt muuttuvat. Kliiniset ohjeistukset muuttuvat. Lainapolitiikat muuttuvat. Koulun tukisäännöt muuttuvat. Petosindikaattorit muuttuvat. Moderaatiostandardit muuttuvat. Vaikka kirjoitettu sääntö pysyisi vakaana, tulkinta muuttuu ohjeistuksen, koulutuksen, ennakkotapausten ja tavallisen organisatorisen sään vaihtelun myötä. Yhden version alla tehty päätös voi näyttää väärältä toisen version alla. Se ei automaattisesti tarkoita, että se oli silloin väärä. Se tarkoittaa, että organisaation on kyettävä vertaamaan silloin-hetkeä nyt-hetkeen.
Ilman versiohistoriaa tiimit tekevät kaksi vastakkaista virhettä. He puolustavat vanhoja päätöksiä nykyisten sääntöjen pohjalta, mikä on epäreilua asianomaista kohtaan ja yleensä noloa yksityiskohtien tasolla. Tai he tuomitsevat vanhat päätökset nykyarvojen pohjalta ymmärtämättä silloin vallinneita rajoitteita, mikä voi olla tunnepitoisesti tyydyttävää mutta toiminnallisesti hyödytöntä. Versiohistoria tekee eron näkyväksi. Sen avulla tarkastelija voi kysyä, noudatettiinko päätöksessä silloin voimassa ollutta sääntöä, oliko sääntö lainmukainen tai asianmukainen ja pitäisikö myöhemmän muutoksen johtaa korjaukseen vai peruutukseen.
Tämä on erityisen tärkeää tekoälyavusteisissa työnkuluissa, koska toimintaperiaatteet voivat jakautua muodollisiin sääntöihin, kehotteisiin, mallien kynnysarvoihin, luokittelulogiikkaan ja inhimilliseen ohjeistukseen. Malli ei välttämättä sisällä toimintaperiaatetta, mutta se voi vaikuttaa siihen, mitkä tapaukset nousevat esiin, miten todisteet tiivistetään ja mikä vaihtoehto esitetään ensin. Kehote voi koodata kieltäytymissäännön. Kynnysarvo voi käytännössä ratkaista, kuka saa arvioinnin. Jos näitä osia ei versioida yhdessä, virallinen toimintaperiaate on vain osa päätöstä. Loput ovat toimintaperiaatetta konfiguraation kautta, mikä on hiljainen tapa hallita ihmisiä tunnustamatta sitä.
Tiedot muuttuvat päätöksen jälkeen
Tieto ei ole kiinteä todistaja. Sitä korjataan, rikastetaan, yhdistetään, poistetaan kaksoiskappaleina, luokitellaan uudelleen, indeksoidaan uudelleen ja joskus hiljaa ylikirjoitetaan, koska siirtoskirptillä oli itsevarma hetki. Klo 09:15 tehty päätös käytti klo 09:15 saatavilla olleita tietoja, mukaan lukien virheet, puuttuvat arvot, vanhentuneet syötteet ja käyttörajoitukset. Jos tietue myöhemmin siistiytyy, siistimpi versio ei voi selittää vanhempaa lopputulosta. Järjestelmä tarvitsee tilannekuvan tai muuttumattoman viittauksen siihen tietotilaan, jolla oli merkitystä.
Tämä ei tarkoita, että kaikki henkilökohtaiset yksityiskohdat tallennettaisiin ikuisesti. Se olisi huono vastaus vastuullisuuden naamiaisissa. Päätöksen jäljitysketju voi käyttää viittauksia lähdeversioihin, hajautusarvoihin, suljettuihin tilannekuviin, kenttätason kopioihin tai todistenippuihin, joilla on säilytyssäännöt. Suunnittelu riippuu seurauksista ja toimialasta. Vähäriskiselle suositukselle voi riittää kevyt jäljitettävyys. Etuuden epääminen, lääketieteellinen seulonta, rekrytointipäätös, kurinpitotoimi, lainan hylkäys tai turvallisuustoimenpide vaatii vahvemman jäljitysketjun. Tarkoitus on suhteellinen muisti, ei hamstraaminen.
Korjatut tiedot herättävät myös toisen kysymyksen. Pitäisikö vanhat päätökset käydä uudelleen läpi. Jos tulotietojen syöte oli virheellinen, mihin hakemuksiin se vaikutti. Jos kliininen sääntö käytti vanhentuneita laboratorioarvoja, mitkä hälytykset pitäisi tarkistaa uudelleen. Jos mallin ominaisuus laskettiin virheellisestä lähteestä, mitkä luokittelut muuttuivat. Versiohistoria mahdollistaa peruutukset. Ilman sitä organisaatio voi tietää, että jokin oli vialla, mutta ei sitä, kehen virheellisyys osui. Se on huono paikka seisoa, varsinkin kun huoneessa on tilintarkastajia.
Ihmisen harkintakin tarvitsee historian
On lohdullinen myytti, että ihmisen mukanaolo ratkaisee versioinnin. Ei ratkaise. Myös ihmisen harkinnalla on kontekstinsa. Arvioija näkee tietyn näkymän, todistusaineiston, jonon paineen, ohjeistuksen, riskilipun, mallin yhteenvedon ja joukon käytettävissä olevia toimia. Jos nämä osat muuttuvat myöhemmin, Jannen hyväksymä merkintä kertoo hyvin vähän. Mitä Janne näki. Mikä oli piilotettua. Mitä hän pystyi muuttamaan. Kuinka paljon aikaa hänellä oli. Oliko eriävä mielipide mahdollinen. Tekikö käyttöliittymä jostakin vaihtoehdosta toista helpomman. Ihmisen valvonta ilman historiaa muuttuu allekirjoitukseksi liikkuvassa asiakirjassa.
Ihmisen tekemän arvioinnin versiointi ei ole arvioijien syyttämistä. Siinä on kyse sekä asianomaisen että arvioijan suojelemisesta. Käsittelijältä ei pitäisi kuukausien kuluttua pyytää puolustusta päätökselle muistin varassa, kun järjestelmä voi säilyttää asiaankuuluvan näkymän. Lääkärin ei pitäisi joutua rekonstruoimaan, mikä hälytyskynnys oli voimassa. Moderaattorin ei pitäisi joutua selittämään vanhaa toimenpidettä sen jälkeen, kun käytännön nimi on muuttunut. Esimiehen ei pitäisi joutua päättämään, oliko poikkeus kohtuullinen, tietämättä silloin käytettävissä ollutta todistusaineistoa. Muisti on hyödyllinen. Sen ei pitäisi olla auditointitietokanta.
Historian pitäisi tallentaa arvioinnin konteksti, ei jokaista yksityistä ajatusta. Siihen voi tallentaa näytetyn todistusaineiston, pois jätetyn todistusaineiston, perustelukoodit, käytettävissä olleet toimet, poikkeuksen valinnan, aikavälin, jonon tilan ja eskalaatiopolun. Se voi tukea kerronnallisia muistiinpanoja ja pitää samalla jäsennellyt kentät analyysia varten. Se voi erottaa arkaluonteisen sisällön pysyvistä viitteistä. Tarkoitus on tehdä harkinnasta tarkasteltavaa tekemättä ihmisistä valvonnan kohteita. Tämä tasapaino on vaikea, ja siksi se on suunniteltava eikä improvisoitava sen jälkeen, kun valitus on jo tullut.
Tekoäly nostaa unohtamisen hintaa
Tekoälyavusteiset päätökset nostavat puuttuvan historian hintaa, koska järjestelmä voi muuttaa toimintaansa useammilla tavoilla. Mallipäivitys voi muuttaa järjestystä. Hakemiston uudelleenrakennus voi muuttaa sitä, mikä todistusaineisto näkyy. Kehoteoikaisu voi muuttaa sitä, miten epävarmuus ilmaistaan. Kynnyksen säätö voi siirtää tapauksia automaattisesta hyväksynnästä käsittelyyn. Kalibrointimuutos voi muuttaa saman pistemäärän merkitystä. Suodatin voi estää tietoa, joka aiemmin näytettiin. Jokainen muutos voi olla kohtuullinen. Yhdessä ne tekevät menneestä haurasta, ellei versioita sidota päätöksiin.
Erityisen haavoittuvia ovat selitykset. Generoitu selitys voi kuulostaa täsmälliseltä, vaikka se ei liittyisi varsinaiseen päätöspolkuun. Jos järjestelmä tuottaa selityksen myöhemmin käyttäen senhetkisiä sääntöjä ja senhetkistä dataa, se voi tuottaa kiillotetun väärän muiston. Se on pahempi kuin ei selitystä lainkaan, koska se houkuttelee luottamaan rekonstruktioon. Päätöshistorian tulisi erottaa samanaikaiset syyt myöhemmästä analyysistä. Myöhempi selitys voi auttaa tarkastelijaa, mutta se on merkittävä myöhemmäksi. Ajalla on merkitystä. Se on ero todisteen ja kommentoinnin välillä.
Myös mallin luottamus tarvitsee historiaa. Pistemäärä 0,82 ei ole itsestään selvä. Mikä malli sen tuotti. Millä ominaisuuksilla. Millä kalibroinnilla. Millä kynnyksellä. Mitä populaatiota vasten. Käytettiinkö mallia neuvona, seulontana, luokitteluna vai päätöksen syötteenä. Näkikö ihminen sen. Näytettiinkö epävarmuus. Oliko mallilla tunnettuja heikkouksia tämän alaryhmän tai kielen kohdalla. Jos nämä tiedot katoavat, organisaatio säilyttää luvun ja menettää merkityksen. Luvut ilman kontekstia ovat yllättävän hyviä esiintymään faktoina.
Muutoksenhaku on suunnitteluvaatimus
Päätös, johon ei käytännössä voi hakea muutosta, ei ole vain tehokas. Se on hauras. Muutoksenhaku ei aina tarkoita tuomioistuinta. Se voi tarkoittaa käyttäjän korjausta, esihenkilön tarkistusta, potilaan kysymystä, opiskelijan haastetta, asiakkaan valitusta, sisäistä poikkeamaa tai viranomaisen otantaa. Ydinajatus on, että merkittäviin päätöksiin tulisi suhtautua tulevan tarkastelun odotuksella. Muutoksenhakua varten suunnittelu muuttaa arkkitehtuuria. Järjestelmän on säilytettävä asiaankuuluvat versiot, annettava ne valtuutettujen tarkastelijoiden nähtäville, tuettava korjausta ja yhdistettävä korjaustoimet vaikutettuihin jatkotoimiin.
Tämä ei ole automaation vastustamista. Se on edellytys, jolla automaatio pysyy legitiminä. Automatisoidut ja tekoälyavusteiset järjestelmät voivat käsitellä määrää, johdonmukaisuutta ja nopeutta. Mutta kun ne vaikuttavat ihmisiin, niiden on myös tuettava erimielisyyttä. Erimielisyys tarvitsee jäljen. Ei maksimaalista arkistoa, ei jokaista tavua ikuisesti, vaan riittävästi historiaa, jotta joku muu kuin alkuperäinen järjestelmä voi ymmärtää ja tarvittaessa muuttaa lopputuloksen. Muuten tehokkuudesta tulee lukittu ovi, jonka ulkopuolella on kohtelias chatbot.
Muutoksenhakusuunnittelu parantaa myös tavallista toimintaa. Se auttaa tukipalvelua vastaamaan kysymyksiin. Se auttaa esihenkilöitä havaitsemaan heikot säännöt. Se auttaa insinöörejä toistamaan poikkeamat. Se auttaa politiikkatiimejä näkemään, toimiiko ohjeistus. Se auttaa auditoijia poimimaan otoksia oikeista tapauksista. Se auttaa organisaatioita korjaamaan päätösryhmiä, kun jokin osa pettää. Muutoksenhakua varten rakennettu järjestelmä on yleensä myös oppimista varten rakennettu järjestelmä. Päinvastainen ei ole taattua. Monet nopeutta varten rakennetut järjestelmät oppivat vain olemaan nopeampia unohtamaan.
Muisti hamstraamatta
Päätöshistorian pyytämiseen liittyy todellinen riski. Organisaatiot voivat vastata säilyttämällä kaiken. Jokainen asiakirja, kuvakaappaus, ominaisuus, kehote, loki, tallenne, sähköposti, jonokohde ja vienti säilytetään ikuisesti, koska vastuullisuus kuulostaa tärkeältä ja tallennustila on halpaa, kunnes se ei enää ole. Tämä ei ole hyvää hallintoa. Se on paloturvallisuuden ratkaisemista täyttämällä jokainen käytävä arkistokaapeilla. Historian tulee olla oikeasuhtaista, jäsenneltyä ja tarkoituksenmukaista.
Oikea muisti riippuu seurauksista. Jotkin päätökset vaativat täyden toiston: lähdevedoksen, sääntöversion, malliversion, tarkastelijan näkymän ja ilmoituksen. Toiset tarvitsevat hajautetun kuitin, tiiviin todistepaketin tai koostetun auditointijäljen. Osa sisällöstä saa vanhentua, kunhan poiston tosiasia säilyy. Joihinkin arkaluonteisiin kenttiin voidaan viitata kopioimatta niitä. Osa todisteista sinetöidään valitusta varten, eikä tavallinen henkilökunta pääse niihin käsiksi. Jotkin mallituotokset säilytetään vertailua varten, mutta niitä ei levitetä laajasti. Versiohistoria ei ole tekosyy jättää minimointi huomiotta. Se on paikka, jossa minimoinnista tulee täsmällisempää.
Siksi säilytyskäytäntö ja päätösten suunnittelu kuuluvat yhteen. Päätöstietueen tulee kertoa, mitä on säilytettävä, miksi, kuinka kauan, kenellä on pääsy siihen, miten se tukee valitusta ja miten se tuhotaan tai anonymisoidaan myöhemmin. Tietueen ei pidä olla suo. Sen tulee olla kuitti, jossa on riittävästi liitteitä kaupan todistamiseen. Kuitit ovat tylsiä. Se on niiden vahvuus. Kukaan ei halua filosofista väittelyä kuitin kanssa, kun kirjanpitäjä kysyy, mitä tapahtui.
Mitä muuttuu, kun historia on olemassa
Kun päätöksillä on versiohistoria, organisaatio pysyy rauhallisempana paineen alla. Se voi vastata valitukseen todisteilla. Se voi erottaa huonon säännön säännön huonosta soveltamisesta. Se voi tunnistaa, mihin tapauksiin tietojen korjaus tai mallipäivitys vaikutti. Se voi osoittaa, oliko ihmisen valvonta todellista. Se voi vertailla tuloksia eri käytäntöversioiden välillä. Se voi luopua heikoista käytännöistä teeskentelemättä, ettei menneisyyttä ollut. Se voi myöntää virheet täsmällisemmin, mikä on aliarvostettua, koska epämääräiset anteeksipyynnöt harvoin korjaavat järjestelmiä.
Versionhistoria muuttaa myös sisäistä toimintaa. Ihmiset tekevät parempia muutoksia, kun he tietävät, että muutokset ovat näkyviä. Politiikkatiimit kirjoittavat selkeämpiä julkaisutietoja. Mallitiimit kiinnittävät artefaktit. Operaatiotiimit miettivät ennen kuin muokkaavat malleja. Tuotetiimit käsittelevät selitystekstiä osana päätöstä, eivät vain viestinnän koristeena. Johtajien houkutus ratkaista hallinto hallintapaneelilla vähenee, koska jäljen on kestettävä oikea kysymys. Organisaatio oppii, että päätökset eivät ole hetkiä. Ne ovat kestäviä objekteja, joilla on elinkaari.
Myöhäisessä valituksessa ollut kansalainen ei tarvinnut esseetä digitaalisesta muutoksesta. Hän tarvitsi tietää, miksi päätös tehtiin, tehtiinkö se oikean säännön mukaisesti, oliko tieto oikein ja mitä nyt voitaisiin tehdä. Tämä ei ole erikoinen vaatimus. Se on perusarvo, joka liittyy hallinnollisen järjestelmän alaisena olemiseen. Päätökset tarvitsevat versionhistorian, koska ihmiset elävät päätösten kanssa sen jälkeen, kun järjestelmät ovat siirtyneet eteenpäin. Jos organisaatio ei pysty muistamaan reittiä, sen tulisi olla varovainen väittäessään, että määränpää oli perusteltu.