Zakaj se odločitve potrebujejo zgodovino različic
Pritožba, ki je prispela šest mesecev prepozno
Odločitev je bila ob sprejetju videti običajna. Vloga za prejemke je bila zavrnjena v torek zjutraj, pregledal jo je referent pred kosilom in državljanu je bilo poslano vljudno pojasnilo, ki ni čisto pojasnilo dovolj. Sistem je prikazal končni status, datum, uslužbenca in kodo razloga. Videti je bilo administrativno, kar je pogosto način, kako se skrivajo pomembne stvari. Šest mesecev pozneje se je državljan pritožil. Do takrat se je politika spremenila dvakrat, model točkovanja je bil posodobljen, vir dohodkov je popravil polje, referent pa se je preselil v drugo ekipo. Zapis je še vedno kazal zavrnjeno. Organizacija ni več vedela, katero zavrnitev pomeni.
Vsi so lahko videli izid. Nihče ni mogel rekonstruirati odločitve. Podatkovna zbirka je vsebovala najnovejšo različico profila vlagatelja, ne različice, uporabljene v tistem času. Pravilni mehanizem je imel trenutna pravila, ne starega praga. Register modelov je navajal nameščeni model, vendar je bila zgodovina vračanja nepopolna. Predloga pojasnila je bila urejena. Opomba o človeškem pregledu je navajala preverjeno, kar je pogumna beseda za prihodnjo obravnavo. Revizijski dnevnik je prikazoval dogodke dostopa, vendar ne dovolj konteksta za razumevanje, zakaj je sledil rezultat. Pritožba je postala sestanek o institucionalnem spominu, institucionalni spomin pa so predstavljali trije ljudje, preglednica in skupni občutek tesnobe.
Zato odločitve potrebujejo zgodovino različic. Odločitev ni enaka vrstici s statusom. Je trenutek, kjer se srečajo podatki, politika, vedenje modela, človeška presoja, stanje delovnega toka, dovoljenja, dokazi in posledice. Če te sestavine niso različicene, lahko organizacija pokaže, da se je nekaj zgodilo, ne pa tudi, kaj se je zgodilo v smislu odgovornosti. Dnevniki pravijo, da so se vrata odprla. Zgodovina različic pove, katera soba je obstajala za vrati, kateri ključ je bil sprejet, kdo ga je obrnil in zakaj je bila pot dovoljena.
Dnevniki niso dovolj
Dnevniki so potrebni. Povedo nam, da se je dogodek zgodil, kdaj se je zgodil in pogosto kateri akter ali storitev ga je ustvaril. Dobri dnevniki so dragoceni. Toda dnevniki sami niso zgodovina odločitev. Vrstica dnevnika, ki pravi, da je bilo pravilo ocenjeno kot resnično, je šibka, če se je definicija pravila spremenila. Dnevnik, ki beleži, da je model dosegel 0,71, je šibek, če manjkajo različica modela, prag, značilke in umerjanje. Dnevnik, ki beleži, da je uporabnik odobril, je šibek, če je pregledovalec videl drugačne dokaze, kot jih prikazuje poznejši zapis. Dogodki brez različic so odtisi v svežem snegu, potem ko je nekdo preuredil stavbo.
Zgodovina odločitev potrebuje tako dogodek kot stanje. Zajeti ali sklicevati se mora na stanje, ki je bilo takrat pomembno: posnetek podatkov, svežino vira, različico pravil, različico modela, različico poziva, prag, podlago politike, pravice dostopa, stanje čakalne vrste, pogled pregledovalca, izhod, obvestilo in nadaljnje dejanje. Ni treba vedno kopirati vsakega dela zasebne vsebine. Sklicevanja, zgoščene vrednosti, posnetki in stopnje hrambe lahko ohranijo sled sorazmerno. Toda sistem mora ohraniti dovolj za odgovor na vprašanje odgovornosti: glede na to, kaj je bilo takrat znano in dovoljeno, zakaj je prišlo do te odločitve.
To razlikovanje je pomembno, ker imajo številne organizacije že dnevnike in domnevajo, da je problem rešen. Nato pride spor in dnevniki kažejo na sisteme, ki so se premaknili naprej. Zapis politike je bil prepisan. Značilka je bila preračunana. Indeks je bil obnovljen. Poziv je bil urejen, ker je nekdo izboljšal besedilo. Nekdo je popravil izvorne podatke, kar je dobro za storitev in slabo za rekonstrukcijo preteklosti, če je stara vrednost izginila. Sedanjost še naprej pospravlja sobo, preteklost pa še naprej izgublja dokaze.
Programska oprema se je te lekcije že naučila
Programske ekipe različicirajo kodo, ker nihče noče odpravljati napak v produkciji tako, da sprašuje, kdo se še spomni četrtka. Nadzor različic nam pove, kaj se je spremenilo, kdaj, kdo je to storil in pogosto tudi zakaj. Ekipam omogoča primerjavo, vračanje, vejitve, preglede in povezovanje sprememb z zadevami. To programske opreme ni naredilo popolne. Naredilo jo je manj odvisno od arheologije po hodnikih. Enaka osnovna disciplina je zdaj potrebna za odločitve, zlasti ker so odločitve odvisne od podatkovnih cevovodov, pravil, modelov umetne inteligence, človeških delovnih tokov in dobaviteljev, ki se spreminjajo neodvisno.
Analogija je uporabna, a nepopolna. Različicenje kode se večinoma nanaša na artefakte pod nadzorom inženiringa. Zgodovina odločitev mora zajeti več vrst sprememb. Podatke o dohodku prosilca lahko popravi zunanji vir. Pravilo o upravičenosti se lahko spremeni z zakonom. Model lahko posodobi platformna ekipa. Poziv lahko spremeni operativa. Pregledovalec lahko doda opombo. Delovni tok lahko med zaostankom usmeri zadevo drugače. Dobavitelj lahko spremeni vmesnik API. Odločitev leži na presečišču mnogih različicenih svetov. Potrebuje zgodovino, ki lahko preživi to, da so vsi ti svetovi nepriročni.
Ta zgodovina ne bi smela biti velikanski posnetek zaslona vsega. Posnetki zaslona so pomirjujoči, ker so videti kot dokazi, a so pogosto tapeta v obliki dokazov. Različicenje odločitev potrebuje strukturirane sklice: katera različica zapisa, katera različica pravilnika, katera zgradba modela, kateri nabor funkcij, kateri poziv, katera predloga pojasnila, katera vloga pregledovalca, kateri sveženj dokazil, katero obvestilo. Ljudje morda potrebujejo berljiv pogled, stroji pa potrebujejo stabilne identifikatorje. V nasprotnem primeru vsaka pritožba postane literarna vaja v razlaganju starih slikovnih pik vmesnika.
Pravila se spreminjajo hitreje kot spomini
Politika ni statična. Davčni pragovi se spreminjajo. Merila za upravičenost se spreminjajo. Varnostni postopki se spreminjajo. Klinične smernice se spreminjajo. Posojilne politike se spreminjajo. Pravila šolske podpore se spreminjajo. Kazalniki goljufij se spreminjajo. Standardi moderiranja se spreminjajo. Tudi ko je pisno pravilo stabilno, se razlaga spreminja skozi smernice, usposabljanje, precedense in običajno organizacijsko vreme. Odločitev, sprejeta v skladu z eno različico, je lahko videti napačna v skladu z drugo. To ne pomeni samodejno, da je bila takrat napačna. Pomeni, da organizacija potrebuje zmožnost primerjave takrat s sedaj.
Brez zgodovine različic ekipe delajo dve nasprotni napaki. Stare odločitve branijo s trenutnimi pravili, kar je nepošteno do prizadete osebe in običajno v podrobnostih nerodno. Ali pa stare odločitve obsojajo s trenutnimi merili, ne da bi razumele omejitve, ki so veljale takrat, kar je lahko čustveno zadovoljivo, a operativno neuporabno. Zgodovina različic razliko naredi vidno. Ocenjevalcu omogoči, da vpraša, ali je odločitev sledila pravilu, ki je veljalo, ali je bilo to pravilo zakonito in primerno ter ali bi morala poznejša sprememba sprožiti popravek ali umik.
To je še posebej pomembno pri delovnih tokovih, ki jih podpira umetna inteligenca, ker so lahko politike razpršene po formalnih pravilih, pozivih, pragovih modelov, logiki razvrščanja in človeških navodilih. Model morda ne vsebuje politike, lahko pa vpliva na to, kateri primeri so obravnavani, kako so dokazi povzeti in katera možnost je predstavljena prva. Poziv lahko vsebuje pravilo zavrnitve. Prag lahko dejansko odloča o tem, kdo dobi pregled. Če ti deli niso različiceni skupaj, je uradna politika le del odločitve. Preostanek je politika prek konfiguracije, kar je tih način upravljanja ljudi, ne da bi to priznali.
Spremembe podatkov po odločitvi
Podatki niso fiksna priča. Popravljajo se, bogatijo, združujejo, razduplicirajo, brišejo, preklasificirajo, ponovno indeksirajo in včasih tiho prepišejo, ker je imela migracijska skripta samozavesten popoldan. Odločitev, sprejeta ob 09:15, je uporabila podatke, ki so bili na voljo ob 09:15, vključno z napakami, manjkajočimi vrednostmi, zastarelimi viri in omejitvami dostopa. Če zapis pozneje postane čistejši, čistejša različica ne more pojasniti starejšega izida. Sistem potrebuje posnetek ali nespremenljivo referenco na stanje podatkov, ki je bilo pomembno.
To ne pomeni, da je treba vsako osebno podrobnost hraniti za vedno. To bi bil slab odgovor, ki nosi klobuk odgovornosti. Sled odločanja lahko uporablja sklice na različice virov, zgoščene vrednosti, zapečatene posnetke, kopije na ravni polj ali svežnje dokazov s pravili hrambe. Zasnova je odvisna od posledic in področja. Priporočilo z nizkim tveganjem lahko potrebuje lahko sledljivost. Zavrnitev ugodnosti, zdravstvena triaža, kadrovska odločitev, disciplinski ukrep, zavrnitev posojila ali varnostni poseg potrebujejo močnejšo sled. Bistvo je sorazmeren spomin, ne kopičenje.
Popravljeni podatki odpirajo tudi drugo vprašanje. Ali je treba stare odločitve ponovno pregledati. Če je bil vir dohodka napačen, kateri obrazci so bili prizadeti. Če je klinično pravilo uporabljalo zastarele laboratorijske vrednosti, katere alarme je treba ponovno preveriti. Če je bila značilnost modela izračunana iz napačnega vira, katere razvrstitve so se spremenile. Zgodovina različic omogoča umik. Brez nje organizacija morda ve, da je bilo nekaj narobe, ne ve pa, koga je napačnost prizadela. To je slab položaj, še posebej, ko so v prostoru revizorji.
Človeška presoja potrebuje tudi zgodovino
Obstaja pomirjujoč mit, da človeška vpletenost reši vprašanje različic. Ne reši je. Tudi človeška presoja ima svoj kontekst. Pregledovalec vidi določen zaslon, sveženj dokazov, pritisk v čakalni vrsti, opombo z navodili, oznako tveganja, povzetek modela in nabor razpoložljivih dejanj. Če se ti elementi pozneje spremenijo, nam opomba, ki jo je odobrila Jane, pove zelo malo. Kaj je Jane videla. Kaj je bilo skrito. Kaj je lahko spremenila. Koliko časa je imela. Ali je bilo nestrinjanje mogoče. Ali je vmesnik eno možnost naredil lažjo od druge. Človeški nadzor brez zgodovine postane podpis na dokumentu, ki se spreminja.
Različice človeškega pregleda ne obstajajo zato, da bi krivili pregledovalce. Gre za zaščito tako prizadete osebe kot osebe, ki pregleduje. Delavec za obravnavo zadev mesece pozneje ne bi smel biti zaprošen, naj iz spomina zagovarja odločitev, ko sistem lahko ohrani ustrezen pogled. Zdravnik ne bi smel rekonstruirati, kateri prag opozorila je bil aktiven. Moderator ne bi smel pojasnjevati starega ukrepa, potem ko se je oznaka pravilnika spremenila. Vodja ne bi smel presojati, ali je bila preglasitev smiselna, ne da bi poznal dokaze, ki so bili takrat na voljo. Spomin je uporaben. Ne bi smel biti revizijska zbirka podatkov.
Zgodovina bi morala beležiti kontekst pregleda, ne vsake zasebne misli. Zajame lahko prikazane dokaze, izpuščene dokaze, kode razlogov, razpoložljiva dejanja, izbiro preglasitve, časovno okno, stanje čakalne vrste in pot eskalacije. Podpira lahko pripovedne opombe, hkrati pa ohranja strukturirana polja za analizo. Občutljivo vsebino lahko loči od trajnih sklicev. Namen je narediti presojo preverljivo, ne da bi ljudi spremenili v predmete nadzora. To ravnotežje je težko, zato ga je treba načrtovati, ne improvizirati po pritožbi.
UI dviguje ceno pozabljanja
Odločitve, podprte z UI, dvigujejo ceno manjkajoče zgodovine, ker lahko sistem spremeni vedenje na več načinov. Posodobitev modela lahko spremeni razvrščanje. Ponovna izgradnja indeksa iskanja lahko spremeni, kateri dokazi se pojavijo. Urejanje poziva lahko spremeni, kako je izražena negotovost. Prilagoditev praga lahko premakne zadeve iz samodejne odobritve v pregled. Sprememba umerjanja lahko pomeni, da enak rezultat pomeni nekaj drugega. Varnostni filter lahko blokira informacije, ki so bile prej prikazane. Vsaka sprememba je lahko smiselna. Skupaj naredijo preteklost krhko, če različice niso povezane z odločitvami.
Pojasnila so še posebej ranljiva. Ustvarjeno pojasnilo lahko zveni natančno, a je hkrati ločeno od dejanske poti odločanja. Če sistem pozneje ustvari pojasnilo z uporabo trenutnih pravil in trenutnih podatkov, lahko nastane lepo oblikovan lažni spomin. To je slabše, kot če pojasnila sploh ni, saj vzbuja zaupanje v rekonstrukcijo. Zgodovina odločanja mora ločevati sočasne razloge od poznejših analiz. Poznejše pojasnilo lahko pomaga pregledovalcu, vendar mora biti označeno kot poznejše. Čas je pomemben. Je razlika med dokazom in komentarjem.
Zaupanje modela prav tako potrebuje zgodovino. Ocena 0,82 ni samoumevna. Kateri model jo je ustvaril. Na podlagi katerih značilnosti. Pod kakšno kalibracijo. S katerim pragom. Na kateri populaciji. Ali je bil model uporabljen kot nasvet, triaža, razvrščanje ali vhod v odločitev. Ali jo je videl človek. Ali je bila prikazana negotovost. Ali je imel model znane pomanjkljivosti za to podskupino ali jezik. Če ti podatki izginejo, organizacija obdrži številko in izgubi pomen. Številke brez konteksta so presenetljivo dobre pri pretvarjanju, da so dejstva.
Pritožba je oblikovalska zahteva
Odločitev, ki je v praksi ni mogoče izpodbijati, ni zgolj učinkovita. Je krhka. Pritožba ne pomeni vedno sodišča. Lahko pomeni popravek uporabnika, pregled nadrejenega, vprašanje pacienta, ugovor študenta, pritožbo stranke, notranji incident ali vzorec regulatorja. Bistvo je, da je treba pri pomembnih odločitvah pričakovati prihodnji nadzor. Oblikovanje za pritožbo spremeni arhitekturo. Sistem mora hraniti ustrezne različice, jih omogočiti pooblaščenim pregledovalcem, podpirati popravke in povezati rešitve s prizadetimi nadaljnjimi dejanji.
To ni proti avtomatizaciji. To je pogoj, pod katerim avtomatizacija ostaja legitimna. Avtomatizirani sistemi in sistemi z umetno inteligenco lahko obvladajo obseg, doslednost in hitrost. Toda ko vplivajo na ljudi, morajo podpirati tudi nestrinjanje. Nestrinjanje potrebuje sled. Ne največji arhiv, ne vsak bajt za vedno, ampak dovolj zgodovine, da jo lahko razume nekdo, ki ni prvotni sistem, in po potrebi spremeni izid. V nasprotnem primeru učinkovitost postane zaklenjena vrata s prijaznim klepetalnim robotom zunaj.
Oblikovanje za pritožbe izboljšuje tudi običajno delovanje. Pomaga podpori odgovarjati na vprašanja. Pomaga vodjem odkriti šibka pravila. Pomaga inženirjem reproducirati incidente. Pomaga skupinam za politike videti, ali smernice delujejo. Pomaga revizorjem vzorčiti resnične primere. Pomaga organizacijam popraviti skupine odločitev, ko komponenta odpove. Sistem, zgrajen za pritožbe, je običajno sistem, zgrajen za učenje. Obratno ni zagotovljeno. Mnogi sistemi, zgrajeni za hitrost, se naučijo le, kako biti hitrejši pri pozabljanju.
Spomin brez kopičenja
Pri zahtevanju zgodovine odločitev obstaja resnično tveganje. Organizacije se lahko odzovejo tako, da hranijo vse. Vsak dokument, posnetek zaslona, funkcija, poziv, dnevnik, posnetek, e-poštno sporočilo, element čakalne vrste in izvoz se hrani za vedno, ker je odgovornost videti pomembna in ker je shranjevanje poceni, dokler ni. To ni dobro upravljanje. To je digitalni ekvivalent reševanja požarne varnosti tako, da vsak hodnik napolnite z arhivskimi omarami. Zgodovina mora biti sorazmerna, strukturirana in namenska.
Pravi spomin je odvisen od posledic. Nekatere odločitve potrebujejo popolno ponovitev: posnetek izvorne kode, različico pravil, različico modela, pogled pregledovalca in obvestilo. Druge potrebujejo zgoščeni zapis, strnjen dokazni sveženj ali zbirno revizijsko sled. Nekatere vsebine naj potečejo, medtem ko dejstvo o izbrisu ostane. Na nekatere občutljive polja se je treba sklicevati, ne pa jih kopirati. Nekateri dokazi naj bodo zapečateni za pritožbo in nedostopni navadnemu osebju. Nekatere artefakte modelov je treba hraniti za primerjavo, vendar ne široko izpostavljati. Zgodovina različic ni izgovor za zanemarjanje minimizacije. Je prostor, kjer minimizacija postane natančnejša.
Zato politika hrambe in načrtovanje odločitev spadata skupaj. Zapis odločitve mora navajati, kaj je treba hraniti, zakaj, kako dolgo, kdo ima dostop, kako podpira pritožbo ter kako bo pozneje uničen ali anonimiziran. Zapis ne sme biti močvirje. Biti mora potrdilo z dovolj prilogami, da dokaže transakcijo. Potrdila so dolgočasna. To je njihova prednost. Nihče si ne želi filozofske razprave s potrdilom, ko računovodja vpraša, kaj se je zgodilo.
Kaj se spremeni, ko zgodovina obstaja
Ko imajo odločitve zgodovino različic, organizacija pod pritiskom postane mirnejša. Na pritožbo lahko odgovori z dokazi. Loči lahko slabo pravilo od slabe uporabe pravila. Prepozna lahko, katere primere je prizadel popravek podatkov ali posodobitev modela. Pokaže lahko, ali je bil človeški nadzor resničen. Primerja lahko izide med različicami politik. Umakne lahko slabe prakse, ne da bi se pretvarjala, da preteklosti ni bilo. Napake lahko prizna natančneje, kar je podcenjeno, ker nejasna opravičila redko popravijo sisteme.
Zgodovina različic spreminja tudi notranje vedenje. Ljudje sprejemajo boljše odločitve, ko vedo, da so njihove spremembe vidne. Ekipe za politike pišejo jasnejša poročila o izdajah. Ekipe za modele pripnejo artefakte. Operativne ekipe premislijo, preden uredijo predloge. Produktne ekipe obravnavajo pojasnjevalno besedilo kot del odločitve, ne le kot okras za sporočanje. Vodje so manj v skušnjavi, da bi upravljanje reševali z nadzorno ploščo, ker mora sled preživeti resnično vprašanje. Organizacija se nauči, da odločitve niso trenutki. So trajni objekti z življenjskim ciklom.
Državljan v poznem ugovoru ni potreboval eseja o digitalni preobrazbi. Moral je vedeti, zakaj je bila odločitev sprejeta, ali je bila sprejeta v skladu s pravilnim pravilom, ali so bili podatki pravilni in kaj je mogoče storiti zdaj. To ni nenavadna zahteva. To je osnovno dostojanstvo biti podvržen upravnemu sistemu. Odločitve potrebujejo zgodovino različic, ker ljudje živijo z odločitvami, potem ko sistemi napredujejo. Če si organizacija ne more zapomniti poti, bi morala biti previdna pri trditvi, da je bil cilj upravičen.