Miks otsused vajavad versioonilugu
Kuus kuud hilja saabunud kaebus
Otsus tundus tavaline, kui see tehti. Toetuse taotlus lükati tagasi teisipäeva hommikul, juhtumihaldur vaatas selle üle enne lõunat ja saatis kodanikule viisaka selgituse, mis päriselt piisavalt ei selgitanud. Süsteem näitas lõplikku staatust, kuupäeva, töötajat ja põhjuste koodi. See tundus halduslik, nii peidavad end paljud olulised asjad. Kuus kuud hiljem esitas kodanik kaebuse. Selleks ajaks oli poliitikat muudetud kaks korda, skoorimismudelit uuendatud, sissetulekute voog oli parandanud ühte välja ja juhtumihaldur oli läinud teise meeskonda. Kirje ütles endiselt tagasi lükatud. Organisatsioon ei teadnud enam, millist tagasilükkamist see tähendas.
Kõik nägid tulemust. Keegi ei suutnud otsust rekonstrueerida. Andmebaas sisaldas taotleja profiili uusimat versiooni, mitte seda, mida tol ajal kasutati. Reeglimootoril olid praegused reeglid, mitte vana künnis. Mudeliregister loetles kasutusel oleva mudeli, kuid tagasipööramise ajalugu oli puudulik. Selgituse mall oli toimetatud. Inimliku ülevaatuse märkus ütles kontrollitud, mis on julge väike sõna tulevaseks kohtuistungiks. Auditilogi näitas juurdepääsusündmusi, kuid mitte piisavalt konteksti, et mõista, miks tulemus järgnes. Kaebusest sai koosolek institutsionaalse mälu teemal ja institutsionaalset mälu esindasid kolm inimest, arvutustabel ja ühine hirmutunne.
Sellepärast vajavad otsused versioonilugu. Otsus ei ole sama mis rida staatusega. See on hetk, kus andmed, poliitika, mudeli käitumine, inimlik hinnang, töövoogude olek, õigused, tõendid ja tagajärg kohtuvad. Kui neid koostisosi ei versioneerita, suudab organisatsioon näidata, et midagi juhtus, kuid mitte seda, mis juhtus vastutuse mõttes. Logid ütlevad, et uks avati. Versioonilugu ütleb, milline ruum ukse taga oli, milline võti sobis, kes seda keeras ja miks see tee lubatud oli.
Logidest ei piisa
Logid on vajalikud. Need ütlevad meile, et sündmus toimus, millal see toimus ja sageli milline osaleja või teenus selle tekitas. Head logid on hinnalised. Kuid ainult logidest ei piisa otsuste ajaloos. Logirida, mis ütleb reegel hinnati tõeseks, on nõrk, kui reegli definitsioon on muutunud. Logi, mis märgib mudel skooris 0,71, on nõrk, kui mudeli versioon, künnis, tunnused ja kalibreerimine puuduvad. Logi, mis märgib kasutaja kinnitas, on nõrk, kui ülevaataja nägi teistsuguseid tõendeid kui hilisem kirje näitab. Sündmused ilma versioonideta on jalajäljed värskes lumes pärast seda, kui keegi on hoone ümber paigutanud.
Otsuste ajalugu vajab nii sündmust kui ka olekut. See peab jäädvustama või viitama olekule, mis tol ajal oluline oli: andmete hetktõmmis, allika värskus, reegli versioon, mudeli versioon, viiba versioon, künnis, poliitika alus, juurdepääsuõigused, järjekorra olek, ülevaataja vaade, väljund, teavitus ja järgnev tegevus. See ei pea alati kopeerima igat tükki privaatset sisu. Viited, räsid, hetktõmmised ja säilitustasemed võivad hoida jälje proportsionaalsena. Kuid süsteem peab säilitama piisavalt, et vastata vastutuse küsimusele: arvestades seda, mida tol ajal teati ja lubati, miks see otsus juhtus.
See eristus on oluline, sest paljud organisatsioonid juba omavad logisid ja eeldavad, et probleem on lahendatud. Siis saabub vaidlus ja logid osutavad süsteemidele, mis on edasi liikunud. Poliitika kirje on üle kirjutatud. Tunnus on ümber arvutatud. Indeks on ümber ehitatud. Viipa on toimetatud, sest keegi parandas sõnastust. Inimene on parandanud lähteandmeid, mis on teenusele hea ja mineviku rekonstrueerimisele kohutav, kui vana väärtus kadus. Olevik korrastab pidevalt tuba ja minevik kaotab pidevalt tõendeid.
Tarkvara on selle õppetunni juba läbi teinud
Tarkvarameeskonnad haldavad koodi versioone, sest keegi ei taha tootmisintsidenti debugida, küsides, kes neljapäevast mäletab. Versioonihaldus näitab, mis muutus, millal, kelle poolt ja sageli ka miks. See võimaldab meeskondadel muudatusi võrrelda, tagasi võtta, harutada, üle vaadata ja seostada probleemidega. See ei teinud tarkvara täiuslikuks. See muutis tarkvara vähem sõltuvaks koridoriarheoloogiast. Sama põhidistsipliin on nüüd vajalik otsuste puhul, eriti kuna otsused sõltuvad andmetorustikest, reeglitest, tehisintellekti mudelitest, inimeste töövoogudest ja tarnijatest, mis muutuvad üksteisest sõltumatult.
Analoogia on kasulik, kuid mittetäielik. Koodi versioonimine puudutab peamiselt artefakte, mis on inseneritöö kontrolli all. Otsuste ajalugu peab hõlmama rohkem muutuste liike. Taotleja sissetulekuandmeid võib parandada väline allikas. Sobivusreegel võib muutuda seaduse järgi. Mudelit võib uuendada platvormimeeskond. Viipa võib muuta operatsioonimeeskond. Ülevaataja võib lisada märkuse. Töövoog võib tagavara ajal suunata juhtumi teisiti. Tarnija võib muuta API-t. Otsus asub paljude versioonimaailmade ristumiskohas. See vajab ajalugu, mis suudab üle elada kõigi nende ebamugavuse.
See ajalugu ei tohiks olla hiiglaslik ekraanipilt kõigest. Ekraanipildid on lohutavad, sest nad näevad välja nagu tõendid, kuid sageli on need tõendikujuline tapeet. Otsuste versioonimine vajab struktureeritud viiteid: milline kirjeversioon, milline poliitikaversioon, milline mudelikoost, milline funktsioonikomplekt, milline viip, milline selgituse mall, milline ülevaataja roll, milline tõendikogum, milline teatise tekst. Inimesed võivad vajada loetavat vaadet, kuid masinad vajavad stabiilseid identifikaatoreid. Muidu muutub iga edasikaebamine kirjanduslikuks harjutuseks vanade liidesepikslite tõlgendamisel.
Reeglid muutuvad kiiremini kui mälestused
Poliitika ei ole staatiline. Maksumäärad muutuvad. Sobivuskriteeriumid muutuvad. Ohutusprotseduurid muutuvad. Kliinilised juhised muutuvad. Laenupoliitikad muutuvad. Koolitoetuse reeglid muutuvad. Pettuse indikaatorid muutuvad. Modereerimisstandardid muutuvad. Isegi kui kirjalik reegel on stabiilne, nihkub tõlgendus juhendite, koolituste, pretsedentide ja tavalise organisatsioonilise ilmastiku kaudu. Ühe versiooni all tehtud otsus võib teise all tunduda vale. See ei tähenda automaatselt, et see oli siis vale. See tähendab, et organisatsioon vajab võimalust võrrelda toonast praegusega.
Ilma versiooniloata teevad meeskonnad kaks vastandlikku viga. Nad kaitsevad vanu otsuseid praeguste reeglite alusel, mis on ebaõiglane mõjutatud isiku suhtes ja tavaliselt detailides piinlik. Või mõistavad nad vanad otsused hukka praeguste väärtuste järgi, mõistmata toona kehtinud piiranguid, mis võib olla emotsionaalselt rahuldustpakkuv, kuid tegevuse seisukohast kasutu. Versioonilugu teeb erinevuse nähtavaks. See võimaldab hindajal küsida, kas otsus järgis kehtinud reeglit, kas see reegel oli seaduslik või asjakohane ning kas hilisem muudatus peaks käivitama paranduse või tagasikutsumise.
See on eriti oluline tehisintellekti abil tehtavate töövoogude puhul, sest poliitika võib olla jaotatud formaalsete reeglite, viipade, mudeli lävendite, järjestusloogika ja inimjuhiste vahel. Mudel ei pruugi sisaldada poliitikat, kuid see võib kujundada seda, milliseid juhtumeid nähakse, kuidas tõendeid kokku võetakse ja millist varianti esimesena esitatakse. Viip võib kodeerida keeldumisreegli. Lävend võib sisuliselt otsustada, kes saab ülevaatuse. Kui neid osi ei versioneerita koos, on ametlik poliitika vaid osa otsusest. Ülejäänu on poliitika konfiguratsiooni kaudu, mis on vaikne viis inimeste valitsemiseks seda tunnistamata.
Andmete muutumine pärast otsust
Andmed ei ole fikseeritud tunnistaja. Neid parandatakse, rikastatakse, liidetakse, deduplitseeritakse, kustutatakse, klassifitseeritakse ümber, indekseeritakse uuesti ja mõnikord vaikselt üle kirjutatakse, sest migreerimisskriptil oli enesekindel pärastlõuna. Kell 09:15 tehtud otsus kasutas kell 09:15 saadaolevaid andmeid, sealhulgas vigu, puuduvaid väärtusi, aegunud vooge ja juurdepääsupiiranguid. Kui kirje muutub hiljem puhtamaks, ei suuda puhtam versioon selgitada vanemat tulemust. Süsteem vajab hetktõmmist või muutumatut viidet andmeseisundile, mis oli oluline.
See ei tähenda iga isikuandme igavest säilitamist. See oleks halb vastus, mis kannab vastutuse mütsi. Otsuste jälg võib kasutada viiteid allikaversioonidele, räsidele, pitseeritud hetktõmmistele, väljatasandi koopiatele või tõendikogumitele koos säilitusreeglitega. Disain sõltub tagajärgedest ja valdkonnast. Madala riskiga soovitus võib vajada kerget jälgitavust. Hüvitiste keeldumine, meditsiiniline triaaž, töölevõtuotsus, distsiplinaarmeede, laenukeeldumine või ohutussekkumine vajab tugevamat jälge. Mõte on proportsionaalne mälu, mitte kogumine.
Parandatud andmed tõstatavad ka teise küsimuse. Kas vanu otsuseid tuleks uuesti läbi vaadata. Kui sissetulekuvoog oli vale, siis milliseid taotlusi see mõjutas. Kui kliiniline reegel kasutas aegunud laboriväärtusi, siis milliseid hoiatusi tuleks uuesti kontrollida. Kui mudeli tunnus arvutati valest allikast, siis millised järjestused muutusid. Versioonilugu teeb tagasikutsumise võimalikuks. Ilma selleta võib organisatsioon teada, et midagi oli valesti, kuid mitte seda, keda viga puudutas. See on halb koht seismiseks, eriti kui ruumis on audiitorid.
Ka inimlik hinnang vajab ajalugu
Levinud on lohutav müüt, et inimlik osalus lahendab versioonihalduse. See ei lahenda. Ka inimlikul hinnangul on kontekst. Hindaja näeb kindlat ekraani, tõendite kogumit, järjekorra survet, juhendmärkust, riskilipu, mudeli kokkuvõtet ja saadaolevate toimingute hulka. Kui need elemendid hiljem muutuvad, räägib Jane'i heakskiidetud märkus meile väga vähe. Mida Jane nägi. Mis oli varjatud. Mida sai ta muuta. Kui palju aega tal oli. Kas eriarvamus oli võimalik. Kas liides muutis ühe valiku teisest lihtsamaks. Inimlik järelevalve ilma ajaloota muutub allkirjaks liikuval dokumendil.
Inimliku ülevaatuse versioonihaldus ei puuduta hindajate süüdistamist. See puudutab nii mõjutatud isiku kui ka hindaja kaitsmist. Juhtumitöötlejalt ei tohiks kuude pärast nõuda otsuse kaitsmist mälust, kui süsteem suudab asjakohase vaate säilitada. Arst ei peaks rekonstrueerima, milline hoiatuse läviväärtus oli aktiivne. Moderaator ei peaks selgitama vana jõustamistoimingut pärast seda, kui poliitika silt on muutunud. Juht ei peaks otsustama, kas ülekirjutamine oli mõistlik, ilma et ta teaks tol ajal saadaolevaid tõendeid. Mälu on kasulik. See ei tohiks olla auditite andmebaas.
Ajalugu peaks salvestama ülevaatuse konteksti, mitte iga privaatset mõtet. See võib jäädvustada näidatud tõendid, välja jäetud tõendid, põhjusekoodid, saadaolevad toimingud, ülekirjutamise valiku, ajakasti, järjekorra oleku ja eskaleerimise tee. See võib toetada narratiivseid märkmeid, säilitades samal ajal struktureeritud väljad analüüsiks. See võib eraldada tundliku sisu püsivatest viidetest. Eesmärk on muuta hinnang kontrollitavaks ilma inimesi järelevalve subjektideks muutmata. See tasakaal on keeruline, mistõttu tuleb see kavandada, mitte improviseerida pärast kaebuse saabumist.
AI tõstab unustamise hinda
AI-toega otsused tõstavad puuduva ajaloo hinda, sest süsteem võib käitumist muuta mitmel viisil. Mudeli uuendus võib muuta järjestusi. Indeksi taastamine võib muuta seda, millised tõendid kuvatakse. Viiba muudatus võib muuta seda, kuidas ebakindlust väljendatakse. Läviväärtuse kohandamine võib liigutada juhtumeid automaatselt heakskiidult ülevaatusele. Kalibreerimise muudatus võib muuta sama skoori tähendust. Ohutusfilter võib blokeerida teabe, mida varem näidati. Iga muudatus võib olla mõistlik. Koos muudavad need mineviku hapraks, kui versioone ei seota otsustega.
Selgitused on eriti haavatavad. Loodud selgitus võib kõlada täpsena, olles samal ajal tegelikust otsustustee lahti ühendatud. Kui süsteem genereerib selgituse hiljem, kasutades praeguseid reegleid ja praeguseid andmeid, võib see toota poleeritud valemälu. See on hullem kui selgituse puudumine, sest see kutsub esile usalduse rekonstruktsiooni vastu. Otsuste ajalugu peaks eraldama kaasaegsed põhjused hilisemast analüüsist. Hilisem selgitus võib aidata ülevaatajat, kuid see peab olema märgistatud hilisemana. Aeg loeb. See on vahe tõendusmaterjali ja kommentaari vahel.
Ka mudeli enesekindlus vajab ajalugu. Skoor 0.82 ei räägi enda eest. Milline mudel selle tootis. Milliste tunnuste põhjal. Millise kalibreerimise all. Millise lävega. Millise populatsiooni vastu. Kas mudelit kasutati nõuande, triaaži, järjestuse või otsuse sisendina. Kas inimene seda nägi. Kas ebakindlus oli näidatud. Kas mudelil oli teadaolevaid nõrkusi selle alarühma või keele puhul. Kui need üksikasjad kaovad, jääb organisatsioonile number ja kaob tähendus. Numbrid ilma kontekstita oskavad üllatavalt hästi teeselda, et nad on faktid.
Edasikaebamine on disaininõue
Otsus, mida praktikas edasi kaevata ei saa, ei ole lihtsalt tõhus. See on habras. Edasikaebamine ei tähenda alati kohut. See võib tähendada kasutaja parandust, juhi ülevaadet, patsiendi küsimust, õpilase vaidlustust, kliendi kaebust, sisemist juhtumit või regulaatori valimit. Asi on selles, et olulised otsused peaksid ootama tulevast järelevalvet. Edasikaebamiseks kujundamine muudab arhitektuuri. Süsteem peab säilitama asjakohased versioonid, avaldama need volitatud ülevaatajatele, toetama parandusi ja ühendama õiguskaitsevahendid mõjutatud allavoolu toimingutega.
See ei ole automatiseerimise vastu. See on tingimus, mille korral automatiseerimine jääb legitiimseks. Automatiseeritud ja AI-toega süsteemid saavad hakkama mahu, järjepidevuse ja kiirusega. Kuid kui need mõjutavad inimesi, peavad nad toetama ka eriarvamust. Eriarvamus vajab jälge. Mitte maksimaalset arhiivi, mitte iga baiti igavesti, vaid piisavalt ajalugu, et keegi teine peale algse süsteemi saaks aru ja vajadusel tulemust muuta. Muidu muutub tõhusus lukustatud ukseks, mille ees on viisakas chatbot.
Edasikaebamise disain parandab ka tavalist tegevust. See aitab toel küsimustele vastata. See aitab juhtidel nõrku reegleid avastada. See aitab inseneridel juhtumeid taasesitada. See aitab poliitikameeskondadel näha, kas juhised töötavad. See aitab audiitoritel reaalseid juhtumeid valimisse võtta. See aitab organisatsioonidel parandada otsuste rühmi, kui komponent ebaõnnestub. Süsteem, mis on ehitatud edasikaebamiseks, on tavaliselt süsteem, mis on ehitatud õppimiseks. Vastupidine ei ole garanteeritud. Paljud kiirusele ehitatud süsteemid õpivad ainult seda, kuidas olla unustamises kiiremad.
Mälu ilma kogumiseta
Otsustusloo küsimine on tõeline risk. Organisatsioonid võivad vastata sellele, et hoiavad kõike alles. Iga dokument, ekraanipilt, funktsioon, viip, logi, salvestis, meil, järjekorraüksus ja eksport säilitatakse igavesti, sest vastutus kõlab tähtsalt ja salvestusruum on odav, kuni see enam ei ole. See ei ole hea valitsemistava. See on tuleohutuse lahendamise digitaalne vaste, kus iga koridor täidetakse toimikukappidega. Ajalugu peaks olema proportsionaalne, struktureeritud ja eesmärgipärane.
Õige mälu sõltub tagajärgedest. Mõned otsused vajavad täielikku taasesitust: lähtekoodi hetktõmmis, reegli versioon, mudeli versioon, hindaja vaade ja teavitus. Teised vajavad räsikviitungit, kompaktset tõendikogumit või koondatud auditijälge. Osa sisust peaks aeguma, samas kui kustutamise fakt jääb alles. Mõnele tundlikule väljale tuleks viidata, mitte neid kopeerida. Osa tõendeid tuleks apellatsiooni jaoks pitseerida ja tavapersonalile kättesaamatuks jätta. Mõnda mudeli artefakti tuleks säilitada võrdluseks, kuid mitte laialdaselt avalikustada. Versiooniajalugu ei ole vabandus andmete minimeerimise ignoreerimiseks. See on koht, kus minimeerimine muutub täpsemaks.
Seetõttu kuuluvad säilituspoliitika ja otsuse kujundus kokku. Otsusekanne peaks deklareerima, mida tuleb säilitada, miks, kui kaua, kellel on juurdepääs, kuidas see toetab apellatsiooni ning kuidas see hiljem hävitatakse või anonüümiseeritakse. Kanne ei tohiks olla soo. See peaks olema kviitung piisavate lisadega, et tehingut tõendada. Kviitungid on igavad. See on nende anne. Keegi ei taha filosoofilist vaidlust kviitungiga, kui raamatupidaja küsib, mis juhtus.
Mis muutub, kui ajalugu on olemas
Kui otsustel on versiooniajalugu, muutub organisatsioon surve all rahulikumaks. See suudab apellatsioonile tõenditega vastata. See suudab eristada halba reeglit reegli halvast rakendamisest. See suudab tuvastada, milliseid juhtumeid mõjutas andmeparandus või mudeliuuendus. See suudab näidata, kas inimjärelevalve oli tegelik. See suudab võrrelda tulemusi poliitikaversioonide lõikes. See suudab lõpetada nõrgad tavad, teeskluseta, et minevikku pole kunagi olnud. See suudab vigu täpsemalt tunnistada, mis on alahinnatud, sest ebamäärased vabandused parandavad süsteeme harva.
Versiooniajalugu muudab ka sisemist käitumist. Inimesed teevad paremaid muudatusi, kui nad teavad, et muudatused on nähtavad. Poliitikameeskonnad kirjutavad selgemaid väljalaske märkmeid. Mudelimeeskonnad kinnitavad artefaktid. Operatsioonimeeskonnad mõtlevad enne mallide redigeerimist. Tootemeeskonnad käsitlevad selgitusteksti otsuse osana, mitte ainult suhtluse kaunistusena. Juhid tunnevad vähem kiusatust lahendada juhtimist juhtpaneeliga, sest jälg peab vastu pidama tõelisele küsimusele. Organisatsioon õpib, et otsused ei ole hetked. Need on püsivad objektid elutsükliga.
Kodanik hilinenud kaebuses ei vajanud esseed digitaalsest ümberkujundamisest. Nad pidid teadma, miks otsus tehti, kas see tehti õige reegli alusel, kas andmed olid õiged ja mida saaks nüüd teha. See ei ole eksootiline nõudmine. See on haldussüsteemi alla kuulumise põhiline väärikus. Otsused vajavad versiooniajalugu, sest inimesed elavad otsustega ka pärast seda, kui süsteemid on edasi liikunud. Kui organisatsioon ei suuda teed meeles pidada, peaks ta olema ettevaatlik väites, et sihtkoht oli õigustatud.