Prečo rozhodnutia potrebujú históriu verzií
Odvolanie, ktoré prišlo s polročným oneskorením
Rozhodnutie vyzeralo v čase svojho vzniku obyčajne. Žiadosť o dávku bola zamietnutá v utorok ráno, pracovník ju preskúmal pred obedom a občanovi odoslal zdvorilé vysvetlenie, ktoré celkom nevysvetlilo všetko. Systém zobrazoval konečný stav, dátum, zamestnanca a kód dôvodu. Vyzeralo to administratívne, čo je spôsob, akým sa skrýva mnoho závažných vecí. O šesť mesiacov neskôr sa občan odvolal. Vtedy sa politika už dvakrát zmenila, skórovací model bol aktualizovaný, dátový kanál o príjmoch opravil pole a pracovník prešiel na iný tím. Záznam stále hovoril zamietnuté. Organizácia už nevedela, ktoré zamietnutie sa tým myslelo.
Výsledok videl každý. Rozhodnutie nevedel zrekonštruovať nikto. Databáza obsahovala najnovšiu verziu profilu žiadateľa, nie verziu použitú v danom čase. Pravidlový engine mal aktuálne pravidlá, nie starý prah. Register modelov uvádzal nasadený model, ale história rollbackov bola neúplná. Šablóna vysvetlenia bola upravená. Poznámka z ľudského preskúmania hovorila skontrolované, čo je statočné malé slovo pre budúce pojednávanie. Auditný log zobrazoval udalosti prístupu, ale nie dostatok kontextu na pochopenie, prečo nasledoval daný výsledok. Z odvolania sa stalo stretnutie o inštitucionálnej pamäti a inštitucionálnu pamäť zastupovali traja ľudia, tabuľka a spoločný pocit obáv.
To je dôvod, prečo rozhodnutia potrebujú históriu verzií. Rozhodnutie nie je to isté ako riadok so stavom. Je to moment, v ktorom sa stretávajú dáta, politika, správanie modelu, ľudský úsudok, stav pracovného toku, oprávnenia, dôkazy a dôsledok. Ak tieto zložky nie sú verzované, organizácia môže preukázať, že sa niečo stalo, ale nie to, čo sa stalo v zmysle zodpovednosti. Logy hovoria, že sa otvorili dvere. História verzií hovorí, ktorá miestnosť existovala za dverami, ktorý kľúč bol prijatý, kto ním otočil a prečo bola trasa povolená.
Logy nestačia
Logy sú nevyhnutné. Hovoria nám, že udalosť nastala, kedy nastala a často aj to, ktorý aktér alebo služba ju vytvorila. Dobré logy sú vzácne. Ale samotné logy nie sú históriou rozhodnutí. Riadok logu, ktorý hovorí pravidlo vyhodnotené ako pravdivé, je slabý, ak sa definícia pravidla zmenila. Log, ktorý zaznamenáva model dosiahol skóre 0,71, je slabý, ak chýbajú verzia modelu, prah, vlastnosti a kalibrácia. Log, ktorý zaznamenáva používateľ schválil, je slabý, ak recenzent videl iné dôkazy, než ukazuje neskorší záznam. Udalosti bez verzií sú stopy v čerstvom snehu po tom, čo niekto prestaval budovu.
História rozhodnutí potrebuje udalosť aj stav. Musí zachytiť alebo odkazovať na stav, ktorý bol v danom čase relevantný: snímku dát, aktuálnosť zdroja, verziu pravidla, verziu modelu, verziu promptu, prah, politický základ, prístupové práva, stav frontu, pohľad recenzenta, výstup, oznámenie a následnú akciu. Nie vždy je potrebné kopírovať každý kus súkromného obsahu. Odkazy, hashe, snímky a úrovne uchovávania môžu udržať stopu primeranú. Systém však musí zachovať dosť na zodpovedanie otázky zodpovednosti: vzhľadom na to, čo bolo vtedy známe a povolené, prečo k tomuto rozhodnutiu došlo.
Tento rozdiel je dôležitý, pretože mnohé organizácie už logy majú a predpokladajú, že problém je vyriešený. Potom príde spor a logy ukazujú na systémy, ktoré sa posunuli ďalej. Záznam politiky bol prepísaný. Vlastnosť bola prepočítaná. Index bol prestavaný. Prompt bol upravený, pretože niekto zlepšil formuláciu. Osoba opravila zdrojové dáta, čo je dobré pre službu a hrozné pre rekonštrukciu minulosti, ak stará hodnota zmizla. Prítomnosť neustále upratuje miestnosť a minulosť neustále stráca dôkazy.
Softvér sa to už naučil
Softvérové tímy verzujú kód, pretože nikto nechce riešiť incident v produkcii otázkou, kto si pamätá štvrtok. Verzovanie nám hovorí, čo sa zmenilo, kedy, kto to zmenil a často aj prečo. Umožňuje tímom porovnávať, vracať sa, vetviť, kontrolovať a prepájať zmeny s problémami. Neurobilo to softvér dokonalým. Urobilo ho menej závislým od archeológie chodieb. Rovnaká základná disciplína je teraz potrebná pre rozhodnutia, najmä keď rozhodnutia závisia od dátových potrubí, pravidiel, modelov umelej inteligencie, ľudských pracovných postupov a dodávateľov, ktorí sa menia nezávisle.
Analógia je užitočná, ale neúplná. Verzovanie kódu sa týka najmä artefaktov pod kontrolou inžinierov. História rozhodnutí musí pokryť viac druhov zmien. Príjmové údaje žiadateľa môže opraviť externý zdroj. Pravidlo oprávnenosti sa môže zmeniť zákonom. Model môže aktualizovať platformový tím. Prompt môže zmeniť prevádzka. Recenzent môže pridať poznámku. Pracovný postup môže počas backlogu smerovať prípad inak. Dodávateľ môže zmeniť API. Rozhodnutie stojí na priesečníku mnohých verzovaných svetov. Potrebuje históriu, ktorá prežije to, že všetky sú nepohodlné.
Táto história by nemala byť obrovským snímkom všetkého. Snímky upokojujú, pretože vyzerajú ako dôkaz, ale často sú to tapety v tvare dôkazu. Verzovanie rozhodnutí potrebuje štruktúrované odkazy: ktorá verzia záznamu, ktorá verzia politiky, ktorý build modelu, ktorá sada funkcií, ktorý prompt, ktorá šablóna vysvetlenia, ktorá rola recenzenta, ktorý balík dôkazov, ktorý text oznámenia. Ľudia môžu potrebovať čitateľný pohľad, ale stroje potrebujú stabilné identifikátory. Inak sa každé odvolanie stane literárnym cvičením v interpretácii starých pixelov rozhrania.
Pravidlá sa menia rýchlejšie ako spomienky
Politika nie je statická. Daňové limity sa menia. Kritériá oprávnenosti sa menia. Bezpečnostné postupy sa menia. Klinické usmernenia sa menia. Úverové politiky sa menia. Pravidlá školskej podpory sa menia. Indikátory podvodov sa menia. Štandardy moderovania sa menia. Aj keď je písané pravidlo stabilné, interpretácia sa posúva cez usmernenia, školenia, precedensy a bežné organizačné počasie. Rozhodnutie prijaté pod jednou verziou môže vyzerať nesprávne pod inou. To automaticky neznamená, že vtedy bolo nesprávne. Znamená to, že organizácia potrebuje schopnosť porovnať vtedy s teraz.
Bez histórie verzií tímy upadajú do dvoch protichodných chýb. Staré rozhodnutia bránia podľa súčasných pravidiel, čo je voči dotknutej osobe nespravodlivé a zvyčajne to v detailoch pôsobí trápne. Alebo staré rozhodnutia odsudzujú podľa súčasných hodnôt bez pochopenia vtedajších obmedzení, čo môže byť emocionálne uspokojujúce a prevádzkovo zbytočné. História verzií robí rozdiel viditeľným. Umožňuje posudzovateľovi overiť, či rozhodnutie nasledovalo pravidlo platné v danom čase, či bolo toto pravidlo v súlade so zákonom alebo vhodné, a či by neskoršia zmena mala viesť k náprave alebo odvolaniu.
Toto je obzvlášť dôležité pri pracovných postupoch s podporou umelej inteligencie, pretože politika môže byť rozdelená medzi formálne pravidlá, výzvy, prahové hodnoty modelov, logiku hodnotenia a ľudské usmernenia. Model nemusí obsahovať politiku, ale môže ovplyvniť, ktoré prípady sa zobrazia, ako sa zhrnú dôkazy a ktorá možnosť sa predstaví ako prvá. Výzva môže zakódovať pravidlo odmietnutia. Prahová hodnota môže v podstate rozhodnúť, kto dostane posúdenie. Ak tieto časti nie sú verzované spoločne, oficiálna politika je len časťou rozhodnutia. Zvyšok je politika prostredníctvom konfigurácie, čo je tichý spôsob, ako riadiť ľudí bez toho, aby sa to priznalo.
Zmeny údajov po rozhodnutí
Údaje nie sú nemenným svedkom. Sú opravované, obohacované, spájané, deduplikované, mazané, preklasifikované, preindexované a niekedy ticho prepísané, pretože migračný skript mal sebavedomé popoludnie. Rozhodnutie prijaté o 09:15 použilo údaje dostupné o 09:15 vrátane chýb, chýbajúcich hodnôt, zastaraných zdrojov a obmedzení prístupu. Ak sa záznam neskôr vyčistí, čistejšia verzia nedokáže vysvetliť starší výsledok. Systém potrebuje snímku alebo nemenný odkaz na stav údajov, ktorý bol rozhodujúci.
To neznamená uchovávať každý osobný detail navždy. To by bola slabá odpoveď v maske zodpovednosti. Stopa rozhodnutia môže používať odkazy na verzie zdrojov, haše, zapečatené snímky, kópie na úrovni polí alebo balíky dôkazov s pravidlami uchovávania. Návrh závisí od dôsledkov a oblasti. Odporúčanie s nízkym rizikom môže potrebovať ľahkú vysledovateľnosť. Zamietnutie dávky, lekárske triedenie, rozhodnutie o prijatí do zamestnania, disciplinárne opatrenie, odmietnutie úveru alebo zásah v oblasti bezpečnosti si vyžadujú silnejšiu stopu. Ide o primeranú pamäť, nie hromadenie.
Opravené údaje tiež vyvolávajú druhú otázku. Mali by sa staré rozhodnutia prehodnotiť. Ak bol zdroj príjmu nesprávny, ktoré žiadosti boli ovplyvnené. Ak klinické pravidlo použilo zastarané laboratórne hodnoty, ktoré upozornenia by sa mali znova skontrolovať. Ak bola funkcia modelu vypočítaná z nesprávneho zdroja, ktoré hodnotenia sa zmenili. História verzií umožňuje odvolanie. Bez nej organizácia môže vedieť, že niečo bolo nesprávne, ale nie koho sa nesprávnosť dotkla. To je zlé miesto na státie, najmä keď sú v miestnosti audítori.
Aj ľudský úsudok potrebuje históriu
Existuje upokojujúci mýtus, že ľudská účasť vyrieši verzovanie. Nevyrieši. Aj ľudský úsudok má kontext. Recenzent vidí konkrétnu obrazovku, súbor dôkazov, tlak vo fronte, usmernenie, indikátor rizika, zhrnutie modelu a sadu dostupných akcií. Ak sa tieto prvky neskôr zmenia, poznámka schválená Janou nám povie veľmi málo. Čo Jana videla. Čo bolo skryté. Čo mohla zmeniť. Koľko času mala. Bola možná nesúhlasná mienka. Uľahčovalo rozhranie jednu možnosť viac ako inú. Ľudský dohľad bez histórie sa stáva podpisom na pohyblivom dokumente.
Verzovanie ľudského posudzovania nie je o obviňovaní recenzentov. Je o ochrane tak dotknutej osoby, ako aj osoby posudzujúcej. Pracovník by nemal byť o mesiace neskôr žiadaný, aby z pamäti obhajoval rozhodnutie, keď systém dokáže zachovať príslušné zobrazenie. Lekár by nemal rekonštruovať, ktorý výstražný limit bol aktívny. Moderátor by nemal vysvetľovať starý zásah po tom, čo sa zmenil štítok politiky. Manažér by nemal rozhodovať o tom, či bolo prepísanie primerané, bez znalosti dôkazov dostupných v danom čase. Pamäť je užitočná. Nemala by byť audítorskou databázou.
História by mala zaznamenávať kontext posudzovania, nie každú súkromnú myšlienku. Môže zachytiť zobrazené dôkazy, vynechané dôkazy, kódy dôvodov, dostupné akcie, voľbu prepísania, časové okno, stav frontu a cestu eskalácie. Môže podporovať naratívne poznámky a zároveň zachovávať štruktúrované polia na analýzu. Môže oddeliť citlivý obsah od trvalých odkazov. Účelom je urobiť úsudok preskúmateľným bez toho, aby sa z ľudí stali objekty sledovania. Táto rovnováha je náročná, preto musí byť navrhnutá, nie improvizovaná až po príchode sťažnosti.
AI zvyšuje cenu zabúdania
Rozhodnutia s podporou AI zvyšujú cenu chýbajúcej histórie, pretože systém môže meniť správanie viacerými spôsobmi. Aktualizácia modelu môže zmeniť poradie. Prestavba indexu vyhľadávania môže zmeniť, ktoré dôkazy sa zobrazia. Úprava výzvy môže zmeniť, ako sa vyjadruje neistota. Úprava limitu môže presunúť prípady z automatického schvaľovania na posúdenie. Zmena kalibrácie môže spôsobiť, že rovnaké skóre znamená niečo iné. Bezpečnostný filter môže blokovať informácie, ktoré sa predtým zobrazovali. Každá zmena môže byť primeraná. Spoločne robia minulosť krehkou, pokiaľ verzie nie sú prepojené s rozhodnutiami.
Vysvetlenia sú obzvlášť zraniteľné. Vygenerované vysvetlenie môže znieť presne, no zároveň byť oddelené od skutočnej rozhodovacej cesty. Ak systém vygeneruje vysvetlenie neskôr pomocou aktuálnych pravidiel a aktuálnych údajov, môže vytvoriť vyleštenú falošnú spomienku. To je horšie ako žiadne vysvetlenie, pretože to vzbudzuje dôveru v rekonštrukciu. História rozhodnutí by mala oddeľovať dobové dôvody od neskoršej analýzy. Neskoršie vysvetlenie môže pomôcť posudzovateľovi, ale musí byť označené ako neskoršie. Čas je dôležitý. Je rozdielom medzi dôkazom a komentárom.
Aj dôvera v model potrebuje históriu. Skóre 0,82 nie je samovysvetľujúce. Ktorý model ho vytvoril. Na základe ktorých funkcií. Pri akej kalibrácii. S akým prahom. Voči akej populácii. Bol model použitý ako poradenstvo, triedenie, zoraďovanie alebo vstup pre rozhodnutie. Videl ho človek. Bola zobrazená neistota. Mal model známe slabiny pre túto podskupinu alebo jazyk. Ak tieto podrobnosti zmiznú, organizácii zostane číslo a stratí význam. Čísla bez kontextu sú prekvapivo dobré v tom, že sa tvária ako fakty.
Odvolanie je požiadavka dizajnu
Rozhodnutie, proti ktorému sa v praxi nemožno odvolať, nie je len efektívne. Je krehké. Odvolanie nemusí vždy znamenať súd. Môže znamenať opravu používateľom, preskúmanie nadriadeným, otázku pacienta, námietku študenta, sťažnosť zákazníka, interný incident alebo vzorku regulátora. Ide o to, že závažné rozhodnutia by mali očakávať budúcu kontrolu. Navrhovanie s ohľadom na odvolanie mení architektúru. Systém musí uchovávať príslušné verzie, sprístupniť ich oprávneným posudzovateľom, podporovať opravy a prepájať nápravné opatrenia s dotknutými nadväzujúcimi krokmi.
Toto nie je proti automatizácii. Je to podmienka, za ktorej automatizácia zostáva legitímna. Automatizované systémy a systémy s podporou umelej inteligencie zvládnu objem, konzistentnosť a rýchlosť. Ale keď ovplyvňujú ľudí, musia tiež podporovať nesúhlas. Nesúhlas potrebuje stopu. Nie maximálny archív, nie každý bajt navždy, ale dostatok histórie na to, aby niekto iný ako pôvodný systém pochopil a v prípade potreby zmenil výsledok. Inak sa efektívnosť stane zamknutými dverami so zdvorilým chatbotom vonku.
Dizajn odvolania tiež zlepšuje bežnú prevádzku. Pomáha podpore odpovedať na otázky. Pomáha manažérom odhaliť slabé pravidlá. Pomáha inžinierom reprodukovať incidenty. Pomáha tímom pre politiky vidieť, či usmernenia fungujú. Pomáha audítorom vzorkovať skutočné prípady. Pomáha organizáciám opraviť skupiny rozhodnutí, keď zlyhá komponent. Systém postavený na odvolanie je zvyčajne systém postavený na učenie. Opak nie je zaručený. Mnohé systémy postavené na rýchlosť sa naučia len to, ako byť rýchlejšie v zabúdaní.
Pamäť bez hromadenia
Pýtať sa na históriu rozhodnutí so sebou nesie reálne riziko. Organizácie môžu zareagovať tým, že si ponechajú všetko. Každý dokument, snímka obrazovky, funkcia, výzva, záznam, nahrávka, e-mail, položka vo fronte a export sa uchováva navždy, pretože zodpovednosť znie dôležito a úložisko je lacné, kým nie je. To nie je dobrá správa. Je to digitálny ekvivalent riešenia požiarnej bezpečnosti tým, že každú chodbu zaplníte kartotékovými skriňami. História by mala byť primeraná, štruktúrovaná a účelná.
Správna pamäť závisí od dôsledkov. Niektoré rozhodnutia si vyžadujú úplné prehratie: snímku zdroja, verziu pravidla, verziu modelu, pohľad recenzenta a oznámenie. Iné potrebujú hašovaný doklad, kompaktný balík dôkazov alebo súhrnný záznam auditu. Niektorý obsah by mal vypršať, pričom fakt o vymazaní zostane zachovaný. Na niektoré citlivé polia by sa malo odkazovať, nie ich kopírovať. Niektoré dôkazy by mali byť zapečatené pre odvolanie a nedostupné bežným zamestnancom. Niektoré artefakty modelu by sa mali uchovať na porovnanie, ale nie široko sprístupniť. História verzií nie je výhovorkou na ignorovanie minimalizácie. Je to miesto, kde sa minimalizácia stáva presnejšou.
Preto politika uchovávania a návrh rozhodnutí patria k sebe. Záznam o rozhodnutí by mal deklarovať, čo sa musí uchovať, prečo, ako dlho, kto k tomu má prístup, ako podporuje odvolanie a ako sa neskôr zničí alebo anonymizuje. Záznam by nemal byť močiar. Mal by byť dokladom s dostatočným počtom príloh na preukázanie transakcie. Doklady sú nudné. To je ich talent. Nikto nechce filozofickú debatu s dokladom, keď sa účtovník pýta, čo sa stalo.
Čo sa zmení, keď história existuje
Keď majú rozhodnutia históriu verzií, organizácia je v strese pokojnejšia. Dokáže odpovedať na odvolanie s dôkazmi. Dokáže rozlíšiť zlé pravidlo od zlej aplikácie pravidla. Dokáže identifikovať, ktoré prípady boli ovplyvnené opravou údajov alebo aktualizáciou modelu. Dokáže ukázať, či bol ľudský dohľad skutočný. Dokáže porovnať výsledky naprieč verziami politiky. Dokáže vyradiť slabé postupy bez toho, aby predstierala, že minulosť nikdy neexistovala. Dokáže priznať chyby presnejšie, čo je nedocenené, pretože vágne ospravedlnenia systémy málokedy opravia.
História verzií mení aj interné správanie. Ľudia robia lepšie zmeny, keď vedia, že zmeny sú viditeľné. Tímy pre politiky píšu jasnejšie poznámky k vydaniam. Modelové tímy pripínajú artefakty. Operačné tímy premýšľajú pred úpravou šablón. Produktové tímy považujú vysvetľujúci text za súčasť rozhodnutia, nie len za komunikačnú ozdobu. Manažéri sú menej v pokušení riešiť riadenie pomocou dashboardu, pretože záznam musí prežiť skutočnú otázku. Organizácia sa učí, že rozhodnutia nie sú momenty. Sú to trvanlivé objekty so životným cyklom.
Občan v neskoršom odvolaní nepotreboval esej o digitálnej transformácii. Potreboval vedieť, prečo bolo rozhodnutie prijaté, či bolo prijaté podľa správneho pravidla, či boli údaje správne a čo sa dalo urobiť teraz. To nie je výnimočná požiadavka. Je to základná dôstojnosť byť podriadený administratívnemu systému. Rozhodnutia potrebujú históriu verzií, pretože ľudia žijú s rozhodnutiami aj potom, čo sa systémy posunú ďalej. Ak si organizácia nedokáže zapamätať cestu, mala by byť opatrná pri tvrdení, že cieľ bol oprávnený.