Zakaj institucije potrebujejo deterministične zapise
Datoteka, ki je spremenila svojo preteklost
Spor se je začel z datoteko, za katero se je zdelo, da je spremenila svojo preteklost. Državljan je novembra prejel odločbo. Januarja je državljan odločbo izpodbijal. Urad je odprl sistem zadev, našel zapis in videl lepo oblikovan povzetek z obrazložitvijo. Videti je bil uraden. Imel je časovni žig, številko zadeve in miren glas uprave. Nato je nekdo odprl izvoz iz decembra in našel drugačen povzetek. Ne dramatično nasprotje. Omiljen stavek, manjkajoči pogoj, nekoliko drugačno sklicevanje na politiko. Dovolj, da je v prostoru postalo hladneje.
Nihče ni nameraval prepisati zgodovine. Sistem je ob ogledu zapisov znova ustvaril povzetke. Besedilo politike je bilo posodobljeno. Indeks za iskanje je bil znova zgrajen. Prikazna plast je bila izboljšana. Zapis zadeve je bil obravnavan kot živi pogled, ne kot trajna izjava. Vsak je lahko pojasnil en del. Nihče ni mogel z gotovostjo povedati, kaj je institucija vedela in povedala na dan, ko je bila odločba izdana. Datoteka ni lagala. Zasnovana je bila brez stabilnega spomina.
Institucije ne morejo delovati tako. Uporabljajo lahko verjetnostna orodja. Uporabljajo lahko umetno inteligenco za osnutke, povzemanje, razvrščanje, iskanje, prevajanje, primerjanje, označevanje in priporočanje. Toda zapisi, ki nosijo institucionalno delovanje, morajo biti dovolj deterministični, da prenesejo poznejši nadzor. Zapis mora biti isti zapis, ko je znova odprt, izvožen, revidiran, izpodbijan, preseljen in ko ga prebere nekdo, ki ni bil na prvotnem sestanku. Če sistem tega ne more ohraniti, institucija ni posodobljena. Naredila je odgovornost odvisno od vremena.
Deterministični zapisi niso nostalgične papirnate navade, prenesene v programsko opremo. So tehnični izraz institucionalne odgovornosti. Povedo, da se je to zgodilo ob tem času, pod to pristojnostjo, ob uporabi tega stanja vira, s tem izidom in s to potjo popravka. Omogočajo nestrinjanje brez potovanja v preteklost. Ljudem omogočajo, da izpodbijajo dejanje, ne pa lebdeče predstavitve dejanja. To razlikovanje ni akademsko. Je razlika med ustreznim postopkom in zelo samozavestnim zaslonom.
Verjetnostna orodja potrebujejo deterministične meje
V institucionalnem delu ni ničesar bistveno narobe s probabilističnimi orodji. Velik del človeškega dela že vsebuje presojo, negotovost in interpretacijo. Model lahko pomaga najti ustrezne dokumente, napisati jasnejše pismo, združiti podobne primere, zaznati anomalije ali povzeti dolg spis. Te uporabe so lahko dragocene. Nevarnost se začne, ko probabilistični rezultat postane del institucionalnega zapisa brez deterministične meje okoli njega.
Meja pove, kaj je orodje naredilo in kaj je institucija sprejela. Model je predlagal. Pregledovalec je sprejel. Sistem je pridobil te vire. Različica politike je bila ta. Interval zaupanja je bil ta. Odgovor je bil izdan ob tem času. Pozneje lahko model ustvari drugačno besedilo. Zapisi se lahko popravijo. Politika se lahko spremeni. Nobeno od tega ne bi smelo prepisati sprejete izjave. Zapis mora ohraniti tako prvotno dejanje kot poznejši popravek, ne pa izvajati majhnih dejanj administrativne reinkarnacije.
Institucije to potrebujejo, ker delujejo v imenu nečesa večjega od osebe, ki orodje uporablja. Banka odobri ali zavrne. Bolnišnica zabeleži zdravljenje. Sodišče hrani vloge. Šola ocenjuje napredek. Javna agencija odobri, zavrne, pregleda ali sankcionira. Podjetje podpiše pogodbo. Institucija mora pozneje odgovarjati za to, kar je storila. Ne more odgovoriti, da bi model danes verjetno rekel nekaj podobnega. To ni zapis. To je horoskop s številko primera.
Deterministične meje ščitijo tudi orodja. Če je rezultat umetne inteligence zajet kot osnutek, predlog, povzetek dokazov ali končna izjava, je mogoče vsak status pošteno oceniti. Brez statusa postane vsak ustvarjen stavek sumljiv. Je bil nasvet. Je bila odločitev. Je bilo predpomnjeno. Je odobril človek. Je bilo znova ustvarjeno. Ta dvoumnost ustvarja hkrati nepotreben strah in nepotrebno svobodo, kombinacijo, ki ponavadi poskrbi, da so pravniki profesionalno hidrirani.
Zapis ni vmesnik
Številni sodobni sistemi zamenjujejo zapis z vmesnikom, ki ga prikazuje. Stran primera prikazuje najnovejši povzetek, trenutni status, odprte naloge, povezane dokumente, razlago modela in naslednje dejanje. Ta stran je uporabna. Ni zapis. Je pogled, sestavljen iz zapisov, pravil, dovoljenj, predpomnilnikov in izbir predstavitve v določenem trenutku. Če institucija obravnava pogled kot zapis, postane preteklost odvisna od trenutnega uporabniškega vmesnika.
Razlika je pomembna, ko se sistemi razvijajo. Doda se novo polje. Spremeni se ime pravila. Izboljša se generator povzetkov. Model dovoljenj skrije vir. Posodobi se prevajalska komponenta. Spremeni se oblika datuma. Pogled se lahko upravičeno spremeni, da služi trenutnim uporabnikom. Zapis mora ostati razumljiv kot star zapis. Če se stara odločitev odpre pod novim vmesnikom, mora sistem pokazati, kaj se je spremenilo in kaj ne. V nasprotnem primeru je včerajšnji dan prikazan z današnjimi predpostavkami, kar je priročno in pravno pikantno.
Deterministični zapisi zato potrebujejo stabilne identifikatorje, različice shem, izrecne časovne žige, kanonične shranjene izjave, zgodovine dogodkov, ki omogočajo samo dodajanje, kjer je to primerno, in evidence migracij, ko se formati spremenijo. Potrebujejo tudi izvoze, berljive za ljudi, ker institucije ne odgovarjajo le API-jem. Odgovarjajo revizorjem, sodiščem, strankam, državljanom, raziskovalcem, upravnim odborom in ljudem, ki bodo nekaj natisnili, ker tiskanje ostaja ljudsko zdravilo proti dvomu.
To ne pomeni, da mora biti vsak bajt večno nespremenljiv. Institucije popravljajo zapise. Združujejo dvojnike. Izbrišejo podatke. Prečrtajo vsebino. Upoštevajo pravila o hrambi. Determinizem ne prepoveduje sprememb. Zahteva, da so spremembe predstavljene. Zapis se ne sme tiho spremeniti v drugačen zapis. Povedati mora, da je bila ta vrednost popravljena, to polje prečrtano, ta sklic na politiko nadomeščen, to dejanje hrambe izvedeno, ta dvojnik združen, ta napaka odkrita, in to je sled, ki to omogoča videti.
Determinizem je družbena obljuba s tehničnimi sestavnimi deli
Beseda determinističen zveni lahko mehanično, kot da institucije potrebujejo zgolj bolj toge sisteme. A ni v tem poanta. Determinizem pri zapisih je družbena obljuba, uresničena s tehničnimi sestavnimi deli. Obljublja, da institucija ljudi ne bo silila v prerekanje s premikajočo se tarčo. Obljublja, da bo odločitev mogoče znova najti. Obljublja, da bo popravek viden in ne čaroben. Obljublja, da si bo organizacija zapomnila, kaj je storila, dovolj dobro, da bo lahko odgovarjala za svoja dejanja.
Tehnični sestavni deli so skromni, a zahtevni. Različice pravil. Shranjevanje izdanega besedila. Zajem stanja vira. Ohranjanje podatkov o akterju in vlogi. Časovni žigi z vsebino. Ločevanje osnutka od končne različice. Podpisovanje ali zgoščevanje dokazov, kjer je celovitost ključna. Ohranjanje dostopnosti starih definicij shem. Beleženje migracij. Preizkušanje izvozov. Zbrisi morajo biti dovolj vidni, da je mogoče dokazati skladnost, ne da bi obdržali tisto, kar bi moralo izginiti. Nobena od teh praks ni futuristična. Prav v tem je njihov čar. Prihodnost je pogosto odvisna od staromodnih vrlin v boljši obliki datoteke.
V determinističnih zapisih je koristna ponižnost. Ne trdijo, da je institucija imela prav. Trdijo, da institucija lahko pokaže, kaj je storila. To je dovolj za začetek odgovornosti. Napačno odločitev s stabilnim zapisom je mogoče izpodbijati, popraviti, preučiti in naslednjič preprečiti. Napačna odločitev s premikajočim se zapisom postane megla s časovnimi žigi. Meglo je težko zasliševati.
Družbena obljuba velja tudi znotraj organizacije. Zaposleni morajo zaupati, da njihovih strokovnih dejanj poznejša posodobitev sistema ne bo prepisala. Če je pregledovalec preglasil predlog umetne inteligence, mora to dejanje ostati vidno. Če je vodja odobril izjemo od politike, se izjema ne sme raztopiti v najnovejši oznaki stanja. Če je bil popravek opravljen po pritožbi, mora pritožba ostati del zapisa. Institucije se učijo s stabilnim spominom, ne s preglednicami, ki pospravijo zadrego izpred oči.
Povzetki umetne inteligence niso samodejno zapisi
Povzetki umetne inteligence so uporabni in nevarni na povsem enak način: dolgo gradivo naredijo lažje obvladljivo. Povzetek lahko pomaga socialnemu delavcu videti obris spisa. Lahko pomaga zdravniku preleteti anamnezo, odvetniku pregledati dokazno gradivo, revizorju primerjati dokaze, učitelju razumeti napredek ali podpornemu agentu hitreje odgovoriti. Toda povzetek je interpretacija. Izbere, stisne in preoblikuje. Lahko izpusti dejstvo, ki pozneje postane osrednje. Ne bi smel postati institucionalni zapis zgolj zato, ker je urejen.
Če povzetek vpliva na ukrepanje, potrebuje status. Osnutek povzetka. Povzetek, ki ga je preveril pregledovalec. Izdani povzetek. Interna delovna opomba. Zunanji razlog za odločitev. Vsak status nosi različne obveznosti. Osnutek je mogoče znova ustvariti. Preverjeni povzetek mora kazati na vire. Izdani razlog je treba ohraniti. Za interno opombo so lahko potrebne omejitve hrambe. Brez statusa povzetek lebdi med priročnostjo in avtoriteto, kar je prijeten prostor za programsko opremo in grozljiv prostor za pravice.
Deterministično obravnavanje povzetkov pomeni shranjevanje različice, na katero se je nekdo zanesel, nabora virov, ki so bili takrat na voljo, različice modela ali orodja, kjer je to pomembno, človeškega dejanja in morebitne poznejše poprave. Pomeni tudi preprečevanje prepisovanja povzetkov. Če je po prejemu novega gradiva ustvarjen boljši povzetek, mora biti to nov dogodek. Stari povzetek je lahko presežen, vendar ne izbrisan. Presežen je civilizirana beseda. Izbrisan je začetek spora.
Ta disciplina izboljšuje kakovost. Ekipe lahko primerjajo povzetke z viri, odkrijejo sistematične opustitve, izmerijo, kdaj pregledovalci popravijo rezultate, in ugotovijo, katere vrste datotek povzročajo šibko stiskanje. Če so povzetki zgolj pogledi, te lekcije izginejo. Organizacija dobi iluzijo bolj tekočega dela, hkrati pa izgubi dokaze, potrebne za izboljšanje dela. Vedno je impresivno, kako pogosto lahko programska oprema zamenja učenje za priročnost in to menjavo imenuje produktivnost.
Popravki bi morali biti prvovrstni državljani
Institucije včasih obravnavajo popravke kot nerodne izjeme. Pride popravek, nekdo posodobi polje, doda se opomba in delovni proces se nadaljuje. Toda popravki niso umazanija na zapisu. So del institucionalne resnice. Kažejo, da je bilo prejšnje stanje nepopolno, napačno, zastarelo, sporno ali spremenjeno zaradi poznejših dokazov. Sistem zapisov, ki skriva popravke, ni čistejši. Je manj pošten.
Dobra zasnova popravkov beleži staro vrednost, novo vrednost, podlago, akterja, čas, pooblastilo in učinek na nadaljnje rezultate. Pove, ali popravek spremeni odločitev, zgolj posodobi kontekst, sproži obvestilo, vpliva na izpeljane zapise ali zahteva ponovno oceno. Prav tako ohranja razliko med popravkom napake in legitimno spremembo. Selitev osebe ni enaka tipkarski napaki v naslovu. Posodobitev politike ni enaka napačno uporabljeni politiki. Te razlike so pomembne, ko se ljudje sprašujejo, ali je institucija naredila napako.
Popravki potrebujejo širjenje brez amnezije. Če popravljeno polje napaja model, predpomnilnik, poročilo, nadzorno ploščo, iskalni indeks ali orodje za podporo odločanju, mora popravek potovati naprej ali pa morajo biti izpeljani artefakti označeni kot zastareli. Toda prvotni izpeljani artefakt bo morda še vedno moral ostati kot dokaz tega, kaj se je zgodilo pred popravkom. Tu postanejo deterministični zapisi nekoliko zahtevni. Podpirati morajo tako spomin kot popravilo. Lena različica izbere eno in ustvari bodisi fosil bodisi prikrivanje.
Popravki razkrivajo tudi zdravje sistema. Ponavljajoči se popravki istega polja lahko kažejo na slabo zajemanje podatkov. Pogoste preusmeritve po triaži s pomočjo modela lahko kažejo na šibke dokaze. Številni pozni popravki lahko kažejo na težave s svežino. Veliko breme popravkov za prizadete ljudi lahko kaže na institucionalno nespoštovanje. Sled popravkov ni le odgovornost. Je diagnostika z manirami.
Migracija je kraj, kjer zapisi priznajo resnico
Migracije podatkov razkrijejo, ali so zapisi resnični ali jih trenutni sistem zgolj prenaša. Med migracijo polja potrebujejo definicije, identifikatorji stabilnost, stare kode preslikave, priloge razmerja, časovni žigi razlago, redakcije ohranitev, podpisi preverjanje, revizijske sledi pa prostor, kjer lahko živijo. Če tega ni, migracijska ekipa postane arheološka odprava z rokom in tveganjem za proračun.
Institucije pogosto odlašajo z disciplino zapisov, ker trenutni sistem deluje. Deluje v smislu, da lahko trenutni uporabniki klikajo po njem in da je mogoče pripraviti trenutna poročila. Nato se začne projekt zamenjave in skrite odvisnosti pridejo na dan. Koda statusa ima tri pomene. Polje z opombami vsebuje odločitve. Ustvarjeni PDF je edina fiksna izjava. Identifikator dokumenta se je ob izvozu spremenil. Revizijski dnevnik ima obdobje hrambe, krajše od cikla pravnih sporov. Stari sistem ni bil hramba zapisov. Bil je življenjski prostor.
Deterministični zapisi naredijo migracijo manj junaško. Ne lahko, a manj odvisno od folklore. Če so dogodki strukturirani, sheme različic, izdane izjave shranjene, popravki izrecni in izvozi preizkušeni, lahko migracija ohrani odgovornost. Če ne, se institucija sooči z bolečo izbiro med uvozom nereda, izgubo pomena ali plačilom ljudi za razlago na tisoče dvoumnih primerov. Tako tehnični dolg postane izguba institucionalnega spomina z računi.
Migracija preizkuša tudi neodvisnost od dobaviteljev. Ali lahko zapisi odidejo s svojim kontekstom. Ali lahko revizijske sledi odidejo z integriteto. Ali lahko podpisi ostanejo preverljivi. Ali je mogoče dokazati zgodovino izbrisov. Ali je mogoče stare identifikatorje preslikati v nove, ne da bi pri tem prekinili pritožbe. Pravi čas za vprašanje je pred javnim naročilom, ne potem, ko je stara platforma postala edina priča, ki je pripravljena govoriti.
Deterministični zapisi naredijo umetno inteligenco varnejšo za uporabo
Morda se sliši, kot da so deterministični zapisi konservativna zahteva proti umetni inteligenci. V praksi naredijo umetno inteligenco lažje uporabno na odgovoren način. Ko so zapisi stabilni, lahko umetna inteligenca pomaga z manj zmede. Lahko išče znana stanja vira, povzema fiksne dokumente, primerja različice, odkriva anomalije, pripravlja osnutke na podlagi ohranjenih dejstev in podpira pregled z jasnimi mejami. Modelu ni treba nositi institucionalnega spomina v lastnem izhodu. Sistem zapisov ga nosi.
Ta ločitev je pomembna. Jezikovni model je slab arhiv. Lahko pomaga pri navigaciji po arhivu. Lahko pomaga pri oblikovanju vsebine arhiva. Lahko pomaga odkriti nasprotja. Toda arhiv ne sme biti tisto, kar model pove ob pozivu. Deterministični zapisi dajejo verjetnostnim orodjem trdna tla. Brez tal tudi dober model postane zelo tekoč turist v lastni preteklosti institucije.
Stabilni zapisi omogočajo tudi smiselno vrednotenje. Če ekipe poznajo natančno izvorno stanje in sprejeti izhod za pretekle primere, lahko preizkusijo, ali bi nova orodja izboljšala ali poslabšala delo. Lahko primerjajo povzetke, navedbe, priporočila in vedenje pri zavrnitvah. Lahko vidijo, ali model uporablja prave dokaze. Lahko odkrijejo, kdaj si izmisli povezave med zapisi, ki nikoli niso bili povezani. Vrednotenje potrebuje fiksne primere. Fiksni primeri potrebujejo deterministične zapise.
Najvarnejše operacije z umetno inteligenco bodo zato manj podobne čarovniji in bolj podobne upravljanju zapisov z boljšimi vmesniki. To morda razočara tiste, ki upajo na bolj glamurozno prihodnost. Razočaranje je koristno. Institucije niso bile ustvarjene, da bi bile glamurozne. Ustvarjene so bile, da prenašajo obveznosti skozi čas. Umetna inteligenca lahko pomaga, vendar le, če je spomin, ki se ga dotika, dovolj stabilen, da lahko odgovori.
Običajna disciplina
V disciplini ni skrivnosti. Shrani, kar je bilo izdano. Ohrani, kar je bilo na voljo. Različici, kar se lahko spremeni. Dodaj popravke. Poimenuj pooblastila. Ohrani izvoze berljive. Preizkusi selitev. Loči pogled od zapisa. Obravnavaj izhod umetne inteligence kot tipiziran artefakt, ne kot prosto plavajočo priročnost. Ljudem omogoči, da lahko izpodbijajo in popravljajo. To storite pred sporom, kajti po sporu postane vsako manjkajoče polje bolj zanimivo in manj dostopno.
Deterministični zapisi institucij ne bodo naredili popolnih. Omogočili bodo, da je nepopolnost obvladljiva. Stabilen zapis lahko pokaže napako, kar je lahko neprijetno. Dobro. Institucije, ki ne prenesejo pogleda na lastne napake, ne bi smele pospeševati avtomatizacije. Najprej bi morale izboljšati svoj odnos do dokazov.
Datoteka, ki je spremenila svojo preteklost, tega ni storila, ker bi kdo želel zavajati. Spremenila se je, ker je sistem obravnaval preteklost kot pogled. To je oblikovalska napaka z upravljalskimi posledicami. Popravilo ni v tem, da se bojimo umetne inteligence, da se izogibamo sodobnim vmesnikom ali da se vrnemo k papirju z junaškim spenjanjem. Popravilo je v tem, da zgradimo zapise, ki mirujejo, medtem ko se orodja okoli njih premikajo.
Institucije potrebujejo deterministične evidence, ker morajo ljudje vedeti, kaj so institucije storile. Podeljena pravica, zavrnjena ugodnost, zabeleženo zdravljenje, podpisana pogodba, označeno tveganje, opravljen popravek, preklicano soglasje, izdan ukrep. Ta dejanja morajo preživeti naslednji vmesnik, naslednji model, naslednjega dobavitelja in naslednjo organizacijsko shemo. Verjetnost lahko pomaga pri delu. Evidenca mora nositi odgovornost. Odgovornost, za razliko od ustvarjenega povzetka, ne sme spremeniti svojega besedila ob osvežitvi.