Miks institutsioonid vajavad deterministlikke andmeid
Fail, mis muutis oma minevikku
Vaidlus algas failist, mis näis olevat muutnud oma minevikku. Kodanik oli saanud otsusekirja novembris. Jaanuaris vaidlustas kodanik otsuse. Asutus avas toimikute süsteemi, leidis kirje ja nägi korralikult vormindatud kokkuvõtet, mis selgitas põhjendusi. See nägi välja ametlik. Sellel oli ajatempel, toimiku number ja halduse rahulik hääl. Siis avas keegi detsembris tehtud ekspordi ja leidis teistsuguse kokkuvõtte. Mitte dramaatilist vastuolu. Pehmendatud sõnastus, puuduv tingimus, pisut teistsugune viide poliitikale. Piisav, et ruum külmemaks muutuks.
Keegi polnud kavatsenud ajalugu ümber kirjutada. Süsteem oli kokkuvõtted uuesti loonud, kui kirjeid vaadati. Poliitikateksti oli uuendatud. Otsinguindeks oli üles ehitatud. Kuvakihti oli täiustatud. Toimikukirjet käsitleti elava vaatena, mitte püsiva avaldusena. Igaüks oskas ühte osa selgitada. Keegi ei osanud kindlalt öelda, mida asutus teadis ja ütles otsuse tegemise päeval. Fail polnud valetanud. See oli loodud ilma stabiilse mäluta.
Asutused ei saa niimoodi toimida. Nad võivad kasutada tõenäosuslikke tööriistu. Nad võivad kasutada tehisintellekti koostamiseks, kokkuvõtete tegemiseks, liigitamiseks, otsimiseks, tõlkimiseks, võrdlemiseks, märgistamiseks ja soovituste andmiseks. Kuid kirjed, mis kannavad institutsionaalset tegevust, peavad olema piisavalt deterministlikud, et hilisemat kontrolli üle elada. Kirje peab olema sama kirje, kui see uuesti avatakse, eksporditakse, auditeeritakse, vaidlustatakse, migreeritakse ja loeb seda keegi, kes polnud algsel koosolekul. Kui süsteem ei suuda seda säilitada, pole asutus moderniseerunud. See on muutnud vastutuse ilmast sõltuvaks.
Deterministlikud kirjed pole nostalgilised paberiharjumused, mis tarkvarasse lohistatud. Need on institutsionaalse vastutuse tehniline väljendus. Need ütlevad: see juhtus, sel ajal, selle volituse all, kasutades seda allikaseisundit, andes selle tulemuse, selle parandustee abil. Need võimaldavad erimeelsust ilma ajas rändamata. Need lasevad inimestel vaidlustada tegevust, mitte tegevuse triivivat kujutist. See eristus pole akadeemiline. See on vahe korraliku menetluse ja väga enesekindla ekraani vahel.
Tõenäosuslikud tööriistad vajavad deterministlikke piire
Probabilistlike tööriistade kasutamises institutsionaalses töös pole iseenesest midagi valesti. Suur osa inimtööst sisaldab juba otsustust, ebakindlust ja tõlgendamist. Mudel võib aidata leida asjakohaseid dokumente, koostada selgema kirja, rühmitada sarnaseid juhtumeid, tuvastada kõrvalekaldeid või kokku võtta pika toimiku. Need kasutusviisid võivad olla väärtuslikud. Oht algab siis, kui probabilistlik väljund satub institutsionaalsesse registrisse ilma deterministliku piirita selle ümber.
Piir ütleb, mida tööriist tegi ja mida institutsioon vastu võttis. Mudel tegi ettepaneku. Läbivaataja kiitis heaks. Süsteem otsis need allikad. Poliitika versioon oli selline. Usaldusvahemik oli selline. Vastus väljastati sellel ajal. Hiljem võib mudel toota teistsuguse sõnastuse. Andmeid võidakse parandada. Poliitika võib muutuda. Ükski neist ei tohiks ümber kirjutada heakskiidetud avaldust. Register peaks säilitama nii algse toimingu kui ka hilisema paranduse, mitte sooritama väikeseid haldusliku taaskehastumise akte.
Institutsioonid vajavad seda, sest nad tegutsevad millegi nimel, mis on suurem kui tööriista kasutav inimene. Pank kinnitab või keeldub. Haigla dokumenteerib ravi. Kohus säilitab avaldusi. Kool hindab edasiminekut. Riigiasutus annab, keelab, kontrollib või karistab. Ettevõte allkirjastab lepingu. Institutsioon peab hiljem aru andma, mida ta tegi. Ta ei saa vastata, et mudel ütleks täna ilmselt midagi sarnast. See ei ole register. See on horoskoop juhtumi numbriga.
Deterministlikud piirid kaitsevad ka tööriistu. Kui AI väljund jäädvustatakse mustandina, ettepanekuna, tõendite kokkuvõttena või lõpliku avaldusena, saab iga staatust õiglaselt hinnata. Ilma staatuseta muutub iga genereeritud lause kahtlaseks. Kas see oli nõuanne. Kas see oli otsus. Kas see oli vahemälus. Kas see oli inimese poolt heaks kiidetud. Kas see oli uuesti genereeritud. See mitmetähenduslikkus tekitab korraga tarbetut hirmu ja tarbetut vabadust, kombinatsioon, mis kipub hoidma juriste professionaalselt hüdreerituna.
Register ei ole liides
Paljud kaasaegsed süsteemid ajavad registri segamini seda kuvava liidesega. Juhtumi leht näitab uusimat kokkuvõtet, praegust staatust, avatud ülesandeid, seotud dokumente, mudeli selgitust ja järgmist toimingut. See leht on kasulik. See ei ole register. See on vaade, mis on kokku pandud registritest, reeglitest, õigustest, vahemäludest ja esitusvalikutest ühel ajahetkel. Kui institutsioon kohtleb vaadet registrina, muutub minevik sõltuvaks praegusest kasutajaliidesest.
See eristus on oluline, kui süsteemid arenevad. Lisatakse uus väli. Reegli nimi muutub. Kokkuvõtete generaator paraneb. Õiguste mudel peidab allika. Tõlke komponent uueneb. Kuupäeva formaat muutub. Vaade võib seaduslikult muutuda, et teenindada praegusi kasutajaid. Register peab jääma tõlgendatavaks vana registrina. Kui vana otsus avatakse uue liidese all, peaks süsteem näitama, mis on muutunud ja mis mitte. Muidu esitatakse eilne päev tänaste eeldustega, mis on mugav ja õiguslikult vürtsikas.
Deterministlikud registrid vajavad seetõttu stabiilseid identifikaatoreid, versioonitud skeeme, selgesõnalisi ajatempleid, kanoonilisi salvestatud avaldusi, ainult lisatavaid sündmuste ajalugusid, kus see on asjakohane, ja migratsiooniandmeid, kui formaadid muutuvad. Samuti vajavad nad inimesele loetavaid eksporte, sest institutsioonid ei vasta ainult API-dele. Nad vastavad audiitoritele, kohtutele, klientidele, kodanikele, teadlastele, juhatustele ja inimestele, kes prindivad midagi välja, sest printimine jääb kahtluse rahvapäraseks abinõuks.
See ei tähenda, et iga bait peab olema igavesti muutumatu. Institutsioonid parandavad andmeid. Nad ühendavad duplikaate. Nad kustutavad andmeid. Nad redigeerivad. Nad järgivad säilitusnõudeid. Deterministlikkus ei keela muutmist. See nõuab, et muutmine oleks esindatud. Register ei tohiks vaikselt muutuda teistsuguseks registriks. See peaks ütlema, et see väärtus parandati, see väli redigeeriti, see poliitikaviide asendati, see säilitustoiming toimus, see duplikaat ühendati, see viga leiti ja see on jälg, mis selle nähtavaks teeb.
Determinism on sotsiaalne lubadus, millel on tehnilised osad
Sõna deterministlik võib kõlada mehaaniliselt, nagu vajaksid institutsioonid lihtsalt jäigemaid süsteeme. Asi pole selles. Determinism kirjetes on sotsiaalne lubadus, mida rakendatakse tehniliste osadega. See lubab, et institutsioon ei pane inimesi vaidlema liikuva sihtmärgi vastu. See lubab, et otsuse saab uuesti üles leida. See lubab, et parandus on nähtav, mitte maagiline. See lubab, et organisatsioon mäletab piisavalt hästi, mida ta tegi, et vastutust kanda.
Tehnilised osad on tagasihoidlikud, kuid nõudlikud. Versioneeri reegleid. Säilita väljastatud tekst. Jäädvusta allika olek. Säilita tegija ja roll. Hoia ajatemplid tähendusrikkana. Eralda mustand lõplikust. Allkirjasta või räsi tõendusmaterjal, kus terviklikkus on oluline. Hoia vanad skeemimääratlused kättesaadavad. Jäädvusta migratsioonid. Testi eksporte. Muuda kustutamine piisavalt nähtavaks, et tõendada vastavust ilma alles hoidmata seda, mis peaks kaduma. Ükski neist tavadest pole tulevikutehnoloogia. See ongi nende võlu. Tulevik sõltub sageli vanamoelistest voorustest, mis kannavad paremat failivormingut.
Deterministlikes kirjetes on kasulik tagasihoidlikkus. Need ei väida, et institutsioonil oli õigus. Need väidavad, et institutsioon suudab näidata, mida ta tegi. Sellest piisab, et alustada vastutust. Vale otsus stabiilse kirjega on edasi kaevatav, parandatav, uuritav ja järgmine kord välditav. Vale otsus triiviva kirjega muutub udupilveks ajatemplitega. Udupilvi on raske ristküsitleda.
Sotsiaalne lubadus kehtib ka seesmiselt. Töötajad peavad saama usaldada, et nende professionaalseid tegevusi ei kirjutata hilisema süsteemiuuendusega ümber. Kui retsensent tühistas AI-soovituse, peaks see tegevus jääma nähtavaks. Kui juht kiitis heaks poliitika erandi, ei tohiks erand lahustuda uusimas olekusildis. Kui parandus tehti pärast kaebust, peaks kaebus jääma kirje osaks. Institutsioonid õpivad stabiilse mälu kaudu, mitte juhtpaneelide kaudu, mis koristavad piinlikkuse minema.
AI-kokkuvõtted ei ole vaikimisi kirjed
AI-kokkuvõtted on kasulikud ja ohtlikud täpselt samamoodi: need muudavad pika materjali käsitletavamaks. Kokkuvõte aitab juhtumitöötlejal näha faili kuju. See aitab arstil üle vaadata haiguslugu, advokaadil läbi vaadata avastusmaterjali, audiitoril võrrelda tõendeid, õpetajal mõista arengut või toetuspetsialistil vastata kiiremini. Kuid kokkuvõte on tõlgendus. See valib, tihendab ja sõnastab. See võib jätta välja fakti, mis hiljem keskseteks osutub. See ei tohiks muutuda institutsionaalseks kirjeks lihtsalt sellepärast, et see on korralik.
Kui kokkuvõte mõjutab tegevust, vajab see staatust. Mustand-kokkuvõte. Kontrollitud kokkuvõte. Väljastatud kokkuvõte. Sisemine töömärkus. Väline otsuse põhjendus. Iga staatus toob kaasa erinevad kohustused. Mustandi saab uuesti genereerida. Kontrollitud kokkuvõte peaks viitama allikatele. Väljastatud põhjendus tuleb säilitada. Sisemise märkuse puhul võivad kehtida säilitustähtajad. Ilma staatuseta hõljub kokkuvõte mugavuse ja autoriteedi vahel, mis on meeldiv koht tarkvara jaoks ja kohutav koht õiguste jaoks.
Kokkuvõtete deterministlik käsitlemine tähendab selle versiooni salvestamist, millele toetuti, toona kättesaadavat allikate kogumit, vajaduse korral mudeli või tööriista versiooni, inimese tegevust ja hilisemat parandust. See tähendab ka kokkuvõtte ülekirjutamise vältimist. Kui pärast uue materjali saabumist genereeritakse parem kokkuvõte, peaks see olema uus sündmus. Vana kokkuvõte võib olla asendatud, kuid mitte kustutatud. Asendatud on tsiviliseeritud sõna. Kustutatud on see, kust vaidlus algab.
See distsipliin parandab kvaliteeti. Meeskonnad saavad võrrelda kokkuvõtteid allikatega, tuvastada süsteemseid väljajätmisi, mõõta, millal kontrollijad väljundit parandavad, ja õppida, millised failitüübid tekitavad nõrka tihendust. Kui kokkuvõtted on vaid vaated, kaovad need õppetunnid. Organisatsioon saab illusiooni sujuvamast tööst, kaotades samal ajal tõendid, mida on vaja töö paremaks muutmiseks. Alati on muljetavaldav, kui sageli vahetab tarkvara õppimise mugavuse vastu ja nimetab seda vahetust tootlikkuseks.
Parandused peaksid olema esmaklassilised kodanikud
Institutsioonid kohtlevad mõnikord parandusi kui kummalisi erandeid. Parandus saabub, keegi uuendab välja, lisatakse märkus ja töövoog liigub edasi. Kuid parandused ei ole mustus arvestuses. Need on osa institutsionaalsest tõest. Need näitavad, et eelmine seis oli puudulik, vale, aegunud, vaidlustatud või muudetud hilisemate tõendite põhjal. Arvestussüsteem, mis parandusi peidab, ei ole puhtam. See on vähem aus.
Hea paranduste kujundus salvestab vana väärtuse, uue väärtuse, aluse, tegija, aja, volituse ja mõju allavoolu. See ütleb, kas parandus muudab otsust, ainult uuendab konteksti, käivitab teavituse, mõjutab tuletatud arvestusi või nõuab uuesti hindamist. See säilitab ka eristuse vea parandamise ja seadusliku muudatuse vahel. Inimese kolimine ei ole sama mis aadressi kirjaviga. Poliitika uuendamine ei ole sama mis valesti rakendatud poliitika. Need eristused on olulised, kui inimesed küsivad, kas institutsioon tegi vea.
Parandused vajavad levikut ilma amneesiata. Kui parandatud väli toidab mudelit, vahemälu, aruannet, armatuurlauda, otsinguregistrit või otsustustööriista, peaks parandus liikuma edasi või märkima tuletatud artefaktid aegunuks. Kuid algne tuletatud artefakt võib siiski vajada säilitamist tõendina sellest, mis juhtus enne parandust. Siin muutuvad deterministlikud arvestused pisut nõudlikuks. Need peavad toetama nii mälu kui ka parandust. Laisk versioon valib ühe ja loob kas fossiili või priiskamise.
Parandused paljastavad ka süsteemi tervise. Korduvad parandused samale väljale võivad viidata halvale sisestusele. Sagedased ümberpööramised pärast mudeli abil tehtud triaaži võivad viidata nõrkadele tõenditele. Paljud hilised parandused võivad viidata värskuse probleemidele. Suur paranduskoormus mõjutatud inimestele võib viidata institutsionaalsele lugupidamatusele. Paranduste jälg ei ole ainult vastutus. See on diagnostika kombega.
Migratsioon on koht, kus andmed tunnistavad
Andmemigratsioonid näitavad, kas andmed on päris või ainult praeguse süsteemi poolt talutud. Migratsiooni ajal vajavad väljad definitsioone, identifikaatorid stabiilsust, vanad koodid kaardistamist, manused seoseid, ajatemplid tõlgendamist, redigeerimised säilitamist, allkirjad valideerimist ja auditijäljed kohta, kus elada. Kui need puuduvad, muutub migratsioonimeeskond arheoloogiliseks ekspeditsiooniks tähtaja ja eelarveriskiga.
Asutused lükkavad andmedistsipliini sageli edasi, sest praegune süsteem töötab. See töötab selles mõttes, et praegused kasutajad saavad sellest läbi klikkida ja praegused aruanded on võimalik koostada. Siis algab asendusprojekt ja peidetud sõltuvused tulevad välja. Olekukoodil on kolm tähendust. Märkmete väli sisaldab otsuseid. Loodud PDF on ainus fikseeritud avaldus. Dokumendi identifikaator muutus eksportimisel. Auditilogil on säilitusaeg lühem kui õigusvaidluse tsükkel. Vana süsteem ei olnud andmehoidla. See oli elupaik.
Deterministlikud andmed muudavad migratsiooni vähem kangelaslikuks. Mitte lihtsaks, aga vähem sõltuvaks folkloorist. Kui sündmused on struktureeritud, skeemid versioonitud, avaldatud avaldused salvestatud, parandused selgesõnalised ja ekspordid testitud, suudab migratsioon säilitada vastutuse. Kui mitte, seisab asutus valuliku valiku ees: importida segadus, kaotada tähendus või maksta inimestele tuhandete mitmetähenduslike juhtumite tõlgendamise eest. Nii muutub tehniline võlg asutuse mälukaotuseks arvetega.
Migratsioon testib ka tarnija sõltumatust. Kas andmed saavad lahkuda koos oma kontekstiga. Kas auditijäljed saavad lahkuda terviklikkusega. Kas allkirjad saavad jääda kontrollitavaks. Kas kustutamislugu saab tõestada. Kas vanu identifikaatoreid saab kaardistada uutele ilma apellatsioone katkestamata. Õige aeg küsida on enne hankimist, mitte pärast seda, kui vana platvorm on muutunud ainsaks tunnistajaks, kes on nõus rääkima.
Deterministlikud andmed muudavad tehisintellekti ohutumaks kasutada
Võib kõlada, nagu oleksid deterministlikud andmed konservatiivne nõue tehisintellekti vastu. Praktikas muudavad need tehisintellekti lihtsamaks vastutustundlikult kasutada. Kui andmed on stabiilsed, saab tehisintellekt aidata vähem segadusega. See suudab otsida teadaolevaid lähteolekuid, kokku võtta fikseeritud dokumente, võrrelda versioone, tuvastada kõrvalekaldeid, koostada mustandeid säilitatud faktidest ja toetada ülevaadet selgete piiridega. Mudel ei pea kandma asutuse mälu oma väljundis. Andmesüsteem kannab seda.
See eristus on oluline. Keelemudel on kehv arhiiv. Ta võib aidata arhiivis navigeerida. Ta võib aidata sõnastada seda, mida arhiiv sisaldab. Ta võib aidata märgata vastuolusid. Kuid arhiiv ei tohiks olla see, mida mudel küsides ütleb. Deterministlikud andmed annavad tõenäosuslikele tööriistadele pinnase, millel seista. Ilma pinnaseta muutub ka hea mudel institutsiooni enda mineviku väga sujuvaks turistiks.
Stabiilsed andmed muudavad ka hindamise tähendusrikkaks. Kui meeskonnad teavad varasemate juhtumite täpset allikaolekut ja aktsepteeritud väljundit, saavad nad testida, kas uued tööriistad parandaksid või halvendaksid tööd. Nad saavad võrrelda kokkuvõtteid, viiteid, soovitusi ja keeldumiskäitumist. Nad näevad, kas mudel kasutab õigeid tõendeid. Nad suudavad tuvastada, kui mudel loob seoseid kirjete vahel, mis pole kunagi ühendatud olnud. Hindamine vajab fikseeritud juhtumeid. Fikseeritud juhtumid vajavad deterministlikke andmeid.
Kõige ohutumad AI-toimingud näevad seetõttu vähem välja nagu maagia ja rohkem nagu dokumendihaldus paremate liidestega. See võib pettumust valmistada kõigile, kes lootsid glamuursemat tulevikku. Pettumus on kasulik. Institutsioone ei loodud selleks, et olla glamuursed. Need loodi selleks, et kanda kohustusi ajas edasi. AI saab aidata, kuid ainult siis, kui mälu, mida see puudutab, on piisavalt stabiilne, et vastata.
Tavaline distsipliin
Selles distsipliinis pole mingit saladust. Salvesta see, mis välja anti. Säilita see, mis oli kättesaadav. Versioneeri seda, mis võib muutuda. Lisa parandused juurde. Nimeta volitus. Hoia ekspordid loetavana. Testi migratsiooni. Eralda vaade kirjest. Kohtle AI-väljundit tüübitud artefaktina, mitte vabalt hõljuvana mugavusena. Anna inimestele võimalus vaidlustada ja parandada. Tee seda enne vaidlust, sest pärast vaidlust muutub iga puuduv väli huvitavamaks ja vähem kättesaadavaks.
Deterministlikud andmed ei tee institutsioone täiuslikuks. Need muudavad ebatäiuslikkuse juhitavaks. Stabiilne kirje võib näidata viga ja see võib olla ebamugav. Hea. Institutsioonid, kes ei talu oma vigade nägemist, ei tohiks automatiseerimist kiirendada. Nad peaksid kõigepealt parandama oma suhet tõenditega.
Fail, mis muutis oma minevikku, ei teinud seda sellepärast, et keegi tahtis petta. See muutus, sest süsteem kohtles minevikku vaatena. See on disainiviga, millel on juhtimisalased tagajärjed. Parandus ei ole karta AI-d, vältida kaasaegseid liideseid ega naasta paberile kangelasliku klammerdamisega. Parandus on luua kirjeid, mis püsivad paigal, samal ajal kui nende ümber olevad tööriistad liiguvad.
Institutsioonid vajavad kindlaid andmeid, sest inimesed peavad teadma, mida institutsioonid tegid. Antud õigus, keelatud hüvitis, registreeritud ravi, allkirjastatud leping, märgitud risk, tehtud parandus, tagasi võetud nõusolek, väljastatud sanktsioon. Need toimingud peavad säilima üle järgmise liidese, järgmise mudeli, järgmise tarnija ja järgmise organisatsiooniskeemi. Tõenäosus võib aidata töös. Andmed peavad kandma vastutust. Vastutus, erinevalt genereeritud kokkuvõttest, ei tohiks värskendamisel oma sõnastust muuta.