Počasno nasilje slabih podatkov
Preglednica ni zavpila
Preglednica ni bila videti nevarna. Tako se skoraj vedno začne. Ležala je v skupni mapi s smiselnim imenom, tremi skritimi stolpci, dvema datumskima formatoma, poljem za komentarje, ki je preraslo v kratko novelo, in zavihkom z imenom final, ki je lagal na tradicionalni način. Ekipa jo je uporabljala za usklajevanje evidenc o strankah, preden so jih vnesli v nov delovni tok. Nihče ni bil nepremišljen. Preverili so vsote. Odstranili so očitne dvojnike. Vprašali so osebo, ki je datoteko podedovala od osebe, ki jo je podedovala pred njo. Odgovori so bili dovolj verjetni, da so nadaljevali.
Tri mesece pozneje se je škoda pokazala, a ne kot en sam dogodek. Stranko so zaprosili za dokumente, ki jih je že predložila. Drugo so preusmerili v napačno servisno vrsto. Na zadevi se je pojavil znak tveganja, ker je zaprt račun še vedno izgledal aktiven. Podporni agent je porabil dvajset minut za opravičevanje sistema, ki je vztrajal pri starem naslovu. Vodja je opazil nekoliko boljšo pretočnost in nekoliko slabše zaupanje. Noben od teh dogodkov ni bil videti dovolj velik, da bi ustavil program. Skupaj pa so bili program.
Slabe podatke pogosto opisujemo kot tehnično nevšečnost. Manjkajoča polja, nedosledne kode, podvojene vrstice, zastareli zapisi, šibke oznake. Ta jezik je natančen in premajhen. Slabi podatki postanejo počasno nasilje, ko majhne napake tiho prenašajo stroške na ljudi, ki jih niso povzročili. Državljani morajo dokazovati, kar je institucija pozabila. Zaposleni morajo popravljati, kar je cevovod izkrivil. Stranke se morajo ponavljati. Revizorji morajo rekonstruirati pomen, potem ko je bil pomen zavržen. Modeli so videti negotovi, pristranski ali nespametni, čeprav deloma odražajo napako pri vodenju evidenc.
Nasilje je počasno, ker je škoda razpršena. Nobena posamezna vrstica ne prevzame odgovornosti. Nobena posamezna nadzorna plošča ne prizna dolga. Sistem še naprej deluje in zato od daleč izgleda uspešen. Škoda živi v dodatnih klicih, zavrnjenih vlogah, napačnih pismih, zavrnjenem dostopu, razočaranem osebju, okrnjenem ugledu in odločitvah, ki jih je vse težje izpodbijati, ker se je zapis naučil zveneti uradno. Slabi podatki ne potrebujejo drame. Imajo potrpljenje.
Kakovost ni čistoča
Kakovost podatkov se pogosto zreducira na urejenost, kot da bi bil cilj tabela brez vidnih drobtin. Urejenost pomaga. Standardni formati, veljavne vrednosti, izpolnjena polja, odstranjeni podvojeni zapisi in smiselni razponi so nujni. Toda urejen nabor podatkov je lahko še vedno napačen za določeno nalogo. Polje je lahko popolnoma oblikovano in pomensko pokvarjeno. Datum je lahko veljaven in zastarel. Oznaka je lahko dosledna in nepravična. Zapis je lahko popoln, ker je nekdo izpolnil neznano z ne, kar je način, kako se številne male nesreče oblečejo v praznično obleko.
Kakovost je primernost za namen z dokazi. Isti zapis je lahko dovolj dober za pošiljanje novičnika, nezadosten za kreditno odločitev, nevaren za model za triažo v medicini in nepomemben za vrednotenje javne politike. Kontekst odloča. Kdo je zapis ustvaril. Po katerem pravilu. Za katero nalogo. S katero merilno metodo. Kako pogosto se posodablja. Katere opustitve so pričakovane. Katere vrednosti so sklepane. Katere vrednosti je vnesel uporabnik. Katere transformacije so se zgodile na poti. Brez tega konteksta kakovost postane razpoloženje in nadzorna plošča postane notranje oblikovanje.
AI to razlikovanje otežuje, ker so modeli lačni obsega. Obseg ima zapeljiv učinek na organizacije. Velik nabor podatkov lahko ljudi odvrne od vprašanja, ali zapisi še vedno pomenijo to, kar mislijo, da pomenijo. Več podatkov lahko statistično prekrije šum, lahko pa tudi razširi napačno predpostavko dlje. Če je oznako ustvarila preobremenjena ekipa, vam lahko milijon oznak da zelo veliko meritev preobremenjenosti. Če manjkajoče polje v enem sistemu pomeni zavrnjeno in v drugem neznano, združevanje ustvari kategorijo, ki bi morala nositi opozorilni brezrokavnik.
Stari rek smeti noter, smeti ven je še vedno uporaben, a je preveč vesel. Sodobni sistemi lahko smeti noter spremenijo v samozavesten izpis, prednostne čakalne vrste, avtomatizirana pisma, ocene tveganja, vodstvena poročila in povratne informacije za usposabljanje, ki hranijo naslednji model. Smeti ne odidejo več vljudno. Krožijo, spoznajo organizacijsko shemo in dobijo povabilo na strateške odbore.
Privzeta vrednost, ki je postala politika
Številne napake pri podatkih se začnejo s privzeto vrednostjo. Prazno postane neresnično. Manjkajoče postane nič. Neznano postane nizko tveganje. Brez odgovora postane privolitev. Zadnji znani naslov postane trenutni naslov. Najnovejši zapis postane najboljši zapis. Prosto besedilo postane oznaka, ker je moral nekdo objaviti nadzorno ploščo. Privzete vrednosti niso zle. Sistemi potrebujejo privzete vrednosti. Težava nastane, ko privzete vrednosti postanejo politika, ne da bi bile imenovane kot politika.
Privzeta vrednost je odločitev o negotovosti. Pove, kaj bo organizacija storila, ko nečesa ne ve. Ta odločitev je lahko neškodljiva v delovnem procesu z majhnim vplivom in nesprejemljiva v procesu z velikimi posledicami. Če je tržna nastavitev prazna, lahko previdna privzeta vrednost preprosto prepreči sporočilo. Če je polje o upravičenosti do nadomestila prazno, lahko obravnavanje kot ne pomeni zavrnitev podpore. Če je klinično polje o alergijah prazno, obravnavanje kot brez alergij ni podatkovna odločitev. To je zelo slab dan, ki pride prezgodaj.
Dobro upravljanje podatkov sili privzete vrednosti na svetlobo. Razlikuje med neznano, se ne uporablja, ni zbrano, zavrnjeno, v obravnavi, ocenjeno, podedovano, sklepano in preverjeno. Te kategorije se zdijo dolgočasne, dokler alternativa ne spremeni prazne celice v avtoriteto. Sistem, ki ne more predstaviti negotovosti, pogosto povzroči, da negotovost izgine, tako da se pretvarja, da jo je razrešil. To je učinkovito na enak način, kot je učinkovito pometanje stekla pod preprogo. Tla so čista. Noga se kasneje pritoži.
Praktični preizkus je preprost: ali bi lahko pregledovalec videl, kje je privzeta vrednost delovala. Če je priporočilo modela, pot delovnega procesa ali metrika poročila odvisna od privzete vrednosti, bi moral zapis to pokazati. Če se privzeta vrednost spremeni, bi morali biti prejšnji izidi še vedno razložljivi. Če se ljudje ne strinjajo s privzeto vrednostjo, bi moral obstajati lastnik. V nasprotnem primeru organizacija ni avtomatizirala pravila. Avtomatizirala je predpostavko, ki se izogiba očesnemu stiku.
Slabe oznake so tiha politika
Oznake si zaslužijo poseben sum, ker pogosto delujejo bolj objektivne, kot so. Goljufija, visoko tveganje, upravičen, skladen, nujno, slaba kakovost, zadovoljen, nevarno, rešeno. Te besede stisnejo človeško presojo, politiko, navade, spodbude, časovni pritisk in včasih institucionalne predsodke v polje, ki je dovolj kratko za model. Oznaka nato potuje, kot da bi bila dejstvo. Ko pride do usposabljanja, je argument, ki jo je ustvaril, običajno že doma.
Oznaka je lahko napačna, ker se je človek zmotil. Napačna je lahko tudi zato, ker so bila navodila nejasna, ker se je politika spremenila, ker je pregledovalcu manjkalo sobesedila, ker je bila kategorija preširoka, ker je orodje spodbujalo hitrost ali ker je organizacija nagrajevala določen izid. Oznaka je lahko dosledna in še vedno kodira slabo prakso. Doslednost ni vrlina. Je zgolj ponovljivost, ponovljivost pa lahko ponavlja neumnost z občudovanja vredno disciplino.
Za umetno inteligenco šibke oznake postanejo več kot šum v poročanju. Postanejo cilj, ki se ga model uči. Če so na prejšnje odločitve vplivali neenakomeren dostop, zgodovinska pristranskost, slabe spodbude ali nepopolni zapisi, se model morda nauči brazgotinskega tkiva institucije in temu reče napoved. To modela ne naredi zlonamernega. Naredi cilj usposabljanja premalo preiskan. Kriviti samo algoritem je privlačno, ker algoritmi ne hodijo na ocene uspešnosti.
Boljša praksa označevanja ni glamurozna. Napišite smernice. Zabeležite identiteto ali vlogo pregledovalca, kjer je to primerno. Zajemite nestrinjanje. Preverjajte kakovost na vzorcih. Ohranite primere robnih primerov. Preglejte oznake po spremembah politike. Ločite oznake, ustvarjene za operativo, od oznak, ustvarjenih za usposabljanje. Poimenujte negotovost. Pregledovalcem dovolite, da rečejo ni mogoče določiti. Slednje je presenetljivo radikalno v organizacijah, ki imajo raje urejene stolpce kot pošten dvom.
Podvajanje ni le izguba prostora
Podvojeni zapisi zvenijo kot težava s shranjevanjem, dokler ne srečajo človeka. Potem postanejo zamujeni termini, napačna upravičenost, razdrobljena zgodovina, ponavljajoča se registracija, več računov, nasprotujoče si ocene tveganja in pisma, ki enega človeka nagovarjajo kot tri stranke. Baza podatkov morda misli, da ima več zapisov. Človek doživi institucijo, ki ga ne prepozna. To je druga vrsta napake.
Identiteta je še posebej zahtevna, ker je resnični svet neurejen. Ljudje spreminjajo imena, naslove, delodajalce, zdravnike, šole in družinske strukture. Podjetja se združujejo. Sredstva se premikajo. Naprave se zamenjajo. Oddelki preimenujejo programe, ker ima očitno svet še vedno dovolj zmede. Pravila za ujemanje potrebujejo ponižnost. Prestroga in se ista oseba razdeli med več zapisov. Preohlapna in se različne osebe združijo v eno institucionalno fikcijo. Obe napaki povzročata škodo.
Sistemi umetne inteligence še povečujejo težave z identiteto, ker se zanašajo na sestavljen kontekst. Povzetek primera lahko spregleda pomembno zgodovino, ker so bili zapisi razdeljeni. Ocena tveganja lahko preceni izpostavljenost, ker so bili podvojeni zapisi šteti dvakrat. Priporočilo lahko navaja zapis, ki pripada nekomu drugemu, po preveč agresivni združitvi. Pridobivanje lahko prikaže napačno datoteko, ker so bili identifikatorji ponovno uporabljeni. Model postane vidni obraz plasti identitete, ki je bila tiho nezdrava.
Dobra uprava identitete daje podvojenim zapisom postopek, ne le hitro čiščenje. Opredeljuje zaupanje v ujemanje, pragove za človeški pregled, avtoriteto vira, pravice do združevanja in razdruževanja, revizijske sledi, obveznosti obveščanja in poti za popravke. Najpomembneje je, da obravnava razdruževanje kot operacijo prvega reda. Organizacije obožujejo združevanje, ker daje občutek pospravljanja. Pri razdruževanju pa izvejo, ali je pospravljanje porušilo resničnost.
Zastarelost je problem upravljanja
Podatki ne ostanejo resnični samo zato, ker se jih nihče ni dotaknil. Nekatera dejstva propadajo. Naslovi, zaposlitveni status, stanje računa, pravna pravila, klinična stanja, soglasja, stopnje tveganja, pozicije delnic, upravičenost do storitev, lastništvo, umerjanje naprav, status dobavitelja. Zastarela vrednost lahko brezhibno prestane validacijo. Ima pravilen tip, dovoljeno kodo in profesionalno držo. Še vedno pa je danes napačna.
Zastarelost je nevarna, ker sistemi pogosto obravnavajo odsotnost posodobitve kot dokaz stabilnosti. Na mnogih področjih tišina pomeni, da nihče ni preveril. Vir podatkov je morda odpovedal. Stranka morda ni imela razloga za prijavo. Javni register morda zaostaja. Senzor je morda odklopljen. Oddelek morda še vedno uporablja izvleček iz prejšnjega četrtletja, ker delo osveževanja pripada osebi, ki je zdaj na dopustu. Podatki niso postali aktualni s tem, da so vljudno sedeli v bazi.
Vsako pomembno polje potrebuje pogodbo o svežini. Kako stara je lahko ta vrednost za ta namen. Kateri vir jo potrjuje. Kaj se zgodi, ko svežina poteče. Ali se lahko delovni tok nadaljuje z opozorilom, zahteva človeški pregled, pridobi živi vir ali se ustavi. Svežina mora biti odvisna od namena. Poštni naslov za novice lahko prenese več starosti kot naslov za pravno obvestilo. Kazalnik tveganja za vsakodnevno poslovanje ne more živeti po istem koledarju kot letno poročanje.
Pogodbe o svežini pomagajo tudi pri vrednotenju umetne inteligence. Ko model odpove, se ekipe pogosto vprašajo, ali je model razumel podatke. Najprej bi se morale vprašati, ali so bili podatki še živi. Zastarel, a veljaven zapis je še posebej neprijetna past, ker prestane tehnične preglede in ne prestane resničnosti. Resničnost, kot običajno, odda manj prijav, kot bi si želeli.
Za arhiv se krivi model
Ko so rezultati umetne inteligence slabi, je model najlažji osumljenec. Je viden, drag, nov in včasih čudovito samozavesten. Toda mnogi rezultati so le toliko dobri, kolikor so dobri zapisi, ki jih model lahko vidi. Model, ki mora povzeti nepopolno datoteko, bo izdelal lepo pomanjkljivost. Model, ki mora razvrščati primere iz nedoslednih oznak, se bo nedoslednosti naučil z odlično držo. Model, ki mora poiskati politiko iz zastarele baze znanja, bo citiral preteklost, kot da ima še vedno pisarniški dostop.
To je pomembno, ker lahko popravki, osredotočeni na model, zapravijo čas. Ponovno usposabljanje ne bo popravilo manjkajoče privolitve. Večje okno konteksta ne bo popravilo podvojenih identitet. Boljši poziv ne bo obnovil izbrisanega pomena. Več vrednotenja ne bo pomagalo, če testni niz nosi iste pokvarjene oznake kot produkcija. Model bo morda še vedno potreboval delo. Toda podatkovno plast je treba preiskati kot osumljenca s sredstvi, motivom in dolgo zgodovino.
Obstaja tudi politična ugodnost v tem, da se krivi model. Če je model kriv, popravek pripada ekipi za umetno inteligenco. Če so krivi podatki, lahko popravek pripada operativi, pravnim službam, politiki, produktu, službi za stranke, upravljanju zapisov, dobaviteljem in vodstvu. To je večja miza. Večje mize prinesejo več točk dnevnega reda. Nekatere organizacije imajo raje manjšo mizo in slabšo razlago.
Resen pregled incidentov se zato začne prej. Kateri vir je nosil dejstvo. Ali je bil aktualen. Ali je bil dovoljen. Ali se je pomen ohranil. Ali je bila oznaka veljavna za ta namen. Ali se je ujemanje identitet obnašalo pravilno. Ali je privzeta vrednost ukrepala. Ali je človeški popravek dosegel nadaljnji sistem. Ali je nabor za vrednotenje vključeval tovrstno napako. Šele po teh vprašanjih je treba model povabiti, naj se brani. Morda je še vedno kriv. Ne bi smel biti osamljen.
Popravilo mora doseči vir
Številne organizacije imajo postopke popravljanja, ki odpravijo vidni primer, ne pa tudi podatkovnega sistema. Agent podpore posodobi naslov za današnje pismo, glavni zapis pa ostane star. Delavec primera preglasi upravičenost, manjkajoče polje pa ostane manjkajoče. Zdravnik popravi povzetek, pravilo za izločanje pa še naprej ustvarja isto napako. Opomba službe za stranke pravi, naj prezre prejšnjo vrednost, kar je pogumen, a krhek način upravljanja baze podatkov.
Popravilo mora potovati navzgor. Če se napaka odkrije na mestu uporabe, mora popravek doseči avtoritativni vir ali vsaj ustvariti usklajeno stanje z dokazi. Sistem mora vedeti, ali je popravek lokalni, začasen, sporen, preverjen ali strukturni. Popravek, ki ga ni mogoče razširiti, postane še en kos slabih podatkov. Zelo učinkovito, v mračnem smislu.
Popravljalna pot mora ljudi tudi zaščititi pred tem, da bi postali neplačani skrbniki podatkov za institucije. Razumno je od nekoga zahtevati, da enkrat posreduje manjkajočo informacijo. Ni razumno od njega zahtevati, da popravlja isti zapis na petih kanalih, ker sistemi organizacije uživajo preveč neodvisnosti. Ko ljudje znova in znova posredujejo dejstva, institucija pa jih znova in znova pozablja, problem ni uporabniška trenja. Gre za odpoved institucionalnega spomina.
Dober popravek ustvarja učenje. Če veliko popravkov zadene isto polje, je obrazec za zbiranje morda nejasen. Če se po spremembi pravila za ujemanje zgodi veliko razdružitev, je prag napačen. Če je oznaka pogosto sporna, je treba smernice pregledati. Če zastareli zapisi povzročajo incidente, manjkajo pogodbe o svežini. Kakovost podatkov se izboljša, ko popravek obravnavamo kot dokaz, ne kot nevšečnost.
Slabi podatki niso moralno nevtralni
Mamljivo je obravnavati kakovost podatkov kot zadevo zaledne pisarne. Zapisi so neurejeni, res, a vsaka organizacija ima neurejene zapise. To drži na enak način, kot ima vsaka stavba prah. Vprašanje je, ali je prah na polici ali v prezračevalnem sistemu. Ko slabi podatki začnejo poganjati avtomatizirane odločitve, prednostno razporejeno delo, izhode umetne inteligence, poročanje, skladnost, plačila ali javne storitve, to ni več hišni red zaledne pisarne. Postane način izvajanja moči.
To ne pomeni, da je vsaka napaka škandal. Resne institucije lahko delajo napake. Moralno vprašanje je, ali so napake vidne, popravljive in ali je preprečeno njihovo množenje. Sistem vodenja zapisov, ki skriva negotovost, se upira popravkom, prizadeto osebo kaznuje z večkratnimi dokazili in še naprej uporablja izpeljane napake, ni le neurejen. Je trajnostno nepravičen.
Ni enotnega zdravila. Delo s podatki je lokalno, domeno specifično in včasih ponižujoče. A drža je jasna. Pomembna polja obravnavajte kot odločitve z lastniki. Negotovost naredite predstavljivo. Izvor podatkov imejte blizu. Svežino povežite z namenom. Revidirajte oznake. Upravljajte identiteto. Širite popravke. Merite breme popravljanja, ne le hitrosti obdelave. Ko je vključena umetna inteligenca, preizkusite podatkovno pot enako temeljito kot pot modela. Zapisi niso kulisa. So del stroja.
Preglednica ni zavpila, ker preglednice redkokdaj zavpijejo. Sistem je naredil, kar sistemi počnejo: tihe predpostavke je spremenil v glasnejše posledice. Nauček ni v tem, da morajo biti vsi podatki popolni, preden se delo lahko začne. To bi pomenilo konec civilizacije ali vsaj načrtovanja za torek. Nauček je, da slabim podatkom ne smemo dovoliti, da delujejo z avtoriteto, medtem ko ostajajo poceni, nevidni in odgovornost nekoga drugega. Počasno nasilje postane še počasnejše, ko ga nihče ne poimenuje. Postane manjše, ko mora zapis končno odgovarjati zase.