Inimlik hind loetamatute süsteemide eest
Märkmik ekraani kõrval
Kõige olulisem dokumentatsioon ruumis ei olnud süsteemis. See oli spiraalmärkmik teise monitori kõrval, mida hoidsid koos teip ja pika kannatuse autoriteet. Meeskond kasutas seda igal õhtusel vahetusel. Esimene lehekülg selgitas, milline staatus juhtumitööriistas tegelikult tähendas rahanduse ootamist. Neljas lehekülg loetles kolme välja nimed, mis näisid vabatahtlikena, kuid ei olnud. Seitsmes lehekülg hoiatas, et ekspordinuppu ei tohi vajutada pärast kella 17:00, sest öine töö tõlgendaks faili uue sissekandena ja kõik ärkaksid järjekorra juurde, mis oli mitmekordistunud nagu administratiivne folkloor.
Ametlik protsessikirjeldus oli puhtam. Sellel olid kastid, nooled ja kuupäev jaluses. See oli ka vale täpselt nendes kohtades, mis olid olulised. Tarkvara oli muutunud. Müüja oli vahetunud. Poliitika erand oli muutunud tavapraktikaks. Üks integratsioon oli ebaõnnestunud nii sageli, et töötajad olid leiutanud kontrollimisrituaali. Märkmik ei olnud võluv kohalik harjumus. See oli inimlik plaaster süsteemile, mis ei suutnud enam ennast selgitada.
Loetamatud süsteemid ei anna endast harva teada ühe suurejoonelise ebaõnnestumisega. Need tekitavad väikseid makse. Töötaja kõhkleb enne klõpsamist, sest staatuse nimi on ebamäärane. Õde helistab kolleegile, sest armatuurlaua numbril puudub päritolu. Plaanija kopeerib andmed eraldi tabelisse, sest ametlikule aruandele ei saa loota. Arendaja väldib funktsiooni muutmist, sest keegi ei tea, kes sellest sõltub. Juht küsib ekraanipilti, sest auditijälg on tehniliselt olemas ja praktiliselt kasutu. Iga hetk on üleelatav. Koos moodustavad nad töökeskkonna.
Kulud ei ole ainult aeg. Need on tähelepanu, enesekindlus, vastutus ja lõpuks väärikus. Inimestest saavad tõlgid süsteemidele, mis oleksid pidanud olema loetavad. Nad kannavad varjatud teadmisi märkmikes, vestlusajalugudes, kõrvaltabelites ja harjumustes. Siis imestavad juhid, miks muutused on aeglased. Organisatsioon ei ole aeglane sellepärast, et inimesed vihkavad täiustusi. See on aeglane, sest täiustus peab kõigepealt ületama soo asjadest, mida keegi ei saa ohutult lugeda.
Loetamatu ei ole sama mis keeruline
Mõned süsteemid on keerulised, sest töö on keeruline. Tervishoid, logistika, hüvitised, teadushaldus, tootmine ja energiavõrgud ei muutu lihtsaks sellepärast, et joonistame puhtama diagrammi. Keerukus ei ole vaenlane. Loetamatus on. Loetav keeruline süsteem näitab oma osi, nimetab oma eeldused, avab oma üleminekud, salvestab oma põhjused ja annab operaatoritele piisavalt konteksti tegutsemiseks. Loetamatu lihtne süsteem peidab oma tähenduse siltide, kõrvalmõjude ja õnneliku ajastuse taha. Arva ära, kumb tekitab pikemad koosolekud.
Insenerid taandavad loetavuse mõnikord koodistiiliks. Kood on oluline, kuid see on vaid üks kiht. Süsteemil võib olla korralik kood ja loetamatu käitumine. Sellel võivad olla elegantsed klassid ja segased olekud. Sellel võib olla täiuslik nimetamine repositooriumis ja kasutajaliides, mis sunnib inimesi pähe õppima hõimukombeid. Sellel võivad olla logid, mis jäädvustavad iga sündmuse, ja see ei suuda siiski vastata, miks otsus tehti. Sellel võivad olla diagrammid, mis nägid projekti rahastamise ajal ajakohased välja ja toimivad nüüd peamiselt ajaloolise ilukirjandusena.
Loetavad süsteemid ühtlustavad mitut pinda. Liides kirjeldab olekut sõnadega, mida inimesed saavad kasutada. Andmemudel säilitab tähenduse, mitte ei lameda seda liiga vara. Töövoog nimetab üleminekud ja omanikud. Koodil on testid ärireeglite ümber, mitte ainult õnneliku tee ümber. Logid seovad tegevuse põhjusega. Dokumentatsioon peegeldab elavat süsteemi. Monitooring ütleb operaatorile, mis muutus, mitte ainult seda, et punane on muutunud entusiastlikumaks.
See ühtlustamine on keeruline, sest loetavusel on palju lugejaid. Arendaja loeb koodi. Juhtumitöötaja loeb ekraani. Juht loeb järjekorda. Audiitor loeb jälge. Kasutaja loeb sõnumit. Tugitehnik loeb logi. Regulaator loeb selgitust. Uus kolleeg loeb seda kõike vaikse õudusega, nagu keegi, kes on just pärandanud sahtli täis kaableid. Kui süsteem on loetav ainult ühele neist lugejatest, pole see piisavalt loetav.
Oletamise inimlik maks
Oletamine on töö. See ei paista tööna, sest see on sageli vaikne. Inimene peatub, meenutab mustrit, küsib teiselt inimeselt, võrdleb kahte ekraani, vaatab eilset eksporti, kontrollib, kas erand kehtib, ja jätkab seejärel. Mitte ükski sellest ei ilmu läbilaskevõime mõõdikutes. Juhtum võttis seitse minutit, ütleb armatuurlaud. Armatuurlaud ei tea, et kolm neist minutitest kulus mõtlemisele, kas väli nimega verified tähendab kasutaja, süsteemi, rahanduse või kellegi nimega Vera poolt kinnitatud, kes lahkus 2022. aastal.
Selline oletamine tekitab väsimust, sest töötaja ei saa protsessi lõdvestuda. Iga samm võib sisaldada varjatud tähendust. Süsteem muutub ruumiks, kus lülitite sildid kirjutasid inimesed, kes eeldasid, et nad on alati lähedal. Operaatorid kompenseerivad ettevaatlikuks muutumisega ja siis süüdistatakse neid vastupanus. Nad ei ole vastupanijad. Nad on ratsionaalsed. Nad on õppinud, et liides mõnikord valetab väljajätmise teel.
Oletamine koondab ka võimu valedesse kohtadesse. Inimene, kes teab süsteemi tegelikku tähendust, muutub asendamatuks. See võib tunduda meelitav, kuni see inimene tahab puhkust, vahetab töökohta, jääb haigeks või lihtsalt lõpetab institutsionaalse mälu mitteametliku koostaja rolli nautimise. Loetamatu süsteem muudab teadmised kogemata pantvangivõtuks. Keegi ei plaaninud seda. Halbade stiimulite arhitektuuriks muutumiseks pole plaane vaja.
Koorem langeb kõige raskemini uuematele töötajatele ja väiksema organisatsioonilise võimuga inimestele. Vanemad töötajad teavad, kellelt küsida. Uued töötajad ei tea. Töövõtjad saavad killud. Tugitöötajatele öeldakse, et järgige protseduuri, ja siis avastavad nad, et protseduur on kaart linnast, mis muutis oma tänavaid eelmisel talvel. Kasutajad tunnevad tulemust viivitusena, ebajärjekindlusena või seletamatu keeldumisena. Süsteem võib olla sisemiselt nutikas. Väliselt palub see inimestel oma ebaselgust endasse võtta.
Logid, mis ei räägi lugu
Paljud loetamatud süsteemid peavad uhkusega logisid. See on hea, kuid mitte piisav. Logirida võib olla täpne ja siiski kasutu. Kasutaja uuendas olekut kell 14:03 on fakt. See ei ütle, miks olek muutus, milline reegel seda lubas, milline tõend oli olemas, kas üleminek oli normaalne, kes reeglit omab, milline töövoo versioon oli aktiivne või kas allavoolu süsteem muudatuse vastu võttis. Faktihunnik pole veel lugu. See on ainult hunnik ajatemplitega.
Operatiivsed tõendid tuleb üles ehitada küsimuste ümber, mida inimesed tegelikult küsivad. Miks see juhtum liikus. Miks see kirje peatus. Miks see mudeli vastus töövoogu sattus. Miks see eksport neid ridu sisaldas. Miks kaks aruannet ei ühtinud. Miks see kasutaja neid andmeid näha sai. Miks süsteem kuus tundi uuesti proovis ja siis täpselt sel hetkel alla andis, kui kõik koju läksid. Logi ei tohiks iga tavalise küsimuse puhul nõuda arheoloogilisi väljakaevamisi.
Hea tõendusmaterjal ei ole luksus audiitoritele. See on lahkus operaatoritele. Juhtumi ajal peavad inimesed otsingut kitsendama. Nad peavad teadma, milline olek muutus, milline sisend saabus, milline reegel käivitus, milline sõltuvus ebaõnnestus, milline taaste toiming tehti ja mis jääb ebaselgeks. Kui süsteem neile küsimustele vastata ei suuda, värbab see inimesed surve all kohtuekspertiisi analüütikuteks. See on põnev kriminaalromaanis ja vähem ahvatlev palgaarvestuse juures.
AI-põhised süsteemid tõstavad lati kõrgemale. Kui mudeli väljund mõjutab töövoogu, peaks süsteem säilitama allika, viiba või otsingukonteksti, kui see on asjakohane, mudeli versiooni, usaldusväärsuse või määramatuse esituse, poliitikavärava, inimese ülevaatuse staatuse ja lõpliku toimingu. Mõte ei ole muuta iga interaktsiooni romaaniks. Mõte on säilitada piisavalt konteksti, et hilisem lugeja saaks rekonstrueerida, miks süsteem nii käitus. Muidu muutub mudeli sujuvus veel üheks loetamatuks kihiks.
Liidesed võivad poliitikat peita
Loetamatu liides on sageli poliitikaprobleem pikslite kuues. Nupp ilmub ainult mõnel juhul, kuid keegi ei tea, milline reegel seda juhib. Hoiatus on ühe meeskonna jaoks kollane ja teise jaoks punane, sest pilootprojekti ajal muudeti konfiguratsiooni. Väli võtab vastu vaba teksti, sest tegelikke kategooriaid oli poliitiliselt ebamugav määratleda. Järjekord on sorteeritud prioriteedi järgi, kuid prioriteet on valem, mida keegi ei leia. Liides näib toimiv. Pinna all antakse lahendamata otsused kasutajatele edasi üks klikk korraga.
See on oluline, sest inimesed kohtlevad tarkvara olekuid institutsionaalse tõena. Kui ekraan ütleb lõpetatud, eeldavad töötajad, et organisatsioon mõtleb lõpetatud. Kui ekraan ütleb abikõlblik, võib keegi tegutseda abikõlblikkuse alusel. Kui ekraan ütleb madal risk, liigub tähelepanu mujale. Mida tõsisem on töövoog, seda ohtlikumaks muutub ähmane liidesekeel. Silt ei ole kaunistus. See on väike leping süsteemi ja inimese vahel, kes peab seda usaldama.
Loetavad süsteemid muudavad poliitika nähtavaks seal, kus seda kasutatakse. Need näitavad, miks väli on kohustuslik, mida staatus tähendab, millised tõendid otsust toetavad, mis edasi juhtub ja kuidas tulemust vaidlustada. Need väldivad staatuseid, mis kõlavad isikuomadustena. Need eristavad esitatut vastuvõetust, kontrollitut aktsepteeritust, blokeeritut tagasilükatust, üle vaadatut kinnitatust. Need erinevused on tüütud ainult seni, kuni reaalne juhtum neist sõltub. Siis muutuvad kõik nimisõnade vastu väga huvitatuks.
Liides peaks ka ebakindlust ausalt paljastama. Kui väärtus on tuletatud, öelge seda. Kui mudel on klassifikatsiooni soovitanud, märkige see soovitatuks, kuni see aktsepteeritakse. Kui andmed on aegunud, näidake nende vanust. Kui sõltuvus on viibinud, ärge laske ekraanil teeselda, et vaikus on edu. Inimesed tulevad ebakindlusega toime paremini, kui süsteemid sageli eeldavad. Millega nad ohutult toime ei tule, on ebakindlus, mis on maskeeritud kindluseks, sest keegi tahtis puhast ekraani.
Dokumentatsioon on toote pinna osa
Dokumentatsiooni koheldakse sageli eraldi moraalse kohustusena, nagu hambaniidi kasutamist. Kõik nõustuvad, et see on oluline. Siis väljalase liigub, dokument mädaneb ja järgmine meeskond loeb seda ilme, mis on tavaliselt reserveeritud aegunud piimale. Ebaõnnestumine pole see, et inimesed on laisad. Ebaõnnestumine on see, et dokumentatsioon polnud süsteemiga piisavalt tugevalt ühendatud, et muutust üle elada.
Loetavad süsteemid muudavad dokumentatsiooni operatiivseks. Staatuse määratlused elavad töövoo lähedal. Andmesõnastikud genereeritakse või kontrollitakse skeemide vastu. Ärireeglitel on omanikud ja versioonid. Tööjuhendeid testitakse õppuste käigus. Veateated lingivad praeguste parandusteedeni. Arhitektuurilised otsused selgitavad kompromisse, mille tulevased meeskonnad muidu kannatuse kaudu uuesti avastavad. Koolitusmaterjal kasutab reaalseid olekuid ja reaalseid erandeid. Dokumentatsioonist saab kaart, mida käiakse, mitte muuseuminäitus.
See pole argument entsüklopeedilise dokumentatsiooni poolt. Liiga palju dokumentatsiooni võib olla veel üks loetamatu süsteem, ainult paremate pealkirjadega. Kasulik küsimus on, millist konteksti millised lugejad tegevuse hetkel vajavad. Juhtumitöötleja vajab teistsugust üksikasja kui arendaja. Audiitor vajab teistsuguseid tõendeid kui kasutaja. Tugitehnik vajab taasteteed, mitte hajutatud süsteemide filosoofiat kell 02:00. Hea dokumentatsioon austab lugeja tööd.
Hooldus on oluline sõna. Kui dokumentatsioonil pole omanikku, ülevaate käivitajat, ühendust muudatustega ega testi reaalses kasutuses, pole see dokumentatsioon. See on optimism lõikudes. Märkmik ekraani kõrval tõestas, et inimesed dokumenteerivad seda, mida nad peavad mõistma. Ülesanne on viia see teadmine privaatsetest ellujäämistööriistadest jagatud, juhitud, elavatele pindadele.
AI lisab uut tüüpi loetamatust
AI-süsteemid võivad muuta loetamatuse kallimaks, sest nad lisavad sujuvat käitumist juba niigi ebaselgetele töövoogudele. Mudel suudab kokku võtta, järjestada, klassifitseerida ja soovitada. Kui ümbritsev süsteem ei suuda näidata, millist allikat kasutati, milline poliitika vastust piiras, milline ebakindlus jääb alles ja kes väljundi vastu võttis, muutub mudeli sujuvus kamuflaažiks. Lause kõlab hästi. Asutus ei suuda siiski tegevust selgitada.
Eriline oht on mudeli väljundites, mis näivad täpsed, ilma et need oleksid operatiivselt põhjendatud. Riskiskoor, usaldusprotsent või kokkuvõte võivad tunduda selgusena. Kuid selgus kelle jaoks. Kui skoor pole seotud otsustuspiiri, tõendusmaterjali, kalibreerimisajaloo, ülevaatusprotsessi ja tagajärjega, muutub see dekoratiivseks numbriks. Dekoratiivsed numbrid on populaarsed, sest need muudavad armatuurlauad kõrgemana tunduma. Need on vähem populaarsed pärast seda, kui nad on suunanud päris inimese valesse järjekorda.
Loetav AI-operatsioon nõuab samu vanu voorusi, ainult vähem kannatlikkust käte vehkimise suhtes. Nimetage allikate hulk. Salvestage mudeli ja viipade versioonid, kus see on asjakohane. Hoidke otsingujälgi mõistlikes piirides. Eraldage soovitus tegevusest. Näidake, millal inimene väljundi vastu võttis, muutis või lükkas tagasi. Jälgige triivi. Säilitage edasikaebamise võimalused. Tehke keeldumine nähtavaks. AI ei kaota vajadust loetavuse järele. See tõstab selle puudumise hinda.
Eesmärk ei ole paljastada iga sisemist kaalu ega matta töötajaid tehnilise heitgaasi alla. Eesmärk on muuta operatiivne ahel arusaadavaks. Töötaja peaks teadma, miks süsteem seda juhtumit soovitas, milliseid tõendeid see kasutas, mida soovitus tohib teha ja kuidas seda vaidlustada. Audiitor peaks saama piisavalt konteksti taasesitada, et otsust hinnata. Kasutaja ei tohiks jääda lõksu ilusa vastuse taha, mida keegi ei oma.
Loetamatus muutub kultuuriks
Mõne aja pärast muudab loetamatu süsteem seda, kuidas organisatsioon mõtleb. Inimesed lõpetavad küsimise, miks, sest miks on liiga kallis. Nad küsivad, kes teab. Nad lõpetavad paranduste pakkumise, sest iga muudatus võib häirida nähtamatut sõltuvust. Nad loovad mitteametlikud protsessid, sest ametlikke ei saa usaldada. Nad kaitsevad end ekraanipiltidega. Nad planeerivad koosolekuid, et lepitada aruandeid, mis oleksid pidanud juba algusest peale kokku minema. Süsteem on õpetanud neid oma ootusi alandama.
Seda kultuuri on ülalt raske näha. Juhtkond võib näha stabiilset väljundit ja eeldada, et süsteem töötab. Väljund on stabiilne, sest inimesed neelavad ebastabiilsust. Nad tõlgivad, kontrollivad, parandavad, mäletavad ja vabandavad. Kui need pingutused on nähtamatud, optimeeritakse need lõpuks välja, mis on elegantne viis muuta pädevus intsidentide ootejärjekorraks. Organisatsioon saab siis teada, et süsteem polnudki stabiilne. Seda hoidsid koos inimesed, kellele öeldi, et nad on ebatõhusad.
Loetavatel süsteemidel on teistsugune kultuuriline mõju. Need lasevad inimestel süsteemiga mittenõustuda, sest nad näevad selle väiteid. Need muudavad koolituse vähem sõltuvaks folkloorist. Need vähendavad hirmu muutuste ees, sest sõltuvused on nimetatud. Need loovad paremaid vestlusi poliitika, operatsioonide ja inseneritöö vahel. Need lasevad tugipersonalil kasutajatele vastata ilma olekukoodide ümber teoloogiat leiutamata. Need muudavad vigade tunnistamise lihtsamaks, sest põhjus pole peidetud labürinti.
Siin on moraalne mõõde, kuid see pole abstraktne. Kui süsteem paneb töötaja vastutama tulemuste eest, keelates samal ajal sellele töötajale piisava konteksti süsteemi mõistmiseks, on see ebaõiglane. Kui süsteem teeb kasutaja otsuse subjektiks, mida keegi ei suuda selgitada, on see ebaõiglane. Kui süsteem paneb meeskonna kandma dokumenteerimata riski, kuni miski katki läheb, on see ebaõiglane. Loetavus pole kosmeetiline lahkus. See on osa vastutustundlikust delegeerimisest.
Lugemiseks ehitamine
Loetav süsteem on ehitatud lugejaid silmas pidades. See kõlab ilmselgena, kuni loendate, kui palju süsteeme on ehitatud kirjutajatele, müüjatele, raamistikele või komitee kompromissidele. Lugeja on inimene, kes peab süsteemist aru saama tegutsemise hetkel. Mõnikord on see inimene arendaja. Mõnikord kõnekeskuse töötaja. Mõnikord audiitor. Mõnikord kasutaja, kes saab keeldumise. Mõnikord juht, kes otsustab, kas järjekord on ohutu. Loetavus algab nende lugejate ja nende küsimuste nimetamisest, millele vastuseid vajatakse.
Iga olulise oleku kohta peaks süsteem suutma öelda, mida see tähendab, kuidas selleni jõuti, kellele see kuulub, millised tõendid seda toetavad, mis edasi juhtub ja kuidas seda parandada saab. Iga olulise ülemineku puhul peaks see säilitama põhjuse, tegija, reegli, versiooni ja tagajärje. Iga automatiseerimise puhul peaks see eristama soovitust otsusest. Iga aruande puhul peaks see näitama päritolu. Iga erandi puhul peaks see nimetama volitaja. Ükski sellest pole glamuurne. See on miinimumnõue, kui usaldada töö masinale, loobumata seda ümbritsevatest inimestest.
On olemas kompromissid. Rohkem nähtavat detaili võib üle koormata. Rohkem struktuuri võib aeglustada varast tarneid. Rohkem tõendeid võib tõstatada salvestus- ja privaatsusküsimusi. Täpsem keel võib paljastada lahkarvamusi, mis olid varem varjatud. Need on reaalsed kulud. Need on siiski paremad kulud kui varjatud töö, mis kaasneb loetamatu süsteemi igavese lahtimõtestamisega. Vastus ei ole kõike kõikjal kuvada. Vastus on hoida tähendus kättesaadavana tasandil, kus otsuseid tehakse.
Spiraalmärkmikku ei tohiks romantiseerida. See oli hoolivuse märk, aga ka ebaõnnestumise sümptom. Inimesed olid teinud seda, mida head töötajad teevad: nad kaitsesid tööd. Süsteem oli teinud seda, mida loetamatud süsteemid teevad: see muutis selle kaitse privaatseks, hapraks ja ebaõiglaselt jaotatuks. Inimlik süsteem oleks märkmikust õppinud ja toonud selle teadmise koju.
Loetavuse lubadus
Loetavuse lubadus on tagasihoidlik. See ei muuda iga protsessi lihtsaks. See ei eemalda otsustusvõimet. See ei hoia ära iga viga. See ei vabasta organisatsioone lahkarvamustest, sest ükski tarkvara pole veel komiteed kui eluvormi võitnud. Mida see teeb, on see, et annab inimestele õiglasema suhte süsteemidega, mida nad kasutavad. See laseb neil näha olekuid, põhjuseid, tõendeid, omandit ja järgmisi samme.
Sellel õiglusel on praktiline väärtus. Sisseelamine muutub kiiremaks. Juhtumid muutuvad kitsamaks. Auditid muutuvad vähem teatraalseks. Muudatused muutuvad vähem hirmutavaks. Kasutajad saavad selgemaid selgitusi. Insenerid saavad koodi muuta, teades paremini tagajärgi. Juhid näevad, kus töö on ummikus, selle asemel et vaadata armatuurlauda, mis on rahulikkuse välja mõelnud. Süsteem muutub vähem sõltuvaks privaatsest mälust ja rohkem sõltuvaks jagatud tõest.
Loetamatute süsteemide inimlik hind makstakse minutite, vigade, ettevaatuse, stressi ja vaikse küünilisusena. Selle maksavad need, kes õpivad varjatud tähendusi, ja need, kes ei õpi. Selle maksavad kasutajad, kes ootavad, kui töötajad masinat dešifreerivad. Selle maksavad organisatsioonid, mis kaotavad võime muutuda, sest keegi ei suuda lugeda seda, mis neil on ehitatud.
Loetavad süsteemid ei ole pehmemad süsteemid. Need on süsteemid, mis austavad tõsiasja, et tehnoloogiat juhivad inimesed, kelle tähelepanu on piiratud ja kellel on tõeline vastutus. Süsteemi, mis suudab end selgitada, on lihtsam usaldada, lihtsam kahtluse alla seada ja lihtsam parandada. See ei ole kaunistus. See on osa tööst.