Žmonių kaina, kai sistemos nesuprantamos

Nepastebimos sistemos ne tik apsunkina inžinierių darbą. Jos neapibrėžtumą, nuovargį, kaltę ir tylius pavojus perkelia žmonėms, kurie turi jomis naudotis.

Žmonių kaina, kai sistemos nesuprantamos

Užrašų knygelė šalia ekrano

Svarbiausia dokumentacija kambaryje nebuvo sistemoje. Tai buvo spiralinė užrašų knygelė, gulėjusi šalia antrojo monitoriaus, laikoma kartu juostos ir ilgai kentėjusio autoriteto. Komanda ja naudodavosi kiekvieną vakarinę pamainą. Pirmame puslapyje buvo paaiškinta, kuri būsena atvejo įrankyje iš tikrųjų reiškia laukimą finansų skyriaus. Ketvirtame puslapyje buvo išvardyti trijų laukų, kurie atrodė neprivalomi, bet tokie nebuvo, pavadinimai. Septintame puslapyje buvo įspėjama, kad eksporto mygtuko nereikėtų spausti po 17:00, nes naktinė užduotis failą interpretuotų kaip naują gavimą ir visi pabustų prie eilės, išaugusios tarsi administracinis folkloras.

Oficialus proceso aprašymas buvo tvarkingesnis. Jame buvo langeliai, rodyklės ir data poraštėje. Jis taip pat buvo klaidingas būtent tais atvejais, kurie buvo svarbūs. Programinė įranga pasikeitė. Tiekėjas pasikeitė. Politikos išimtis tapo įprasta praktika. Viena integracija taip dažnai žlugdavo, kad darbuotojai išrado tikrinimo ritualą. Užrašų knygelė nebuvo žavus vietinis įprotis. Tai buvo žmogiškas lopas ant sistemos, kuri nebegalėjo paaiškinti savęs.

Neskaitomos sistemos retai praneša apie save vienu įspūdingu žlugimu. Jos sukuria mažus mokesčius. Darbuotojas dvejoja prieš spustelėdamas, nes būsenos pavadinimas neaiškus. Slaugytoja skambina kolegai, nes skaičiui prietaisų skydelyje trūksta kilmės. Planuotojas nusikopijuoja duomenis į privačią lentelę, nes oficialia ataskaita negalima pasitikėti. Kūrėjas vengia keisti funkciją, nes niekas nežino, kas nuo jos priklauso. Vadovas prašo ekrano nuotraukos, nes audito pėdsakas techniškai egzistuoja, bet praktiškai nenaudingas. Kiekviena akimirka yra išgyvenama. Kartu jos tampa darbo aplinka.

Kaina yra ne tik laikas. Tai dėmesys, pasitikėjimas, atsakomybė ir galiausiai orumas. Žmonės tampa vertėjais sistemoms, kurios turėjo būti aiškios. Jie nešiojasi paslėptas žinias užrašų knygelėse, pokalbių istorijose, šalutinėse skaičiuoklėse ir įpročiuose. Tada vadovai stebisi, kodėl pokyčiai vyksta lėtai. Organizacija nėra lėta, nes žmonės nekenčia tobulėjimo. Ji lėta, nes tobulėjimas pirmiausia turi pereiti per pelkę dalykų, kurių niekas negali saugiai perskaityti.

Kai oficialus pėdsakas nepasakoja istorijos, žmonės sukuria antrą pėdsaką užrašų knygelėse, žinutėse ir atmintyje. Tas antrasis pėdsakas yra naudingas, kol neišnyksta.

Neskaitoma nėra tas pats, kas sudėtinga

Kai kurios sistemos yra sudėtingos, nes sudėtingas yra darbas. Sveikatos priežiūra, logistika, išmokos, mokslinių tyrimų administravimas, gamyba ir energetikos tinklai netampa paprasti vien todėl, kad nubraižome aiškesnę diagramą. Sudėtingumas nėra priešas. Neskaitomumas yra. Skaitoma sudėtinga sistema parodo savo dalis, įvardija savo prielaidas, atskleidžia perėjimus, užfiksuoja priežastis ir suteikia operatoriams pakankamai konteksto veikti. Neskaitoma paprasta sistema slepia savo prasmę už etikečių, šalutinių poveikių ir palankaus laiko. Spėkite, kuri iš jų sukelia ilgesnius susirinkimus.

Inžinieriai kartais skaitytojui palankų kodą susiaurina iki kodo stiliaus. Kodas svarbus, bet tai tik vienas sluoksnis. Sistema gali turėti tvarkingą kodą ir neįskaitomą elgseną. Gali turėti elegantiškas klases ir painias būsenas. Gali turėti tobulą pavadinimų suteikimą saugykloje ir vartotojo sąsają, kuri verčia žmones įsiminti vidinius reikšmių kodus. Gali turėti žurnalus, kuriuose užfiksuojamas kiekvienas įvykis, ir vis tiek neatsakyti, kodėl buvo priimtas sprendimas. Gali turėti diagramas, kurios atrodė aktualios, kai projektas buvo finansuojamas, o dabar tarnauja daugiausia kaip istorinė fikcija.

Įskaitomos sistemos suderina kelis paviršius. Sąsaja apibūdina būseną žodžiais, kuriuos žmonės gali vartoti. Duomenų modelis išsaugo prasmę, o ne suplokština ją per anksti. Darbo eiga įvardija perėjimus ir atsakingus asmenis. Kodas turi testus verslo taisyklėms, o ne tik laimingiesiems keliams. Žurnalai susieja veiksmą su priežastimi. Dokumentacija atspindi gyvą sistemą. Stebėsena pasako operatoriui, kas pasikeitė, o ne tik tai, kad raudona spalva tapo entuziastingesnė.

Šis suderinimas yra sudėtingas, nes įskaitomumas turi daug skaitytojų. Kūrėjas skaito kodą. Bylų tvarkytojas skaito ekraną. Vadovas skaito eilę. Auditorius skaito pėdsaką. Vartotojas skaito pranešimą. Palaikymo inžinierius skaito žurnalą. Reguliuotojas skaito paaiškinimą. Naujas kolega skaito visa tai su tyliu siaubu žmogaus, ką tik paveldėjusio stalčių, pilną laidų. Jei sistema įskaitoma tik vienam iš šių skaitytojų, ji nėra pakankamai įskaitoma.

Žmogiškasis spėliojimo mokestis

Spėliojimas yra darbas. Jis neatrodo kaip darbas, nes dažnai yra tylus. Žmogus sustoja, prisimena šabloną, paklausia kito žmogaus, palygina du ekranus, pažiūri į vakarykštį eksportą, patikrina, ar taikoma išimtis, ir tada tęsia. Niekas iš to neatsispindi našumo metrikoje. Byla užtruko septynias minutes, sako informacijos suvestinė. Suvestinė nežino, kad trys iš tų minučių buvo praleistos svarstant, ar laukas, pavadintas verified, reiškia patvirtinta vartotojo, sistemos, finansų ar kažkokios Veros, kuri išėjo 2022 metais.

Tokia spėlionė sukelia nuovargį, nes darbuotojas negali atsipalaiduoti proceso metu. Kiekvienas žingsnis gali turėti paslėptą prasmę. Sistema tampa kambariu, kuriame jungiklių etiketes rašė žmonės, manę, kad jie visada bus šalia. Operatoriai kompensuoja tapdami atsargūs, o tada jie kaltinami priešinimusi. Jie nėra priešiški. Jie racionalūs. Jie išmoko, kad sąsaja kartais meluoja nutylėdama.

Spėliojimas taip pat sutelkia galią netinkamose vietose. Žmogus, žinantis tikrąją sistemos reikšmę, tampa nepakeičiamas. Tai gali atrodyti glostančiai, kol žmogus nori atostogų, keičia darbą, suserga ar tiesiog nustoja mėgautis būdamas neoficialiu institucinės atminties vertėju. Neįskaitoma sistema atsitiktinai paverčia patirtį įkaitų ėmimu. Niekas to neplanavo. Planai nebūtini, kad blogos paskatos taptų architektūra.

Ši našta sunkiausiai tenka naujesniems darbuotojams ir žmonėms, turintiems mažiau organizacinės galios. Vyresnieji darbuotojai žino, ko klausti. Nauji darbuotojai nežino. Rangovai gauna fragmentus. Palaikymo darbuotojams liepiama laikytis procedūros, o tada jie atranda, kad procedūra yra miesto, kuriame pernai žiemą pasikeitė gatvės, žemėlapis. Vartotojai rezultatą pajunta kaip vėlavimą, nenuoseklumą ar nepaaiškintą atsisakymą. Sistema gali būti viduje sumani. Iš išorės ji prašo žmonių įsisavinti jos dviprasmiškumą.

Žurnalai, kurie nepasakoja istorijos

Daugelis neįskaitomų sistemų išdidžiai saugo žurnalus. Tai gerai, bet nepakanka. Žurnalo eilutė gali būti tiksli ir vis tiek nenaudinga. Vartotojas atnaujino būseną 14:03 yra faktas. Jis nepasako, kodėl būsena pasikeitė, kuri taisyklė tai leido, kokių įrodymų buvo, ar perėjimas buvo įprastas, kam priklauso taisyklė, kuri darbo eigos versija buvo aktyvi ar ar pagalbinė sistema priėmė pakeitimą. Krūva faktų dar nėra istorija. Tai tik krūva su laiko žymomis.

Operatyviniai įrodymai turi būti struktūruoti pagal klausimus, kuriuos žmonės tikrai užduos. Kodėl ši byla pajudėjo. Kodėl šis įrašas sustojo. Kodėl šis modelio atsakymas pateko į darbo eigą. Kodėl eksporte buvo šios eilutės. Kodėl dvi ataskaitos nesutapo. Kodėl šis vartotojas galėjo matyti tuos duomenis. Kodėl sistema bandė šešias valandas ir pasidavė būtent tą akimirką, kai visi išėjo namo. Žurnalas neturėtų reikalauti archeologinių kasinėjimų kiekvienam įprastam klausimui.

Geri įrodymai nėra prabanga auditoriams. Tai pagarba operatoriams. Incidento metu žmonėms reikia susiaurinti paiešką. Jie turi žinoti, kuri būsena pasikeitė, kuris įvestis atkeliavo, kuri taisyklė suveikė, kuri priklausomybė nepavyko, kuris atkūrimo veiksmas įvyko ir kas lieka neaišku. Jei sistema negali atsakyti į šiuos klausimus, ji paverčia žmones teismo ekspertais spaudimo sąlygomis. Tai jaudina detektyviniuose romanuose, bet kur kas mažiau patrauklu kalbant apie darbo užmokestį.

Dirbtinio intelekto sistemos kelia kartelę aukščiau. Jei modelio rezultatas veikia darbo eigą, sistema turėtų išsaugoti šaltinį, raginimą ar paieškos kontekstą, kai tinka, modelio versiją, pasitikėjimo ar neapibrėžtumo išraišką, politikos vartus, žmogaus peržiūros būseną ir galutinį veiksmą. Esmė ne paversti kiekvieną sąveiką romanu. Esmė išlaikyti pakankamai konteksto, kad vėliau skaitytojas galėtų atkurti, kodėl sistema elgėsi taip, kaip elgėsi. Priešingu atveju modelio sklandumas tampa dar vienu neįskaitomu sluoksniu.

Įskaitomas žurnalas nėra daugiau triukšmo. Tai skirtumas tarp laiko žymų krūvos ir kelio, kuriuo pavargęs operatorius gali sekti.

Sąsajos gali slėpti politiką

Neįskaitoma sąsaja dažnai yra politikos problema, apsirengusi pikseliais. Mygtukas matomas tik kai kuriais atvejais, bet niekas nežino, kuri taisyklė jį valdo. Įspėjimas vienai komandai geltonas, o kitai raudonas, nes konfigūracija buvo pakeista bandomojo laikotarpio metu. Laukas priima laisvą tekstą, nes tikrų kategorijų apibrėžti buvo politiškai nepatogu. Eilė rūšiuojama pagal prioritetą, bet prioritetas yra formulė, kurios niekas negali rasti. Sąsaja atrodo veikianti. Po paviršiumi neišspręsti sprendimai po vieną paspaudimą perduodami vartotojams.

Tai svarbu, nes žmonės programinės įrangos būsenas laiko institucine tiesa. Jei ekrane rašoma „baigta“, darbuotojai mano, kad organizacija turi omenyje baigta. Jei ekrane rašoma „tinka“, kažkas gali veikti remdamasis tinkamumu. Jei ekrane rašoma „maža rizika“, dėmesys nukrypsta kitur. Kuo rimtesnė darbo eiga, tuo pavojingesnė tampa neaiški sąsajos kalba. Etiketė nėra puošmena. Tai maža sutartis tarp sistemos ir žmogaus, kuris turi ja pasitikėti.

Suprantamos sistemos politiką parodo ten, kur ji naudojama. Jose matyti, kodėl laukas yra privalomas, ką reiškia būsena, kokie įrodymai pagrindžia sprendimą, kas bus toliau ir kaip apskųsti rezultatą. Jose vengiama būsenų, kurios skamba kaip asmenybės bruožai. Jose atskiriama pateikta nuo gautos, patikrinta nuo priimtos, užblokuota nuo atmestos, peržiūrėta nuo patvirtintos. Šie skirtumai atrodo nuobodūs tik tol, kol nuo jų nepriklauso tikras atvejis. Tada daiktavardžiais susidomi visi.

Sąsaja taip pat turėtų sąžiningai atskleisti neapibrėžtumą. Jei reikšmė yra numanoma, pasakykite tai. Jei modelis pasiūlė klasifikaciją, pažymėkite ją kaip pasiūlytą, kol ji nepriimta. Jei duomenys pasenę, parodykite jų amžių. Jei priklausomybė vėluoja, neleiskite ekranui apsimesti, kad tyla yra sėkmė. Žmonės neapibrėžtumą pakelia geriau, nei sistemos dažnai mano. Ko jie negali saugiai pakelti, tai neapibrėžtumo, užmaskuoto kaip tikrumas, nes kažkas norėjo švaraus ekrano.

Dokumentacija yra produkto paviršiaus dalis

Į dokumentaciją dažnai žiūrima kaip į atskirą moralinę pareigą, panašiai kaip į dantų siūlą. Visi sutinka, kad ji svarbi. Tada išleidimas pasikeičia, dokumentas pasensta ir kita komanda jį skaito su tokia veido išraiška, kuri paprastai skirta pasibaigusiam pienui. Nesėkmė ne ta, kad žmonės tingūs. Nesėkmė ta, kad dokumentacija nebuvo pakankamai stipriai susieta su sistema, kad išgyventų pokyčius.

Suprantamos sistemos dokumentaciją paverčia veikiančia. Būsenų apibrėžimai gyvena šalia darbo eigos. Duomenų žodynai generuojami arba tikrinami pagal schemas. Verslo taisyklės turi savininkus ir versijas. Veiklos vadovai išbandomi per pratybas. Klaidų pranešimai susieja su dabartiniais taisymo keliais. Architektūriniai sprendimai paaiškina kompromisus, kuriuos ateities komandos kitaip atrastų per kančią. Mokymo medžiagoje naudojamos tikros būsenos ir tikros išimtys. Dokumentacija tampa žemėlapiu, kuriuo vaikštoma, o ne muziejaus eksponatu.

Tai ne argumentas už enciklopedinę dokumentaciją. Per daug dokumentacijos gali būti dar viena nesuprantama sistema, tik su geresnėmis antraštėmis. Naudingas klausimas yra, kokiems skaitytojams kokio konteksto reikia veiksmo momentu. Atvejo vadybininkui reikia kitokios informacijos nei kūrėjui. Auditorius reikalauja kitokių įrodymų nei vartotojas. Palaikymo inžinieriui reikia atkūrimo kelio, o ne paskirstytų sistemų filosofijos, pristatomos 02:00. Gera dokumentacija gerbia skaitytojo darbą.

Priežiūra yra svarbus žodis. Jei dokumentacija neturi savininko, peržiūros paskatos, ryšio su pokyčiais ir išbandymo realiame naudojime, tai ne dokumentacija. Tai optimizmas pastraipomis. Užrašų knygelė prie ekrano įrodė, kad žmonės dokumentuoja tai, ką turi suprasti. Užduotis yra perkelti tas žinias iš privačių išlikimo priemonių į bendras, valdomas, gyvas erdves.

Dokumentacija žlunga, kai ji yra publikavimo įvykis. Ji veikia, kai yra ciklas, pagaunantis reikšmės nuokrypį, kol žmonės dar nepradėjo kurtis privačių vadovų.

DI prideda naują nesuprantamumo rūšį

Dirbtinio intelekto sistemos gali padaryti neskaidrumą dar brangesnį, nes į jau ir taip neaiškius darbo procesus įneša sklandų elgesį. Modelis gali apibendrinti, reitinguoti, klasifikuoti ir rekomenduoti. Jei aplinkinė sistema negali parodyti, kuris šaltinis buvo naudotas, kuri politika apribojo atsakymą, koks neapibrėžtumas išlieka ir kas priėmė rezultatą, modelio sklandumas tampa maskuote. Sakinys skaitosi gerai. Institucija vis tiek negali paaiškinti veiksmo.

Ypač pavojinga, kai modelio rezultatai atrodo tikslūs, bet nėra operaciškai pagrįsti. Rizikos balas, pasitikėjimo procentas ar santrauka gali sudaryti aiškumo įspūdį. Bet kam tas aiškumas. Jei balas nesusietas su sprendimo riba, įrodymais, kalibravimo istorija, peržiūros procesu ir pasekmėmis, jis tampa dekoratyviniu skaičiumi. Dekoratyviniai skaičiai populiarūs, nes jie priverčia valdymo skydelius atrodyti įspūdingiau. Jie tampa mažiau populiarūs po to, kai nukreipia realų žmogų į netinkamą eilę.

Suprantamoms DI operacijoms reikia tų pačių senų dorybių, tik mažiau kantrybės tuštiems pažadams. Įvardykite šaltinių rinkinį. Užfiksuokite modelio ir raginimo versijas, kur tai aktualu. Saugokite paieškos pėdsakus laikydamiesi tinkamų ribų. Atskirkite pasiūlymą nuo veiksmo. Rodykite, kada žmogus priėmė, pakeitė ar atmetė rezultatą. Stebėkite nuokrypius. Išsaugokite apskundimo kelius. Padarykite atsisakymą matomą. DI nepanaikina suprantamumo poreikio. Jis padidina jo trūkumo kainą.

Tikslas nėra atskleisti kiekvieną vidinį svorį ar užversti darbuotojus techninėmis atliekomis. Tikslas yra padaryti operacijų grandinę suprantamą. Darbuotojas turėtų žinoti, kodėl sistema pasiūlė šią bylą, kokiais įrodymais rėmėsi, ką pasiūlymas leidžia daryti ir kaip jį užginčyti. Auditorius turėtų galėti atkurti pakankamai konteksto sprendimui įvertinti. Vartotojas neturėtų būti įkalintas už gražaus atsakymo, už kurį niekas neatsako.

Neskaidrumas tampa kultūra

Po kurio laiko neskaidri sistema pakeičia organizacijos mąstymą. Žmonės nustoja klausti kodėl, nes kodėl yra per brangu. Jie klausia kas žino. Jie nustoja siūlyti patobulinimus, nes bet koks pakeitimas gali sutrikdyti nematomą priklausomybę. Jie kuria neoficialius procesus, nes oficialiais negalima pasitikėti. Jie saugosi ekrano nuotraukomis. Jie planuoja susitikimus, kad suderintų ataskaitas, kurios turėjo sutapti nuo pat pradžių. Sistema išmokė juos sumažinti lūkesčius.

Šią kultūrą sunku pamatyti iš viršaus. Vadovybė gali matyti stabilų rezultatą ir manyti, kad sistema veikia. Rezultatas stabilus, nes žmonės sugeria nestabilumą. Jie verčia, tikrina, taiso, įsimena ir atsiprašo. Jei šios pastangos nematomos, jos ilgainiui optimizuojamos, o tai elegantiškas būdas kompetenciją paversti incidentų atsilikimu. Tada organizacija sužino, kad sistema vis dėlto nebuvo stabili. Ją laikė kartu žmonės, kuriems buvo sakoma, kad jie neefektyvūs.

Suprantamos sistemos turi kitokį kultūrinį poveikį. Jos leidžia žmonėms nesutikti su sistema, nes jie mato jos teiginius. Jos daro mokymą mažiau priklausomą nuo padavimų. Jos mažina baimę dėl pokyčių, nes priklausomybės yra įvardytos. Jos sukuria geresnį dialogą tarp politikos, operacijų ir inžinerijos. Jos leidžia palaikymo personalui atsakyti vartotojams nesukuriant teologijos apie būsenos kodus. Jos palengvina klaidų pripažinimą, nes priežastis nėra paslėpta labirinte.

Čia yra moralinis aspektas, bet jis nėra abstraktus. Jei sistema padaro darbuotoją atsakingą už rezultatus, bet nesuteikia jam pakankamai konteksto sistemai suprasti, tai nesąžininga. Jei sistema padaro vartotoją priklausomą nuo sprendimo, kurio niekas negali paaiškinti, tai nesąžininga. Jei sistema priverčia komandą nešti nedokumentuotą riziką, kol kas nors sulūžta, tai nesąžininga. Suprantamumas nėra kosmetinis mandagumas. Tai atsakingo įgaliojimų perdavimo dalis.

Neskaitomumo kainą pirmiausia sumoka žmonės, o biudžetai tik vėliau. Kol finansininkai tai pastebi, įpročiai jau būna įsišakniję.

Kuriantiems skaitytojams

Skaitoma sistema kuriama turint omenyje skaitytojus. Tai skamba akivaizdžiai, kol nesuskaičiuoji, kiek sistemų sukurta rašytojams, tiekėjams, programavimo karkasams ar komitetų kompromisams. Skaitytojas yra žmogus, kuris turi suprasti sistemą veiksmo momentu. Kartais tas žmogus yra programuotojas. Kartais skambučių centro darbuotojas. Kartais auditorius. Kartais vartotojas, gaunantis atsisakymą. Kartais vadovas, sprendžiantis, ar eilė saugi. Skaitymas prasideda įvardijant šiuos skaitytojus ir klausimus, į kuriuos jiems reikia atsakymų.

Kiekvienai reikšmingai būsenai sistema turėtų gebėti pasakyti, ką ji reiškia, kaip į ją patekta, kam ji priklauso, kokie įrodymai ją pagrindžia, kas bus toliau ir kaip ją galima ištaisyti. Kiekvienam svarbiam perėjimui ji turėtų išsaugoti priežastį, veikėją, taisyklę, versiją ir pasekmę. Kiekvienai automatizacijai ji turėtų atskirti rekomendaciją nuo sprendimo. Kiekvienai ataskaitai ji turėtų parodyti kilmę. Kiekvienai išimčiai ji turėtų įvardyti atsakingą instituciją. Nieko čia romantiško. Tai minimalus reikalavimas perduodant darbą mašinai nepaliekant nuošalyje ją supančių žmonių.

Yra kompromisų. Daugiau matomų detalių gali priblokšti. Daugiau struktūros gali sulėtinti ankstyvą pristatymą. Daugiau įrodymų gali kelti saugojimo ir privatumo klausimų. Tikslesnė kalba gali atskleisti nesutarimus, kurie anksčiau buvo paslėpti. Tai realios sąnaudos. Tačiau jos geresnės nei paslėptas darbas amžinai aiškinantis neskaitomą sistemą. Atsakymas nėra rodyti viską visur. Atsakymas yra išlaikyti prasmę prieinamą tame lygmenyje, kuriame priimami sprendimai.

Sraigtiniame sąsiuvinyje nereikėtų įžvelgti romantikos. Jis buvo rūpesčio ženklas, bet ir nesėkmės simptomas. Žmonės padarė tai, ką daro geri darbuotojai: jie apsaugojo darbą. Sistema padarė tai, ką daro neskaitomos sistemos: tą apsaugą pavertė privačia, trapią ir nesąžiningai paskirstyta. Žmogiška sistema būtų pasimokiusi iš sąsiuvinio ir parsinešusi jo žinias namo.

Skaitomumo pažadas

Skaitomumo pažadas kuklus. Jis nepadaro kiekvieno proceso paprasto. Jis nepanaikina sprendimų. Jis neapsaugo nuo kiekvienos klaidos. Jis neišlaisvina organizacijų nuo nesutarimų, nes jokia programinė įranga dar nenugalėjo komiteto kaip gyvybės formos. Ką jis daro, tai suteikia žmonėms teisingesnį santykį su sistemomis, kurias jie valdo. Jis leidžia jiems matyti būsenas, priežastis, įrodymus, nuosavybę ir kitus žingsnius.

Tas teisingumas turi praktinę vertę. Įvedimas į darbą tampa greitesnis. Incidentai tampa siauresni. Auditai tampa mažiau teatrališki. Pokyčiai tampa mažiau bauginantys. Vartotojai gauna aiškesnius paaiškinimus. Inžinieriai gali keisti kodą geriau suprasdami pasekmes. Vadovai mato, kur darbas užstrigęs, o ne kur prietaisų skydelis išrado ramybę. Sistema tampa mažiau priklausoma nuo privačios atminties ir labiau priklausoma nuo bendros tiesos.

Žmogaus kaina už neįskaitomas sistemas sumokama minutėmis, klaidomis, atsargumu, stresu ir tyliu cinizmu. Ją sumoka tie, kurie išmoksta paslėptas reikšmes, ir tie, kurie jų neišmoksta. Ją sumoka vartotojai, kurie laukia, kol darbuotojai iššifruos mašiną. Ją sumoka organizacijos, kurios praranda gebėjimą keistis, nes niekas negali perskaityti to, ką jos sukūrė.

Įskaitomos sistemos nėra švelnesnės sistemos. Tai sistemos, kurios gerbia faktą, kad technologijas valdo žmonės, turintys ribotą dėmesį ir realią atsakomybę. Sistema, kuri gali paaiškinti save, yra lengviau pasitikima, lengviau kvestionuojama ir lengviau taisoma. Tai ne puošmena. Tai darbo dalis.