Zakaj omejitve naredijo tehnologijo bolj človeško
Obrazec, ki je rešil popoldne
Nekoč mi je študent pokazal vpisni obrazec, ki ga je v organizaciji sovražil prav vsak. Imel je stroga polja, obvezne datume, nadzorovane možnosti in zavrnitev, kadar izvorni dokument ni bil na voljo. Ljudje so ga seveda imenovali birokratskega. Birokratsko je beseda, ki jo uporabimo, kadar sistem noče sodelovati z našo željo po improvizaciji. Nato je ekipa obrazec primerjala s starejšim prostim besedilom za vpis. Osovraženi obrazec je bil grd. Stari vpis je bil močvirje.
V starem postopku so ljudje pisali zapiske v svojem slogu. Datumi so se spreminjali med oblikami. Privolitev je bila implicirana z optimizmom. Ključna polja so bila skrita v odstavkih. Naslednji oddelek je moral brati, razlagati, preganjati in ugibati. Ko je šlo kaj narobe, organizacija ni mogla reči, ali je napako povzročil manjkajoči podatek, napačna razlaga ali dejstvo, da so se vsi tiho strinjali, da bodo upanje obravnavali kot polje v podatkovni bazi.
Omejeni obrazec dela ni naredil bolj poetičnega. Naredil ga je prijaznejšega. Uporabniku je povedal, kaj je potrebno. Zavrnil je nadaljevanje, kadar bi postopek postal nevaren. Odgovornosti je naredil vidne. Zmanjšal je količino razlage, ki jo je potreboval naslednji človek. Ni nadomestil presoje. Nehala je pretvarjanja, da naj bi presoja pospravila vsako prejšnjo zmešnjavo.
To je spregledana humana vrednost omejitev. Niso le meje. So izjave. Omejen sistem pove, kaj lahko sprejme, česa ne more sprejeti, kam se premakne odgovornost in kje mora biti vključen človek. Ohlapna avtomatizacija se pogosto zdi prijazna, ker sprejme vse. Nato se strošek pojavi pozneje, običajno v rokah nekoga z manj moči.
Neomejeni sistemi potiskajo delo naprej po toku
Številni digitalni sistemi so hvaljeni, ker so prilagodljivi. Prilagodljivo pogosto pomeni, da sistem pusti slab vnos potovati, dokler ga mora popraviti človek. Klepetalni robot sprejme nemogočo zahtevo in ustvari samozavestno meglo. Delovni tok sprejme dokument brez privolitve in pusti, da skladnost vrzel odkrije pozneje. Podatkovni cevovod sprejme neznana polja in pusti analizo, da se sprašuje, zakaj grafikon izgleda, kot da je bil sestavljen med izpadom elektrike.
To delo naprej po toku ni nevtralno. Pade na podporno osebje, obravnavalce primerov, skrbnike podatkov, medicinske sestre, učitelje, javne uslužbence, stranke in vse druge, ki stojijo blizu točke, kjer se avtomatizacija sreča z resničnostjo. Uporabnik lahko prvi zaslon doživi kot gladek. Institucija preostanek doživi kot predelavo. Gladkost na vhodu je lahko krutost na izhodu.
Omejitve obrnejo ta vzorec. Sistem naredijo odgovoren že na vstopni točki. Povedo, da mora biti vir imenovan, privolitev izrecna, datum veljaven, dejanje dovoljeno, zaupanje zadostno, pravilnik aktualen in zavrnitev zabeležena. To je manj glamurozno kot pogovorni vmesnik. Prav tako kot varnostni pas. Zdi se, da smo tega sprejeli.
Tehnične osebe včasih skrbi, da omejitve naredijo sisteme krhke. Slabe omejitve to počnejo. Dobre omejitve poimenujejo pogoje, pod katerimi sistem sme delovati. Obstaja razlika med zavrnitvijo, ker je svet nepriročen, in zavrnitvijo, ker sistem nima pooblastila. Prva je lena. Druga je poštena.
Zavrnitev je funkcija, ne napaka
Humana tehnologija mora znati reči ne. Ta stavek se sliši ostro samo zato, ker programska oprema leta pretvarja, da si vsaka zahteva zasluži odgovor. V resnem sistemu lahko ne pomeni, da podatki manjkajo, uporabnik ni pooblaščen, model ni dovolj samozavesten, namen je zunaj obsega, pravilnik je potekel ali bi dejanje škodovalo pravici. Ne z razlogi je veliko bolj spoštljivo kot da, ki tri korake pozneje ustvari težavo.
Zavrnitev tudi ščiti sistem pred tem, da bi postal gledališče lažne usposobljenosti. Generativni vmesniki so tu še posebej ranljivi. Skoraj za vse lahko ustvarijo stavek. Stavek ni pooblastilo. Tečen odgovor na vprašanje zunaj obsega ni storitev; je dekorativno tveganje. Humana omejitev je tista, ki pove, da to vprašanje zahteva strokovnjaka, da teh podatkov ni mogoče uporabiti za ta namen ali da tega odgovora ni mogoče ustvariti iz razpoložljivih dokazov.
Ljudje se redko pritožujejo nad zavrnitvijo, ko je jasna, dosledna in spremljana s potjo naprej. Pritožujejo se nad skrivnostno zavrnitvijo. Pritožujejo se nad zavrnitvijo, ki se skriva za sistem pravi ne. Pritožujejo se nad zavrnitvijo, ki je ni mogoče izpodbijati. Pritožujejo se nad zavrnitvijo, ki se uporablja neenakomerno, ker pravila živijo v glavi tistega, ki je po dolgem sestanku nastavil potek dela. Zato mora omejitev priti z razlago, zapisom in lastništvom.
Omejitve naredijo odgovornost vidno
Odgovornost v tehnologiji pogosto izgine v abstrakcijah. Model se je odločil. Platforma je priporočila. Potek dela je usmeril. Nadzorna plošča je pokazala. Ti stavki so udobni, ker odstranijo ljudi iz glagola. Omejitve vrnejo ljudi nazaj. Nekdo je izbral prag. Nekdo je odobril pravilnik. Nekdo je opredelil dovoljeni namen. Nekdo se je odločil, kateri dokazi so dovolj. Nekdo je lastnik izjem.
Ta vidnost je za uporabnike pomembna, ker se škoda običajno zgodi na mejah. Nekdo je prikrajšan za ugodnost, pacient ni napoten naprej, zaposleni je označen, stranka je zaklenjena, državljan mora predložiti dodatne dokumente. Sistem ima lahko veliko pametnih delov, a uporabnik izkusi mejo. Če nihče ni lastnik te meje, uporabnik nima kam usmeriti vprašanja. To ni učinkovito. To je labirint s prijavnim zaslonom.
Omejen sistem lahko prikaže lastnika pravila, različico politike, uporabljene dokaze, manjkajoče dokaze in pot za popravek. To ne naredi vsake odločitve prijetne. Naredi jo obvladljivo. Alternativa je sistem, ki se zdi prilagodljiv, dokler nekaj ne gre narobe, nato pa vsi ugotovijo, da je prilagodljivost slab nadomestek za odgovornost.
Organizacije se včasih bojijo, da bo izrecna odgovornost ustvarila pravno odgovornost. Resnica je običajno bližje nasprotnemu. Skrita odgovornost ne odstrani pravne odgovornosti. Zamakne jo, doda zmedo in naredi končno razlago videti improvizirano. Razglašena omejitev je vsaj pregledna. Skrita predpostavka je poročilo o incidentu, ki čaka na tih petek.
Uporabniška izkušnja omejitev
Tukaj je oblikovalska lekcija. Omejitve morajo biti vidne, preden povzročijo škodo. Če uporabnik odkrije omejitev šele po končanem dolgem postopku, se omejitev zdi kaznovalna. Če sistem zahtevo razloži zgodaj, lahko uporabnik ukrepa. Človeku prijazen vmesnik ne le blokira neveljavno dejanje. Uporabniku pomaga razumeti, kaj bi veljavno dejanje zahtevalo.
Zato omejeni sistemi potrebujejo dober jezik. Sporočilo, ki pravi neveljaven vnos, ni napotek. Sporočilo, ki pravi, da mora biti datum dokumenta v zadnjih treh mesecih, ker je odločitev odvisna od trenutnega dohodka, je boljše. Sporočilo, ki pravi, da te zahteve ni mogoče obdelati samodejno, ker manjka soglasje, in prikazuje, kako dodati soglasje ali zahtevati ročni pregled, je še boljše. Omejitev postane del storitve.
Oblikovalske ekipe včasih poskušajo skriti omejitve, ker se bojijo trenja. Toda trenje ni vedno sovražnik. Obstaja škodljivo trenje, na primer zahtevanje istih podatkov trikrat, ker sistemi med seboj ne komunicirajo. Obstaja zaščitno trenje, na primer zahtevanje potrditve pred izbrisom zapisov ali pošiljanjem občutljive odločitve. Človeku prijazna tehnologija razlikuje med obema. Odpravlja odvečnost in ohranja previdnost.
Omejitev mora ustrezati delu
Omejitev ni humana zgolj zato, ker je stroga. Slaba omejitev je lahko prav tako brezbrižna kot nobena omejitev. Lahko zahteva dokument, ki ga nekateri uporabniki ne morejo razumno pridobiti. Lahko vsebuje zastarelo politiko. Lahko naredi preprost primer lep in težak primer ponižujoč. Lahko prisili medicinsko sestro, učitelja ali referenta, da laže sistemu, ker resnični svet ni prišel v odobreni obliki. Takrat omejitev ni izboljšala delovnega procesa. Ustvarila je majhen davek na poštenost.
Dobre omejitve so oblikovane od dela navzven. Sprašujejo, katera dejstva so potrebna pred ukrepanjem, katera negotovost lahko varno potuje, katera negotovost se mora ustaviti in katera človeška vloga ima pooblastilo za odločanje o izjemi. Tesne so tam, kjer so posledice resne, in lažje tam, kjer je cena napake nizka. Pustijo prostor za pojasnila, ko se ljudje soočijo z nenavadnimi okoliščinami. Ne zamenjujejo urejenega vnosa z resničnim vnosom.
Zato so terenske raziskave pomembne. Ljudje, ki so najbližje delovnemu procesu, običajno vedo, katera pravila ščitijo in katera zgolj kaznujejo. Vedo, katera polja so resnično potrebna in katera so bila dodana po sestanku, ker je nekdo želel biti videti temeljit. Vedo, kje se uporabniki zataknejo, kje zaposleni ustvarjajo stranske kanale in kje sistem običajno izjemo spremeni v birokratsko oviro. Omejitev, oblikovana brez teh ljudi, bo običajno videti urejena od zgoraj, vendar se bo slabo obnesla v praksi.
Tehnična različica je enaka. Tipni sistem, shema, pravila politike ali plast preverjanja morajo izražati dejansko pogodbo. Ne smejo postati svetišče teoretične popolnosti. Najboljša omejitev je pogosto majhna, poimenovana in preizkušena. Natančno pove, kaj mora biti res, preden sistem ukrepa, preostali kontekst pa pusti na voljo za pregled. Tako omejitev postane skrb namesto papirologija.
Omejitve pred avtomatizacijo
Najslabši trenutek za uvajanje omejitev je po tem, ko avtomatizacija že deluje. Do takrat je sistem razvil navade. Podatki so pritekli na mesta, kamor ne bi smeli. Ljudje so zgradili rešitve. Poročila so odvisna od polj, ki jih nihče ne upravlja. Model se je učil iz zgodovin, ki nikoli niso bile namenjene gradivu za usposabljanje ali iskanje. Nato upravljanje pride s preglednico in vsi se pretvarjajo, da so presenečeni, kot da bi bili vzrok in posledica ozka raziskovalna tema.
Omejitve je treba oblikovati pred avtomatizacijo, ker opredeljujejo varen prostor delovanja. Kateri nameni so dovoljeni. Kateri podatki se lahko uporabijo. Kateri viri zahtevajo soglasje. Kateri izhodi zahtevajo človeški pregled. Katere odločitve je treba beležiti. Kateri uporabniki lahko preglasijo. Kateri zapisi morajo poteči. To niso okraski okoli modela. To je oblika sistema.
Ko so omejitve postavljene najprej, je avtomatizacija lahko bolj uporabna, ker ima manjšo in jasnejšo nalogo. Ni ji treba sklepati o institucionalnih mejah iz občutkov. Deluje lahko znotraj opredeljenega prostora, zavrne delovanje zunaj njega in za seboj pusti dokaze. To je, odkrito povedano, olajšanje. Stroji so odlični pri hitrosti. Ne izboljšajo se, če jih prosimo, naj ugibajo o upravljanju, ker odrasli niso želeli težkega sestanka.
Obstaja tudi korist pri učenju. Omejitve ustvarjajo boljše povratne informacije. Če veliko primerov propade zaradi manjkajočih dokazov, izboljšajte sprejem. Če je veliko zavrnitev razveljavljenih pri pritožbi, preglejte pravilo. Če se veliko uporabnikov ustavi pri isti zahtevi, preoblikujte pojasnilo. Sistem brez omejitev je lahko videti učinkovit, ker se nikoli ne ustavi. Le odlaga merjenje neuspeha.
Institucije potrebujejo omejitve tudi same
Omejitve ne ščitijo uporabnikov samo pred tehnologijo. Ščitijo uporabnike pred institucijami, ki uporabljajo tehnologijo kot izgovor. Brez omejitev lahko avtomatizacija postane način odločanja brez imenovanja odločevalca. Z omejitvami mora institucija zapisati svoje meje. Povedati mora, česa sistem ne sme storiti. To je zdrava nelagodnost.
Šola, ki uporablja analitiko, mora razglasiti, kateri signali lahko vplivajo na podporo in kateri ne. Občina, ki uporablja avtomatizacijo, mora razglasiti, kdaj zadeva preide na človeka. Banka, ki uporablja modele tveganja, mora razglasiti, kateri dokazi so pomembni in kako lahko stranka izpodbija rezultat. Bolnišnica, ki uporablja podporo pri odločanju, mora razglasiti, kdaj so nasveti zgolj priporočilo in kdaj klinična odgovornost ostaja pri strokovnjaku. Te razglasitve niso proti inovacijam. So tla pod njimi.
Beseda humano lahko postane sentimentalna, če ni povezana s stroji. V tehnologiji humano pogosto pomeni, da so bila opravljena dolgočasna dela: omejitve namena, pravila o virih, roki hrambe, dovoljenja vlog, revizijske sledi, poti zavrnitve, pritožbene poti, različice pravilnikov in preizkušeni predaji. Ni prav nič kinematografsko. Dobro. Ljudje le redko potrebujejo kinematografijo od upravnih sistemov. Potrebujejo, da ne izgubijo rdeče niti.
Politika razveljavitve
Vsak sistem z omejitvami prej ali slej naleti na primer, ki ne sodi v okvir. Vprašanje ni, ali razveljavitev obstaja. Vedno obstaja, tudi če je skrita v skrbniških računih, urejanjih podatkovne baze, neuradnih klicih ali pri osebi, ki ve, kateri gumb obide pravilo. Humano vprašanje je, ali je razveljavitev poimenovana, omejena, zabeležena in preverljiva. Skrivna prilagodljivost ni sočutje. Je privilegij s tipkovnico.
Pot razveljavitve mora povedati, kdo jo lahko uporabi, za katere razloge, na podlagi katerih dokazov, s katerim drugim parom oči in kako dolgo izjema ostane veljavna. Ustvariti mora zapis, ki ga je mogoče revidirati, ne da bi zaposlene spremenila v osumljence za opravljanje zahtevnega dela. Prav tako mora prispevati k izboljšavam. Če se ista razveljavitev pojavlja znova in znova, je omejitev morda napačna, pravilnik morda nepopoln ali pa se je svet spremenil, medtem ko je bil sistem zaposlen s tem, da je bil videti urejen.
Tu človeški nadzor postane resničen. Nadzor ni ime odbora. Je načrtovano razmerje med pravilom, izjemo, dokazi in odgovornostjo. Človek, ki brez pomislekov potrdi izhod stroja, ni nadzor. Človek, ki lahko vidi pravilo, razume manjkajoči pogoj, zabeleži razlog in sproži pregled pravilnika, je veliko bližje. Manj dramatično, bolj uporabno. Večina dobrega upravljanja ima odrsko prisotnost dobro vzdrževanega kontrolnega seznama.
Bistvo ni v tem, da bi tehnologija postala plašna. Bistvo je, da postane dostojna pod pritiskom. Sistem, ki lahko reče da, reče ne, zahteva dokaze, eskalira, pojasni, beleži in se uči, ni nič manj napreden od tistega, ki odgovori na vse. Je bolj zrel. Ima meje, in meje so tisto, kako sistemi delijo svet z ljudmi, ki si ne morejo privoščiti, da bi postali čistilna ekipa za programsko optimističnost.
Enaka logika velja tudi znotraj ekip. Omejitve sodelavcem dajo skupen predmet, s katerim se lahko spopadejo. Namesto da bi razpravljali o tem, ali je bil kdo dovolj previden, lahko ekipa pregleda pravilo, dokaze, izjemo in lastnika. To premakne nestrinjanje z osebnosti na oblikovanje sistema, kar je prijaznejše in veliko lažje izboljšati. Za tem se je tudi težje skriti. Ohlapen proces omogoča, da ima vsak prav na zasebni ravni. Razglašena omejitev od organizacije zahteva, da je javno narobe, nato pa stvar popravi.
Nauk
Tehnologija postane manj humana, ko sprejme vsako zahtevo, skrije vsako negotovost in pusti ljudem, da meje odkrijejo šele potem, ko je škoda že nastala. Bolj humana postane, ko svoje meje razglasi zgodaj. To zmorem. Tega ne zmorem. Potrebujem ta dokaz. Tu moram zavrniti. Za to je odgovorna ta oseba. Tako se pritožiš.
Omejitve niso nasprotje inovacij. So način, kako resne inovacije vstopijo v institucije, ne da bi uporabnike spremenile v poskusni material. Ljudi varujejo pred ohlapno avtomatizacijo, tako da naredijo meje izrecne, zavrnitve konkretne in odgovornost vidno. Sistemu, ki ve, kje se ustavi, je lažje zaupati kot sistemu, ki vljudno pritrjuje, dokler mu resničnost ne pošlje računa.