Prečo obmedzenia robia technológie ľudskejšími
Formulár, ktorý zachránil popoludnie
Raz mi študent ukázal vstupný formulár, ktorý všetci v organizácii nenávideli. Mal prísne polia, povinné dátumy, obmedzené možnosti a odmietnutie, keď chýbal zdrojový dokument. Ľudia to, prirodzene, nazývali byrokratické. Byrokratické je slovo, ktoré používame, keď systém odmieta spolupracovať s našou túžbou improvizovať. Potom tím porovnal tento formulár so starším voľným textovým vstupom. Nenávidený formulár bol škaredý. Starý vstup bol močiar.
V starom procese si ľudia písali poznámky vlastným štýlom. Dátumy menili formát. Súhlas bol implicitný z optimizmu. Kritické polia boli skryté v odsekoch. Ďalšie oddelenie muselo čítať, interpretovať, naháňať a hádať. Keď sa niečo pokazilo, organizácia nevedela povedať, či zlyhanie spôsobili chýbajúce údaje, nesprávna interpretácia alebo fakt, že všetci mlčky súhlasili s tým, že nádej sa bude považovať za pole databázy.
Obmedzený formulár neurobil prácu poetickejšou. Urobil ju láskavejšou. Povedal používateľovi, čo je potrebné. Odmietol pokračovať, keď sa proces mohol stať nebezpečným. Zviditeľnil zodpovednosti. Znížil množstvo interpretácie, ktorú si vyžadoval ďalší človek. Nenahradil úsudok. Prestal predstierať, že úsudok by mal upratať každý neporiadok, ktorý vznikol pred ním.
To je prehliadaná humánna hodnota obmedzení. Nie sú len limitmi. Sú vyhláseniami. Obmedzený systém hovorí, čo môže prijať, čo nemôže prijať, kam sa presúva zodpovednosť a kde musí byť zapojený človek. Vágna automatizácia často pôsobí priateľsky, pretože prijme čokoľvek. Potom sa náklady objavia neskôr, zvyčajne v rukách niekoho s menšou mocou.
Neobmedzené systémy posúvajú prácu ďalej
Mnohé digitálne systémy sú chválené, pretože sú flexibilné. Flexibilný často znamená, že systém nechá zlý vstup putovať, až kým ho človek neopraví. Chatbot prijme nemožnú požiadavku a vytvorí sebavedomú hmlu. Pracovný postup prijme dokument bez súhlasu a nechá compliance objaviť medzeru neskôr. Dátový pipeline prijme neznáme polia a nechá analytikov premýšľať, prečo graf vyzerá, ako keby bol zostavený počas výpadku elektriny.
Táto práca na konci procesu nie je neutrálna. Dopadá na pracovníkov podpory, referentov, správcov dát, sestry, učiteľov, úradníkov, zákazníkov a všetkých ostatných, ktorí stoja na mieste, kde sa automatizácia stretáva s realitou. Používateľ môže prvú obrazovku vnímať ako plynulú. Inštitúcia vníma zvyšok ako prepracovanie. Plynulosť pri vstupe môže byť krutosťou pri výstupe.
Obmedzenia tento vzorec otáčajú. Robia systém zodpovedným už pri vstupe. Hovoria, že zdroj musí byť uvedený, súhlas musí byť explicitný, dátum musí byť platný, akcia musí byť povolená, miera istoty musí byť dostatočná, politika musí byť aktuálna a odmietnutie musí byť zaznamenané. Toto je menej efektné ako konverzačné rozhranie. Taký je aj bezpečnostný pás. Zdá sa, že tie sme prijali.
Technicky zameraní ľudia sa niekedy obávajú, že obmedzenia robia systémy krehkými. Zlé obmedzenia áno. Dobré obmedzenia pomenúvajú podmienky, za ktorých systém smie konať. Je rozdiel medzi odmietnutím, pretože svet je nepohodlný, a odmietnutím, pretože systému chýba oprávnenie. Prvé je lenivé. Druhé je čestné.
Odmietnutie je funkcia, nie zlyhanie
Humánna technológia musí vedieť povedať nie. Táto veta znie prísne len preto, že softvér roky predstieral, že každá požiadavka si zaslúži odpoveď. Vo vážnom systéme môže nie znamenať, že údaje chýbajú, používateľ nie je oprávnený, model si nie je dostatočne istý, účel je mimo rozsahu, politika vypršala alebo by akcia poškodila nejaké právo. Nie s dôvodmi je oveľa úctivejšie ako áno, ktoré o tri kroky neskôr vytvorí problém.
Odmietnutie tiež chráni systém pred tým, aby sa stal divadlom falošnej kompetencie. Generatívne rozhrania sú tu obzvlášť zraniteľné. Dokážu vytvoriť vetu takmer na čokoľvek. Veta nie je oprávnenie. Plynulá odpoveď na otázku mimo rozsahu nie je služba; je to dekoratívne riziko. Humánne obmedzenie je také, ktoré povie, že táto otázka si vyžaduje odborníka, tieto údaje sa na tento účel nedajú použiť alebo túto odpoveď nemožno vytvoriť z dostupných dôkazov.
Ľudia málokedy namietajú proti odmietnutiu, keď je jasné, konzistentné a sprevádzané cestou vpred. Namietajú proti záhadnému odmietnutiu. Namietajú proti odmietnutiu, ktoré sa skrýva za systém hovorí nie. Namietajú proti odmietnutiu, proti ktorému sa nemožno odvolať. Namietajú proti odmietnutiu uplatňovanému nerovnomerne, pretože pravidlá žijú v hlave toho, kto nakonfiguroval pracovný postup po dlhom stretnutí. Obmedzenie teda musí prísť s vysvetlením, záznamom a vlastníctvom.
Obmedzenia robia zodpovednosť viditeľnou
Zodpovednosť v technológii často mizne v abstrakciách. Model rozhodol. Platforma odporučila. Pracovný postup nasmeroval. Nástenka ukázala. Tieto vety sú pohodlné, pretože odstraňujú ľudí zo slovesa. Obmedzenia vracajú ľudí späť. Niekto zvolil prah. Niekto schválil politiku. Niekto definoval povolený účel. Niekto rozhodol, aké dôkazy stačia. Niekto vlastní výnimky.
Táto viditeľnosť je dôležitá pre používateľov, pretože škoda sa zvyčajne vyskytuje na hraniciach. Človek je odmietnutý pri dávke, pacient nie je postúpený ďalej, zamestnanec je označený, zákazník je uzamknutý, občan je požiadaný o ďalšie dokumenty. Systém môže obsahovať mnoho dômyselných častí, ale používateľ zažíva hranicu. Ak túto hranicu nikto nevlastní, používateľ nemá kam nasmerovať otázku. To nie je efektívne. Je to bludisko s prihlasovacou obrazovkou.
Obmedzený systém môže ukázať vlastníka pravidla, verziu politiky, použité dôkazy, chýbajúce dôkazy a postup na nápravu. To nerobí každé rozhodnutie príjemným. Robí ho riaditeľným. Alternatívou je systém, ktorý pôsobí adaptívne, až kým sa niečo nepokazí, a potom všetci zistia, že adaptívnosť je slabou náhradou za zodpovednosť.
Organizácie sa niekedy obávajú, že explicitná zodpovednosť vytvorí právnu zodpovednosť. Pravda je zvyčajne bližšie k opaku. Skrytá zodpovednosť neodstraňuje právnu zodpovednosť. Odkladá ju, pridáva zmätok a spôsobuje, že výsledné vysvetlenie vyzerá improvizované. Deklarované obmedzenie je prinajmenšom kontrolovateľné. Skrytý predpoklad je hlásenie o incidente čakajúce na pokojný piatok.
Používateľská skúsenosť s obmedzeniami
Je tu dizajnérska lekcia. Obmedzenia musia byť viditeľné skôr, ako ublížia. Ak používateľ objaví limit až po dokončení dlhého procesu, obmedzenie pôsobí trestajúco. Ak systém vysvetlí požiadavku včas, používateľ môže konať. Humánne rozhranie neblokuje len neplatnú akciu. Pomáha používateľovi pochopiť, čo by platná akcia vyžadovala.
Preto obmedzené systémy potrebujú dobrý jazyk. Správa, ktorá hovorí neplatný vstup, nie je usmernenie. Správa, ktorá hovorí, že dátum dokumentu musí byť v rámci posledných troch mesiacov, pretože rozhodnutie závisí od aktuálneho príjmu, je lepšia. Správa, ktorá hovorí, že túto požiadavku nemožno spracovať automaticky, pretože chýba súhlas, a ukazuje, ako pridať súhlas alebo požiadať o manuálne preskúmanie, je ešte lepšia. Obmedzenie sa stáva súčasťou služby.
Dizajnérske tímy sa niekedy snažia skryť obmedzenia, pretože sa obávajú trenia. Ale trenie nie je vždy nepriateľ. Existuje škodlivé trenie, ako žiadanie o rovnaké údaje trikrát, pretože systémy medzi sebou nekomunikujú. Existuje ochranné trenie, ako žiadanie o potvrdenie pred vymazaním záznamov alebo odoslaním citlivého rozhodnutia. Humánna technológia rozlišuje medzi týmito dvoma. Odstraňuje plytvanie a zachováva opatrnosť.
Obmedzenie musí zodpovedať práci
Obmedzenie nie je humánne len preto, že je prísne. Zlé obmedzenie môže byť rovnako lenivé ako žiadne obmedzenie. Môže vyžadovať dokument, ktorý niektorí používatelia nedokážu rozumne získať. Môže zakódovať zastaranú politiku. Môže zjednodušiť jednoduchý prípad a znemožniť ten zložitý. Môže prinútiť sestru, učiteľa alebo referenta klamať systému, pretože skutočný svet neprišiel v schválenej podobe. Vtedy obmedzenie nezlepšilo pracovný postup. Vytvorilo malú daň za čestnosť.
Dobré obmedzenia sú navrhnuté od práce smerom von. Pýtajú sa, ktoré fakty sú potrebné pred konaním, ktorá neistota môže bezpečne pokračovať, ktorá neistota sa musí zastaviť a ktorá ľudská rola má právomoc rozhodnúť o výnimke. Sú prísne tam, kde sú následky závažné, a voľnejšie tam, kde sú náklady na omyl nízke. Nechávajú priestor na vysvetlenie, keď ľudia čelia nezvyčajným okolnostiam. Nezamieňajú si uprataný vstup s pravdivým vstupom.
Preto je terénny výskum dôležitý. Ľudia najbližšie k pracovnému postupu zvyčajne vedia, ktoré pravidlá chránia a ktoré len trestajú. Vedia, ktoré polia sú skutočne potrebné a ktoré pribudli po porade, pretože niekto chcel pôsobiť dôkladne. Vedia, kde sa používatelia zaseknú, kde zamestnanci vymýšľajú bočné kanály a kde systém zmení bežnú výnimku na prekážkovú dráhu. Obmedzenie navrhnuté bez týchto ľudí bude zvyčajne vyzerať upratane zhora a správať sa zle pri prepážke.
Technická verzia je rovnaká. Typový systém, schéma, pravidlový engine alebo validačná vrstva by mali vyjadrovať skutočnú zmluvu. Nemali by sa stať svätyňou teoretickej úplnosti. Najlepšie obmedzenie je často malé, pomenované a otestované. Hovorí presne, čo musí byť pravda, kým systém koná, a zvyšok kontextu necháva k dispozícii na kontrolu. Takto sa limit stáva starostlivosťou namiesto papierovačiek.
Obmedzenia pred automatizáciou
Najhorší moment na vymýšľanie obmedzení je po tom, čo automatizácia už koná. Vtedy si systém vytvoril návyky. Dáta tiekli na miesta, kam nemali. Ľudia si vybudovali obchádzky. Reporty závisia od polí, ktoré nikto nevlastní. Model sa naučil z histórií, ktoré nikdy nemali byť tréningovým ani vyhľadávacím materiálom. Potom príde governance s klipboardom a všetci sa tvária prekvapene, akoby príčina a následok boli úzko špecializovaná výskumná téma.
Obmedzenia by sa mali navrhovať pred automatizáciou, pretože definujú bezpečný operačný priestor. Aké účely sú povolené. Ktoré dáta sa môžu použiť. Ktoré zdroje vyžadujú súhlas. Ktoré výstupy si vyžadujú ľudskú kontrolu. Ktoré rozhodnutia sa musia zaznamenať. Ktorí používatelia môžu prepísať. Ktoré záznamy musia vypršať. Toto nie sú ozdoby okolo modelu. Toto je tvar systému.
Keď obmedzenia prídu prvé, automatizácia môže byť užitočnejšia, pretože má menšiu a jasnejšiu úlohu. Nemusí odhadovať inštitucionálne hranice z dojmov. Môže fungovať vo vymedzenom priestore, odmietnuť to mimo neho a zanechať dôkazy. To je úľava, úprimne. Stroje sú výborné v rýchlosti. Nezlepšia sa tým, že ich požiadame, aby hádali governance, pretože dospelí nechceli náročnú poradu.
Existuje aj prínos pre učenie. Obmedzenia vytvárajú lepšiu spätnú väzbu. Ak mnoho prípadov zlyhá pre chýbajúce dôkazy, zlepšite príjem. Ak sa mnoho odmietnutí zruší na odvolaní, prehodnoťte pravidlo. Ak sa mnoho používateľov zastaví pri rovnakej požiadavke, prepracujte vysvetlenie. Systém bez obmedzení môže vyzerať efektívne, pretože sa nikdy nezastaví. Len odkladá meranie zlyhania.
Inštitúcie tiež potrebujú limity
Obmedzenia nechránia používateľov len pred technológiou. Chránia používateľov pred inštitúciami, ktoré používajú technológiu ako výhovorku. Bez obmedzení sa automatizácia môže stať spôsobom, ako rozhodovať bez pomenovania rozhodcu. S obmedzeniami musí inštitúcia zapísať svoje limity. Musí povedať, čo systém nesmie robiť. To je zdravé nepohodlie.
Škola, ktorá používa analytiku, by mala vyhlásiť, ktoré signály môžu ovplyvniť podporu a ktoré nie. Obec, ktorá používa automatizáciu, by mala vyhlásiť, kedy sa prípad presúva na človeka. Banka, ktorá používa rizikové modely, by mala vyhlásiť, aké dôkazy sú dôležité a ako môže zákazník napadnúť výsledok. Nemocnica, ktorá používa podporu rozhodovania, by mala vyhlásiť, kedy je odporúčanie len odporúčaním a kedy klinická zodpovednosť zostáva na odborníkovi. Tieto vyhlásenia nie sú proti inováciám. Sú pôdou pod nimi.
Slovo humánne sa môže stať sentimentálnym, ak nie je viazané na stroje. V technológii humánne často znamená, že sa urobili nudné veci: obmedzenia účelu, pravidlá zdrojov, plány uchovávania, oprávnenia rolí, audítorské záznamy, cesty odmietnutia, odvolacie postupy, verzovaná politika a testované odovzdania. Nie veľmi filmové. Dobre. Ľudia málokedy potrebujú od administratívnych systémov film. Potrebujú, aby nestratili dej.
Politika prepísania
Každý obmedzený systém sa nakoniec stretne s prípadom, ktorý sa nehodí. Otázka nie je, či prepísanie existuje. Vždy existuje, aj keď je skryté v účtoch administrátorov, úpravách databázy, neformálnych hovoroch alebo u človeka, ktorý vie, ktoré tlačidlo obchádza pravidlo. Humánna otázka je, či je prepísanie pomenované, obmedzené, zaznamenané a preskúmateľné. Tajná flexibilita nie je súcit. Je to privilégium s klávesnicou.
Cesta prepísania by mala povedať, kto ju môže použiť, z akých dôvodov, na základe akých dôkazov, s akým druhým párom očí a ako dlho výnimka zostáva platná. Mala by vytvoriť záznam, ktorý možno auditovať bez toho, aby sa zamestnanci stávali podozrivými za to, že robia náročnú prácu. Mala by tiež podporovať zlepšovanie. Ak sa rovnaké prepísanie opakuje, obmedzenie môže byť nesprávne, politika môže byť neúplná alebo svet sa mohol zmeniť, kým sa systém usilovne tváril upratane.
Tu sa ľudský dohľad stáva skutočným. Dohľad nie je názov výboru. Je to navrhnutý vzťah medzi pravidlom, výnimkou, dôkazom a zodpovednosťou. Človek, ktorý bez rozmýšľania odklepne výstup stroja, nie je dohľad. Človek, ktorý vidí pravidlo, chápe chýbajúcu podmienku, zaznamená dôvod a spustí preskúmanie politiky, je oveľa bližšie. Menej dramatické, užitočnejšie. Väčšina dobrej správy vecí má scénickú prítomnosť dobre udržiavaného kontrolného zoznamu.
Zmyslom nie je urobiť technológiu bojazlivou. Zmyslom je urobiť ju slušnou pod tlakom. Systém, ktorý vie povedať áno, povedať nie, požiadať o dôkazy, eskalovať, vysvetliť, zaznamenať a učiť sa, nie je menej pokročilý ako ten, ktorý odpovedá na všetko. Je dospelější. Má hranice, a hranice sú spôsob, akým systémy zdieľajú svet s ľuďmi, ktorí si nemôžu dovoliť stať sa upratovacou čatou pre softvérový optimizmus.
Rovnaká logika platí aj v rámci tímov. Obmedzenia dávajú kolegom spoločný objekt, s ktorým môžu viesť diskusiu. Namiesto dohadovania sa o tom, či bol niekto dostatočne opatrný, môže tím preskúmať pravidlo, dôkazy, výnimku aj zodpovednú osobu. Tým sa nezhoda presúva z osobnej roviny na dizajn systému, čo je láskavejšie a oveľa ľahšie zlepšiteľné. Je tiež ťažšie sa za ňu skryť. Vágny proces umožní každému, aby mal v súkromí pravdu. Deklarované obmedzenie žiada organizáciu, aby sa na verejnosti mýlila, a potom vec napravila.
Ponaučenie
Technológia sa stáva menej humánnou, keď prijíma každú požiadavku, skrýva každú neistotu a necháva ľudí objavovať hranice až po tom, čo škoda už nastala. Humánnejšou sa stáva vtedy, keď svoje hranice deklaruje včas. Toto dokážem. Toto nedokážem. Potrebujem tento dôkaz. Tu musím odmietnuť. Za toto je zodpovedná táto osoba. Takto sa môžete odvolať.
Obmedzenia nie sú opakom inovácie. Sú spôsobom, akým sa seriózna inovácia dostáva do inštitúcií bez toho, aby sa z používateľov stával pokusný materiál. Chránia ľudí pred vágou automatizáciou tým, že robia limity explicitnými, odmietnutia konkrétnymi a zodpovednosť viditeľnou. Systému, ktorý vie, kde končí, sa dá dôverovať ľahšie ako systému, ktorý zdvorilo hovorí áno, až kým realita nepošle účet.