Zašto ograničenja čine tehnologiju humanijom
Obrazac koji je spasio poslijepodne
Student mi je jednom pokazao obrazac za unos podataka koji su svi u organizaciji mrzili. Imao je stroga polja, obavezne datume, ograničene opcije i odbijanje kada je izvorni dokument nedostajao. Ljudi su ga, naravno, nazivali birokratskim. Birokratski je riječ koju koristimo kada sustav odbija surađivati s našom željom za improvizacijom. Zatim je tim usporedio taj obrazac sa starijim unosom slobodnog teksta. Mrski obrazac bio je ružan. Stari unos bio je močvara.
U starom procesu ljudi su pisali bilješke na svoj način. Datumi su mijenjali formate. Privola se podrazumijevala iz optimizma. Ključna polja bila su skrivena u odlomcima. Sljedeći odjel morao je čitati, tumačiti, tražiti i nagađati. Kada bi nešto pošlo po zlu, organizacija nije mogla reći je li neuspjeh uzrokovan nedostatkom podataka, pogrešnim tumačenjem ili činjenicom da su svi šutke pristali tretirati nadu kao polje u bazi podataka.
Ograničeni obrazac nije učinio posao poetskijim. Učinio ga je ljubaznijim. Korisniku je rekao što je potrebno. Odbijao je nastaviti kada bi proces postao nesiguran. Učinio je odgovornosti vidljivima. Smanjio je količinu tumačenja potrebnu sljedećoj osobi. Nije zamijenio prosudbu. Prestao je pretvarati se da bi prosudba trebala počistiti svaki nered iz prethodnih koraka.
To je zanemarena humana vrijednost ograničenja. Ona nisu samo granice. Ona su izjave. Ograničeni sustav kaže što može prihvatiti, što ne može prihvatiti, gdje se odgovornost prenosi i gdje čovjek mora biti uključen. Nejasna automatizacija često djeluje prijateljski jer prihvaća sve. Zatim se trošak pojavi kasnije, obično u rukama nekoga s manje moći.
Neograničeni sustavi guraju posao nizvodno
Mnogi digitalni sustavi hvaljeni su jer su fleksibilni. Fleksibilno često znači da sustav dopušta lošim unosima putovati sve dok ih čovjek ne mora popraviti. Chatbot prihvaća nemoguć zahtjev i proizvodi samouvjerenu maglu. Radni tijek prihvaća dokument bez privole i ostavlja usklađenosti da kasnije otkrije prazninu. Podatkovni cjevovod prihvaća nepoznata polja i ostavlja analizu da se pita zašto grafikon izgleda kao da je sastavljen tijekom nestanka struje.
Taj nizvodni posao nije neutralan. Pada na osoblje podrške, voditelje predmeta, skrbnike podataka, medicinske sestre, učitelje, javne službenike, kupce i sve druge koji stoje blizu točke gdje se automatizacija susreće sa stvarnošću. Korisnik može doživjeti prvi zaslon kao uglađen. Institucija doživljava ostatak kao ponovni rad. Uglađenost na ulazu može biti okrutnost na izlazu.
Ograničenja preokreću taj obrazac. Ona čine sustav odgovornim već na samom ulazu. Kažu da izvor mora biti imenovan, privola izričita, datum valjan, radnja dopuštena, pouzdanost dostatna, pravila aktualna, a odbijanje zabilježeno. To je manje glamurozno od razgovornog sučelja. Takav je i sigurnosni pojas. Čini se da smo njih prihvatili.
Tehnički ljudi ponekad brinu da ograničenja čine sustave krhkima. Loša ograničenja čine. Dobra ograničenja imenuju uvjete pod kojima sustav smije djelovati. Postoji razlika između odbijanja jer je svijet nezgodan i odbijanja jer sustav nema ovlasti. Prvo je lijeno. Drugo je pošteno.
Odbijanje je značajka, a ne neuspjeh
Humana tehnologija mora znati reći ne. Ta rečenica zvuči strogo samo zato što se softver godinama pretvarao da svaki zahtjev zaslužuje odgovor. U ozbiljnom sustavu, ne može značiti da podatak nedostaje, korisnik nije ovlašten, model nije dovoljno pouzdan, svrha je izvan opsega, pravila su istekla ili bi radnja povrijedila neko pravo. Ne s obrazloženjem daleko je veći znak poštovanja od da koje tri koraka kasnije stvara problem.
Odbijanje također štiti sustav od toga da postane kazalište lažne kompetencije. Generativna sučelja posebno su ranjiva na to. Mogu proizvesti rečenicu o gotovo svemu. Rečenica nije ovlast. Tečan odgovor na pitanje izvan opsega nije usluga; to je dekorativni rizik. Humano ograničenje je ono koje kaže da ovo pitanje zahtijeva stručnjaka, da se ti podaci ne smiju koristiti u tu svrhu ili da se taj odgovor ne može proizvesti iz dostupnih dokaza.
Ljudi rijetko prigovaraju odbijanju kada je jasno, dosljedno i popraćeno putem naprijed. Prigovaraju tajanstvenom odbijanju. Prigovaraju odbijanju koje se skriva iza sustav kaže ne. Prigovaraju odbijanju na koje se nema prava žalbe. Prigovaraju odbijanju koje se primjenjuje nejednako jer pravila žive u glavi onoga tko je konfigurirao tijek rada nakon dugog sastanka. Stoga ograničenje mora dolaziti s objašnjenjem, zapisom i vlasništvom.
Ograničenja čine odgovornost vidljivom
Odgovornost u tehnologiji često nestaje u apstrakcijama. Model je odlučio. Platforma je preporučila. Tijek rada je usmjerio. Nadzorna ploča je prikazala. Te su rečenice ugodne jer uklanjaju ljude iz glagola. Ograničenja vraćaju ljude natrag. Netko je odabrao prag. Netko je odobrio pravila. Netko je definirao dopuštenu svrhu. Netko je odlučio koji su dokazi dovoljni. Netko je vlasnik iznimaka.
Ta je vidljivost važna za korisnike jer se šteta obično događa na granicama. Osoba ostane bez naknade, pacijent se ne proslijedi na daljnju obradu, zaposlenik dobije oznaku, korisnik ostane zaključan, građanina se zamoli za dodatne dokumente. Sustav može sadržavati mnogo pametnih dijelova, ali korisnik doživljava granicu. Ako nitko ne posjeduje tu granicu, korisnik nema kome uputiti pitanje. To nije učinkovito. To je labirint s prijavnim zaslonom.
Ograničen sustav može prikazati vlasnika pravila, verziju politike, korištene dokaze, nedostajuće dokaze i put za ispravak. To ne čini svaku odluku ugodnom. Čini je upravljivom. Alternativa je sustav koji djeluje prilagodljivo sve dok nešto ne pođe po zlu, nakon čega svi otkriju da je prilagodljivost loša zamjena za odgovornost.
Organizacije se ponekad boje da će izričito preuzimanje odgovornosti stvoriti pravnu odgovornost. Istina je obično bliža suprotnome. Skrivena odgovornost ne uklanja pravnu odgovornost. Ona je odgađa, dodaje zbunjenost i čini da konačno objašnjenje izgleda improvizirano. Proglašeno ograničenje barem se može provjeriti. Skrivena pretpostavka izvješće je o incidentu koje čeka miran petak.
Korisničko iskustvo ograničenja
Ovdje postoji lekcija iz dizajna. Ograničenja moraju biti vidljiva prije nego što naškode. Ako korisnik otkrije ograničenje tek nakon što dovrši dugotrajan postupak, ograničenje djeluje kažnjivo. Ako sustav rano objasni zahtjev, korisnik može djelovati. Humani sučelje ne samo da blokira nevažeću radnju. Ono pomaže korisniku razumjeti što bi važeća radnja zahtijevala.
Zato ograničeni sustavi trebaju dobar jezik. Poruka koja kaže nevažeći unos nije uputa. Poruka koja kaže da datum dokumenta mora biti unutar posljednja tri mjeseca jer odluka ovisi o trenutačnom prihodu bolja je. Poruka koja kaže da se ovaj zahtjev ne može automatski obraditi jer nedostaje privola, i koja pokazuje kako dodati privolu ili zatražiti ručni pregled, još je bolja. Ograničenje postaje dio usluge.
Dizajnerski timovi ponekad pokušavaju sakriti ograničenja jer se boje trenja. No trenje nije uvijek neprijatelj. Postoji štetno trenje, poput traženja istih podataka tri puta jer sustavi ne komuniciraju međusobno. Postoji zaštitno trenje, poput traženja potvrde prije brisanja zapisa ili slanja osjetljive odluke. Humana tehnologija razlikuje ta dva. Uklanja rasipanje i čuva oprez.
Ograničenje mora odgovarati poslu
Ograničenje nije humano samo zato što je strogo. Loše ograničenje može biti jednako lijeno kao i nikakvo ograničenje. Može zahtijevati dokument koji neki korisnici ne mogu razumno pribaviti. Može kodirati zastarjelu politiku. Može učiniti jednostavan slučaj lijepim, a težak ponižavajućim. Može prisiliti medicinsku sestru, učitelja ili službenika da lažu sustavu jer stvarni svijet nije stigao u odobrenom obliku. U tom trenutku ograničenje nije poboljšalo tijek rada. Stvorilo je mali porez na iskrenost.
Dobra ograničenja osmišljena su od posla prema van. Postavljaju pitanja koje su činjenice nužne prije djelovanja, koja neizvjesnost može sigurno putovati, koja neizvjesnost mora stati i koja ljudska uloga ima ovlast odlučiti o iznimci. Čvrsta su tamo gdje je posljedica ozbiljna, a lakša tamo gdje je cijena pogreške niska. Ostavljaju prostora za objašnjenje kada se ljudi suoče s neobičnim okolnostima. Ne brkaju uredan unos s istinitim unosom.
Zato je terensko istraživanje važno. Ljudi najbliži tijeku rada obično znaju koja pravila štite, a koja samo kažnjavaju. Znaju koja su polja doista potrebna, a koja su dodana nakon sastanka jer je netko želio djelovati temeljito. Znaju gdje se korisnici zaglave, gdje osoblje izmišlja sporedne kanale i gdje sustav pretvara normalnu iznimku u proceduralnu stazu s preprekama. Ograničenje osmišljeno bez tih ljudi obično izgleda uredno odozgo, a loše se ponaša na šalteru.
Tehnička je verzija ista. Sustav tipova, shema, mehanizam politika ili sloj provjere trebaju izražavati stvarni ugovor. Ne bi smjeli postati svetište teorijske potpunosti. Najbolje je ograničenje često malo, imenovano i testirano. Ono točno kaže što mora biti istinito prije nego sustav djeluje, a ostatak konteksta ostavlja dostupnim za pregled. Tako ograničenje postaje briga umjesto papirologija.
Ograničenja prije automatizacije
Najgori je trenutak za izmišljanje ograničenja nakon što automatizacija već djeluje. Do tada je sustav stekao navike. Podaci su otjecali na mjesta na koja nisu smjeli. Ljudi su izgradili zaobilazna rješenja. Izvješća ovise o poljima koja nitko ne posjeduje. Model je učio iz povijesti koje nikada nisu trebale postati materijal za obuku ili dohvaćanje. Zatim upravljanje stigne s prijenosnom mapom i svi se pretvaraju iznenađenima, kao da su uzrok i posljedica usko specijalizirana istraživačka tema.
Ograničenja treba osmisliti prije automatizacije jer definiraju siguran operativni prostor. Koje su namjene dopuštene. Koji se podaci smiju koristiti. Koji izvori zahtijevaju pristanak. Koji rezultati zahtijevaju ljudski pregled. Koje odluke moraju biti zabilježene. Koji korisnici smiju zanemariti pravila. Koji zapisi moraju isteći. To nisu ukrasi oko modela. To je oblik sustava.
Kada ograničenja dođu prva, automatizacija može biti korisnija jer ima manji i jasniji posao. Ne mora zaključivati institucionalne granice iz osjećaja. Može djelovati unutar proglašenog prostora, odbiti izvan njega i ostaviti dokaze iza sebe. To je, iskreno, olakšanje. Strojevi su izvrsni u brzini. Ne poboljšavaju se tako što ih se pita da pogađaju upravljanje jer odrasli nisu htjeli težak sastanak.
Postoji i korist za učenje. Ograničenja proizvode bolje povratne informacije. Ako mnogi slučajevi propadnu jer nedostaju dokazi, poboljšajte prijam. Ako se mnoga odbijanja ponište žalbom, preispitajte pravilo. Ako mnogi korisnici zastanu na istom zahtjevu, redizajnirajte objašnjenje. Neograničen sustav može izgledati učinkovito jer nikada ne staje. Samo odgađa mjerenje neuspjeha.
Institucije također trebaju ograničenja
Ograničenja ne štite samo korisnike od tehnologije. Štite korisnike od institucija koje tehnologiju koriste kao izgovor. Bez ograničenja automatizacija može postati način donošenja odluka bez imenovanja donositelja odluke. S ograničenjima institucija mora zapisati svoje granice. Mora reći što sustav ne smije činiti. To je zdrava nelagoda.
Škola koja koristi analitiku trebala bi objaviti koji signali smiju utjecati na podršku, a koji ne. Općina koja koristi automatizaciju trebala bi objaviti kada predmet prelazi na čovjeka. Banka koja koristi modele rizika trebala bi objaviti koji su dokazi važni i kako korisnik može osporiti rezultat. Bolnica koja koristi podršku pri odlučivanju trebala bi objaviti kada je savjet samo preporuka, a kada klinička odgovornost ostaje na stručnjaku. Te objave nisu protiv inovacija. One su tlo na kojem inovacije stoje.
Riječ humanost može postati sentimentalna ako nije vezana uz strojeve. U tehnologiji humanost često znači da su odrađene dosadne stvari: ograničenja svrhe, pravila o izvorima, rokovi čuvanja, ovlasti uloga, zapisnici revizije, putovi odbijanja, putovi žalbe, verzionirane politike i testirane primopredaje. Ništa osobito filmski. Dobro. Ljudi rijetko trebaju filmske zaplete od administrativnih sustava. Trebaju im da ne izgube nit.
Politika zaobilaženja
Svaki ograničeni sustav prije ili kasnije naiđe na slučaj koji ne odgovara. Pitanje nije postoji li zaobilaženje. Ono uvijek postoji, čak i ako je skriveno u administratorskim računima, izmjenama baze podataka, neslužbenim pozivima ili osobi koja zna koji gumb zaobilazi pravilo. Humano pitanje jest je li zaobilaženje imenovano, ograničeno, zabilježeno i podložno reviziji. Tajna fleksibilnost nije suosjećanje. To je privilegij s tipkovnicom.
Put zaobilaženja trebao bi reći tko ga smije koristiti, iz kojih razloga, na temelju kojih dokaza, uz čije dodatne oči i koliko dugo iznimka ostaje važeća. Trebao bi stvoriti zapis koji se može revidirati bez da se zaposlenike pretvara u osumnjičenike zato što rade težak posao. Trebao bi i poticati poboljšanje. Ako se isto zaobilaženje ponavlja, ograničenje je možda pogrešno, politika možda nepotpuna ili se svijet možda promijenio dok je sustav bio zauzet time da izgleda uredno.
Tu ljudski nadzor postaje stvaran. Nadzor nije ime odbora. To je osmišljen odnos između pravila, iznimke, dokaza i odgovornosti. Čovjek koji bez razmišljanja potpisuje strojne rezultate nije nadzor. Čovjek koji vidi pravilo, razumije uvjet koji nedostaje, zabilježi razlog i pokrene reviziju politike mnogo je bliže. Manje dramatično, korisnije. Većina dobre uprave ima scensku prisutnost dobro održavanog popisa za provjeru.
Poanta nije učiniti tehnologiju plašljivom. Poanta je učiniti je pristojnom pod pritiskom. Sustav koji zna reći da, reći ne, tražiti dokaze, eskalirati, objasniti, zabilježiti i učiti nije manje napredan od onoga koji na sve odgovara. On je zreliji. Ima granice, a granice su način na koji sustavi dijele svijet s ljudima koji si ne mogu priuštiti da postanu čistači poslije softverskog optimizma.
Ista logika vrijedi i unutar timova. Ograničenja kolegama daju zajednički objekt oko kojeg se mogu raspravljati. Umjesto rasprave o tome je li netko bio dovoljno pažljiv, tim može provjeriti pravilo, dokaze, iznimku i vlasnika. Time se nesuglasica pomiče s osobnosti na dizajn sustava, što je ljubaznije i mnogo lakše za poboljšati. Također se teže iza toga sakriti. Nejasnoća procesa svima dopušta da budu u pravu u privatnosti. Objavljeno ograničenje traži od organizacije da bude u krivu javno, a zatim to i popravi.
Pouka
Tehnologija postaje manje humana kada prihvaća svaki zahtjev, skriva svaku neizvjesnost i ostavlja ljudima da otkriju granice tek nakon što je šteta već učinjena. Postaje humanija kada rano objavi svoje granice. Ovo mogu učiniti. Ovo ne mogu učiniti. Trebam ovaj dokaz. Ovdje moram odbiti. Ova je osoba odgovorna. Ovako se žalite.
Ograničenja nisu suprotnost inovaciji. Ona su način na koji ozbiljna inovacija ulazi u institucije, a da korisnike ne pretvori u materijal za testiranje. Štite ljude od nejasne automatizacije tako što čine granice izričitima, odbijanja konkretnima, a odgovornost vidljivom. Sustav koji zna gdje prestaje lakše je povjerovati nego sustav koji pristojno govori da sve dok stvarnost ne pošalje račun.