Povjerenje je operativni model, ne samo slogan
Dan kad je slajd o povjerenju doživio neuspjeh
Sastanak je imao slajd s riječju povjerenje u vrlo velikom fontu. To je obično prvi znak upozorenja. Ne zato što je povjerenje nevažno, nego zato što se važne stvari rijetko poboljšaju kada ih se poveća na četrdeset osam točaka i stavi iznad stock fotografije ruku. Regionalna uslužna organizacija upravo je završila težak projekt automatizacije. Pilot je funkcionirao, nadzorna ploča bila je uredna, dobavljač pristojan, paket upravljanja imao je mnogo boja, a svi su željeli isti zaključak: korisnici će vjerovati sustavu jer je vodstvo odlučilo da je povjerenje vrijednost.
Zatim je djelatnica za rad sa slučajevima postavila malo pitanje. Ako sustav preporuči drugačiji put od onoga koji bih ja odabrala, što točno smijem promijeniti, tko vidi tu promjenu i što se događa ako sam u pravu? Prostorija je utihnula na onaj poseban način na koji prostorije utihnu kada praktična osoba probuši apstraktnu imenicu. Postojale su politike o odgovornoj uporabi. Postojali su slajdovi za obuku o ljudskom nadzoru. Postojao je kodeks ponašanja. Ono što još nije postojalo bio je operativni model.
To je razlika koja je bitna. Povjerenje nije osjećaj koji slijedi nakon umirujuće objave. Povjerenje je rezultat radnog dogovora. Ljudi vjeruju sustavu kada mogu vidjeti gdje je ovlast, kada iznimke imaju put, kada se dokazi čuvaju, kada je ispravak moguć, kada poticaji ne kažnjavaju dobru prosudbu i kada organizacija može objasniti odluke bez sastavljanja malog muzeja snimaka zaslona. Povjerenje se sastoji od procedura, sučelja, zapisa i navika. Manje romantično, korisnije.
To posebno vrijedi u radu potpomognutom umjetnom inteligencijom. Sustav može klasificirati, rangirati, sažimati, sastavljati nacrte, preporučivati, usmjeravati ili pokretati. Čovjek može pregledati, odobriti, odbiti, izmijeniti, proslijediti na višu razinu ili zanemariti. Negdje između tih glagola organizacija ili osmišljava pouzdan tijek rada ili se nada da će iskusni stručnjaci improvizirati. Iskusni stručnjaci doista improviziraju. Zato preživljavaju loše sustave. To nije dokaz da sustav zaslužuje povjerenje.
Povjerenje nije uvjerenje s brojem nabave
Organizacije često tretiraju povjerenje kao komunikacijski problem. Ako ljudi oklijevaju, instinkt je objašnjavati upornije. Pošaljite e-poštu. Dodajte odjeljak s čestim pitanjima. Održite sesiju. Podsjetite sve da je sustav samo pomoćnik, što je fraza koja je sada ponijela više menadžerske tjeskobe nego što većina pomoćnika zaslužuje. Komunikacija pomaže, ali samo kada opisuje stvarna operativna prava. Ako je odgovor na svaku praktičnu zabrinutost molim vas, vjerujte procesu, proces se vjerojatno skriva.
Pouzdan operativni model odgovara na obična pitanja prije nego što ona postanu emocionalna. Tko je vlasnik odluke. Koji su dijelovi automatizirani. Koji su dijelovi savjetodavni. Koji su podaci dopušteni. Koji su podaci isključeni. Koje su pretpostavke vidljive. Koje se granične vrijednosti mogu mijenjati lokalno. Koje promjene zahtijevaju odobrenje. Koje se iznimke moraju evidentirati. Koje su iznimke očekivane. Koji kvarovi zaustavljaju tijek rada. Koji kvarovi samo upozoravaju nekoga. Koje nam metrike govore da tijek rada skreće sa svoje svrhe.
Ta pitanja zvuče suhoparno jer i jesu suhoparna. Dobro. Suhoparna pitanja sprječavaju vlažne incidente. Problem s povjerenjem na razini slogana jest to što praktičnu neizvjesnost pretvara u moralni teret. Medicinska sestra koja oklijeva postaje otporna. Državni službenik koji traži dokaze postaje sklon izbjegavanju rizika. Inženjer koji želi put ponovnog pregleda postaje težak za suradnju. U stvarnosti ti ljudi često čine uslugu organizaciji. Oni pitaju gdje završava operativni model, a počinje kazalište.
Povjerenje ima i vremensku dimenziju. Sustav može biti pouzdan pri pokretanju, a nepouzdan šest mjeseci kasnije jer su se podaci promijenili, politika se izmijenila, model je ažuriran, opterećenje je poraslo ili su ljudi koji su razumjeli put iznimaka prešli u drugi tim. Povjerenje nije potvrda koja se stavi na policu. Ono je bliže rasporedu održavanja. Ako ga zanemarite, stroj još neko vrijeme radi, a upravo tako stroj uzvraća udarac.
Kontrolni sloj je mjesto gdje povjerenje postaje dosadno
Prvi sloj je svrha. Tijek rada treba imenovati posao koji smije obavljati. Ne plemeniti odlomak o transformaciji, nego ograničenu svrhu: razvrstati te zahtjeve, sažeti te dokumente, otkriti te anomalije, rangirati te predmete za pregled, pripremiti te odgovore za odobrenje. Ako je svrha nejasna, svaka kasnija kontrola postaje mutna. Ljudi ne mogu procijeniti je li se sustav ponašao ispravno ako nitko ne može reći što ispravno znači.
Drugi sloj je autoritet podataka. Povjerenje brzo propada kada nitko ne zna koji su izvori korišteni, koji izvor ima prednost u sukobu i tko može ispraviti pogrešan zapis. AI sustavi to pogoršavaju jer stvaraju izvedeni materijal: izvatke, ugradnje, sažetke, značajke, zapise i predmemorije. Ako ti izvedeni elementi nose operativnu težinu, i oni trebaju pravila. Sažetak može biti pogrešan. Ugradnja može zastarjeti. Predmemorija može sačuvati jučerašnju pogrešku s impresivnom sigurnošću. Računala su vrlo odana pogrešnoj stvari ako ih se pažljivo ne pita.
Treći sloj je autoritet odlučivanja. Ocjena modela nije isto što i odluka. Preporuka nije isto što i odobrenje. Redoslijed u redu nije isto što i pravda, koliko god red izgledao prikladno. Operativni model treba reći koja je uloga odgovorna za završni čin, koje informacije ta uloga prima, kada se ta uloga može ne složiti i što sustav čini s neslaganjem. Ljudski nadzor koji ne može ništa promijeniti ukras je s prijavom.
Četvrti sloj je dokaz. Organizaciji treba više od zapisa, više od nadzornih ploča i mnogo više od toga da se netko sjeća kako je demonstracija djelovala solidno. Dokaz bi trebao povezivati izvor, verziju, politiku, model, upit ili zahtjev, rezultat, ljudsku radnju i učinak nizvodno. Ne mora biti teatralan. Mora biti dovoljno trajan da kasniji pregled ne postane arheologija s rokom.
Popravak je dio koji ljudi primijete
Mnogi programi povjerenja ulažu previše energije u sprječavanje vidljivog neslaganja, a premalo u to da se s njime dobro nose. To je krivi pristup. Ljudi ne trebaju savršen sustav da bi mu vjerovali. Trebaju sustav koji je iskren o svojim ograničenjima i sposoban za popravak. Vlak može kasniti i i dalje uživati povjerenje ako se kašnjenja objasne, karte poštuju, a vozni red poboljša. Vlak koji tvrdi da je točan dok svi stoje na kiši odabrao je drugi put.
Popravak počinje otkrivanjem. Korisnici trebaju način da kažu da je rezultat pogrešan, nepotpun, nepravedan, zastario, nesiguran ili izvan svrhe. Taj put mora biti blizu posla. Ako prijava problema zahtijeva zaseban portal, tri polja koja nitko ne razumije i kategoriju pod nazivom razni prigovori, organizacija je izgradila filtar za pritužbe i nazvala ga povratnom informacijom. Vrlo učinkovito, ako je cilj sporo učiti.
Zatim dolazi trijaža. Ne zaslužuje svaki problem isti odgovor. Neke su pogreške bezopasne i lokalne. Neke upućuju na probleme s kvalitetom podataka. Neke otkrivaju dvosmislenost politike. Neke pokazuju pomak modela. Neke otkrivaju da se od tijeka rada traži posao za koji nije dizajniran. Neke su stvarna šteta i zahtijevaju trenutačnu pauzu, ljudski kontakt i odgovornost. Operativni model treba razdvojiti te putove prije prvog incidenta, jer tijekom incidenta svi odjednom postanu filozofi.
Popravak također treba pamćenje. Ispravljen slučaj ne smije nestati u sustavu za prijave koji nema veze s tijekom rada. Ispravak treba promijeniti izvorni zapis, pravilo, uputu, prag, materijal za obuku, priručnik ili pitanje za praćenje, kada je to primjereno. Sustav koji se ispriča, ali ne uči, nije vrijedan povjerenja. To je korisnička služba s amnezijom.
Poticaji odlučuju preživljava li model susret sa stvarnošću
Povjerenje često potkopavaju poticaji koji proturječe priči o upravljanju. Organizacija kaže da ljudi ostaju odgovorni, ali timove mjeri po propusnosti tako strogo da pregled postane puko ovjeravanje. Kaže da su izmjene dobrodošle, ali revidira stope izmjena kao da je veliko neslaganje automatski loše. Kaže da je kvaliteta važna, ali nagrađuje samo zatvaranje slučajeva. Kaže da korisnici trebaju prijavljivati probleme, ali prijave tretira kao dokaz slabe prihvaćenosti. Ljudi brzo pročitaju te signale. Možda ne citiraju politiku, ali razumiju igru.
Ozbiljan operativni model usklađuje poticaje s ponašanjem koje tvrdi da želi. Ako se od ljudi očekuje da provode preglede, dajte im vremena, informacije i ovlasti. Ako su izmjene dio sustava kontrole, razlikujte korisno neslaganje od nemarnog odbijanja. Ako prijavljivanje pogrešaka poboljšava sustav, ne kažnjavajte tim koji prijavljuje najviše. Ako je tijek rada previše nesiguran za potpunu automatizaciju, ne nazivajte svaku eskalaciju neučinkovitošću. Stvarnost neće postati predvidljivija samo zato što to zahtijeva tromjesečni cilj.
Ovdje povjerenje postaje pitanje upravljanja, a ne tehnike. Model može prikazati ocjenu pouzdanosti. Sučelje može pokazati izvore. Zapisi mogu čuvati evidenciju. Ništa od toga nije važno ako organizacija ljudima tiho poručuje da je najsigurniji potez za karijeru složiti se sa strojem. U tom slučaju stroj nije zaslužio povjerenje. Stekao je društvenu moć kroz upravljanje učinkom. To nije isto, iako neko vrijeme ima izvrsne pokazatelje prihvaćanja.
Postoji zdraviji obrazac. Tretirajte neslaganje kao signal. Pitajte ljude zašto su mijenjali odluke. Usporedite izmjene s ishodima. Potražite timove koji se nikada ne slažu i zapitajte se je li sustav doista izvrstan ili je tim prestao vjerovati da je neslaganje dobrodošlo. Pregledavajte rubne slučajeve javno. Dajte operaterima put do poboljšanja tijeka rada. Povjerenje raste kada ljudi vide da dobra prosudba mijenja sustav umjesto da nestane u upravljačkoj magli.
Sučelja ljudima pokazuju u što organizacija vjeruje
Sučelje je dio operativnog modela. Ono ljudima govori što je važno, što je neobavezno i što organizacija očekuje da primijete. Ako je rezultat modela velik, a izvor skriven, sučelje poručuje da je povjerenje važnije od dokaza. Ako je gumb za odobravanje zelen, a put za osporavanje tri razine dubok, sučelje poručuje da je brzina važnija od prosudbe. Ako su objašnjenja generička, sučelje poručuje da korisnik treba osjećati da je informiran, umjesto da to doista bude.
Sučelje vrijedno povjerenja pokazuje pravu mjeru otpora. Lako radnje treba učiniti lakima, a ozbiljne radnje primjereno promišljenima. Treba razlikovati prijedlog od odluke. Treba pokazati izvor, svježinu, nesigurnost i kontekst politike tamo gdje oni utječu na posao. Treba učiniti neslaganje normalnim. Treba izbjegavati dekorativnu objašnjivost, onu vrstu gdje se ispod odluke pojavi odlomak koji kaže da je sustav uzeo u obzir relevantne čimbenike. Relevantni čimbenici, da, mirisna svijeća strojne odgovornosti.
Dobar otpor nije birokracija. To je kontrola postavljena tamo gdje pogreška ima posljedice. Sažetak niskog rizika može se odvijati brzo. Preporuka o podobnosti s velikim utjecajem treba usporiti, pokazati dokaze, imenovati politiku i tražiti izričit ljudski čin. Skupna radnja treba zahtijevati uzorkovanje ili provjeru praga. Zaobilaženje treba tražiti razlog, ne zato što organizacija uživa u okvirima za tekst, nego zato što razlozi postaju dokaz koji poboljšava tijek rada.
Sučelje također treba podržavati pregled naknadno. Korisnik treba moći otvoriti prošlu odluku i vidjeti što je sustav vidio u to vrijeme, a ne samo najnoviju verziju zapisa. Ako se izvor promijenio, recite to. Ako se prag politike promijenio, sačuvajte stari. Ako se verzija modela promijenila, imenujte je. Povjerenje biva narušeno kada se jučerašnja odluka prosuđuje s današnjim nevidljivim kontekstom. To nije odgovornost. To je putovanje kroz vrijeme s proračunskom tablicom.
Dobavljači mogu pomoći, ali ne mogu posjedovati vaše povjerenje
Većina organizacija oslanjat će se na dobavljače za dijelove stoga. To je normalno. Povjerenje ne zahtijeva da sve radite sami. Ono zahtijeva razumijevanje koji su dijelovi modela povjerenja vanjski, koje dokaze organizacija može nadzirati, koje kontrole može provoditi i što se događa kada se odnos promijeni. Outsourcing infrastrukture je uobičajen. Outsourcing sposobnosti da se objasnite nije baš sjajan institucionalni hobi.
Ugovori su ovdje važni, ali ugovori nisu dovoljni. Operativni model trebao bi provjeriti ono što ugovor obećava. Može li organizacija izvesti zapise o odlukama. Može li pregledati promjene modela. Može li kontrolirati zadržavanje podataka. Može li vidjeti pristup podizvođača. Može li rotirati ključeve. Može li onemogućiti značajku. Može li nastaviti s radom tijekom incidenta kod dobavljača. Može li proizvesti dokaze za regulatora, građanina, pacijenta, zaposlenika ili kupca bez čekanja na zahtjev podrške da se sam otkrije.
Ovo nije sumnjičavost prema dobavljaču. To je zrelo upravljanje ovisnostima. Dobar dobavljač trebao bi pozdraviti jasne operativne granice jer one sprječavaju kasniju zabunu. Neodređen kupac nije lakši za opsluživanje na duge staze. Oni samo odgađaju sastanak na kojem svi saznaju da je povjerenje značilo pet različitih stvari. Vrlo europski, u smislu da će biti zapisnika, kave i nikakve odluke do drugog sastanka.
Isto vrijedi i interno. Platformski timovi, pravni timovi, timovi za podatke i operativni timovi dobavljači su jedni drugima. Povjerenje se ruši kada bilo koji tim smatra svoj dio dovršenim dok nesigurnost gura dalje niz lanac. Tim za podatke isporučuje skup podataka bez putova ispravka. Tim za modele isporučuje rezultat bez dizajna eskalacije. Operativni tim isporučuje tijek rada bez dokaza. Pravni tim isporučuje jezik politike bez operativnih testova. Svatko može biti pojedinačno kompetentan, a zajedno nejasni.
Petlja, ne lansiranje
Operativni model povjerenja mora biti petlja jer se posao mijenja. Stižu novi slučajevi. Korisnici pronalaze rubne uvjete. Kvaliteta podataka se mijenja. Napadači se prilagođavaju. Propisi se mijenjaju. Proračuni se stežu. Timovi se reorganiziraju. Sustav koji je bio prikladan u siječnju može biti nedovoljan do lipnja, a softver ima dar učiniti da lipanj stigne rano. Pregled lansiranja je nužan, ali nije dovoljan. Organizacija treba ritam za ponovnu provjeru zaslužuje li tijek rada i dalje povjerenje.
Petlja počinje promatranjem. Pratite ne samo točnost, već i neslaganja, nedostajuće podatke, zastarjele izvore, stope žalbi, razloge preglasavanja, ponašanje redova čekanja, latenciju, neobične koncentracije utjecaja i promjene u ponašanju korisnika. Točnost je koristan broj, ali može sakriti priču. Tijek rada može biti točan u prosjeku, a štetan na rubovima. Rubovi su mjesta gdje se stvarne institucije susreću sa stvarnim ljudima.
Zatim interpretacija. Metrike trebaju vlasnike koji razumiju posao, ne samo nadzornu ploču. Ako stope preglasavanja rastu, to bi moglo značiti da je model lošiji, da su podaci zastarjeli, da se politika promijenila, da su korisnici bolje obučeni, da je opterećenje drugačije ili da je sučelje zbunjujuće. Točan odgovor nije uvijek ponovno treniranje. Ponekad je to razjašnjavanje politike, ispravljanje izvornih podataka, promjena pragova, poboljšanje uzorkovanja ili uklanjanje tijeka rada sa zadatka koji mu nikada nije trebao biti dodijeljen.
Zatim promjena. Operativni model trebao bi definirati tko može prilagoditi pragove, zaustaviti automatizaciju, ažurirati izvorna pravila, revidirati smjernice, eskalirati incidente i komunicirati promjene. Promjena bez ovlasti postaje teatar. Ovlast bez dokaza postaje improvizacija. Petlja ih povezuje.
Što bi čelnici trebali prestati govoriti
Čelnici bi trebali prestati govoriti vjerujte nam kada misle da operativna prava još nisu osmišljena. Trebali bi prestati govoriti da su ljudi uključeni u proces kada ljudi ne mogu promijeniti ishod. Trebali bi prestati govoriti transparentno kada je dokazni put snimka zaslona nadzorne ploče. Trebali bi prestati govoriti odgovorna umjetna inteligencija kada proračun ne sadrži vrijeme za ispravke, pregled ili obuku. Riječi smiju biti ambiciozne, ali operacije na kraju naplate svaki pridjev.
Bolji jezik je konkretan. Ovaj tijek rada je savjetodavan. Ova uloga ima konačnu odluku. Ovi izvori se koriste. Ovi izvori su isključeni. Ovo je put za nadjačavanje. Ovi slučajevi zaustavljaju automatizaciju. Ovi događaji se bilježe. Ove metrike se pregledavaju svaki mjesec. Ova prava ostaju instituciji. Ovi neuspjesi zahtijevaju kontakt s pogođenim osobama. Ovako se sustav mijenja kada su korisnici u pravu, a automatizacija u krivu.
Taj jezik nije tako blještav kao kampanja povjerenja. Također ga je mnogo teže lažirati. Korisnicima daje nešto za testiranje. Upraviteljima daje nešto za financiranje. Revizorima daje nešto za provjeru. Inženjerima daje cilj. Pravnim timovima daje operativnu površinu. Pogođenim osobama daje put za osporavanje. Povjerenje postaje manje poput vremena, a više poput infrastrukture.
Neugodna je istina da povjerenje na početku može smanjiti brzinu. Ono traži od timova da definiraju uloge, pišu zapise, testiraju putove neuspjeha i rezerviraju vrijeme za pregled. No ta se brzina često kasnije vraća jer organizacija troši manje vremena na objašnjavanje kaosa. Sustav s jasnim operacijama povjerenja može se brže kretati pod pritiskom jer ljudi znaju što smiju raditi. Najsporiji sustav nije onaj oprezan. To je onaj nejasan koji svoj model upravljanja otkriva tijekom poziva o incidentu.
Pouka
Povjerenje je operativni model, a ne slogan. To je raspored svrhe, ovlasti nad podacima, prava odlučivanja, dokaza, popravaka, poticaja, sučelja, granica dobavljača i petlji učenja. To je ono što ljudima omogućuje da se oslone na sustav bez odricanja od prosuđivanja. To je ono što organizaciji omogućuje korištenje automatizacije bez pretvaranja da je automatizacija zamijenila odgovornost.
Praktični je test jednostavan. Kada je sustav u krivu, može li organizacija to vidjeti, reći tko je za to odgovoran, zaustaviti ga ako je potrebno, ispraviti ga, zapamtiti ispravak i poboljšati tijek rada bez okrivljavanja najbliže osobe koja je to primijetila? Ako da, povjerenje ima gdje živjeti. Ako ne, organizacija ima veliku riječ na slajdu i budući sastanak u hladnijoj prostoriji.