Încrederea este un model de operare, nu un slogan
Ziua în care slide-ul despre încredere a eșuat
În cadrul întâlnirii, un slide afișa cuvântul „încredere” într-un font foarte mare. Acesta este de obicei primul semn de avertizare. Nu pentru că încrederea nu este importantă, ci pentru că lucrurile importante rareori se îmbunătățesc atunci când sunt mărite la patruzeci și opt de puncte și plasate deasupra unei imagini de stoc cu mâini. O organizație regională de servicii tocmai finalizase un proiect dificil de automatizare. Programul pilot funcționa, tabloul de bord era ordonat, furnizorul era politicos, pachetul de guvernanță avea multe culori, iar toată lumea dorea aceeași concluzie: utilizatorii vor avea încredere în sistem, deoarece conducerea decisese că încrederea este o valoare.
Apoi, un asistent social a adresat o întrebare mică. Dacă sistemul recomandă o rută diferită de cea pe care aș alege-o eu, ce anume am voie să modific, cine vede acea modificare și ce se întâmplă dacă am dreptate? Camera a rămas tăcută în acel mod aparte în care rămân încăperile atunci când o persoană practică a găurit un substantiv abstract. Existau politici privind utilizarea responsabilă. Existau slide-uri de instruire despre supravegherea umană. Existau un cod de conduită. Ceea ce nu exista încă era un model operațional.
Aceasta este distincția care contează. Încrederea nu este sentimentul care urmează unui anunț liniștitor. Încrederea este rezultatul unui aranjament de lucru. Oamenii au încredere într-un sistem atunci când pot vedea unde se află autoritatea, când excepțiile au o cale, când dovezile sunt păstrate, când corectarea este posibilă, când stimulentele nu pedepsesc judecata bună și când organizația poate explica deciziile fără a asambla un mic muzeu de capturi de ecran. Încrederea este făcută din proceduri, interfețe, înregistrări și obiceiuri. Mai puțin romantic, mai util.
Acest lucru este valabil mai ales în munca asistată de inteligență artificială. Sistemul poate clasifica, ierarhiza, rezuma, redacta, recomanda, direcționa sau declanșa. Omul poate revizui, aproba, respinge, modifica, escalada sau ignora. Undeva între aceste verbe, organizația fie proiectează un flux de lucru demn de încredere, fie speră că profesioniștii maturi vor improviza. Profesioniștii maturi chiar improvizează. De aceea supraviețuiesc sistemelor proaste. Nu este o dovadă că sistemul merită încredere.
Încrederea nu este o convingere cu număr de achiziție
Organizațiile tratează adesea încrederea ca pe o problemă de comunicare. Dacă oamenii ezită, instinctul este să explici mai mult. Trimite un e-mail. Adaugă o secțiune de întrebări frecvente. Organizează o sesiune. Amintește tuturor că sistemul este doar un asistent, o frază care a purtat până acum mai multă anxietate managerială decât merită majoritatea asistenților. Comunicarea ajută, dar doar atunci când descrie drepturi operaționale reale. Dacă răspunsul la fiecare preocupare practică este „te rugăm să ai încredere în proces”, probabil că procesul se ascunde.
Un model operațional de încredere răspunde la întrebările obișnuite înainte ca acestea să devină întrebări emoționale. Cine deține decizia. Ce părți sunt automatizate. Ce părți sunt doar consultative. Ce date sunt permise. Ce date sunt excluse. Ce ipoteze sunt vizibile. Ce praguri pot fi modificate local. Ce modificări necesită aprobare. Ce excepții trebuie înregistrate. Ce excepții sunt așteptate. Ce eșecuri pun fluxul de lucru în pauză. Ce eșecuri doar alertează pe cineva. Ce metrici ne spun că fluxul de lucru se îndepărtează de scopul său.
Aceste întrebări par seci pentru că sunt seci. Bine. Întrebările seci previn incidentele umede. Problema cu încrederea la nivel de slogan este că transformă incertitudinea practică într-o povară morală. O asistentă medicală care ezită devine rezistentă. Un funcționar public care cere dovezi devine avers la risc. Un inginer care vrea o cale de redare devine dificil. În realitate, acești oameni fac adesea o favoare organizației. Ei întreabă unde se termină modelul operațional și unde începe teatrul.
Încrederea are și o dimensiune temporală. Un sistem poate fi demn de încredere la lansare și nedemn de încredere șase luni mai târziu, pentru că datele s-au schimbat, politica s-a modificat, modelul a fost actualizat, volumul de muncă a crescut sau oamenii care înțelegeau calea de excepție s-au mutat la altă echipă. Încrederea nu este un certificat pus pe un raft. Este mai degrabă un program de întreținere. Ignoră-l și mașinăria mai funcționează o vreme, ceea ce este exact modul în care mașinăria își cere revanșa.
Stiva de control este locul unde încrederea devine plictisitoare
Primul strat este scopul. Un flux de lucru ar trebui să numească sarcina pe care are voie să o facă. Nu un paragraf nobil despre transformare, ci un scop delimitat: triază aceste cereri, rezumă aceste documente, detectează aceste anomalii, clasează aceste cazuri pentru revizuire, redactează aceste răspunsuri pentru aprobare. Dacă scopul este vag, fiecare control ulterior devine cețos. Oamenii nu pot judeca dacă un sistem s-a comportat corect dacă nimeni nu poate spune ce înseamnă corect.
Al doilea strat este autoritatea asupra datelor. Încrederea eșuează rapid când nimeni nu știe ce surse au fost folosite, ce sursă câștigă în caz de conflict și cine poate corecta o înregistrare greșită. Sistemele de inteligență artificială înrăutățesc lucrurile pentru că creează material derivat: extrase, înglobări, rezumate, caracteristici, jurnale și memorii cache. Dacă aceste derivate au greutate operațională, au nevoie și ele de reguli. Un rezumat poate fi greșit. O înglobare poate deveni învechită. O memorie cache poate păstra greșeala de ieri cu o încredere impresionantă. Calculatoarele sunt foarte loiale lucrului greșit dacă nu sunt întrebate cu grijă.
Al treilea strat este autoritatea decizională. Un scor al modelului nu este același lucru cu o decizie. O recomandare nu este același lucru cu o aprobare. O ordine în coadă nu este același lucru cu dreptatea, oricât de convenabilă ar părea coada. Modelul operațional ar trebui să spună ce rol este responsabil pentru actul final, ce informații primește acel rol, când poate să nu fie de acord și ce face sistemul cu dezacordul. Supravegherea umană care nu poate schimba nimic este decor cu autentificare.
Al patrulea strat este dovada. Organizația are nevoie de mai mult decât jurnale, mai mult decât tablouri de bord și mult mai mult decât cineva care își amintește că demonstrația părea solidă. Dovada ar trebui să conecteze sursa, versiunea, politica, modelul, promptul sau interogarea, rezultatul, acțiunea umană și efectul din aval. Nu trebuie să fie teatrală. Trebuie să fie suficient de durabilă încât revizuirea ulterioară să nu devină arheologie cu termen limită.
Reparația este partea pe care oamenii o observă
Multe programe de încredere investesc prea multă energie în prevenirea dezacordurilor vizibile și prea puțină în gestionarea lor corectă. Este o abordare inversată. Oamenii nu au nevoie ca un sistem să fie perfect înainte să aibă încredere în el. Au nevoie ca sistemul să fie onest în privința limitelor sale și capabil să repare. Un tren poate întârzia și totuși să se bucure de încredere dacă întârzierile sunt explicate, biletele sunt onorate, iar programul se îmbunătățește. Un tren care insistă că este la timp în timp ce toată lumea stă în ploaie a ales o altă cale.
Reparația începe cu detectarea. Utilizatorii au nevoie de o modalitate de a semnala că rezultatul este greșit, incomplet, injust, învechit, nesigur sau în afara scopului. Această cale trebuie să fie aproape de locul de muncă. Dacă raportarea unei probleme necesită un portal separat, trei câmpuri pe care nimeni nu le înțelege și o categorie numită „preocupare diversă”, organizația a construit un filtru de reclamații și l-a numit feedback. Foarte eficient, dacă scopul este să înveți încet.
Apoi urmează triajul. Nu fiecare problemă merită același răspuns. Unele erori sunt inofensive și locale. Unele indică probleme de calitate a datelor. Unele expun o ambiguitate de politică. Unele arată o derivă a modelului. Unele dezvăluie că fluxul de lucru este folosit pentru o sarcină pentru care nu a fost proiectat. Unele sunt daune reale și necesită pauză imediată, contact uman și responsabilitate. Modelul operațional ar trebui să separe aceste căi înainte de primul incident, pentru că în timpul unui incident toată lumea devine brusc filozof.
Reparația are nevoie și de memorie. Un caz corectat nu ar trebui să dispară într-un sistem de tichete care nu are nicio legătură cu fluxul de lucru. Corecția ar trebui să schimbe înregistrarea sursă, regula, promptul, pragul, materialul de instruire, runbook-ul sau întrebarea de monitorizare, atunci când este cazul. Un sistem care își cere scuze dar nu învață nu este demn de încredere. Este serviciu clienți cu amnezie.
Stimulentele decid dacă modelul supraviețuiește contactului cu realitatea
Încrederea este adesea subminată de stimulente care contrazic povestea despre guvernanță. Organizația spune că oamenii rămân responsabili, dar măsoară echipele atât de strict pe randament încât revizuirea devine o formalitate. Spune că suprascrierile sunt binevenite, dar auditează ratele de suprascriere ca și cum dezacordul frecvent ar fi automat un lucru rău. Spune că și calitatea contează, dar recompensează doar închiderea cazurilor. Spune că utilizatorii ar trebui să raporteze probleme, dar tratează rapoartele de probleme ca dovadă că adoptarea este slabă. Oamenii citesc aceste semnale rapid. S-ar putea să nu citeze politica, dar înțeleg jocul.
Un model operațional serios aliniază stimulentele cu comportamentul pe care pretinde că îl dorește. Dacă oamenii trebuie să verifice, oferă-le timp, informații și autoritate. Dacă suprascrierile fac parte din sistemul de control, distinge dezacordul util de refuzul neglijent. Dacă raportarea erorilor îmbunătățește sistemul, nu pedepsi echipa care raportează cel mai mult. Dacă un flux de lucru este prea incert pentru automatizare completă, nu numi fiecare escaladare o ineficiență. Realitatea nu va deveni mai deterministă doar pentru că un obiectiv trimestrial are nevoie de asta.
Aici încrederea devine muncă managerială, nu muncă tehnică. Modelul poate afișa un scor de încredere. Interfața poate arăta sursele. Jurnalele pot păstra evidențe. Nimic din toate acestea nu contează dacă organizația le spune tacit oamenilor că cea mai sigură mișcare în carieră este să fie de acord cu mașina. În acest caz, mașina nu a câștigat încredere. A dobândit putere socială prin managementul performanței. Nu este același lucru, deși are metrici de adopție excelente pentru o vreme.
Există un model mai sănătos. Tratează dezacordul ca pe un semnal. Întreabă de ce au suprascris oamenii. Compară suprascrierile cu rezultatele. Caută echipe care nu sunt niciodată în dezacord și întreabă dacă sistemul este cu adevărat excelent sau dacă echipa a încetat să creadă că dezacordul este binevenit. Analizează cazurile limită în mod deschis. Oferă operatorilor o cale de a îmbunătăți fluxul de lucru. Încrederea crește când oamenii văd că o judecată bună schimbă sistemul în loc să dispară în ceața managerială.
Interfețele îi învață pe oameni ce crede organizația
Interfața face parte din modelul operațional. Ea le spune oamenilor ce contează, ce este opțional și ce se așteaptă organizația să observe. Dacă scorul modelului este mare, iar sursa este ascunsă, interfața spune că încrederea contează mai mult decât dovezile. Dacă butonul de aprobare este verde, iar calea de contestare este ascunsă la trei clicuri adâncime, interfața spune că viteza contează mai mult decât judecata. Dacă explicațiile sunt generice, interfața spune că utilizatorul ar trebui să se simtă informat, nu să fie informat.
O interfață demnă de încredere arată fricțiunea potrivită. Ar trebui să facă acțiunile ușoare ușoare, iar acțiunile serioase în mod deliberat cumpătate. Ar trebui să distingă sugestia de decizie. Ar trebui să arate sursa, prospețimea, incertitudinea și contextul politicii acolo unde acestea afectează munca. Ar trebui să facă dezacordul ceva normal. Ar trebui să evite explicabilitatea decorativă, genul acela în care un paragraf apare sub o decizie și spune că sistemul a luat în considerare factori relevanți. Factori relevanți, da, lumânarea parfumată a responsabilității mașinilor.
Fricțiunea bună nu este birocrație. Este control plasat acolo unde eroarea contează. O rezumare cu risc scăzut poate merge rapid. O recomandare de eligibilitate cu impact mare ar trebui să încetinească, să arate dovezi, să numească politica și să ceară un act uman explicit. O acțiune în masă ar trebui să ceară eșantionare sau o verificare a pragului. O suprascriere ar trebui să ceară un motiv, nu pentru că organizației îi plac căsuțele de text, ci pentru că motivele devin dovezile care îmbunătățesc fluxul de lucru.
Interfața ar trebui să sprijine și revizuirea ulterioară. Un utilizator ar trebui să poată deschide o decizie trecută și să vadă ce a văzut sistemul la acel moment, nu doar cea mai recentă versiune a evidenței. Dacă sursa s-a schimbat, spuneți-o. Dacă un prag de politică s-a schimbat, păstrați-l pe cel vechi. Dacă o versiune de model s-a schimbat, numiți-o. Încrederea este afectată când decizia de ieri este judecată cu contextul invizibil de azi. Aceasta nu este responsabilitate. Este călătorie în timp cu o foaie de calcul.
Furnizorii pot ajuta, dar nu pot deține încrederea voastră
Majoritatea organizațiilor se vor baza pe furnizori pentru părți din stivă. Acest lucru este normal. Încrederea nu cere să faci totul singur. Cere să înțelegi care părți din modelul de încredere sunt externe, ce dovezi poate inspecta organizația, ce controale poate exercita și ce se întâmplă când relația se schimbă. Externalizarea infrastructurii este obișnuită. Externalizarea capacității de a te explica nu este un hobby instituțional grozav.
Contractele contează aici, dar contractele nu sunt suficiente. Modelul operațional ar trebui să testeze ceea ce promite contractul. Poate organizația să exporte înregistrările deciziilor. Poate să inspecteze modificările aduse modelelor. Poate să controleze păstrarea datelor. Poate să vadă accesul subcontractorilor. Poate să rotească cheile. Poate să dezactiveze o funcție. Poate să continue să funcționeze în timpul unui incident la furnizor. Poate să producă dovezi pentru un regulator, cetățean, pacient, angajat sau client fără să aștepte ca un bilet de asistență să se descopere singur.
Nu este vorba despre suspiciune față de furnizori. Este gestionarea matură a dependențelor. Un furnizor bun ar trebui să întâmpine cu plăcere limite operaționale clare, pentru că acestea previn confuziile ulterioare. Un client vag nu este mai ușor de servit pe termen lung. Doar amână întâlnirea în care toată lumea află că încrederea însemna cinci lucruri diferite. Foarte european, în sensul că vor exista procese-verbale, cafea și nicio decizie până la a doua întâlnire.
Același principiu se aplică intern. Echipele de platformă, echipele juridice, echipele de date și echipele de operațiuni sunt furnizori unele pentru altele. Încrederea se rupe atunci când orice echipă își consideră partea completă, împingând incertitudinea mai departe. Echipa de date livrează un set de date fără căi de corectare. Echipa de modele livrează un scor fără un design de escaladare. Echipa de operațiuni livrează un flux de lucru fără dovezi. Echipa juridică livrează un limbaj de politică fără teste operaționale. Toți pot fi competenți individual și vagi colectiv.
O buclă, nu o lansare
Un model operațional de încredere trebuie să fie o buclă, pentru că munca se schimbă. Apar cazuri noi. Utilizatorii descoperă condiții limită. Calitatea datelor fluctuează. Atacatorii se adaptează. Reglementările se schimbă. Bugetele se strâng. Echipele se restructurează. Sistemul potrivit în ianuarie poate fi inadecvat în iunie, iar software-ul are darul de a face iunie să vină devreme. O analiză de lansare este necesară, dar nu este suficientă. Organizația are nevoie de un ritm pentru a reverifica dacă fluxul de lucru mai merită încrederea.
Bucla începe cu observația. Monitorizați nu doar acuratețea, ci și dezacordul, datele lipsă, sursele învechite, ratele de contestație, motivele de suprascriere, comportamentul cozilor, latența, concentrările neobișnuite de impact și schimbările în comportamentul utilizatorilor. Acuratețea este un număr util, dar poate ascunde povestea. Un flux de lucru poate fi corect în medie și dăunător la limită. La margini se întâlnesc instituțiile reale cu oamenii reali.
Apoi interpretarea. Indicatorii au nevoie de proprietari care înțeleg munca, nu doar tabloul de bord. Dacă ratele de suprascriere cresc, asta ar putea însemna că modelul este mai slab, datele sunt învechite, politica s-a schimbat, utilizatorii sunt mai bine instruiți, volumul de muncă este diferit sau interfața este confuză. Răspunsul corect nu este întotdeauna reantrenarea. Uneori înseamnă clarificarea politicii, corectarea datelor sursă, schimbarea pragurilor, îmbunătățirea eșantionării sau eliminarea fluxului de lucru dintr-o sarcină pentru care nu ar fi trebuit niciodată folosit.
Apoi schimbarea. Modelul operațional ar trebui să definească cine poate ajusta pragurile, poate pune automatizarea pe pauză, poate actualiza regulile sursă, poate revizui ghidajul, poate escalada incidente și poate comunica schimbările. Schimbarea fără autoritate devine teatru. Autoritatea fără dovezi devine improvizație. Bucla le leagă pe amândouă.
Ce ar trebui să nu mai spună liderii
Liderii ar trebui să nu mai spună „aveți încredere în noi” când de fapt înseamnă că nu am proiectat încă drepturile de operare. Ar trebui să nu mai spună „oamenii sunt în proces” când oamenii nu pot schimba rezultatul. Ar trebui să nu mai spună „transparent” când calea dovezilor este o captură de ecran dintr-un dashboard. Ar trebui să nu mai spună „AI responsabil” când bugetul nu include timp pentru corectare, revizuire sau instruire. Cuvintele au voie să fie ambițioase, dar operațiunile facturează în cele din urmă fiecare adjectiv.
Un limbaj mai bun este concret. Acest flux de lucru este consultativ. Acest rol deține decizia finală. Aceste surse sunt folosite. Aceste surse sunt excluse. Aceasta este calea de override. Aceste cazuri pun automatizarea în pauză. Aceste evenimente sunt înregistrate. Aceste metrici sunt revizuite în fiecare lună. Aceste drepturi rămân la instituție. Aceste eșecuri necesită contactarea persoanelor afectate. Așa se schimbă sistemul când utilizatorii au dreptate și automatizarea greșește.
Acest limbaj nu este la fel de strălucitor ca o campanie de încredere. Este, de asemenea, mult mai greu de falsificat. Le oferă utilizatorilor ceva de testat. Le oferă managerilor ceva de finanțat. Le oferă auditorilor ceva de inspectat. Le oferă inginerilor o țintă. Le oferă echipelor juridice o suprafață de operare. Le oferă persoanelor afectate o cale de contestare. Încrederea devine mai puțin ca vremea și mai mult ca infrastructura.
Adevărul incomod este că încrederea poate reduce viteza la început. Cere echipelor să definească roluri, să scrie înregistrări, să testeze căile de eșec și să rezerve timp pentru revizuire. Dar această viteză este adesea recuperată mai târziu, pentru că organizația petrece mai puțin timp explicând haosul. Un sistem cu operațiuni clare de încredere se poate mișca mai repede sub presiune, pentru că oamenii știu ce au voie să facă. Cel mai lent sistem nu este cel atent. Este cel vag, care își descoperă modelul de guvernanță în timpul apelului despre incident.
Lecția
Încrederea este un model de operare, nu un slogan. Este aranjamentul dintre scop, autoritatea asupra datelor, drepturile de decizie, dovezi, reparare, stimulente, interfețe, granițele furnizorilor și buclele de învățare. Este ceea ce le permite oamenilor să se bazeze pe un sistem fără să renunțe la judecată. Este ceea ce permite unei organizații să folosească automatizarea fără să pretindă că automatizarea a înlocuit responsabilitatea.
Testul practic este simplu. Când sistemul greșește, poate organizația să vadă, să spună cine deține problema, să o oprească dacă este necesar, să o corecteze, să rețină corecția și să îmbunătățească fluxul de lucru fără să dea vina pe cel mai apropiat om pentru că a observat? Dacă da, încrederea are unde să locuiască. Dacă nu, organizația are un cuvânt mare pe un slide și o întâlnire viitoare într-o cameră mai rece.