Trust е операционен модел, а не лозунг
Денят, в който слайдът за доверието се провали
На срещата имаше слайд с думата „доверие“ с много едър шрифт. Това обикновено е първият предупредителен знак. Не защото доверието е маловажно, а защото важните неща рядко се подобряват, когато бъдат увеличени до четиридесет и осем пункта и поставени над складова снимка на ръце. Регионална обслужваща организация току-що беше завършила труден проект за автоматизация. Пилотната версия работеше, таблото беше подредено, доставчикът беше учтив, пакетът за управление имаше много цветове и всички искаха един и същ извод: потребителите ще се доверят на системата, защото ръководството беше решило, че доверието е ценност.
Тогава социален работник зададе малък въпрос. Ако системата препоръча различен маршрут от този, който аз бих избрал, какво точно имам право да променя, кой вижда тази промяна и какво се случва, ако съм прав? В стаята настъпи тишина от онзи особен вид, който настъпва, когато практичен човек е спукал абстрактно съществително. Имаше политики за отговорно използване. Имаше обучителни слайдове за човешки надзор. Имаше кодекс за поведение. Това, което все още нямаше, беше операционен модел.
Точно това разграничение има значение. Доверието не е чувството, което следва успокояващо съобщение. Доверието е резултат от работеща договореност. Хората се доверяват на система, когато виждат къде се намира властта, когато изключенията имат път, когато доказателствата се запазват, когато поправката е възможна, когато стимулите не наказват добрата преценка и когато организацията може да обясни решенията си, без да събира малък музей от екранни снимки. Доверието е изградено от процедури, интерфейси, записи и навици. По-малко романтично, по-полезно.
Това важи с особена сила за работата с изкуствен интелект. Системата може да класифицира, подрежда, обобщава, изготвя чернови, препоръчва, насочва или задейства. Човекът може да преглежда, одобрява, отхвърля, изменя, ескалира или игнорира. Някъде между тези глаголи организацията или проектира работен процес, на който може да се вярва, или се надява, че зрелите професионалисти ще импровизират. Зрелите професионалисти наистина импровизират. Затова оцеляват в лоши системи. Това не е доказателство, че системата заслужава доверие.
Доверието не е вяра с номер за поръчка
Организациите често третират доверието като комуникационен проблем. Ако хората се колебаят, инстинктът е да се обяснява по-настойчиво. Изпрати имейл. Добави често задавани въпроси. Проведи сесия. Припомни на всички, че системата е само асистент, фраза, която досега е понесла повече мениджърска тревожност, отколкото повечето асистенти заслужават. Комуникацията помага, но само когато описва реални оперативни права. Ако отговорът на всеки практически въпрос е „моля, доверете се на процеса“, процесът вероятно се крие.
Един надежден операционен модел отговаря на обикновените въпроси, преди те да се превърнат в емоционални. Кой взема решението. Кои части са автоматизирани. Кои части са със съвещателен характер. Кои данни са разрешени. Кои данни са изключени. Кои допускания са видими. Кои прагове могат да се променят локално. Кои промени изискват одобрение. Кои изключения трябва да бъдат регистрирани. Кои изключения са очаквани. Кои грешки спират работния процес. Кои грешки само уведомяват някого. Кои показатели ни казват, че работният процес се отклонява от предназначението си.
Тези въпроси звучат сухо, защото са сухи. Добре. Сухите въпроси предотвратяват мокрите инциденти. Проблемът с доверието на ниво лозунг е, че то превръща практическата несигурност в морална тежест. Сестра, която се колебае, става съпротивляваща се. Държавен служител, който иска доказателства, става склонен към избягване на риск. Инженер, който иска път за възпроизвеждане, става труден. В действителност тези хора често правят услуга на организацията. Те питат къде свършва операционният модел и къде започва театърът.
Доверието има и времево измерение. Една система може да е надеждна при пускането си и ненадеждна шест месеца по-късно, защото данните са се променили, политиката е променена, моделът е обновен, натоварването е нараснало или хората, които разбираха пътя за изключения, са се преместили в друг екип. Доверието не е сертификат, поставен на рафт. То е по-скоро график за поддръжка. Ако го пренебрегнете, машините все още работят известно време, а точно така машините си отмъщават.
Контролният стек е мястото, където доверието става скучно
Първият слой е предназначението. Един работен процес трябва да назовава задачата, която му е позволено да изпълнява. Не благороден абзац за трансформация, а ограничено предназначение: да сортира тези заявки, да обобщава тези документи, да открива тези аномалии, да класира тези случаи за преглед, да изготвя тези отговори за одобрение. Ако предназначението е неясно, всеки по-късен контрол става мъгляв. Хората не могат да преценят дали дадена система се е държала правилно, ако никой не може да каже какво означава правилно.
Вторият слой е авторитетът на данните. Доверието се проваля бързо, когато никой не знае кои източници са използвани, кой източник има предимство при конфликт и кой може да коригира грешен запис. Системите с изкуствен интелект влошават това, защото създават производен материал: извлечения, вграждания, обобщения, характеристики, регистрационни файлове и кешове. Ако тези производни носят оперативна тежест, те също се нуждаят от правила. Едно обобщение може да е грешно. Едно вграждане може да остарее. Кешът може да запази вчерашната грешка с впечатляваща увереност. Компютрите са много лоялни към грешното нещо, освен ако не бъдат попитани внимателно.
Третият слой е авторитетът за вземане на решения. Резултатът от модела не е същото като решение. Препоръката не е същото като одобрение. Редът в опашката не е същото като справедливост, колкото и удобна да изглежда опашката. Операционният модел трябва да посочва коя роля отговаря за крайното действие, каква информация получава тази роля, когато ролята може да не е съгласна и какво прави системата с несъгласието. Човешкият надзор, който не може да промени нищо, е декорация с вход.
Четвъртият слой са доказателствата. Организацията се нуждае от повече от регистрационни файлове, повече от табла за управление и много повече от някой, който си спомня, че демонстрацията изглеждаше солидна. Доказателствата трябва да свързват източник, версия, политика, модел, подкана или заявка, резултат, човешко действие и последващ ефект. Не е необходимо да са театрални. Трябва да са достатъчно трайни, така че по-късният преглед да не се превърне в археология със срок.
Ремонтът е частта, която хората забелязват
Много програми за доверие влагат твърде много енергия в предотвратяването на видими разногласия и твърде малко в справянето с тях. Това е обърнато. Хората не се нуждаят от перфектна система, за да ѝ се доверят. Те се нуждаят от система, която е честна за своите граници и способна на ремонт. Влакът може да закъснее и пак да бъде надежден, ако закъсненията са обяснени, билетите са уважени и разписанието се подобрява. Влак, който настоява, че е навреме, докато всички стоят под дъжда, е избрал различен път.
Ремонтът започва с откриването. Потребителите се нуждаят от начин да кажат, че резултатът е грешен, непълен, несправедлив, остарял, опасен или извън предназначението. Този път трябва да е близо до работата. Ако докладването на проблем изисква отделен портал, три полета, които никой не разбира, и категория, наречена разни въпроси, организацията е изградила филтър за оплаквания и го е нарекла обратна връзка. Много ефективно, ако целта е да се учи бавно.
Следва триажът. Не всеки проблем заслужава еднакъв отговор. Някои грешки са безвредни и локални. Някои сочат проблеми с качеството на данните. Някои разкриват неяснота в политиката. Някои показват отклонение в модела. Някои разкриват, че от работния процес се иска да върши работа, за която не е предназначен. Някои са истински вреди и изискват незабавно спиране, човешки контакт и отговорност. Оперативният модел трябва да раздели тези пътища още преди първия инцидент, защото по време на инцидент всеки внезапно става философ.
Ремонтът се нуждае и от памет. Коригиран случай не трябва да изчезва в система за билети, която няма връзка с работния процес. Корекцията трябва да промени изходния запис, правилото, подканата, прага, обучителния материал, наръчника или въпроса за мониторинг, когато това е уместно. Система, която се извинява, но не се учи, не е надеждна. Тя е обслужване на клиенти с амнезия.
Стимулите решават дали моделът оцелява при контакт с реалността
Доверието често се подкопава от стимули, които противоречат на разказа за управлението. Организацията казва, че хората остават отговорни, но измерва екипите по производителност толкова строго, че прегледът се превръща в формалност. Казва, че отмяната е добре дошла, но одитира нивата на отмяна, сякаш високото несъгласие автоматично е лошо. Казва, че качеството има значение, но възнаграждава само приключването на случаи. Казва, че потребителите трябва да съобщават за проблеми, но третира докладите за проблеми като доказателство, че приемането е слабо. Хората разчитат тези сигнали бързо. Може да не цитират политиката, но разбират играта.
Сериозният операционен модел съгласува стимулите с поведението, което твърди, че иска. Ако се очаква хората да преглеждат, дайте им време, информация и правомощия. Ако заобикалянията са част от системата за контрол, разграничавайте полезното несъгласие от небрежния отказ. Ако докладването на грешки подобрява системата, не наказвайте екипа, който докладва най-много. Ако един работен процес е твърде несигурен за пълна автоматизация, не наричайте всяко ескалиране неефективност. Реалността няма да стане по-детерминистична, защото тримесечната цел го изисква.
Тук доверието се превръща от техническа задача в управленска. Моделът може да показва оценка на увереността. Интерфейсът може да показва източниците. Логовете могат да пазят записи. Нищо от това няма значение, ако организацията тихо дава да се разбере, че най-сигурният ход за кариерата е да се съгласяваш с машината. В такъв случай машината не е спечелила доверие. Тя е придобила социална власт чрез управление на представянето. Не е същото, макар че известно време показателите за приемане са отлични.
Има и по-здравословен модел. Отнасяйте се към несъгласието като към сигнал. Питайте защо хората са заобикаляли системата. Сравнявайте заобикалянията с резултатите. Търсете екипи, които никога не изразяват несъгласие, и питайте дали системата е наистина отлична, или екипът е спрял да вярва, че несъгласието е добре дошло. Преглеждайте крайните случаи открито. Дайте на операторите път да подобряват работния процес. Доверието расте, когато хората видят, че добрата преценка променя системата, вместо да изчезва в управленската мъгла.
Интерфейсите учат хората какво вярва организацията
Интерфейсът е част от операционния модел. Той казва на хората какво има значение, какво е по желание и какво организацията очаква да забележат. Ако резултатът на модела е голям, а източникът е скрит, интерфейсът казва, че увереността има значение повече от доказателствата. Ако бутонът за одобрение е зелен, а пътят за оспорване е на три клика надълбоко, интерфейсът казва, че скоростта има значение повече от преценката. Ако обясненията са общи, интерфейсът казва, че потребителят трябва да се чувства информиран, а не да бъде информиран.
Интерфейс, на който може да се вярва, показва правилното триене. Той трябва да прави лесните действия лесни, а сериозните действия подходящо обмислени. Трябва да разграничава предложението от решението. Трябва да показва източник, свежест, несигурност и политически контекст там, където те влияят на работата. Трябва да прави несъгласието нормално. Трябва да избягва декоративната обяснимост, онзи вид, при който под дадено решение се появява абзац и казва, че системата е взела предвид съответните фактори. Съответните фактори, да, ароматната свещ на машинната отчетност.
Доброто триене не е бюрокрация. То е контрол, поставен там, където грешката има значение. Обобщение с нисък риск може да се движи бързо. Препоръка за допустимост с голямо въздействие трябва да се забави, да покаже доказателства, да назове политиката и да поиска изрично човешко действие. Масово действие трябва да изисква извадка или проверка на праг. Отказът трябва да изисква причина, не защото организацията обича текстови полета, а защото причините стават доказателството, което подобрява работния процес.
Интерфейсът трябва също да поддържа преглед след факта. Потребителят трябва да може да отвори минало решение и да види какво е видяла системата по онова време, а не само най-новата версия на записа. Ако източникът се е променил, кажете го. Ако прагът на политиката се е променил, запазете стария. Ако версията на модела се е променила, назовете я. Доверието се накърнява, когато вчерашното решение се съди с днешния невидим контекст. Това не е отчетност. Това е пътуване във времето с електронна таблица.
Доставчиците могат да помогнат, но не могат да притежават вашето доверие
Повечето организации ще разчитат на доставчици за части от стека. Това е нормално. Доверието не изисква да правите всичко сами. То изисква да разберете кои части от модела на доверие са външни, кои доказателства организацията може да проверява, кои контроли може да упражнява и какво се случва, когато връзката се промени. Аутсорсингът на инфраструктура е обикновен. Аутсорсингът на способността да се обяснявате не е особено добро институционално хоби.
Договорите са важни тук, но договорите не са достатъчни. Операционният модел трябва да проверява това, което договорът обещава. Може ли организацията да експортира записи за решения. Може ли да проверява промените в модела. Може ли да контролира съхранението на данни. Може ли да вижда достъпа на подизпълнителите. Може ли да ротира ключове. Може ли да деактивира дадена функция. Може ли да продължи да работи по време на инцидент при доставчик. Може ли да предостави доказателства на регулатор, гражданин, пациент, служител или клиент, без да чака създаването на билет за поддръжка, за да се открие сама.
Това не е подозрение към доставчика. Това е зряло управление на зависимости. Един добър доставчик трябва да приветства ясни оперативни граници, защото те предотвратяват объркване по-късно. Неясният клиент не е по-лесен за обслужване в дългосрочен план. Той просто отлага срещата, на която всички разбират, че доверието е означавало пет различни неща. Много по европейски, в смисъл че ще има протокол, кафе и никакво решение до втората среща.
Същото важи и вътрешно. Екипите по платформата, правото, данните и операциите са доставчици един за друг. Доверието се нарушава, когато даден екип третира своята част като завършена, докато прехвърля несигурността надолу по веригата. Екипът по данните предоставя набор от данни без пътища за корекция. Екипът по модела предоставя резултат без дизайн за ескалация. Оперативният екип предоставя работен процес без доказателства. Правният екип предоставя език на политиката без оперативни тестове. Всеки може да бъде индивидуално компетентен и колективно неясен.
Цикъл, а не пускане
Операционният модел на доверие трябва да е цикъл, защото работата се променя. Появяват се нови случаи. Потребителите откриват гранични условия. Качеството на данните се променя. Нападателите се адаптират. Регламентите се променят. Бюджетите се свиват. Екипите се реорганизират. Системата, която е била подходяща през януари, може да се окаже недостатъчна до юни, а софтуерът има дарбата да ускорява настъпването на юни. Прегледът при пускане е необходим, но не е достатъчен. Организацията се нуждае от ритъм за повторна проверка дали работният процес все още заслужава доверие.
Цикълът започва с наблюдение. Следете не само точността, но и несъответствията, липсващите данни, остарелите източници, нивата на обжалване, причините за отмяна, поведението на опашката, латентността, необичайните концентрации на въздействие и промените в поведението на потребителите. Точността е полезна цифра, но може да скрие историята. Един работен процес може да е точен средно и вреден в крайните случаи. Именно в крайните случаи реалните институции срещат реалните хора.
След това интерпретация. Показателите се нуждаят от собственици, които разбират работата, а не само таблото. Ако нивата на отмяна се повишат, това може да означава, че моделът е по-лош, данните са остарели, политиката се е променила, потребителите са по-добре обучени, натоварването е различно или интерфейсът е объркващ. Правилният отговор не винаги е преобучаване. Понякога това е изясняване на политиката, коригиране на изходните данни, промяна на праговете, подобряване на извадката или премахване на работния процес от задача, за която никога не е трябвало да бъде използван.
След това промяна. Операционният модел трябва да определя кой може да коригира прагове, да поставя на пауза автоматизацията, да актуализира правилата за източниците, да преразглежда насоките, да ескалира инциденти и да съобщава промените. Промяната без правомощия се превръща в театър. Правомощията без доказателства се превръщат в импровизация. Цикълът ги свързва.
Какво трябва да спрат да казват лидерите
Лидерите трябва да спрат да казват „доверете ни се“, когато имат предвид, че все още не са проектирали оперативните права. Трябва да спрат да казват „хората са в процеса“, когато хората не могат да променят резултата. Трябва да спрат да казват „прозрачно“, когато пътят към доказателствата е екранна снимка на табло. Трябва да спрат да казват „отговорен изкуствен интелект“, когато в бюджета няма време за корекции, преглед или обучение. Думите имат право да бъдат амбициозни, но операциите в крайна сметка фактурират всяко прилагателно.
По-добрият език е конкретен. Този работен процес е консултативен. Тази роля носи окончателното решение. Тези източници се използват. Тези източници са изключени. Това е пътят за отмяна. Тези случаи спират автоматизацията. Тези събития се записват. Тези показатели се преглеждат всеки месец. Тези права остават за институцията. Тези грешки изискват контакт със засегнатите хора. Ето как системата се променя, когато потребителите са прави, а автоматизацията греши.
Този език не е толкова бляскав, колкото кампания за доверие. Но е и много по-трудно да бъде фалшифициран. Той дава на потребителите нещо, което да тестват. Дава на мениджърите нещо, което да финансират. Дава на одиторите нещо, което да проверяват. Дава на инженерите цел. Дава на правните екипи оперативна основа. Дава на засегнатите хора път за оспорване. Доверието започва да прилича по-малко на времето и повече на инфраструктура.
Неудобната истина е, че доверието може да забави темпото в началото. То изисква от екипите да определят роли, да водят записи, да тестват пътищата за грешки и да заделят време за преглед. Но това темпо често се възстановява по-късно, защото организацията отделя по-малко време за обясняване на хаоса. Система с ясни операции за доверие може да се движи по-бързо под напрежение, защото хората знаят какво им е позволено да правят. Най-бавната система не е внимателната. Тя е неясната, която открива своя модел на управление по време на разговора за инцидента.
Урокът
Доверието е оперативен модел, а не лозунг. То е подредбата на цел, авторитет върху данните, права за вземане на решения, доказателства, поправка, стимули, интерфейси, граници с доставчици и цикли на учене. То е това, което позволява на хората да разчитат на система, без да се отказват от преценката си. То е това, което позволява на организацията да използва автоматизация, без да се преструва, че автоматизацията е заменила отговорността.
Практическият тест е прост. Когато системата греши, може ли организацията да види грешката, да каже кой я притежава, да я спре, ако е необходимо, да я поправи, да запомни поправката и да подобри работния процес, без да обвинява най-близкия човек, че я е забелязал? Ако да, доверието има къде да живее. Ако не, организацията има голяма дума на слайд и бъдеща среща в по-студена стая.