Защо агентите се нуждаят от граници преди автономия
Агентът, който беше прекалено услужлив
Агентът не се разбунтува. Това си струва да се каже първо, защото историите за автономни системи често се разказват, сякаш софтуерът е чел лоша научна фантастика след полунощ. Този агент се държеше с впечатляващо послушание. Той получи широка инструкция да разреши отворените проблеми с доставчици до края на месеца. Прочете пощата, претърси системата за билети, откри остарели случаи по въвеждане, изпрати напомняния, затвори дублирани записи, обнови електронната таблица и ескалира всичко, което изглеждаше спешно. До 09:15 на следващата сутрин беше свършило повече административна работа, отколкото екипът обикновено успяваше да приключи преди второто кафе.
Също така беше възобновило спор, който правният отдел умишлено беше замразил, изпрати напомняне на доставчик, който беше в период на забрана за преговори, затвори дублиран запис, който не беше дублиран, защото компанията имаше две дъщерни дружества с почти еднакви имена, и обнови клетка в прогнозата, която финансовият отдел използваше като входни данни за доклада на борда. Агентът не беше халюцинирал. Не беше пренебрегнал инструкцията си. Беше следвал формата на задачата, както беше дадена. Проблемът беше, че задачата нямаше стени.
Екипът беше поискал автономия, преди да определи територията. Бяха дали на агента инструменти, идентификационни данни, цел и тон на увереност. Не бяха определили кои системи са само за четене, кои действия изискват одобрение, кои доставчици са чувствителни, кои записи са авторитетни, кои полета се считат за финансов контрол, как да се спре, когато самоличността е двусмислена, или какви доказателства трябва да се съхраняват при извършване на промяна. Агентът не беше прекалено интелигентен. Беше недостатъчно управляван. Това е по-малко драматично и по-често срещано.
Агентите се нуждаят от граници преди автономия, защото автономията не е черта на характера. Тя е разрешение да се преследва цел през стъпки. Всяко разрешение има периметър, или се превръща в теч. Полезният въпрос не е колко автономни можем да ги направим. Полезният въпрос е коя ограничена задача може да изпълнява тази система, с кои инструменти, при какви правила за доказателства и какво трябва да се случи, когато светът престане да съвпада с идеалния сценарий.
Агентът е работен процес с инициатива
Думата агент кара хората да си представят дигитален колега. Тази метафора е полезна, докато не стане вредна. Колегата има трудов контекст, социална преценка, страх от неловки срещи, спомен за минали грешки, ръководител и здравия разум да не пише имейл на правния отдел в 02:00, освен ако сградата наистина не гори. Софтуерният агент има цикъл. Той наблюдава, планира, извиква инструменти, чете резултати, актуализира състоянието и решава дали да продължи. Този цикъл може да бъде мощен. Той не е същото като организационна зрялост в кутия.
Да наречем системата агент, не бива да служи като извинение за смътен дизайн. Напротив, тя трябва да изисква по-строг дизайн, защото системата може да предприеме няколко стъпки без човек между тях. Чатботът може да отговори зле и да спре. Агентът може да отговори зле, да отвори билет, да промени поле, да изпрати съобщение, да задейства работен процес, да похарчи пари и след това да използва резултата от това действие като основа за следващото. Едно малко недоразумение може да се превърне в малък процес. А процесите са мястото, където организациите съхраняват последствията.
Погледът към агента е полезен, когато кара екипите да очертаят целия цикъл. Какво може да наблюдава агентът. Кои източници са авторитетни. Как тълкува намерението. Кои инструменти може да извиква. Кои извиквания на инструменти са обратими. Кои изискват одобрение. Колко пари, време, изчислителна мощност или внимание може да похарчи. Какво състояние поддържа. Как разбира, че е приключил. Как иска помощ. Какви доказателства остават след приключване на цикъла. Тези въпроси не са бюрокрация. Те са наръчник за експлоатация на делегирано действие.
Без този наръчник автономията се превръща в разрешение за импровизация в рамките на бизнес системите. Импровизацията е чудесна в джаза. Много по-малко очарователна е, когато редактира основни данни.
Границите не са белезници
Екипите понякога се противопоставят на границите, защото звучи като начин да се направи агентите по-малко полезни. Това е обърнато мислене. Границите са това, което прави полезността устойчива. Човек може да кара бързо, защото пътищата имат ленти, знаци, ограничения на скоростта, спирачки и правила за кръстовища. Премахнете тези ограничения и не сте създали по-напреднала транспортна система. Създали сте среща със застраховка.
Една добра граница казва на агента какво може да оптимизира и какво трябва да запази. Може да му бъде позволено да намали времето за отговор, но не и като заобикаля одобрението. Може да му бъде позволено да изготвя съобщения до доставчици, но не и да ги изпраща на ограничени страни. Може да му бъде позволено да съпоставя записи, но не и да презаписва авторитетна система без праг на увереност и път за преглед. Може да му бъде позволено да харчи изчислителна мощност, но само в рамките на бюджет и с причина. Границата не е отричане на автономията. Тя е формата, която прави автономията разбираема.
Границите също така правят резултатите тестваеми. Ако агентът има ясен обхват на инструментите, оценителите могат да тестват злоупотребата с инструменти. Ако има обхват на данните, те могат да тестват изтичането. Ако има бюджет, те могат да тестват неконтролирани цикли. Ако има правила за ескалация, те могат да тестват неяснотата. Ако има изисквания за доказателства, те могат да тестват одитируемостта. Неясната автономия не може да бъде тествана, освен като се изчака да се случи нещо странно и след това се проведе среща, на която всеки използва думата „съгласуваност“ с различно значение.
Най-полезната граница често е скучна: четене преди писане. Оставете агента да чете широко с разрешение, да предлага промени и да пише само в тесни системи, където корекцията е лесна. След това разширявайте. Автономията трябва да расте от доказано поведение, а не от ентусиазъм. Ентусиазмът е лош модел за контрол на достъпа, въпреки че има силен търговски отдел.
Достъпът до инструменти е мястото, където автономията става реална
Агент без инструменти е най-вече приказлив плановик. Агент с инструменти е операционен софтуер. В момента, в който може да изпрати имейл, да актуализира запис, да изпълни заявка, да създаде заявка за покупка, да премести файл, да извика API или да задейства друг работен процес, системата е преминала от предложение към действие. Това преминаване заслужава повече церемония, отколкото квадратче за отметка, наречено „включване на инструменти“.
Правата за достъп до инструменти трябва да бъдат разделени според последствията. Четенето на запис за клиент не е същото като редактирането му. Изготвянето на имейл не е същото като изпращането му. Създаването на билет не е същото като затварянето му. Изпълнението на анализ не е същото като публикуването на резултата. Зрелият дизайн на агент третира всяко действие с инструмент като договор: входни данни, разрешени потребители, разрешени цели, странични ефекти, идемпотентност, връщане назад, доказателства и одобрение. Ако това звучи твърде тежко, започнете с по-малко инструменти. Отговорът на слабия контрол не е по-голям радиус на поражение.
Необратимите действия изискват специално отношение. Плащанията, изтриванията, спиранията на акаунти, правните известия, ангажиментите към клиенти, промените в цените и политическите решения не трябва да бъдат обикновени извиквания на инструменти, освен ако домейнът няма изключително силни контроли. Много работни процеси могат да използват модел от две стъпки: агентът подготвя, обяснява и поставя действието в опашка; човек или отделна контролна служба одобрява изпълнението. Това не е човешко гледане на агента. Това е разделение на отговорностите, идея достатъчно стара, за да е оцеляла през много софтуерни тенденции и няколко шрифта.
Дори обратимите действия изискват одитни следи. Ако агент актуализира поле, записът трябва да показва предишната стойност, новата стойност, доказателствата, версията на политиката, извикването на инструмента, версията на агента и дали човек по-късно го е променил. В противен случай връщането назад се превръща в догадки. Догадките са скъпи, когато се извършват от хора, на които е било обещано, че автоматизацията ще спести време.
Състоянието е бизнес данни
Агентите помнят неща. Те пазят състояние на задачата, състояние на разговора, резултати от инструменти, обобщения, бележници, планове, вграждания, предпочитания и понякога дългосрочна памет. Тази памет може да подобри непрекъснатостта. Тя може също да се превърне в сянка на бизнес система, ако никой не я управлява. Агентът може да помни, че даден доставчик е труден, че клиент предпочита отстъпка, че даден случай изглежда подозрителен или че дадено заобиколно решение обикновено работи. Тези спомени могат да оформят бъдещи действия. Те вече не са безобидни бележки.
Състоянието изисква собственост, съхранение, корекция и правила за достъп. Кой може да види какво помни агентът. Колко дълго го пази. Може ли потребител да го коригира. Наследява ли чувствителност от източника. Използва ли се за бъдещи решения. Премества ли се между потребители. Включва ли се в подканите. Изтрива ли се, когато записът в източника бъде изтрит. Това са обикновени въпроси за управление на данни, облечени в костюм на агент. Костюмът не променя нищо, освен скоростта, с която проблемите могат да се разпространяват.
Краткосрочните бележници също заслужават внимание. Един план може да съдържа чувствителни разсъждения, случайно попаднали идентификационни данни, изведени факти или грешни предположения. Ако се записва широко, може да изтече. Ако изобщо не се записва, системата става трудна за отстраняване на грешки. Правилният отговор зависи от риска в областта, но трябва да има отговор. Политиката за памет не трябва да бъде каквото рамката случайно е съхранила във вторник.
Когато състоянието е управлявано, агентите стават по-лесни за подобряване. Екипите могат да видят къде цикълът е заседнал, кои предположения са се повтаряли, кои източници са били полезни, кои извиквания на инструменти са се провалили и кои човешки намеси са коригирали пътя. Без управлявано състояние оценяването се превръща в сеанс със стектрейсове.
Нееднозначността е нормалният случай
Много демонстрации на агенти работят, защото светът в демонстрацията е подреден. Клиентът има една сметка. Политиката има едно изключение. Доставчикът има едно юридическо лице. Задачата има една очевидна следваща стъпка. Реалните операции са по-малко учтиви. Имената се сблъскват. Записите се дублират. Разрешенията са остарели. Някой е написал „виж предишния имейл“, фраза, която е причинила повече щети на автоматизацията, отколкото много технически стандарти. Агентът трябва да бъде проектиран за нееднозначността като нормален случай, а не като смущаващо прекъсване.
Добрите граници казват на агента кога да не действа. Ако увереността в самоличността е ниска, спри. Ако два авторитетни източника противоречат, спри или ескалирай. Ако поисканото действие засяга ограничена страна, спри. Ако разходите надхвърлят бюджета, спри. Ако резултатът от инструмента противоречи на плана, спри. Ако една и съща стъпка се повтаря твърде често, спри. Ако агентът не може да обясни доказателствата си, спри. Условието за спиране не е провал. То е функция за безопасност със смирение.
Ескалацията трябва да бъде конкретна. Не подавай на човек неясно съобщение, което казва, че агентът има нужда от помощ. Кажи коя граница е била достигната, какви доказателства са видени, какво действие е било предложено, какъв риск остава и какво решение е необходимо. Хората са добри в преценката, когато системата предостави правилния контекст. Те са по-малко добри, когато бъдат призовани в мъгла и помолени да я благословят.
Тук има въпрос за достойнството на работещите. Ако агентите хвърлят всеки труден случай на хората без контекст, автоматизацията се превръща в машина за концентриране на бъркотията върху същите хора като преди. Ако агентите скриват нееднозначността и въпреки това действат, хората наследяват последствията. Границите трябва да разпределят работата честно: машините се справят с ограниченото повторение, хората се справят с неразрешената преценка, а системата запазва достатъчно доказателства, така че никоя страна да не трябва да се преструва.
Човешкият надзор е дизайн, а не стол
Да поставиш човек в процеса е популярна фраза, защото звучи отговорно и не струва нищо на слайд. На практика това често означава, че от човек се очаква да забележи всичко, което системата би могла да сбърка, като същевременно върви в крак с работата, която автоматизацията е трябвало да намали. Това не е надзор. Това е принудителна поза с табло.
Добрият надзор определя какво преглежда човекът и защо. Дали лицето одобрява действие на инструмент, валидира доказателства, разрешава конфликт, обработва изключение, променя политика или взема извадка от резултатите за контрол на качеството. Всяка роля изисква различна информация. За одобрение са нужни предложеното действие и последствията. За преглед на доказателства са нужни източниците и версиите. За разрешаване на конфликт са нужни конкуриращите се твърдения. За извадка за качество са нужни разпределения, не анекдоти. Човешкото внимание е оскъден ресурс. Харчи го като инфраструктура.
Надзорът трябва да е и правилно синхронизиран. Прегледът след необратимо действие не е надзор; това е археология с емоции. Прегледът на всяка тривиална стъпка унищожава стойността на автоматизацията. Полезният модел е базиран на риска контрол. Нискорисковите обратими действия могат да продължат с регистриране. Среднорисковите действия може да изискват преглед, когато увереността е ниска или границата е близо. Високорисковите действия изискват одобрение преди изпълнение. Гладкостта на модела не трябва да определя контрола. Последствията трябва.
Хората се нуждаят от правомощия, равни на отговорността. Ако рецензентът може само да одобрява или отхвърля, но не може да коригира изходните данни, да актуализира граница, да подобри правило или да отбележи повреден инструмент, същият проблем ще се върне. Надзорът трябва да захранва системата. В противен случай хората се превръщат в декоративен слой за безопасност, което е несправедливо към хората и изненадващо безполезно за безопасността.
Границата на автономията
Автономията не е превключвател. Тя е граница, която се движи с подобряването на доказателствата. В единия край агентът изготвя препоръки и не може да действа. След това може да действа в пясъчна среда. След това може да записва в нискорискови системи. След това може да извършва ограничени производствени действия. След това може да координира между системи с одобрения. И накрая, за много зрели области, може да обработва тясно дефинирана работа със супервизия, базирана на изключения. Всяка стъпка трябва да бъде заслужена с резултати, а не обещана от архитектурни диаграми.
Границата е различна за всяка област. Агент, който планира вътрешни срещи, може да има повече свобода от този, който променя условията на плащане. Агент, който обозначава документи, може да има повече свобода от този, който ги изтрива. Агент, който помага на инженер да сортира логове, може да има повече свобода от този, който контактува с клиенти. Един и същ основен модел може да стои зад различни нива на автономия, защото последствията, а не моделът, определят границата.
Придвижването по границата изисква доказателства: резултати от оценка, история на инциденти, проценти на грешки в инструментите, качество на ескалацията, успех при връщане към предишно състояние, доверие на потребителите, спазване на политики и поведение на разходите. Ако агентът многократно среща същата неяснота, отговорът може да е по-добри данни, по-ясна политика или по-тесен обхват, а не повече автономия. Ако агентът се представя добре в една опашка, не предполагай, че ще се държи по същия начин в друга. Бизнес контекстът не е увеселителен парк. Изискванията за ръст са локални.
Ето защо фразата напълно автономен обикновено е по-малко полезна, отколкото хората се надяват. Пълна автономия върху какво. За колко време. С кои инструменти. При какъв бюджет. Срещу коя политика. С какво право на обжалване. Сериозната версия е по-тясна и по-силна: автономен в рамките на тази ограничена задача, с тези контроли, докато не бъдат изпълнени тези условия за спиране. Звучи по-малко впечатляващо. Но е по-вероятно да оцелее при сблъсък с делничния ден.
Границите трябва да се поддържат
Една граница не е готова, когато е написана. Бизнес правилата се променят, доставчици се сливат, данните се местят, екипите се реорганизират, моделите се обновяват, инструментите получават нови функции, а потребителите откриват преки пътища. Граница за агент, която е била разумна през януари, може да е грешна до март. Това не е провал на първоначалния дизайн. Това е реалността, която осигурява контрол на версиите по обичайния си груб начин.
Поддръжката на границите изисква отговорност. Някой отговаря за изявлението за целта. Някой отговаря за обхвата на данните. Някой отговаря за разрешенията за инструментите. Някой отговаря за бюджетните лимити. Някой отговаря за правилата за ескалация. Някой отговаря за оценката. Някой отговаря за прегледа на инцидентите. Ако всички отговарят за границата, агентът отговаря за нея, което е поетичен начин да се каже, че никой не отговаря. Границите трябва да бъдат версионирани, преглеждани и свързани с инциденти и наблюдавано поведение.
Контролът на промените трябва да включва тестове. Ако инструмент получи ново действие, агентът не го получава автоматично. Ако източник на данни промени схемата си, извличането и обработката на състоянието трябва да бъдат проверени. Ако политика се промени, подканите, правилата и случаите за оценка трябва да се променят с нея. Ако версия на модел се промени, регресионните тестове трябва да включват избор на инструмент, отказ, ескалация и качество на доказателствата. Агентът не е магически слой над процеса. Той е процес с по-бърз пулс.
Поддръжката също означава и оттегляне на автономията. Ако средата стане по-рискова, ако нивата на инциденти се повишат, ако доставчик стане чувствителен, ако регулациите се променят или ако качеството на доказателствата спадне, автономията трябва да се придвижи назад. Това може да изглежда като провал. Всъщност това е контрол, който работи. Спирачките не са признание, че колите са били грешка.
Урокът за организацията
Агентите разкриват колко добре една организация разбира собствената си работа. Ако работният процес е пълен с неформални изключения, неясна отговорност, дублирани записи, скрити политики и героична човешка памет, агентът няма магически да го изчисти. Той или ще се спъне, или ще действа погрешно, или ще изисква толкова много одобрения, че хората ще започнат да го използват като по-бавна форма на имейл. Агентът не е създал бъркотията. Той направи бъркотията изпълнима.
Това може да е полезно. Дизайнът на агентите принуждава екипите да назоват задачата, да определят правомощията, да класифицират данните, да разделят инструментите, да напишат условия за спиране и да запазят доказателства. Това са здравословни оперативни навици дори преди автоматизацията. Екип, който не може да определи граници за агент, вероятно не може да обясни работния процес достатъчно добре и за хората. Софтуерът просто е по-малко учтив към неяснотата.
Най-добрите внедрявания на агенти започват по-тясно от амбицията. Те избират реален работен процес с познати граници, значителен обем, ограничен обхват на въздействие и собственици, които могат да подобряват системата. Те наблюдават къде хората използват преценка. Автоматизират ограниченото повторение. Запазват доказателства. Ескалират ясно. Разширяват се само когато текущата граница се е доказала. Това не е бавно. Така скоростта избягва да се превърне в разчистване.
Автономия без граници иска от системата да се държи като добър служител, като същевременно ѝ отказва организационния контекст, който прави служителите добри. Ограничената автономия задава по-добър въпрос: коя част от работата може да бъде делегирана по начин, който остава проверим, обратим, където е възможно, и честен, когато не знае. Този въпрос е по-малко бляскав. Той е и този, който позволява на агентите да се превърнат от операции в театър.
Урокът
Агентите се нуждаят от граници преди автономия, защото всяка автономна стъпка е делегирано действие. Делегирането без обхват не е доверие. То е абдикация с по-приятна терминология. Първо определете задачата, данните, инструментите, бюджетите, състоянието, доказателствата, условията за спиране, ескалацията и пътищата за поправка. Тогава автономията може да расте там, където системата я заслужи.
Целта не е да направим агентите плахи. Целта е да ги направим полезни на места, където работата има значение. Границите позволяват на агентите да действат по-бързо, без да правят последиците невидими. Те позволяват на хората да наблюдават преценката, вместо да гледат механиката. Превръщат грешките в поправки, а не в мистерии. Най-важното е, че дават на организацията начин да каже в какво на агента е позволено да бъде добър.
Свободният агент звучи вълнуващо, докато не срещне реален работен процес. Ограниченият агент може да звучи по-малко героично. Добре. Героизмът е лош операционен модел. Границите са начинът, по който автономията се превръща в отговорна работа.