Skrytá cena pravdepodobnostných pracovných postupov
Faktúra, ktorú v pilotnom projekte nikto nevidel
Pilotný projekt pôsobil lacno. To bol prvý problém. Tím pripojil AI krok k známemu pracovnému postupu: prichádzajúce dokumenty sa klasifikovali, vygeneroval sa krátky súhrn, vybrala sa odporúčaná trasa a ľudský recenzent ju schválil alebo zmenil. Ukážka bola čistá. Model pôsobil kompetentne. Účet za tokeny bol nižší ako rozpočet na obed, vďaka čomu sa každý cítil finančne vyspelý. Niekto vyslovil slovo škálovateľný a miestnosť sa na chvíľu stala nebezpečnou.
O tri mesiace neskôr sa rozhovor o nákladoch zmenil. Účet za tokeny stále nebol dramatický. Skryté náklady boli inde. Recenzenti strávili minúty navyše kontrolou hraničných výstupov. Objavovali sa opakované behy, pretože rovnaký vstup niekedy priniesol dostatočne odlišnú odpoveď. Rady výnimiek rástli. Dátové tímy vyšetrovali, prečo jeden typ dokumentu mýlil klasifikátor. Prevádzka pridala vzorkovanie. Právne oddelenie žiadalo dôkazy v sporných prípadoch. Manažéri sa pýtali, prečo sa čas cyklu stal menej predvídateľným. Inžinieri pridali výzvy, potom zábrany, potom záložné riešenia, potom monitorovanie, potom tabuľku, ktorú nikto nemiloval, ale každý otváral. Pracovný postup nevybuchol. Získal variabilitu.
Toto sú skryté náklady pravdepodobnostných pracovných postupov. Volanie modelu je viditeľná jednotka spotreby, ale prevádzkové náklady nesie neistota okolo volania. Pravdepodobnostný komponent môže byť užitočný, výkonný a ekonomicky rozumný. Môže tiež presunúť náklady do kontroly, zosúlaďovania, dôkazov, podpory, návrhu frontov, analýzy incidentov, merania kvality a ľudskej pozornosti. Ak tieto náklady nie sú navrhnuté do pracovného postupu, prídu tak či tak, zvyčajne s menšou trpezlivosťou.
Tradičné systémy pracovných postupov nie sú dokonalé. Zlyhávajú, odchyľujú sa a prekvapujú ľudí svojimi vlastnými nudnými spôsobmi. Často však majú užitočnú vlastnosť: rovnaký vstup, stav a pravidlo zvyčajne prinášajú rovnaký výsledok. Pravdepodobnostné systémy tento predpoklad oslabujú. Niekedy je to práve zmysel. Zvládajú nejednoznačnosť, jazyk, obrázky, neprehľadné dokumenty a nejasný zámer. Dobre. Cenou je, že prevádzka musí prestať predstierať, že neistota je detail ukážky. Je to prvotriedny vstup do modelu nákladov.
Variabilita nie je detail implementácie
Probabilistické komponenty vnášajú variabilitu na viacerých miestach. Model môže vyprodukovať mierne odlišné formulácie. Klasifikátor môže hraničný prípad zaradiť na ktorúkoľvek stranu prahu. Retriever môže po aktualizácii indexu vrátiť inú množinu zdrojov. Sumarizátor môže vynechať detail, ktorý neskôr záležal recenzentovi. Agent používajúci nástroje môže zvoliť inú postupnosť volaní. Nič z toho nie je automaticky chyba. Je to jednoducho iný materiál ako deterministický kód. Zaobchádzať s tým ako s bežným kódom len preto, že to má API, je kategorická chyba s faktúrami.
Variabilita má prevádzkové dôsledky. Zvyšuje potrebu vzorkovania a kontroly. Komplikuje reprodukciu incidentov. Sťažuje meranie výkonnosti, pretože priemerná kvalita môže skrývať nestabilitu na okrajoch. Vytvára nezhody medzi používateľmi, ktorí videli rôzne výstupy. Môže spôsobiť krehkosť nadväzujúcich systémov, keď očakávajú stabilnú štruktúru. Dokáže premeniť jednoduchú dohodu o úrovni služieb na rozhovor o rozdeleniach pravdepodobnosti, čo je výborný spôsob, ako zistiť, kto v miestnosti má naozaj rád matematiku.
Prvým nákladom je rozhodovacie trenie. Keď sa výstupy líšia, ľudia strácajú čas rozhodovaním, či na rozdiele záleží. Návrh e-mailu, ktorý hovorí to isté inými slovami, môže byť prijateľný. Lekársky súhrn, ktorý vynechá liek, nie je. Klasifikátor podpory, ktorý smeruje jeden lístok inak, môže byť v poriadku. Vysvetlenie nároku na dávky, ktoré mení svoje zdôvodnenie, nie je. Pracovný postup potrebuje model tolerancie: aká variácia je neškodná, aká si vyžaduje kontrolu a aká je zakázaná.
Druhým nákladom je reprodukovateľnosť. Ak sa zákazník, občan, audítor alebo inžinier opýta, prečo k rozhodnutiu došlo, organizácia musí byť schopná reprodukovať príslušný kontext: verziu modelu, prompt, množinu získaných dokumentov, vstup, pravidlá, parametre, výstupy nástrojov a ľudský zásah. Bez tohto záznamu sa vyšetrovanie stáva divadlom. Niekto spustí prompt znova, dostane inú odpoveď a prítomní si tvrdo uvedomia, že pokus znova nie je dôkaz.
Opakovania nie sú bezplatné len preto, že sú automatizované
Opakovania vyzerajú zvnútra kódu lacno. Ak model dá slabú odpoveď, zavolajte ho znova. Ak je klasifikátor neistý, požiadajte o ďalšiu vzorku. Ak je odpoveď vo formáte JSON neplatná, opravte ju. Ak volanie nástroja zlyhá, skúste inú cestu. Stroj robí prácu, takže inštinkt hovorí považovať opakovania za technické lepidlo. V probabilistickom pracovnom postupe sú opakovania politikou. Rozhodujú o tom, koľko variability môže systém skryť, kým ju uvidí človek.
Existujú dobré dôvody na opakovanie. Prechodné zlyhanie by nemalo zastaviť proces. Chybne formovanú odpoveď možno často opraviť. Požiadať o druhý prechod môže zlepšiť kvalitu. Opakovania však tiež vytvárajú náklady a nejednoznačnosť. Ktorý výstup sa počíta ako záznam. Uchovávame všetky pokusy. Prepíšu neskoršie pokusy skoršie. Ukážeme recenzentovi nestabilitu. Vychyľujú opakovania systém smerom k odpovediam, ktoré znejú sebavedomejšie. Opakujeme len lacné prípady, čím náhodou spomaľujeme dôležité prípady. Počítame opakovania do rozpočtov nákladov a latencie. Skromné opakovanie má veľa názorov, akonáhle ho pozvete do produkcie.
Opakovania tiež menia stimuly. Ak tímy vedia, že systém bude skúšať, kým výstup nezapadne do očakávaného tvaru, môžu podinvestovať do kvality vstupov, návrhu schém, obmedzení promptov alebo deterministického predspracovania. Opakovanie sa stáva mopom. Mopy sú užitočné. Stavebná stratégia založená na mopovaní je menej pôsobivá.
Lepším vzorom je klasifikovať dôvody opakovaných pokusov. Prechodné zlyhanie infraštruktúry je jedna kategória. Oprava formátovania je ďalšia. Nízka miera istoty je ďalšia. Konflikt politík je ďalšia. Konflikt zdrojov je ďalšia. Každá kategória potrebuje limity, záznamy a pravidlá eskalácie. Opakovaný pokus, ktorý pred používateľom skrýva neistotu, by sa mal posudzovať inak ako opakovaný pokus, ktorý len zotavuje výpadok siete. Nákladom nie je len výpočtový výkon. Je to náklad rozhodovania o tom, ktorú neistotu je organizácia ochotná skrývať.
Fronta výnimiek je skutočný diagram architektúry
Každý pravdepodobnostný pracovný postup nakoniec odhalí svoj skutočný návrh cez frontu výnimiek. Nie cez hlavnú cestu. Hlavná cesta je miesto, kde diagramy vyzerajú zamestnateľne. Fronta výnimiek ukazuje, ktorým prípadom systém nerozumie, ktoré vstupy sú znečistené, ktoré politiky sú v konflikte, ktorí používatelia potrebujú podporu, ktoré prahy sú nesprávne a ktoré sľuby boli dané príliš skoro.
Ak je fronta výnimiek dobre navrhnutá, stáva sa plochou na učenie. Prípady sú kategorizované, vzorkované, posudzované správnymi rolami, prepojené s opravami zdrojových dát, viazané na zmeny politík a vrátené do vyhodnocovania. Ak je navrhnutá zle, stáva sa močiarom. Náročné prípady sedia v backlogu. Posudzovatelia si vytvárajú lokálne zvyky. Manažéri vidia len objem. Inžinieri vidia len agregované zlyhania. Používatelia vidia oneskorenie. Model zostáva záhadný, pretože organizácia skryla svoje najlepšie dôkazy v prevádzkovom bahne.
Náklad výnimiek nie je len počet prípadov. Je to ich tvar. Desaťpercentná miera výnimiek môže byť zvládnuteľná, ak sú prípady rýchle, s nízkym rizikom a ľahko smerovateľné. Dvojpercentná miera výnimiek môže byť nákladná, ak každý prípad vyžaduje právnu interpretáciu, odborné posúdenie, kontakt so zákazníkom a rekonštrukciu dôkazov. Priemerná miera automatizácie je preto podozrivá metrika. Hovorí vám, koľko prešlo strojom, nie koľko nákladov stroj nahradil.
Návrh výnimiek by mal byť explicitný. Definujte pásma istoty. Definujte zdržanie sa hlasovania. Definujte, ktoré konflikty pozastavia pracovný postup. Definujte, ktoré roly môžu riešiť ktoré triedy. Definujte maximálny vek fronty. Definujte kontrolu vzorky prijatých prípadov, nielen neúspešných. Definujte, čo sa opraví, keď sa výnimka opakuje. Inak organizácia neautomatizovala prácu. Automatizovala vytváranie druhej, menej viditeľnej práce.
Pravdepodobnostný výstup núti nadväzujúce systémy vyjednávať
Softvérové systémy uprednostňujú zmluvy. Pole je dátum. Stav má povolené hodnoty. Suma má presnosť. Pravidlo má vetvu. Pravdepodobnostné výstupy často prichádzajú ako jazyk, poradie, spoľahlivosť alebo čiastočne štruktúrované odhady. Nadväzné systémy potom vyjednávajú. Analyzujú. Overujú. Opravujú. Pýtajú sa znova. Mapujú nejasné označenia na presné stavy. Vytvárajú záložné riešenia. Každé vyjednávanie je malý náklad. Dosť malých nákladov sa stane architektúrou.
Štruktúrovaný výstup pomáha, ale neodstraňuje neistotu. Model môže vytvoriť platný JSON a napriek tomu zvoliť nesprávnu kategóriu. Môže vyplniť každé pole a napriek tomu vynechať podmienku. Môže citovať zdroj a napriek tomu ho nesprávne prečítať. Schéma zachytáva chyby tvaru. Nedokazuje význam. Toto je častá pasca, pretože chyby tvaru sú viditeľné pre stroje a chyby významu sú viditeľné pre ľudí. Hádajte, ktoré sa opravia ako prvé.
Nadväzné vyjednávanie tiež mení vlastníctvo. Ak je prípad nesprávne smerovaný, pretože výstup modelu bol nejasný a integračná vrstva hádala, kto vlastní chybu. Tím modelu. Platformový tím. Vlastník procesu. Recenzent. Dátový tím. Každý môže predniesť prijateľný argument, čo je spôsob, ako zistíte, že prevádzkový model chýba. Pravdepodobnostné pracovné postupy potrebujú vlastníctvo na hranici, kde sa neistota stáva stavom systému.
Jednou praktickou metódou je oddeliť spoľahlivosť, úplnosť a dôsledok. Spoľahlivosť hovorí, aká je pravdepodobnosť výstupu. Úplnosť hovorí, či sú prítomné požadované dôkazy. Dôsledok hovorí, koľko škody môže spôsobiť nesprávna akcia. Výstup s vysokou spoľahlivosťou a chýbajúcimi dôkazmi môže stále vyžadovať kontrolu. Výstup s nízkou spoľahlivosťou a nízkym dôsledkom môže byť rýchlo smerovaný. Výstup so strednou spoľahlivosťou a vysokým dôsledkom môže vyžadovať eskaláciu. Pracovný postup by nemal považovať všetku neistotu za rovnakú farbu žltej.
Vyhodnocovanie je opakovaný prevádzkový náklad
Mnohé tímy považujú vyhodnocovanie za fázu projektu. Pred spustením zostavia testovaciu sadu, spustia výzvy, porovnajú výstupy, možno ohodnotia kvalitu a vyhlásia pripravenosť. Potom príde realita s novými dokumentmi, novými používateľmi, novými okrajovými prípadmi, novým jazykom, novou politikou a novými verziami modelov. Vyhodnocovacia sada začína starnúť. Ako syr, len menej chutný a skôr spôsobí stretnutie.
Pravdepodobnostné pracovné postupy potrebujú opakované vyhodnocovanie. To znamená starostlivo vybrané prípady, protivnícke prípady, nedávne produkčné vzorky, regresné sady, odbornú kontrolu, kontroly spravodlivosti tam, kde sú relevantné, sledovanie nákladov a latencie a testy, ktoré sa spúšťajú, keď sa zmenia výzvy, modely, indexy vyhľadávania, politiky alebo zdrojové dáta. Vyhodnocovanie nie je jednorazová brána. Je to prevádzkový rozpočet na zistenie, či si pracovný postup stále zaslúži prevádzku.
Tento náklad ľudí prekvapuje, pretože pilot ho skrýva. Počas pilotu sú odborníci blízko systému. Všímajú si problémy neformálne. Vstupná zmes je obmedzená. Stávky sú kontrolované. V produkcii sa systém stane natoľko nudným, že odborníci prestanú sledovať každý výstup, čo je presne moment, keď musí formálne vyhodnocovanie prevziať kontrolu. Pravdepodobnostný systém bez opakovaného vyhodnocovania je stroj, ktorý pomaly míňa dôveru, zatiaľ čo hlási prevádzkovú dostupnosť.
Vyhodnocovanie musí byť tiež spojené s rozhodnutiami. Ak kvalita klesne, kto môže pozastaviť. Ak latencia stúpne, kto rozhodne, či znížiť veľkosť modelu, obmedziť opakovania alebo pridať kapacitu kontroly. Ak nový model zlepší priemerné skóre, ale zhorší kritickú podskupinu, kto odmietne upgrade. Ak náklady stúpnu, pretože pribudnú výnimky, kto vlastní opravu. Informačný panel, ktorý ukazuje pokles bez právomoci konať, je len drahá predpoveď počasia.
Ľudská kontrola má svoj účet za teóriu frontov
Ľudská kontrola sa často pridáva ako upokojujúca fráza. Človek zostane v slučke. Krásne. Ktorý človek, s akým frontom, s akým kontextom, s akou právomocou, s akým cieľovým časom, s akou eskalačnou cestou, s akým modelom únavy a s akou poistkou, keď systém pošle príliš veľa hraničných prípadov v piatok o 16:45. Slučka má logistiku. Logistika má náklady. Náklady majú milý zvyk objaviť sa až po snímke architektúry.
Kapacita kontroly nie je lineárna. Malý nárast neistých prípadov môže spôsobiť veľký nárast čakacieho času, keď je tím kontroly blízko svojej kapacity. Teória frontov je krutá, ale spravodlivá. Ak sa príchody stanú variabilnejšími a čas obsluhy variabilnejším, oneskorenia môžu rásť rýchlo. Pravdepodobnostné pracovné postupy často zvyšujú oboje: nerovnomernejšiu náročnosť prípadov a variabilnejší čas kontroly. Organizácia môže veriť, že automatizovala osemdesiat percent práce, zatiaľ čo zvyšných dvadsať percent potichu riadi dohodu o úrovni služieb.
Kvalita kontroly závisí aj od kontextu. Ak kontrolóri vidia len konečnú odpoveď, musia rekonštruovať, prečo sa objavila. Ak vidia zdroje, mieru istoty, politiku, predchádzajúce pokusy a známe neistoty, môžu konať rýchlejšie a lepšie. Ak sa meria iba priepustnosť, naučia sa príliš dôverovať stroju alebo s ním príliš málo bojovať. Ľudská kontrola nie je magické rozpúšťadlo naliate na neistotu. Je to kvalifikovaná práca, ktorá si vyžaduje dizajn.
Skrytým nákladom je pozornosť. Ľudia nemôžu donekonečna kontrolovať nekonečnú nejednoznačnosť. Únava mení štandardy. Objavujú sa miestne návyky. Niektorí kontrolóri sú prísni, iní pragmatickí, ďalší rezignovaní. Pracovný postup začne prinášať rôzne výsledky podľa toho, kto prípad zachytil. Potom sa pravdepodobnostný systém obviňuje z nekonzistentnosti, ktorú organizácia zosilnila v dizajne kontroly. Stroj dodal variabilitu. Ľudia dodali dynamiku frontov. Pekné duo, ak je cieľom audítorská bolesť.
Kalkulácia nákladov musí zahŕňať neistotu
Užitočný model nákladov pre pravdepodobnostné pracovné postupy zahŕňa viac než len volania modelu. Zahŕňa prípravu vstupov, vyhľadávanie, opakovania, validáciu, čas kontroly, spracovanie výnimiek, vyhodnocovanie, ukladanie dôkazov, analýzu incidentov, monitorovanie, podporu používateľov, údržbu promptov a politík, opravu údajov a následné opravy. Zahŕňa aj opčnosť: náklady na zmenu modelu, dodávateľa, promptu, indexu alebo pracovného postupu, keď súčasné nastavenie už nevyhovuje.
To neznamená, že pravdepodobnostné pracovné postupy sú zlé. Znamená to, že sú skutočné. Mnohé stoja za svoje náklady. Systém, ktorý znižuje opakované čítanie a zároveň upozorňuje na rizikové prípady, môže byť výborný. Klasifikátor, ktorý zvláda neusporiadaný jazyk lepšie ako pravidlá, môže ušetriť čas. Sumarizátor, ktorý odborníkom poskytne dobrý prvý prehľad, môže zlepšiť služby. Nejde o to vyhýbať sa pravdepodobnosti. Ide o to prestať skrývať jej prevádzkové náklady v kalendároch iných ľudí.
Jednou užitočnou metódou účtovania je stanoviť cenu podľa triedy prípadov. Priame prípady majú náklady na model, validáciu a vzorkovanie. Asistované prípady pridávajú čas recenzenta. Výnimkové prípady pridávajú náklady na triedenie, odbornú kontrolu a dôkazy. Sporné prípady pridávajú náklady na reprodukciu, komunikáciu a prípadnú nápravu. Prípady na zlepšenie pridávajú náklady na údržbu údajov alebo promptov. Tým sa miera automatizácie mení na bohatší obraz: nielen koľko prípadov sa dotkla umelá inteligencia, ale aj to, ako neistota zmenila prácu a riziko.
Ďalšou metódou je sledovanie rozpočtu na variabilitu. Koľko variability výstupu je pre túto úlohu prijateľné. Ako často sa môžu opakované spustenia líšiť. Koľko výnimiek denne dokáže fronta absorbovať. Koľko času na recenziu je vyčlenené na prípad. Koľko dôkazov sa musí uchovávať. Ako rýchlo sa musia sporné výstupy reprodukovať. Tieto čísla neodstraňujú neistotu. Robia ju riaditeľnou.
Determinizmus má stále svoje miesto
Nárast pravdepodobnostných systémov nerobí deterministické inžinierstvo zastaraným. Robí deterministické hranice cennejšími. Používajte deterministické parsovanie tam, kde je štruktúra dostupná. Používajte explicitné pravidlá tam, kde je politika jasná. Používajte stabilné vyhľadávanie tam, kde musia byť zdroje reprodukovateľné. Používajte schémy, validátory, konečné stavy, verzované prompty, pevné hodnotiace sady a zaznamenané parametre. Používajte pravdepodobnosť na tú časť úlohy, ktorá skutočne potrebuje úsudok nad nejednoznačnosťou, nie na tú časť, ktorá potrebovala len niekoho, kto napíše nudný kód.
Toto nie je čistotárstvo. Je to kontrola nákladov. Každá deterministická hranica odstraňuje jedno miesto, kde môže unikať variabilita. Pracovný postup, ktorý používa model na čítanie neusporiadaného textu, potom deterministickú validáciu na kontrolu povinných polí, potom pravidlá na uplatnenie známej politiky a potom ľudskú kontrolu pre vysoko rizikovú neistotu, bude zvyčajne jednoduchšie prevádzkovať ako pracovný postup, ktorý žiada model, aby urobil všetko, a potom sa tvári prekvapene, že všetko zahŕňa niekoľko názorov.
Determinizmus tiež zlepšuje dôkazy. Ak sa použilo pravidlo, zaznamenajte pravidlo. Ak parser extrahoval pole, zaznamenajte umiestnenie zdroja. Ak vyhľadávanie zoradilo dokumenty, zaznamenajte verziu indexu a skóre. Ak model vytvoril súhrn, zaznamenajte prompt, sadu zdrojov, verziu modelu a rozhodnutie recenzenta. Cieľom nie je premeniť každý pracovný postup na súdnu sieň. Cieľom je, aby bolo možné neskôr odpovedať na otázky bez toho, aby sa musel zvolať celý inžiniersky tím na stretnutie s názvom rýchla synchronizácia.
Hranica medzi deterministickou a pravdepodobnostnou prácou by mala byť explicitná v diagramoch a rozpočtoch. Ktorý krok sa môže líšiť. Ktorý krok sa nesmie líšiť. Ktorý krok sa môže opakovať. Ktorý krok sa musí presne prehrať. Ktorý krok sa dá vysvetliť štatisticky. Ktorý krok potrebuje záznam. Ak tím nedokáže nakresliť túto hranicu, nedokáže ani čestne odhadnúť náklady.
Ponaučenie
Skryté náklady pravdepodobnostných pracovných postupov nie sú dôvodom, aby sme sa im vyhýbali. Sú dôvodom, aby sme s nimi počítali úprimne. Náklady sa objavujú v opakovaniach, kontrolách, výnimkách, dôkazoch, vyhodnocovaní, frontách, podpore a v pomalšej práci rozhodovania o tom, aká variabilita je prijateľná. Ak pracovný postup šetrí čas na šťastnej ceste, ale vracia ho v sporných prípadoch a prevádzkovej hmle, obchodný prípad bol napísaný len z polovice.
Dobré pravdepodobnostné operácie začínajú tým, že neistotu považujú za materiál. Pomenujte, kde vstupuje. Ohraničte, kde sa môže meniť. Zaznamenajte dostatok kontextu na zopakovanie rozhodnutí. Navrhnite fronty výnimiek ako učiace sa plochy. Dajte recenzentom právomoc a čas. Vyhodnocujte priebežne. Zachovajte deterministické hranice tam, kde znižujú náklady. Stanovte cenu zmeny a odchodu. Väčšina z toho nie je očarujúca. To je znak, že to môže prežiť produkciu.
Volanie modelu je ľahká položka. Skutočná otázka je, čo musí organizácia urobiť pred a po tomto volaní, aby sa výstup dal dôverovať, spochybňovať, opravovať a zlepšovať. Pravdepodobnosť môže urobiť pracovné postupy schopnejšími. Môže ich tiež urobiť menej predvídateľnými. Rozdiel nie je mágia. Je to prevádzka, ktorá zostáva miestom, kde sa pôsobivé ukážky stávajú buď užitočnými, alebo drahými.