Binárne myslenie pre neprehľadné systémy
Ventil v suteréne
Najlepšiu lekciu o binárnych rozhodnutiach, akú som kedy dostal, mi nedal počítač. Dal mi ju správca budovy, ktorý stál v suteréne vedľa vodného ventilu. Budova nad nami mala senzory, čerpadlá, merače, nájomníkov, alarmy, dodávateľov, energetickú zmluvu, backlog údržby a výbor, ktorý bol veľmi zručný v používaní slova holistický. Ventil mal dve polohy. Otvorený alebo zatvorený.
To znie primitívne, kým nezačne unikať potrubie. Vo chvíli, keď voda prechádza cez strop, systém nepotrebuje bohatú diskusiu o čiastočnom zámere. Potrebuje hranicu, ktorú môže skontrolovať unavený človek s baterkou. Je ventil zatvorený, áno alebo nie. Odpoveď nevyrieši celú budovu. Vytvorí však stabilný fakt, okolo ktorého môže zvyšok budovy prestať byť taký hlúpy.
Softvérové tímy často hovoria o binárnom myslení, ako keby bolo morálnym zlyhaním. Nuansa je dobrá, takže binárne musí byť zlé. Chybou je považovať binárne myslenie za svetonázor namiesto inžinierskeho nástroja. Svet je neupravený. Ľudia sú nekonzistentní. Dáta sú neúplné. Inštitúcie menia názor s istotou tlačiarne, ktorá tvrdí, že má papier. Nič z toho neznamená, že každá vnútorná hranica by mala byť hmlistá.
Komplexný systém sa stáva kontrolovateľným, keď sú niektoré jeho hranice zámerne binárne. Žiadosť je prijatá alebo odmietnutá. Záznam je zapečatený alebo nezapečatený. Odpoveď modelu je vpustená do pracovného toku alebo zadržaná na kontrolu. Verzia politiky je aktívna alebo neaktívna. Zdroj dát je v rozsahu alebo mimo rozsahu. Toto nie sú tvrdenia, že realita má len dva odtiene. Sú to riadiace povrchy. Dávajú operátorom miesto, na ktorom môžu stáť.
Binárne nie je to isté ako zjednodušené
Zjednodušené myslenie odstraňuje informácie, pretože sú nepohodlné. Binárne inžinierstvo zachováva informácie a potom robí úzke rozhodnutie v konkrétnom bode. Tento rozdiel nie je kozmetický. Nemocničný triážový systém môže zaznamenávať príznaky, neistotu, anamnézu, rizikové faktory a poznámky klinika, pričom stále rozhoduje, či musí byť pacient okamžite eskalovaný. Platobný systém môže uchovávať signály podvodov, behaviorálny kontext, dôkazy zo zariadení a verzie politík, pričom stále rozhoduje, či uvoľniť alebo zadržať transakciu.
Škoda začína, keď si tímy zamieňajú binárny výstup s celým procesom uvažovania. Ak systém jednoducho povie schválené alebo zamietnuté a zahodí stopu, vytvoril to najhoršie z oboch svetov: tvrdé rozhodnutie s mäkkými dôkazmi. To nie je jasnosť. To je byrokracia v používateľskom rozhraní. Správny binárny dizajn zachováva reťazec dôkazov neporušený, aby mohlo byť áno alebo nie spochybnené, prehraté a vylepšené.
Existuje aj praktický ľudský dôvod mať rád ostré hranice. Ľudia, ktorí prevádzkujú skutočné systémy, potrebujú vedieť, v akom stave sa nachádzajú. Pracovný postup, ktorý je možno odoslaný, väčšinou schválený, pravdepodobne vyhovujúci a duchovne dokončený, nie je pracovný postup. Je to malý vzor počasia s priloženými faktúrami. Jasné prechody stavov znižujú počet chýb, pretože odstraňujú interpretačnú prácu z momentov, ktoré sú už aj tak plné tlaku.
Preto užitočná otázka nie je, či by sme mali uvažovať v binárnych pojmoch. Užitočná otázka je, kde by mala byť binárna hranica umiestnená a čo musí byť zachované na oboch jej stranách. Umiestnite ju príliš skoro a zjednodušíte svet. Umiestnite ju príliš neskoro a systém prepustí nejednoznačnosť do každého nadväzujúceho procesu. Umiestnite ju na správne miesto a zložitosť sa stane prehľadnou.
Hranica si musí svoju autoritu zaslúžiť
Binárnej bráne by sa nikdy nemalo dôverovať len preto, že je rozhodná. Rozhodnosť je jednoduchá. Aj rozbité dvere sú rozhodné. Brána si získava autoritu tým, že vyhlási pravidlá, ktoré použila, dôkazy, ktoré videla, kontext, ktorý ignorovala, vlastníka zodpovedného za zmeny a cestu pre výnimky. Bez týchto častí sa binárna brána stáva orákulom. Orákulá sú veľmi pôsobivé, kým sa obstarávanie nespýta, koľko stoja.
Zvážte automatizovaný pracovný postup oprávnenosti pre verejnú službu. Žiadateľ môže mať čiastočné dokumenty, meniace sa zloženie domácnosti, rôzne zdroje príjmu a históriu vo viacerých systémoch. Konečný administratívny stav môže musieť byť oprávnený alebo neoprávnený, pretože peniaze nemožno vyplatiť na polovicu na základe filozofického sklonu. Systém však nesmie predstierať, že žiadateľ bol binárny. Musí zaobchádzať s osobou ako s komplexnou a so stavom platby ako s binárnym.
Toto rozlíšenie chráni obe strany. Inštitúcia dostane jasný akčný stav. Žiadateľ dostane záznam, proti ktorému sa možno odvolať. Operátor dostane pracovný postup, ktorý možno dohliadať. Inžinier dostane zmluvu, ktorú možno testovať. Audítor dostane niečo lepšie ako snímku obrazovky vloženú do dokumentu s názvom final-final-v3. Všetci zostávajú smrteľní, ale aspoň sú podstatné mená v poriadku.
Prečo chaotické systémy potrebujú menej šedých zón
Šedé zóny pôsobia ľudsky, pretože ponechávajú priestor na úsudok. Môžu sa však stať aj úkrytom pre zanedbanú zodpovednosť. V chaotickom systéme má každý nejednoznačný stav svoju cenu. Niekto ho musí interpretovať. Niekto ho musí zosúladiť. Niekto musí vysvetliť, prečo sa zmenil. Niekto musí zákazníkovi povedať, že systém hovorí takmer, čo je len málokedy uspokojivá odpoveď, pokiaľ si zákazník neobjednal polievku.
Binárne hranice znižujú počet stavov, ktorým musia nadväzujúce systémy rozumieť. Robia integráciu bezpečnejšou, pretože príjemca presne vie, čo sa stalo. Robia testy silnejšími, pretože očakávané správanie sa dá overiť. Robia monitorovanie jasnejším, pretože zmena stavu buď nastala, alebo nenastala. Robia reakciu na incidenty pokojnejšou, pretože prvá otázka znie, ktorá brána zmenila stav, a nie ako vyzerá tento oblak čiastočných udalostí dnes.
Toto je dôležité v systémoch s výrazným využitím AI, pretože výstupy modelov sú často pravdepodobnostné, zatiaľ čo pracovné postupy nie sú. Model môže priradiť mieru spoľahlivosti, zoradiť alternatívy, odhadnúť riziko alebo zhrnúť dôkazy. Pracovný postup stále potrebuje vedieť, či má poslať e-mail, schváliť refundáciu, eskalovať prípad, uzamknúť účet alebo požiadať človeka. Zaobchádzanie s pravdepodobnosťou ako s činom je spôsob, akým systémy získavajú drahé osobnosti. Hranica mení výstup modelu na inštitucionálne správanie a musí to robiť zámerne.
Model môže zostať nuansovaný. Brána nemôže. Brána môže povedať, že skóre je pod prahom a záznam je neúplný, preto presmeruj na ľudské posúdenie. Môže povedať, že zdroj je mimo rozsahu, preto odmietni odpovedať. Môže povedať, že verzia politiky je zastaraná, preto zablokuj činnosť. Tieto odmietnutia môžu ľudí krátkodobo obťažovať. Rovnako aj červené svetlo na semafore. Civilizácia napriek tomu nejako pokračuje.
Dobré binárne voľby odhaľujú zlé predpoklady
Jednou tichou výhodou binárnych hraníc je, že nútia predpoklady vyjsť na povrch. Ak sa tím nedokáže rozhodnúť, čo sa počíta ako v rozsahu, pravdepodobne nerozumie pracovnému postupu. Ak nikto nevlastní prah, prah nie je technický parameter. Je to neriadená politika. Ak systém nedokáže povedať, ktoré dôkazy boli zohľadnené, binárny výsledok nie je auditovateľný. Brána riadi pomocou hmly.
Preto je binárny dizajn užitočný počas zisťovania, nielen implementácie. Opýtajte sa miestnosti, čo musí byť pravda, aby sa prípad mohol posunúť vpred. Opýtajte sa, čo musí byť nepravda, aby systém odmietol. Opýtajte sa, aké dôkazy sú potrebné na zmenu možno na áno. Odpovede odhalia, kde politika chýba, kde sú dátové zmluvy vágne, kde je vlastníctvo divadelné a kde proces závisí od hrdinského výkladu jednej osoby, ktorá sa chystá na dovolenku.
Binárne hranice sú tiež vynikajúce pri odhaľovaní skrytých väzieb. Jednoduchý schválený stav môže závisieť od overenia totožnosti, stavu platby, súhlasu, uchovávania údajov, spoľahlivosti modelu, jurisdikcie a ľudského posúdenia. Ak všetko toto musí byť pravda, hranica nie je jednoduchá. Je zložená. To je v poriadku, pokiaľ je zložená podmienka pomenovaná a zaznamenaná. Nebezpečenstvo spočíva v predstieraní, že zložená brána je len pocit.
Disciplína vratných hrán
Binárne rozhodnutie by nemalo byť pascou, pokiaľ to doména skutočne nevyžaduje. Väčšina prevádzkových hraníc potrebuje kontrolovanú cestu späť. Vratné neznamená neviazané. Znamená to, že systém vie, čo musí zachovať, aby sa neskoršia oprava nestala novou záhadou. Prípad možno znovu otvoriť, ale starý stav zostáva viditeľný. Platbu možno vrátiť, ale dôvod a oprávnenie sú zaznamenané. Oprávnenie možno odobrať, ale stopa prístupu prežije. Toto je rozdiel medzi opravou a amnéziou.
Tímy často odolávajú jasným rozhodnutiam, pretože sa boja, že sa mýlia. Lepšou odpoveďou nie je vágnosť. Je ňou navrhnutie cesty pre omyl. Čo sa stane, ak brána odmietne prípad, ktorý mal prejsť. Čo sa stane, ak prijme záznam, ktorý mal byť zadržaný. Kto môže zmeniť stav. Ktoré nadväzujúce systémy treba upovedomiť. Ktoré predchádzajúce výstupy zastarajú. Ktoré správy majú označiť vrátenie. Hranica, ktorá odpovedá na tieto otázky, môže byť pevná bez toho, aby sa stala krutou.
Je to dôležité najmä tam, kde automatizované systémy prichádzajú do kontaktu s ľuďmi. Občan, pacient, zamestnanec alebo zákazník by nemal byť nútený argumentovať proti prízračnému stavu. Ak systém povie nie, záznam by mal ukázať prečo. Ak je záznam chybný, inštitúcia by mala vedieť, ako ho opraviť bez toho, aby potichu nahradila minulosť. Ľudská dôstojnosť v technickom pracovnom postupe je často menej poetická, než by sme chceli. Niekedy je jednoducho právom nájsť stav, prečítať dôvod a požiadať menovanú osobu, aby ho zmenila.
Vratná hrana chráni aj inžinierov. Dáva testom niečo skutočné, čo môžu overiť. Dáva reakcii na incidenty známu cestu. Bráni podporným tímom vymýšľať si tieňové postupy v chate, pretože oficiálny proces má emocionálny rozsah mokrého kartónu. Keď cesta vrátenia existuje v systéme, spracovanie výnimiek sa stáva riadenou prácou, nie folklórom.
Nesprávne miesta pre binárne myslenie
Existujú zlé spôsoby binárneho myslenia a nezaslúžia si žiadnu zľutovanie. Ľudia nie sú čisté kategórie. Sociálne situácie nie sú príkazy if. Lekársky úsudok, právna argumentácia, vzdelávanie, dizajn, vyjednávanie a výskum obsahujú neistotu, ktorá by mala byť zastúpená čestne. Systém, ktorý stlačí komplexného človeka do dobrý alebo zlý, bezpečný alebo nebezpečný, hodnotný alebo nehodnotný, nerobí inžinierstvo. Robí chudobnú sociológiu rýchlejšie.
Pravidlo je jednoduché: binárne voľby používajte na stav systému, nie na hodnotu človeka. Súbor môže byť kompletný alebo nekompletný. Povolenie môže byť udelené alebo zamietnuté. Žiadosť môže byť v rámci deklarovanej politiky alebo mimo nej. Človek by nemal byť zredukovaný na výstupný štítok. To znie samozrejme, ale mnohé systémy sa dokázali stať pôsobivými protipríkladmi.
Binárne hranice sú tiež nesprávne, keď sú náklady na omyl skryté pred systémom. Ak brána odmietne službu, kto vidí škodu. Ak klasifikátor zablokuje účet, kto sa môže odvolať. Ak automatizovaný proces nechce zobraziť informácie, ako sa inštitúcia dozvie, že voľba bola škodlivá. Binárna brána bez spätnej väzby nie je stabilná. Je len tichá. Tiché zlyhávanie je populárne, pretože udržiava grafy upratané.
Čím dôležitejšia je hranica, tým explicitnejšia musí byť cesta preskúmania. Toto nie je proti automatizácii. Toto je to, čo robí automatizáciu prežiteľnou. Odmietnutie, ktoré možno vysvetliť a napadnúť, je často humánnejšie ako neisté možno, ktoré pošle človeka cez tri oddelenia a jeden portál, ktorý funguje až po obede.
Technický tvar
V softvéri má dobrá binárna hranica zvyčajne malú sadu viditeľných častí. Existuje vstupná zmluva. Existuje výstup pravidla alebo modelu. Existuje rozhodovacia funkcia. Existuje uložený výsledok. Existuje kód dôvodu. Existuje vlastník. Existuje cesta prehratia. Existuje cesta preskúmania alebo prepísania. Nič z toho nevyžaduje katedrálu. Vyžaduje to disciplínu a možno menej dashboardov, ktoré predstierajú, že sú riadením.
Rozhodovacia funkcia by mala byť dosť nudná na testovanie. To neznamená, že upstream analýza je jednoduchá. Analýza môže byť bohatá, pravdepodobnostná a z viacerých zdrojov. Konečný prechod by mal byť úzky. Napríklad: ak sú požadované dôkazy prítomné, zdroj je v politike, skóre presahuje deklarovaný prah a neaktivuje sa žiadne vylučovacie pravidlo, prípad postupuje. Inak sa odmietne alebo presmeruje na preskúmanie. Toto nie je romantické. Je to zmluva.
Testovanie sa potom stáva zmysluplným. Môžete testovať hraničné prípady okolo prahov. Môžete prehrať historický prípad proti novej verzii pravidla. Môžete dokázať, že zdroje mimo rozsahu sú odmietnuté. Môžete porovnať počet ľudských preskúmaní pred a po zmene. Môžete sa opýtať, či brána produkuje viac odvolaní z jednej skupiny alebo regiónu. Binárne rozhodnutia neodstraňujú etiku. Uľahčujú kontrolu miesta, kde etika vstupuje do systému.
Choreografia okolo brány
Samotná binárna brána je zvyčajne malá. Práve choreografia okolo nej rozhoduje o tom, či sa systémy stanú civilizovanými, alebo si začnú hromadiť problémy. Vstup musí pomenovať vstupnú hodnotu. Kvalifikácia musí povedať, či je zdroj povolený. Rozhodovacia funkcia musí vydať jeden operačný stav. Perzistencia musí uložiť dôvody a verzie. Notifikácia musí informovať dotknuté systémy o tom, čo sa zmenilo. Recenzia musí poskytnúť cestu späť. Riadenie zmien musí zabrániť tomu, aby sa pravidlo ticho menilo medzi dvoma prípadmi, ktoré by mali byť porovnateľné.
Nič z toho nie je okázalá architektúra. Je to skôr ako označovanie zásuviek. A práve preto to funguje. Skutočná prevádzka závisí od toho, aby malé opakované úkony boli jednoznačné. Ak je objednávka zrušená, sklad by ju nemal považovať za duchovne čakajúcu. Ak je súhlas odvolaný, analytické potrubie by nemalo pokračovať len preto, že starý export je príhodne optimistický. Ak verzia politiky vyprší, ďalšie rozhodnutie by si nemalo požičiavať autoritu zo včerajška len preto, že cron úloha bola hanblivá.
Názvy stavov tu majú význam. Čaká na recenziu nie je to isté ako zamietnuté. Zamietnuté s odvolaním nie je to isté ako konečné odmietnutie. Schválené s čakajúcimi dôkazmi je často varovným signálom, pokiaľ pracovný postup nemá veľmi jasný dôvod. Tímy niekedy vytvárajú prechodné stavy, pretože nechcú vyriešiť otázku riadenia. Databáza sa potom stane registratúrou inštitucionálnej nerozhodnosti. Počítače to budú verne ukladať. Nemajú vkus.
Dobrý model stavov udržiava počet stavov nízky a význam každého stavu ostrý. Zároveň udržiava dôkazy dostatočne bohaté na to, aby malý stav nebol hlúpy. Táto kombinácia je jadrom metódy: zachovať zložitosť v zázname, zúžiť akčný stav a urobiť pohyb medzi stavmi dostatočne explicitným, aby ho človek mohol neskôr sledovať bez toho, aby sa stal amatérskym archeológom.
Prečo to pôsobí nepríjemne
Binárny dizajn môže pôsobiť tvrdo, pretože odstraňuje pohodlie vágnosti. Vágny systém umožňuje každému veriť, že jeho interpretácia je stále živá. Binárna hranica núti inštitúciu rozhodnúť sa. To je politicky nepríjemné. A práve preto je hranica hodnotná. Systémy, ktoré sa nikdy nerozhodnú na správnej úrovni, sa aj tak rozhodnú neskôr, zvyčajne prostredníctvom oneskorenia, nekonzistentnosti alebo náhodnej autority toho, kto najrýchlejšie odpovie na e-maily.
Je v tom holandská praktickosť, ktorá sa mi páči. Ak cyklochodník skončí, farba nefilozofuje. Skončí. Potom môže každý diskutovať o tom, či je dizajn dobrý, ale aspoň vedia, kde diskusia začína. Jasná hranica nerobí politiku správnou. Robí politiku dostatočne viditeľnou na to, aby sa dala zlepšiť. To je skromná cnosť tejto veci.
Najlepšie binárne systémy sú pokorné. Netvrdia, že rozumejú celému svetu. Hovoria: v tomto bode tohto pracovného postupu, s týmito dôkazmi a touto verziou pravidla, vstúpime do tohto stavu a zachováme záznam. Táto pokora je užitočnejšia ako veľkolepé tvrdenia o inteligentnej automatizácii. Priznáva, že hranica je vytvorená, nie objavená z nebies.
Ponaučenie
Neporiadne systémy sa nestanú bezpečnejšími tým, že každá ich časť bude neporiadna. Stanú sa bezpečnejšími tým, že sa rozhodnú, kde je vágnosť povolená, kde musí byť zachovaná a kde musí skončiť. Binárne myslenie je nebezpečné ako ideológia a užitočné ako architektúra. Trik je v tom vedieť rozdiel.
Dobrá binárna hranica chráni zložitosť pri vstupe, urobí jasné rozhodnutie v správnom bode, zachová dôkazy pri výstupe a ponechá priestor na recenziu. Nie je nepriateľom nuáns. Je jedným zo spôsobov, ako nuansa prežije kontakt s prevádzkou. Bez takýchto hraníc sa zložité systémy stanú zdvorilými močiarmi. S nimi ich môžu kontrolovať ľudia, ktorí majú iné veci na práci, a to je väčšina ľudí.