Stroj stanja za odgovorno umetno inteligenco
Obrazec, ki ni stekel
Prva delavnica o odgovorni umetni inteligenci se pogosto konča z obrazcem. Obrazec je običajno lep na tisti način, kot so lahko lepi interni obrazci, ko odbor odkrije razmike. Sprašuje o namenu, vplivu, podatkih, tveganju, pristranskosti, človeškem nadzoru, odvisnosti od dobaviteljev, hrambi in eskalaciji. Ljudje ga izpolnijo skrbno. Polje je označeno. Nadzorni odbor prikima. Projekt se premakne naprej. Nekje mapa prejme še en dokument in postane nekoliko bolj prepričana vase.
Tri mesece pozneje je sistem v produkciji in obrazec ni več tam, kjer se dogaja. Prispe zahtevek za podporo z manjkajočimi polji. Model vrne samozavesten odgovor s šibkimi dokazi. Klic orodja bi posodobil zapis o stranki. Politika se spremeni med osnutkom in končnim dejanjem. Človeški pregledovalec je bolan. Indeks pridobivanja je zastarel. Predlagan je nov vir podatkov, ker bi bil priročen, kar je pogosto način, kako se slabe ideje vljudno predstavijo.
V tistem trenutku odgovorna umetna inteligenca ni načelo. Je prehod stanja. Sistem je v enem stanju in želi preiti v drugo. Iz osnutka v odločitev. Iz predloga v dejanje. Iz nizkega vpliva v visokega. Iz notranje pomoči v zunanjo komunikacijo. Iz pregledanega v izvedeno. Iz dovoljenega v blokirano. Iz začasne izjeme v stalno pot, če nihče ne gleda. Vprašanje je, ali ima prehod varovalo, zapis, lastnika in izhodno pot.
To je končni avtomat za odgovorno umetno inteligenco. Ne zato, ker bi etiko lahko skrčili na polja in puščice. To bi bilo nenavadno prepričanje in še bolj nenavadna nabava. Bistvo je preprostejše. Resni sistemi že tako prehajajo skozi stanja. Če ta stanja niso poimenovana, se bo model še vedno premikal, potek dela bo še vedno napredoval in organizacija bo svoje upravljanje odkrila po naključju. Poimenovanje stanj ni birokratska sitnost. To je način, kako odgovornost dobi obliko v izvajanju.
Zakaj načela potrebujejo meje
Načela so na začetku uporabna, ker dajejo smer. Pravičnost, preglednost, odgovornost, zasebnost, varnost, človeška avtonomija, robustnost, izpodbojnost. Te besede niso prazne. Prav tako same po sebi niso izvedljive. Sistem ne more poklicati načela med izvajanjem in vprašati, ali je naslednje dejanje dovoljeno. Razvijalec lahko napiše poziv, ki pravi bodi pravičen, vendar mora potek dela še vedno vedeti, kdaj se ustaviti, kdaj vprašati, kdaj zabeležiti in kdaj zavrniti.
Robovi so tam, kjer načela postanejo uporabna. Načelo pravičnosti postane zahteva, da mora določena kategorija odločitev pred izdajo prestati ocenjevanje na ravni skupine in po izdaji ustvariti kode razlogov na ravni primera. Načelo preglednosti postane potrdilo, ki navaja vire, različico modela, različico pravilnika in vlogo človeka. Načelo zasebnosti postane zaščita, ki zavrne pridobivanje zunaj namena, hrambe, privolitve ali pravne podlage. Odgovornost postane stanje, ki ne more napredovati brez lastnika. Izpodbojnost postane pot za pritožbo, ki obstaja pred prvo pritožbo, ne po prvem klicu v časopis.
Brez robov odgovorna umetna inteligenca postane niz pridevnikov okoli sistema, ki še vedno deluje, kakor mu delovni proces dovoljuje. Ekipa lahko iskreno verjame, da ima človeški nadzor, ker lahko oseba pregleda rezultate. Toda če sistem lahko deluje, preden je ta oseba videla dokaze, je nadzor zgolj okras. Ekipa lahko verjame, da ima preglednost, ker se model pojasni sam. Toda če pojasnila ni mogoče povezati z viri in stanjem, je preglednost zašla v gledališče. Ekipa lahko verjame, da je varna, ker model zavrača nevarne pozive. Toda če prehod orodij podeljuje široka pooblastila, je zavrnitev le ena vrata v hiši z zelo navdušenimi okni.
Stroj stanj ni nadomestilo za presojo. Je način, da presoja pristane nekje. Sili ekipo, da odgovori na praktična vprašanja. V kakšnem stanju je ta primer. Kateri prehodi so od tu mogoči. Kateri dokazi so zahtevani. Katera vloga lahko odobri. Kateri prehod je nepovraten. Kateri prehod ustvari zapis. Kateri prehod ustvari dolžnost obvestiti, hraniti, izbrisati ali stopnjevati. Ta vprašanja so manj poetična od izjav o vrednotah. Prav tako se jim je težje izogniti.
Skriti stroj vedno obstaja
Vsak delovni proces umetne inteligence že ima stroj stanj, tudi če ga nihče ni narisal. Skrita različica živi v statusih nalog, stolpcih preglednic, čakalnih vrstah za ponovne poskuse, vejah pozivov, navadah pregledovalcev, sporočilih Slack, zastavicah v podatkovnih zbirkah, tabelah izjem in spominu tiste ene osebe, ki jo vsi vprašajo, ker je bila tam, ko se je zgodil pilot. To ni očarljiva porazdeljena arhitektura. To je institucionalni folklor z zakasnitvijo.
Skriti stroj je nevaren, ker daje videz nadzora, medtem ko odgovornost prenaša na mesta, ki jih ni mogoče pregledati. Poziv lahko pravi, da je treba občutljive primere stopnjevati, vendar čakalna vrsta morda ne ohrani razloga. Sistem primerov lahko prikazuje odobreno, ne pa tudi, ali se je odobritev nanašala na odgovor modela, klic orodja ali zunanjo komunikacijo. Pregledovalec lahko zavrne rezultat, vendar zavrnitev morda nikoli ne vstopi v nabor za ocenjevanje. Primer je lahko zaprt, vendar lahko izpeljani podatki še vedno živijo v trgovini funkcij. Model je lahko zamenjan, vendar lahko čakajoči primeri še vedno nosijo rezultate starejše različice. Sistem se premika; zapis zaostaja za njim s kravato.
Izrecna opredelitev stroja stanj ne zahteva, da organizacijo spremenite v laboratorij formalnih metod. Zahteva dovolj discipline, da ločite stanja z različnimi dolžnostmi. Osnutek ni pregledan. Pregledano ni izvedeno. Izvedeno ni zaprto. Zaprto ni izbrisano. Izbrisano ni arhivirano. Blokirano zaradi pravilnika ni neuspešno zaradi infrastrukture. Potrebuje človeško presojo ni nizka gotovost. Sum incidenta ni potrjen incident. Te razlike se slišijo običajno, dokler revizija ne vpraša, katero se je zgodilo, kdaj in zakaj.
Poimenovana stanja odpravijo tudi pogosto napako avtomatizacije: neopazno zdrs od pomoči k odločanju. Sistem začne kot pripomoček za osnutke. Ljudje mu zaupajo. Osnutek postane privzeta možnost. Privzeta možnost postane priporočilo. Priporočilo postane dejanje. Nihče ni glasoval za popolno avtomatizacijo. Nihče ni zasnoval nove površine odgovornosti. Prehod se je zgodil skozi udobje, ki je najuspešnejši lobist v programski opremi. Končni avtomat lahko ta prehod prisili, da postane viden.
Varovala niso občutki
Za prehod potrebujemo varovalo. Varovalo je pogoj, ki mora biti izpolnjen, preden se sistem lahko premakne. V običajni programski opremi je to lahko logični preverjanje, vrednotenje pravilnika, meja dovoljenj, rezultat preverjanja veljavnosti ali odobritev človeka. Pri odgovorni umetni inteligenci je to tudi mesto, kjer institucionalne obljube postanejo operativne. Varovalo vpraša, ali je namen dovoljen, ali so podatki v obsegu, ali ima izhod dovolj dokazov, ali je model odobren za to uporabo, ali je dejanje povratno, ali ima oseba pooblastilo, ali so stroški omejeni in ali ima prizadeti uporabnik pot nazaj.
Praktični trik je, da varovala ostanejo blizu prehoda, ki ga ščitijo. Če varovalo živi samo v dokumentu pravilnika, ga bo izvajalno okolje pozabilo z neverjetno hitrostjo. Če živi samo v pozivu, ga bo težko preizkusiti in enostavno zaobiti. Če živi samo v človeški navadi, bo odpovedalo ob bolniških dneh, praznikih, reorganizacijah in v tednu, ko vsi poskušajo izdati izdelek. Dobro varovalo je dovolj izrecno, da ga je mogoče preizkusiti, in dovolj lokalno, da je pomembno.
To ne pomeni, da mora biti vsako varovalo avtomatizirano. Nekatera varovala so človeška, ker je vprašanje resnično kontekstualno. Toda tudi človeška varovala potrebujejo stanje. Pregledovalec bi moral videti dokaze, veljavni pravilnik, klasifikacijo tveganja, predlagano dejanje in posledice odobritve. Sistem bi moral zabeležiti odločitev kot prehod, ne kot komentar, ki ga prihodnja arheologija morda ali pa tudi ne odkrije. Človeški nadzor brez spremembe stanja je pogosto le sestanek z uporabniškim vmesnikom.
Obstaja tudi dolgočasna, a pomembna točka o negativnih varovalih. Odgovorna umetna inteligenca ni le odgovorno pritrjevanje. Gre tudi za jasno zavračanje. Ne, ker manjka namen. Ne, ker je vir zastarel. Ne, ker je model zunaj svojega odobrenega področja. Ne, ker uporabnik nima pooblastila. Ne, ker je potreben človeški pregled. Ne, ker je dejanje preveč pomembno glede na razpoložljive dokaze. Zavrnitev z razlogom je boljše sistemsko stanje kot nejasen neuspeh, ki vabi k ponovnemu poskusu, dokler se nekaj ne premakne.
Stanja omogočajo dodelitev odgovornosti
Eden od razlogov, da odgovornost pri umetni inteligenci postane meglena, je ta, da se o odgovornosti razpravlja na ravni celotnega sistema. Organizacija je odgovorna. Ponudnik je odgovoren. Lastnik izdelka je odgovoren. Pooblaščenec za varstvo podatkov je odgovoren. Model je odgovoren, kar je besedna zveza, ob kateri bi pravnik moral strmeti v strop, da zbere moči. Ob izvajanju potrebuje odgovornost manjši oprijem.
Stanja ustvarijo ta oprijem. Med sprejemom je lahko lastnik storitve odgovoren za namen in obseg. Med pridobivanjem je lahko lastnik podatkov odgovoren za kakovost vira in dovoljenja. Med generiranjem modela je lahko tehnični lastnik odgovoren za odobrene različice in nastavitve. Med pregledom je lahko človeška vloga odgovorna za presojo. Med ukrepanjem je lahko lastnik poteka dela odgovoren za zunanje učinke. Med zaključkom je lahko upravljanje zapisov odgovorno za hrambo in izbris. Natančen zemljevid se bo razlikoval, a načelo velja: odgovornost se bolje veže na prehode kot na meglo.
To je pomembno, ko gre kaj narobe. Če je bil izhod slab, ker je bil vir zastarel, bi moralo stanje prikazati, kje je bila svežina preverjena ali izpuščena. Če je človek odobril tvegano dejanje, bi moral zapis prikazati, katere dokaze je videl. Če se je pravilnik spremenil, bi morali nerešeni primeri razkriti, katera različica jih je urejala. Če je bil model nadgrajen, bi morali biti prehodi čez mejo izdaje pregledni. Bistvo ni hitreje najti krivca. Bistvo je omogočiti popravilo, ne da bi se pretvarjali, da je celoten sistem odpovedal v enem nediferenciranem skomigu.
Dodeljiva odgovornost izboljša tudi vsakdanje delo. Ekipe vedo, katero stanje imajo v lasti. Metrike postanejo manj teatralne. Namesto da organizacija razglaša, da je program odgovorne umetne inteligence zrel, lahko meri blokade zaradi zastarelih virov, zavrnitve zaradi manjkajočega namena, preglasitve pri pregledu, izide pritožb, prehode ob incidentih in zamude pri zaključku. To je manj primerno za bleščečo predstavitev. Veliko bolj primerno pa je za upravljanje sistema.
Slaba stanja si zaslužijo prava imena
Večina odpovedi odgovorne umetne inteligence ni zlobnih. To so običajna stanja s slabimi imeni ali brez imen. Osnutek odgovora se obravnava kot končni odgovor. Začasna izjema postane stalna pot. Izhod z nizko zanesljivostjo postane dejanje z velikim učinkom, ker potek dela ni imel vmesnega stanja. Model vidi podatke, ki jih ne bi smel videti, ker stanje pridobivanja ni nosilo namena. Človeški pregledovalec postane žig za potrjevanje, ker stanje, imenovano pregled, ni zahtevalo dokazov ali zajema nestrinjanja.
Dati slabim stanjem prava imena je neprijetno in koristno. Tihi osnutek. Širjenje obsega. Zastarel vir. Manjkajoči lastnik. Nepregledano dejanje. Brez izhoda. To samo po sebi ni temeljni vzrok, a so to mesta za namestitev kontrol. Sistem lahko zazna tihi osnutek, ko se ustvarjeno besedilo kopira v zunanjo komunikacijo brez odobritve. Zazna lahko širjenje obsega, ko potek dela zahteva vir zunaj razglašenega namena. Zazna lahko zastarel vir, ko je navedba starejša, kot pravilnik dovoljuje. Zazna lahko stanje brez izhoda, ko blokirani primeri večno čakajo, ker nihče ni zasnoval humane zavrnitve.
Ta navada preprečuje tudi moralno pretiravanje. Ni vsaka odpoved etična kriza. Včasih je to stanje v čakalni vrsti brez lastnika. Včasih je to stanje hrambe, ki ga nihče ni povezal z izbrisom. Včasih je to prag zanesljivosti, ki se pretvarja, da je presoja. Poimenovanje stanja omogoči ekipi, da popravi mehanizem. Brez imen vsak incident postane razprava o kulturi. Kultura je pomembna, a je slab nadomestek za vedenje, kateri prehod je puščal.
V suhoparni komediji je opazovati organizacije, ki se bojijo besede stanje, ker zveni preveč tehnično, medtem ko srečno upravljajo labirint odobritvenih e-poštnih sporočil, statusov v preglednicah in izjem, znanih le trem ljudem in povabilu v koledarju. Formalna različica je pogosto preprostejša. Le ima nevljudnost, da je vidna.
Dokazi sodijo na prehod
Če naj bo stroj stanj pomemben, potrebuje dokaze. Zapis ne sme zgolj povedati, da je bil primer odobren. Povedati mora, kaj je sprožilo prehod, katera zaščita je bila ovrednotena, kateri podatki so bili uporabljeni, kateri različici modela in pravilnika sta veljali, kdo ali kaj je odobril, kakšen učinek je sledil ter kako je mogoče primer ponoviti ali izpodbijati. Dokazi niso okras po dejanju. So del tega, da dejanje postane odgovorno.
To je še posebej pomembno pri umetni inteligenci, ker so lahko izhodi verjetni, medtem ko je njihova pot krhka. Povzetek je lahko pravilen, a temelji na viru, do katerega uporabnik ni smel dostopati. Priporočilo je lahko razumno, a zunaj odobrene uporabe modela. Razvrstitev je lahko natančna, a nastala po roku pravilnika. Zavrnitev je lahko varna, a pravno neuporabna, če ne ponuja poti do popravila. Sam odgovor vam teh stvari ne more povedati. Zapis prehoda jih lahko.
Dobri dokazi ekipam dajejo tudi pogum za avtomatizacijo tam, kjer je avtomatizacija primerna. Odgovorna umetna inteligenca ni trajno opravičilo za uporabo strojev. Če je naloga nizkega vpliva, dobro omejena, povratna, ustrezno preizkušena in pravilno zabeležena, je avtomatizacija lahko odgovorna pot. Če je naloga visokega vpliva, sporna, nova ali nepovratna, naj jo stroj stanj upočasni. Bistvo ni čaščenje človeškega pregleda. Bistvo je usmerjanje dela glede na tveganje, dokaze in popravilo.
Dokazi to usmerjanje naredijo manj politično. Ekipa lahko pokaže, da je stanje varno za avtomatizacijo, ker so bili prejšnji prehodi natančni, pritožbe redke, popravki vključeni in zaščite so ujele prave primere. Lahko pa pokaže, da stanje potrebuje več človeške presoje, ker so vzorci napak še vedno težki, prizadeti ljudje izpodbijajo izide ali pa je kakovost podatkov šibka. To je boljši argument kot običajno gledališče, kjer ena stran govori o inovacijah, druga o tveganju, dokler vsi ne potrebujejo kave.
Človeški pregled je stanje, ne gesta
Človeški pregled se pogosto omenja, kot da bi že samo njegov obstoj rešil vprašanje odgovornosti. Človek je v zanki. V redu. V kateri zanki. V katerem stanju. S kakšnimi dokazi. S kakšno avtoriteto. Ali se človek lahko ne strinja. Ali nestrinjanje spremeni sistem. Ali je pregled vzorčen, obvezen, sprožen zaradi tveganja ali zgolj kozmetičen. Ali pregledovalec vidi izvorno gradivo ali le urejeno prozo modela. Ali je na voljo čas za razmislek. Ali obstaja usposabljanje. Ali obstaja zapis. Besedno zvezo človek v zanki je treba obravnavati kot uvodno vprašanje, ne kot sklepni argument.
Stroj stanj naredi človeški pregled konkretnega. Loči lahko med zahtevanim in neobveznim pregledom, med čakajočim in zaključenim pregledom, med tem, ali je človek spremenil izid ali ga je le potrdil, ter med potrebno in opravljeno eskalacijo. Loči lahko tudi vrsto presoje. Nekateri pregledi preverjajo dejansko uporabo virov. Nekateri preverjajo skladnost s politikami. Nekateri preverjajo empatijo in ton. Nekateri preverjajo pravno podlago. Nekateri preverjajo, ali je izjema upravičena. En sam okvirček z oznako odobreno je za resno delo le redko dovolj bogat.
Oblikovanje pregleda kot stanja ljudi tudi varuje pred uporabo kot moralno polnilo. Če sistem vsak zapleten primer pošlje osebi brez dokazov, prednostnega razvrščanja ali povratnih informacij, oseba postane odlagališče negotovosti. To ni nadzor. To je kadrovski model s primesjo krivde. Odgovorno stanje pregleda zapakira zadevo, poimenuje zahtevano odločitev, ohrani nestrinjanje in rezultate vrača v vrednotenje. Človeku daje delo, vredno človeka.
Velja tudi obratno. Nekateri sistemi uporabljajo človeški pregled tam, kjer bi bil boljši mehanizem zaščite prijaznejši. Če zadeva nima pravne podlage, je ne pošiljajte pregledovalcu, da bi to odkril ročno. Zavrnite jo. Če je vir zastarel, ga osvežite ali zavrnite. Če uporabnik nima pooblastila, to povejte. Ljudje naj opravljajo presojo, ne pa nadomeščajo manjkajoče infrastrukture. Desetletja smo izumljali stroje. Slabo bi bilo, če bi ljudi silili, da se obnašajo kot validacijske skripte.
Nepovratnost spremeni stroj
Vsi prehodi niso enaki. Nekateri so povratni. Osnutek je mogoče urediti. Pot je mogoče spremeniti. Priporočilo je mogoče umakniti. Druge prehode je težje razveljaviti: sporočilo je poslano, ugodnost je zavrnjena, oznaka tveganja spremeni čakalno vrsto, zapis je posodobljen, oseba je prijavljena, plačilo je izvedeno, stranka je zaklenjena. Odgovorna umetna inteligenca mora vedeti, kateri prehodi prestopijo v svet.
Nepovratnost bi morala zamenjati stražarja. Sistem bi moral pred nepovratnimi učinki zahtevati več dokazov, močnejšo avtoriteto, jasnejšo človeško presojo, boljše obvestilo in bolj vidno pot za pritožbo. Prav tako bi moral, kjer je mogoče, dajati prednost postopnim prehodom. Osnutek pred pošiljanjem. Priporočilo pred odločitvijo. Zadržanje pred zavrnitvijo. Obvestilo pred izvršbo. Pregled pred poročilom. To ni počasnost zaradi počasnosti same. To je razlika med sistemom, ki se lahko popravi, in sistemom, ki z samozavestnim obrazom ustvarja dodatno delo za čiščenje.
Stroj stanj pomaga tudi pri delni povratnosti. Nekatero škodo je mogoče popraviti tehnično, a ne družbeno. Napačen notranji povzetek je mogoče popraviti. Napačna zunanja obtožba lahko ostane tudi po popravku. Zamujeno korist je mogoče izplačati pozneje, a najemnina je zapadla prej. Izbrisan zapis je včasih mogoče obnoviti, a zaupanje morda ne bo. Stroj bi moral te prehode obravnavati z resnostjo njihovega človeškega učinka, ne le njihovega povrata podatkovne baze.
Tu odgovorna umetna inteligenca ubeži fantaziji, da je etika ločena od delovanja. Operativna podrobnost je etična površina. Zasnova čakalne vrste vpliva na poštenost. Politika ponovnih poskusov vpliva na podvajanje. Obnašanje pri časovni omejitvi vpliva na dostop. Hramba vpliva na zasebnost. Delovna obremenitev pregledov vpliva na dostojanstvo. Prehodi stanj niso nevtralna napeljava. So način, kako sistem srečuje ljudi.
Ocenjevanje kot dokaz prehoda
Ocenjevanje pogosto stoji zunaj delovnega toka, kot da bi bil šolski izpit, opravljen pred diplomo sistema. V odgovornem stroju stanj ocenjevanje postane stalni dokaz prehoda. Vsak prehod lahko ustvari signale: kako pogosto je stražar blokiral, kako pogosto so ljudje preglasovali, kako pogosto so pritožbe uspele, kako pogosto so bili viri zastareli, kako pogosto se je zaupanje modela razlikovalo od človeške presoje, kako pogosto je domnevno nizko tvegana pot ustvarila pritožbe.
Ti signali bi morali napajati stroj. Prehod, ki ustvarja ponavljajoče se pritožbe, lahko potrebuje močnejši stražar ali jasnejše obvestilo. Stanje človeškega pregleda z visokim soglasjem in nizkim vplivom je lahko upravičeno do več avtomatizacije, če ostane sredstvo resnično. Stanje zavrnitve, ki ujame uporabnike, lahko potrebuje pot za popravilo. Politika stražarja, ki blokira preveč upravičenih primerov, lahko razkrije slabo politiko, ne slab model. Stroj ni odgovoren, ker je statičen. Odgovoren je, ker se lahko uči, ne da bi skrival preteklost.
To učenje zahteva različice. Stanja, stražarji, pragovi, pozivi, modeli, politike, viri podatkov in navodila za pregled se spreminjajo. Zapis mora povedati, katera različica je veljala za kateri prehod. V nasprotnem primeru lahko organizacija ocenjuje le juho preteklih odločitev. Juha ima kulinarično uporabo. Ni metoda upravljanja, ne glede na to, koliko nadzornih plošč plava na njej.
Različicni dokazi prehodov tudi ohranjajo poštenost izboljšav. Ekipa lahko reče, da je novi stražar zmanjšal nepregledana dejanja, a povečal zamudo. Lahko reče, da je nov vir izboljšal natančnost, a povečal trenje pri zasebnosti. Lahko reče, da je nadgradnja modela izboljšala povzetke, a oslabila disciplino zavrnitev. Kompromisi niso neuspehi. Skriti kompromisi so neuspehi, ki čakajo na povabilo v koledar.
Nauk
Stroj stanj za odgovorno umetno inteligenco ni poziv k hladnejšim sistemom. Je poziv k sistemom, ki vedo, kaj počnejo, medtem ko to počnejo. Poimenovano stanje ni moralni dosežek. Stražar ni pravičnost. Potrdilo ni zaupanje. Toda brez teh stvari ostane odgovorna umetna inteligenca na ravni namere, namera pa ima slab zapis o razpoložljivosti.
Odgovorna umetna inteligenca potrebuje namen, pooblastila, dokaze, omejitve, človeško presojo, pritožbo, popravilo, hrambo in učenje. Te besede postanejo operativne skozi stanja in prehode. Te odločajo, kdaj se primer premakne, kdaj se ustavi, kdo ga je lastnik, kateri zapis se ustvari, katera rešitev obstaja in kaj naj si sistem zapomni naslednjič. To ni celotna etika. To je del, ki lahko ustavi slabo dejanje, preden postane zelo dobro dokumentirano obžalovanje.
Obrazec na začetku ima še vedno vrednost. Postavlja prava uvodna vprašanja. Toda obrazec mora voditi do stroja, ki deluje: poimenovana stanja, izrecne zaščite, trajni dokazi, pravi pregled in izhodi za ljudi, ki jih sistem prizadene. Odgovorna umetna inteligenca ni dokazana z obstojem politike. Dokazana je ali ovržena na prehodu, kjer se sistem odloči, kaj se zgodi naprej.