Vastutustundliku tehisintellekti olekumasin
Vorm, mida ei täidetud
Esimene vastutustundliku tehisintellekti töötuba lõpeb sageli vormiga. Vorm on tavaliselt kena just nii, nagu sisevormid olla saavad, kui komitee on avastanud reavahe. See küsib eesmärgi, mõju, andmete, riski, kallutatuse, inimese järelevalve, müüjatari, säilitamise ja eskalatsiooni kohta. Inimesed täidavad seda hoolikalt. Ruut märgitakse. Juhtrühm noogutab. Projekt liigub edasi. Kuskil saab kaust veel ühe dokumendi ja hakkab endasse veidi rohkem uskuma.
Kolm kuud hiljem on süsteem tootmises ja vorm ei ole enam seal, kus tegevus toimub. Tugipäring saabub puuduvate väljadega. Mudel annab enesekindla vastuse nõrga tõendusmaterjaliga. Tööriistakutse uuendaks kliendikirjet. Poliitika muutub mustandi ja lõpliku toimingu vahel. Inimülevaataja on haige. Otsinguindeks on aegunud. Uut andmeallikat pakutakse välja, sest see oleks mugav, ja nii tutvustavad end paljud halvad ideed viisakalt.
Sel hetkel ei ole vastutustundlik tehisintellekt põhimõte. See on oleku üleminek. Süsteem on ühes olekus ja tahab liikuda teise. Mustandist otsuseni. Ettepanekust tegevuseni. Väikesest mõjust suureni. Siseabist välissuhtluseni. Ülevaatatust täidetuni. Lubatust blokeerituni. Ajutisest erandist püsiva marsruudini, kui keegi ei vaata. Küsimus on selles, kas üleminekul on valvur, kirje, omanik ja väljapääs.
See on vastutustundliku tehisintellekti taga olev olekumasin. Mitte sellepärast, et eetika saaks taandada kastideks ja noolteks. Seda oleks kummaline uskuda ja veel kummalisem hankida. Asi on lihtsam. Tõsised süsteemid liiguvad juba olekute vahel. Kui need olekud on nimetamata, liigub mudel ikkagi edasi, töövoog areneb edasi ja organisatsioon avastab oma juhtimise juhuslikult. Olekute nimetamine ei ole bürokraatlik tüütus. See on see, kuidas vastutus saab käitusaja kuju.
Miks põhimõtted vajavad piire
Põhimõtted on alguses kasulikud, sest need annavad suuna. Õiglus, läbipaistvus, vastutus, privaatsus, ohutus, inimese tegutsemisvõime, robustsus, vaidlustatavus. Need sõnad ei ole tühjad. Need ei ole ka iseenesest käivitatavad. Süsteem ei saa käitusajal põhimõtet välja kutsuda ja küsida, kas järgmine tegevus on lubatud. Arendaja saab kirjutada päringu, mis ütleb ole õiglane, kuid töövoog peab ikkagi teadma, millal peatuda, millal küsida, millal salvestada ja millal keelduda.
Servad on kohad, kus põhimõtted muutuvad kasulikuks. Õigluse põhimõttest saab nõue, et teatud kategooria otsus peab enne avaldamist läbima rühmatasandi hindamise ja pärast avaldamist koostama juhtumipõhised põhjenduskoodid. Läbipaistvuse põhimõttest saab kviitung, mis nimetab allikad, mudeliversiooni, poliitikaversiooni ja inimese rolli. Privaatsuse põhimõttest saab kaitse, mis keeldub päringust väljaspool eesmärki, säilitustähtaega, nõusolekut või õiguslikku alust. Vastutusest saab olek, mis ei saa edasi liikuda ilma omanikuta. Vaieldavusest saab edasikaebamise tee, mis eksisteerib enne esimest kaebust, mitte pärast esimest ajaleheartiklit.
Ilma servadeta muutub vastutustundlik tehisintellekt omadussõnade kogumiks süsteemi ümber, mis käitub siiski nii, nagu töövoog lubab. Meeskond võib siiralt uskuda, et tal on inimjärelevalve, sest inimene saab väljundeid vaadata. Kuid kui süsteem saab tegutseda enne, kui see inimene on tõendeid näinud, on järelevalve dekoratiivne. Meeskond võib uskuda, et tal on läbipaistvus, sest mudel selgitab ennast ise. Kuid kui selgitust ei saa siduda allikate ja olekuga, on läbipaistvus muutunud teatriks. Meeskond võib uskuda, et süsteem on ohutu, sest mudel keeldub ohtlikest päringutest. Kuid kui tööriistalüüs annab laia volituse, on keeldumine vaid üks uks majas, millel on väga entusiastlikud aknad.
Olekumasin ei asenda otsustusvõimet. See on viis, kuidas panna otsustusvõime kuskile maanduma. See sunnib meeskonda vastama praktilistele küsimustele. Millises olekus see juhtum on. Millised üleminekud on siit võimalikud. Milliseid tõendeid nõutakse. Milline roll võib heaks kiita. Milline üleminek on pöördumatu. Milline üleminek loob kirje. Milline üleminek loob kohustuse teavitada, säilitada, kustutada või edastada. Need küsimused on vähem poeetilised kui väärtusavaldused. Neid on ka raskem vältida.
Varjatud masin on alati olemas
Igal tehisintellekti töövoolul on juba olekumasin, isegi kui keegi pole seda joonistanud. Varjatud versioon elab piletistaatustes, tabeliveergudes, uuesti proovimise järjekordades, viipade harudes, retsensentide harjumustes, Slacki sõnumites, andmebaasi lippudes, eranditabelites ja selle ühe inimese mälus, kellelt kõik küsivad, sest ta oli kohal, kui piloot toimus. See ei ole võluv hajutatud arhitektuur. See on institutsionaalne folkloor koos latentsusajaga.
Varjatud masin on ohtlik, sest see loob kontrolli ilme, liigutades samal ajal vastutuse kohtadesse, mida ei saa üle vaadata. Viip võib öelda, et tundlikud juhtumid tuleks edastada, kuid järjekord ei pruugi põhjust säilitada. Juhtumisüsteem võib näidata kinnitatud, kuid mitte seda, kas kinnitus kehtis mudeli vastuse, tööriistakutse või välissuhtluse kohta. Retsensent võib väljundi tagasi lükata, kuid tagasilükkamine ei pruugi kunagi hindamiskomplekti jõuda. Juhtum võib olla suletud, kuid tuletatud andmed võivad siiski funktsioonipoes elada. Mudel võib olla asendatud, kuid ootel juhtumid võivad siiski kanda vanema versiooni väljundit. Süsteem liigub; kirje lonkab selle järel lips kaelas.
Olekumasina selgesõnaliseks muutmine ei nõua organisatsiooni muutmist formaalsete meetodite laboriks. See nõuab piisavalt distsipliini, et eristada olekuid, millel on erinevad kohustused. Mustand ei ole üle vaadatud. Üle vaadatud ei ole täidetud. Täidetud ei ole suletud. Suletud ei ole kustutatud. Kustutatud ei ole arhiveeritud. Poliitika tõttu blokeeritud ei ole infrastruktuuri tõttu ebaõnnestunud. Vajab inimese otsust ei ole madal enesekindlus. Kahtlustatav intsident ei ole kinnitatud intsident. Need eristused tunduvad tavalised, kuni audit küsib, milline neist juhtus, millal ja miks.
Nimelised olekud peatavad ka ühe levinud automatiseerimise vea: libisemise abistamiselt otsustamisele. Süsteem alustab mustandi koostamise abivahendina. Inimesed usaldavad seda. Mustandist saab vaikimisi valik. Vaikimisi valikust saab soovitus. Soovitusest saab tegevus. Keegi ei hääletanud täisautomatiseerimise poolt. Keegi ei kavandanud uut vastutuspinda. Üleminek toimus mugavuse kaudu, mis on tarkvara kõige edukam lobist. Olekumasin suudab selle liikumise sundida nähtavaks.
Kaitsed ei ole meeleolud
Üleminekuks on vaja kaitset. Kaitses on tingimus, mis peab olema täidetud, enne kui süsteem võib liikuda. Tavapärases tarkvaras võib see olla tõeväärtuse kontroll, poliitika hindamine, õiguste piir, valideerimistulemus või inimese kinnitus. Vastutustundlikus tehisintellektis on see ka koht, kus institutsionaalsed lubadused muutuvad toimivaks. Kaitses küsitakse, kas eesmärk on lubatud, andmed on ulatuses, väljundil on piisavalt tõendusmaterjali, mudel on selleks kasutuseks heaks kiidetud, tegevus on pööratav, isikul on volitus, kulud on piiratud ja mõjutatud kasutajal on tee tagasi.
Praktiline nipp on hoida kaitsed lähedal üleminekule, mida nad kaitsevad. Kui kaitses elab ainult poliitikadokumendis, unustab käitusaeg selle muljetavaldava kiirusega. Kui see elab ainult viibas, on seda raske testida ja lihtne mööda hiilida. Kui see elab ainult inimese harjumuses, ebaõnnestub see haiguspäevadel, pühadel, ümberkorraldustel ja nädalal, mil kõik üritavad toodet välja lasta. Hea kaitses on piisavalt selgesõnaline, et seda testida, ja piisavalt kohalik, et see loeb.
See ei tähenda, et iga kaitses peab olema automatiseeritud. Mõned kaitsed on inimlikud, sest küsimus on tõeliselt kontekstipõhine. Kuid isegi inimkaitsed vajavad olekut. Ülevaataja peaks nägema tõendusmaterjali, kohaldatavat poliitikat, riskiklassifikatsiooni, kavandatud tegevust ja heakskiitmise tagajärgi. Süsteem peaks otsuse salvestama üleminekuna, mitte kommentaarina, mille tulevane arheoloogia võib avastada või mitte. Inimjärelevalve ilma olekumuutuseta on sageli lihtsalt koosolek kasutajaliidesega.
On ka igav, kuid oluline punkt negatiivsete kaitsete kohta. Vastutustundlik tehisintellekt ei seisne ainult vastutustundlikus jah-ütlemises. See seisneb selges ei-ütlemises. Ei, sest eesmärk puudub. Ei, sest allikas on aegunud. Ei, sest mudel on väljaspool oma heakskiidetud valdkonda. Ei, sest kasutajal puudub volitus. Ei, sest nõutakse inimülevaadet. Ei, sest tegevus on kättesaadava tõendusmaterjali jaoks liiga suurte tagajärgedega. Keeldumine põhjusega on parem süsteemi olek kui ebamäärane tõrge, mis kutsub uuesti proovima, kuni midagi liigub.
Olekud muudavad vastutuse määratavaks
Üks põhjus, miks tehisintellekti vastutus jääb uduseks, on see, et vastutusest räägitakse kogu süsteemi tasandil. Organisatsioon vastutab. Müüja vastutab. Tooteomanik vastutab. Andmekaitseametnik vastutab. Mudel vastutab, mis on väljend, mille peale jurist peaks lakke vahtima, et jõudu koguda. Käitusajal vajab vastutus väiksemat käepidet.
Olekud loovad selle käepideme. Vastuvõtu ajal võib teenuseomanik vastutada eesmärgi ja ulatuse eest. Päringu ajal võib andmeomanik vastutada allika kvaliteedi ja õiguste eest. Mudeli genereerimise ajal võib tehniline omanik vastutada heakskiidetud versioonide ja seadete eest. Ülevaatuse ajal võib inimroll vastutada otsustuse eest. Toimingu ajal võib töövoo omanik vastutada väliste mõjude eest. Lõpetamise ajal võib dokumendihaldus vastutada säilitamise ja kustutamise eest. Täpne kaardistus võib erineda, kuid põhimõte püsib: vastutus kinnitub paremini üleminekutele kui udule.
See muutub oluliseks, kui midagi läheb valesti. Kui väljund oli halb, sest allikas oli aegunud, peaks olekumasin näitama, kus värskust kontrolliti või jäeti kontrollimata. Kui inimene kiitis heaks riskantse toimingu, peaks kirje näitama, milliseid tõendeid ta nägi. Kui poliitika muutus, peaksid ootel juhtumid näitama, milline versioon neid reguleeris. Kui mudelit uuendati, peaksid üleminekud üle väljalaske piiri olema kontrollitavad. Mõte ei ole leida kiiremini süüdlane. Mõte on teha remont võimalikuks, ilma et teeseldaks, et kogu süsteem ebaõnnestus ühes eristamatus õlakehitus.
Määratav vastutus parandab ka igapäevatööd. Meeskonnad teavad, millist olekut nad omavad. Mõõdikud muutuvad vähem teatraalseks. Selle asemel, et kuulutada, et vastutustundliku tehisintellekti programm on küps, saab organisatsioon mõõta aegunud allikate blokeeringuid, puuduva eesmärgi keeldumisi, ülevaatuse ülekirjutusi, edasikaebuste tulemusi, intsidentide üleminekuid ja lõpetamise viivitusi. See sobib vähem läikivale slaidile. See sobib palju paremini süsteemi käitamiseks.
Halvad olekud väärivad korralikke nimesid
Enamik vastutustundliku tehisintellekti tõrkeid ei ole pahatahtlikud. Need on tavalised olekud halbade nimedega või ilma nimedeta. Mustandvastust koheldakse lõpliku vastusena. Ajutisest erandist saab tavapärane tee. Madala usaldusväärsusega väljundist saab suure mõjuga toiming, sest töövoos puudus vahepealne olek. Mudel näeb andmeid, mida ta poleks tohtinud näha, sest päringu olek ei kandnud eesmärki. Inimülevaatajast saab templikumm, sest ülevaatuseks nimetatud olek ei nõudnud tõendeid ega eriarvamuse jäädvustamist.
Halvadele olekutele korralike nimede andmine on ebamugav ja kasulik. Vaikne mustand. Ulatuse laienemine. Aegunud allikas. Puuduv omanik. Üle vaatamata toiming. Väljapääs puudub. Need ei ole iseenesest algpõhjused, kuid need on kohad, kuhu kontrollimehhanisme paigutada. Süsteem suudab tuvastada vaikse mustandi, kui genereeritud tekst kopeeritakse heakskiiduta välisesse suhtlusse. See suudab tuvastada ulatuse laienemise, kui töövoog küsib allikat väljaspool deklareeritud eesmärki. See suudab tuvastada aegunud allika, kui viide on vanem, kui poliitika lubab. See suudab tuvastada väljapääsu puudumise, kui blokeeritud juhtumid seisavad igavesti, sest keegi ei kavandanud inimlikku keeldumist.
See harjumus hoiab ära ka moraalse ülereageerimise. Mitte iga tõrge ei ole eetiline kriis. Vahel on see järjekorra olek ilma omanikuta. Vahel on see säilitusolek, mida keegi ei ühendanud kustutamisega. Vahel on see usaldusväärsuse lävend, mis teeskleb otsustust. Olekule nime andmine võimaldab meeskonnal mehhanismi parandada. Ilma nimedeta muutub iga intsident aruteluks kultuuri üle. Kultuur loeb, kuid see on kehv aseaine teadmisele, milline üleminek lekkis.
Kuivas komöödias on vaadata, kuidas organisatsioonid kardavad sõna olekumasin, sest see kõlab liiga tehniliselt, samal ajal kui nad õnnelikult käitavad heakskiitmismeilide labürinti, tabelite olekuid ja erandeid, millest teavad vaid kolm inimest ja kalendrikutse. Formaalne versioon on sageli lihtsam. Sellel on lihtsalt ebaviisakus olla nähtav.
Tõendus kuulub ülemikule
Kui olekumasin peab oluline olema, vajab see tõendusmaterjali. Kirje ei tohiks lihtsalt öelda, et juhtum on heaks kiidetud. See peaks ütlema, mis ülemineku käivitas, millist kaitset hinnati, milliseid andmeid kasutati, millised mudeli- ja poliitikaversioonid kehtisid, kes või mis heaks kiitis, milline mõju järgnes ja kuidas saab juhtumit taasesitada või vaidlustada. Tõendus ei ole kaunistus pärast tegevust. See on osa tegevuse vastutustundlikuks muutumisest.
See on tehisintellekti puhul eriti oluline, sest väljundid võivad olla usutavad, samas kui nende tee on habras. Kokkuvõte võib olla õige, kuid põhineda allikal, millele kasutajal polnud luba juurde pääseda. Soovitus võib olla mõistlik, kuid väljaspool mudeli heakskiidetud kasutusala. Klassifikatsioon võib olla täpne, kuid loodud pärast poliitika tähtaega. Keeldumine võib olla ohutu, kuid õiguslikult kasutu, kui see ei paku parandusteed. Vastus üksi ei saa neid asju öelda. Üleminekukirje saab.
Hea tõendusmaterjal annab ka meeskondadele julgust automatiseerida seal, kus automatiseerimine on asjakohane. Vastutustundlik tehisintellekt ei ole püsiv vabandus masinate kasutamise eest. Kui ülesanne on väikese mõjuga, hästi piiritletud, pöörduv, piisavalt testitud ja nõuetekohaselt kirjendatud, võib automatiseerimine olla vastutustundlik tee. Kui ülesanne on suure mõjuga, vaidlustatud, uudne või pöördumatu, peaks olekumasin seda aeglustama. Asi ei ole inimläbivaatuse kummardamises. Asi on töö suunamises vastavalt riskile, tõendusmaterjalile ja parandusvõimalusele.
Tõendusmaterjal muudab selle suunamise vähem poliitiliseks. Meeskond saab näidata, et olek on automatiseerimiseks ohutu, sest varasemad üleminekud olid täpsed, apellatsioonid olid harvad, parandused võeti arvesse ja kontrollid tabasid õigeid juhtumeid. Või saab see näidata, et olek vajab rohkem inimlikku otsustusvõimet, sest veamustrid on endiselt keerulised, mõjutatud inimesed vaidlustavad tulemusi või andmekvaliteet on nõrk. See on parem argument kui tavaline teater, kus üks pool ütleb innovatsioon ja teine pool risk, kuni kõik vajavad kohvi.
Inimlik ülevaatus on olek, mitte žest
Inimlikule ülevaatusele viidatakse tihti nii, nagu lahendaks see vastutuse lihtsalt olemasoluga. Inimene on ahelas. Olgu. Millises ahelas. Millises olekus. Milliste tõenditega. Millise volitusega. Kas inimene võib eriarvamusele jääda. Kas eriarvamus muudab süsteemi. Kas ülevaatus on valikuline, kohustuslik, riskipõhine või kosmeetiline. Kas ülevaataja näeb lähtematerjali või ainult mudeli korralikku proosat. Kas on aega mõelda. Kas on väljaõpet. Kas on protokoll. Väljendit inimene ahelas tuleks käsitada avaküsimusena, mitte lõppargumendina.
Olekumasin muudab inimliku ülevaatuse konkreetseks. See suudab eristada nõutud ülevaatust vabatahtlikust, pooleliolevat lõpetatust, inimese muudetud väljundit kinnitatust, vajalikku eskaleerimist tehtust. See suudab eristada ka hinnangu liiki. Mõni ülevaatus kontrollib faktilist allikakasutust. Mõni kontrollib poliitikale vastavust. Mõni kontrollib empaatiat ja tooni. Mõni kontrollib õiguslikku volitust. Mõni kontrollib, kas erand on põhjendatud. Üksainus kast nimega kinnitatud on tõsise töö jaoks harva piisav.
Ülevaatuse kujundamine olekuna kaitseb ka inimesi selle eest, et neid kasutataks moraalse täidisena. Kui süsteem saadab iga ebamugava juhtumi inimesele ilma tõendite, prioriseerimise või tagasisideta, muutub inimene määramatuse prügilaks. See ei ole järelevalve. See on personalimudel koos süütundega. Vastutustundlik ülevaatusolek pakendab juhtumi, nimetab vajaliku otsuse, säilitab eriarvamuse ja suunab tulemused tagasi hindamisse. See annab inimesele töö, mis on inimese vääriline.
Ka vastupidine on tõsi. Mõni süsteem kasutab inimlikku ülevaatust seal, kus parem kaitse oleks lahkem. Kui juhtumil puudub õiguslik alus, ärge saatke seda ülevaatajale, et ta selle käsitsi avastaks. Blokeerige see. Kui allikas on aegunud, värskendage või keelduge. Kui kasutajal puudub volitus, öelge seda. Inimesed peaksid tegelema hinnangutega, mitte kompenseerima puuduvat torustikku. Oleme aastakümneid masinaid leiutanud. Oleks halb komme panna inimesi käituma nagu valideerimisskriptid.
Pöördumatus muudab masinat
Kõik üleminekud pole võrdsed. Mõni on pöörduv. Mustandit saab muuta. Teekonda saab muuta. Soovituse saab tagasi võtta. Teisi üleminekuid on raskem tagasi võtta: sõnum on saadetud, hüvitis on keelatud, riskilipp muudab järjekorda, kanne on uuendatud, inimesest on teatatud, makse on tehtud, klient on lukustatud. Vastutustundlik tehisintellekt peab teadma, millised üleminekud jõuavad maailma.
Pöördumatus peaks muutma valvurit. Süsteem peaks nõudma rohkem tõendeid, tugevamat autoriteeti, selgemat inimlikku otsustust, paremat teavitamist ja nähtavamat edasikaebamise võimalust enne pöördumatuid tagajärgi. Samuti peaks see eelistama võimaluse korral astmelisi üleminekuid. Mustand enne saatmist. Soovitus enne otsust. Hoidmine enne tagasilükkamist. Teavitamine enne jõustamist. Ülevaade enne aruandlust. See ei ole aeglus iseenese pärast. See on vahe süsteemi vahel, mis suudab end parandada, ja süsteemi vahel, mis loob enesekindla näoga koristustööd.
Olekumasin aitab ka osalise pöörduvuse korral. Osa kahju on tehniliselt parandatav, kuid mitte sotsiaalselt. Vale sisemine kokkuvõte on parandatav. Vale väline süüdistus võib jääda püsima ka pärast parandust. Edasilükatud hüve saab hiljem välja maksta, kuid üür tuli maksta varem. Kustutatud kirje on mõnikord taastatav, kuid usaldus ei pruugi olla. Masin peaks neid üleminekuid kohtlema nende inimliku mõju tõsidusega, mitte ainult andmebaasi tagasipööramisena.
Siin põgeneb vastutustundlik tehisintellekt fantaasiast, et eetika on operatsioonidest eraldatud. Operatiivne detail on eetiline pind. Järjekorra kujundus mõjutab õiglust. Uuesti proovimise poliitika mõjutab dubleerimist. Ajalõpu käitumine mõjutab juurdepääsu. Säilitamine mõjutab privaatsust. Ülevaate töökoormus mõjutab väärikust. Olekusiirded ei ole neutraalne torustik. Need on see, kuidas süsteem inimestega kohtub.
Hindamine kui ülemineku tõendus
Hindamine seisab sageli töövoost väljas, nagu oleks see koolieksam, mis tehakse enne süsteemi lõpetamist. Vastutustundlikus olekumasinas muutub hindamine pidevaks ülemineku tõenduseks. Iga üleminek võib toota signaale: kui sageli valvur blokeeris, kui sageli inimesed selle üle kirjutasid, kui sageli edasikaebused õnnestusid, kui sageli olid allikad aegunud, kui sageli lahknes mudeli enesekindlus inimlikust otsustusest, kui sageli tekitas vähese mõjuga tee kaebusi.
Need signaalid peaksid toitma masinat. Üleminek, mis tekitab korduvaid edasikaebusi, võib vajada tugevamat valvurit või selgemat teavitust. Inimliku ülevaate olek, millel on kõrge kokkulangevus ja väike mõju, võib olla kõlblik suuremaks automatiseerimiseks, eeldusel et parandus jääb reaalseks. Keeldumise olek, mis lõksu jääb kasutajaid, võib vajada parandusteed. Poliitika valvur, mis blokeerib liiga palju õigustatud juhtumeid, võib paljastada halva poliitika, mitte halva mudeli. Masin ei ole vastutustundlik sellepärast, et see on staatiline. See on vastutustundlik, sest see suudab õppida minevikku varjamata.
See õppimine nõuab versioonihaldust. Olekud, valvurid, läved, viibad, mudelid, poliitikad, andmeallikad ja ülevaate juhised muutuvad. Kirje peab ütlema, milline versioon millisele üleminekule rakendus. Vastasel juhul saab organisatsioon hinnata ainult mineviku valikute suppi. Supil on kulinaarsed kasutusalad. See ei ole valitsemismeetod, ükskõik kui palju armatuurlaudu peal ujub.
Versioonitud ülemineku tõendus hoiab ka täiustamise ausana. Meeskond võib öelda, et uus valvur vähendas üle vaatamata toiminguid, kuid suurendas viivitusi. See võib öelda, et uus allikas parandas täpsust, kuid suurendas privaatsuse hõõrdumist. See võib öelda, et mudeli uuendus parandas kokkuvõtteid, kuid nõrgendas keeldumisdistsipliini. Kompromissid ei ole ebaõnnestumised. Varjatud kompromissid on ebaõnnestumised, mis ootavad kalendrikutset.
Õppetund
Vastutustundliku tehisintellekti taga olev olekumasin ei ole üleskutse külmematele süsteemidele. See on üleskutse süsteemidele, mis teavad, mida nad teevad, samal ajal kui nad seda teevad. Nimetatud olek ei ole moraalne saavutus. Valvur ei ole õiglus. Kviitung ei ole usaldus. Kuid ilma nende asjadeta jääb vastutustundlik tehisintellekt kavatsuse tasemele ja kavatsuse tööajal on kehv rekord.
Vastutustundlik tehisintellekt vajab eesmärki, volitust, tõendeid, piire, inimlikku hinnangut, edasikaebamise võimalust, parandust, säilitust ja õppimist. Need sõnad muutuvad toimivaks olekute ja üleminekute kaudu. Need otsustavad, millal juhtum liigub edasi, millal see peatub, kelle omanduses see on, milline kanne luuakse, milline õiguskaitsevahend on olemas ja mida süsteem peaks järgmine kord meeles pidama. See ei ole kogu eetika. See on osa, mis suudab peatada halva teo enne, kui sellest saab väga hästi dokumenteeritud kahetsus.
Alguses olev vorm on endiselt väärtuslik. See esitab õiged avaküsimused. Kuid vorm peab viima masinani, mis töötab: nimetatud olekud, selged piirangud, püsivad tõendid, tõeline läbivaatamine ja väljapääsud inimestele, keda süsteem mõjutab. Vastutustundlikku tehisintellekti ei tõesta poliitika olemasolu. Seda tõestatakse või lükatakse ümber üleminekul, kus süsteem otsustab, mis edasi juhtub.