Atsakingo dirbtinio intelekto būsenos mašina
Forma, kuri nesuveikė
Pirmasis atsakingojo dirbtinio intelekto seminaras dažnai baigiasi forma. Forma paprastai atrodo tvarkingai taip, kaip vidinės formos gali atrodyti tvarkingai, kai komitetas atranda tarpus. Joje klausiama apie paskirtį, poveikį, duomenis, riziką, šališkumą, žmogiškąją priežiūrą, priklausomybę nuo tiekėjo, saugojimo laikotarpį ir eskalavimą. Žmonės ją pildo atidžiai. Pažymimas langelis. Peržiūros komitetas linkteli. Projektas juda pirmyn. Kažkur aplankas gauna dar vieną dokumentą ir ima šiek tiek labiau tikėti savimi.
Po trijų mėnesių sistema jau veikia gamyboje, o forma nebėra ten, kur vyksta veiksmas. Gaunamas palaikymo prašymas su trūkstamais laukais. Modelis pateikia įsitikinusį atsakymą, paremtą silpnais įrodymais. Įrankio iškvietimas atnaujintų kliento įrašą. Politika pasikeičia tarp projekto ir galutinio veiksmo. Žmogiškasis vertintojas serga. Paieškos indeksas pasenęs. Siūlomas naujas duomenų šaltinis, nes jis būtų patogus, o būtent taip daug blogų idėjų mandagiai prisistato.
Tą akimirką atsakingasis dirbtinis intelektas nėra principas. Tai būsenos perėjimas. Sistema yra vienoje būsenoje ir nori pereiti į kitą. Nuo projekto iki sprendimo. Nuo pasiūlymo iki veiksmo. Nuo mažo poveikio iki didelio. Nuo vidinės pagalbos iki išorinės komunikacijos. Nuo peržiūrėto iki įvykdyto. Nuo leidžiamo iki blokuoto. Nuo laikinos išimties iki nuolatinio maršruto, jei niekas nestebi. Klausimas, ar perėjimas turi apsaugą, įrašą, atsakingą asmenį ir išėjimo kelią.
Tai būsenų mašina, slypinti už atsakingojo dirbtinio intelekto. Ne todėl, kad etiką būtų galima redukuoti į langelius ir rodykles. Tuo būtų keista tikėti, o dar keisčiau tai įdiegti. Esmė paprastesnė. Rimtos sistemos jau juda per būsenas. Jei tos būsenos nepavadintos, modelis vis tiek judės, darbo eiga vis tiek pažengs, o organizacija savo valdymą atras atsitiktinai. Būsenų įvardijimas nėra biurokratinis smulkmeniškumas. Tai būdas atsakomybei suteikti veikimo formą.
Kodėl principams reikia ribų
Principai naudingi pradžioje, nes suteikia kryptį. Teisingumas, skaidrumas, atskaitomybė, privatumas, saugumas, žmogiškoji veikla, patikimumas, ginčijamumas. Šie žodžiai nėra tušti. Tačiau jie taip pat nėra patys savaime įvykdomi. Sistema negali veikimo metu iškviesti principo ir paklausti, ar kitas veiksmas leidžiamas. Kūrėjas gali parašyti raginimą, kuriame sakoma būk teisingas, bet darbo eiga vis tiek turi žinoti, kada sustoti, kada paklausti, kada įrašyti ir kada atsisakyti.
Kraštinės sąlygos yra vieta, kur principai tampa naudingi. Teisingumo principas tampa reikalavimu, kad tam tikra sprendimų kategorija prieš išleidimą turi praeiti grupės lygio vertinimą, o po išleidimo turi pateikti atvejo lygio priežasčių kodus. Skaidrumo principas tampa kvitu, kuriame nurodomi šaltiniai, modelio versija, politikos versija ir žmogaus vaidmuo. Privatumo principas tampa apsauga, kuri atsisako vykdyti paiešką už paskirties, saugojimo, sutikimo ar teisinio pagrindo ribų. Atskaitomybė tampa būsena, kuri negali judėti pirmyn be savininko. Galimybė ginčyti sprendimą tampa apeliacijos keliu, kuris egzistuoja prieš pirmąjį skundą, o ne po pirmojo skambučio į laikraštį.
Be kraštinių sąlygų atsakingas dirbtinis intelektas tampa būdvardžių rinkiniu aplink sistemą, kuri vis tiek elgiasi taip, kaip leidžia darbo eiga. Komanda gali nuoširdžiai tikėti, kad turi žmogaus priežiūrą, nes žmogus gali peržiūrėti rezultatus. Tačiau jei sistema gali veikti prieš žmogui pamatant įrodymus, priežiūra yra tik dekoratyvi. Komanda gali tikėti, kad turi skaidrumą, nes modelis paaiškina save. Tačiau jei paaiškinimo negalima susieti su šaltiniais ir būsena, skaidrumas virsta teatru. Komanda gali tikėti, kad yra saugi, nes modelis atsisako pavojingų užklausų. Tačiau jei įrankių vartai suteikia plačius įgaliojimus, atsisakymas yra tik vienos durys name su labai entuziastingais langais.
Būsenos mašina nepakeičia sprendimo. Tai būdas priversti sprendimą kažkur nusileisti. Ji verčia komandą atsakyti į praktinius klausimus. Kokioje būsenoje yra šis atvejis. Kurie perėjimai iš čia galimi. Kokie įrodymai reikalingi. Kuris vaidmuo gali patvirtinti. Kuris perėjimas yra negrįžtamas. Kuris perėjimas sukuria įrašą. Kuris perėjimas sukuria pareigą pranešti, saugoti, ištrinti ar perduoti aukštesniam lygiui. Šie klausimai mažiau poetiški nei vertybių deklaracijos. Juos taip pat sunkiau apeiti.
Paslėpta mašina egzistuoja visada
Kiekvienas dirbtinio intelekto darbo srautas jau turi būsenos mašiną, net jei jos niekas nenubraižė. Paslėpta versija gyvena bilietų būsenose, skaičiuoklių stulpeliuose, pakartotinių bandymų eilėse, užklausų šakose, recenzentų įpročiuose, „Slack“ žinutėse, duomenų bazės vėliavėlėse, išimčių lentelėse ir vieno žmogaus, kurio visi klausia, atmintyje, nes jis buvo ten, kai vyko bandomasis projektas. Tai ne žavus paskirstytos architektūros pavyzdys. Tai institucinis folkloras su vėlavimu.
Paslėpta mašina pavojinga, nes sukuria kontrolės įspūdį, kartu perkeldama atsakomybę į vietas, kurių negalima peržiūrėti. Užklausa gali sakyti, kad jautrūs atvejai turi būti perduoti aukštesniam lygiui, bet eilė gali neišsaugoti priežasties. Atvejų sistema gali rodyti patvirtinta, bet ne tai, ar patvirtinimas taikomas modelio atsakymui, įrankio iškvietimui ar išorinei komunikacijai. Recenzentas gali atmesti rezultatą, bet atmetimas gali niekada nepatekti į vertinimo rinkinį. Atvejis gali būti uždarytas, bet išvestiniai duomenys gali vis dar gyventi požymių saugykloje. Modelis gali būti pakeistas, bet laukiantys atvejai gali vis dar turėti senesnės versijos rezultatus. Sistema juda; įrašas šlubuoja iš paskos su kaklaraiščiu.
Būsenos mašinos padarymas aiškia nereikalauja organizacijos pavertimo formalių metodų laboratorija. Tam reikia pakankamai disciplinos atskirti būsenas, kurios turi skirtingas pareigas. Juodraštis nėra peržiūrėtas. Peržiūrėtas nėra įvykdytas. Įvykdytas nėra uždarytas. Uždarytas nėra ištrintas. Ištrintas nėra archyvuotas. Užblokuotas politikos nėra nepavykęs dėl infrastruktūros. Reikalingas žmogaus sprendimas nėra mažas pasitikėjimas. Įtariamas incidentas nėra patvirtintas incidentas. Šie skirtumai skamba įprastai, kol auditas nepaklausia, kuris iš jų įvyko, kada ir kodėl.
Pavadintos būsenos taip pat sustabdo dažną automatizacijos ydą: švelnų slydimą nuo pagalbos prie sprendimo. Sistema pradeda kaip tekstų rengimo pagalbininkė. Žmonės ja pasitiki. Juodraštis tampa numatytuoju variantu. Numatytasis variantas tampa rekomendacija. Rekomendacija tampa veiksmu. Niekas nebalsavo už visišką automatizaciją. Niekas nesukūrė naujo atskaitomybės paviršiaus. Perėjimas įvyko per patogumą, kuris yra sėkmingiausias lobistas programinėje įrangoje. Būsenos mašina gali priversti tą perėjimą tapti matomu.
Apsaugos nėra nuojautos
Perėjimui reikia apsaugos. Apsauga yra sąlyga, kuri turi būti teisinga, kad sistema galėtų judėti toliau. Įprastoje programinėje įrangoje tai gali būti loginis patikrinimas, politikos įvertinimas, leidimų riba, patvirtinimo rezultatas arba žmogaus pritarimas. Atsakingo dirbtinio intelekto srityje tai taip pat vieta, kur institucijų pažadai tampa veiklos realybe. Apsauga klausia, ar tikslas leistinas, ar duomenys atitinka apimtį, ar rezultatas turi pakankamai įrodymų, ar modelis patvirtintas šiam naudojimui, ar veiksmas grįžtamas, ar asmuo turi įgaliojimus, ar išlaidos ribotos, ir ar paveiktas vartotojas turi kelią atgal.
Praktinis triukas yra laikyti apsaugas arti perėjimo, kurį jos saugo. Jei apsauga egzistuoja tik politikos dokumente, vykdymo sistema ją pamirš įspūdingu greičiu. Jei ji egzistuoja tik raginime, ją bus sunku išbandyti ir lengva apeiti. Jei ji egzistuoja tik kaip žmogaus įprotis, ji žlugs ligos dienomis, švenčių metu, po reorganizacijų ir tą savaitę, kai visi stengiasi išleisti produktą. Gera apsauga yra pakankamai aiški, kad būtų galima ją išbandyti, ir pakankamai lokali, kad turėtų reikšmės.
Tai nereiškia, kad kiekviena apsauga turi būti automatizuota. Kai kurios apsaugos yra žmogiškos, nes klausimas iš tiesų priklauso nuo konteksto. Tačiau net žmogiškoms apsaugoms reikia būsenos. Recenzentas turėtų matyti įrodymus, taikomą politiką, rizikos klasifikaciją, siūlomą veiksmą ir pritarimo pasekmes. Sistema turėtų įrašyti sprendimą kaip perėjimą, o ne kaip komentarą, kurį ateities archeologija gali arba negali aptikti. Žmogaus priežiūra be būsenos pasikeitimo dažnai yra tik susitikimas su vartotojo sąsaja.
Taip pat yra nuobodus, bet svarbus punktas apie neigiamas apsaugas. Atsakingas dirbtinis intelektas yra ne tik atsakingas „taip“ sakymas. Tai ir aiškus „ne“ sakymas. Ne, nes trūksta tikslo. Ne, nes šaltinis pasenęs. Ne, nes modelis yra už savo patvirtintos srities ribų. Ne, nes vartotojas neturi įgaliojimų. Ne, nes reikalinga žmogaus peržiūra. Ne, nes veiksmas yra pernelyg reikšmingas turimiems įrodymams. Atsisakymas su priežastimi yra geresnė sistemos būsena nei neaiški klaida, kuri skatina bandyti iš naujo, kol kas nors pajudės.
Būsenos padaro atsakomybę priskiriamą
Viena iš priežasčių, kodėl dirbtinio intelekto atskaitomybė tampa miglota, yra ta, kad atsakomybė aptariama visos sistemos lygmeniu. Atsakinga organizacija. Atsakingas tiekėjas. Atsakingas produkto savininkas. Atsakingas duomenų apsaugos pareigūnas. Atsakingas modelis, o ši frazė teisininkui turėtų priversti spoksoti į lubas, ieškant stiprybės. Veikimo metu atsakomybei reikia mažesnės rankenos.
Būsenos sukuria tą rankeną. Priėmimo metu už tikslą ir apimtį gali būti atsakingas paslaugos savininkas. Paieškos metu už šaltinio kokybę ir leidimus gali būti atsakingas duomenų savininkas. Modelio generavimo metu už patvirtintas versijas ir nustatymus gali būti atsakingas techninis savininkas. Peržiūros metu už sprendimą gali būti atsakingas žmogaus vaidmuo. Veiksmo metu už išorinį poveikį gali būti atsakingas darbo eigos savininkas. Uždarymo metu už saugojimą ir ištrynimą gali būti atsakingas įrašų valdymas. Tikslus žemėlapis skirsis, bet principas išlieka: atsakomybė geriau prilimpa prie perėjimų nei prie miglos.
Tai svarbu, kai kas nors nutinka ne taip. Jei rezultatas buvo blogas, nes šaltinis buvo pasenęs, būsenos mašina turėtų parodyti, kur naujumas buvo patikrintas arba praleistas. Jei žmogus patvirtino rizikingą veiksmą, įrašas turėtų parodyti, kokius įrodymus jis matė. Jei politika pasikeitė, laukiantys atvejai turėtų atskleisti, kuri versija juos reglamentavo. Jei modelis buvo atnaujintas, perėjimai per leidimo ribą turėtų būti tikrinami. Esmė ne rasti kaltininką greičiau. Esmė padaryti taisymą įmanomą neapsimetant, kad visa sistema žlugo vienu nediferencijuotu gūžtelėjimu pečiais.
Priskiriama atsakomybė taip pat gerina kasdienį darbą. Komandos žino, kokias būsenas jos valdo. Metrika tampa mažiau teatrališka. Vietoj skelbimo, kad atsakingo DI programa yra subrendusi, organizacija gali matuoti pasenusių šaltinių blokavimus, atsisakymus dėl trūkstamo tikslo, peržiūros panaikinimus, skundų rezultatus, incidentų perėjimus ir uždarymo vėlavimus. Tai mažiau tinka blizgančiai skaidrei. Tai kur kas labiau tinka sistemai valdyti.
Blogos būsenos nusipelno tinkamų pavadinimų
Dauguma atsakingo DI nesėkmių nėra piktavališkos. Tai įprastos būsenos su blogais pavadinimais arba be pavadinimų. Juodraštinis atsakymas traktuojamas kaip galutinis atsakymas. Laikina išimtis tampa nuolatiniu keliu. Mažo pasitikėjimo rezultatas tampa didelio poveikio veiksmu, nes darbo eiga neturėjo tarpinės būsenos. Modelis mato duomenis, kurių neturėtų matyti, nes paieškos būsena nenešė tikslo. Žmogaus recenzentas tampa formalumu, nes būsena, vadinama peržiūra, nereikalavo įrodymų ar nesutikimo užfiksavimo.
Blogų būsenų pavadinimas yra nepatogus ir naudingas. Tylus juodraštis. Apimties išplėtimas. Pasenęs šaltinis. Trūkstamas savininkas. Neperžiūrėtas veiksmas. Nėra išėjimo. Tai savaime nėra pagrindinės priežastys, bet tai vietos, kur dėti kontrolę. Sistema gali aptikti tylų juodraštį, kai sugeneruotas tekstas nukopijuojamas į išorinę komunikaciją be patvirtinimo. Ji gali aptikti apimties išplėtimą, kai darbo eiga prašo šaltinio už deklaruoto tikslo ribų. Ji gali aptikti pasenusį šaltinį, kai citata yra senesnė, nei leidžia politika. Ji gali aptikti nebuvimą išėjimo, kai užblokuoti atvejai amžinai laukia, nes niekas nesukūrė humaniško atsisakymo.
Šis įprotis taip pat apsaugo nuo moralinės perdėtos reakcijos. Ne kiekviena nesėkmė yra etinė krizė. Kartais tai eilės būsena be savininko. Kartais tai saugojimo būsena, kurios niekas neprijungė prie ištrynimo. Kartais tai pasitikėjimo slenkstis, apsimetantis sprendimu. Būsenos pavadinimas leidžia komandai sutaisyti mechanizmą. Be pavadinimų kiekvienas incidentas tampa diskusija apie kultūrą. Kultūra svarbi, bet ji yra prastas pakaitalas žinojimui, kuris perėjimas praleido.
Yra sausas komizmas stebint, kaip organizacijos bijo žodžio būsenos mašina, nes jis skamba per techniškai, o tuo pat metu laimingai eksploatuoja patvirtinimo el. laiškų, skaičiuoklių būsenų ir išimčių, žinomų tik trims žmonėms ir kalendoriaus kvietimui, labirintą. Formali versija dažnai yra paprastesnė. Ji tik turi nemandagumą būti matoma.
Įrodymai priklauso perėjimui
Jei būsenos mašina turi turėti reikšmės, jai reikia įrodymų. Įrašas neturėtų vien pasakyti, kad atvejis patvirtintas. Jis turėtų nurodyti, kas paskatino perėjimą, kuri apsauga buvo įvertinta, kokie duomenys naudoti, kurios modelio ir politikos versijos taikytos, kas ar kas patvirtino, koks poveikis sekė ir kaip atvejį galima pakartoti ar užginčyti. Įrodymai nėra puošmena po veiksmo. Jie yra veiksmo atskaitomybės dalis.
Tai ypač svarbu dirbtiniam intelektui, nes rezultatai gali atrodyti įtikinami, o jų kelias gali būti trapus. Santrauka gali būti teisinga, bet pagrįsta šaltiniu, prie kurio vartotojui nebuvo leista prieiti. Rekomendacija gali būti pagrįsta, bet už modelio patvirtinto naudojimo ribų. Klasifikacija gali būti tiksli, bet atlikta po politikos termino. Atsisakymas gali būti saugus, bet teisiškai nenaudingas, jei nesuteikia galimybės ištaisyti. Vien atsakymas negali to pasakyti. Perėjimo įrašas gali.
Gerais įrodymais komandos taip pat įgyja drąsos automatizuoti ten, kur automatizavimas tinka. Atsakingas dirbtinis intelektas nėra nuolatinis atsiprašymas už mašinų naudojimą. Jei užduotis yra mažo poveikio, gerai apibrėžta, grįžtama, tinkamai išbandyta ir tinkamai užfiksuota, automatizavimas gali būti atsakingas kelias. Jei užduotis yra didelio poveikio, ginčytina, nauja ar negrįžtama, būsenos mašina turėtų ją sulėtinti. Esmė ne garbinti žmogišką peržiūrą. Esmė nukreipti darbą pagal riziką, įrodymus ir ištaisymo galimybes.
Įrodymai daro šį nukreipimą mažiau politizuotą. Komanda gali parodyti, kad būsena yra saugi automatizuoti, nes ankstesni perėjimai buvo tikslūs, apeliacijų buvo reta, pataisos buvo įtrauktos, o apsaugos pagavo tinkamus atvejus. Arba gali parodyti, kad būsenai reikia daugiau žmogiško sprendimo, nes klaidų modeliai išlieka sudėtingi, paveikti žmonės ginčija rezultatus arba duomenų kokybė yra silpna. Tai geresnis argumentas nei įprastas teatras, kai viena pusė kalba apie inovacijas, o kita apie riziką, kol visiems nebereikia kavos.
Žmogaus peržiūra yra būsena, o ne gestas
Žmogaus peržiūra dažnai minima taip, tarsi vien jos egzistavimas išspręstų atsakomybės klausimą. Žmogus yra procese. Gerai. Kuriame procese. Kurioje būsenoje. Su kokiais įrodymais. Su kokia kompetencija. Ar žmogus gali nesutikti. Ar nesutikimas keičia sistemą. Ar peržiūra yra atrankinė, privaloma, suveikianti pagal riziką, ar tik dekoratyvi. Ar peržiūrintysis mato pirminę medžiagą, ar tik tvarkingą modelio tekstą. Ar yra laiko apgalvoti. Ar yra mokymas. Ar yra įrašas. Frazė „žmogus procese“ turėtų būti suprantama kaip pradinis klausimas, o ne kaip baigiamasis argumentas.
Būsenų mašina žmogaus peržiūrą padaro konkrečią. Ji gali atskirti, ar peržiūra reikalinga, ar tik galima, ar peržiūra laukia, ar baigta, ar žmogus pakeitė rezultatą, ar jį patvirtino, ar reikia eskalacijos, ar ji atlikta. Ji taip pat gali atskirti, kokio pobūdžio sprendimas priimamas. Vienos peržiūros tikrina faktinį šaltinių naudojimą. Kitos tikrina atitiktį politikai. Dar kitos tikrina empatiją ir toną. Kai kurios tikrina teisinį pagrindą. Kai kurios tikrina, ar išimtis yra pagrįsta. Vienas laukelis, pažymėtas „patvirtinta“, rimtam darbui retai kada pakanka.
Peržiūros kaip būsenos projektavimas taip pat apsaugo žmones nuo pavertimo moraline užpilda. Jei sistema siunčia kiekvieną keblų atvejį žmogui be įrodymų, prioritetų ar grįžtamojo ryšio, žmogus tampa neapibrėžtumo sąvartynu. Tai ne priežiūra. Tai personalo modelis su kalte prie jo prikabinta. Atsakinga peržiūros būsena supakuoja atvejį, įvardija reikalingą sprendimą, išsaugo nesutikimą ir grąžina rezultatus į vertinimą. Ji suteikia žmogui darbą, vertą žmogaus.
Ir atvirkščiai. Kai kurios sistemos naudoja žmogaus peržiūrą ten, kur geresnis apsauginis mechanizmas būtų malonesnis. Jei atvejui trūksta teisinio pagrindo, nesiųskite jo peržiūrėtojui, kad jis tai atrastų rankiniu būdu. Blokuokite jį. Jei šaltinis pasenęs, atnaujinkite arba atsisakykite. Jei vartotojas neturi teisės, pasakykite tai. Žmonės turėtų priimti sprendimus, o ne kompensuoti trūkstamą infrastruktūrą. Dešimtmečius kūrėme mašinas. Būtų nedora priversti žmones elgtis kaip tikrinimo scenarijus.
Negrįžtamumas keičia mašiną
Ne visi perėjimai yra vienodi. Kai kurie yra grįžtami. Juodraštį galima redaguoti. Maršrutą galima pakeisti. Rekomendaciją galima atšaukti. Kitus perėjimus sunkiau panaikinti: žinutė išsiųsta, išmoka atmesta, rizikos vėliavėlė pakeičia eilę, įrašas atnaujintas, asmuo užregistruotas, mokėjimas atliktas, klientas užrakintas. Atsakingas dirbtinis intelektas turi žinoti, kurie perėjimai peržengia į realų pasaulį.
Negrįžtamumas turėtų pakeisti sargybą. Sistema turėtų reikalauti daugiau įrodymų, stipresnio autoriteto, aiškesnio žmogiškojo sprendimo, geresnio pranešimo ir labiau matomo apskundimo kelio prieš sukeliant negrįžtamus padarinius. Taip pat, kur įmanoma, ji turėtų teikti pirmenybę laipsniškiems perėjimams. Juodraštis prieš siuntimą. Rekomendacija prieš sprendimą. Palaukite prieš atmesdami. Praneškite prieš įgyvendindami. Peržiūra prieš ataskaitą. Tai ne lėtumas dėl paties lėtumo. Tai skirtumas tarp sistemos, kuri gali pati pasitaisyti, ir sistemos, kuri sukuria valymo darbus su pasitikinčiu veidu.
Būsenos mašina taip pat padeda esant daliniam grįžtamumui. Kai kurią žalą galima ištaisyti techniškai, bet ne socialiai. Klaidingą vidinę santrauką galima pataisyti. Klaidingas išorinis kaltinimas gali išlikti net po pataisymo. Vėluojančią naudą galima išmokėti vėliau, bet nuoma turėjo būti sumokėta anksčiau. Ištrintą įrašą kartais galima atkurti, bet pasitikėjimo gali ir nebepavykti. Mašina į šiuos perėjimus turėtų žiūrėti rimtai, atsižvelgdama į jų poveikį žmonėms, o ne vien į duomenų bazės atšaukimą.
Būtent čia atsakingas dirbtinis intelektas išsilaisvina iš fantazijos, kad etika yra atskirta nuo veiklos. Veiklos detalės yra etikos paviršius. Eilės dizainas veikia teisingumą. Pakartotinio bandymo politika veikia dubliavimą. Nustatyto laiko pabaigos elgsena veikia prieigą. Saugojimas veikia privatumą. Peržiūros krūvis veikia orumą. Būsenos perėjimai nėra neutralūs vamzdynai. Jie yra tai, kaip sistema susitinka su žmonėmis.
Vertinimas kaip perėjimo įrodymas
Vertinimas dažnai lieka už darbo eigos ribų, tarsi tai būtų mokyklinis egzaminas, laikomas prieš sistemos baigimą. Atsakingoje būsenos mašinoje vertinimas tampa nuolatiniu perėjimo įrodymu. Kiekvienas perėjimas gali generuoti signalus: kaip dažnai sargyba blokavo, kaip dažnai žmonės panaikindavo sprendimą, kaip dažnai apskundimai pasisekdavo, kaip dažnai šaltiniai būdavo pasenę, kaip dažnai modelio pasitikėjimas nesutapdavo su žmogiškuoju sprendimu, kaip dažnai tariamai mažo poveikio kelias sukeldavo skundų.
Tie signalai turėtų maitinti mašiną. Perėjimas, kuris sukelia pasikartojančius apskundimus, gali reikalauti stipresnės sargybos ar aiškesnio pranešimo. Žmogiškosios peržiūros būsena, kurioje yra didelis sutarimas ir mažas poveikis, gali būti tinkama didesnei automatizacijai, jei ištaisymo priemonė išlieka reali. Atsisakymo būsena, kuri įstrigdo vartotojus, gali reikalauti taisymo kelio. Politikos sargyba, kuri blokuoja per daug teisėtų atvejų, gali atskleisti blogą politiką, o ne blogą modelį. Mašina nėra atsakinga todėl, kad yra statiška. Ji atsakinga todėl, kad gali mokytis neslėpdama praeities.
Toks mokymasis reikalauja versijų valdymo. Būsenos, sargybos, slenksčiai, raginimai, modeliai, politikos, duomenų šaltiniai ir peržiūros instrukcijos keičiasi. Įrašas turi nurodyti, kuri versija buvo taikoma kuriam perėjimui. Priešingu atveju organizacija gali įvertinti tik praeities pasirinkimų sriubą. Sriuba turi kulinarinės paskirties. Tai nėra valdymo metodas, kad ir kiek skydelių plūduriuotų jos paviršiuje.
Versijuoti perėjimo įrodymai taip pat užtikrina, kad tobulinimas būtų sąžiningas. Komanda gali pasakyti, kad nauja sargyba sumažino neperžiūrėtų veiksmų skaičių, bet padidino delsą. Ji gali pasakyti, kad naujas šaltinis pagerino tikslumą, bet padidino privatumo trintį. Ji gali pasakyti, kad modelio atnaujinimas pagerino santraukas, bet susilpnino atsisakymų discipliną. Kompromisai nėra nesėkmės. Paslėpti kompromisai yra nesėkmės, laukiančios kvietimo į kalendorių.
Pamoka
Atsakingo dirbtinio intelekto būsenos mašina nėra raginimas šaltesnėms sistemoms. Tai raginimas sistemoms, kurios žino, ką daro, kol tai daro. Pavadinta būsena nėra moralinis pasiekimas. Sargyba nėra teisingumas. Kvitas nėra pasitikėjimas. Tačiau be šių dalykų atsakingas dirbtinis intelektas lieka ketinimų lygmenyje, o ketinimai turi prastą veikimo laiko įrašą.
Atsakingas dirbtinis intelektas reikalauja tikslo, įgaliojimų, įrodymų, apribojimų, žmogaus sprendimo, apskundimo, taisymo, saugojimo ir mokymosi. Šie žodžiai tampa veiksmingi per būsenas ir perėjimus. Jie nusprendžia, kada byla juda toliau, kada sustoja, kam ji priklauso, koks įrašas sukuriamas, kokia priemonė egzistuoja ir ką sistema turėtų įsiminti kitą kartą. Tai ne visa etika. Tai ta dalis, kuri gali sustabdyti blogą veiksmą, kol jis dar netapo labai gerai dokumentuotu apgailestavimu.
Forma pradžioje vis dar turi vertės. Ji užduoda teisingus pradinius klausimus. Tačiau forma turi vesti į veikiantį mechanizmą: pavadintas būsenas, aiškius apribojimus, patvarius įrodymus, realią peržiūrą ir išeitis žmonėms, kuriems sistema daro poveikį. Atsakingas dirbtinis intelektas neįrodomas politikos egzistavimu. Jis įrodomas arba paneigiamas perėjime, kuriame sistema nusprendžia, kas bus toliau.