Atbildīgā mākslīgā intelekta stāvokļu mašīna
Veidlapa, kas netika aizpildīta
Pirmā atbildīgās mākslīgā intelekta darbnīca bieži beidzas ar veidlapu. Veidlapa parasti ir glīta tādā veidā, kā iekšējās veidlapas var būt glītas, kad komiteja ir atklājusi atstarpes. Tajā jautā par mērķi, ietekmi, datiem, risku, neobjektivitāti, cilvēka uzraudzību, piegādātāja atkarību, saglabāšanu un eskalāciju. Cilvēki to aizpilda rūpīgi. Tiek atzīmēta izvēles rūtiņa. Pārskata padome pamāj. Projekts virzās uz priekšu. Kaut kur mape saņem vēl vienu dokumentu un kļūst nedaudz pārliecinātāka par sevi.
Trīs mēnešus vēlāk sistēma ir ražošanā, un veidlapa vairs nav tur, kur notiek darbība. Atbalsta pieprasījums ienāk ar trūkstošiem laukiem. Modelis sniedz pārliecinātu atbildi ar vājiem pierādījumiem. Rīka izsaukums atjauninātu klienta ierakstu. Politika mainās starp melnrakstu un galīgo darbību. Cilvēka pārskatītājs ir slims. Meklēšanas indekss ir novecojis. Tiek ierosināts jauns datu avots, jo tas būtu ērti, un tā daudzas sliktas idejas pieklājīgi iepazīstina ar sevi.
Tajā brīdī atbildīgs mākslīgais intelekts nav princips. Tā ir stāvokļa pāreja. Sistēma atrodas vienā stāvoklī un vēlas pāriet uz citu. No melnraksta uz lēmumu. No ieteikuma uz darbību. No zemas ietekmes uz augstu ietekmi. No iekšēja palīglīdzekļa uz ārēju saziņu. No pārskatīta uz izpildītu. No atļauta uz bloķētu. No pagaidu izņēmuma uz pastāvīgu maršrutu, ja neviens neskatās. Jautājums ir, vai pārejai ir aizsargs, ieraksts, atbildīgais un izejas ceļš.
Šī ir stāvokļu mašīna, kas ir pamatā atbildīgam mākslīgajam intelektam. Ne tāpēc, ka ētiku var reducēt līdz lodziņiem un bultiņām. Tam ticēt būtu dīvaini, un to iepirkt būtu vēl dīvaināk. Būtība ir vienkāršāka. Nopietnas sistēmas jau pārvietojas pa stāvokļiem. Ja šie stāvokļi nav nosaukti, modelis tik un tā pārvietosies, darbplūsma tik un tā virzīsies uz priekšu, un organizācija savu pārvaldību atklās nejauši. Stāvokļu nosaukšana nav birokrātiska ņemšanās. Tas ir veids, kā atbildība iegūst izpildlaika formu.
Kāpēc principiem ir vajadzīgas robežas
Principi ir noderīgi sākumā, jo tie dod virzienu. Taisnīgums, pārredzamība, atbildība, privātums, drošība, cilvēka rīcībspēja, robustums, apstrīdamība. Šie vārdi nav tukši. Tie arī nav paši par sevi izpildāmi. Sistēma nevar izsaukt principu izpildlaikā un jautāt, vai nākamā darbība ir atļauta. Izstrādātājs var uzrakstīt uzvedni, kurā teikts, ka jābūt taisnīgam, bet darbplūsmai joprojām ir jāzina, kad apstāties, kad jautāt, kad ierakstīt un kad atteikt.
Robežas ir vieta, kur principi kļūst noderīgi. Godīguma princips kļūst par prasību, ka noteiktas kategorijas lēmumam pirms izlaišanas jāiziet grupas līmeņa novērtējums un pēc izlaišanas jāsniedz gadījuma līmeņa pamatojuma kodi. Pārredzamības princips kļūst par kvīti, kurā norādīti avoti, modeļa versija, politikas versija un cilvēka loma. Privātuma princips kļūst par aizsargu, kas atsaka izguvi ārpus mērķa, glabāšanas, piekrišanas vai tiesiskā pamata. Atbildība kļūst par stāvokli, kas nevar virzīties uz priekšu bez īpašnieka. Apstrīdamība kļūst par pārsūdzības ceļu, kas pastāv jau pirms pirmās sūdzības, nevis pēc pirmā zvana laikrakstam.
Bez robežām atbildīgs mākslīgais intelekts kļūst par īpašības vārdu kopu ap sistēmu, kas joprojām uzvedas tā, kā darbplūsma atļauj. Komanda var patiesi uzskatīt, ka tai ir cilvēka uzraudzība, jo cilvēks var aplūkot rezultātus. Bet, ja sistēma var rīkoties, pirms šis cilvēks ir redzējis pierādījumus, uzraudzība ir tikai dekoratīva. Komanda var uzskatīt, ka tai ir pārredzamība, jo modelis sevi izskaidro. Bet, ja skaidrojumu nevar saistīt ar avotiem un stāvokli, pārredzamība ir pārvērtusies teātrī. Komanda var uzskatīt, ka tā ir drošībā, jo modelis atsakās apstrādāt bīstamus pieprasījumus. Bet, ja rīku vārteja piešķir plašas pilnvaras, atteikums ir tikai vienas durvis mājā ar ļoti entuziastiskiem logiem.
Stāvokļu mašīna neaizstāj spriedumu. Tā ir veids, kā likt spriedumam nonākt konkrētā vietā. Tā liek komandai atbildēt uz praktiskiem jautājumiem. Kādā stāvoklī ir šis gadījums. Kādas pārejas no šejienes ir iespējamas. Kādi pierādījumi ir nepieciešami. Kura loma drīkst apstiprināt. Kura pāreja ir neatgriezeniska. Kura pāreja izveido ierakstu. Kura pāreja rada pienākumu paziņot, glabāt, dzēst vai eskalēt. Šie jautājumi ir mazāk poētiski nekā vērtību paziņojumi. Tos arī ir grūtāk apiet.
Slēptā mašīna pastāv vienmēr
Katrai mākslīgā intelekta darbplūsmai jau ir stāvokļu mašīna, pat ja neviens to nav uzzīmējis. Slēptā versija dzīvo biļešu statusos, izklājlapu kolonnās, atkārtotu mēģinājumu rindās, pieprasījumu atzarojumos, recenzentu ieradumos, Slack ziņojumos, datubāzes karogos, izņēmumu tabulās un tā viena cilvēka atmiņā, kuru visi jautā, jo viņš bija klāt, kad notika pilotprojekts. Tā nav burvīga sadalīta arhitektūra. Tas ir institucionāls folklorisms ar latentumu.
Slēptā mašīna ir bīstama, jo tā rada kontroles izskatu, vienlaikus pārceļot atbildību uz vietām, kuras nevar pārskatīt. Pieprasījums var noteikt, ka sensitīvi gadījumi jāeskalē, bet rinda var nesaglabāt iemeslu. Gadījumu sistēma var uzrādīt apstiprināts, bet ne to, vai apstiprinājums attiecās uz modeļa atbildi, rīka izsaukumu vai ārējo saziņu. Recenzents var noraidīt rezultātu, bet noraidījums var nekad nenonākt novērtēšanas komplektā. Gadījums var būt slēgts, bet atvasinātie dati joprojām var atrasties pazīmju krātuvē. Modelis var būt nomainīts, bet neapstrādātie gadījumi joprojām var saturēt vecākās versijas rezultātus. Sistēma virzās uz priekšu; ieraksts klibo tai aiz muguras kaklasaitē.
Stāvokļu mašīnas padarīšana par skaidru neprasa pārvērst organizāciju par formālu metožu laboratoriju. Tas prasa pietiekamu disciplīnu, lai nošķirtu stāvokļus ar atšķirīgiem pienākumiem. Melnraksts nav pārskatīts. Pārskatīts nav izpildīts. Izpildīts nav slēgts. Slēgts nav dzēsts. Dzēsts nav arhivēts. Politikas bloķēts nav infrastruktūras kļūme. Nepieciešams cilvēka spriedums nav zema pārliecība. Aizdomas par incidentu nav apstiprināts incidents. Šīs atšķirības izklausās ikdienišķas, līdz audits jautā, kurš no tiem notika, kad un kāpēc.
Nosauktie stāvokļi novērš arī izplatītu automatizācijas kļūmi: mīkstu pārslīdēšanu no palīdzības uz lēmumu pieņemšanu. Sistēma sāk kā dokumentu sagatavošanas palīgs. Cilvēki tai uzticas. Sagatave kļūst par noklusējumu. Noklusējums kļūst par ieteikumu. Ieteikums kļūst par darbību. Neviens nebalsotu par pilnīgu automatizāciju. Neviens neizstrādāja jauno atbildības virsmu. Pāreja notika caur ērtību, kas ir visveiksmīgākais lobists programmatūrā. Stāvokļu mašīna var piespiest šo pāreju kļūt redzamai.
Aizsargi nav noskaņojums
Pārejai ir nepieciešams aizsargs. Aizsargs ir nosacījums, kam jābūt patiesam, pirms sistēma drīkst pāriet. Parastā programmatūrā tas var būt loģiskā pārbaude, politikas izvērtējums, atļauju robeža, validācijas rezultāts vai cilvēka apstiprinājums. Atbildīgā mākslīgā intelekta kontekstā tā ir arī vieta, kur institucionālie solījumi kļūst darbināmi. Aizsargs jautā, vai mērķis ir atļauts, vai dati ir tvērumā, vai izvadei ir pietiekami pierādījumi, vai modelis ir apstiprināts šim lietojumam, vai darbība ir atgriezeniska, vai personai ir pilnvaras, vai izmaksas ir ierobežotas un vai skartajam lietotājam ir ceļš atpakaļ.
Praktiskais paņēmiens ir turēt aizsargus tuvu pārejai, ko tie aizsargā. Ja aizsargs dzīvo tikai politikas dokumentā, izpildlaiks to aizmirsīs iespaidīgā ātrumā. Ja tas dzīvo tikai uzvednē, to būs grūti pārbaudīt un viegli apiet. Ja tas dzīvo tikai cilvēka ieradumā, tas izgāzīsies slimības dienās, svētkos, reorganizācijās un nedēļā, kad visi cenšas izlaist versiju. Labs aizsargs ir pietiekami skaidrs, lai to varētu pārbaudīt, un pietiekami lokāls, lai tam būtu nozīme.
Tas nenozīmē, ka katram aizsargam jābūt automatizētam. Daži aizsargi ir cilvēciski, jo jautājums patiešām ir kontekstuāls. Bet pat cilvēciskiem aizsargiem ir nepieciešams stāvoklis. Pārskatītājam jāredz pierādījumi, piemērojamā politika, riska klasifikācija, ierosinātā darbība un apstiprināšanas sekas. Sistēmai lēmums jāreģistrē kā pāreja, nevis kā komentārs, ko nākotnes arheoloģija var vai nevar atklāt. Cilvēka uzraudzība bez stāvokļa maiņas bieži vien ir tikai sapulce ar lietotāja saskarni.
Ir arī garlaicīgs, bet svarīgs punkts par negatīvajiem aizsargiem. Atbildīgs mākslīgais intelekts nav tikai atbildīga piekrišana. Tas ir arī skaidrs atteikums. Nē, jo trūkst mērķa. Nē, jo avots ir novecojis. Nē, jo modelis ir ārpus apstiprinātās jomas. Nē, jo lietotājam nav pilnvaru. Nē, jo ir nepieciešama cilvēka pārskatīšana. Nē, jo darbība ir pārāk nozīmīga pieejamajiem pierādījumiem. Atteikums ar iemeslu ir labāks sistēmas stāvoklis nekā neskaidra kļūme, kas mudina mēģināt vēlreiz, līdz kaut kas notiek.
Stāvokļi padara atbildību piešķiramu
Viens no iemesliem, kāpēc mākslīgā intelekta atbildība kļūst izplūdusi, ir tas, ka atbildība tiek apspriesta visas sistēmas līmenī. Organizācija ir atbildīga. Piegādātājs ir atbildīgs. Produkta īpašnieks ir atbildīgs. Datu aizsardzības speciālists ir atbildīgs. Modelis ir atbildīgs, un šī frāze liktu juristam skatīties griestos, lai gūtu spēku. Darbības laikā atbildībai ir vajadzīgs mazāks tvērums.
Stāvokļi rada šo tvērumu. Uzņemšanas laikā pakalpojuma īpašnieks var būt atbildīgs par mērķi un darbības jomu. Izguves laikā datu īpašnieks var būt atbildīgs par avota kvalitāti un atļaujām. Modeļa ģenerēšanas laikā tehniskais īpašnieks var būt atbildīgs par apstiprinātajām versijām un iestatījumiem. Pārskatīšanas laikā cilvēka loma var būt atbildīga par spriedumu. Darbības laikā darbplūsmas īpašnieks var būt atbildīgs par ārējām sekām. Noslēguma laikā dokumentu pārvaldība var būt atbildīga par saglabāšanu un dzēšanu. Precīza karte atšķirsies, bet princips paliek: atbildība labāk pieķeras pārejām nekā miglai.
Tas ir svarīgi, kad kaut kas noiet greizi. Ja izvade bija slikta, jo avots bija novecojis, stāvokļu mašīnai vajadzētu parādīt, kur svaigums tika pārbaudīts vai palaists garām. Ja cilvēks apstiprināja riskantu darbību, ierakstam vajadzētu parādīt, kādus pierādījumus viņš redzēja. Ja politika mainījās, gaidītajos gadījumos vajadzētu atklāties, kura versija tos pārvaldīja. Ja modelis tika jaunināts, pārejām pāri laidiena robežai vajadzētu būt pārbaudāmām. Mērķis nav ātrāk atrast vainīgo. Mērķis ir padarīt labošanu iespējamu, neizliekoties, ka visa sistēma sabruka vienā nediferencētā atmetienā.
Piešķiramā atbildība uzlabo arī ikdienas darbu. Komandas zina, kuru stāvokli tās pārvalda. Metrikas kļūst mazāk teatrālas. Tā vietā, lai paziņotu, ka atbildīgā MI programma ir nobriedusi, organizācija var mērīt novecojušu avotu bloķējumus, atteikumus trūkstoša mērķa dēļ, pārskatīšanas atcelšanas, pārsūdzību rezultātus, incidentu pārejas un noslēguma kavējumus. Tas nav piemērots glancētam slaidam. Tas ir daudz piemērotāks sistēmas darbināšanai.
Sliktiem stāvokļiem vajag pienācīgus nosaukumus
Lielākā daļa atbildīgā MI kļūmju nav ļaunprātīgas. Tās ir parasti stāvokļi ar sliktiem nosaukumiem vai bez nosaukumiem. Melnraksta atbilde tiek uzskatīta par galīgo atbildi. Pagaidu izņēmums kļūst par maršrutu. Zemas pārliecības izvade kļūst par augstas ietekmes darbību, jo darbplūsmai nebija vidējā stāvokļa. Modelis redz datus, kurus tam nevajadzēja redzēt, jo izguves stāvoklis nesa sevī mērķi. Cilvēka pārskatītājs kļūst par formalitāti, jo stāvoklis, ko sauc par pārskatīšanu, neprasīja pierādījumus vai domstarpību fiksēšanu.
Sliktu stāvokļu nosaukšana pienācīgi ir neērta un noderīga. Klusais melnraksts. Darbības jomas izplešanās. Novecojis avots. Trūkstošs īpašnieks. Nepārskatīta darbība. Nav izejas. Tie paši par sevi nav pamatcēloņi, bet tie ir vietas, kur ievietot kontroles. Sistēma var atklāt kluso melnrakstu, kad ģenerēts teksts tiek kopēts ārējā saziņā bez apstiprinājuma. Tā var atklāt darbības jomas izplešanos, kad darbplūsma pieprasa avotu ārpus deklarētā mērķa. Tā var atklāt novecojušu avotu, kad citāts ir vecāks, nekā politika atļauj. Tā var atklāt, ka nav izejas, kad bloķēti gadījumi paliek mūžīgi, jo neviens neizstrādāja cilvēcīgu atteikumu.
Šis ieradums novērš arī morālu pārreakciju. Ne katra kļūme ir ētikas krīze. Dažreiz tas ir rindas stāvoklis bez īpašnieka. Dažreiz tas ir saglabāšanas stāvoklis, ko neviens nesavienoja ar dzēšanu. Dažreiz tas ir pārliecības slieksnis, kas izliekas par spriedumu. Stāvokļa nosaukšana ļauj komandai salabot mehānismu. Bez nosaukumiem katrs incidents kļūst par diskusiju par kultūru. Kultūrai ir nozīme, bet tā ir vājš aizstājējs zināšanai, kura pāreja noplūda.
Ir sausa komēdija, vērojot organizācijas, kas baidās no vārda stāvokļu mašīna, jo tas izklausās pārāk tehniski, kamēr tās laimīgi vada labirintu no apstiprinājuma e-pastiem, izklājlapu statusiem un izņēmumiem, kas zināmi tikai trim cilvēkiem un kalendāra ielūgumam. Formālā versija bieži ir vienkāršāka. Tai vienkārši ir nepieklājība būt redzamai.
Pierādījumi pieder pārejai
Ja stāvokļu mašīnai ir jābūt nozīmīgai, tai ir vajadzīgi pierādījumi. Ierakstam nevajadzētu tikai teikt, ka lieta ir apstiprināta. Tam būtu jānorāda, kas izraisīja pāreju, kurš aizsargs tika novērtēts, kuri dati tika izmantoti, kuras modeļa un politikas versijas tika piemērotas, kurš vai kas apstiprināja, kādas sekas sekoja un kā lietu var atkārtot vai apstrīdēt. Pierādījumi nav rotājums pēc darbības. Tie ir daļa no tā, kas darbību padara atbildīgu.
Tas ir īpaši svarīgi mākslīgajam intelektam, jo rezultāti var būt ticami, kamēr to ceļš ir trausls. Kopsavilkums var būt pareizs, bet balstīts uz avotu, kuram lietotājam nebija atļauts piekļūt. Ieteikums var būt saprātīgs, bet ārpus modeļa atļautā lietojuma. Klasifikācija var būt precīza, bet izveidota pēc politikas termiņa. Atteikums var būt drošs, bet juridiski nelietderīgs, ja tas nepiedāvā ceļu uz labojumu. Atbilde vien nevar jums to pastāstīt. Pārejas ieraksts var.
Labi pierādījumi arī dod komandām drosmi automatizēt tur, kur automatizācija ir atbilstoša. Atbildīgs mākslīgais intelekts nav mūžīga atvainošanās par mašīnu izmantošanu. Ja uzdevums ir ar zemu ietekmi, labi norobežots, atgriezenisks, pienācīgi pārbaudīts un pareizi reģistrēts, automatizācija var būt atbildīgais ceļš. Ja uzdevums ir ar augstu ietekmi, apstrīdēts, jauns vai neatgriezenisks, stāvokļu mašīnai tas būtu jāpalēnina. Mērķis nav pielūgt cilvēka pārskatīšanu. Mērķis ir novirzīt darbu atbilstoši riskam, pierādījumiem un iespējai to labot.
Pierādījumi padara šo novirzīšanu mazāk politisku. Komanda var parādīt, ka stāvoklis ir drošs automatizācijai, jo iepriekšējās pārejas bija precīzas, apelācijas bija retas, labojumi tika iekļauti un kontroles notvēra pareizos gadījumus. Vai arī tā var parādīt, ka stāvoklim ir nepieciešams vairāk cilvēka sprieduma, jo kļūdu modeļi joprojām ir sarežģīti, skartie cilvēki apstrīd rezultātus vai datu kvalitāte ir vāja. Tas ir labāks arguments nekā ierastais teātris, kur viena puse saka inovācija un otra saka risks, līdz visiem vajag kafiju.
Cilvēka pārskatīšana ir stāvoklis, nevis žests
Cilvēka pārskatīšana bieži tiek pieminēta tā, it kā tās esamība vien atrisinātu atbildības jautājumu. Cilvēks ir cilpā. Labi. Kurā cilpā. Kādā stāvoklī. Ar kādiem pierādījumiem. Ar kādām pilnvarām. Vai cilvēks var nepiekrist. Vai nepiekrišana maina sistēmu. Vai pārskatīšana ir izlases veida, obligāta, riska izraisīta vai tikai dekoratīva. Vai pārskatītājs redz avota materiālu vai tikai modeļa gludo tekstu. Vai ir laiks domāt. Vai ir apmācība. Vai ir ieraksts. Frāze cilvēks cilpā būtu jāuztver kā sākuma jautājums, nevis kā noslēdzošs arguments.
Stāvokļu mašīna padara cilvēka pārskatīšanu konkrētu. Tā var atšķirt nepieciešamu pārskatīšanu no brīvprātīgas, gaidošu pārskatīšanu no pabeigtas, cilvēka mainītu iznākumu no cilvēka apstiprināta iznākuma, nepieciešamu eskalāciju no pabeigtas eskalācijas. Tā var arī atšķirt iesaistītā sprieduma veidu. Dažas pārskatīšanas pārbauda faktu izmantošanu avotos. Dažas pārbauda atbilstību politikai. Dažas pārbauda empātiju un toni. Dažas pārbauda juridisko pamatojumu. Dažas pārbauda, vai izņēmums ir pamatots. Viens lodziņš ar nosaukumu apstiprināts reti kad ir pietiekami bagāts nopietnam darbam.
Pārskatīšanas veidošana kā stāvoklis arī aizsargā cilvēkus no izmantošanas kā morāls aizpildījums. Ja sistēma katru neveiklo gadījumu nosūta cilvēkam bez pierādījumiem, prioritāšu noteikšanas vai atgriezeniskās saites, cilvēks kļūst par nenoteiktības poligonu. Tā nav uzraudzība. Tas ir personāla modelis ar vainas apziņu. Atbildīgs pārskatīšanas stāvoklis iesaiņo lietu, nosauc nepieciešamo lēmumu, saglabā domstarpības un ievada rezultātus atpakaļ vērtēšanā. Tas dod cilvēkam darbu, kas ir cilvēka cienīgs.
Arī pretējais ir patiess. Dažas sistēmas izmanto cilvēka pārskatīšanu tur, kur labāks aizsargs būtu saudzīgāks. Ja lietai trūkst juridiskā pamata, nesūtiet to pārskatītājam, lai viņš to atklātu manuāli. Bloķējiet to. Ja avots ir novecojis, atsvaidziniet vai atteikieties. Ja lietotājam nav pilnvaru, pasakiet to. Cilvēkiem būtu jāveic spriedumi, nevis jākompensē trūkstošā infrastruktūra. Mēs gadu desmitiem esam izgudrojuši mašīnas. Būtu slikta gaume likt cilvēkiem uzvesties kā validācijas skriptiem.
Neatgriezeniskums maina mašīnu
Ne visas pārejas ir vienādas. Dažas ir atgriezeniskas. Melnrakstu var rediģēt. Maršrutu var mainīt. Ieteikumu var atsaukt. Citas pārejas ir grūtāk atsaukt: ziņojums ir nosūtīts, pabalsts ir liegts, riska karodziņš maina rindu, ieraksts ir atjaunināts, persona ir ziņota, maksājums ir veikts, klients ir bloķēts. Atbildīgam mākslīgajam intelektam ir jāzina, kuras pārejas šķērso robežu uz reālo pasauli.
Neatgriezeniskumam vajadzētu mainīt aizsargu. Sistēmai pirms neatgriezeniskām sekām būtu jāpieprasa vairāk pierādījumu, stingrāka autoritāte, skaidrāks cilvēka spriedums, labāks paziņojums un redzamāks pārsūdzības ceļš. Tai arī vajadzētu dot priekšroku pakāpeniskām pārejām, kur iespējams. Uzmetums pirms nosūtīšanas. Ieteikums pirms lēmuma. Aizturēšana pirms noraidījuma. Paziņojums pirms izpildes. Pārskats pirms ziņojuma. Tas nav lēnums pašā nolūkā. Tā ir atšķirība starp sistēmu, kas spēj sevi labot, un sistēmu, kas ar pārliecinātu seju rada papildu darbu.
Stāvokļu mašīna palīdz arī ar daļēju atgriezeniskumu. Daļu kaitējuma var tehniski novērst, bet ne sociāli. Nepareizu iekšējo kopsavilkumu var izlabot. Nepareiza ārēja apsūdzība var palikt atmiņā arī pēc labojuma. Aizkavētu labumu var izmaksāt vēlāk, bet īre bija jāmaksā agrāk. Izdzēstu ierakstu dažkārt var atjaunot, bet uzticību ne vienmēr. Mašīnai šīs pārejas būtu jāvērtē ar to cilvēcisko seku nopietnību, nevis tikai kā datubāzes atcelšanu.
Šeit atbildīgais mākslīgais intelekts izbēg no fantāzijas, ka ētika ir atsevišķa no darbības. Operacionālā detaļa ir ētiskā virsma. Rindas dizains ietekmē taisnīgumu. Atkārtotu mēģinājumu politika ietekmē dublēšanos. Taimauta uzvedība ietekmē piekļuvi. Datu glabāšana ietekmē privātumu. Pārskata slodze ietekmē cieņu. Stāvokļu pārejas nav neitrāla infrastruktūra. Tās ir tas, kā sistēma sastopas ar cilvēkiem.
Novērtēšana kā pārejas pierādījums
Novērtēšana bieži notiek ārpus darba plūsmas, it kā tas būtu skolas eksāmens pirms sistēmas absolvēšanas. Atbildīgā stāvokļu mašīnā novērtēšana kļūst par nepārtrauktu pārejas pierādījumu. Katra pāreja var radīt signālus: cik bieži aizsargs bloķēja, cik bieži cilvēki pārrakstīja, cik bieži pārsūdzības bija veiksmīgas, cik bieži avoti bija novecojuši, cik bieži modeļa spriedums atšķīrās no cilvēka sprieduma, cik bieži it kā zemas ietekmes ceļš radīja sūdzības.
Šiem signāliem vajadzētu barot mašīnu. Pāreja, kas rada atkārtotas pārsūdzības, var prasīt stingrāku aizsargu vai skaidrāku paziņojumu. Cilvēka pārskata stāvoklis ar augstu saskaņu un zemu ietekmi var būt piemērots lielākai automatizācijai, ja vien labojums paliek reāls. Noraidījuma stāvoklis, kas iesprosto lietotājus, var prasīt remonta ceļu. Politikas aizsargs, kas bloķē pārāk daudz likumīgu gadījumu, var atklāt sliktu politiku, nevis sliktu modeli. Mašīna nav atbildīga tāpēc, ka tā ir statiska. Tā ir atbildīga, jo tā var mācīties, neslēpjot pagātni.
Šī mācīšanās prasa versiju pārvaldību. Stāvokļi, aizsargi, sliekšņi, uzvednes, modeļi, politikas, datu avoti un pārskata instrukcijas mainās. Ierakstam jānorāda, kura versija attiecās uz kuru pāreju. Pretējā gadījumā organizācija var novērtēt tikai pagātnes izvēļu sajaukumu. Sajaukumam ir kulinārijas lietojums. Tā nav pārvaldības metode, lai cik daudz informācijas paneļu peldētu virspusē.
Versijām piesaistīts pārejas pierādījums arī uztur uzlabojumus godīgus. Komanda var teikt, ka jauns aizsargs samazināja nepārskatītas darbības, bet palielināja kavēšanos. Tā var teikt, ka jauns avots uzlaboja precizitāti, bet palielināja privātuma berzi. Tā var teikt, ka modeļa jauninājums uzlaboja kopsavilkumus, bet vājināja noraidījuma disciplīnu. Kompromisi nav neveiksmes. Slēpti kompromisi ir neveiksmes, kas gaida kalendāra ielūgumu.
Mācība
Stāvokļu mašīna aiz atbildīgā mākslīgā intelekta nav aicinājums uz aukstākām sistēmām. Tas ir aicinājums uz sistēmām, kas zina, ko tās dara, kamēr tās to dara. Nosaukts stāvoklis nav morāls sasniegums. Aizsargs nav taisnīgums. Kvīts nav uzticība. Bet bez šīm lietām atbildīgais mākslīgais intelekts paliek nodomu līmenī, un nodomam ir slikts darbspējas rekords.
Atbildīga mākslīgā intelekta pamatā ir mērķis, pilnvaras, pierādījumi, ierobežojumi, cilvēka spriedums, pārsūdzība, labošana, saglabāšana un mācīšanās. Šie vārdi kļūst darbināmi caur stāvokļiem un pārejām. Tie nosaka, kad lieta virzās tālāk, kad tā apstājas, kam tā pieder, kāds ieraksts tiek izveidots, kāds risinājums pastāv un kas sistēmai būtu jāatceras nākamreiz. Tas nav viss ētikas tvērums. Tā ir daļa, kas var apturēt kaitīgu rīcību, pirms tā kļūst par ļoti labi dokumentētu nožēlu.
Sākumā esošajai veidlapai joprojām ir vērtība. Tā uzdod pareizos sākotnējos jautājumus. Taču veidlapai ir jāved uz mašīnu, kas darbojas: nosaukti stāvokļi, skaidri aizsargmehānismi, noturīgi pierādījumi, reāla pārskatīšana un izejas cilvēkiem, kurus sistēma ietekmē. Atbildīgs mākslīgais intelekts netiek pierādīts ar politikas esamību. Tas tiek pierādīts vai atspēkots pārejas brīdī, kad sistēma izlemj, kas notiks tālāk.