Il-magna tal-istat wara l-AI responsabbli
Il-formola li ma ġrietx
L-ewwel workshop dwar l-AI responsabbli spiss jispiċċa b'formola. Il-formola ġeneralment tkun sabiħa bil-mod li l-formoli interni jistgħu jkunu sbieħ meta kumitat jiskopri l-ispazjar. Tistaqsi dwar l-iskop, l-impatt, id-dejta, ir-riskju, il-preġudizzju, is-sorveljanza umana, id-dipendenza fuq il-fornitur, iż-żamma, u l-eskalazzjoni. In-nies jimlewha b'attenzjoni. Kaxxa tiġi mmarkata. Bord ta' reviżjoni jinżel b'rasu. Proġett jimxi 'l quddiem. X'imkien, folder jirċievi dokument ieħor u jsir kemmxejn aktar konvint minnu nnifsu.
Tliet xhur wara s-sistema tkun fil-produzzjoni u l-formola ma tibqax fejn qed iseħħ l-azzjoni. Talba ta' appoġġ tasal b'xi oqsma nieqsa. Mudell jirritorna tweġiba kunfidenti b'evidenza dgħajfa. Sejħa ta' għodda tkun se taġġorna rekord ta' klijent. Politika tinbidel bejn l-abbozz u l-azzjoni finali. Ir-reviżur uman ikun marid. L-indiċi tal-irkupru jkun skadut. Sors ta' dejta ġdid jiġi propost għax ikun konvenjenti, u hekk ħafna ideat ħżiena jintroduċu ruħhom b'mod edukat.
F'dak il-mument l-AI responsabbli mhijiex prinċipju. Hija transizzjoni ta' stat. Is-sistema tkun fi stat wieħed u trid timxi għal ieħor. Abbozz għal deċiżjoni. Suġġeriment għal azzjoni. Impatt baxx għal impatt għoli. Għajnuna interna għal komunikazzjoni esterna. Rivedut għal esegwit. Permess għal imblukkat. Eċċezzjoni temporanja għal rotta permanenti, jekk ħadd ma jkun qed jara. Il-mistoqsija hi jekk it-transizzjoni għandhiex gwardja, rekord, sid, u triq ta' ħruġ.
Din hija l-magna tal-istati wara l-AI responsabbli. Mhux għax l-etika tista' titnaqqas għal kaxxi u vleġeġ. Dik tkun ħaġa stramba biex wieħed jemmen u ħaġa saħansitra aktar stramba biex wieħed jakkwista. Il-punt huwa aktar sempliċi. Sistemi serji diġà jimxu permezz ta' stati. Jekk dawk l-istati ma jkunux imsemmija, il-mudell xorta jimxi, il-fluss tax-xogħol xorta javvanza, u l-organizzazzjoni tiskopri l-governanza tagħha b'inċident. Li ssemmi l-istati mhuwiex tfixkil burokratiku. Huwa kif ir-responsabbiltà tieħu forma ta' runtime.
Għaliex il-prinċipji jeħtieġu truf
Il-prinċipji huma utli fil-bidu għax jagħtu direzzjoni. Ġustizzja, trasparenza, responsabbiltà, privatezza, sikurezza, aġenzija umana, robustezza, kontestabbiltà. Dawn il-kliem mhumiex vojta. Iżda lanqas mhumiex eżegwibbli waħedhom. Sistema ma tistax issejjaħ prinċipju fir-runtime u tistaqsi jekk l-azzjoni li jmiss hijiex permessa. Żviluppatur jista' jikteb prompt li jgħid kun ġust, iżda l-fluss tax-xogħol xorta jrid ikun jaf meta jieqaf, meta jistaqsi, meta jirrekordja, u meta jirrifjuta.
It-truf huma fejn il-prinċipji jsiru utli. Prinċipju ta' ġustizzja jsir rekwiżit li ċerta kategorija ta' deċiżjonijiet trid tgħaddi minn evalwazzjoni fil-livell tal-grupp qabel ir-rilaxx u trid tipproduċi kodiċijiet ta' raġuni fil-livell tal-każ wara r-rilaxx. Prinċipju ta' trasparenza jsir irċevuta li ssemmi s-sorsi, il-verżjoni tal-mudell, il-verżjoni tal-politika, u r-rwol tal-bniedem. Prinċipju ta' privatezza jsir salvagwardja li tirrifjuta l-irkupru barra mill-iskop, iż-żamma, il-kunsens, jew il-bażi legali. Ir-responsabbiltà ssir stat li ma jistax javvanza mingħajr sid. Il-kontestabbiltà ssir rotta ta' appell li teżisti qabel l-ewwel ilment, mhux wara l-ewwel sejħa tal-gazzetta.
Mingħajr truf, l-AI responsabbli ssir sett ta' aġġettivi madwar sistema li xorta taġixxi kif jippermetti l-fluss tax-xogħol. Tim jista' jemmen onestament li għandu superviżjoni umana għax persuna tista' tħares lejn l-outputs. Imma jekk is-sistema tista' taġixxi qabel ma dik il-persuna rat l-evidenza, is-superviżjoni hija ornamentali. Tim jista' jemmen li għandu trasparenza għax il-mudell jispjega lilu nnifsu. Imma jekk l-ispjegazzjoni ma tistax torbot mas-sorsi u mal-istat, it-trasparenza telqet lejn it-teatru. Tim jista' jemmen li huwa sigur għax il-mudell jirrifjuta prompts perikolużi. Imma jekk il-gateway tal-għodod jagħti awtorità wiesgħa, ir-rifjut huwa biss bieb wieħed f'dar b'twieqi entużjasti ħafna.
Il-magna tal-istati mhijiex sostitut għall-ġudizzju. Hija mod kif il-ġudizzju jinżel f'post. Ġġiegħel lit-tim iwieġeb mistoqsijiet prattiċi. F'liema stat jinsab dan il-każ. Liema tranżizzjonijiet huma possibbli minn hawn. Liema evidenza hija meħtieġa. Liema rwol jista' japprova. Liema tranżizzjoni hija irriversibbli. Liema tranżizzjoni toħloq rekord. Liema tranżizzjoni toħloq dmir li tinnotifika, iżżomm, tħassar, jew teskala. Dawn il-mistoqsijiet huma inqas poetiċi mid-dikjarazzjonijiet tal-valuri. Huma wkoll aktar diffiċli biex jiġu evitati.
Il-magna moħbija dejjem teżisti
Kull fluss tax-xogħol tal-AI diġà għandu magna tal-istati, anki jekk ħadd ma fassalha. Il-verżjoni moħbija tgħix fl-istatus tat-tikketta, fil-kolonni tal-ispreadsheet, fil-kjuwijiet ta' retry, fil-fergħat tal-prompt, fid-drawwiet tar-reviżuri, fil-messaġġi ta' Slack, fil-flags tad-database, fit-tabelli tal-eċċezzjonijiet, u fil-memorja tal-persuna waħda li kulħadd jistaqsi għax kienet hemm meta seħħ il-pilot. Din mhijiex arkitettura distribwita sabiħa. Hija folklor istituzzjonali b'latenza.
Il-magna moħbija hija perikoluża għax tagħti d-dehra ta' kontroll filwaqt li tmexxi r-responsabbiltà lejn postijiet li ma jistgħux jiġu riveduti. Il-prompt jista' jgħid li l-każijiet sensittivi għandhom jiġu eskalati, imma l-kju jista' ma jippreservax ir-raġuni. Is-sistema tal-każijiet tista' turi approvat, imma mhux jekk l-approvazzjoni applikatx għat-tweġiba tal-mudell, għas-sejħa tal-għodda, jew għall-komunikazzjoni esterna. Reviżur jista' jirrifjuta output, imma r-rifjut jista' qatt ma jidħol fis-sett tal-evalwazzjoni. Każ jista' jingħalaq, imma data derivata xorta tista' tgħix f'feature store. Mudell jista' jiġi sostitwit, imma l-każijiet pendenti xorta jistgħu jġorru output mill-verżjoni l-antika. Is-sistema timxi; ir-rekord jitħabat warajha liebes ingravata.
Li l-magna tal-istati ssir espliċita ma jirrikjedix li l-organizzazzjoni tinbidel f'laboratorju ta' metodi formali. Jirrikjedi biżżejjed dixxiplina biex jinfirdu stati li għandhom dmirijiet differenti. Abbozz mhuwiex rivedut. Rivedut mhuwiex esegwit. Esegwit mhuwiex magħluq. Magħluq mhuwiex imħassar. Imħassar mhuwiex arkivjat. Imblukkat mill-politika mhuwiex fallut mill-infrastruttura. Jeħtieġ ġudizzju uman mhuwiex kunfidenza baxxa. Inċident suspettat mhuwiex inċident ikkonfermat. Dawn id-distinzjonijiet jinstemgħu ordinarji sakemm awditjar jistaqsi liema waħda seħħet, meta, u għaliex.
L-istati msemmija jwaqqfu wkoll falliment komuni tal-awtomazzjoni: iż-żlieq artab mill-assistenza għad-deċiżjoni. Sistema tibda bħala għajnuna għall-abbozzar. In-nies jafdawha. L-abbozz isir default. Id-default isir rakkomandazzjoni. Ir-rakkomandazzjoni ssir azzjoni. Ħadd ma vvota għall-awtomazzjoni sħiħa. Ħadd ma ddisinja l-wiċċ il-ġdid ta' responsabbiltà. It-tranżizzjoni seħħet permezz tal-konvenjenza, li hija l-aktar lobbyist ta' suċċess fis-softwer. Magna tal-istati tista' ġġiegħel dik il-mossa ssir viżibbli.
Il-gwards mhumiex vibes
Tranżizzjoni teħtieġ gward. Gward huwa l-kundizzjoni li trid tkun vera qabel ma s-sistema tkun tista' timxi. Fis-softwer ordinarju dan jista' jkun kontroll boolean, evalwazzjoni ta' politika, konfini ta' permess, riżultat ta' validazzjoni, jew approvazzjoni umana. Fl-AI responsabbli huwa wkoll il-post fejn il-wegħdiet istituzzjonali jsiru operazzjonali. Il-gward jistaqsi jekk l-iskop huwiex permess, jekk id-dejta hijiex fil-kamp ta' applikazzjoni, jekk l-output għandux biżżejjed evidenza, jekk il-mudell huwiex approvat għal dan l-użu, jekk l-azzjoni hijiex riversibbli, jekk il-persuna għandhiex awtorità, jekk l-ispiża hijiex limitata, u jekk l-utent affettwat għandux rotta lura.
Il-trick prattiku huwa li żżomm il-gwards qrib it-tranżizzjoni li jipproteġu. Jekk gward jgħix biss f'dokument ta' politika, ir-runtime se jinsieh b'veloċità impressjonanti. Jekk jgħix biss fi prompt, ikun diffiċli biex jiġi ttestjat u faċli biex jinqabeż. Jekk jgħix biss f'vizzju uman, se jfalli fi ġranet ta' mard, vaganzi, riorganizzazzjonijiet, u l-ġimgħa meta kulħadd ikun qed jipprova jniedi. Gward tajjeb huwa espliċitu biżżejjed biex jiġi ttestjat u lokali biżżejjed biex jimpurta.
Dan ma jfissirx li kull gward irid ikun awtomatizzat. Xi gwards huma umani għax il-mistoqsija hija tassew kuntestwali. Iżda anki l-gwards umani jeħtieġu stat. Ir-reviżur għandu jara l-evidenza, il-politika applikabbli, il-klassifikazzjoni tar-riskju, l-azzjoni proposta, u l-konsegwenzi tal-approvazzjoni. Is-sistema għandha tirrekordja d-deċiżjoni bħala tranżizzjoni, mhux bħala kumment li arkeoloġija futura tista' jew ma tistax tiskopri. Is-superviżjoni umana mingħajr bidla fl-istat spiss tkun biss laqgħa b'interfaċċa tal-utent.
Hemm ukoll punt boring iżda importanti dwar il-gwards negattivi. L-AI responsabbli mhijiex biss dwar li tgħid iva b'mod responsabbli. Hija dwar li tgħid le b'mod ċar. Le għax l-iskop nieqes. Le għax is-sors huwa skadut. Le għax il-mudell huwa barra mid-dominju approvat tiegħu. Le għax l-utent m'għandux awtorità. Le għax hija meħtieġa reviżjoni umana. Le għax l-azzjoni hija wisq konsegwenzjali għall-evidenza disponibbli. Rifjut b'raġuni huwa stat aħjar tas-sistema minn falliment vag li jistieden li terġa' tipprova sakemm xi ħaġa timxi.
L-istati jagħmlu r-responsabbiltà assenjabbli
Raġuni waħda għaliex ir-responsabbiltà tal-AI ssir imċajpra hija li r-responsabbiltà tiġi diskussa fil-livell tas-sistema kollha. L-organizzazzjoni hija responsabbli. Il-fornitur huwa responsabbli. Is-sid tal-prodott huwa responsabbli. L-uffiċjal tal-protezzjoni tad-data huwa responsabbli. Il-mudell huwa responsabbli, frażi li għandha ġġiegħel lil avukat iħares lejn is-saqaf biex jieħu saħħa. Fil-ħin tal-eżekuzzjoni, ir-responsabbiltà teħtieġ manku iżgħar.
L-istati joħolqu dak il-manku. Matul l-intake, is-sid tas-servizz jista' jkun responsabbli għall-għan u l-ambitu. Matul l-irkupru, is-sid tad-data jista' jkun responsabbli għall-kwalità tas-sors u l-permess. Matul il-ġenerazzjoni tal-mudell, is-sid tekniku jista' jkun responsabbli għall-verżjonijiet approvati u l-issettjar. Matul ir-reviżjoni, rwol uman jista' jkun responsabbli għall-ġudizzju. Matul l-azzjoni, is-sid tal-fluss tax-xogħol jista' jkun responsabbli għall-effetti esterni. Matul l-għeluq, il-ġestjoni tar-rekords tista' tkun responsabbli għaż-żamma u t-tħassir. Il-mappa eżatta tista' tvarja, iżda l-prinċipju jibqa': ir-responsabbiltà tintrabat aħjar mat-tranżizzjonijiet milli maċ-ċpar.
Dan jgħodd meta xi ħaġa tmur ħażin. Jekk output kien ħażin għaliex is-sors kien skadut, il-magna tal-istati għandha turi fejn il-freskezza ġiet iċċekkjata jew mitlufa. Jekk bniedem approva azzjoni riskjuża, ir-rekord għandu juri liema evidenza ra. Jekk politika nbidlet, il-każijiet pendenti għandhom juru liema verżjoni kienet tirregolahom. Jekk mudell ġie aġġornat, it-tranżizzjonijiet madwar il-konfini tar-rilaxx għandhom ikunu jistgħu jiġu spezzjonati. Il-punt mhuwiex li ssib lil min tista' tħati aktar malajr. Il-punt huwa li r-riparazzjoni ssir possibbli mingħajr ma wieħed jippretendi li s-sistema kollha falliet f'ġest wieħed indistingwibbli.
Ir-responsabbiltà assenjabbli ttejjeb ukoll ix-xogħol ta' kuljum. It-timijiet jafu liema stat jippossjedu. Il-metriċi jsiru inqas teatrali. Minflok ma tħabbar li l-programm tal-AI responsabbli huwa matur, l-organizzazzjoni tista' tkejjel il-blokki ta' sorsi skaduti, ir-rifjuti ta' għan nieqes, l-annullamenti ta' reviżjoni, ir-riżultati tal-appelli, it-tranżizzjonijiet tal-inċidenti, u d-dewmien fl-għeluq. Dan huwa inqas adattat għal slide tleqq. Huwa ħafna aktar adattat biex tmexxi sistema.
L-istati ħżiena jixirqilhom ismijiet xierqa
Il-biċċa l-kbira tal-fallimenti tal-AI responsabbli mhumiex ħżiena. Huma stati ordinarji b'ismijiet ħżiena jew mingħajr ismijiet. Tweġiba abbozz tiġi ttrattata bħala tweġiba finali. Eċċezzjoni temporanja ssir rotta. Output b'kunfidenza baxxa jsir azzjoni b'impatt għoli għaliex il-fluss tax-xogħol ma kellux stat intermedju. Mudell jara data li ma kellux jara għaliex l-istat tal-irkupru ma kienx iġorr l-għan. Reviżur uman isir timbru tal-gomma għaliex l-istat imsejjaħ reviżjoni ma kienx jeħtieġ evidenza jew qbid ta' nuqqas ta' qbil.
Li tagħti ismijiet xierqa lil stati ħżiena huwa skomdu u utli. Abbozz sieket. Tkabbir tal-ambitu. Sors skadut. Sid nieqes. Att mhux rivedut. L-ebda ħruġ. Dawn mhumiex kawżi fundamentali waħedhom, iżda huma postijiet fejn tista' tqiegħed kontrolli. Sistema tista' tiskopri abbozz sieket meta test iġġenerat jiġi kkupjat f'komunikazzjoni esterna mingħajr approvazzjoni. Tista' tiskopri tkabbir tal-ambitu meta fluss tax-xogħol jitlob sors barra mill-għan iddikjarat. Tista' tiskopri sors skadut meta ċitazzjoni tkun eqdem milli tippermetti l-politika. Tista' tiskopri l-ebda ħruġ meta każijiet imblukkati joqogħdu għal dejjem għaliex ħadd ma ddisinja r-rifjut uman.
Il-vizzju jipprevjeni wkoll reazzjoni morali żejda. Mhux kull falliment huwa kriżi etika. Kultant huwa stat ta' kju mingħajr sid. Kultant huwa stat ta' żamma li ħadd ma qabbad mat-tħassir. Kultant huwa limitu ta' kunfidenza li qed jippretendi li huwa ġudizzju. Li ssemmi l-istat jippermetti lit-tim isewwi l-mekkaniżmu. Mingħajr ismijiet, kull inċident isir dibattitu dwar il-kultura. Il-kultura importanti, iżda hija sostitut fqir għal li tkun taf liema tranżizzjoni nixxiet.
Hemm komedja niexfa fl-osservazzjoni ta' organizzazzjonijiet li jibżgħu mill-kelma magna tal-istati għaliex tinstema' teknika wisq, filwaqt li joperaw b'mod kuntent labirint ta' emails ta' approvazzjoni, status ta' spreadsheets, u eċċezzjonijiet magħrufa biss minn tliet persuni u stedina ta' kalendarju. Il-verżjoni formali ħafna drabi hija aktar sempliċi. Biss għandha l-inkortesija li tkun viżibbli.
L-evidenza għandha tkun fuq it-transizzjoni
Jekk il-magna tal-istati se jkollha sinjifikat, teħtieġ evidenza. Ir-reġistru m'għandux jgħid biss li każ ġie approvat. Għandu jgħid x'qanqal it-transizzjoni, liema salvagwardja ġiet evalwata, liema dejta ntużat, liema verżjonijiet tal-mudell u tal-politika ġew applikati, min jew xiex approva, liema effett seħħ, u kif il-każ jista' jintlagħab mill-ġdid jew jiġi kkontestat. L-evidenza mhix dekorazzjoni wara l-azzjoni. Hija parti mill-azzjoni li ssir responsabbli.
Dan huwa importanti b'mod speċjali għall-AI għaliex ir-riżultati jistgħu jkunu plawsibbli waqt li l-mogħdija tagħhom tkun fraġli. Sommarju jista' jkun korrett iżda bbażat fuq sors li l-utent ma kellux permess jaċċessa. Rakkomandazzjoni tista' tkun raġonevoli iżda barra mill-użu approvat tal-mudell. Klassifikazzjoni tista' tkun preċiża iżda prodotta wara skadenza ta' politika. Rifjut jista' jkun sigur iżda legalment mhux utli jekk ma jagħti l-ebda triq għat-tiswija. It-tweġiba waħedha ma tistax tgħidlek dawn l-affarijiet. Ir-reġistru tat-transizzjoni jista'.
Evidenza tajba tagħti wkoll lill-ekwipaġġi l-kuraġġ biex jawtomatizzaw fejn l-awtomazzjoni hija xierqa. L-AI responsabbli mhijiex apoloġija permanenti talli tuża magni. Jekk kompitu jkun ta' impatt baxx, imdawwar sew, riversibbli, ittestjat b'mod adegwat, u rreġistrat kif suppost, l-awtomazzjoni tista' tkun it-triq responsabbli. Jekk kompitu jkun ta' impatt għoli, ikkontestat, ġdid, jew irriversibbli, il-magna tal-istati għandha tnaqqsu. Il-punt mhuwiex li tadura r-reviżjoni umana. Il-punt huwa li tidderieġi x-xogħol skont ir-riskju, l-evidenza, u r-rimedju.
L-evidenza tagħmel dik id-direzzjoni inqas politika. Tim jista' juri li stat huwa sigur għall-awtomazzjoni għaliex transizzjonijiet preċedenti kienu preċiżi, l-appelli kienu rari, il-korrezzjonijiet ġew inkorporati, u l-kontrolli qabdu l-każijiet it-tajba. Jew jista' juri li stat jeħtieġ aktar ġudizzju uman għaliex il-mudelli ta' żbalji jibqgħu diffiċli, il-persuni affettwati jikkontestaw ir-riżultati, jew il-kwalità tad-dejta hija dgħajfa. Dan huwa argument aħjar mit-teatru tas-soltu fejn naħa waħda tgħid innovazzjoni u l-oħra tgħid riskju sakemm kulħadd ikun bżonn kafè.
Ir-reviżjoni umana hija stat, mhux ġest
Ir-reviżjoni umana ta' spiss tissemma bħallikieku l-eżistenza tagħha stess issolvi r-responsabbiltà. Hemm bniedem fiċ-ċirkuwitu. Tajjeb. Liema ċirkuwitu. F'liema stat. B'liema evidenza. B'liema awtorità. Jista' l-bniedem ma jaqbilx. Id-diżakkwist ibiddel is-sistema. Ir-reviżjoni hija kampjunarja, obbligatorja, attivata mir-riskju, jew kosmetika. Min qed jirrevedi jara l-materjal tas-sors jew biss il-proża pulita tal-mudell. Hemm ħin biex wieħed jaħseb. Hemm taħriġ. Hemm rekord. Il-frażi bniedem fiċ-ċirkuwitu għandha titqies bħala mistoqsija ta' ftuħ, mhux bħala argument li jagħlaq id-diskussjoni.
Magna tal-istati tagħmel ir-reviżjoni umana konkreta. Tista' tiddistingwi bejn reviżjoni meħtieġa u reviżjoni fakultattiva, bejn reviżjoni pendenti u reviżjoni lesta, bejn output mibdul mill-bniedem u output ikkonfermat mill-bniedem, bejn eskala meħtieġa u eskala magħmula. Tista' wkoll tiddistingwi t-tip ta' ġudizzju involut. Xi reviżjonijiet jiċċekkjaw l-użu fattwali tas-sors. Xi wħud jiċċekkjaw l-adegwatezza mal-politika. Xi wħud jiċċekkjaw l-empatija u t-ton. Xi wħud jiċċekkjaw l-awtorità legali. Xi wħud jiċċekkjaw jekk eċċezzjoni tkunx ġustifikata. Kaxxa waħda msejħa approvat rari tkun rikka biżżejjed għal xogħol serju.
Id-disinn tar-reviżjoni bħala stat jipproteġi wkoll lill-bnedmin milli jintużaw bħala mili morali. Jekk is-sistema tibgħat kull każ skomdu lil persuna mingħajr evidenza, prijoritizzazzjoni, jew feedback, il-persuna ssir miżbla għall-inċertezza. Dik mhix sorveljanza. Dik hija mudell ta' persunal b'ħtija mwaħħla miegħu. Stat ta' reviżjoni responsabbli jippakkja l-każ, isemmi d-deċiżjoni meħtieġa, jippreserva d-diżakkwist, u jdaħħal ir-riżultati lura fl-evalwazzjoni. Jagħti lill-bniedem xogħol li jixraqlu bniedem.
Il-maqlub huwa veru wkoll. Xi sistemi jużaw ir-reviżjoni umana fejn gwardja aħjar tkun iktar ġentili. Jekk każ ma jkollux bażi legali, tibgħatux lil min jirrevedi biex jiskopri dan manwalment. Ibblokkjah. Jekk is-sors ikun skadut, aġġornah jew irrifjuta. Jekk l-utent ma jkollux awtorità, għidlu hekk. Il-bnedmin għandhom jimmaniġġjaw il-ġudizzju, mhux jikkumpensaw għal plumbing nieqes. Qattajna għexieren ta' snin nivvintaw magni. Ikun mhux edukat li nġiegħlu lin-nies iġibu ruħhom bħal skripts ta' validazzjoni.
L-irriversibbiltà tbiddel il-magna
Mhux it-tranżizzjonijiet kollha huma ndaqs. Xi wħud huma riversibbli. Abbozz jista' jiġi editjat. Rotta tista' tinbidel. Rakkomandazzjoni tista' tiġi irtirata. Tranżizzjonijiet oħra huma iktar diffiċli biex jitreġġgħu lura: messaġġ jintbagħat, benefiċċju jiġi miċħud, bandiera ta' riskju tbiddel kju, rekord jiġi aġġornat, persuna tiġi rrappurtata, ħlas isir, klijent jingħalaq barra. L-AI responsabbli għandha tkun taf liema tranżizzjonijiet jaqsmu fid-dinja.
L-irreversibbiltà għandha tbiddel il-gwardja. Is-sistema għandha titlob aktar evidenza, awtorità aktar b'saħħitha, ġudizzju uman aktar ċar, avviż aħjar, u rotta ta' appell aktar viżibbli qabel effetti irreversibbli. Għandha tippreferi wkoll tranżizzjonijiet gradwali fejn possibbli. Abbozza qabel tibgħat. Irrakkomanda qabel tiddeċiedi. Żomm qabel tirrifjuta. Avża qabel tinforza. Irrevedi qabel tirrapporta. Din mhix dewmien għal fini tiegħu nnifsu. Hija d-differenza bejn sistema li tista' tikkoreġi lilha nnifisha u sistema li toħloq xogħol ta' tindif b'wiċċ kunfidenti.
Il-magna tal-istati tgħin ukoll b'reversibbiltà parzjali. Xi ħsara tista' tissewwa teknikament imma mhux soċjalment. Sommarju intern żbaljat jista' jissewwa. Akkuża esterna żbaljata tista' tibqa' tħalli effett anki wara l-korrezzjoni. Benefiċċju mdewwem jista' jitħallas aktar tard, imma l-kera kienet dovuta qabel. Rekord imħassar xi kultant jista' jiġi rrestawrat, imma l-fiduċja forsi le. Il-magna għandha tittratta dawn it-tranżizzjonijiet bis-serjetà tal-effett uman tagħhom, mhux biss bir-rollback tad-database.
Hawnhekk l-AI responsabbli taħrab mill-fantasija li l-etika hija separata mill-operazzjonijiet. Id-dettall operazzjonali huwa l-wiċċ etiku. Id-disinn tal-kju jaffettwa l-ġustizzja. Il-politika tar-ritentativi taffettwa d-duplikazzjoni. L-imġiba tal-timeout taffettwa l-aċċess. Iż-żamma taffettwa l-privatezza. Il-piż tar-reviżjoni jaffettwa d-dinjità. It-tranżizzjonijiet tal-istati mhumiex plumbing newtrali. Huma kif is-sistema tiltaqa' man-nies.
L-evalwazzjoni bħala evidenza ta' tranżizzjoni
L-evalwazzjoni spiss toqgħod barra mill-fluss tax-xogħol, bħallikieku kienet eżami tal-iskola li jsir qabel ma s-sistema tiggradwa. F'magna ta' stati responsabbli, l-evalwazzjoni ssir evidenza kontinwa ta' tranżizzjoni. Kull tranżizzjoni tista' tipproduċi sinjali: kemm-il darba l-gwardja bblokkjat, kemm-il darba l-bnedmin għelbuha, kemm-il darba l-appelli rnexxew, kemm-il darba s-sorsi kienu skaduti, kemm-il darba l-ġudizzju tal-mudell ma qabilx mal-ġudizzju uman, kemm-il darba rotta suppost ta' impatt baxx ħolqot ilmenti.
Dawk is-sinjali għandhom jitimgħu l-magna. Tranżizzjoni li tipproduċi appelli ripetuti tista' teħtieġ gwardja aktar b'saħħitha jew avviż aktar ċar. Stat ta' reviżjoni umana b'qbil għoli u impatt baxx jista' jkun eliġibbli għal aktar awtomazzjoni, sakemm ir-rimedju jibqa' reali. Stat ta' rifjut li jaqbad lill-utenti jista' jkollu bżonn rotta ta' tiswija. Gwardja ta' politika li timblokka wisq każijiet leġittimi tista' tiżvela politika ħażina, mhux mudell ħażin. Il-magna mhijiex responsabbli għax hija statika. Hija responsabbli għax tista' titgħallem mingħajr ma taħbi l-passat.
Dan it-tagħlim jeħtieġ verżjonar. L-istati, il-gwardji, il-limiti, il-prompts, il-mudelli, il-politiki, is-sorsi tad-dejta, u l-istruzzjonijiet ta' reviżjoni jinbidlu. Ir-rekord irid jgħid liema verżjoni ġiet applikata għal liema tranżizzjoni. Inkella, l-organizzazzjoni tista' tevalwa biss soppa ta' għażliet tal-passat. Is-soppa għandha użi kulinari. Mhijiex metodu ta' governanza, irrispettivament minn kemm-il dashboard jżommu f'wiċċ l-ilma fuqha.
L-evidenza ta' tranżizzjoni verżjonata żżomm ukoll it-titjib onest. Tim jista' jgħid li gwardja ġdida naqqset l-azzjonijiet mhux riveduti imma żiedet id-dewmien. Jista' jgħid li sors ġdid tejjeb l-eżattezza imma żied il-frizzjoni tal-privatezza. Jista' jgħid li aġġornament tal-mudell tejjeb is-sommarji imma dgħajjef id-dixxiplina tar-rifjut. Il-kompromessi mhumiex fallimenti. Il-kompromessi moħbija huma fallimenti li qed jistennew stedina fil-kalendarju.
Il-lezzjoni
Il-magna tal-istati wara l-AI responsabbli mhijiex sejħa għal sistemi aktar kesħin. Hija sejħa għal sistemi li jafu x'qed jagħmlu waqt li jagħmluh. Stat imsemmi mhuwiex kisba morali. Gwardja mhijiex ġustizzja. Irċevuta mhijiex fiduċja. Imma mingħajr dawn l-affarijiet, l-AI responsabbli tibqa' fil-livell tal-intenzjoni, u l-intenzjoni għandha rekord fqir ta' uptime.
L-AI responsabbli teħtieġ skop, awtorità, evidenza, limiti, ġudizzju uman, appell, tiswija, żamma, u tagħlim. Dawk il-kliem isiru operazzjonali permezz ta' stati u tranżizzjonijiet. Huma jiddeċiedu meta każ jimxi 'l quddiem, meta jieqaf, min għandu s-sjieda tiegħu, liema rekord jinħoloq, liema rimedju jeżisti, u x'għandu jiftakar is-sistema d-darba li jmiss. Dan mhuwiex l-etika kollha. Huwa l-parti li tista' twaqqaf azzjoni ħażina qabel ma ssir dispjaċir dokumentat sew ħafna.
Il-formola fil-bidu għad għandha valur. Hija tistaqsi l-mistoqsijiet tal-ftuħ it-tajba. Iżda l-formola trid twassal għal magna li taħdem: stati msemmijin, gwardji espliċiti, evidenza dejjiema, reviżjoni reali, u ħruġ għall-persuni affettwati mis-sistema. L-AI responsabbli ma tintweriex bl-eżistenza ta' politika. Hija tintwera, jew ma tintweriex, fit-tranżizzjoni fejn is-sistema tiddeċiedi x'jiġri wara.