L-AI pubblika jeħtieġ provi
Il-bankina mingħajr irċevuta
Uffiċċju pubbliku mingħajr irċevuti jidher assurd. Immaġina li ġġedded permess, tikkonsenja dokumenti, tħallas ħlas, u tirċievi biss tbissima ta' ħbiberija mill-impjegat. L-ebda numru ta' referenza. L-ebda data. L-ebda indikazzjoni ta' x'ġie aċċettat. L-ebda triq biex tikkontesta. L-impjegat jitbissem u jgħid li s-sistema tkun taf. Anki fl-aktar muniċipalità paċenzjuża, xi ħadd fil-kju jibda jagħmel dik l-espressjoni li tfisser li d-demokrazija waslet biex issir burokrazija.
L-irċevuti huma affarijiet żgħar, iżda jġorru piż istituzzjonali. Jgħidu lin-nies li seħħet azzjoni, li talba daħlet fi proċess, li l-flus biddlu l-idejn, li ġiet applikata regola, li bdiet skadenza, li deċiżjoni tista' tinstab mill-ġdid. Mhumiex glamorużi. Huma aħjar mill-glamour. Huma evidenza umli li l-istat ma sempliċement assorbix il-każ tiegħek f'magna beige u talbek iżżomm il-fidi.
L-AI pubblika issa għandha bżonn l-istess drawwa. Meta algoritmu jissintetizza fajl, jissuġġerixxi eliġibilità, jikklassifika spezzjonijiet, jabbozza risposta, jimmarka riskju, jidderieġi ċittadin, jew jappoġġa deċiżjoni, l-istituzzjoni pubblika għandha tkun kapaċi tipproduċi rċevuta. Mhux spjegazzjoni teatrali ġġenerata wara l-fatt. Mhux screenshot ta' dashboard. Mhux wegħda li l-fornitur probabbilment jista' jirrikostruwixxi xi ħaġa jekk l-appoġġ jintlaqat matul il-ħinijiet tal-uffiċċju. Rċevuta: evidenza kompatta, strutturata, tinftiehem ta' x'ġara u għaliex kien permess li jiġri.
Dan mhux għaliex kull azzjoni tal-AI hija sinister. Ħafna mill-ħin il-problema hija inqas drammatika u aktar ordinarja. Is-sistemi huma kumplessi. Is-sorsi jinbidlu. Il-politiki jiġu aġġornati. Il-mudelli jiġu sostitwiti. In-nies jiċċaqilqu bejn dipartimenti. Ċittadin jikkontesta riżultat sitt xhur wara. Awditur jistaqsi liema verżjoni tar-regola ntużat. Ministru jrid assigurazzjoni qabel seduta. Mingħajr irċevuti, l-organizzazzjoni jkollha tirrikostruwixxi l-passat minn memorji, logs, esportazzjonijiet, u l-ottimiżmu ta' xi ħadd li jinsisti li d-dijagramma tal-arkitettura hija kważi aġġornata.
Il-fiduċja mhijiex burdata
L-istituzzjonijiet pubbliċi spiss jitkellmu dwar il-fiduċja bħallikieku kienet atmosfera sħuna madwar is-servizzi. Kun trasparenti, kun uman, kun innovattiv, u l-fiduċja tiġi dieħla b'borża tal-ħwejjeġ. Dan huwa artab wisq għall-AI. Il-fiduċja pubblika mhijiex burdata. Hija kundizzjoni istituzzjonali prodotta minn drittijiet, proċeduri, rekords, reviżjoni, limiti, u l-abbiltà li tgħid x'ġara meta r-riżultat jiġi kkontestat.
L-AI tagħmel dan aktar diffiċli għax tista' tagħmel ix-xogħol amministrattiv jidher aktar faċli filwaqt li tagħmel il-proċess tar-raġunament tagħha aktar diffiċli biex jiġi eżaminat. Uffiċjal jista' jirċievi sommarju li huwa preċiż biżżejjed biex ikun utli. Ippjanatur jista' jirċievi punteġġ ta' riskju li jiffranka l-ħin. Ċittadin jista' jirċievi tweġiba minn chatbot li tnaqqas telefonata. Dawn jistgħu jkunu benefiċċji reali. Iżda meta t-tweġiba tinfluwenza t-trattament, il-prijorità, l-eliġibbiltà, l-infurzar, jew l-aċċess għal servizz, l-istituzzjoni teħtieġ aktar minn sempliċi utilità. Teħtieġ responsabbiltà ta' livell pubbliku.
Responsabbiltà ta' livell pubbliku tfisser li l-istituzzjoni tista' tgħaqqad output ma' mandat. Tista' turi liema dejta ntużat u liema dejta ma kellhiex tintuża. Tista' turi jekk il-mudell aġixxiex bħala għodda ta' abbozzar, magna ta' rakkomandazzjonijiet, għodda ta' trijaġġ, jew komponent ta' deċiżjoni awtomatizzata. Tista' turi l-verżjoni tar-regoli u l-approvazzjoni umana fejn meħtieġ. Tista' tispjega kif il-persuna affettwata tista' tikkontesta r-riżultat. Dawn mhumiex dekorazzjonijiet madwar l-AI. Huma l-pedament li fuqu toqgħod.
Hemm it-tentazzjoni li wieħed jindirizza t-tħassib dwar il-fiduċja b'assigurazzjonijiet wesgħin. Is-sistema hija ttestjata. Il-mudell huwa sigur. Il-fornitur huwa ċċertifikat. Il-proċess għandu governanza. Dawn id-dikjarazzjonijiet jistgħu jkunu veri u xorta insuffiċjenti. Ix-xogħol pubbliku jseħħ każ b'każ. Ċittadin ma jgħixx ġewwa benchmark aggregat. Jgħix ġewwa d-deċiżjoni tiegħu, il-fajl tiegħu, l-iskadenza tiegħu, il-benefiċċju li tilef, l-ispezzjoni tiegħu, l-appuntament tiegħu, il-mistoqsija tiegħu li ma weġbitx. Ir-riċevuti jġibu r-responsabbiltà sal-livell fejn tinħass il-poter pubbliku.
Riċevuta mhijiex biss reġistru
L-ewwel żball huwa li tħawwad ir-riċevuti mar-reġistri. Ir-reġistri huma siewja, iżda huma miktuba għall-magni, għall-operaturi, għat-timijiet tas-sigurtà, jew għal konfużjoni futura. Jistgħu jkunu twal wisq, sensittivi wisq, tekniċi wisq, imxerrda wisq, jew jiddependu wisq fuq fornitur. Riċevuta hija artefatt iffurmat. Hija mfassla biex twieġeb mistoqsijiet ta' responsabbiltà pubblika mingħajr ma tesponi kull sigriet, tgħabbi lil kull qarrej, jew teħtieġ kors ta' tmiem il-ġimgħa dwar it-traċċar distribwit.
Riċevuta utli għandha saffi. Is-saff pubbliku jista' jkun fih il-kuntest tas-servizz, id-data, ir-referenza tad-deċiżjoni, il-kategoriji tad-dejta ta' livell għoli, il-bażi tar-regoli, u r-rotta tal-appell. Is-saff intern jista' jkun fih identifikaturi tas-sors, verżjoni tal-mudell, mudell ta' prompt, parametri ta' rkupru, kontrolli ta' politika, kontrolli ta' aċċess, u l-identità tar-reviżur. Is-saff tal-awditjar jista' jkun fih hashes, timestamps, firem, regoli ta' żamma, u links għal evidenza immutabbli. Is-saffi jipproteġu l-privatezza filwaqt li jippreservaw l-ispezzjonabbiltà. Mhux kulħadd jeħtieġ jara l-istess dettall. Iżda xi ħadd irid ikun jista' jara biżżejjed.
Din id-distinzjoni hija importanti għax ir-riċevuti pubbliċi tal-AI iridu jevitaw li jsiru sorveljanza taħt isem ieħor. It-tweġiba għall-opaċità mhijiex li tirrekordja kollox għal dejjem. Hekk problema ta' governanza ssir problema ta' privatezza b'fowlders aħjar. Ir-riċevuti għandhom ikunu minimi, marbuta ma' skop, miżmuma għal perjodi ċari, separati minn kontenut mhux meħtieġ, u aċċessibbli permezz ta' rwoli definiti. It-test huwa sempliċi: tista' l-istituzzjoni tispjega r-riżultat u tappoġġja l-korrezzjoni mingħajr ma tibni djarju permanenti ta' kull interazzjoni taċ-ċittadin?
Ir-reġistri huma l-materja prima. Ir-riċevuti huma l-prodott responsabbli. F'sistema matura, huma konnessi. Riċevuta tista' tindika lejn reġistri aktar profondi meta investigazzjoni awtorizzata teħtieġ dan. Reġistru jista' jipprova li riċevuta ma nstabitx wara li bdiet l-argumentazzjoni. Iżda r-riċevuta hija l-ħaġa li s-servizz pubbliku jista' jagħti lill-proċessi tiegħu stess, u kultant lill-persuna affettwata, mingħajr ma jitlob lil kulħadd jammira oġġett JSON fl-ambjent naturali tiegħu.
Iċ-ċittadin jara l-konfini
Id-dijagrammi tal-arkitettura għandhom it-tendenza li jitfasslu minn ġewwa. Kaxxi, vleġeġ, servizzi, kjuwijiet, mudelli, databases, magni tal-politika, portali tal-istaff. Iċ-ċittadin ma jesperjenza xejn minn dan kollu. Iċ-ċittadin jesperjenza fruntiera. L-applikazzjoni tiġi aċċettata jew miċħuda. Il-bandiera tar-riskju tidher jew ma tidhirx. Il-ħatra tkun disponibbli jew le. Id-dokument ikun suffiċjenti jew le. It-tweġiba tgħid iva, le, stenna, ittella’, ċempel, appella, itlaq.
Dik il-fruntiera hi fejn l-irċevuti jgħoddu l-aktar. Jekk ċittadin jingħad li talba ma tistax tiġi pproċessata b’mod awtomatiku, l-irċevuta għandha tgħid liema kundizzjoni falliet u kif tirranġaha. Jekk sommarju tal-AI influwenza deċiżjoni, ir-rekord għandu juri li bniedem irrevedieh u liema materjal sors kien disponibbli. Jekk chatbot jagħti parir proċedurali, l-irċevuta għandha tidentifika l-verżjoni tas-sors pubbliku u tiċċara jekk il-parir kienx vinkolanti. Jekk mudell tar-riskju jagħti prijorità lil spezzjoni, l-irċevuta għandha turi l-bażi legali, il-kategoriji tad-dejta u r-rotta ta’ reviżjoni mingħajr ma tesponi metodi li jdgħajfu l-ispezzjoni nnifisha.
Dan mhux dwar li kull interazzjoni pubblika tinbidel f’dissertazzjoni legali. In-nies m’għandhomx bżonn avukat biex jifhmu permess tal-parkeġġ. Imma l-poter pubbliku għandu jagħti lin-nies manku li jista’ jinftiehem. Irċevuta tista’ tkun qasira u xorta waħda sinifikanti: it-talba tiegħek ġiet evalwata taħt din il-verżjoni tar-regola, billi ntużaw dawn ir-rekords, b’dan l-appoġġ awtomatiku, riveduta minn din il-funzjoni, u tista’ tiġi kkontestata permezz ta’ din ir-rotta. Dik mhix poeżija, u dan huwa xorti tajba. Il-poeżija għandha rekord fqir fil-portali tas-servizzi.
Il-fruntiera tgħodd ukoll għall-uffiċjali. Il-każ workers, l-ispezzjonijiet, l-għalliema, il-planners, il-kliniċi, u l-istaff tal-front desk m’għandhomx jitħallew iżommu outputs tal-AI li l-oriġini tagħhom ma jistgħux jispjegaw. L-irċevuta tipproteġihom milli jsiru qxur umani madwar makkinarju misterjuż. Tagħtihom mod kif jgħidu x’għamel is-sistema, fejn daħlet il-ġudizzju tagħhom, u meta każ irid joħroġ mill-awtomazzjoni. Dik mhix burokrazija għall-finijiet tagħha stess. Hija dinjità professjonali b’numru ta’ referenza.
Proċess dovut fi żmien tal-magni
L-amministrazzjoni pubblika diġà għandha tradizzjonijiet ta’ proċess dovut: avviż, raġunijiet, aċċess għar-rekords, smigħ, appell, proporzjonalità, trattament ugwali, regoli ta’ żamma, u awtorità msemmija. L-AI ma tissostitwixxix dawn it-tradizzjonijiet. Tikkompressa l-ħin li fih iridu joperaw. Mudell jista’ jipproċessa elf fajl qabel l-ikla. Regola ta’ routing tista’ taffettwa lokalitajiet sħaħ qabel ma xi ħadd jinnota. Żball f’sommarju jista’ jivvjaġġa permezz ta’ workflow aktar malajr minn korrezzjoni. Iż-żmien tal-magni jagħmel id-drittijiet qodma aktar urġenti, mhux inqas.
Irċevuti huma mod kif il-proċess dovut jibqa’ jgħix minkejja l-veloċità. Huma joħolqu waqfiet fir-reġistru anki meta l-fluss tax-xogħol ikun mgħaġġel. Fil-mument li sistema tal-IA tmiss każ, l-irċevuta tista’ tirrekordja l-iskop, l-awtorità, il-firxa tas-sorsi, l-istat tal-mudell, il-kontrolli tal-politika u l-istatus tar-reviżjoni. Fil-mument li bniedem jiddependi fuq l-output, l-irċevuta tista’ tirrekordja r-rwol u l-azzjoni. Fil-mument li ċittadin jirċievi riżultat, l-irċevuta tista’ tipprovdi referenza u rotta. Dan jagħti lill-proċess memorja.
Il-memorja hija importanti għax l-iżbalji pubbliċi spiss jinstabu tard. Persuna tista’ ma tkunx taf li qasam ta’ dejta nieqes kien importanti sakemm benefiċċju jiġi miċħud. Spettur jista’ ma jkunx jaf li sors kien skadut sakemm żjara fuq il-post tidher strambament immirata. Għalliem jista’ ma jkunx jaf li bandiera ta’ riskju ġiet minn fluss ta’ attendenza difettuż sakemm ġenitur jagħmel mistoqsija diretta. Mingħajr irċevuti, skoperta tardiva ssir konġettura tardiva. Bl-irċevuti, skoperta tardiva tista’ ssir korrezzjoni.
Dan ma jfissirx li kull pass assistit mill-IA jsir appellabbli waħdu. Il-proċess pubbliku jrid jibqa’ prattikabbli. Iżda l-katina trid tippreserva biżżejjed evidenza għal sfida sinifikanti fil-punt it-tajjeb. Jekk sistema tagħti suġġeriment li bniedem jinjora, l-irċevuta għandha tirrifletti dan. Jekk sistema tagħti rakkomandazzjoni li bniedem jaċċetta, l-irċevuta għandha tirrifletti dan ukoll. Id-differenza tgħodd. Il-pubbliku ma jistax jisfida fatat, u l-uffiċjali ma jistgħux jiddefendu wieħed.
Irċevuti mingħajr sorveljanza
L-aktar oġġezzjoni qawwija kontra l-irċevuti hija li jistgħu joħolqu riskji ġodda ta’ dejta. Dik l-oġġezzjoni hija serja. L-istituzzjonijiet pubbliċi m’għandhomx isolvu l-opaċità tal-IA billi jiġbru fajl ta’ dell ieħor għal kull ċittadin. Sistema ta’ irċevuti li taħżen għal dejjem prompts mhux meħtieġa, konversazzjonijiet sħaħ, siltiet sensittivi minn sorsi, noti interni, outputs ta’ għodod u traċċi ta’ mġiba mhijiex responsabbiltà. Hija problema organizzata ħafna.
Irċevuti li jippreservaw il-privatezza jeħtieġu dixxiplina fid-disinn. Aħżen identifikaturi minflok kontenut sħiħ fejn possibbli. Uża hashes għall-integrità. Ifred irċevuti li jiffaċċjaw iċ-ċittadini mir-rekords interni ta’ verifika. Żomm l-evidenza skont il-valur legali tal-proċess, mhux skont l-aptit tas-sistemi ta’ ħażna. Irredatta jew aggrega interazzjonijiet ta’ riskju baxx. Ipproteġi l-identitajiet tar-reviżuri fejn is-sigurtà personali jew l-indipendenza tirrikjediha, filwaqt li xorta tippreserva r-responsabbiltà tar-rwol. Żomm reġistri ta’ aċċess għall-ħażna tal-irċevuti stess, għax l-evidenza dwar l-evidenza għandha drawwa sfortunata li ssir importanti.
Id-disinn għandu jevita wkoll li joħloq preċiżjoni falza. Irċevuta m’għandhiex titlob li l-mudell raġuna bħal persuna jekk ma għamilx hekk. M’għandhiex tittraduċi output probabbilistiku f’ġudizzju morali. M’għandhiex tippretendi li punteġġ għoli huwa fatt. Għandha tgħid x’għamlet is-sistema: ġabret dawn is-sorsi, applikat din ir-regola, iġġenerat dan l-output, immarkat dan il-firxa ta’ kunfidenza, għaddiet lil dan ir-rwol, irċeviet din l-azzjoni umana. Lingwa xotta hija servizz ċiviku. Is-settur pubbliku diġà għandu biżżejjed ċpar dekorattiv.
Hawnhekk hemm umiltà utli. L-irċevuti ma jagħmlux l-IA perfettament ġusta, preċiża jew legali. Huma jagħmlu s-sistema aktar ispettabbli. Huma jbaxxu l-ispiża biex jinstabu l-iżbalji. Huma joħolqu post għall-korrezzjoni. Huma jagħmluha aktar diffiċli għall-istituzzjonijiet biex jaħbu wara l-frażi s-sistema qalet hekk. Fix-xogħol pubbliku, dan mhux ħaġa żgħira. Hija d-differenza bejn l-awtomazzjoni bħala amministrazzjoni u l-awtomazzjoni bħala kexxun isserrat.
Nixtru l-interface tal-irċevuti
Jekk ir-reċevuti jgħoddu, iridu jinkisbu u jinbnew, mhux jiġu mixtieqa li jeżistu wara t-tnedija. Ix-xerrejja pubbliċi għandhom jistaqsu lill-fornituri kif is-sistema tipproduċi evidenza fil-livell tal-każ. Jistgħu l-verżjonijiet tal-mudell jiġu ffissati. Il-mudelli tal-prompt huma verżjonati. Jiġu rritornati identifikaturi tas-sors. Jistgħu d-deċiżjonijiet tal-irkupru jiġu esportati. Jiġu rreġistrati l-kontrolli tal-politika. Jistgħu l-logs jiġu separati skont l-iskop. Is-sinjali tal-awditjar huma ffirmati jew protetti mit-tbagħbis. Jistgħu s-sommarji għaċ-ċittadini jiġu ġġenerati mill-istess evidenza mingħajr ma jiġu esposti dettalji interni sensittivi. Tista' l-istituzzjoni titlaq bir-reċevuti tagħha intatti.
Dawn il-mistoqsijiet jistgħu jidhru eżiġenti, iżda huma inqas eżiġenti milli terġa' tibni proċess awtomatizzat ikkontestat wara li gazzetta, qorti, kunsill, parlament, jew ombudsman isiru interessati. L-adattament tar-reċevuti huwa diffiċli għax l-evidenza nieqsa spiss qatt ma nqabdet. Ma tistax twaħħal reċevuta ma' tranżazzjoni inviżibbli tal-bieraħ. Tista' biss tagħmel żifna interpretattiva madwar it-telemetrija. Dan mhux irrakkomandat bħala metodu ta' governanza.
L-interfaċċi tar-reċevuti jgħinu wkoll lit-timijiet interni. Jagħmlu l-evalwazzjoni aktar faċli għax ir-riżultati jistgħu jitqabblu mas-sors u mal-istat tar-regoli. Jagħmlu r-rispons għall-inċidenti aktar mgħaġġel għax il-każijiet affettwati jistgħu jiġu traċċati. Jagħmlu l-bidliet fil-politika aktar miżurabbli għax it-timijiet jistgħu jaraw liema regoli joħolqu frizzjoni. Jagħmlu t-taħriġ aktar sigur għax l-eżempji jistgħu jintgħażlu bil-provenjenza. Jagħmlu t-tħassir u l-korrezzjoni inqas teatrali għax l-artefatti derivati jistgħu jinstabu.
L-istituzzjonijiet pubbliċi m'għandhomx bżonn li kull fornitur jesponi kull sigriet intern. Xi komponenti se jibqgħu kaxxi suwed f'saff wieħed. Iżda s-servizz kollu kemm hu jrid jipproduċi reċevuti użabbli fil-konfini pubbliku. Jekk fornitur ma jistax jappoġġa dan, l-istituzzjoni għandha tifhem x'inhi tixtri: mhux biss kapaċità, iżda lakuna fil-kapaċità tagħha stess li tagħti kont tal-poter.
Meta r-reċevuti jiżvelaw politika ħażina
Ir-reċevuti xi kultant jiżvelaw li s-sistema tal-AI mhijiex il-problema prinċipali. Dan huwa utli u skomdu. Reċevuta tista' turi li l-mudell segwa regola b'mod korrett, iżda r-regola kienet skaduta. Tista' turi li bniedem għeleb is-sistema spiss għax il-politika kienet riġida wisq. Tista' turi li dejta nieqsa minn dipartiment ieħor ikkawżat ċaħdiet ripetuti. Tista' turi li bandiera ta' riskju kienet teknikament preċiża u soċjalment assurda. Evidenza tajba għandha d-drawwa mhux edukata li twessa' l-konversazzjoni.
Din hija waħda mir-raġunijiet għaliex l-istituzzjonijiet jistgħu jirreżistu r-riċevuti mingħajr ma jgħidu dan direttament. Ir-riċevuti joħolqu responsabbiltà mhux biss għat-timijiet tat-teknoloġija iżda wkoll għal min jippossjedi l-politiki, min jippossjedi d-dejta, il-maniġers, il-fornituri, u l-mexxejja eletti. Huma jagħmluha aktar diffiċli li wieħed jwaħħal fl-algoritmu għal deċiżjoni li fil-fatt kienet iddisinjata minn politika, baġit, persunal, jew spreadsheet b'numru erojku ta' kolonni moħbija. Dik l-iskumdità hija karatteristika. L-AI pubblika m'għandhiex tipprovdi post ġdid fejn jaħbu għażliet qodma.
Ir-riċevuti jappoġġaw ukoll it-tagħlim. Jekk ħafna każijiet ifallu fuq l-istess rekwiżit ta' evidenza, il-formola tista' ma tkunx ċara. Jekk ħafna sommarji tal-AI jiġu kkoreġuti mill-istaff, l-estrazzjoni tas-sorsi tista' tkun dgħajfa. Jekk l-appelli jreġġgħu lura ripetutament deċiżjonijiet li jinvolvu regola partikolari, il-politika għandha tiġi riveduta. Jekk iċ-ċittadini jistaqsu l-istess mistoqsija wara li jirċievu riċevuta, l-ispjegazzjoni mhix tajba biżżejjed. Ir-responsabbiltà ssir ċiklu, mhux santwarju għal skjerament tal-passat.
L-istituzzjonijiet pubbliċi huma permessi li jkunu imperfetti. Mhumiex permessi li jkunu mingħajr ispezzjoni meta jeżerċitaw il-poter. Ir-riċevuti jagħmlu l-imperfezzjoni maniġġabbli. Huma jagħtu lin-nies xi ħaġa x'jikkontestaw u lill-organizzazzjonijiet xi ħaġa x'ittejbu. Dan huwa inqas romantiku milli twiegħed AI ta' fiduċja f'dokument ta' strateġija. Huwa wkoll ferm aktar utli, li huwa riskju magħruf ta' miżuri prattiċi.
Deċiżjoni pubblika bil-memorja
L-aħjar sistemi ta' riċevuti mhumiex arkivji passivi. Huma jitimgħu ċiklu ta' deċiżjonijiet. Talba tidħol. L-awtorità u l-iskop jiġu vverifikati. Is-sorsi jintgħażlu. Il-mudell jew il-magna tar-regoli jappoġġaw ix-xogħol fil-limiti ddikjarati. Rwol uman jaċċetta, jirrifjuta jew jimmodifika l-output fejn meħtieġ. Iċ-ċittadin jirċievi riżultat u triq. L-isfidi u l-korrezzjonijiet jirritornaw fis-sistema bħala evidenza għal titjib. Ir-riċevuta hija l-ħajta miċ-ċiklu kollu.
Dan iċ-ċiklu huwa importanti għaliex is-servizzi pubbliċi jinbidlu. Il-liġijiet jiġu emendati. Il-formoli jiġu ddisinjati mill-ġdid. Id-datasets jitnaddfu. Il-mudelli jiġu aġġornati. Il-konfini organizzattivi jiċċaqilqu. Riċevuta minn sena ilu jista' jkollha bżonn tinqara taħt il-proċess ta' din is-sena. Dan jeħtieġ identifikaturi stabbli, regoli b'verżjonijiet, rekords ta' migrazzjoni u dixxiplina ta' żamma. Inkella, korp pubbliku jista' jippreserva riċevuta li tirreferi għal sistema sparixxa b'vokabularju li ħadd ma jifhem. Dik mhix responsabbiltà. Dik hija arkeoloġija diġitali b'kafè aħjar.
Ir-riċevuti għandhom għalhekk jiġu ggvernati bħal rekords. Huma jeħtieġu sjieda, skedi ta' żamma, drittijiet ta' aċċess, formati ta' esportazzjoni, kontrolli ta' integrità, regoli ta' tħassir, u proċeduri ta' reviżjoni. M'għandhomx jitħallew bħala effett sekondarju ta' kwalunkwe librerija ta' logging li kienet moda meta tnieda s-servizz. Ir-rekords pubbliċi huma teknoloġija ċivika. Ir-riċevuti tal-AI huma parti minn dik it-tradizzjoni, anki jekk fihom verżjonijiet ta' mudelli minflok firem bil-pinna.
Hemm ukoll benefiċċju demokratiku. Ir-riċevuti jippermettu sorveljanza aggregata mingħajr ma jesponu lil kull persuna. L-istituzzjonijiet jistgħu jkejlu liema servizzi jużaw l-AI, fejn l-appoġġ awtomatizzat jifforma r-riżultati, kemm-il darba l-bnedmin jissuperaw, fejn l-appelli jirnexxu, liema sorsi joħolqu frizzjoni, u jekk ċerti gruppi humiex affettwati b'mod sproporzjonat. Dan huwa kif l-AI pubblika tista' timxi minn assigurazzjoni vaga għal prattika ggvernata. Mhux billi titlob lis-soċjetà tammira mudell, iżda billi tagħmel il-poter pubbliku li jingħadd biżżejjed biex jiġi mistoqsi.
Il-lezzjoni
L-AI pubblika għandha bżonn irċevuti għax il-poter pubbliku għandu bżonn rekords. Tweġiba fluwenti mill-mudell mhix biżżejjed. Punteġġ ta' riskju utli mhux biżżejjed. Proġett pilota ta' suċċess mhux biżżejjed. Meta l-AI tmiss id-drittijiet, is-servizzi, il-prijorità, il-flus, l-infurzar, il-kura, l-edukazzjoni jew l-aċċess, l-istituzzjoni trid tkun tista' turi l-awtorità, is-sorsi, l-istat tal-mudell, ir-regoli, ir-rwol tal-bniedem u r-rotta ta' reviżjoni wara r-riżultat.
Dan ma jfissirx li kull interazzjoni trid tinbidel f'biċċa karti. Ifisser li l-evidenza trid tkun iddisinjata fis-sistema fil-livell it-tajjeb. L-irċevuti pubbliċi għandhom ikunu kompatti, f'saffi, jipproteġu l-privatezza, jqisu r-rwol, juru kull tbagħbis u jkunu konnessi ma' reviżjoni reali. Għandhom jgħinu liċ-ċittadini jifhmu l-konfini, jgħinu lill-uffiċjali jeżerċitaw il-ġudizzju tagħhom, jgħinu lill-awdituri jibnu mill-ġdid l-avvenimenti, u jgħinu lill-istituzzjonijiet jitgħallmu mill-isfidi.
Is-settur pubbliku m'għandux bżonn AI li turi l-fiduċja. Għandu bżonn AI li tista' tinżamm responsabbli. L-irċevuti huma t-teknoloġija umli ta' dik ir-responsabbiltà. Huma żgħar, matt, u utli b'mod iebsi. Fl-amministrazzjoni pubblika, dik il-kombinazzjoni ġarrbet aktar piż minn ħafna manifesti. Il-futur tal-AI pubblika mhux se jkun deċiż biss mill-kapaċità tal-mudell. Se jkun deċiż ukoll minn jekk, meta jintalab x'ġara, l-istituzzjoni tistax tipproduċi xi ħaġa aħjar minn tgħollija ta' spallejn b'kunfidenza.