X'jislet l-AI serja mill-inġinerija tas-sikurezza
Il-linja safra fl-art tal-fabbrika
L-ewwel lezzjoni utli dwar is-sigurtà li rajt ma kinitx f'laboratorju tal-AI. Kienet miżbugħa fl-art ta' fabbrika. Viżitatur kien qabeż linja safra biex jara aħjar magna li kienet tagħmel eżattament dak li kellha tagħmel, u huwa għalhekk li ħadd ma ried viżitatur viċin tagħha. Ma ġara xejn terribbli. Dawl inbidel. Gwardja waqqfet il-moviment. Superviżur resaq bil-wiċċ paċenzjuż ta' min diġà spjega l-istess regola lil żraben għaljin qabel.
Il-linja ma kinitx argument morali. Ma talbitx lill-viżitatur ikun responsabbli. Ma kinitx tiddependi fuq slide ta' taħriġ miftakar mill-kolazzjon. Ħolqot konfini, u l-magna kienet iddisinjata biex tinnota meta l-konfini jinqabeż. L-organizzazzjoni kienet iddeċidiet li xi fallimenti għandhom isiru diffiċli bid-disinn, mhux biss skoraġġuti bil-politika. Huwa għalhekk li l-inġinerija tas-sigurtà hija tant utli għall-AI. Qattgħet għexieren ta' snin titgħallem li l-intenzjoni umana, il-gwida miktuba, u l-atmosfera tajba mhumiex kontrolli.
Is-sistemi tal-AI spiss jiġu introdotti bl-istint oppost. Inniedu mudell kapaċi, niktbu regoli ta' użu aċċettabbli, inżidu bniedem fiċ-ċiklu, u nassumu li ċ-ċiklu jkun għaqli, mistrieħ, informat, awtorizzat, u mingħajr għaġla. Dan huwa ottimist bil-mod kif umbrella tal-kartun hija ottimista. Il-bnedmin huma essenzjali, iżda bnedmin imqiegħda fit-tmiem ta' fluss ta' xogħol mhux sigur mhumiex arkitettura ta' sigurtà. Huma apologija tal-aħħar minuta b'login.
L-AI serja tissellef mill-inġinerija tas-sigurtà għaliex l-inġinerija tas-sigurtà tibda mill-mistoqsija skomda. X'jista' jmur ħażin, kif inkunu nafu, x'jipprevjenih, x'jillimita l-ħsara, min jista' jwaqqaf is-sistema, u liema evidenza turi li l-kontroll ħadem. It-tweġibiet rari jkunu glamorużi. Huma interlocks, listi ta' kontroll, allarmi, logs, eżerċizzji, separazzjoni ta' dmirijiet, modi ta' fallback, reviżjonijiet tad-disinn, rapporti ta' inċidenti, u taħriġ li jkun marbut max-xogħol minflok laminat u minsi.
Il-perikli mhumiex riżultati ħżiena b'karti sbieħ
Periklu huwa kundizzjoni li tista' twassal għal ħsara. Dan jinstema' sempliċi sakemm organizzazzjoni tipprova tikteb wieħed. Ir-riżultat ħażin jista' jkun ċaħda żbaljata, dijanjosi mitlufa, istruzzjoni perikoluża, klassifikazzjoni preġudikata, ksur tal-privatezza, jew sommarju qarrieqi. Il-periklu jista' jkun aktar kmieni u aktar kwiet: rekords mhux kompluti, awtorità ambigwa, irkupru antikwat, lingwaġġ tal-interface kunfidenti żżejjed, eskalazzjoni nieqsa, ambitu mhux ċar, jew kju li jagħti lir-reviżuri disgħin sekonda għal deċiżjoni li jixirqilha disa' minuti.
Din id-distinzjoni importanti. Jekk it-timijiet jelenkaw biss riżultati ħżiena, il-kontrolli jaslu tard wisq. Jgħidu li ma rridux deċiżjonijiet ħżiena. Tajjeb. Ħadd ma ġie l-laqgħa bit-tama li jkollhomhom. L-analiżi tal-perikli tistaqsi liema kundizzjoni tas-sistema tagħmel id-deċiżjonijiet ħżiena aktar probabbli. Dik il-mistoqsija hija aktar utli u aktar tedjanti. Tindika l-kwalità tad-dejta, id-disinn tal-fluss tax-xogħol, l-inċentivi, l-istaff, l-ambitu tal-mudell, il-monitoraġġ, u l-awtorità operattiva. Tħassar ukoll bosta skedi ta' tnedija sbieħ, u hekk tkun taf li qed taħdem.
L-analiżi tal-perikli tal-IA għandha tkun ibbażata fid-dominju. Assistent tat-triage fl-isptar, mudell ta' rotta għas-self, ippjanatur tal-imħażen, għodda għall-ġenerazzjoni tal-kodiċi, u fluss tax-xogħol għall-benefiċċji pubbliċi ma jaqsmux tabella waħda tar-riskji. Jaqsmu drawwiet ta' sikurezza. Semmi x-xogħol. Semmi n-nies affettwati. Semmi l-azzjoni. Semmi l-konsegwenza. Semmi s-suppożizzjonijiet. Semmi l-postijiet fejn is-sistema tista' tkun ħażina, tardiva, użata żżejjed, mhux spjegata biżżejjed, jew fdata għar-raġuni ħażina.
Il-punt mhuwiex li tibża' minn kull falliment possibbli. L-inġinerija tas-sikurezza mhijiex ansjetà professjonali. Hija serjetà selettiva. Xi perikli jixirqilhom twissija. Xi wħud jixirqilhom waqfien iebes. Xi wħud jixirqilhom disinn mill-ġdid. Xi wħud jixirqilhom aċċettazzjoni b'monitoraġġ. Xi wħud juru li s-sistema m'għandhiex tintuża għal dik l-azzjoni. Il-valur huwa li dik il-ġudizzju ssir espliċita qabel ma l-interface tagħmel ix-xogħol iħossu normali.
Saffi jegħlbu s-superviżjoni erojka
Kontroll wieħed rarament ikun biżżejjed. Gwardja tista' tfalli. Lista ta' kontroll tista' tinqabeż. Sensur jista' jitfixkel. Reviżur jista' jkun għajjien. Mudell jista' jkun kunfidenti żżejjed. Politika tista' tinqara ħażin. Għalhekk l-inġinerija tas-sikurezza tibni saffi: ipprevjeni, skopri, illimita, irkupra, itgħallem. Il-frażi difiża fil-fond tista' tinstema' bħallikieku konsulent skopra l-armatura, iżda l-idea hija ċara. Tiddependix fuq kontroll wieħed biex ikun perfett f'dinja li mhijiex.
Is-sistemi tal-IA jeħtieġu l-istess saffi. Il-prevenzjoni tista' tinkludi limiti tal-ambitu, validazzjoni tad-dejta, outputs ristretti, permessi tal-għodod, konfini tal-irkupru, u disinn tal-fluss tax-xogħol li jżomm azzjonijiet ta' konsegwenza għolja 'l bogħod minn outputs b'evidenza baxxa. L-iskoperta tista' tinkludi monitoraġġ tad-devjazzjoni, kalibrazzjoni tal-kunfidenza, allerti għall-anomaliji, traċċar ta' sostituzzjonijiet, mudelli ta' appell, u kontrolli tal-freskezza tas-sors. Il-limitazzjoni tista' tinkludi limiti tar-rata, tnedija f'fażijiet, kampjunar, reviżjoni umana, u defaults sikuri. L-irkupru jista' jinkludi rritornar, korrezzjoni, notifika, u rimedju.
Is-superviżjoni umana tappartjeni ġewwa s-saffi, mhux fuq pedestall fuqhom. Reviżur uman huwa qawwi meta l-interface turi evidenza, inċertezza, freskezza tas-sors, kuntest tal-politika, u għażliet sinifikanti ta' sostituzzjoni. L-istess reviżur isir dekorattiv meta s-sistema taħbi l-materjal meħtieġ għall-ġudizzju, timbotta l-buttuna tal-aċċettazzjoni 'l quddiem, tkejjel il-veloċità bħala virtù, u tittratta d-diżgwid bħala falliment ta' adozzjoni. Il-bniedem fiċ-ċirkwit mhuwiex seħer. Huwa problema ta' disinn tax-xogħol.
Hawn verità niexfa: jekk il-każ tas-sikurezza jiddependi fuq kulħadd ikun attent kull darba, il-każ tas-sikurezza huwa dgħajjef. Il-bnedmin huma varjabbli bid-disinn. Dan huwa utli meta jkun meħtieġ ġudizzju u perikoluż meta fluss tax-xogħol jiddependi fuq viġilanza biex jikkumpensa għal kontrolli nieqsa. Sistemi tajbin jirrispettaw il-ġudizzju uman billi ma jġegħluhx jassorbi kull dgħjufija li tista' tiġi evitata.
Jfalli b'mod sikur mhuwiex l-istess bħal jfalli b'edukazzjoni
Ħafna sistemi tal-IA jfallu b'edukazzjoni. Huma jiskużaw ruħhom, joqogħdu attenti, joffru kawtela, jew jissuġġerixxu li tikkonsulta professjonist. Kultant dan ikun xieraq. Iżda l-inġinerija tas-sigurtà tistaqsi mistoqsija iktar iebsa: meta s-sistema tkun inċerta, miksura, barra mill-ambitu, jew nieqsa mill-evidenza, f'liema stat tidħol. Tieqaf. Tirroutja lil bniedem. Tnaqqas il-kapaċità. Timblokka azzjoni downstream. Tippreserva l-evidenza. Tinnotifika lil xi ħadd li jista' jaġixxi tassew.
Tweġiba edukata xorta tista' tkun mhux sikura jekk il-fluss tax-xogħol jittrattaha bħala użabbli. Assistent jista' jgħid li mhuwiex tabib waqt li xorta jipproduċi rakkomandazzjoni medika dettaljata fi ħdan fluss tax-xogħol fejn l-utent ikun taħt pressjoni. Ippjanar jista' jwissi li d-dejta hija mhux kompluta waqt li xorta jibgħat rotta lid-dispaċċ. Assistent tal-konformità jista' jikkwalifika t-tweġiba tiegħu waqt li l-ħaddiem jikkopjaha f'ittra finali. It-twissijiet huma kontrolli dgħajfa meta s-sistema tal-madwar tippremja li wieħed jinjorahom.
Jfalli b'mod sikur ifisser li tiddisinja l-istat awtomatiku għall-inċertezza. Jekk ir-rekord ikun mhux komplut, is-sistema tista' tirrifjuta l-azzjoni finali. Jekk il-freskezza tas-sors tonqos, tista' teħtieġ pass ġdid ta' rkupru. Jekk aġġornament tal-mudell ma jkunx ġie vvalidat għal fluss tax-xogħol, jista' jaħdem f'mod shadow. Jekk il-kapaċità ta' reviżjoni tkun saturata, tista' tnaqqas l-intake minflok tbaxxi bil-kwiet il-kwalità tar-reviżjoni. Dan jista' jkun tedjanti. Tedjanti huwa aċċettabbli meta l-alternattiva tkun mhux sikura bil-kwiet.
Il-ħila hi l-proporzjonalità. Mhux kull inċertezza jistħoqqilha waqfien. Abbozzar ta' konsegwenza baxxa jista' jittollera iktar artab minn deċiżjonijiet ta' eliġibilità, istruzzjonijiet ta' sigurtà, jew triage mediku. IA serja tissellef id-drawwa tas-sigurtà li tqabbel l-imġiba ta' falliment sikur mal-konsegwenza. Sistema li twaqqaf kollox issir inutilizzabbli. Sistema li ma twaqqaf xejn issir responsabbiltà b'uptime eċċellenti.
Każijiet ta' sigurtà huma argumenti b'evidenza
Każ ta' sigurtà mhuwiex binder li jipprova li kulħadd kien okkupat. Huwa argument, appoġġjat b'evidenza, li sistema hija aċċettabbilment sigura għal użu definit f'kuntest definit. Il-kliem użu definit jgħoddu. Mudell jista' jkun aċċettabbli biex jiġbor fil-qosor noti interni u mhux aċċettabbli biex jieħu deċiżjonijiet awtomatiċi. Sistema ta' routing tista' tkun sigura taħt tagħbija normali u mhux sigura waqt żieda ta' emerġenza. Klassifikatur jista' jkun validu għal popolazzjoni waħda u mhux ittestjat għal oħra. Is-sigurtà hija kuntestwali, mhux fwieħa.
L-AI teħtieġ każijiet ta' sikurezza għax il-prestazzjoni tal-mudell waħedha hija dejjaq wisq. Benchmark jista' juri li komponent jaħdem tajjeb fuq dataset. Ma jippruvax li l-pipeline tad-dejta huwa frisk, li l-interface jappoġġja l-ġudizzju, li l-fluss tax-xogħol għandu rkupru, li l-operaturi huma mħarrġa, li l-politika hija aġġornata, li d-dipendenza fuq il-fornitur hija limitata, jew li l-organizzazzjoni tista' tikkoreġi l-ħsara. Assigurazzjoni serja tgħaqqad l-evidenza tal-komponent mal-evidenza operazzjonali.
L-evidenza tista' tkun varjata: riżultati ta' evalwazzjoni, sejbiet ta' red-team, kontrolli ta' kalibrazzjoni, testijiet tal-kwalità tad-dejta, reġistri tal-perikli, studji tal-użabilità, eżerċizzji ta' inċidenti, testijiet ta' rkupru, reviżjonijiet tal-aċċess, dashboards ta' monitoraġġ, analiżi tal-appelli, u rekords ta' awditu. L-ebda waħda minn dawn mhija maġika waħedha. Flimkien jappoġġjaw it-talba li s-sistema hija adattata għal xogħol speċifiku. Jekk ix-xogħol jinbidel, il-każ ta' sikurezza jrid jinbidel. Jekk il-kuntest jinbidel, irid jiġi rivedut. Jekk ħadd ma jkun sidu, huwa artefatt, mhux assigurazzjoni.
Hawnhekk l-inġinerija tas-sikurezza ġġib dixxiplina milqugħa. Titlob lit-timijiet jgħaqqdu t-talbiet mal-kontrolli u l-kontrolli mal-evidenza. It-talba tgħid li deċiżjonijiet ta' konsegwenza għolja jirċievu reviżjoni sinifikanti. Il-kontroll jgħid li l-interface jeħtieġ evidenza tas-sors u raġunijiet ta' override. L-evidenza tgħid li l-kampjunar juri li r-reviżuri jużaw l-evidenza u li l-mudelli ta' override jiġu riveduti kull xahar. Dik il-katina hija inqas eċċitanti milli tgħid AI responsabbli. Hija wkoll ħafna iktar diffiċli biex tiffalsifika.
Il-kontroll tal-bidla huwa xogħol ta' sikurezza
Sistemi tal-AI jinbidlu b'modi li jistgħu jkunu faċli wisq biex wieħed jissottovalutahom. Verżjoni ta' mudell tinbidel. Indiċi ta' rkupru jiġi aġġornat. Mudell ta' prompt jiġi editjat. Limitu jiċċaqlaq. Fornitur ibiddel tassonomija upstream. Tim iżid sors ġdid ta' dokumenti. Maniġer jespandi l-fluss tax-xogħol minn rakkomandazzjoni għal deċiżjoni għax il-pilota mar tajjeb u l-kalendarji kienu mimlija. Kull bidla tista' tidher żgħira. Flimkien jistgħu jċaqalqu s-sistema 'l barra mill-każ ta' sikurezza tagħha.
L-inġinerija tas-sikurezza tittratta l-bidla bħala mument ta' riskju. Mhux għax il-bidla hija ħażina, iżda għax il-bidla tkisser is-suppożizzjonijiet. L-AI serja teħtieġ l-istess drawwa. Liema talba taffettwa din il-bidla. Liema perikli jsiru iktar probabbli. Liema testijiet iridu jerġgħu jitmexxew. Liema utenti jeħtieġu avviż. Liema rekords jippreservaw l-istat il-qadim. Liema triq ta' rollback teżisti. Liema metriċi għandhom jiġu mmonitorjati wara r-rilaxx. Jekk it-tweġiba hija ħadd ma jaf, il-bidla mhijiex żgħira. Hija sempliċement mhux dokumentata.
Il-verżjonar huwa parti minn din id-dixxiplina. Id-deċiżjonijiet għandhom ikunu jafu liema mudell, prompt, sors ta' dejta, politika, limitu, u verżjoni tal-interface kienu attivi. Mingħajr rekords ta' verżjoni, l-organizzazzjonijiet jiġġudikaw l-azzjoni tal-bieraħ billi jużaw il-kuntest inviżibbli tal-lum. Dik mhijiex responsabbiltà. Dik hija vjaġġ fil-ħin bi spreadsheet, u l-ispreadsheets diġà għandhom biżżejjed piżijiet.
Il-kontroll tal-bidla jipproteġi wkoll l-innovazzjoni. It-timijiet jistgħu jitjiebu aktar malajr meta jafu kif iżommu t-titjib fil-limiti. Ħidmiet ta' prova, rilaxx fi stadji, gruppi ta' canary, kriterji ta' rollback, u reviżjoni wara l-bidla jħallu lill-organizzazzjoni titgħallem mingħajr ma tqiegħed il-fluss tax-xogħol kollu f'riskju għal editja ta' tama. L-inġinerija tas-sikurezza mhijiex l-għadu tal-iterazzjoni. Hija r-raġuni li l-iterazzjoni tista' sseħħ madwar nies reali mingħajr ma jiġu ttrattati bħala tagħmir tal-ittestjar.
Il-ħabtiet qrib huma rigali jekk ma jiġux ikkastigati
F'kulturi tas-sikurezza, ħabta qrib hija prezzjuża. Hija avveniment li seta' kkawża ħsara imma ma għamilx, spiss minħabba ċ-ċans, il-ġudizzju uman, jew intervent ta' kontroll. L-operazzjonijiet tal-AI għandhom ukoll ħabtiet qrib. Reviżur jaqbad rakkomandazzjoni żbaljata. Utent jinnota sors nieqes. Mudell jirrifjuta kompitu li forsi qabel kien iwieġeb. Appell juri li limitu ta' kunfidenza mġiex ħażin għal tip wieħed ta' każ. Dawn mhumiex fastidji li għandhom jinħbew. Huma l-aktar lezzjonijiet irħas li s-sistema se toffri.
L-organizzazzjonijiet spiss jaħlu l-ħabtiet qrib għax jittrattawhom bħala devjazzjonijiet individwali. Il-ħaddiem kien attent. L-utent kien konfuż. Il-mudell kellu jum stramb. Il-kju kien mimli b'mod mhux tas-soltu. Forsi. Imma l-mistoqsija aħjar hija x'tikxef il-ħabta qrib dwar id-disinn tas-sistema. Il-pannell tal-evidenza kien dgħajjef wisq. Is-sors kien skadut. Ir-rotta ta' override ma kinitx ċara. Il-limitu kien issettjat fuq il-popolazzjoni żbaljata. Ir-reviżur kien taħt pressjoni ta' żmien. Il-mudell kien qed jintuża barra mill-ambitu tiegħu.
Ir-rappurtar irid ikun faċli u sigur. Jekk ir-rappurtar ta' ħabta qrib joħloq riskju għall-karriera jew tbatija amministrattiva, in-nies iżommu l-lezzjoni għalihom infushom. Dan mhux għax in-nies huma irresponsabbli. Huwa għax huma razzjonali u għandhom email. Triq tajba ta' rappurtar hija qrib ix-xogħol, veloċi biex tintuża, ċara dwar min hu responsabbli, u konnessa ma' bidla viżibbli. In-nies jirrappurtaw aktar meta r-rapporti jgħoddu.
Il-ħabtiet qrib jeħtieġu wkoll analiżi lil hinn mill-medji. Ftit ħabtiet qrib serji f'sottogrupp wieħed jistgħu jisparixxu fi ħdan il-prestazzjoni ġenerali. Każ ta' tarf rari jista' jġib konsegwenza għolja. Falliment żgħir ripetut jista' jindika drift. L-inġinerija tas-sikurezza tgħallem li d-dejta tal-inċidenti mhijiex biss għadd. Hija mappa ta' fejn is-suppożizzjonijiet jiltaqgħu mar-realtà u jilmentaw.
Il-fatturi umani mhumiex dgħufija
L-inġinerija tas-sikurezza tieħu l-fatturi umani bis-serjetà għax in-nies ma jaġixxux bħal dokumenti ta' politika. Jgħejjew. Jadattaw. Jgħaġġlu. Jaqbżu passi li jidhru inutli. Jobdu d-defaults. Jafdaw interfaces illustrati. Jevitaw ir-rappurtar meta r-rappurtar jikkastigahom. Jibnu soluzzjonijiet alternattivi meta t-triq uffiċjali hija impossibbli. Dan mhuwiex ċiniżmu. Huwa litteriżmu operazzjonali.
Is-sistemi tal-IA jkabbru l-fatturi umani għax il-magna spiss tinstema’ kunfidenti. Rakkomandazzjoni b’badge ħadra, spjegazzjoni ġġenerata, u buttuna ta’ aċċettazzjoni awtomatika jistgħu joħolqu awtorità qabel ma xi persuna tkun għamlet ġudizzju reali. Jekk l-organizzazzjoni tkejjel il-produttività b’mod strett, il-persuna fiċ-ċiklu titgħallem x’irid verament iċ-ċiklu. In-nies huma eċċellenti biex jaqraw l-inċentivi. Ma għandhomx bżonn ta’ memo.
Id-disinn għalhekk irid jinkludi frizzjoni tajba. L-evidenza għandha tkun viżibbli fejn isir il-ġudizzju. L-inċertezza għandha tkun speċifika, mhux vag. L-override għandu jkun possibbli u normali. Azzjonijiet ta’ konsegwenza għolja għandhom jirrikjedu att espliċitu. Il-kjuwijiet ta’ reviżjoni għandhom ikunu daqs ix-xogħol attwali, mhux għall-fantasija li l-attenzjoni hija infinita. It-taħriġ għandu juża każijiet reali, inklużi każijiet ta’ tarf skomdi, aktar milli eżempji sbieħ li jġiegħlu lil kulħadd iħossu kapaċi għal għoxrin minuta.
Il-fatturi umani jfissru wkoll li l-imġiba sigura ssir aktar faċli minn dik mhux sigura. Jekk it-triq korretta hija bil-mod, moħbija, jew ikkastigata soċjalment, l-organizzazzjoni ddisinjat kontra s-sigurtà waqt li titkellem dwarha. L-inġinerija tas-sigurtà għandha lezzjoni diretta hawnhekk: is-sistemi jgħallmu l-imġiba. L-interfaces, il-metriċi, il-kjuwijiet, u l-inċentivi jgħallmu b’mod aktar affidabbli mill-powsters.
L-indipendenza importanti
L-industriji kritiċi għas-sigurtà spiss jisseparaw ir-rwoli. Il-persuna li tibni s-sistema mhijiex l-unika persuna li taċċetta r-riskju. It-tim li jopera s-sistema mhuwiex l-uniku tim li jinvestiga inċidenti serji. Id-dikjarazzjoni tal-fornitur mhijiex l-istess bħall-evidenza indipendenti. L-IA għandha bżonn din is-separazzjoni wkoll, skont il-konsegwenza. L-indipendenza mhijiex suspett. Hija kontroll kontra kulħadd li jrid li t-tnedija tirnexxi tant li evidenza dgħajfa tibda tidher adegwata.
Ir-reviżjoni indipendenti tista’ tieħu ħafna forom. Tim ieħor jirrevedi l-analiżi tal-perikli. Sid tad-dominju japprova l-użu permess. Tim tas-sigurtà jittestja l-mogħdijiet ta’ aċċess. Sid tad-dejta jivverifika l-kwalità tas-sors. Tim ta’ konformità jiċċekkja r-rekords tal-evidenza. Awditur estern jieħu kampjuni tad-deċiżjonijiet. L-utenti jipparteċipaw fl-ittestjar tal-użabilità. Il-punt mhuwiex li żżid teatru. Il-punt huwa li tagħti lill-każ tas-sigurtà nies li jitħallew ikunu skomdi.
L-indipendenza tapplika wkoll għall-monitoraġġ. Dashboard tal-fornitur jista’ jkun utli, iżda l-evidenza kritika m’għandhiex tiddependi għal kollox fuq il-fornitur li qed jiġi vvalutat. Il-logs, ir-rekords tad-deċiżjonijiet, ir-riżultati tal-evalwazzjoni, u r-rapporti tal-inċidenti għandhom ikunu taħt il-kontroll tal-organizzazzjoni fejn id-dmir jirrikjedih. Jekk l-unika prova tas-sigurtà hija dashboard li ma jistax jintlagħab mill-ġdid b’mod indipendenti, is-sistema qed titlob fiduċja fejn għandha tipprovdi evidenza.
Il-livell it-tajjeb ta’ indipendenza jiddependi mir-riskju. Assistent tal-abbozzar m’għandux bżonn il-makkinarju ta’ impjant nukleari, sentenza li għandha tfarraġ lil kulħadd inklużi l-impjanti nukleari. Iżda l-IA ta’ konsegwenza għolja m’għandhiex tiġi mmarkata bħala sigura mill-istess entużjażmu li nedieha. L-inġinerija tas-sigurtà taf dan. Il-governanza tal-IA għadha qed titgħallem, kultant b’preżentazzjonijiet kunfidenti ħafna.
X’tieħu miegħha l-IA serja
L-IA serja tissellef id-drawwa tal-inġinerija tas-sigurtà li tagħmel il-falliment speċifiku. Semmi l-periklu. Poġġi l-kontrolli f’aktar minn saff wieħed. Iddisinja stati fail-safe. Ibni każ tas-sigurtà bl-evidenza. Ittratta l-bidla bħala mument ta’ riskju. Tgħallem min-near misses. Irrispetta l-fatturi umani. Ippreserva r-rekords indipendenti. Agħti lin-nies l-awtorità biex iwaqqfu, jikkoreġu, u jtejbu s-sistema.
L-ebda waħda minn dawn ma tġiegħel ir-riskju tal-IA jisparixxi. L-inġinerija tas-sigurtà ma twiegħedx dinja mingħajr falliment. Twiegħed dinja fejn il-falliment prevedibbli jittieħed bis-serjetà qabel ma jsir aħbar, fejn il-kontrolli jiġu ttestjati, fejn l-evidenza tibqa’ teżisti, u fejn l-organizzazzjoni titgħallem aktar milli sempliċement tiskuża ruħha b’tipografija aħjar.
Il-linja safra mal-art tal-fabbrika ma kinitx xi ħaġa sofistikata. Dik kienet il-punt. Għamlet il-konfini viżibbli, rabtet il-konfini ma' kontroll, u tat lill-magna rispons aktar sigur milli tittama li l-viżitatur jiftakar briefing. L-AI għandha bżonn aktar minn dik id-dixxiplina sempliċi. Mhux inqas ambizzjoni. Konfini aħjar għall-ambizzjoni.
Dejjem se jkun hemm sistemi li jinstemgħu sikuri għax jafu jispjegaw ruħhom b'mod edukat. Sistemi serji huma aktar sikuri għax jafu meta l-edukazzjoni ma tkunx biżżejjed. Huma jieqfu, jidderieġu, jirreġistraw, jirkupraw, u jitgħallmu. Dik mhix slogan. Huwa d-dixxiplina tas-sigurtà li l-inġinerija tal-makkinarju ilha toffri tul iż-żmien kollu.