Ir-Riskju tal-“Taħsir tal-Ħiliet”: Se l-AI Tagħmilna Stupidi?
The Children of the Magenta
Fl-industrija tal-avjazzjoni, hemm dokumentarju tal-biża' magħruf bħala "Children of the Magenta." Jirreferi għal ġenerazzjoni ta' bdoti li tgħallmu jtiru fuq ajruplani moderni b'awtomazzjoni għolja. Il-"Magenta" tirreferi għall-kulur tal-linja tal-mogħdija tat-titjira fuq id-displej tan-navigazzjoni awtomatika fil-kabina tal-pilota.
Dawn il-bdoti kienu esperti fl-ipprogrammar tal-Kompjuter tal-Ġestjoni tat-Titjira. Kienu jafu jamministraw is-sistemi perfettament. Iżda l-investigaturi sabu li f'sitwazzjonijiet ta' kriżi (meta l-awtomazzjoni falliet jew skonnettjat minħabba dejta ħażina mis-sensuri) uħud minn dawn il-bdoti panikkaw. Kienu tilfu s-"sens" tal-ajruplan. Kienu jitħabtu mal-ġestjoni bażika tal-isteering u tal-kontrolli. Kienu saru operaturi tas-sistemi, mhux avjaturi. Il-ħiliet ewlenin tagħhom kienu marru għall-agħar.
Bħalissa qegħdin fil-proċess li nġarrbu din il-fenomenu fuq l-ekonomija globali tal-għarfien kollha.
Qegħdin nagħtu lil żviluppaturi żgħażagħ għodod li jiktbu kodiċi li ma jifhmux. Qegħdin nagħtu lil avukati żgħażagħ għodod li jabbozzaw kuntratti li ma qrawx. Qegħdin nagħtu lil studenti tal-mediċina għodod dijanjostiċi li jindividwaw tumuri li ma jistgħux jaraw.
Dan jaħdem tajjeb meta t-temp ikun ċar u l-awtomazzjoni tkun qed taħdem. Iżda x'jiġri meta s-sistema tfalli? U aktar importanti: jekk il-magna tagħmel il-prattika kollha, kif jistgħu l-bnedmin qatt jiksbu l-ħakma sħiħa?
L-Atrofija Konjittiva
Dan huwa r-riskju ta' Taħsir tal-Ħiliet. Huwa d-deġenerazzjoni gradwali tal-kapaċità umana minħabba n-nuqqas ta' użu. Huwa "L-Effett tal-Mapep ta' Google" fuq sterojdi. Qabel il-GPS, in-nies kellhom mappa mentali tal-belt tagħhom; kienu jifhmu r-relazzjonijiet spazjali. Issa, insegwu l-linja blu. Jekk il-batterija tmut, inkunu mitlufin fil-viċinat tagħna stess.
Fl-inġinerija tas-softwer, qed naraw iż-żieda tas-"Senior tal-Kopja-Pejst." Dawn huma żviluppaturi b'2 snin ta' esperjenza li jistgħu jipproduċu l-output ta' veteran ta' 10 snin billi jserrħu ħafna fuq l-assistenti tal-AI. Imma meta titlobhom jiddebbigjaw kundizzjoni ta' razza, jew jispjegaw għaliex għażlu arkitettura speċifika, jitfarrku. Għandhom il-produttività, imma mhux il-fond.
Dan huwa perikoluż għaliex is-softwer huwa kumpless. Il-kodiċi miktub mill-AI spiss ikun fih bugs sottili jew vulnerabbiltajiet ta' sigurtà li jista' jinduna bihom biss espert veru. Jekk neliminaw it-taqbida tat-tagħlim (is-sigħat mqattgħin tħabbat rasek mal-ħajt biex tifhem żball ta' pointer) neliminaw il-proċess li jibni l-esperti.
Il-Paradoss tal-Apprendistat
Dan iwassal għal kriżi strutturali fis-suq tax-xogħol: Il-Paradoss tal-Apprendistat.
Storikament, esperti anzjani kienu jinħolqu billi jagħmlu "xogħol ta' taħt" bħala ġunijuri. Tgħallimt tikteb sommarji legali kbar billi tikteb mijiet ta' dawk ta' dwejjaq u tiġi kkritikat minn sieħeb. Tgħallimt tiddijanjostika mard rari billi tara eluf ta' mard komuni waqt ir-residenza.
Jekk l-AI tawtomatizza x-xogħol ta' taħt (jekk tikteb il-kodiċi bażiku, tiġbor fil-qosor id-dokumenti, u tagħżel il-pazjenti) x'jibqa' għall-ġunijur? Kif jiksbu r-"reps"? Jekk taqbeż l-apprendistat, ma tistax issir mastru. Tibqa' biss noviz permanenti b'kalkulatur verament qawwi.
Is-Soluzzjoni ta' Dweve: Intelliġenza Mtejba
F'Dweve, niddisinjaw l-għodod tagħna biex niġġieldu s-Skill Rot. Aħna ideoloġikament kontra l-"Awtomazzjoni" li tieħu post il-ħsieb. Aħna nemmnu fl-"Awgmentazzjoni" li ssaħħaħ il-ħsieb.
Aħna nemmnu li l-AI għandha tkun rota għall-moħħ (tagħmlek aktar mgħaġġel), mhux siġġu tar-roti għall-moħħ (iġorrek għax ma tistax timxi).
1. Modalità Spjegattiva: L-AI bħala Tutur
Meta l-assistent tal-kodifikazzjoni tagħna jissuġġerixxi soluzzjoni, ma jwaħħalx biss il-kodiċi fis-skiet. Jidħol fil-"Modalità Spjegattiva." Jenfasizza l-linji li biddel u jispjega għaliex.
- "Biddilt dan il-loop għal funzjoni map għax huwa aktar effiċjenti fil-memorja f'dan il-kuntest."
- "Żidt kontroll ta' sanifikazzjoni hawn għax dan l-input jista' jkun vulnerabbli għal XSS."
Ibiddel il-korrezzjoni tal-bug f'lezzjoni żgħira. Iġġiegħel lill-utent jidħol fil-loġika, mhux biss fir-riżultat. Jittrasferixxi l-għarfien mill-mudell lill-bniedem.
2. Bniedem fiċ-Ċiklu bid-Disinn
Is-sistemi kritiċi ta' deċiżjoni tagħna (għall-mediċina, il-liġi, u l-finanzi) huma mfassla biex jipproponu u jiġġustifikaw, qatt biex jiddeċiedu fis-skiet. Aħna nsejħulu l-"Interface Argumentattiv."
L-AI tippreżenta abbozz: "Jien nirrakkomanda li jiġi approvat dan is-self." Iżda tippreżenta wkoll l-argument: "Għax il-proporzjon tad-dejn huwa baxx u l-kollateral huwa għoli." Iġġiegħel lill-espert uman jirrevedi l-passi tal-loġika u japprovahom. Dan iżomm lill-bniedem "fiċ-ċiklu" konjittivament, mhux biss proċeduralment.
3. Debugging Interattiv
Għax il-mudelli tagħna huma trasparenti (Glass Box), l-utenti jistgħu jargumentaw magħhom. Jekk l-AI tgħid "Din hija qattus," l-utent jista' jistaqsi "Għaliex?" L-AI turi l-karatteristiċi li skopriet. L-utent jista' jgħid "Le, dak kelb, ħares lejn il-widnejn."
Dan il-proċess djalejtiku (l-argument 'il quddiem u lura bejn il-bniedem u l-magna) isaħħaħ il-ħsieb kritiku tal-utent. Iħeġġeġ ix-xettiċiżmu. Jipprevjeni l-kumploċenza tal-"Computer Says No."
Nippreservaw is-Sengħa
Għandna bżonn nipproteġu s-"Sengħa." Il-fehim profond u intuwittiv li jiġi mit-tbatija, il-prattika, u l-falliment.
L-AI għandha tieħu l-inkwiet (il-karti, id-dħul tad-data, il-formattjar). Iżda m'għandhiex tieħu l-ħsieb. M'għandhiex tieħu l-ġudizzju.
Jekk nibnu AI li tagħmilna stupid, fallejna bħala speċi. Bnejna kruċċa minflok għodda.
F'Dweve, nibnu għodod li jisfidawna biex inkunu aħjar. Nibnu għodod li jitolbu utenti intelliġenti. Għax il-futur m'għandux ikun biss magni aktar intelliġenti; għandu jkun bnedmin aktar intelliġenti.
Qed tfittex AI li tagħmel lit-tim tiegħek aktar intelliġenti, mhux dipendenti? L-arkitettura tal-Glass Box ta' Dweve u l-Modalità Spjegattiva jiżguraw li l-esperti tiegħek jikbru flimkien mat-teknoloġija. Ikkuntattjana biex tiskopri kif l-intelliġenza awmentata tista' tippreserva u ssaħħaħ il-kompetenza umana fl-organizzazzjoni tiegħek.