Is-sigurtà tal-AI hija kwistjoni tal-matematika, mhux tal-etika.
Id-distrazzjoni tal-etika
Idħol fi kwalunkwe konferenza dwar is-sigurtà tal-AI, u tisma' dibattiti passjonati dwar il-koxjenza, is-sentjenza, u l-oqfsa morali. Għandha l-AI jkollha drittijiet? Kif niżguraw li taqsam il-valuri tagħna? X'jiġri meta ssir aktar intelliġenti minna?
Dawn huma mistoqsijiet filosofiċi interessanti. Huma wkoll qed jitilfu l-punt għal kollox.
Il-kriżi reali tas-sigurtà tal-AI mhijiex dwar l-etika. Hija dwar il-matematika. U waqt li kulħadd inkwetat dwar superintelliġenza ipotetika, is-sistemi tal-AI attwali qed ifallu għal raġunijiet ferm aktar mundani: huma matematiċament miksura.
L-aħbar tajba? Din hija problema li nistgħu fil-fatt insolvu.
Il-kriżi reali tas-sigurtà
Hawn x'tidher tassew is-sigurtà tal-AI fl-2025: Sistema ta' dijanjosi medika li hija korretta 95% tal-ħin fl-ittestjar iżda biss 73% fil-produzzjoni. Algoritmu ta' kummerċ finanzjarju li jaħdem perfettament sakemm il-kundizzjonijiet tas-suq jinbidlu ftit, imbagħad jitlef miljuni. Vettura awtonoma li tikklassifika ħażin sinjal ta' waqfien bħala sinjal tal-limitu tal-veloċità minħabba dawl mhux tas-soltu.
Dawn mhumiex każijiet estremi. Dawn huma fallimenti sistemiċi kkawżati minn instabbiltà matematika fin-newral networks sottostanti.
Kull operazzjoni floating-point tintroduċi żbalji ta' tqarrib. Kull saff jikkomponi dawk l-iżbalji. Kull deċiżjoni hija mibnija fuq pedamenti matematiċi dejjem aktar dgħajfa. U qed niskjeraw dawn is-sistemi f'applikazzjonijiet kritiċi waqt li niddebbattu jekk jistgħux isiru konxji.
Huwa bħal tinkwieta dwar jekk il-karozza tiegħek għandhiex sentimenti waqt li tinjora li l-brejkijiet ma jaħdmux b'mod affidabbli.
Għaliex l-etika ma tistax issalvana
Il-folla tal-etika tal-AI għandha intenzjonijiet tajbin. Iridu jiżguraw li s-sistemi tal-AI jkunu ġusti, trasparenti, responsabbli. Joħolqu oqfsa, linji gwida, prinċipji.
Iżda ma tistax toħroġ minn problema tal-matematika bl-etika.
Newral network li jipproduċi riżultati differenti fuq inputs identiċi mhuwiex kwistjoni ta' etika. Huwa kwistjoni ta' instabbiltà matematika. Sistema li tipproduċi nonsense li jinstema' kunfidenti mhijiex problema ta' allinjament tal-valuri. Hija problema ta' limitazzjoni fit-tqabbil tal-mudelli.
L-oqfsa etiċi jassumu li s-sistema taħdem b'mod korrett fl-ewwel lok. Huma dwar l-għażla tal-azzjoni t-tajba. Iżda meta s-sistema ma tistax tesegwixxi b'mod affidabbli kwalunkwe azzjoni, l-etika hija irrilevanti.
Dan huwa għaliex nibqgħu naraw fallimenti tal-AI minkejja l-kumitati kollha tal-etika u l-linji gwida tas-sigurtà. Qed nittrattaw is-sintomi waqt li ninjoraw il-marda.
Is-soluzzjoni tal-verifikazzjoni formali
Ix-xjenza tal-kompjuter għandha qasam iddedikat biex jipprova li s-sistemi jaħdmu b'mod korrett: metodi formali. Tekniki matematiċi li jivverifikaw b'mod rigoruż l-imġiba tas-softwer. Ipprova, mhux ittestja. Iggarantixxi, mhux stima.
Il-verifikazzjoni formali ilha tintuża għal għexieren ta' snin f'sistemi kritiċi: softwer tal-kontroll tal-ajruplani, ġestjoni ta' reatturi nukleari, navigazzjoni ta' vetturi spazjali. Dawn is-sistemi jeħtieġu ċertezza matematika, mhux kunfidenza statistika.
Għaliex l-AI mhijiex qed tuża l-verifikazzjoni formali? Għaliex in-newral networks floating-point huma matematiċament diffiċli biex jiġu vverifikati.
Ma tistax tipprova proprjetajiet ta' sistema meta s-sistema stess hija mibnija fuq aritmetika approssimattiva. Il-floating-point jintroduċi inċertezza f'kull pass. Dik l-inċertezza tinfirex. Tikkomponi. Issir impossibbli li wieħed jirraġuna dwarha formalment.
Din mhijiex problema ta' għodod. Hija inkompatibbiltà fundamentali bejn il-matematika tan-netwerks newrali u l-matematika tal-verifikazzjoni formali.
Netwerks binarji: AI korretta b'mod provabbli
In-netwerks newrali binarji jibdlu l-ekwazzjoni għal kollox.
Minflok approssimazzjonijiet b'punt li jvarja, in-netwerks binarji jużaw operazzjonijiet diskreti. +1 jew -1. Veru jew falz. Aritmetika eżatta mingħajr żbalji ta' tqarrib.
Dan jagħmilhom adattati għall-verifikazzjoni formali. Tista' tipprova proprjetajiet dwar l-imġiba ta' netwerk binarju. Tista' tiggarantixxi matematikament ċerti riżultati. Toħloq sistemi tal-AI bl-istess rigorożità bħas-softwer tal-kontroll tal-ajruplani.
F'Dweve, bnejna l-pjattaforma kollha tagħna fuq dan il-prinċipju. Core jipprovdi l-qafas binarju. Loom jimplimenta raġunament ibbażat fuq restrizzjonijiet b'proprjetajiet provabbli. Kull operazzjoni hija matematikament eżatta. Kull deċiżjoni hija traċċabbli.
Dan mhux biss aktar affidabbli. Huwa fundamentalment aktar sikur. Sikurezza permezz tar-rigorożità matematika, mhux permezz ta' linji gwida etiċi.
Restrizzjonijiet bħala guardrails ta' sikurezza
Hawn vantaġġ ieħor tan-netwerks binarji: jaħdmu ma' restrizzjonijiet, mhux probabbiltajiet.
Restrizzjoni hija regola iebsa. "Dan il-valur irid ikun pożittiv." "Dan l-output irid jissodisfa dawn il-kundizzjonijiet." In-netwerks binarji jistgħu jinkorporaw restrizzjonijiet direttament fl-arkitettura tagħhom.
Dan ifisser li r-rekwiżiti ta' sikurezza jsiru restrizzjonijiet matematiċi, mhux filtri ta' wara l-ipproċessar. Is-sistema litteralment ma tistax tipproduċi outputs li jiksru r-restrizzjonijiet. Huwa matematikament impossibbli, mhux biss improbabbli.
Qabbel dan man-netwerks newrali tradizzjonali, fejn is-sikurezza hija ħsieb ta' wara. Ħarreġ il-mudell, imbagħad żid il-guardrails. Ittama li l-guardrails jaqbdu l-problemi. Ittratta l-fallimenti meta jgħaddu minn bejniethom.
L-AI bbażata fuq restrizzjonijiet tibni s-sikurezza fil-matematika. Hija d-differenza bejn karozza b'bbrejkijiet tajbin u karozza li fiżikament ma tistax taqbeż veloċitajiet sikuri.
Il-problema tal-allinjament (attwalment solvuta)
Il-problema tal-allinjament tal-AI tistaqsi: kif niżguraw li s-sistemi tal-AI jagħmlu dak li rridu?
L-approċċ attwali: ħarreġ fuq feedback uman, żid aktar eżempji, ittama li l-mudelli statiċi jaqbdu l-valuri umani. Huwa fundamentalment probabbilistiku. Fundamentalment inċert.
In-netwerks binarji b'raġunament ibbażat fuq restrizzjonijiet joffru approċċ differenti: speċifika dak li trid matematikament. Is-sistema trid tissodisfa dawk ir-restrizzjonijiet. Mhux "normalment" jew "b'kunfidenza ta' 99.9%." Trid tissodisfahom. Garantit matematikament.
Dan ma jsolvix l-allinjament filosofiku. Jekk tispeċifika restrizzjonijiet żbaljati, ikollok imġiba żbaljata. Iżda jsolvi l-allinjament tekniku. Jekk tista' tifformalizza dak li trid, is-sistema tagħmel eżattament dak. L-ebda drift. L-ebda ġeneralizzazzjoni mhux mistennija. L-ebda allinjament ħażin emerġenti.
Il-parti diffiċli tinbidel minn "kif nagħmluha affidabbli" għal "kif nispeċifikaw dak li rridu." Dik hija problema ħafna aħjar li jkollok.
Deterministiku huwa sikur
Waħda mill-karatteristiċi ta' sikurezza l-aktar sottovalutati tan-netwerks binarji: huma deterministiċi.
L-istess input dejjem jipproduċi l-istess output. Mexxi s-sistema miljun darba, ikollok riżultati identiċi. Dan jidher bażiku, iżda huwa profond għas-sikurezza.
L-ittestjar fil-fatt ifisser xi ħaġa. Jekk test jgħaddi, l-istess input dejjem jgħaddi. Tista' tiċċertifika l-imġiba. Bini tal-fiduċja permezz tar-ripetibbiltà.
Netwerks b'punt li jvarja (floating-point) m'għandhomx dan. L-istess input jista' jipproduċi outputs differenti skont il-hardware, il-verżjonijiet tas-software, saħansitra l-ordni tal-operazzjonijiet. L-ittestjar jagħtik kampjun statistiku, mhux garanzija.
Għal sistemi kritiċi, id-determiniżmu huwa sigurtà. Għandek bżonn tkun taf eżattament x'se tagħmel is-sistema, kull darba, f'kull ċirkustanza. Netwerks binarji jipprovdu dan. Netwerks b'punt li jvarja fundamentalment ma jistgħux.
Interpretabbiltà permezz ta' restrizzjonijiet
Kulħadd irid AI interpretabbli. Jekk ma nistgħux nifhmu għaliex sistema ħadet deċiżjoni, kif nistgħu nafdawha?
Il-problema bin-netwerks newrali b'punt li jvarja: huma kaxxi suwed. Biljuni ta' parametri, interazzjonijiet kumplessi, l-ebda triq ta' deċiżjoni ċara. Anki r-riċerkaturi li bnewhom ma jistgħux jispjegaw outputs speċifiċi.
Netwerks binarji b'raġunament ibbażat fuq restrizzjonijiet huma inherentament aktar interpretabbli. Is-sistema tiċċekkja r-restrizzjonijiet. Tista' tara liema restrizzjonijiet ġew sodisfatti, liema ma ġewx, kif id-deċiżjoni segwiet mir-restrizzjonijiet.
Mhux trasparenza perfetta. Sistemi kumplessi għadhom kumplessi. Iżda hija d-differenza bejn "il-mudell assenja probabbiltà 0.87 ibbażata fuq mudelli mgħallma" u "id-deċiżjoni ssodisfat ir-restrizzjonijiet A, B, u Ċ, iżda kisret ir-restrizzjoni D, għalhekk intgħażel output X."
Waħda hija statistika opaka. L-oħra hija raġunament loġiku li tista' ssegwi u tivverifika.
Sigurtà permezz tal-arkitettura
Il-komunità tas-sigurtà tal-AI tonfoq sforz enormi fuq miżuri ta' sigurtà wara l-fatt. Taħriġ ta' allinjament, irfinar tas-sigurtà, filtrazzjoni tal-output, superviżjoni umana.
Dawn huma faxex fuq arkitetturi fundamentalment mhux sikuri. Qed tipprova tagħmel sistema instabbli stabbli permezz ta' kontrolli esterni.
Netwerks newrali binarji jirrappreżentaw paradigma differenti: sigurtà permezz tal-arkitettura. Il-fundamenti matematiċi huma stabbli. L-operazzjonijiet huma eżatti. Ir-restrizzjonijiet huma mibnija fihom. Is-sigurtà mhix miżjuda fuq nett; hija integrali għad-disinn.
L-arkitettura ta' Dweve Core turi dan il-prinċipju. 1,930 algoritmu, kollha matematikament rigorużi. 415 primittiv, 500 kernel, 191 saff, 674 algoritmu ta' livell ogħla. Kull wieħed iddisinjat għall-istabbiltà u l-verifikabbiltà.
Loom 456 jibni fuq dan il-fundament b'456 speċjalista fil-qasam, kull wieħed jimmaniġġja tipi speċifiċi ta' raġunament. Attivazzjoni skarsa tfisser li biss speċjalisti rilevanti fil-qasam jinvolvu ruħhom. Loġika bbażata fuq restrizzjonijiet tfisser li l-outputs iridu jissodisfaw rekwiżiti formali.
Din hija sigurtà tal-AI fil-livell arkitettoniku, mhux fil-livell tal-politika.
Il-vantaġġ Ewropew
L-Ewropa għandha regolamenti stretti dwar is-sigurtà tal-AI. GDPR, l-AI Act, liġijiet tal-protezzjoni tad-data. Dawn joħolqu piżijiet ta' konformità għal sistemi li ma jistgħux jiggarantixxu l-imġiba.
Iżda joħolqu opportunitajiet għal sistemi li jistgħu.
Netwerks newrali binarji b'verifikazzjoni formali jistgħu fil-fatt jikkonformaw mar-rekwiżiti regolatorji. Ipprova l-ġustizzja. Uri n-nuqqas ta' diskriminazzjoni. Iggarantixxi l-immaniġġjar tad-data. Uri l-awditabbiltà.
Netwerks newrali tradizzjonali ma jistgħux jagħmlu dan. Jistgħu juru proprjetajiet statistiċi, jipprovdu eżempji, joffru assigurazzjonijiet probabbilistiċi. Iżda ma jistgħux jippruvaw xejn matematikament.
Dan ifisser li kumpaniji Ewropej tal-AI li jużaw netwerks binarji għandhom vantaġġ regolatorju. Jistgħu jiċċertifikaw is-sikurezza b'modi li s-sistemi b'punt li jvarja sempliċement ma jistgħux jaqblu magħhom.
Il-konformità ssir vantaġġ kompetittiv minflok piż.
Rekwiżiti regolatorji Ewropej (għaliex il-matematika hija importanti legalment)
L-Artikolu 13 tal-Att dwar l-AI tal-UE jeħtieġ dokumentazzjoni teknika li turi konformità mar-rekwiżiti tas-sikurezza. L-Artikolu 15 jitlob preċiżjoni, robustezza, u miżuri taċ-ċibersigurtà. Dawn ir-rekwiżiti joħolqu sfidi għal sistemi fejn l-imġiba ma tistax tiġi ppruvata formalment.
Sfidi taċ-ċertifikazzjoni għall-AI kritika għas-sikurezza: Korpi taċ-ċertifikazzjoni Ġermaniżi bħal TÜV jeħtieġu speċifikazzjonijiet formali għall-AI f'applikazzjonijiet kritiċi. Riżultati ta' testijiet statistiċi ("preċiżjoni ta' 99%") jipprovdu assigurazzjonijiet differenti minn provi matematiċi ta' sodisfazzjon ta' restrizzjonijiet. Sistemi li jistgħu jipprovdu garanziji formali jiffaċċjaw toroq taċ-ċertifikazzjoni aktar faċli minn dawk li jiddependu biss fuq validazzjoni empirika.
Regolament dwar Apparat Mediku (MDR): Dijanjostiċi bbażati fuq l-AI li jeħtieġu l-marka CE għandhom juru sikurezza permezz ta' metodoloġija rigoruża. Ir-rekwiżiti tal-MDR għal imġiba prevedibbli u verifikabbli jirriżultaw ta' sfida għal netwerks newrali bi stokastiċità inerenti. Sistemi li joffru garanziji deterministiċi jallinjaw aħjar mar-rekwiżiti taċ-ċertifikazzjoni mfassla għal apparat mediku fejn is-sikurezza hija ta' importanza kbira.
Standards tas-sikurezza aerospazjali: Iċ-ċertifikazzjoni DO-178C għal softwer avjoniku kritiku għas-sikurezza, partikolarment il-Livell A (fejn il-falliment għandu konsegwenzi katastrofiċi), teħtieġ metodi formali li jippruvaw il-korrettezza. In-natura probabbilistika tan-netwerks newrali tradizzjonali tikkunfliġġi fundamentalment mar-rekwiżiti tad-DO-178C. Dan joħloq ostakli għall-iskjerament tal-AI f'sistemi kritiċi għat-titjira sakemm ma jintużawx arkitetturi alternattivi b'kapaċitajiet ta' verifikazzjoni formali.
Regolazzjoni finanzjarja: Il-MiFID II jeħtieġ li sistemi ta' kummerċ algoritmiku juru kontrolli li jipprevjenu l-manipulazzjoni tas-suq. Il-prova tal-assenza ta' imġiba speċifika matematikament tiddifferixxi sostanzjalment milli turi rati baxxi ta' okkorrenza empirika. Sistemi b'speċifikazzjonijiet formali ta' restrizzjonijiet jistgħu jipprovdu argumenti ta' konformità aktar b'saħħithom minn dawk fejn l-imġiba toħroġ minn tagħlim statistikament biss.
Kif taħdem fil-fatt il-verifikazzjoni formali
Il-verifikazzjoni formali tapplika tekniki ta' prova matematika biex tiggarantixxi l-proprjetajiet ta' sistemi tal-AI.
Approċċ ta' kodifikazzjoni ta' restrizzjonijiet: Ikkunsidra AI għad-dijanjosi medika li qatt ma trid tirrakkomanda trattamenti kontraindikati għall-mediċini tal-pazjent. Approċċ tradizzjonali: tħarreġ il-mudell, ittestja b'mod estensiv,ittama li jitgħallem ir-restrizzjoni, żid filtri ta' sigurtà. Approċċ ibbażat fuq restrizzjonijiet: ikkodifika r-rekwiżit matematikament bħala restrizzjoni iebsa. L-ispazju tas-soluzzjonijiet tas-sistema jeskludi b'mod espliċitu l-kombinazzjonijiet kontraindikati, mhux 99.99% sigur, iżda matematikament impossibbli li jinkiser.
Rekwiżiti ta' sigurtà fil-karozzi: L-istandard ta' sigurtà funzjonali ISO 26262 għas-sistemi tal-karozzi jeħtieġ li tiġi ppruvata l-mitigazzjoni tal-perikli. Id-differenza bejn "skopra 99.8% tal-pedestrians fl-ittestjar" versus "jista' jipprova l-iskoperta tal-pedestrians kollha li jissodisfaw il-kriterji ta' viżibilità X fil-latenza Y" tirrappreżenta livelli ta' assigurazzjoni fundamentalment differenti. L-ewwel wieħed huwa evidenza empirika; it-tieni wieħed huwa prova matematika. Iċ-ċertifikazzjoni ASIL-D (l-ogħla livell ta' integrità tas-sigurtà fil-karozzi) titlob assigurazzjonijiet fil-livell ta' prova li l-ittestjar statistiku waħdu ma jistax jipprovdi.
Standards ta' awtomazzjoni industrijali: L-IEC 61508 jeħtieġ Safety Integrity Level (SIL) 3 jew 4 għal sistemi industrijali kritiċi. Is-SIL 4 jitlob li tintwera probabbiltà ta' <10⁻⁸ ta' ħsara perikoluża kull siegħa. L-istokastiċità inerenti tat-tagħlim tal-magni tradizzjonali tipprevjeni garanziji formali f'dan il-livell. Sistemi li jeħtieġu ċertifikazzjoni SIL 4 għandhom bżonn provi matematiċi tal-limiti tal-ħsara, tekniki ta' verifikazzjoni li japplikaw għal sistemi deterministiċi bbażati fuq restrizzjonijiet iżda mhux għal networks newrali probablistiċi.
Implikazzjonijiet kummerċjali tal-verifikazzjoni tas-sigurtà
Il-verifikazzjoni matematika tas-sigurtà toħloq dinamika kummerċjali lil hinn mill-konformità regolatorja.
Akkwist u aċċess għas-suq: L-akkwist pubbliku Ewropew dejjem aktar jeħtieġ ċertifikazzjoni dimostrabbli tas-sigurtà tal-AI għal applikazzjonijiet ta' riskju għoli. Sistemi li ma jistgħux jipprovdu garanziji formali ta' sigurtà jiffaċċjaw esklużjoni mis-sejħiet għall-offerti irrispettivament mill-prestazzjoni empirika. L-aċċess għas-suq isir determinat mill-abbiltà li jingħataw provi matematiċi, mhux biss riżultati impressjonanti tat-testijiet.
Kunsiderazzjonijiet ta' assigurazzjoni u responsabbiltà: Il-valutazzjoni attwarjali tar-riskji tas-sistemi tal-AI tirriżulta ta' sfida meta l-imġiba ma tistax tiġi ppruvata formalment. Il-kopertura tal-assigurazzjoni għal applikazzjonijiet kritiċi, dijanjosi mediċi, vetturi awtonomi, awtomazzjoni industrijali, dejjem aktar teħtieġ li s-sistemi juru proprjetajiet formali ta' sigurtà. Dan joħloq qasma: sistemi b'garanziji matematiċi jsiru assigurabbli; sistemi purament statiistiċi jiffaċċjaw diffikultajiet fil-kopertura jew primjums projbittivi.
Kronoloġiji ta' ċertifikazzjoni: Jitfaċċa mudell kontrointuwittiv: sistemi b'verifikazzjoni formali jistgħu jiksbu approvazzjoni regolatorja aktar malajr minn dawk li jiddependu fuq ittestjar empiriku estensiv. Il-prova formali tipprovdi toroq ta' ċertifikazzjoni deterministiċi: ipprova li r-restrizzjonijiet huma sodisfatti, irċievi l-approvazzjoni. Approċċi empiriċi jiffaċċjaw ċikli ta' ttestjar iterattivi u mistoqsijiet regolatorji dwar każijiet estremi li l-validazzjoni statistika ma tistax twieġeb b'mod definittiv. Iċ-ċertezza matematika tista' taċċellera aktar milli tittardja l-iskjerament.
Dinamika tal-fiduċja tal-klijenti: Klijenti korporattivi Ewropej dejjem aktar jitolbu AI spjegabbli, partikolarment f'kuntesti B2B. "Għaliex is-sistema ħadet din id-deċiżjoni?" tevolvi minn xi ħaġa sabiħa li jkollok għal fattur deċiżiv. Sistemi b'raġunament ibbażat fuq restrizzjonijiet jistgħu jipprovdu spjegazzjonijiet loġiċi; networks newrali ta' kaxxa sewda ma jistgħux. Il-fiduċja tikkorrelata mal-fehim, u l-matematika tippermetti fehim b'modi li l-mudelli statiistiċi mgħallma ma jagħmlux.
Implimentazzjoni teknika: kif ir-restrizzjonijiet jiggarantixxu s-sigurtà
Il-mekkaniżmi tas-sigurtà bbażata fuq il-vinċoli jixirqilhom spjegazzjoni. Kif eżattament il-matematika tipprevjeni fallimenti tal-AI?
Kodifikazzjoni tal-vinċoli: Ir-rekwiżiti tas-sigurtà jiġu tradotti fi vinċoli matematiċi qabel it-taħriġ. Mhux "il-mudell għandu jevita X", dik hi xewqa. "L-ispazju tal-output jeskludi X", dik hi matematika. Eżempju ta' dijanjosi medika: trattament T kontraindikat bil-medikazzjoni M isir vinċol C: ¬(jirrakkomanda(T) ∧ il-pazjent jieħu(M)). Is-sistema litteralment ma tistax toħroġ soluzzjonijiet li jiksru C. L-ispazju tas-soluzzjoni definit bil-vinċoli. Kull output possibbli jrid jissodisfa l-vinċoli kollha. Outputs impossibbli mhumiex improbabli; huma matematikament esklużi.
Proċess ta' verifikazzjoni: Wara t-taħriġ, għodod formali ta' verifikazzjoni jippruvaw li l-vinċoli huma sodisfatti. Iċċekkjar ta' mudelli, prova ta' teoremi, soluzzjoni ta' sodisfabbiltà, tekniki mill-metodi formali. Għal networks binarji: kalkolu trattabbli. Għal networks b'punt li jvarja: intrattabbli. Il-verifikazzjoni tipproduċi prova matematika: "Għal kull input validu I, l-outputs kollha O jissodisfaw il-vinċoli C." Mhux dikjarazzjoni statistika. Kwantifikazzjoni universali fuq l-ispazju tal-input. Ir-regolaturi Ewropej jifhmu d-differenza. Waħda hi evidenza. L-oħra hi prova.
Garanziji fil-ħin tal-eżekuzzjoni: Il-vinċoli ma jillimitawx biss it-taħriġ; jillimitaw kull inferenza. Kull deċiżjoni tgħaddi minn kontrollur ta' vinċoli. Output propost, vinċoli vverifikati, biss outputs konformi jitħallew. Iżid dewmien? Minimu: operazzjonijiet binarji huma veloċi. Iżid sigurtà? Assoluta: impossibbiltà matematika ta' ksur tal-vinċoli. L-analiżi tal-kost-benefiċċju hi ovvja: mikrosekondi ta' kontroll kontra fallimenti katastrofiċi minn outputs mingħajr vinċoli.
Sigurtà kompożizzjonali: Vinċoli multipli jikkomponu matematikament. Vinċol ta' sigurtà S1 flimkien ma' vinċol ta' ekwità F1 flimkien ma' vinċol ta' prestazzjoni P1: is-sistema trid tissodisfa S1 ∧ F1 ∧ P1 simultanjament. Approċċi tradizzjonali: tħarreġ għas-sigurtà, terġa' tħarreġ għall-ekwità, u ttama li l-prestazzjoni ma tiddegradax. Ibbażat fuq il-vinċoli: speċifika r-rekwiżiti kollha minn qabel, sib soluzzjoni li tissodisfa l-konġunzjoni. Mhux dejjem teżisti: kultant il-vinċoli jikkonfliġġu. Iżda li tiskopri l-impossibbiltà waqt id-disinn huwa aħjar milli tiskopriha waqt l-iskjerament. Il-matematika ġġiegħel l-onestà dwar il-kompromessi.
Analiżi ta' każijiet ta' falliment: Meta sistemi bbażati fuq il-vinċoli jfallu, il-mod ta' falliment huwa fundamentalment differenti. Networks newrali tradizzjonali: fallimenti siekta, outputs plawsibbli imma żbaljati, ebda indikazzjoni ta' inċertezza. Sistemi bbażati fuq il-vinċoli: sejbien espliċitu ta' ksur tal-vinċoli. Is-sistema tirrikonoxxi li ma tistax tissodisfa l-vinċoli kollha, tirrifjuta l-output, tirrapporta liema vinċol falla. Falliment difensiv: is-sistema taf li ma tafx. Eżempju ta' dijanjosi medika: sistema tradizzjonali tista' toħroġ dijanjosi minkejja informazzjoni insuffiċjenti. Sistema bbażata fuq il-vinċoli tiskopri ksur tal-vinċol tal-informazzjoni, u toħroġ "dejta insuffiċjenti għad-dijanjożi" minflok. Mhux dejjem konvenjenti. Dejjem sigura. Ir-regolaturi Ewropej tal-apparat mediku jippreferu inkonvenjenza sigura għal katastrofi konvenjenti. L-Amerikani qed jitgħallmu din il-lezzjoni bi spiża kbira.
Lil hinn mill-biża', lejn iċ-ċertezza
Id-dibattitu dwar is-sigurtà tal-AI huwa ddominat mill-biża'. Biża' ta' sistemi inkontrollabbli. Biża' ta' allinjament ħażin. Biża' ta' konsegwenzi mhux intenzjonati.
Dawn il-biżgħat huma validi. Iżda huma sintomi ta' inċertezza matematika. Meta l-AI tiegħek tkun mibnija fuq pedamenti instabbli, ovvjament tkun imħasseb dwar x'tista' tagħmel.
Netwerks newrali binarji joffru xi ħaġa differenti: ċertezza matematika. Mhux ċertezza dwar kull riżultat, iżda ċertezza dwar il-proprjetajiet matematiċi tas-sistema. Ċertezza li l-kundizzjonijiet se jkunu sodisfatti. Ċertezza li l-imġiba tkun riproduċibbli.
Dan ibiddel il-konversazzjoni minn "kif nikkontrollaw din is-sistema imprevedibbli" għal "kif nispeċifikaw imġiba korretta." Mill-biża' għall-inġinerija.
Istituzzjonijiet Ewropej diġà qegħdin jagħmlu din it-tranżizzjoni. L-Istitut Max Planck għall-Intelliġenza Artifiċjali qed jiffoka fuq riċerka ta' verifikazzjoni formali. INRIA Franċiż qed jimplimenta AI bbażata fuq kundizzjonijiet f'sistemi tal-gvern. L-istituti Fraunhofer Ġermaniżi qed jiżviluppaw AI ċertifikabbli għal applikazzjonijiet industrijali. Mhux għax ir-regolamentazzjoni timponiha, iżda għax il-matematika tippermettiha. Meta tista' tipprova s-sigurtà, m'għandekx għalfejn tiddebattiha. Meta tista' tiggarantixxi l-imġiba, m'għandekx għalfejn titama fiha. Il-biża' tonqos meta l-pedamenti jkunu sodi.
It-triq vera għal AI sigura
Is-sigurtà tal-AI mhijiex dwar kuxjenza, sensazzjoni, jew allinjament ta' valuri fis-sens filosofiku astratt. Hija dwar il-bini ta' sistemi li jagħmlu dak li suppost jagħmlu, b'mod affidabbli, kull darba.
L-etika importanti. Iżda l-etika mingħajr pedamenti matematiċi hija biss xewqat. Ma tistax tirregola triqtek lejn AI sigura jekk il-matematika sottostanti tkun miksura.
It-triq 'il quddiem hija ċara: ibni l-AI fuq pedamenti matematiċi sodi. Uża arkitetturi li jappoġġjaw verifikazzjoni formali. Inkorpora l-kundizzjonijiet direttament fid-disinn. Agħmel is-sigurtà intrinsika, mhux estrinseka.
In-netwerks newrali binarji mhumiex soluzzjoni kompleta għat-tħassib kollu dwar is-sigurtà tal-AI. Iżda jsolvu l-problema fundamentali: l-instabbiltà matematika. U dik hija l-prerekwiżit għal kull ħaġa oħra.
Ma tistax tallinja sistema li ma taħdimx b'mod affidabbli. Ma tistax tieħu deċiżjonijiet etiċi b'għodod li jipproduċu riżultati inkonsistenti. Ma tistax tibni AI ta' fiduċja fuq art matematika mħawda.
Iżda tista' tibni sistemi provabbilment siguri b'matematika rigoruża. Tista' toħloq AI li tissodisfa l-kundizzjonijiet bid-disinn. Tista' tiżviluppa teknoloġija fejn is-sigurtà hija garantita, mhux mistennija.
Dak huwa dak li joffri l-pjattaforma ta' Dweve. Rigor matematiku. Verifikabbiltà formali. Sigurtà bbażata fuq kundizzjonijiet. Mhux permezz ta' oqfsa etiċi, iżda permezz ta' matematika aħjar.
Il-kriżi tas-sigurtà tal-AI hija reali. Iżda hija problema tal-matematika, mhux problema tal-filosofija. U l-problemi tal-matematika għandhom soluzzjonijiet matematiċi.
L-Ewropa fehmet dan mill-bidu nett. Sekli ta' diżastri fl-inġinerija għallmu lezzjoni sempliċi: it-tama mhijiex strateġija, l-ittestjar mhuwiex prova, u l-intenzjonijiet tajbin ma jipprevjenux fallimenti katastrofiċi. Il-matematika tagħmel dan. Il-kumpaniji Ewropej tal-AI li qed jibnu fuq dan il-pedament mhumiex imfixkla mir-regolamentazzjoni; huma megħjuna minnha. Meta s-sigurtà tkun garantita matematikament, l-implimentazzjoni taċċellera. Meta l-imġiba tkun verifikata formalment, il-fiduċja ssegwi b'mod naturali. Il-futur tal-AI mhuwiex dibattiti filosofiċi dwar il-kuxjenza. Huwa matematika rigoruża li tiżgura li s-sistemi jaħdmu b'mod korrett. L-approċċ Ewropew ma kienx difensiv. Kien korrett mill-bidu nett.
Lest għal AI li tista' verament tafda fiha? In-netwerks newrali binarji formalment verifikabbli ta' Dweve Core qed jiġu. Sigurtà permezz tal-matematika, mhux permezz tat-tama. Ingħaqad mal-lista ta' stennija tagħna.