Verifikazzjoni Formali: L-Uniku Mod biex Tissodisfa r-Regolaturi tal-AI
Il-Konversazzjoni li Qatt Ma Tmur Tajjeb
Immaġina din ix-xena. Tiġri kull ġimgħa fil-kmamar tal-bordijiet madwar l-Ewropa, fil-laqgħat ta' reviżjoni tal-FDA, fl-uffiċini tal-assigurazzjoni. Inġinier tal-AI jippreżenta s-sistema l-ġdida tiegħu lir-regolaturi, lill-avukati, jew lil dawk li jivvalutaw ir-riskju.
"Il-pompa tal-insulina awtonoma tagħna kisbet preċiżjoni ta' 99.97% f'50 miljun xenarju ta' ttestjar," iħabbar l-inġinier b'kburija, waqt li jikklikkja fuq slide mimli metriċi impressjonanti. "L-aħħar teknoloġija. Aħjar minn kwalunkwe endokrinologu uman."
Il-kamra tiskot. Ir-regolatur jitmejjel 'il quddiem.
"Allura qed tgħidli," tgħid hi bil-mod, "li minn kull 10,000 doża ta' insulina li tamministra din l-apparat... tlieta minnhom jistgħu jkunu ħżiena?"
L-inġinier joqgħod skomdu. "Ukoll, statistikament..."
"Fil-Ġermanja biss, madwar 7 miljun ruħ għandhom id-dijabete li teħtieġ terapija bl-insulina. Jekk kull persuna tirċievi biss erba' dożi kuljum, dak ifisser 28 miljun amministrazzjoni kuljum. Bir-rata ta' żball tiegħek ta' 0.03%..." Hija tagħmel il-kalkolu fuq in-notepad tagħha. "Dak ifisser 8,400 żball potenzjali fid-dożaġġ. Kull jum wieħed."
"Imma ħafna minn dawk ma jkunux sinifikanti klinikament..."
"Tista' tgħidli liema minnhom ikunu?"
Is-skiet.
"Tista' tgħidli meta se jseħħ il-falliment li jmiss? Tista' tgħidli għaliex se jfalli?"
Iktar skiet.
"Mela jiddispjaċini, imma ma nistgħux napprovaw dan l-apparat."
Din il-konversazzjoni, f'forom differenti, isseħħ kontinwament hekk kif l-AI timxi mil-laboratorji tar-riċerka għad-dinja fiżika. U tiżvela distakk epistemoloġiku fundamentali bejn kif l-inġiniera tal-AI jaħsbu dwar is-sigurtà u kif ir-regolaturi, l-avukati, u l-qrati jaħsbu dwarha.
Il-Barriera tal-Lingwa Li Mhijiex Dwar il-Lingwa
Meta l-inġinier tal-AI jgħid "99.97% preċiż," huwa tassew jemmen li qed jiddeskrivi xi ħaġa impressjonanti u sigura. Fid-dinja tal-benchmarks tat-tagħlim tal-magni, dak in-numru jkun iċċelebrat. Jkunu ppubblikati karti xjentifiċi. L-investituri jkunu eċċitati.
Imma r-regolatur jisma' xi ħaġa kompletament differenti. Jisma': "Hemm probabbiltà żgħira imma mhux żero li dan is-sistema se tfalli b'mod katastrofiku, u m'għandna l-ebda idea meta, fejn, jew għaliex se jiġri dan."
Din mhijiex problema ta' komunikazzjoni. Mhijiex li l-inġiniera jeħtieġu ħiliet aħjar ta' preżentazzjoni jew li r-regolaturi jeħtieġu edukazzjoni teknika. Hija ħabta fundamentali bejn żewġ kunċetti differenti ta' xi tfisser tassew "tkun taf li xi ħaġa taħdem."
Fis-softwer tal-konsumatur, l-approċċi probablistiċi huma perfettament aċċettabbli. Jekk Netflix jirrakkomanda film li tobgħod, ħadd ma jmut. Jekk Spotify jissuġġerixxi kanzunetta li ma taqbilx mal-gosti tiegħek, l-agħar każ huwa fastidju ħafif. Dawn is-sistemi jistgħu jaffordjaw li jkunu żbaljati xi kultant għaliex l-ispiża tal-falliment hija trivjali.
Imma l-AI qed timxi malajr lil hinn mir-rakkomandazzjonijiet tal-konsumatur f'oqsma fejn il-falliment għandu konsegwenzi fiżiċi, legali, u morali: vetturi awtonomi li jieħdu deċiżjonijiet fi frazzjoni ta' sekonda dwar pedonali, apparat mediku li jikkalkula dożi ta' mediċini, robots industrijali li jaħdmu ma' ħaddiema umani, sistemi finanzjarji li japprovaw jew jiċħdu kreditu li jiddetermina jekk familji jistgħux jixtru djar.
F'dawn l-oqsma, "pjuttost ċert li jaħdem" mhuwiex biżżejjed. Il-qrati ma jaċċettawx distribuzzjonijiet ta' probabbiltà bħala evidenza. L-attwarji tal-assigurazzjoni ma jistgħux jipprezzaw poloz għal modi ta' falliment mhux magħrufa. Ir-regolaturi ma jistgħux japprovaw apparat li jista' joqtol nies għal raġunijiet li ħadd ma jista' jispjega.
Għaliex l-Ittestjar, Kemm Jista' Jkun Estensiv, Ma Jistax Jipprovdi Sigurtà
Il-paradigma dominanti fl-evalwazzjoni tal-AI llum hija l-ittestjar empiriku fuq settijiet ta' dejta mwarrba. Tħarreġ il-mudell tiegħek fuq is-Sett ta' Dejta A, imbagħad tevalwah fuq is-Sett ta' Dejta B. Jekk jaħdem tajjeb fuq B, tassumi li "tgħallem" il-kompitu sottostanti u se jiġġeneralizza għall-użu fid-dinja reali.
Dan l-approċċ għandu tliet problemi fundamentali li l-ebda ammont ta' ttestjar ma jista' jsolvi.
L-Ewwel Problema: L-Ispazju Infinit tal-Input
L-ittestjar jista' juri biss il-preżenza ta' bugs, qatt l-assenza tagħhom. Ma jimpurtax kemm tmexxi każijiet ta' ttestjar, qed tieħu kampjun minn spazju infinit ta' input. Sistema li tikkontrolla apparat mediku trid timmaniġġja mhux biss ix-xenarji tat-test li immaġinajt, imma kull kombinazzjoni possibbli ta' fiżjoloġiji tal-pazjenti, kundizzjonijiet ambjentali, qari tas-sensuri, u każijiet estremi li d-dinja reali eventwalment se tipproduċi.
Immaġina li tipprova turi li m'hemmx labar f'munzell ta' tiben billi tiġbor biċċiet ta' tiben bl-addoċċ. Wara li teżamina miljun biċċa u ma ssib l-ebda labra, ma tistax tikkonkludi li l-munzell huwa ħieles mil-labar. Tista' tgħid biss li għadek ma sibtx waħda. L-ittestjar jaħdem bl-istess mod. Ma jimpurtax kemm xenarji jgħaddu, li jmiss jista' jfalli.
It-Tieni Problema: Il-Vulnerabbiltà Avversarja
In-netwerks newrali fondi huma partikolarment vulnerabbli għal inputs avversarji. Dawn huma perturbazzjonijiet imfassla bir-reqqa li jikkawżaw li l-mudelli jfallu b'mod katastrofiku filwaqt li jidhru normali għall-osservaturi umani.
Mudell jista' jikklassifika b'mod korrett is-sinjali ta' waqfien 99.99% tal-ħin, iżda stiker żgħira mqiegħda f'post speċifiku tista' tikkawżalu jikklassifika s-sinjal b'kunfidenza bħala sinjal tal-limitu tal-veloċità. Mudell jista' jidentifika b'mod preċiż kundizzjonijiet mediċi f'eluf ta' raġġi-X, iżda mudell speċifiku ta' ħoss, inviżibbli għar-radjoloġisti umani, jista' jikkawżalu jitlef tumuri ovvji.
Dawn mhumiex tħassib teoretiku. Ir-riċerkaturi wrew attakki avversarji kontra kull klassi ewlenija ta' arkitettura ta' netwerks newrali. U l-attakki qed isiru aktar faċli biex jinbnew filwaqt li d-difiżi jibqgħu mhux kompluti.
L-ittestjar ma jistax jipproteġi kontra vulnerabbiltajiet avversarji għaliex il-wiċċ tal-attakk huwa infinit. Ikollok bżonn tittestja mhux biss inputs normali, iżda kull perturbazzjoni possibbli ta' kull input normali. Dan huwa matematikament impossibbli.
Problema Tlieta: Iċ-Ċaqliq Distribuzzjonali
Id-dinja reali ma toqgħodx wieqfa. Id-distribuzzjoni tad-dejta li fuqha ġie mħarreġ il-mudell tiegħek se tinbidel maż-żmien. Il-popolazzjonijiet tal-pazjenti jinbidlu. Il-kundizzjonijiet tas-sewqan jevolvu. Il-proċessi tal-manifattura jvarjaw. Id-degradazzjoni tas-sensuri sseħħ.
Mudell li jaħdem perfettament fuq id-dejta tal-lum jista' jonqos fis-skiet meta d-dejta ta' għada tinbidel 'il barra mid-distribuzzjoni tat-taħriġ tiegħu. U b'differenza mill-iżbalji espliċiti li jkissru l-programmi, dawn il-fallimenti spiss jipproduċu outputs kunfidenti, plawsibbli, iżda żbaljati.
L-ittestjar fuq id-dejta tal-lum ma jgħidlek xejn dwar il-prestazzjoni ta' għada. Sakemm tosserva l-falliment fil-produzzjoni, il-ħsara diġà seħħet.
Verifikazzjoni Formali: Il-Matematika bħala l-Lingwa Universali tas-Sigurtà
Il-verifikazzjoni formali toffri approċċ kompletament differenti. Minflok tistaqsi "kienet taħdem is-sistema fuq dawn il-każijiet tat-test?" tistaqsi "nistgħu nippruvaw matematikament li s-sistema tissodisfa proprjetà għall-inputs kollha possibbli?"
Id-distinzjoni hija profonda. L-ittestjar jieħu kampjuni mill-ispazju tal-input. Il-verifikazzjoni tirraġuna b'mod eżawrjenti dwar l-ispazju kollu.
Ikkunsidra driegħ robotiku li jaħdem maġenb il-bnedmin f'fabbrika. Irridu niggarantixxu proprjetà ta' sigurtà: "Id-driegħ qatt m'għandu jaqbeż iż-2 metri kull sekonda meta jinstab bniedem fi ħdan metru wieħed."
L-approċċ tal-ittestjar imexxi d-driegħ permezz ta' eluf ta' xenarji b'bnedmin simulati f'pożizzjonijiet u veloċitajiet varji, u jkejjel jekk il-limitu tas-sigurtà qatt jinkisirx. Jekk ma jiġu osservati l-ebda ksur, is-sistema tiġi ddikjarata "sigura." Iżda x-xenarju li jmiss, dak li ma ġiex ittestjat, jista' jkun dak li jweġġa' ħaddiem.
L-approċċ tal-verifikazzjoni huwa fundamentalment differenti. Nieħdu l-mudell matematiku tas-sistema ta' kontroll, inkluża n-netwerk newrali li jipproċessa d-dejta tas-sensuri u l-kontrollur li jiġġenera l-kmandi tal-mutur. Nesprimu l-proprjetà tas-sigurtà bħala restrizzjoni formali. Imbagħad nużaw algoritmi speċjalizzati msejħa solvers SMT (Satisfiability Modulo Theories) biex inwieġbu mistoqsija preċiża: "Jeżisti XI kwalunkwe konfigurazzjoni ta' input, fil-medda operattiva valida, li għaliha l-veloċità tal-ħruġ taqbeż iż-2 m/s meta tinstab il-prossimità ta' bniedem?"
Is-solver ma jittestjax punti każwali. Janalizza l-istruttura matematika tas-sistema kollha. Jirraġuna dwar il-ġeometrija tal-ispazju tal-funzjoni. Jekk jirritorna "UNSAT" (mhux sodisfabbli), għandna prova matematika li ma jeżisti l-ebda input bħal dan li jikser il-kundizzjoni. Il-proprjetà tas-sigurtà ma tżommx biss għall-każijiet li ttestjajna, iżda għal kull każ possibbli li jista' qatt iseħħ.
Din hija d-differenza bejn "Iċċekkjajt ħafna pontijiet u l-ebda wieħed ma ġġarraf" u "Il-fiżika ta' dawn il-materjali tiggarantixxi matematikament li dan il-pont ma jistax jiġġarraf taħt din il-piż." Waħda hija osservazzjoni empirika soġġetta għal reviżjoni. L-oħra hija ċertezza loġika.
Għaliex l-AI Moderna Tirreżisti l-Verifikazzjoni
Jekk il-verifikazzjoni formali hija tant qawwija, għaliex mhux kulħadd qed jużaha? Għaliex kumpaniji bħal OpenAI u Google jiddependu fuq "red teaming" (bnedmin jippruvaw ikissru l-mudell) minflok provi matematiċi?
It-tweġiba tinsab fl-għażliet arkitettoniċi li għamlet l-industrija. Il-mudelli moderni tal-lingwa kbira u n-netwerks newrali fondi huma ddisinjati għall-espressività, mhux għall-verifikabbiltà. Huma ottimizzati biex jiġġeneraw outputs kreattivi, mhux biex ikunu analizzabbli matematikament.
Mudell transformer tipiku għandu biljuni jew triljuni ta' parametri. Juża funzjonijiet ta' attivazzjoni kumplessi u mhux lineari bħal GeLU jew Swish. Il-kumplessità matematika tal-verifikar ta' sistema bħal din tiskala b'mod esponenzjali man-numru ta' newroni u l-fond tan-netwerk.
Li tipprova proprjetà fuq transformer b'biljun parametru huwa komputazzjonalment intrattabbli. L-univers jilħaq il-mewt termali qabel ma s-solver jispiċċa jesplora l-fergħat matematiċi kollha. L-industrija bniet sistemi tant kumplessi li lanqas il-ħallieqa tagħhom ma jistgħu janalizzawhom bis-sħiħ.
Din hija għażla ta' disinn, mhux xi ħaġa inevitabbli. L-industrija ffokat fuq dimostrazzjonijiet impressjonanti u punteġġi ta' benchmark mingħajr ma kkunsidrat jekk is-sistemi li jirriżultaw setgħux qatt jiġu skjerati b'mod sikur f'ambjenti regolati.
L-Arkitettura Dweve: Verifikabbli bid-Disinn
F'Dweve, għamilna għażliet arkitettoniċi differenti. Iddisinjajna s-sistemi tagħna mill-bidu nett biex ikunu verifikabbli, għax fhimna li klijenti korporattivi u industrijali eventwalment kellhom bżonn jissodisfaw lir-regolaturi, mhux biss jimpressjonawhom.
L-approċċ tagħna jgħaqqad żewġ innovazzjonijiet ewlenin li jagħmlu l-verifikazzjoni fattibbli.
Binary Constraint Discovery: Matematika Sempliċi
Minflok netwerks newrali massivi b'punt mobbli b'biljuni ta' parametri kontinwi, is-sistemi Dweve jużaw Binary Constraint Discovery. L-għarfien huwa rappreżentat bħala restrizzjonijiet loġiċi diskreti minflok piżijiet kontinwi mgħallma.
Il-librerija Dweve Core tagħna fiha 1,937 algoritmu ottimizzat għall-hardware mibnija fuq operazzjonijiet binarji: XNOR, AND, OR, POPCNT. Dawn l-operazzjonijiet għandhom proprjetajiet matematiċi sempliċi u mifhuma sew. Restrizzjoni binarja jew iżżomm jew ma żżommx. M'hemm l-ebda inċertezza probablistika.
Billi nirrestrinġu l-matematika għal relazzjonijiet lineari sempliċi u loġika booleana, nnaqqsu b'mod drammatiku l-ispazju tat-tiftix tal-verifikazzjoni. Problemi li jkunu intrattabbli għal netwerks newrali kontinwi jsiru solvibbli għas-sistemi ta' restrizzjonijiet binarji tagħna. Il-problema tal-verifikazzjoni tinbidel minn ottimizzazzjoni mhux lineari impossibbli għal problemi solvibbli ta' Mixed Integer Linear Programming (MILP) jew SAT.
Dawn għadhom problemi diffiċli komputazzjonalment, iżda għad-daqs tas-sistemi li niskjeraw f'applikazzjonijiet kritiċi għas-sikurezza, solvers moderni jistgħu jimmaniġġawhom f'sekondi jew minuti minflok sekli.
L-Arkitettura ta' Awtonomija Limitata ta' Sitt Saffi
Ma nippruvawx nivverifikaw kull aspett tal-perċezzjoni tal-AI. Li nirrikonoxxu li "grid ta' pixels tirrappreżenta bniedem" huwa intrinsikament ġudizzju vag u probablistiku. Ma tistax tipprova formalment li r-rikonoxximent ta' mudelli huwa dejjem korrett għax il-korrettezza tiddependi fuq definizzjonijiet suġġettivi.
Minflok, nimplimentaw arkitettura ta' sikurezza b'saffi fejn komponenti AI probablistiċi huma limitati minn restrizzjonijiet loġiċi verifikati formalment. L-AI tista' tissuġġerixxi azzjonijiet, iżda dawk is-suġġerimenti jridu jgħaddu minn bibien ta' sikurezza verifikati qabel l-eżekuzzjoni.
Dweve Nexus jimplimenta sitt saffi ta' infurzar tas-sikurezza:
- Verifikazzjoni tal-Intenzjoni: Jivvalida li l-azzjonijiet tal-AI jallinjaw mal-għanijiet iddikjarati
- Awtonomija Limitata: Limiti iebsa fuq liema azzjonijiet huma permessi irrispettivament mis-suġġerimenti tal-AI
- Moderazzjoni tal-Kontenut: Jiffiltra l-outputs għas-sikurezza u l-adegwatezza
- Infurzar tal-Etika: Jiżgura konformità ma' restrizzjonijiet etiċi definiti
- Sejbien ta' Anomaliji: Jidentifika meta l-imġiba tal-AI tiddevja minn mudelli mistennija
- Monitoraġġ fil-Ħin Reali: Verifikazzjoni kontinwa li l-invarjanti tas-sikurezza jinżammu
L-għarfien kritiku huwa li għandna bżonn biss nivverifikaw formalment is-saffi tas-sikurezza, mhux is-sistema kollha tal-AI. Anke jekk l-AI sottostanti tagħmel żball, is-saff ta' awtonomija limitata jiggarantixxi matematikament li kmandi perikolużi qatt ma jilħqu l-attwaturi.
Il-Matematika Regolatorja: Għaliex il-Verifikazzjoni Toħloq Valur Kummerċjali
Għall-klijenti tagħna, il-verifikazzjoni formali mhijiex eżerċizzju akkademiku. Hija vantaġġ kompetittiv li jittraduċi direttament f'riżultati tan-negozju.
Approvazzjoni Regolatorja Aktar Mgħaġġla
Meta manifattur ta' apparat mediku jersaq lejn l-FDA jew l-EMA b'sistema mmexxija mill-AI, ir-regolaturi jkunu kawti kif jixraq. Huma jafu li l-AI tista' tkun imprevedibbli. Il-proċessi standard ta' approvazzjoni jeħtieġu snin ta' provi kliniċi biex juru s-sigurtà b'mod statistiku.
Iżda manifattur li juża komponenti Dweve verifikati formalment jista' jibdel il-konversazzjoni. Minflok ma jippreżenta riżultati ta' testijiet li juru "għadna ma osservajniex fallimenti," jista' jippreżenta provi matematiċi li juru li "l-fallimenti huma impossibbli f'dawn il-limiti."
"Aħna mhux biss naħsbu li din il-pompa tal-insulina mhux se tagħti doża eċċessiva lill-pazjenti. Hawnhekk hemm il-prova formali li d-doża tal-ħruġ hija matematikament limitata mill-piż tal-pazjent u mill-kostrizzjonijiet tal-livell tal-glukożju. Il-ksur mhuwiex biss improbabbli. Huwa loġikament impossibbli."
Dan jippermetti mogħdijiet ta' reviżjoni aċċellerati. Ir-regolaturi jistgħu jivverifikaw il-prova b'mod indipendenti. M'għandhomx għalfejn jafdaw il-proċess tal-ittestjar; jistgħu jeżaminaw il-matematika direttament.
Primjums tal-Assigurazzjoni Mnaqqsa
L-attwarji tal-assigurazzjoni jiffaċċjaw problema impossibbli bis-sistemi AI tradizzjonali. Kif tipprezzja r-riskju għal modi ta' falliment li ma tistax tbassar jew tispjega? Ir-riżultat huwa jew primjums estremament għoljin biex ikopru riskji mhux magħrufa, jew klawżoli ta' esklużjoni li jagħmlu l-assigurazzjoni prattikament inutli.
Is-sistemi verifikati jibdlu l-kalkolu attwarjali. Jekk prova matematika tiggarantixxi li ċerti tipi ta' fallimenti ma jistgħux iseħħu, dawk il-modi ta' falliment jistgħu jiġu esklużi mill-mudell tar-riskju. Ir-riskji li jibqgħu huma kwantifikabbli. Il-primjums jonqsu skont dan.
Uħud mill-klijenti tagħna raw l-ispejjeż tal-assigurazzjoni tar-responsabbiltà jonqsu b'40-60% wara li implimentaw saffi ta' sigurtà verifikati, sempliċement għaliex l-assiguraturi issa jistgħu jikkalkulaw riskji limitati minflok jipprezzaw għal inċertezza bla limitu.
Difiża Legali
Meta s-sistemi AI jikkawżaw ħsara, issegwi l-litigazzjoni. F'implimentazzjonijiet AI tradizzjonali, id-difiża tas-sistema hija kważi impossibbli. "Kif għamlet is-sistema tiegħek din id-deċiżjoni?" "Ma nafux eżattament, hija netwerk newrali b'biljuni ta' parametri..." Din it-tweġiba ma tissodisfa l-ebda imħallef jew ġurija.
Is-sistemi verifikati joffru difiża differenti: "Hawnhekk hemm il-kostrizzjoni tas-sigurtà. Hawnhekk hemm il-prova matematika li l-kostrizzjoni ma tistgħax tinkiser. Il-ħsara seħħet barra l-konfini verifikati, li jindika fatturi esterni, mhux falliment tas-sistema."
Dan mhuwiex dwar li tevita r-responsabbiltà. Huwa dwar li tkun tista' turi eżattament liema garanziji saru u jekk ġewx rispettati. Il-qrati jifhmu l-loġika formali. Huma jifhmu l-provi matematiċi. Ma jifhmux intervalli ta' kunfidenza probablistiċi.
L-Att tal-UE dwar l-AI: Il-Verifikazzjoni Saret Obbligatorja
Il-vantaġġi teoretiċi tal-verifikazzjoni formali qed isiru rekwiżiti prattiċi. L-Att tal-UE dwar l-AI, li daħal fis-seħħ fl-2024 b’implimentazzjoni gradwali sal-2027, ibiddel fundamentalment dak li huwa legalment meħtieġ għall-użu tal-AI fl-Ewropa.
Għal sistemi tal-AI ta’ “riskju għoli”, li jinkludu apparat mediku, deċiżjonijiet dwar l-impjiegi, valutazzjonijiet tal-affidabbiltà kreditizja, u ħafna applikazzjonijiet industrijali, l-Att jeħtieġ:
- Sistemi ta’ ġestjoni tar-riskju li jidentifikaw u jtaffu riskji prevedibbli
- Dejta ta’ taħriġ ta’ kwalità għolja bi provenjenza dokumentata
- Kapaċitajiet ta’ reġistrazzjoni li jippermettu t-traċċar tal-imġiba tas-sistema
- Trasparenza lill-utenti dwar deċiżjonijiet meħuda mill-AI
- Mekkaniżmi ta’ superviżjoni umana li jippermettu intervent
- Preċiżjoni, robustezza, u ċibersigurtà xierqa għall-applikazzjoni
Innota l-lingwaġġ: “riskji prevedibbli,” “imġiba traċċabbli,” “preċiżjoni xierqa għall-applikazzjoni.” Dawn mhumiex aspirazzjonijiet vagi. Huma rekwiżiti legali b’sanzjonijiet infurzabbli li jinkludu multi sa 35 miljun ewro jew 7% tal-fatturat globali.
Kif turi li identifikajt u mmitigajt “riskji prevedibbli” għal netwerk newrali b’biljuni ta’ parametri li l-proċess ta’ deċiżjoni tiegħu huwa opak anki għall-ħallieqa tiegħu? Kif turi li l-imġiba hija “traċċabbli” meta s-sistema tipproduċi riżultati permezz ta’ multiplikazzjonijiet ta’ matriċi li ma jinftiehmux?
L-arkitetturi tradizzjonali tal-AI ma jistgħux jissodisfaw dawn ir-rekwiżiti permezz ta’ dokumentazzjoni u ttestjar biss. Iżda sistemi verifikati jistgħu. Il-prova hija d-dokumentazzjoni. Il-garanzija matematika hija l-mitigazzjoni. Il-vinkoli loġiċi huma t-traċċabbiltà.
L-456 Speċjalisti tad-Dominju: Skala Verifikabbli
Oġġezzjoni komuni għall-AI verifikata hija li l-verifikazzjoni ma tiskalax. Għal sistemi sempliċi bi ftit regoli, iva, il-verifikazzjoni taħdem. Iżda l-AI fid-dinja reali jeħtieġ li timmaniġġja perċezzjoni u raġunament kumplessi. Kif tista’ taħdem il-verifikazzjoni fuq skala kbira?
Dweve Loom juri li l-verifikazzjoni u l-kapaċità mhumiex reċiprokament esklussivi. Il-mudell fundamentali tagħna juża 456 sett ta’ vinkoli speċjalizzati, kull wieħed fih 64-128MB ta’ vinkoli binarji. Iżda biss 4-8 speċjalisti tad-dominju jattivaw għal kwalunkwe mistoqsija partikolari.
Din l-arkitettura, li nsejħulha attivazzjoni ultra-sparsa, tfisser li l-isforz tal-verifikazzjoni jiskala mas-sottogrupp attiv, mhux mal-mudell sħiħ. M’għandniex bżonn nivverifikaw il-kombinazzjonijiet kollha tal-456 speċjalist tad-dominju simultanjament. Nivverifikaw il-loġika tar-routing li tagħżel l-ispeċjalisti tad-dominju, u nivverifikaw is-sett ta’ vinkoli ta’ kull speċjalist tad-dominju b’mod indipendenti.
Is-sistema ta’ routing Permuted Agreement Popcount (PAP) tuża skoperta ta’ mudelli strutturali biex tagħżel l-ispeċjalisti tad-dominju rilevanti. Dan is-saff tar-routing huwa nnifsu formalment verifikabbli għax jaħdem fuq operazzjonijiet binarji diskreti bi proprjetajiet matematiċi definiti sew.
Ir-riżultat huwa sistema li tista’ timmaniġġja kompiti kumplessi tad-dinja reali filwaqt li żżomm it-traktabbiltà tal-verifikazzjoni. Niksbu l-benefiċċji ta’ kapaċità ta’ arkitetturi ta’ taħlita ta’ esperti mal-benefiċċji ta’ sigurtà tal-verifikazzjoni formali.
Implimentazzjoni: Kif Tidher il-Verifikazzjoni fil-Prattika
Għal organizzazzjonijiet li qed jikkunsidraw l-użu ta’ AI verifikata, il-proċess prattiku jinvolvi diversi stadji.
Stadju 1: Speċifikazzjoni tal-Proprjetajiet
Qabel ma tibda l-verifikazzjoni, trid tiddefinixxi liema proprjetajiet jeħtieġ li jiġu verifikati. Dan spiss huwa l-aktar pass diffiċli, li jeħtieġ kollaborazzjoni mill-qrib bejn esperti tad-dominju, inġiniera, u timijiet legali/ta’ konformità.
Il-proprjetajiet iridu jkunu preċiżi u matematikament esprimibbli. “Is-sistema għandha tkun sigura” mhijiex proprjetà verifikabbli. “Il-kmand tal-veloċità tal-mutur m’għandux jaqbeż V_max meta s-sensor tal-prossimità jindika distanza inqas minn D_min” huwa verifikabbli.
F'Dweve, ngħinu lill-klijenti f'dan il-proċess ta' speċifikazzjoni permezz ta' Spindle, il-pjattaforma tagħna ta' governanza tal-għarfien intraprenditorjali. Il-ġerarkija ta' 32 aġent tinkludi speċjalisti fil-konformità regolatorja li jgħinu jittraduċu r-rekwiżiti legali fi restrizzjonijiet formali.
It-Tieni Stadju: Mappjar tal-Arkitettura
L-arkitettura tas-sistema tal-AI trid tiġi mappjata f'mudell formali li l-għodod ta' verifikazzjoni jistgħu janalizzaw. Għas-sistemi ta' Dweve, dan il-mappjar huwa sempliċi għaliex l-arkitettura tagħna ta' restrizzjonijiet binarji kienet iddisinjata għall-verifikabbiltà.
Għal organizzazzjonijiet b'installazzjonijiet eżistenti ta' netwerks newrali, dan l-istadju jista' jeħtieġ modifiki arkitettoniċi. Iż-żieda ta' saffi ta' awtonomija limitata madwar mudelli eżistenti, l-implimentazzjoni ta' restrizzjonijiet ta' sikurezza bħala wrappers verifikati, jew f'xi każijiet, is-sostituzzjoni ta' komponenti mhux verifikabbli b'ekwivalenti ta' Dweve.
It-Tielet Stadju: Eżekuzzjoni tal-Verifikazzjoni
Solvers SMT moderni u għodod ta' verifikazzjoni formali janalizzaw il-mudell tas-sistema biex jew jippruvaw il-proprjetajiet speċifikati jew jidentifikaw kontro-eżempji. Il-kontro-eżempji huma ta' valur kbir għaliex juru eżattament liema inputs jistgħu jiksru r-restrizzjonijiet ta' sikurezza, u jippermettu soluzzjonijiet immirati.
Għas-sistemi ta' Dweve, il-verifikazzjoni tipikament titlesta fi ftit minuti sa sigħat, skont il-kumplessità tar-restrizzjonijiet. L-1,937 algoritmu f'Dweve Core diġà ġew iċċekkjati minn qabel għal proprjetajiet ta' sikurezza komuni, għalhekk il-verifikazzjoni spiss tinvolvi l-kompożizzjoni ta' komponenti verifikati minn qabel aktar milli tibda mill-bidu.
Ir-Raba' Stadju: Ċertifikazzjoni u Dokumentazzjoni
Il-proprjetajiet verifikati jiġġeneraw artifatti ta' prova li jservu bħala evidenza ta' ċertifikazzjoni. Dawn il-provi jistgħu jiġu ċċekkjati bil-magni, jiġifieri r-regolaturi jistgħu jivverifikawhom b'mod indipendenti billi jużaw għodod standard ta' kontroll tal-provi mingħajr ma jkollhom għalfejn jafdaw il-proċess oriġinali ta' verifikazzjoni.
Dweve Fabric, id-dashboard unifikat tal-pjattaforma tagħna, jiġġenera dokumentazzjoni ta' konformità awtomatikament mir-riżultati tal-verifikazzjoni. L-istess provi li jissodisfaw is-solver isiru l-pakkett ta' evidenza għas-sottomissjoni regolatorja.
Il-Futur: AI Verifikata bħala Prattika Standard
Qegħdin f'punt ta' bidla fl-implimentazzjoni tal-AI. L-era ta' "ċaqlaq malajr u kisser l-affarijiet" qed tispiċċa għal applikazzjonijiet ta' riskju għoli. L-ambjent regolatorju qed jissikka. L-espożizzjoni għar-responsabbiltà qed tiżdied. L-isfidi tal-assigurazzjoni qed jikbru.
L-organizzazzjonijiet li jimplimentaw l-AI f'industriji regolati jiffaċċjaw għażla. Jistgħu jkomplu b'arkitetturi tradizzjonali u jiffaċċjaw frizzjoni dejjem tikber: proċessi ta' approvazzjoni itwal, spejjeż ogħla ta' assigurazzjoni, espożizzjoni legali akbar, u esklużjoni potenzjali mis-suq hekk kif ir-regolamenti jidħlu fis-seħħ.
Jew jistgħu jadottaw arkitetturi verifikati li jissodisfaw lir-regolaturi b'ċertezza matematika aktar milli b'tama statistika.
Ir-rivoluzzjoni tal-verifikazzjoni mhijiex dwar li l-AI ssir inqas kapaċi. Hija dwar li l-AI ssir ta' min jafdaha b'modi li jgħoddu għal kulħadd lil hinn mil-laboratorju tar-riċerka: pazjenti, operaturi, assiguraturi, regolaturi, u qrati. Hija dwar il-bini ta' AI li l-bnedmin jistgħu fil-fatt jimplimentaw b'kunfidenza.
F'Dweve, nemmnu li l-futur jappartjeni lil sistemi ta' AI li jistgħu jippruvaw is-sikurezza tagħhom, mhux biss iwiegħduha. L-arkitettura tagħna, mill-1,937 algoritmu verifikat f'Core għas-sitt saffi ta' awtonomija limitata f'Nexus għas-456 sett ta' restrizzjonijiet speċjalizzati fid-dominju f'Loom, hija mibnija mill-pedamenti għal dan il-futur.
Il-matematika taċ-ċertezza mhijiex restrizzjoni fuq il-progress tal-AI. Hija l-pedament għall-użu tal-AI fuq skala kbira.
Lest biex tqiegħed AI fis-suq li r-regolaturi jistgħu japprovaw? L-arkitettura formalment verifikata ta' Dweve tipprovdi l-garanziji matematiċi li jibdlu l-ostakli regolatorji f'vantaġġi kompetittivi. Ikkuntattjana biex tiddiskuti kif il-verifikazzjoni tista' tħaffef it-triq tiegħek lejn is-suq filwaqt li tnaqqas l-espożizzjoni tiegħek għar-responsabbiltà.