AION jagħmel id-deċiżjonijiet tal-AI verifikabbli
Il-kamra fejn il-prova tidher
L-ewwel darba li l-prova ssir utli hi barra mill-kompilatur. Mhix fis-solver lanqas. Hija f’kamra fejn kulħadd tilef il-paċenzja ma’ spjegazzjonijiet li jinstemgħu plawsibbli imma ma jistgħux jintwerħu mill-ġdid.
Normalment ikun hemm skrin mal-ħajt. Xi ħadd poġġa d-deċiżjoni. Xi ħadd ieħor poġġa l-linji tal-log. Sid tar-riskju qed jistaqsi jekk dan hux se jissodisfa l-awditjar. Inġinier qed jipprova jispjega li l-mudell ipproduċa punteġġ ta’ kunfidenza, is-sistema ħażnet it-telemetry, u t-tim jista’ juri t-triq mill-applikazzjoni. Il-kliem huwa attent. Il-kamra mhix konvinta.
Il-problema mhix li n-nies fil-kamra huma ostili lejn l-AI. Il-problema hi li jafu d-differenza bejn dikjarazzjoni u evidenza. Log jgħid li ġara xi ħaġa. Punteġġ ta’ kunfidenza jgħid kemm sistema inklinat lejn tweġiba. Spjegazzjoni post-hoc tgħid minn xiex setgħet tiddependi t-tweġiba. L-ebda waħda minn dawn l-affarijiet ma tipprova l-passi tar-raġunament ġewwa d-deċiżjoni.
AION teżisti għal dak il-mument. Hija tbiddel it-tweġiba fi pakkett li jinkludi x-xogħol tiegħu stess. It-triq tal-ispezzjoni mhix dashboard isbaħ madwar il-fiduċja. Hija ċ-ċertifikat: artifatt portabbli, li jista’ jitqies, li verifikatur ieħor jista’ jaqra offline, fi żmien lineari, mingħajr ma jistaqsi lis-solver oriġinali jiddefendi ruħu.
Dik id-distinzjoni importanti għax ħafna prodotti tal-AI għadhom jitolbu lix-xerrej jaċċetta wegħda. AION tbiddel il-forma tal-wegħda. Tgħid: tafdax il-magna għax instemgħet kunfidenti. Tafdax lill-venditur għax id-deck jgħid explainable. Ħu ċ-ċertifikat, mexxi l-kontroll, u aċċetta jew irrifjuta l-prova fuq l-infrastruttura tiegħek stess.
L-ewwel xena: it-tweġiba mhix biżżejjed
Immaġina bank jirrifjuta applikazzjoni, sptar jirrakkomanda triq ta’ kura, jew uffiċċju pubbliku juża softwer biex jidderieġi każ. It-tweġiba tista’ tkun utli. Tista’ saħansitra tkun korretta. Imma jekk il-persuna affettwata tistaqsi għaliex, l-organizzazzjoni għandha bżonn aktar minn paragrafu miktub wara l-fatt.
Il-mudell operattiv il-qadim jilħaq għal dak li diġà jkun disponibbli. Hemm logs tal-applikazzjoni, imma mhumiex strutturati u spiss marbutin mal-fornitur li ħalaqhom. Hemm punteġġi, imma punteġġ mingħajr derivazzjoni huwa biss numru. Hemm spjegazzjonijiet iġġenerati, imma meta jkunu prodotti mill-istess sistema li għamlet id-deċiżjoni, jimmarkaw ix-xogħol tagħhom stess. Hemm assigurazzjonijiet tal-fornitur, imma "afdana" mhix tweġiba għall-awditjar.
AION tittratta dan bħala problema ta’ disinn, mhux problema ta’ komunikazzjoni. Jekk id-deċiżjoni importanti, l-evidenza trid tivvjaġġa mat-tweġiba. Trid tinħareġ fl-istess mument. Trid tibqa’ ħajja mill-akkwist, mill-migrazzjoni, mir-reviżjoni tal-inċidenti, u minn awditur futur b’għodod differenti. Ma tistax tiddependi fuq servizz remot li għadu online. Ma tistax tirrikjedi lis-solver oriġinali jerġa’ jmexxi l-każ u jittama li jieħu l-istess triq għal darb’oħra.
Għalhekk il-prova mhix dekorazzjoni. Hija l-interface. Utent jista’ jesperjenzaha bħala ricevuta. Inġinier jista’ jesperjenzaha bħala kmand. Awditur jista’ jesperjenzaha bħala kontroll indipendenti. L-istess oġġett iservi lit-tlieta għax mhux storja dwar id-deċiżjoni. Hija d-derivazzjoni ordnata wara d-deċiżjoni.
AION mhix il-magna tad-deċiżjonijiet
AION m’għandux jitħawwad ma’ kull biċċa oħra tal-istack ta’ Dweve. Mhuwiex Mesh, li huwa infrastruttura. Mhuwiex Ledger, li jirreġistra avvenimenti li seħħew f’sistema. Mhuwiex tikketta ġenerali ta’ kummerċjalizzazzjoni għat-trasparenza. AION jivverifika l-passi ta’ raġunament fi ħdan deċiżjoni waħda.
Dik il-konfini hija utli. Ledger jista’ jgħidlek li waslet talba, li servizz eżegwixxa, li ħaddiem irritorna, u li nkitbet rekord. Dik hija provenjenza ta’ avvenimenti. AION iwieġeb mistoqsija aktar dejqa u aktar diffiċli: minħabba dawn il-premessi, din il-konklużjoni segwiet permezz tal-passi rreġistrati? Id-differenza hija d-differenza bejn linja ta’ żmien u prova.
Il-paġna tas-sors tiddeskrivi AION bħala librerija ta’ Rust b’binarju ta’ linja tal-kmand u binarju ta’ benchmark. Tiddeskrivi wkoll qalba propożizzjonali CDCL b’aritmetika razzjonali eżatta, imdawra b’teoriji ta’ raġunament, b’emittent ta’ provi li jirreġistra kull pass bħala derivazzjoni ordnata. Dawk huma fatti ta’ implimentazzjoni, iżda jsiru aktar importanti meta jitqiesu bħala fatti operazzjonali. L-utent ma jirċevix biss tweġiba. L-utent jirċievi artefatt li jista’ jiġi inkorporat, iċċekkjat, imkejjel, u jittieħed miegħu.
Meta tim jgħaqqad il-crate, isuq il-CLI minn shell jew xogħol ta’ CI, jew ikejjel l-implimentazzjoni fuq il-ħardwer tiegħu stess, joħroġ l-istess ċertifikat. Dik l-istess ħaġa hija parti mill-kuntratt. It-triq ta’ adozzjoni m’għandhiex tbiddel l-evidenza. Evalwazzjoni ta’ akkwist, integrazzjoni ta’ inġinerija, u replika ta’ awditjar kollha jeħtieġu l-istess oġġett, mhux tliet sommarji inkompatibbli.
X’ibiddel iċ-ċertifikat
Ċertifikat ibiddel ir-relazzjoni ta’ poter madwar deċiżjoni ta’ AI. Mingħajru, l-organizzazzjoni li għandha t-tweġiba tikkontrolla wkoll il-biċċa l-kbira tal-ispjegazzjoni. Miegħu, it-tweġiba tista’ tiġi kkontestata minn ċekkjatur separat. Il-prova tista’ timxi lejn magna oħra. L-awditur jista’ jirreplikaha mingħajr konnessjoni tan-netwerk. Iċ-ċittadin jista’ jitlob l-irċevuta, u l-istituzzjoni tista’ tagħti xi ħaġa aktar konkreta minn paragrafu.
Dan huwa għaliex AION huwa materjal b’sors miftuħ aktar milli add-on magħluq ta’ konformità. Il-paġna tiddikjara Apache 2.0, formati standard ta’ provi, u dar ta’ proġett fuq github.com/dweve-ai. Il-valur tan-negozju jsegwi direttament minn dik il-ftuħ. Tim jista’ jevalwa qabel sejħa ta’ bejgħ. Jista’ jadotta mingħajr ħlas għal kull siġġu għall-qari tal-provi. Jista’ jżomm rekords li jibqgħu utli anki jekk aktar tard iħalli lill-fornitur.
Iċ-ċertifikat inaqqas ukoll l-ammont ta’ fiduċja mqiegħed fis-sistema oriġinali. Il-magna li wieġbet mhijiex l-unika magna fl-istorja. Verifikatur separat jaqra ċ-ċertifikat u jimxi ma’ kull deduzzjoni kontra l-premessi tagħha. Jekk id-derivazzjoni tingħalaq, iċ-ċekkjatur jaċċetta. Jekk le, jirrifjuta. M’hemmx bżonn ta’ tieni att ta’ persważjoni.
Dik hija esperjenza ta’ utent differenti mill-biċċa l-kbira tal-ispjegabbiltà tal-AI. AION ma jgħidx, "Hawn għaliex il-mudell probabbilment għamel dan." Jgħid, "Hawn l-oġġett tal-prova. Iċċekkjah." Ix-xogħol jimxi mill-interpretazzjoni għall-verifikazzjoni.
Il-patt tas-sors miftuħ
Sors miftuħ spiss jitbigħ bħala konvenjenza għall-iżviluppatur: spezzjona l-kodiċi, iffurkaħ, ibgħat patches. AION jagħmel patt aktar operazzjonali. Jekk il-prova se tiddeċiedi jekk organizzazzjoni tistax tiddefendi deċiżjoni ta’ AI, il-makkinarju tal-prova ma jistax ikun kaxxa sewda moħbija wara l-istess relazzjoni mal-fornitur li pproduċiet id-deċiżjoni.
Apache 2.0 huwa importanti hawnhekk għaliex jagħmel l-adozzjoni ordinarja. Tim jista’ juża t-teknoloġija kummerċjalment mingħajr ftehim speċjali biss biex jaqra lura l-evidenza tiegħu stess. Formati standard huma importanti għaliex il-prova m’għandhiex issir inutli meta fornitur ibiddel l-istrateġija. Iċċekkjar offline huwa importanti għaliex rekord ta’ awditjar magħmul illum għandu jibqa’ jivverifika aktar tard, anki jekk netwerk, kont, jew servizz ikun sparixxa.
Dan huwa l-parti li t-timijiet tal-akkwist jifhmu aktar malajr milli jistennew l-inġiniera. L-ewwel mistoqsija mhux dejjem hi jekk is-solver hux intelliġenti. Hija jekk ir-rekords jibqgħux taħt il-kontroll tal-organizzazzjoni. Jista' l-evidenza tinħażen f'arkivju? Jista' tim ieħor jerġa' jiċċekkjaha waqt l-awditjar? Tista' l-organizzazzjoni titlaq mingħajr ma titlef it-tifsira tad-deċiżjonijiet qodma tagħha? AION hija mfassla biex it-tweġiba tkun iva.
Għalhekk il-prova trid tkun portabbli. Il-kodiċi huwa miftuħ, iżda l-punt ewlieni huwa li l-evidenza mhix maqbuda. Iċ-ċertifikat mhuwiex screenshot. Mhuwiex paġna ta' spjegazzjoni ospitata mill-fornitur. Huwa artifatt li jżomm l-utilità tiegħu għax il-formati u l-mogħdija tal-verifika mhumiex proprjetà ta' runtime wieħed.
Ġewwa l-wiċċ tal-prova
L-intern tekniku ta' AION huwa deliberatament preċiż. Il-paġna ssemmi qalba CDCL, plugins tat-teorija, aritmetika razzjonali eżatta, u emitter tal-prova. CDCL jagħżel il-fergħat. Ir-raġunaturi tat-teorija jestendu l-mudell parzjali. L-emitter tal-prova jirrekordja r-riżoluzzjonijiet u l-lemmi. Ir-riżultat jiġi esportat bħala LRAT, DRAT, Alethe, jew forma intermedja unifikata.
Dawk l-ismijiet jistgħu jinstemgħu bħala lingwaġġ ta' kamra tas-solver, għalhekk ittraduċihom f'imġiba tas-sistema. Is-sistema mhux biss tgħid li l-konklużjoni ssegwi. Tikteb ir-rotta. Ma titlobx lill-verifikatur jafda s-solver kollu. Tagħti lill-verifikatur xogħol iżgħar: aqra ċ-ċertifikat, imxi fuq kull deduzzjoni, u ċċekkja li l-passi jagħlqu kontra l-premessi.
Il-kopertura tat-teorija hija wiesgħa biżżejjed biex tgħodd għal sistemi reali: loġika propożizzjonali, kwantifikaturi, aritmetika lineari u mhux lineari, bitvectors, arrays, strings, numri b'punt li jvarja, loġika temporali, programmi probabbilistiċi, u programmi konkorrenti. Ir-raġunaturi tal-aritmetika, tad-data, u tal-punt li jvarja jgħixu fil-qalba; it-teoriji tal-programmi jinsabu fi crates ta' akkumpanjament. Dik id-diviżjoni mhix slogan. Hija kif wiċċ wieħed tal-prova jista' jkopri deċiżjonijiet li jmissu aktar minn tip wieħed ta' raġunament.
Aritmetika razzjonali eżatta hija wkoll dikjarazzjoni tad-disinn. Jekk prova se tiġi ċċekkjata mill-ġdid aktar tard, ma tistax tiddependi fuq inċident vag tal-punt li jvarja fil-qalba tal-aritmetika. Iċ-ċertifikat irid iġib ruħu bħala evidenza, mhux bħala approssimazzjoni li tbiddel il-karattru meta tiġi mċaqalqa bejn magni. Il-materjal tas-sors huwa espliċitu: l-ebda punt li jvarja fil-qalba tal-aritmetika.
Għaliex il-linja tal-kmand tgħodd għal bord
Il-bordijiet normalment ma jieħdux ħsieb għodod tal-linja tal-kmand. Huma jieħdu ħsieb ir-riskju, l-ispiża, il-ħruġ, u l-awditjar. Il-wiċċ tal-linja tal-kmand ta' AION jgħodd għax jikkompressa dawk it-tħassibiet f'att ripetibbli. Mexxi l-kontroll. Ikseb aċċettat jew miċħud. Agħmlu mingħajr ma titlob lill-fornitur. Agħmlu mingħajr in-netwerk. Agħmlu fuq il-hardware taħt il-kontroll tiegħek.
Dan huwa faċli biex wieħed ma japprezzahx biżżejjed. Dashboard jista’ jġiegħel tim iħossu infurmat, iżda kmand jista’ jagħmel verifika ripetibbli. Meta l-evidenza tkun tista’ tiġi ċċekkjata minn shell jew minn xogħol CI, tkun tista’ tinbena fil-kontrolli normali tal-organizzazzjoni. Deċiżjonijiet ġodda jistgħu joħorġu ċertifikati. Rekords maħżuna jistgħu jittieħdu kampjuni minnhom. Reviżjonijiet ta’ inċidenti jistgħu jdoqqu mill-ġdid l-artefatt eżatt minflok jibnu mill-ġdid storja mit-telemetrija.
Il-binarju tal-benchmark jappartjeni għall-istess konversazzjoni. Jekk tim irid ikejjel AION fuq il-ħardwer tiegħu stess, jista’. Dan ma joħloqx talba falza dwar il-prestazzjoni; jevita waħda. Il-paġna ma titlobx lill-qarrej jemmen numru mingħajr bażi. Tagħti lill-qarrej mod kif ikejjel l-implimentazzjoni fl-ambjent li jgħodd.
Għal bord, il-mistoqsija ssir sempliċi: nistgħu xorta nispjegaw id-deċiżjonijiet tagħna meta l-applikazzjoni oriġinali tkun marret, meta regolatur jitlob l-evidenza, jew meta klijent jikkontesta riżultat? AION ibiddel dan minn laqgħa fi proċedura operattiva.
Fejn jieqaf Ledger u jibda AION
Dweve għandu aktar minn wiċċ wieħed b’sors miftuħ għaliex il-kontabbiltà għandha aktar minn forma waħda. Ledger jirrekordja dak li ġara f’sistema: avvenimenti, hashes, katina ta’ kustodja. AION jirrekordja għaliex konklużjoni segwiet f’deċiżjoni. It-tnejn huma utli. M’għandhomx jingħaqdu f’wieħed.
Fi reviżjoni ta’ inċident, Ledger jista’ jgħin jistabbilixxi li talba waslet, verżjoni kienet attiva, azzjoni ta’ operatur seħħet, jew rekord inkiteb. AION jista’ jgħin jistabbilixxi li l-pass ta’ raġunament mill-premessi għall-konklużjoni kien validu. Jekk dawn jitħalltu, it-timijiet jispiċċaw b’kronoloġiji dettaljati ħafna li xorta ma jipprovawx id-deċiżjoni, jew b’artefatti ta’ prova li ma jgħidu xejn dwar il-katina operattiva tal-madwar.
Il-konfini nadif huwa disinn tajjeb ta’ interface. Jħalli lil kull wiċċ jiġi ġġudikat mill-mistoqsija li jwieġeb. Ġara dan l-avveniment? Dik hija territorju ta’ Ledger. Segwiet din il-konklużjoni? Dik hija territorju ta’ AION. Il-workload dam fil-post it-tajjeb bil-primittiva tal-privatezza t-tajba? Dak jappartjeni għall-infrastruttura, li hija Mesh, mhux AION.
Jum fil-kamra tal-verifika
Immaġina l-verifika mill-ġdid, iżda b’AION fil-fluss mill-bidu. L-organizzazzjoni ma ġġibx preżentazzjoni li tispjega kemm it-tim tal-inġinerija huwa attent. Ġġib deċiżjoni, ċertifikat, u proċess ta’ ċċekkjar ripetibbli.
L-awditur jistaqsi jekk ir-rekord jiddependix fuq il-cloud tal-fornitur. Le: l-iċċekkjar isir offline. L-awditur jistaqsi jekk hux meħtieġ għodda interna speċjali. Le: il-prova tuża formati standard bħal LRAT, DRAT, u Alethe, b’forma intermedja unifikata warajhom. L-awditur jistaqsi jekk is-solver oriġinali jridx jerġa’ jibda. Le: iċ-checker jivverifika ċ-ċertifikat. L-awditur jistaqsi x’jiġri jekk l-organizzazzjoni aktar tard tibdel il-fornitur. Iċ-ċertifikat jibqa’ portabbli.
Il-konversazzjoni ssir aktar kalma għaliex għandha inqas misteri. It-tim tal-inġinerija xorta jista’ jiddiskuti l-arkitettura. Is-sid tan-negozju xorta jista’ jiddiskuti r-riskju. Iżda l-evidenza ċentrali m’għadhiex prestazzjoni persważiva. Hija oġġett fuq il-mejda.
Dan ma jfissirx li kull mistoqsija tan-negozju tisparixxi. Ċertifikat jipprova ħaġa definita, mhux kull proprjetà morali, legali, jew operattiva madwar id-deċiżjoni. AION mhuwiex maġija. Ma jbiddilx politika ħażina f’waħda tajba. Ma jiddeċidix jekk il-premessi kinux ġusti. Jipprova d-derivazzjoni li jirrekordja. Dik l-onestà hija parti minn għaliex huwa utli.
L-UX kwiet ta’ l-ebda internet
Il-verifikazzjoni offline tinstema’ bħal dettall tekniku sakemm tasal l-ewwel awditu serju. Imbagħad issir karatteristika tal-esperjenza tal-utent. Ħadd ma jkollu jitlob aċċess temporanju għal ambjent tal-fornitur. Ħadd ma jkollu jiftaħ eċċezzjoni fil-firewall biex l-evidenza tkun tista’ tiġi ċċekkjata. Ħadd ma jkollu jittama li abbonament għadu attiv għal rekord antik.
L-esperjenza tal-utent hija kwieta għax il-kontroll tal-prova ideali huwa boring. Iċ-ċertifikat ikun preżenti. Il-kontrollur jaħdem. It-tweġiba tiġi aċċettata jew miċħuda. L-ebda ċerimonja. L-ebda kont. L-ebda dipendenza ġdida. Fil-lingwaġġ tal-konsumatur, huwa irċevuta. Fil-lingwaġġ tal-inġinerija, huwa artifatt tal-prova. Fil-lingwaġġ tal-awditjar, huwa evidenza li tista’ tiġi ċċekkjata mill-ġdid.
Dan ibiddel ukoll kif it-timijiet jaħsbu dwar l-arkivji. Rekord ta’ deċiżjoni mhuwiex komplut jekk jaħżen biss il-ħruġ u timestamp. Għal deċiżjonijiet li jridu jibqgħu jgħixu taħt skrutinju, il-prova trid tinħażen maġenb it-tweġiba. Jekk il-fluss tax-xogħol jagħmel dan naturali, il-konformità ssir inqas dipendenti fuq dokumentazzjoni erojka wara l-avveniment.
Il-frażi "il-prova tiġi mal-answer" hija faċli biex tinqara bħala kummerċjalizzazzjoni. Fil-prattika hija regola tal-ħażna, regola tal-proċess, u regola tad-disinn. It-tweġiba waħedha mhijiex il-prodott. It-tweġiba flimkien maċ-ċertifikat li jista’ jiġi ċċekkjat hija.
Kif iħoss l-adozzjoni
L-adozzjoni ta’ AION għandha tliet rotot ċari fil-materjal tas-sors: evalwazzjoni, inġinerija, u konformità. Evalwazzjoni tfisser aqra l-kodiċi u mexxi eżempji ta’ provi qabel kwalunkwe konversazzjoni. Inġinerija tfisser ikkollega l-librerija sabiex is-sistemi eżistenti jarmu ċertifikat li jista’ jiġi ċċekkjat. Konformità tfisser erġa’ ċċekkja ċertifikat maħżun offline fil-ħin tal-awditu.
Dawk ir-rotot huma intenzjonalment differenti. Inġinier tas-sigurtà jista’ jibda bil-kontrollur. Inġinier tal-pjattaforma jista’ jibda bil-crate ta’ Rust. Sid tal-konformità jista’ jibda b’ċertifikat issejvjat u mistoqsija mill-awditjar. Mogħdijiet tajbin ta’ spezzjoni jippermettu rwoli differenti jaslu minn biebhom stess filwaqt li xorta jmissu l-istess oġġett sottostanti.
L-istorja tal-adozzjoni lanqas mhija marbuta ma’ ritwal tal-bejgħ. Dan importanti għax il-prova teħtieġ fiduċja istituzzjonali. Jekk l-ewwel esperjenza ta’ sistema ta’ provi hija konġestjoni tal-akkwist, is-sistema diġà tħossha bħala dipendenza oħra. Jekk l-ewwel esperjenza hija ċertifikat li jista’ jiġi ċċekkjat, is-sistema tħossha bħala għodda.
Il-pożizzjoni open-source ma tneħħix il-ħtieġa għall-ġudizzju tal-inġinerija. It-timijiet xorta jridu jiddeċiedu fejn jarmu ċ-ċertifikati, kif jinħażnu, liema deċiżjonijiet jeħtiġuhom, u kif ir-riżultati tal-verifikazzjoni jsiru parti mill-flussi tax-xogħol tar-rilaxx u tal-awditjar. AION jagħmel dawk id-deċiżjonijiet konkreti minflok retoriċi.
Il-lezzjoni
Il-lezzjoni ta’ AION hija li l-awditabbiltà ma tistax tgħix biss fl-appendiċi. Jekk l-evidenza hija importanti biżżejjed biex tintwera lil regolatur, pazjent, klijent, jew reviżur intern, hija importanti biżżejjed biex tkun parti mill-pakkett tat-tweġiba nnifsu.
Dak il-pakkett m’għandux għalfejn ikun qawwi. Jista’ jkun kmand, librerija, ċertifikat, artifatt maħżun, kontroll CI, jew irċevuta kwieta murija lil bniedem. Dak li jgħodd huwa li jista’ jiġi ċċekkjat minn xi ħadd ieħor għajr il-magna tad-deċiżjoni oriġinali. Dak li jgħodd huwa li jibqa’ jgħix fil-moviment bejn għodod u żmien. Dak li jgħodd huwa li l-organizzazzjoni ma jkollhiex tikkonverti l-fiduċja f’evidenza bl-idejn wara li d-deċiżjoni diġà saret kontroversjali.
AION huwa prova open-source għax il-prova trid tkun ta’ min jiddependi fuqha. Huwa awditabbiltà għax l-evidenza tista’ terġa’ tintlagħab. Huwa ċċekkjabbli għax il-prova mhijiex moħbija wara t-tweġiba. Huwa l-parti tat-tweġiba li tħalli lit-tweġiba tiġi fddata.
Dik hija l-allegazzjoni utli: mhux li kull deċiżjoni tal-AI hija maġikament solvuta, imma li deċiżjonijiet importanti jixirqilhom wiċċ preċiż fejn ix-xogħol ikun viżibbli. Il-magna twieġeb. AION jagħmilha turi x-xogħol tagħha. Il-kontrollur jiddeċiedi jekk dak ix-xogħol iżommx.