AION padara AI lēmumus pārbaudāmus
Telpa, kurā ir redzams pierādījums
Pierādījums kļūst noderīgs tikai ārpus kompilatora. Tas nav arī risinātājā. Tas ir telpā, kur visiem ir beigusies pacietība ar skaidrojumiem, kas izklausās ticami, bet kurus nevar atkārtot.
Uz sienas parasti ir ekrāns. Kāds ir izlicis lēmumu. Kāds cits ir izlicis žurnāla rindas. Riska īpašnieks jautā, vai tas apmierinās revīziju. Inženieris mēģina paskaidrot, ka modelis ir radījis ticamības rādītāju, sistēma ir saglabājusi telemetriju, un komanda var parādīt ceļu cauri lietojumprogrammai. Vārdi ir rūpīgi izvēlēti. Telpa nav pārliecināta.
Problēma nav tā, ka cilvēki telpā ir naidīgi pret mākslīgo intelektu. Problēma ir tā, ka viņi zina atšķirību starp apgalvojumu un pierādījumu. Žurnāls saka, ka kaut kas notika. Ticamības rādītājs saka, cik stingri sistēma sliecās uz kādu atbildi. Pēc fakta veidots skaidrojums saka, no kā atbilde, iespējams, bija atkarīga. Neviens no šiem objektiem nepierāda lēmuma iekšējās spriešanas darbības.
AION pastāv tieši šim brīdim. Tas pārvērš atbildi paketē, kas ietver savu darbu. Pārbaudes ceļš nav skaistāks uzticības informācijas panelis. Tas ir sertifikāts: pārnēsājams, pārbaudāms artefakts, ko cits pārbaudītājs var nolasīt bezsaistē, lineārā laikā, nelūdzot sākotnējam risinātājam sevi aizstāvēt.
Šī atšķirība ir svarīga, jo lielākā daļa mākslīgā intelekta produktu joprojām lūdz pircēju pieņemt solījumu. AION maina solījuma formu. Tas saka: neuzticieties mašīnai tāpēc, ka tā izklausījās pārliecināta. Neuzticieties pārdevējam tāpēc, ka prezentācija saka "izskaidrojams". Paņemiet sertifikātu, veiciet pārbaudi un pieņemiet vai noraidiet pierādījumu savā infrastruktūrā.
Pirmā aina: atbilde nav pietiekama
Iedomājieties banku, kas noraida pieteikumu, slimnīcas sistēmu, kas iesaka ārstēšanas ceļu, vai valsts iestādi, kas izmanto programmatūru lietas virzīšanai. Atbilde var būt noderīga. Tā pat var būt pareiza. Bet, ja ietekmētā persona jautā, kāpēc, organizācijai ir vajadzīgs vairāk nekā rindkopa, kas uzrakstīta pēc notikuma.
Vecais darbības modelis sniedzas pēc tā, kas jau ir pieejams. Ir lietojumprogrammu žurnāli, bet tie ir nestrukturēti un bieži vien piesaistīti piegādātājam, kas tos radījis. Ir rādītāji, bet rādītājs bez atvasinājuma ir tikai skaitlis. Ir ģenerēti skaidrojumi, bet, ja tos rada tā pati sistēma, kas pieņēma lēmumu, tie vērtē savu darbu. Ir piegādātāja apliecinājumi, bet "uzticieties mums" nav revīzijas atbilde.
AION to uztver kā dizaina problēmu, nevis komunikācijas problēmu. Ja lēmumam ir nozīme, pierādījumam ir jāceļo kopā ar atbildi. Tam ir jābūt izdotam tajā pašā brīdī. Tam ir jāizdzīvo iepirkums, migrācija, incidentu pārskats un nākotnes revidents ar citu rīku komplektu. Tas nevar paļauties uz attālo pakalpojumu, kas joprojām ir tiešsaistē. Tas nevar prasīt, lai sākotnējais risinātājs atkārtoti palaistu gadījumu un cerētu, ka tas atkal izvēlēsies to pašu ceļu.
Tāpēc pierādījums nav dekorācija. Tas ir interfeiss. Lietotājs to var uztvert kā kvīti. Inženieris to var uztvert kā komandu. Revidents to var uztvert kā neatkarīgu pārbaudi. Viens un tas pats objekts kalpo visiem trim, jo tas nav stāsts par lēmumu. Tā ir sakārtota atvasinājuma ķēde aiz lēmuma.
AION nav lēmumu dzinējs
AION nevajadzētu jaukt ar citām Dweve kopas sastāvdaļām. Tas nav Mesh, kas ir infrastruktūra. Tas nav Ledger, kas reģistrē notikumus sistēmā. Tas nav vispārējs mārketinga apzīmējums caurskatāmībai. AION sertificē spriešanas soļus viena lēmuma ietvaros.
Šī robeža ir noderīga. Ledger var pateikt, ka pieprasījums ir saņemts, pakalpojums ir izpildīts, darbinieks ir atgriezies un ieraksts ir izveidots. Tā ir notikumu izcelsme. AION atbild uz šaurāku un grūtāku jautājumu: vai, ņemot vērā šīs premisas, šis secinājums izriet no reģistrētajiem soļiem? Atšķirība ir tāda pati kā starp laika līniju un pierādījumu.
Avota lapa apraksta AION kā Rust bibliotēku ar komandrindas bināro failu un etalonu bināro failu. Tajā ir aprakstīts arī CDCL propozicionālais kodols ar precīzu racionālo aritmētiku, ko ieskauj teoriju risinātāji, ar pierādījumu ģeneratoru, kas reģistrē katru soli kā sakārtotu atvasinājumu. Tie ir ieviešanas fakti, bet tie kļūst svarīgāki, ja tos skata kā darbības faktus. Lietotājs saņem ne tikai atbildi. Lietotājs saņem artefaktu, ko var iegult, pārbaudīt, etalonēt un paņemt līdzi.
Kad komanda saista krātuvi, vada CLI no čaulas vai CI darba, vai mēra ieviešanu savā aparatūrā, tiek iegūts tas pats sertifikāts. Šī vienādība ir daļa no līguma. Adopcijas ceļš nedrīkst mainīt pierādījumus. Iepirkuma novērtējums, inženiertehniskā integrācija un audita atkārtošana visiem ir nepieciešams viens un tas pats objekts, nevis trīs nesavienojami kopsavilkumi.
Ko sertifikāts maina
Sertifikāts maina varas attiecības ap AI lēmumu. Bez tā organizācija, kurai ir atbilde, kontrolē arī lielāko daļu skaidrojuma. Ar to atbildi var apstrīdēt atsevišķs pārbaudītājs. Pierādījumu var pārvietot uz citu mašīnu. Auditors to var atkārtot bez tīkla savienojuma. Iedzīvotājs var pieprasīt kvīti, un iestāde var nodot kaut ko konkrētāku par rindkopu.
Tāpēc AION ir atvērtā koda materiāls, nevis slēgts atbilstības papildinājums. Lapā ir norādīts Apache 2.0, standarta pierādījumu formāti un projekta mājas lapa github.com/dweve-ai. Biznesa vērtība tieši izriet no šīs atvērtības. Komanda var novērtēt pirms pārdošanas sarunas. Tā var pieņemt bez maksas par katru sēdvietu pierādījumu lasīšanai. Tā var glabāt ierakstus, kas paliek noderīgi arī tad, ja tā vēlāk pamet piegādātāju.
Sertifikāts arī samazina uzticības apjomu, kas tiek likts uz sākotnējo sistēmu. Mašīna, kas atbildēja, nav vienīgā mašīna stāstā. Atsevišķs pārbaudītājs nolasa sertifikātu un iziet cauri katram atvasinājumam pret tā premisām. Ja atvasinājums noslēdzas, pārbaudītājs pieņem. Ja nē, tas noraida. Nav nepieciešama otra pārliecināšanas darbība.
Tā ir atšķirīga lietotāja pieredze nekā lielākajai daļai AI izskaidrojamības risinājumu. AION nesaka: "Lūk, kāpēc modelis, iespējams, to izdarīja." Tas saka: "Lūk, pierādījuma objekts. Pārbaudiet to." Darbs pāriet no interpretācijas uz verifikāciju.
Atvērtā koda darījums
Atvērtais kods bieži tiek pārdots kā izstrādātāja ērtība: pārbaudiet kodu, atzarojiet to, sūtiet ielāpus. AION piedāvā operatīvāku darījumu. Ja pierādījumam ir jāizlemj, vai organizācija var aizstāvēt AI lēmumu, pierādījumu mehānisms nevar būt melnā kaste, kas paslēpta aiz tās pašas piegādātāja attiecības, kas radīja lēmumu.
Apache 2.0 šeit ir svarīgs, jo tas padara adopciju parastu. Komanda var izmantot tehnoloģiju komerciāli bez īpašas vienošanās, lai tikai nolasītu savus pierādījumus. Standarta formāti ir svarīgi, jo pierādījums nedrīkst kļūt nederīgs, ja piegādātājs maina stratēģiju. Bezsaistes pārbaude ir svarīga, jo šodien izveidotam audita ierakstam vajadzētu būt pārbaudāmam arī vēlāk, pat ja tīkls, konts vai pakalpojums ir pazudis.
To ir tas, ko iepirkumu komandas saprot ātrāk, nekā inženieri sagaida. Pirmais jautājums ne vienmēr ir par to, vai risinātājs ir gudrs. Tas ir par to, vai ieraksti paliek organizācijas kontrolē. Vai pierādījumus var glabāt arhīvā? Vai cita komanda var tos vēlreiz pārbaudīt audita laikā? Vai organizācija var aiziet, nezaudējot savu veco lēmumu nozīmi? AION ir veidots tā, lai atbilde varētu būt jā.
Tāpēc pierādījumiem jābūt pārnesamiem. Kods ir atvērts, bet galvenais ir tas, ka pierādījumi nav iesprostoti. Sertifikāts nav ekrānuzņēmums. Tā nav pārdevēja mitināta paskaidrojuma lapa. Tas ir artefakts, kas saglabā savu lietderību, jo formāti un pārbaudes ceļš nepieder vienai izpildes videi.
Pierādījumu virsmas iekšpuse
AION tehniskā iekšpuse ir apzināti precīza. Lapa nosauc CDCL kodolu, teorijas spraudņus, precīzu racionālo aritmētiku un pierādījumu ģeneratoru. CDCL izvēlas zarus. Teorijas argumentētāji paplašina daļējo modeli. Pierādījumu ģenerators ieraksta rezolūcijas un lemmas. Rezultāts tiek eksportēts kā LRAT, DRAT, Alethe vai vienota starpposma forma.
Šie nosaukumi var izklausīties kā risinātāju istabas valoda, tāpēc tulkojiet tos sistēmas uzvedībā. Sistēma ne tikai saka, ka secinājums izriet. Tā pieraksta ceļu. Tā nelūdz pārbaudītājam uzticēties visam risinātājam. Tā dod pārbaudītājam mazāku uzdevumu: izlasīt sertifikātu, izstaigāt katru dedukciju un pārbaudīt, ka soļi noslēdzas pret premisām.
Teorijas pārklājums ir pietiekami plašs, lai būtu nozīmīgs reālām sistēmām: propozicionālā loģika, kvantori, lineārā un nelineārā aritmētika, bitu vektori, masīvi, virknes, peldošā komata skaitļi, temporālā loģika, varbūtības programmas un vienlaicīgas programmas. Aritmētikas, datu un peldošā komata argumentētāji dzīvo kodolā; programmu teorijas atrodas pavadošajās krātuvēs. Šis dalījums nav sauklis. Tas ir veids, kā viena pierādījumu virsma var aptvert lēmumus, kas skar vairāk nekā vienu spriešanas veidu.
Precīza racionālā aritmētika ir arī dizaina paziņojums. Ja pierādījums vēlāk jāpārbauda vēlreiz, tas nevar būt atkarīgs no neskaidras peldošā komata nejaušības aritmētikas kodolā. Sertifikātam jāuzvedas kā pierādījumam, nevis kā tuvinājumam, kas maina raksturu, pārvietojot to starp mašīnām. Avota materiāls ir skaidrs: peldošā komata nav aritmētikas kodolā.
Kāpēc komandrinda ir svarīga valdei
Valdes parasti nerūpējas par komandrindas rīkiem. Tās rūpējas par risku, izmaksām, iziešanu un auditu. AION komandrindas virsma ir svarīga, jo tā saspiež šīs rūpes atkārtojamā darbībā. Palaidiet pārbaudi. Saņemiet pieņemt vai noraidīt. Dariet to, nejautājot piegādātājam. Dariet to bez tīkla. Dariet to aparatūrā, kas ir jūsu kontrolē.
To ir viegli novērtēt par zemu. Informācijas panelis var likt komandai justies informētai, bet komanda var padarīt auditu atkārtojamu. Ja pierādījumus var pārbaudīt no komandrindas vai CI darba, tos var iebūvēt organizācijas parastajās kontroles sistēmās. Jauni lēmumi var izdot sertifikātus. Saglabātos ierakstus var izlases veidā pārbaudīt. Incidentu pārskatos var atskaņot precīzu artefaktu, nevis rekonstruēt stāstu no telemetrijas datiem.
Etalona binārais fails ir daļa no tās pašas sarunas. Ja komandai ir jāmēra AION savā aparatūrā, tā to var izdarīt. Tas nerada viltotu veiktspējas apgalvojumu; tas tādu novērš. Lapa nelūdz lasītājam ticēt nepamatotam skaitlim. Tā dod lasītājam veidu, kā izmērīt ieviešanu vidē, kurai ir nozīme.
Valdei jautājums kļūst vienkāršs: vai mēs joprojām varam izskaidrot savus lēmumus, kad sākotnējās lietojumprogrammas vairs nav, kad regulators pieprasa pierādījumus vai kad klients apstrīd rezultātu? AION to pārvērš no sapulces par darbības procedūru.
Kur beidzas Ledger un sākas AION
Dweve ir vairāk nekā viena atvērtā pirmkoda saskarne, jo atbildībai ir vairāk nekā viena forma. Ledger ieraksta, kas notika sistēmā: notikumi, jaucējkodi, glabāšanas ķēde. AION ieraksta, kāpēc secinājums izrietēja lēmuma ietvaros. Abi ir noderīgi. Tos nevajadzētu sajaukt.
Incidentu pārskatā Ledger var palīdzēt noteikt, ka pieprasījums ir saņemts, versija bija aktīva, operatora darbība notika vai ieraksts tika izveidots. AION var palīdzēt noteikt, ka spriešanas solis no premisām līdz secinājumam bija derīgs. Ja tie tiek sajaukti, komandām paliek ļoti detalizētas laika līnijas, kas joprojām nepierāda lēmumu, vai pierādījumu artefakti, kas neko nepasaka par apkārtējo operacionālo ķēdi.
Skaidrā robeža ir laba saskarnes dizaina pazīme. Tā ļauj katru saskarni vērtēt pēc jautājuma, uz kuru tā atbild. Vai šis notikums notika? Tā ir Ledger teritorija. Vai šis secinājums izrietēja? Tā ir AION teritorija. Vai darba slodze darbojās pareizajā vietā ar pareizo privātuma pamatprincipu? Tas pieder infrastruktūrai, proti, Mesh, nevis AION.
Diena audita telpā
Iedomājieties auditu vēlreiz, bet ar AION plūsmā no paša sākuma. Organizācija neatnes slaidu prezentāciju, kas skaidro, cik rūpīga ir inženieru komanda. Tā atnes lēmumu, sertifikātu un reproducējamu pārbaudes procesu.
Auditors jautā, vai ieraksts ir atkarīgs no piegādātāja mākoņa. Nē: pārbaude notiek bezsaistē. Auditors jautā, vai ir nepieciešams īpašs iekšējs rīks. Nē: pierādījums izmanto standarta formātus, piemēram, LRAT, DRAT un Alethe, ar vienotu starpposma formu aiz tiem. Auditors jautā, vai sākotnējam risinātājam ir jādarbojas vēlreiz. Nē: pārbaudītājs verificē sertifikātu. Auditors jautā, kas notiek, ja organizācija vēlāk maina piegādātāju. Sertifikāts paliek pārnēsājams.
Saruna kļūst mierīgāka, jo tajā ir mazāk noslēpumu. Inženieru komanda joprojām var apspriest arhitektūru. Uzņēmuma īpašnieks joprojām var apspriest risku. Bet centrālais pierādījums vairs nav pārliecinoša izrāde. Tas ir objekts uz galda.
Tas nenozīmē, ka visi biznesa jautājumi pazūd. Sertifikāts pierāda noteiktu lietu, nevis visas morālās, juridiskās vai operacionālās īpašības ap lēmumu. AION nav maģija. Tas nepārvērš sliktu politiku par labu. Tas neizlemj, vai premisas bija taisnīgas. Tas pierāda atvasinājumu, ko tas ieraksta. Šī godīgums ir daļa no iemesla, kāpēc tas ir noderīgs.
Klusā UX bez interneta
Verifikācija bezsaistē izklausās pēc tehniskas detaļas līdz pirmajai nopietnajai revīzijai. Tad tā kļūst par lietotāja pieredzes funkciju. Nevienam nav jāpieprasa pagaidu piekļuve pārdevēja videi. Nevienam nav jāatver ugunsmūra izņēmums, lai varētu pārbaudīt pierādījumus. Nevienam nav jācer, ka abonements vecam ierakstam joprojām ir aktīvs.
Lietotāja pieredze ir klusa, jo ideāla pierādījuma pārbaude ir garlaicīga. Sertifikāts ir klāt. Pārbaudītājs darbojas. Atbilde tiek pieņemta vai noraidīta. Nekādas ceremonijas. Nekāda konta. Nekādas jaunas atkarības. Patērētāja valodā tā ir kvīts. Inženieru valodā tas ir pierādījuma artefakts. Revīzijas valodā tie ir pierādījumi, kurus var pārbaudīt vēlreiz.
Tas maina arī to, kā komandas domā par arhīviem. Lēmuma ieraksts nav pilnīgs, ja tajā tiek glabāta tikai izvade un laikspiedols. Lēmumiem, kuriem jāiztur pārbaude, pierādījums ir jāglabā blakus atbildei. Ja darbplūsma to padara dabisku, atbilstības nodrošināšana kļūst mazāk atkarīga no varonīgas dokumentēšanas pēc notikuma.
Frāzi "pierādījums nāk kopā ar atbildi" ir viegli uztvert kā mārketingu. Praksē tas ir krātuves noteikums, procesa noteikums un dizaina noteikums. Pati atbilde nav produkts. Atbilde kopā ar pārbaudāmu sertifikātu ir.
Kā izskatās ieviešana
AION ieviešanai avota materiālā ir trīs vienkārši ceļi: izvērtēšana, inženierija un atbilstība. Izvērtēšana nozīmē izlasīt kodu un palaist piemēru pierādījumus pirms jebkādas sarunas. Inženierija nozīmē pievienot bibliotēku, lai esošās sistēmas izdotu pārbaudāmu sertifikātu. Atbilstība nozīmē atkārtoti pārbaudīt saglabātu sertifikātu bezsaistē revīzijas laikā.
Šie ceļi apzināti atšķiras. Drošības inženieris var sākt ar pārbaudītāju. Platformas inženieris var sākt ar Rust kasti. Atbilstības atbildīgais var sākt ar saglabātu sertifikātu un revīzijas jautājumu. Labi pārbaudes ceļi ļauj dažādām lomām ienākt pa savām durvīm, vienlaikus saskaroties ar vienu un to pašu pamatā esošo objektu.
Ieviešanas stāsts nav piesaistīts arī pārdošanas rituālam. Tas ir svarīgi, jo pierādījumiem ir nepieciešama institucionāla uzticēšanās. Ja pirmā pieredze ar pierādījumu sistēmu ir iepirkuma sastrēgums, sistēma jau šķiet kā vēl viena atkarība. Ja pirmā pieredze ir sertifikāts, kuru var pārbaudīt, sistēma šķiet kā rīks.
Atvērtā koda pieeja nenovērš nepieciešamību pēc inženiertehniskā sprieduma. Komandām joprojām ir jāizlemj, kur sertifikāti tiek izdoti, kā tie tiek glabāti, kuriem lēmumiem tie ir nepieciešami un kā verifikācijas rezultāti kļūst par daļu no izlaišanas un revīzijas darbplūsmām. AION padara šos lēmumus konkrētus, nevis retoriskus.
Mācība
AION mācība ir tāda, ka auditejamība nevar dzīvot tikai pielikumā. Ja pierādījumi ir pietiekami svarīgi, lai tos rādītu regulatoram, pacientam, klientam vai iekšējam recenzentam, tie ir pietiekami svarīgi, lai būtu daļa no pašas atbildes paketes.
Šai paketei nav jābūt skaļai. Tā var būt komanda, bibliotēka, sertifikāts, saglabāts artefakts, CI pārbaude vai klusa kvīts, kas parādīta cilvēkam. Svarīgi ir tas, ka to var pārbaudīt kāds cits, nevis sākotnējais lēmumu dzinējs. Svarīgi ir tas, ka tā izdzīvo pārvietošanos starp rīkiem un laiku. Svarīgi ir tas, ka organizācijai nav pašrocīgi jāpārvērš uzticēšanās pierādījumos pēc tam, kad lēmums jau ir kļuvis strīdīgs.
AION ir atvērtā koda pierādījums, jo pierādījumam ir jāpieder cilvēkiem, kuri uz to paļaujas. Tā ir auditejamība, jo pierādījumus var atkārtoti izspēlēt. Tas ir pārbaudāms, jo pierādījums nav paslēpts aiz atbildes. Tā ir atbildes daļa, kas ļauj atbildei uzticēties.
Tas ir lietderīgais apgalvojums: nevis tas, ka katrs mākslīgā intelekta lēmums ir maģiski atrisināts, bet gan tas, ka svarīgi lēmumi ir pelnījuši precīzu virsmu, kur darbs ir redzams. Mašīna atbild. AION liek tai parādīt savu darbu. Pārbaudītājs izlemj, vai šis darbs ir noturīgs.