AION omogoča preverljivost odločitev umetne inteligence
Prostor, kjer je dokaz viden
Dokaz postane uporaben šele zunaj prevajalnika. Prav tako ni v reševalcu. Je v prostoru, kjer so vsi izgubili potrpljenje z razlagami, ki zvenijo verjetno, a jih ni mogoče ponoviti.
Na steni je običajno zaslon. Nekdo je objavil odločitev. Nekdo drug je objavil vrstice dnevnika. Lastnik tveganja sprašuje, ali bo to zadostilo reviziji. Inženir poskuša razložiti, da je model ustvaril oceno zaupanja, sistem je shranil telemetrijo in ekipa lahko pokaže pot skozi aplikacijo. Besede so previdne. Prostor ni prepričan.
Težava ni v tem, da so ljudje v prostoru sovražni do umetne inteligence. Težava je v tem, da poznajo razliko med izjavo in dokazom. Dnevnik pove, da se je nekaj zgodilo. Ocena zaupanja pove, kako močno se je sistem nagibal k odgovoru. Naknadna razlaga pove, od česa je bil odgovor morda odvisen. Nobeden od teh predmetov ne dokazuje korakov sklepanja znotraj odločitve.
AION obstaja za ta trenutek. Odgovor spremeni v paket, ki vključuje lastno delo. Pot pregleda ni lepša nadzorna plošča okoli zaupanja. Je potrdilo: prenosljiv, preverljiv artefakt, ki ga lahko drug preveritelj prebere brez povezave, v linearnem času, ne da bi moral prvotnega reševalca prositi, naj se zagovarja.
To razlikovanje je pomembno, ker večina izdelkov umetne inteligence še vedno od kupca zahteva, da sprejme obljubo. AION spremeni obliko obljube. Pravi: ne zaupajte stroju, ker je zvenel samozavestno. Ne zaupajte prodajalcu, ker predstavitev pravi, da je razložljivo. Vzemite potrdilo, zaženite preverjanje ter sprejmite ali zavrnite dokaz na lastni infrastrukturi.
Prvi prizor: odgovor ni dovolj
Predstavljajte si banko, ki zavrne vlogo, bolnišnični sistem, ki priporoči pot zdravljenja, ali javni urad, ki s programsko opremo usmerja zadevo. Odgovor je lahko uporaben. Lahko je celo pravilen. Toda če prizadeta oseba vpraša, zakaj, organizacija potrebuje več kot odstavek, napisan naknadno.
Stari operativni model seže po vsem, kar je že na voljo. Obstajajo dnevniki aplikacij, vendar so nestrukturirani in pogosto vezani na dobavitelja, ki jih je ustvaril. Obstajajo ocene, a ocena brez izpeljave je le številka. Obstajajo ustvarjene razlage, a ko jih ustvari isti sistem, ki je sprejel odločitev, si sami ocenjujejo lastno delo. Obstajajo zagotovila dobaviteljev, a "zaupajte nam" ni odgovor za revizijo.
AION to obravnava kot oblikovalski problem, ne kot komunikacijski problem. Če je odločitev pomembna, morajo dokazi potovati skupaj z odgovorom. Ustvarjeni morajo biti v istem trenutku. Preživeti morajo nabavo, selitev, pregled incidentov in prihodnjega revizorja z drugačnim naborom orodij. Ne smejo se zanašati na to, da bo oddaljena storitev še vedno na voljo. Ne smejo zahtevati, da prvotni reševalec ponovno zažene primer in upa, da bo znova ubral isto pot.
Zato dokaz ni okras. Je vmesnik. Uporabnik ga lahko doživi kot potrdilo o prejemu. Inženir ga lahko doživi kot ukaz. Revizor ga lahko doživi kot neodvisno preverjanje. Isti predmet služi vsem trem, ker ni zgodba o odločitvi. Je urejena izpeljava za odločitvijo.
AION ni mehanizem za odločanje
AION ne smemo zamenjevati z nobenim drugim delom sklada Dweve. Ni Mesh, ki je infrastruktura. Ni Ledger, ki beleži dogodke, ki so se zgodili v sistemu. Ni splošna marketinška oznaka za preglednost. AION potrjuje korake sklepanja znotraj posamezne odločitve.
Ta meja je uporabna. Ledger vam lahko pove, da je zahteva prispela, da je storitev izvedla nalogo, da se je delavec vrnil in da je bil zapis shranjen. To je izvor dogodkov. AION odgovarja na ožje in težje vprašanje: ali je ob danih premisah ta sklep sledil iz zapisanih korakov? Razlika je razlika med časovnico in dokazom.
Izvorna stran opisuje AION kot knjižnico Rust z ukazno vrstico in primerjalno izvedljivo datoteko. Opisuje tudi CDCL propozicijsko jedro z natančno racionalno aritmetiko, obdano s teoretskimi razlagalniki, z oddajnikom dokazov, ki vsak korak zabeleži kot urejeno izpeljavo. To so dejstva o izvedbi, vendar postanejo pomembnejša, če jih gledamo kot operativna dejstva. Uporabnik ne dobi le odgovora. Uporabnik dobi artefakt, ki ga je mogoče vgraditi, preveriti, primerjati in odnesti s seboj.
Ko ekipa poveže knjižnico, poganja ukazno vrstico iz lupine ali opravila CI ali meri izvedbo na lastni strojni opremi, je rezultat enako potrdilo. Ta enakost je del pogodbe. Pot sprejetja ne sme spremeniti dokazov. Vrednotenje nabave, inženirska integracija in revizijska ponovitev potrebujejo isti predmet, ne treh nezdružljivih povzetkov.
Kaj potrdilo spremeni
Potrdilo spremeni razmerje moči pri odločitvi umetne inteligence. Brez njega organizacija, ki ima odgovor, nadzoruje tudi večino razlage. Z njim lahko odgovor izpodbija ločen preverjevalnik. Dokaz se lahko premakne na drug računalnik. Revizor ga lahko ponovno predvaja brez omrežne povezave. Državljan lahko zaprosi za potrdilo, institucija pa mu lahko izroči nekaj bolj oprijemljivega kot odstavek.
Zato je AION odprtokodno gradivo in ne zaprt dodatek za skladnost. Stran navaja Apache 2.0, standardne formate dokazov in domačo stran projekta na github.com/dweve-ai. Poslovna vrednost neposredno izhaja iz te odprtosti. Ekipa lahko ovrednoti pred prodajnim klicem. Lahko ga sprejme brez nadomestila za preverjanje na uporabnika. Lahko hrani zapise, ki ostanejo uporabni, tudi če pozneje zamenja dobavitelja.
Potrdilo tudi zmanjša količino zaupanja, ki ga polagamo v prvotni sistem. Računalnik, ki je odgovoril, ni edini računalnik v zgodbi. Ločen preverjevalnik prebere potrdilo in vsak sklep preveri glede na njegove premise. Če se izpeljava sklene, preverjevalnik sprejme. Če se ne, zavrne. Ni potrebe po drugem dejanju prepričevanja.
To je drugačna uporabniška izkušnja od večine razlagljivosti umetne inteligence. AION ne reče: »Tukaj je, zakaj je model verjetno to storil.« Reče: »Tukaj je dokazni objekt. Preverite ga.« Delo se premakne od razlage k preverjanju.
Odprtokodna pogodba
Odprta koda se pogosto prodaja kot ugodnost za razvijalce: preglejte kodo, jo razvejite, pošljite popravke. AION ponuja bolj operativno pogodbo. Če bo dokaz odločal o tem, ali lahko organizacija zagovarja odločitev umetne inteligence, dokazna mehanika ne sme biti črna škatla, skrita za istim odnosom z dobaviteljem, ki je ustvaril odločitev.
Apache 2.0 je tu pomemben, ker naredi sprejetje običajno. Ekipa lahko tehnologijo uporablja komercialno brez posebnega dogovora samo za branje lastnih dokazov. Standardni formati so pomembni, ker dokaz ne sme postati neuporaben, ko dobavitelj spremeni strategijo. Preverjanje brez povezave je pomembno, ker je treba revizijski zapis, narejen danes, še vedno preveriti pozneje, tudi če omrežje, račun ali storitev izgine.
To je del, ki ga nabavne ekipe razumejo hitreje, kot inženirji pričakujejo. Prvo vprašanje ni vedno, ali je reševalec pameten. Vprašanje je, ali zapisi ostanejo pod nadzorom organizacije. Ali je mogoče dokaze shraniti v arhiv? Ali jih lahko druga ekipa ponovno preveri med revizijo? Ali lahko organizacija odide, ne da bi izgubila pomen svojih starih odločitev? AION je zasnovan tako, da je odgovor lahko pritrdilen.
Zato mora biti dokaz prenosljiv. Koda je odprta, a pomembnejše je, da dokazi niso ujeti. Potrdilo ni posnetek zaslona. Ni pojasnjevalna stran, ki jo gosti ponudnik. Je artefakt, ki ohranja svojo uporabnost, ker formati in pot preverjanja niso v lasti enega samega izvajalnega okolja.
V notranjosti površine dokaza
Tehnična notranjost AION je namerno natančna. Stran imenuje CDCL jedro, teorijske vtičnike, natančno racionalno aritmetiko in oddajnik dokazov. CDCL izbira veje. Teorijski razlagalci razširjajo delni model. Oddajnik dokazov beleži sklepe in leme. Rezultat se izvozi kot LRAT, DRAT, Alethe ali enotna vmesna oblika.
Ta imena lahko zvenijo kot jezik iz reševalnice, zato jih prevedite v vedenje sistema. Sistem ne reče le, da sklep sledi. Zapiše pot. Ne zahteva, da preverjevalnik zaupa celotnemu reševalcu. Preverjevalniku da manjšo nalogo: preberi potrdilo, prehodi vsak sklep in preveri, ali se koraki ujemajo s premisami.
Pokritost teorij je dovolj široka, da je pomembna za resnične sisteme: propozicijska logika, kvantifikatorji, linearna in nelinearna aritmetika, bitni vektorji, polja, nizi, števila s plavajočo vejico, časovna logika, verjetnostni programi in sočasni programi. Aritmetični, podatkovni in plavajočo-vejični razlagalci živijo v jedru; programske teorije so v spremljevalnih zabojnikih. Ta delitev ni slogan. Tako lahko ena sama površina dokaza pokriva odločitve, ki zadevajo več kot eno vrsto sklepanja.
Natančna racionalna aritmetika je tudi oblikovalska izjava. Če bo dokaz pozneje ponovno preverjen, ne sme biti odvisen od nejasne nesreče s plavajočo vejico v aritmetičnem jedru. Potrdilo se mora obnašati kot dokaz, ne kot približek, ki spremeni značaj, ko ga premaknemo med stroji. Izvorno gradivo je izrecno: brez plavajoče vejice v aritmetičnem jedru.
Zakaj je ukazna vrstica pomembna za upravni odbor
Upravni odbori običajno ne skrbijo za orodja ukazne vrstice. Skrbijo za tveganje, stroške, izstop in revizijo. Površina ukazne vrstice AION je pomembna, ker stisne te pomisleke v ponovljivo dejanje. Zaženi preverjanje. Dobi sprejem ali zavrnitev. Naredi to brez spraševanja dobavitelja. Naredi to brez omrežja. Naredi to na strojni opremi pod svojim nadzorom.
To je enostavno podceniti. Nadzorna plošča lahko ekipi da občutek, da je obveščena, vendar lahko ukaz naredi revizijo ponovljivo. Ko je mogoče dokaze preveriti iz lupine ali opravila CI, jih je mogoče vgraditi v običajne kontrole organizacije. Nove odločitve lahko izdajo potrdila. Shranjene zapise je mogoče vzorčiti. Pregledi incidentov lahko ponovno predvajajo točen artefakt, namesto da bi iz telemetrije rekonstruirali zgodbo.
Referenčni binarni program sodi v isti pogovor. Če mora ekipa izmeriti AION na lastni strojni opremi, to lahko stori. To ne ustvarja lažne trditve o zmogljivosti; to se ji izogne. Stran bralca ne prosi, naj verjame nepodprti številki. Bralcu daje način, kako izmeriti implementacijo v okolju, ki je pomembno.
Za upravni odbor postane vprašanje preprosto: ali lahko še vedno pojasnimo svoje odločitve, ko prvotne aplikacije ni več, ko regulator zahteva dokaze ali ko stranka izpodbija izid? AION to spremeni iz sestanka v operativni postopek.
Kje se Ledger konča in kje se začne AION
Dweve ima več kot eno odprtokodno površino, ker ima odgovornost več kot eno obliko. Ledger beleži, kaj se je zgodilo v sistemu: dogodke, zgoščene vrednosti, verigo skrbništva. AION beleži, zakaj je sklep sledil znotraj odločitve. Oboje je uporabno. Ne bi smeli biti združeni.
Pri pregledu incidenta lahko Ledger pomaga ugotoviti, da je zahteva prispela, da je bila različica aktivna, da se je zgodilo dejanje operaterja ali da je bil zapis zapisan. AION lahko pomaga ugotoviti, da je bil korak sklepanja od premis do zaključka veljaven. Če se to pomeša, ekipe na koncu dobijo zelo podrobne časovnice, ki še vedno ne dokazujejo odločitve, ali dokazne artefakte, ki ne povedo ničesar o okoliški operativni verigi.
Jasna meja je dobro oblikovanje vmesnika. Vsaki površini omogoča, da se presoja po vprašanju, na katerega odgovarja. Ali se je ta dogodek zgodil? To je področje Ledgerja. Ali je ta sklep sledil? To je področje AION. Ali je delovna obremenitev potekala na pravem mestu s pravo zasebnostno prvino? To sodi v infrastrukturo, torej Mesh, ne AION.
Dan v revizijski sobi
Znova si predstavljajte revizijo, vendar z AION v toku od začetka. Organizacija ne prinese predstavitve, ki pojasnjuje, kako previdna je inženirska ekipa. Prinese odločitev, potrdilo in ponovljiv postopek preverjanja.
Revizor vpraša, ali je zapis odvisen od oblaka prodajalca. Ne: preverjanje poteka brez povezave. Revizor vpraša, ali je potrebno posebno interno orodje. Ne: dokaz uporablja standardne formate, kot so LRAT, DRAT in Alethe, z enotno vmesno obliko za njimi. Revizor vpraša, ali je treba prvotni reševalnik znova zagnati. Ne: preverjevalnik preveri potrdilo. Revizor vpraša, kaj se zgodi, če organizacija pozneje zamenja dobavitelja. Potrdilo ostane prenosljivo.
Pogovor postane mirnejši, ker ima manj skrivnosti. Inženirska ekipa lahko še vedno razpravlja o arhitekturi. Lastnik podjetja lahko še vedno razpravlja o tveganju. Toda osrednji dokaz ni več prepričljiva predstava. Je predmet na mizi.
To ne pomeni, da vsako poslovno vprašanje izgine. Potrdilo dokazuje določeno stvar, ne pa vsake moralne, pravne ali operativne lastnosti v zvezi z odločitvijo. AION ni čarovnija. Slabe politike ne spremeni v dobro. Ne odloča o tem, ali so bile premise poštene. Dokazuje izpeljavo, ki jo beleži. Prav ta poštenost je del razloga, zakaj je uporaben.
Tihi UX brez interneta
Preverjanje brez povezave se sliši kot tehnična podrobnost, dokler ne pride prva resna revizija. Takrat postane funkcija uporabniške izkušnje. Nihče ne mora zaprositi za začasen dostop do prodajalčevega okolja. Nihče ne mora odpreti izjeme v požarnem zidu, da bi bilo mogoče preveriti dokaze. Nihče ne mora upati, da je naročnina še vedno aktivna za star zapis.
Uporabniška izkušnja je tiha, ker je idealno preverjanje dokazov dolgočasno. Potrdilo je prisotno. Preverjevalnik se zažene. Odgovor je sprejet ali zavrnjen. Brez slovesnosti. Brez računa. Brez nove odvisnosti. V jeziku potrošnikov je to potrdilo o prejemu. V inženirskem jeziku je to dokazni artefakt. V jeziku revizije je to dokaz, ki ga je mogoče ponovno preveriti.
To spremeni tudi način, kako ekipe razmišljajo o arhivih. Zapis odločitve ni popoln, če shranjuje le rezultat in časovni žig. Za odločitve, ki morajo prestati nadzor, je treba dokaz shraniti poleg odgovora. Če delovni tok to naredi naravno, je skladnost manj odvisna od junaške dokumentacije po dogodku.
Stavek »dokaz pride skupaj z odgovorom« je lahko razumljen kot marketing. V praksi je to pravilo shranjevanja, pravilo procesa in pravilo oblikovanja. Sam odgovor ni izdelek. Odgovor skupaj s preverljivim potrdilom je.
Kako izgleda uvajanje
Uvajanje AION ima v izvornem gradivu tri preproste poti: vrednotenje, inženiring in skladnost. Vrednotenje pomeni branje kode in zagon primerov dokazov pred kakršnim koli pogovorom. Inženiring pomeni povezovanje knjižnice, da obstoječi sistemi oddajo preverljivo potrdilo. Skladnost pomeni ponovno preverjanje shranjenega potrdila brez povezave ob reviziji.
Te poti so namenoma različne. Varnostni inženir lahko začne s preverjevalnikom. Platformni inženir lahko začne z jezičkom Rust. Odgovorna oseba za skladnost lahko začne s shranjenim potrdilom in vprašanjem iz revizije. Dobri načini pregleda omogočajo različnim vlogam, da pridejo skozi svoja vrata, a se še vedno dotaknejo istega temeljnega predmeta.
Zgodba o uvajanju prav tako ni vezana na prodajni ritual. To je pomembno, ker dokaz potrebuje institucionalno zaupanje. Če je prva izkušnja s sistemom dokazov ozko grlo pri nabavi, sistem že deluje kot še ena odvisnost. Če je prva izkušnja potrdilo, ki ga je mogoče preveriti, sistem deluje kot orodje.
Odprtokodna drža ne odpravlja potrebe po inženirski presoji. Ekipe morajo še vedno odločiti, kje se potrdila oddajajo, kako se shranjujejo, katere odločitve jih zahtevajo in kako rezultati preverjanja postanejo del delovnih tokov izdaje in revizije. AION te odločitve naredi konkretne namesto retoričnih.
Nauk
Nauk AION je, da revizijska sledljivost ne more živeti samo v prilogi. Če so dokazi dovolj pomembni, da jih pokažemo regulatorju, pacientu, stranki ali notranjemu pregledovalcu, so dovolj pomembni, da so del samega paketa odgovora.
Ta paket ni treba, da je glasen. Lahko je ukaz, knjižnica, potrdilo, shranjen artefakt, preverjanje CI ali tiho potrdilo o prejemu, prikazano človeku. Pomembno je, da ga lahko preveri nekdo, ki ni prvotni mehanizem za odločanje. Pomembno je, da preživi prenos med orodji in časom. Pomembno je, da organizaciji ni treba ročno pretvarjati zaupanja v dokaze, potem ko je odločitev že postala sporna.
AION je odprtokodni dokaz, ker mora dokaz pripadati ljudem, ki se nanj zanašajo. Je revizijska sledljivost, ker je dokaze mogoče ponovno predvajati. Je preverljiv, ker dokaz ni skrit za odgovorom. Je del odgovora, ki omogoča, da se odgovoru zaupa.
To je uporabna trditev: ne da je vsaka odločitev umetne inteligence čarobno rešena, ampak da si pomembne odločitve zaslužijo natančno površino, kjer je delo vidno. Stroj odgovori. AION pokaže svoje delo. Preverjevalnik odloči, ali to delo vzdrži.