Kontrollitavad AI-otsused
Ruum, kus tõend on nähtav
Tõend muutub kasulikuks alles väljaspool kompilaatorit. See pole ka lahendajas. See on ruumis, kus kõigil on otsas kannatus seletuste suhtes, mis kõlavad usutavalt, kuid mida ei saa taasesitada.
Tavaliselt on seinal ekraan. Keegi on üles pannud otsuse. Keegi teine on üles pannud logiridad. Riskijuht küsib, kas see rahuldab auditit. Insener üritab selgitada, et mudel andis usaldusväärsuse skoori, süsteem salvestas telemeetria ja meeskond suudab näidata teed rakenduse läbimisel. Sõnad on hoolsad. Ruum pole veendunud.
Probleem pole selles, et ruumis viibijad oleksid AI suhtes vaenulikud. Probleem on selles, et nad teavad erinevust väite ja tõendi vahel. Logi ütleb, et midagi juhtus. Usaldusväärsuse skoor ütleb, kui tugevalt süsteem kaldus vastuse poole. Järelselgitus ütleb, millest vastus võis sõltuda. Ükski neist objektidest ei tõesta otsuse sees olevaid arutluskäigu samme.
AION on loodud just selleks hetkeks. See muudab vastuse paketiks, mis sisaldab omaenda tööd. Kontrollimise tee pole ilusam armatuurlaud usalduse ümber. See on sertifikaat: kaasaskantav, kontrollitav artefakt, mida teine kontrollija saab lugeda võrguühenduseta, lineaarses ajas, ilma et peaks paluma algsel lahendajal end kaitsta.
See eristus on oluline, sest enamik AI-tooteid palub ostjal endiselt lubadust vastu võtta. AION muudab lubaduse kuju. See ütleb: ära usalda masinat seepärast, et see kõlas enesekindlalt. Ära usalda müüjat seepärast, et esitlus ütleb selgitatav. Võta sertifikaat, käivita kontroll ja võta tõend vastu või lükka see tagasi omaenda taristul.
Esimene stseen: vastusest ei piisa
Kujutage ette panka, mis lükkab taotluse tagasi, haiglasüsteemi, mis soovitab ravisuunda, või avalikku asutust, mis kasutab tarkvara juhtumi suunamiseks. Vastus võib olla kasulik. See võib olla isegi õige. Kuid kui mõjutatud isik küsib, miks, vajab organisatsioon enamat kui pärast sündmust kirjutatud lõiku.
Vana tegevusmudel haarab selle poole, mis juba olemas on. Rakenduslogid on olemas, kuid need on struktureerimata ja sageli seotud tarnijaga, kes need lõi. Skoorid on olemas, kuid skoor ilma tuletuseta on lihtsalt number. Loodud selgitused on olemas, kuid kui need on tootnud sama süsteem, mis tegi otsuse, hindavad nad omaenda kodutööd. Tarnija kinnitused on olemas, kuid "usaldage meid" ei ole auditi vastus.
AION käsitleb seda disainiprobleemina, mitte kommunikatsiooniprobleemina. Kui otsus on oluline, peavad tõendid liikuma koos vastusega. Need tuleb väljastada samal hetkel. Need peavad vastu pidama hankele, migratsioonile, intsidentide ülevaatusele ja tulevasele audiitorile, kellel on teistsugune tööriistakett. Need ei tohi sõltuda kaugteenusest, mis on veel võrgus. Need ei tohi nõuda, et algne lahendaja käivitaks juhtumi uuesti ja loodaks, et see läheb sama teed.
Sellepärast pole tõend kaunistus. See on liides. Kasutaja võib seda kogeda kviitungina. Insener võib seda kogeda käsuna. Audiitor võib seda kogeda sõltumatu kontrollina. Sama objekt teenib kõiki kolme, sest see pole lugu otsusest. See on otsuse taga olev järjestatud tuletus.
AION ei ole otsustusmootor
AION ei tohi segi ajada ühegi teise Dweve virna osaga. See ei ole Mesh, mis on taristu. See ei ole Ledger, mis salvestab sündmusi, mis süsteemis toimusid. See ei ole üldine turundussilt läbipaistvuse jaoks. AION sertifitseerib põhjendussamme ühe otsuse sees.
See piir on kasulik. Ledger võib öelda, et päring saabus, teenus käivitus, töötaja naasis ja kirje kirjutati. See on sündmuste päritolu. AION vastab kitsamale ja raskemale küsimusele: kas nende eelduste juures järgnes järeldus salvestatud sammudest? Erinevus on sama mis erinevus ajajoone ja tõestuse vahel.
Lähteleht kirjeldab AION-i kui Rusti teeki koos käsurea binaariga ja jõudlusmõõtmise binaariga. See kirjeldab ka CDCL-i propositsioonilist tuuma täpse ratsionaalarvutusega, mida ümbritsevad teooria põhjendajad, koos tõestuse väljastajaga, mis salvestab iga sammu järjestatud tuletusena. Need on teostuse faktid, kuid need muutuvad olulisemaks, kui neid vaadelda operatiivsete faktidena. Kasutaja ei saa ainult vastust. Kasutaja saab artefakti, mida saab manustada, kontrollida, mõõta ja kaasa võtta.
Kui meeskond lingib krati, juhib CLI-d kestast või CI-tööst või mõõdab teostust oma riistvaral, tuleb välja sama sertifikaat. See samasugusus on osa lepingust. Kasutuselevõtu tee ei tohiks muuta tõendusmaterjali. Hangete hindamine, inseneriintegratsioon ja auditi taasesitus vajavad kõik sama objekti, mitte kolme kokkusobimatut kokkuvõtet.
Mida sertifikaat muudab
Sertifikaat muudab võimusuhet AI-otsuse ümber. Ilma selleta kontrollib organisatsioon, kellel on vastus, ka suuremat osa selgitusest. Sellega saab vastust vaidlustada eraldi kontrollija. Tõestust saab teisaldada teise masinasse. Audiitor saab selle taasesitada ilma võrguühenduseta. Kodanik saab küsida kviitungit ja institutsioon saab üle anda midagi konkreetsemat kui lõik.
Seetõttu on AION avatud lähtekoodiga materjal, mitte suletud vastavuse lisand. Lehel on kirjas Apache 2.0, standardsed tõestusvormingud ja projekti kodu aadressil github.com/dweve-ai. Äriväärtus tuleneb otseselt sellest avatusest. Meeskond saab hinnata enne müügikõnet. See saab kasutusele võtta ilma kasutajapõhise tõestuse lugemise tasuta. See saab säilitada andmeid, mis jäävad kasulikuks isegi siis, kui see hiljem tarnijalt lahkub.
Sertifikaat vähendab ka usalduse hulka, mida algse süsteemi vastu tuntakse. Masin, mis vastas, ei ole loo ainus masin. Eraldi kontrollija loeb sertifikaati ja käib iga deduktsiooni läbi selle eelduste vastu. Kui tuletus sulgub, aktsepteerib kontrollija. Kui see ei sulgu, lükkab see tagasi. Puudub vajadus teise veenmisakti järele.
See on teistsugune kasutajakogemus kui enamikul AI selgitatavusel. AION ei ütle: "Siin on, miks mudel seda tõenäoliselt tegi." See ütleb: "Siin on tõestusobjekt. Kontrollige seda." Töö liigub tõlgendamiselt kontrollimisele.
Avatud lähtekoodi tehing
Avatud lähtekoodi müüakse sageli kui arendaja mugavust: vaadake koodi, hargitage see, saatke plaastrid. AION teeb operatiivsema tehingu. Kui tõestus hakkab otsustama, kas organisatsioon suudab kaitsta AI-otsust, ei tohi tõestusmasin olla must kast, mis on peidetud sama tarnijasuhte taha, mis otsuse tekitas.
Apache 2.0 on siin oluline, sest see muudab kasutuselevõtu tavaliseks. Meeskond saab tehnoloogiat äriliselt kasutada ilma erikokkuleppeta, et lihtsalt oma tõendusmaterjali tagasi lugeda. Standardvormingud on olulised, sest tõestus ei tohiks muutuda kasutuks, kui müüja strateegiat muudab. Võrguühenduseta kontrollimine on oluline, sest täna tehtud auditiandmed peaksid hiljem siiski kontrollitavad olema, isegi kui võrk, konto või teenus on kadunud.
See on osa, millest hankemeeskonnad saavad aru kiiremini, kui insenerid ootavad. Esimene küsimus ei ole alati see, kas lahendaja on nutikas. See on see, kas andmed jäävad organisatsiooni kontrolli alla. Kas tõendusmaterjali saab arhiivis hoida? Kas teine meeskond saab selle auditi käigus uuesti üle kontrollida? Kas organisatsioon saab lahkuda ilma oma vanade otsuste tähendust kaotamata? AION on loodud nii, et vastus saab olla jah.
Seetõttu peab tõend olema kaasaskantav. Kood on avatud, kuid suurem mõte on see, et tõend ei ole lõksus. Sertifikaat ei ole ekraanipilt. See ei ole müüja majutatud selgitusleht. See on artefakt, mis säilitab oma kasutusväärtuse, sest vormingud ja kontrollitee ei kuulu ühele käituskeskkonnale.
Tõenduspinnase sisemus
AIONi tehniline sisemus on teadlikult täpne. Lehel nimetatakse CDCL-tuuma, teooriapluginad, täpset ratsionaalarvude aritmeetikat ja tõendiemitterit. CDCL valib harusid. Teooriapõhjendajad laiendavad osalist mudelit. Tõendiemitter salvestab resolutsioonid ja leemid. Tulemus eksporditakse LRAT, DRAT, Alethe või ühtse vahevorminguna.
Need nimed võivad kõlada lahendajaruumi keelena, seega tõlgi need süsteemi käitumiseks. Süsteem ei ütle lihtsalt, et järeldus järeldub. See kirjutab üles tee. See ei palu kontrollijal usaldada tervet lahendajat. See annab kontrollijale väiksema ülesande: lugeda sertifikaati, käia läbi iga deduktsioon ja kontrollida, et sammud sulguvad eelduste vastu.
Teooria katvus on piisavalt lai, et olla oluline reaalsetele süsteemidele: propositsiooniloogika, kvantorid, lineaarne ja mittelineaarne aritmeetika, bitivektorid, massiivid, stringid, ujukomaarvud, temporaalloogika, tõenäosuslikud programmid ja samaaegsed programmid. Aritmeetika-, andme- ja ujukomapõhjendajad asuvad tuumas; programmiteooriad asuvad kaaslastes kastides. See jaotus ei ole loosung. See on see, kuidas üks tõenduspind saab hõlmata otsuseid, mis puudutavad rohkem kui ühte arutlusviisi.
Täpne ratsionaalarvude aritmeetika on samuti disainiotsus. Kui tõendit tuleb hiljem uuesti kontrollida, ei saa see sõltuda ebamäärasest ujukomajuhusest aritmeetika tuumas. Sertifikaat peab käituma nagu tõend, mitte nagu lähendus, mis muudab oma olemust masinate vahel liikudes. Lähtematerjal on selgesõnaline: aritmeetika tuumas ei ole ujukomaarve.
Miks käsurida on juhatuse jaoks oluline
Juhatused ei hooli tavaliselt käsurea tööriistadest. Nad hoolivad riskist, kuludest, lahkumisest ja auditist. AIONi käsurea pind on oluline, sest see surub need mured kokku korratavaks teoks. Käivita kontroll. Saa vastus: aktsepteeri või lükka tagasi. Tee seda ilma tarnijalt küsimata. Tee seda ilma võrguta. Tee seda riistvaral, mis on sinu kontrolli all.
Sed on lihtne alahinnata. Juhtpaneel võib meeskonnale anda tunde, et ollakse kursis, kuid käsklus muudab auditi korratavaks. Kui tõendusmaterjali saab kontrollida käsurealt või CI-töö käigus, saab selle ehitada organisatsiooni tavapärastesse kontrollimehhanismidesse. Uued otsused saavad väljastada sertifikaate. Salvestatud kirjeid saab valikuliselt kontrollida. Intsidentide ülevaatused saavad taasesitada täpset artefakti, mitte rekonstrueerida lugu telemeetriast.
Võrdlusmõõdiku binaar kuulub samasse vestlusse. Kui meeskond peab mõõtma AIONi enda riistvaral, saab ta seda teha. See ei loo võltsitud jõudlusväidet; see hoiab selle ära. Leht ei palu lugejal uskuda põhjendamata numbrit. See annab lugejale võimaluse mõõta rakendust keskkonnas, mis on oluline.
Juhatuse jaoks muutub küsimus lihtsaks: kas suudame oma otsuseid endiselt selgitada, kui algne rakendus on kadunud, kui regulaator küsib tõendusmaterjali või kui klient vaidlustab tulemuse? AION muudab selle koosolekust tööprotseduuriks.
Kus Ledger lõpeb ja AION algab
Dwevel on rohkem kui üks avatud lähtekoodiga pind, sest vastutusel on rohkem kui üks kuju. Ledger salvestab, mis süsteemis juhtus: sündmused, räsid, säilitusahel. AION salvestab, miks järeldus otsuse sees järgnes. Mõlemad on kasulikud. Neid ei tohiks kokku segada.
Intsidentide ülevaatuses saab Ledger aidata kindlaks teha, et taotlus saabus, versioon oli aktiivne, operaatori toiming toimus või kirje kirjutati. AION saab aidata kindlaks teha, et põhjenduse samm eeldustelt järeldusele oli kehtiv. Kui need segamini ajada, jõuavad meeskonnad väga üksikasjalike ajajoonteni, mis siiski ei tõesta otsust, või tõendusartefaktideni, mis ei ütle midagi ümbritseva operatiivahela kohta.
Selge piir on hea liidese disain. See võimaldab igal pinnal hinnata küsimuse järgi, millele see vastab. Kas see sündmus juhtus? See on Ledgeri territoorium. Kas see järeldus järgnes? See on AIONi territoorium. Kas töökoormus töötas õiges kohas õige privaatsusprimitiiviga? See kuulub infrastruktuuri, mis on Mesh, mitte AION.
Päev auditiruumis
Kujutage auditit uuesti ette, kuid AION on algusest peale voos. Organisatsioon ei too kaasa slaidiesitlust, mis selgitab, kui hoolikas insenerimeeskond on. See toob otsuse, sertifikaadi ja korratava kontrolliprotsessi.
Audiitor küsib, kas kirje sõltub müüja pilvest. Ei: kontrollimine toimub võrguühenduseta. Audiitor küsib, kas vaja on spetsiaalset sisemist tööriista. Ei: tõestus kasutab standardseid vorminguid nagu LRAT, DRAT ja Alethe, mille taga on ühtne vahevorm. Audiitor küsib, kas algne lahendaja peab uuesti käima. Ei: kontrollija kinnitab sertifikaadi. Audiitor küsib, mis juhtub, kui organisatsioon hiljem tarnijat vahetab. Sertifikaat jääb teisaldatavaks.
Vestlus muutub rahulikumaks, sest selles on vähem mõistatusi. Insenerimeeskond saab endiselt arutada arhitektuuri. Ettevõtte omanik saab endiselt arutada riske. Kuid keskne tõendusmaterjal ei ole enam veenev etendus. See on objekt laual.
See ei tähenda, et kõik ettevõtlusküsimused kaovad. Sertifikaat tõestab määratletud asja, mitte kõiki moraalseid, õiguslikke või operatiivseid omadusi otsuse ümber. AION ei ole maagia. See ei muuda halba poliitikat heaks. See ei otsusta, kas eeldused olid õiglased. See tõestab tuletuskäiku, mida ta salvestab. See ausus on osa sellest, miks see on kasulik.
Interneti puudumise vaikne kasutajakogemus
Offline-kontroll kõlab tehnilise üksikasjana kuni esimese tõsise auditini. Siis saab sellest kasutajakogemuse funktsioon. Keegi ei pea taotlema ajutist juurdepääsu müüja keskkonnale. Keegi ei pea avama tulemüüri erandit, et tõendusmaterjali saaks kontrollida. Keegi ei pea lootma, et vana kirje jaoks on tellimus endiselt aktiivne.
Kasutajakogemus on vaikne, sest ideaalne tõendi kontroll on igav. Sertifikaat on olemas. Kontrollija töötab. Vastus võetakse vastu või lükatakse tagasi. Ei mingit tseremooniat. Ei mingit kontot. Ei mingit uut sõltuvust. Tarbija keeles on see kviitung. Inseneri keeles on see tõendusartefakt. Auditi keeles on see tõendusmaterjal, mida saab uuesti kontrollida.
See muudab ka seda, kuidas meeskonnad arhiividest mõtlevad. Otsuse kirje ei ole täielik, kui see salvestab ainult väljundi ja ajatempli. Otsuste puhul, mis peavad vastu pidama kontrollile, tuleb tõend salvestada vastuse kõrvale. Kui töövoog muudab selle loomulikuks, muutub vastavus vähem sõltuvaks kangelaslikust dokumenteerimisest pärast sündmust.
Fraasi "tõend tuleb vastusega kaasa" on lihtne lugeda turundusena. Praktikas on see salvestusreegel, protsessireegel ja disainireegel. Vastus üksi ei ole toode. Vastus koos kontrollitava sertifikaadiga on.
Mida kasutuselevõtt endast kujutab
AION-i kasutuselevõtul on lähtematerjalis kolm selget teed: hindamine, inseneritöö ja vastavus. Hindamine tähendab koodi lugemist ja näidistõendite käivitamist enne igasugust vestlust. Inseneritöö tähendab teegi sidumist, et olemasolevad süsteemid väljastaksid kontrollitava sertifikaadi. Vastavus tähendab salvestatud sertifikaadi uuesti kontrollimist auditi ajal võrguühenduseta.
Need teed on tahtlikult erinevad. Turvainsener võib alustada kontrollijast. Platvormiinsener võib alustada Rust-i kastist. Vastavuse omanik võib alustada salvestatud sertifikaadist ja auditi küsimusest. Head kontrolliteed võimaldavad erinevatel rollidel jõuda oma ukse kaudu samasse alusobjekti.
Kasutuselevõtu lugu ei ole samuti seotud müügirituaaliga. See on oluline, sest tõend vajab institutsionaalset usaldust. Kui esimene kogemus tõendussüsteemiga on hankepudelikael, tundub süsteem juba teise sõltuvusena. Kui esimene kogemus on sertifikaat, mida saab kontrollida, tundub süsteem tööriistana.
Avatud lähtekoodi hoiak ei välista inseneriotsuste vajadust. Meeskonnad peavad ikkagi otsustama, kus sertifikaate väljastatakse, kuidas neid salvestatakse, millised otsused neid nõuavad ja kuidas kontrollitulemused saavad osaks väljalaske- ja audititöövoogudest. AION muudab need otsused konkreetseks, mitte retooriliseks.
Õppetund
AION-i õppetund on see, et auditeeritavus ei saa elada ainult lisas. Kui tõendusmaterjal on piisavalt oluline, et seda näidata regulaatorile, patsiendile, kliendile või sisemisele retsensendile, on see piisavalt oluline, et olla osa vastusepaketist endast.
See pakett ei pea olema vali. See võib olla käsk, teek, sertifikaat, salvestatud artefakt, CI-kontroll või vaikne kviitung, mida kuvatakse inimesele. Oluline on see, et seda saab kontrollida keegi teine peale algse otsusemootori. Oluline on see, et see peab vastu liikumisele tööriistade ja aja vahel. Oluline on see, et organisatsioon ei pea usaldust käsitsi tõenditeks muutma pärast seda, kui otsus on juba vastuoluliseks muutunud.
AION on avatud lähtekoodiga tõend, sest tõend peab kuuluma inimestele, kes sellele tuginevad. See on auditeeritav, sest tõendit saab taasesitada. See on kontrollitav, sest tõend ei ole vastuse taha peidetud. See on osa vastusest, mis võimaldab vastust usaldada.
See on kasulik väide: mitte et iga AI-otsus on maagiliselt lahendatud, vaid et olulised otsused väärivad täpset pinda, kus töö on nähtav. Masin vastab. AION paneb selle oma tööd näitama. Kontrollija otsustab, kas see töö peab vastu.