AION daro AI sprendimus patikrinamus
Patalpa, kurioje įrodymas tampa matomas
Įrodymas pirmiausia tampa naudingas už kompiliatoriaus ribų. Jo nėra ir sprendiklyje. Jis yra patalpoje, kurioje visiems jau atsibodo paaiškinimai, kurie skamba įtikinamai, bet kurių negalima atkartoti.
Ant sienos paprastai kabo ekranas. Kažkas iškėlė sprendimą. Kažkas kitas iškėlė žurnalo įrašus. Rizikos savininkas klausia, ar tai patenkins auditą. Inžinierius bando paaiškinti, kad modelis pateikė pasitikėjimo balą, sistema išsaugojotelemetriją, o komanda gali parodyti kelią per programą. Žodžiai kruopštūs. Patalpa neįtikinta.
Problema ne ta, kad patalpoje esantys žmonės priešiški dirbtiniam intelektui. Problema ta, kad jie žino skirtumą tarp teiginio ir įrodymo. Žurnalo įrašas sako, kad kažkas įvyko. Pasitikėjimo balas sako, kaip stipriai sistema linko prie atsakymo. Paaiškinimas po fakto sako, nuo ko atsakymas galėjo priklausyti. Nė vienas iš šių objektų neįrodo sprendimo viduje esančių samprotavimo žingsnių.
AION egzistuoja būtent tam momentui. Jis paverčia atsakymą paketu, kuris apima ir savo paties darbą. Tikrinimo kelias nėra gražesnis skydelis apie pasitikėjimą. Tai sertifikatas: nešiojamas, patikrinamas artefaktas, kurį kitas tikrintojas gali perskaityti neprisijungęs, tiesiniu laiku, neprašydamas pirminio sprendiklio gintis.
Tas skirtumas svarbus, nes dauguma dirbtinio intelekto produktų vis dar prašo pirkėjo priimti pažadą. AION keičia pažado formą. Jis sako: nepasitikėk mašina vien todėl, kad ji skambėjo įsitikinusi. Nepasitikėk tiekėju vien todėl, kad pristatymas sako „paaiškinama“. Paimk sertifikatą, paleisk patikrą ir priimk arba atmesk įrodymą savo pačių infrastruktūroje.
Pirmoji scena: atsakymo nepakanka
Įsivaizduokite banką, atmetantį prašymą, ligoninės sistemą, rekomenduojančią gydymo kelią, ar viešąją įstaigą, naudojančią programinę įrangą bylai nukreipti. Atsakymas gali būti naudingas. Jis gali būti net teisingas. Bet jei paveiktas asmuo paklausia kodėl, organizacijai reikia daugiau nei pastraipos, parašytos po fakto.
Senas veiklos modelis griebiasi to, kas jau yra prieinama. Yra programos žurnalai, bet jie nestruktūruoti ir dažnai susieti su juos sukūrusiu tiekėju. Yra balai, bet balas be išvedimo yra tik skaičius. Yra sugeneruoti paaiškinimai, bet kai juos sukuria ta pati sistema, kuri priėmė sprendimą, jie vertina savo paties darbą. Yra tiekėjo garantijos, bet „pasitikėkite mumis“ nėra audito atsakymas.
AION į tai žiūri kaip į dizaino problemą, o ne komunikacijos problemą. Jei sprendimas svarbus, įrodymai turi keliauti kartu su atsakymu. Jie turi būti išduoti tą pačią akimirką. Jie turi išlikti per pirkimą, migraciją, incidentų peržiūrą ir būsimą auditorių su kita įrankių grandine. Jie negali priklausyti nuo nuotolinės paslaugos, kuri vis dar veikia. Jie negali reikalauti, kad pirminis sprendiklis iš naujo paleistų atvejį ir tikėtųsi, kad jis vėl pasuks tuo pačiu keliu.
Štai kodėl įrodymas nėra puošmena. Tai sąsaja. Vartotojas gali jį patirti kaip kvitą. Inžinierius gali jį patirti kaip komandą. Auditorius gali jį patirti kaip nepriklausomą patikrą. Tas pats objektas tarnauja visiems trims, nes jis nėra pasakojimas apie sprendimą. Tai sutvarkyta išvedimo seka, slypinti už sprendimo.
AION nėra sprendimų variklis
AION neturėtų būti painiojamas su kitais Dweve kūrimo kamino komponentais. Tai ne Mesh, kuris yra infrastruktūra. Tai ne Ledger, kuris įrašo įvykius, nutikusius sistemoje. Tai ne bendras rinkodaros terminas skaidrumui apibūdinti. AION patvirtina samprotavimo žingsnius vieno sprendimo viduje.
Ši riba yra naudinga. Ledger gali pasakyti, kad užklausa atkeliavo, paslauga buvo įvykdyta, darbuotojas grįžo ir įrašas buvo užfiksuotas. Tai įvykių kilmės įrašas. AION atsako į siauresnį ir sudėtingesnį klausimą: ar, atsižvelgiant į šias prielaidas, ši išvada išplaukia iš užfiksuotų žingsnių? Skirtumas yra tas pats, kaip skirtumas tarp laiko juostos ir įrodymo.
Šaltinio puslapyje AION apibūdinamas kaip Rust biblioteka su komandinės eilutės programa ir etaloninių testų programa. Jame taip pat aprašomas CDCL teiginių logikos branduolys su tiksliąja racionaliųjų skaičių aritmetika, apsuptas teorijų sprendėjų, su įrodymų generatoriumi, kuris kiekvieną žingsnį įrašo kaip eiliškai išdėstytą išvedimą. Tai įgyvendinimo faktai, tačiau jie tampa svarbesni, kai į juos žiūrima kaip į veikimo faktus. Vartotojas gauna ne tik atsakymą. Vartotojas gauna artefaktą, kurį galima įterpti, patikrinti, įvertinti ir pasiimti su savimi.
Kai komanda susieja kratinį, paleidžia CLI iš apvalkalo ar CI užduoties arba matuoja įgyvendinimą savo aparatinėje įrangoje, gaunamas tas pats sertifikatas. Tas patikimumas yra sutarties dalis. Diegimo kelias neturėtų keisti įrodymų. Viešųjų pirkimų vertinimas, inžinerinė integracija ir audito pakartotinis atkūrimas turi naudoti tą patį objektą, o ne tris nesuderinamas santraukas.
Ką keičia sertifikatas
Sertifikatas keičia galios santykį, susijusį su AI sprendimu. Be jo organizacija, turinti atsakymą, taip pat kontroliuoja didžiąją dalį paaiškinimo. Su juo atsakymą gali užginčyti atskiras tikrintojas. Įrodymas gali būti perkeltas į kitą mašiną. Auditorius gali jį pakartotinai atkurti be tinklo ryšio. Pilietis gali paprašyti kvito, o institucija gali pateikti ką nors konkretesnio nei pastraipa.
Štai kodėl AION yra atvirojo kodo medžiaga, o ne uždaras atitikties priedas. Puslapyje nurodoma Apache 2.0, standartiniai įrodymų formatai ir projekto svetainė github.com/dweve-ai. Verslo vertė tiesiogiai išplaukia iš to atvirumo. Komanda gali įvertinti prieš pardavimo pokalbį. Ji gali diegti be mokesčio už kiekvienos darbo vietos įrodymų peržiūrą. Ji gali saugoti įrašus, kurie išlieka naudingi net ir vėliau pasitraukus iš tiekėjo.
Sertifikatas taip pat sumažina pasitikėjimo, suteikiamo pradinei sistemai, kiekį. Mašina, kuri atsakė, nėra vienintelė mašina istorijoje. Atskiras tikrintojas perskaito sertifikatą ir patikrina kiekvieną išvedimą pagal jo prielaidas. Jei išvedimas užsidaro, tikrintojas priima. Jei ne, jis atmeta. Nereikia antro įtikinėjimo veiksmo.
Tai kitokia vartotojo patirtis nei daugumos AI paaiškinamumo sprendimų. AION nesako: „Štai kodėl modelis tikriausiai tai padarė.“ Jis sako: „Štai įrodymo objektas. Patikrinkite jį.“ Darbas pereina nuo interpretacijos prie patikros.
Atvirojo kodo sandoris
Atvirasis kodas dažnai parduodamas kaip kūrėjų patogumas: peržiūrėkite kodą, išsišakokite, siųskite pataisas. AION siūlo labiau veikimu pagrįstą sandorį. Jei įrodymas turi nulemti, ar organizacija gali apginti AI sprendimą, įrodymų mechanizmas negali būti juodoji dėžė, paslėpta už to paties tiekėjo santykio, kuris sukūrė sprendimą.
Apache 2.0 čia svarbi, nes ji daro diegimą įprastą. Komanda gali naudoti technologiją komerciškai be specialaus susitarimo vien tam, kad galėtų perskaityti savo pačių įrodymus. Standartiniai formatai svarbūs, nes įrodymas neturėtų tapti nenaudingas, kai pardavėjas pakeičia strategiją. Darbas neprisijungus svarbus, nes šiandien sudarytas audito įrašas turėtų būti patvirtinamas ir vėliau, net jei tinklas, paskyra ar paslauga išnyko.
Tai dalis, kurią pirkimų komandos supranta greičiau, nei tikisi inžinieriai. Pirmasis klausimas ne visada yra tai, ar sprendėjas sumanus. Tai, ar įrašai lieka organizacijos kontrolėje. Ar įrodymai gali būti saugomi archyve? Ar kita komanda gali juos iš naujo patikrinti audito metu? Ar organizacija gali išeiti neprarasdama savo senų sprendimų prasmės? AION sukurta taip, kad atsakymas galėtų būti „taip“.
Štai kodėl įrodymai turi būti perkeliami. Kodas yra atviras, tačiau svarbesnis dalykas yra tai, kad įrodymai nėra įstrigę. Sertifikatas nėra ekrano kopija. Tai ne tiekėjo talpinamas paaiškinimo puslapis. Tai artefaktas, kuris išlaiko savo naudingumą, nes formatai ir tikrinimo kelias nepriklauso vienai vykdymo aplinkai.
Įrodymų paviršiaus vidus
Techninis AION vidus yra sąmoningai tikslus. Puslapyje įvardijamas CDCL branduolys, teorijų papildiniai, tiksli racionalioji aritmetika ir įrodymų generatorius. CDCL pasirenka šakas. Teorijų sprendėjai praplečia dalinį modelį. Įrodymų generatorius užfiksuoja rezoliucijas ir lemas. Rezultatas eksportuojamas kaip LRAT, DRAT, Alethe arba vieninga tarpinė forma.
Tie pavadinimai gali skambėti kaip sprendėjų kambario kalba, todėl išverskite juos į sistemos elgseną. Sistema ne tik sako, kad išvada seka. Ji užrašo kelią. Ji neprašo tikrintuvo pasitikėti visu sprendėju. Ji duoda tikrintuvui mažesnę užduotį: perskaityti sertifikatą, pereiti kiekvieną išvedimą ir patikrinti, ar žingsniai užsidaro prieš prielaidas.
Teorijų aprėptis yra pakankamai plati, kad būtų svarbi realioms sistemoms: teiginių logika, kvantoriai, tiesinė ir netiesinė aritmetika, bitvektoriai, masyvai, eilutės, slankiojo kablelio skaičiai, temporalinė logika, tikimybinės programos ir lygiagrečios programos. Aritmetikos, duomenų ir slankiojo kablelio sprendėjai yra branduolyje; programų teorijos yra gretimuose paketuose. Tas padalijimas nėra šūkis. Tai būdas, kaip vienas įrodymų paviršius gali aprėpti sprendimus, liečiančius daugiau nei vieną samprotavimo rūšį.
Tiksli racionalioji aritmetika taip pat yra dizaino pareiškimas. Jei įrodymas bus tikrinamas iš naujo vėliau, jis negali priklausyti nuo neaiškaus slankiojo kablelio atsitiktinumo aritmetikos branduolyje. Sertifikatas turi elgtis kaip įrodymas, o ne kaip apytikslis dydis, kuris keičia pobūdį perkeliamas tarp mašinų. Šaltinio medžiaga yra aiški: jokio slankiojo kablelio aritmetikos branduolyje.
Kodėl komandų eilutė svarbi valdybai
Valdybos paprastai nesirūpina komandų eilutės įrankiais. Jos rūpinasi rizika, sąnaudomis, pasitraukimu ir auditu. AION komandų eilutės paviršius svarbus, nes jis suspaudžia tuos rūpesčius į pakartojamą veiksmą. Paleiskite patikrą. Gaukite priimta arba atmesta. Padarykite tai neprašydami tiekėjo. Padarykite tai be tinklo. Padarykite tai aparatinėje įrangoje, kurią kontroliuojate.
Tai lengva nuvertinti. Valdymo skydelis gali padėti komandai jaustis informuotai, tačiau komanda gali padaryti auditą pakartojamą. Kai įrodymus galima patikrinti iš apvalkalo arba CI užduoties, juos galima įtraukti į įprastinius organizacijos kontrolės mechanizmus. Nauji sprendimai gali išduoti sertifikatus. Saugomus įrašus galima atrinkti. Incidentų peržiūrose galima atkurti tikslų artefaktą, o ne rekonstruoti istoriją iš telemetrijos.
Etalono dvejetainis failas priklauso tai pačiai diskusijai. Jei komandai reikia išmatuoti AION savo aparatinėje įrangoje, ji gali tai padaryti. Tai nesukuria netikro našumo teiginio; tai tokio teiginio išvengia. Puslapis neprašo skaitytojo patikėti nepagrįstu skaičiumi. Jis suteikia skaitytojui būdą išmatuoti diegimą svarbioje aplinkoje.
Valdybai klausimas tampa paprastas: ar vis dar galime paaiškinti savo sprendimus, kai pirminės programos nebėra, kai reguliuotojas prašo įrodymų arba kai klientas užginčija rezultatą? AION tai paverčia iš susirinkimo į veiklos procedūrą.
Kur baigiasi Ledger ir prasideda AION
Dweve turi daugiau nei vieną atvirojo kodo paviršių, nes atskaitomybė turi daugiau nei vieną formą. Ledger įrašo, kas įvyko sistemoje: įvykius, maišas, saugojimo grandinę. AION įrašo, kodėl sprendime buvo padaryta išvada. Abi yra naudingos. Jų nereikėtų sujungti.
Incidento peržiūroje Ledger gali padėti nustatyti, kad užklausa atvyko, versija buvo aktyvi, operatoriaus veiksmas įvyko arba įrašas buvo užrašytas. AION gali padėti nustatyti, kad samprotavimo žingsnis nuo prielaidų iki išvados buvo pagrįstas. Jei tai sumaišoma, komandos gauna labai išsamias laiko juostas, kurios vis tiek neįrodo sprendimo, arba įrodymų artefaktus, kurie nieko nesako apie aplinkinę veiklos grandinę.
Aiški riba yra geras sąsajos dizainas. Tai leidžia kiekvieną paviršių vertinti pagal klausimą, į kurį jis atsako. Ar šis įvykis įvyko? Tai Ledger sritis. Ar ši išvada buvo padaryta? Tai AION sritis. Ar darbo krūvis veikė tinkamoje vietoje su tinkamu privatumo primityvu? Tai priklauso infrastruktūrai, t. y. Mesh, o ne AION.
Diena audito patalpoje
Įsivaizduokite auditą dar kartą, bet su AION nuo pat pradžių. Organizacija neatneša skaidrių pristatymo, kuriame paaiškinama, kaip atsargiai dirba inžinerijos komanda. Ji atneša sprendimą, sertifikatą ir pakartojamą tikrinimo procesą.
Auditorius klausia, ar įrašas priklauso nuo tiekėjo debesijos. Ne: tikrinimas vyksta neprisijungus. Auditorius klausia, ar reikalingas specialus vidinis įrankis. Ne: įrodymas naudoja standartinius formatus, tokius kaip LRAT, DRAT ir Alethe, su viena bendra tarpine forma už jų. Auditorius klausia, ar reikia iš naujo paleisti pirminį sprendiklį. Ne: tikrintuvas patvirtina sertifikatą. Auditorius klausia, kas atsitinka, jei organizacija vėliau pakeičia tiekėją. Sertifikatas lieka perkeliamas.
Pokalbis tampa ramesnis, nes jame mažiau paslapčių. Inžinerijos komanda vis tiek gali aptarti architektūrą. Verslo savininkas vis tiek gali aptarti riziką. Tačiau pagrindinis įrodymas nebėra įtikinamas pasirodymas. Tai objektas ant stalo.
Tai nereiškia, kad visi verslo klausimai išnyksta. Sertifikatas įrodo apibrėžtą dalyką, o ne kiekvieną moralinę, teisinę ar veiklos savybę, susijusią su sprendimu. AION nėra magija. Ji nepaverčia blogos politikos gera. Ji nenusprendžia, ar prielaidos buvo teisingos. Ji įrodo išvedimą, kurį užfiksuoja. Tas sąžiningumas yra dalis to, kodėl ji naudinga.
Tylus UX be interneto
Offline patikra skamba kaip techninė smulkmena, kol neateina pirmasis rimtas auditas. Tada ji tampa vartotojo patirties funkcija. Niekam nereikia prašyti laikinos prieigos prie tiekėjo aplinkos. Niekam nereikia atidaryti ugniasienės išimties, kad būtų galima patikrinti įrodymus. Niekam nereikia tikėtis, kad senam įrašui prenumerata vis dar aktyvi.
Vartotojo patirtis yra tyli, nes idealus įrodymų patikrinimas yra nuobodus. Sertifikatas yra. Tikrintuvas veikia. Atsakymas priimamas arba atmetamas. Jokios ceremonijos. Jokios paskyros. Jokios naujos priklausomybės. Vartotojo kalba tai kvitas. Inžinerijos kalba tai įrodymo artefaktas. Audito kalba tai įrodymas, kurį galima patikrinti iš naujo.
Tai taip pat keičia tai, kaip komandos galvoja apie archyvus. Sprendimo įrašas nėra išsamus, jei jame saugomas tik rezultatas ir laiko žyma. Sprendimams, kurie turi atlaikyti patikrinimą, įrodymas turi būti saugomas kartu su atsakymu. Jei darbo eiga tai padaro natūralu, atitiktis tampa mažiau priklausoma nuo herojiškos dokumentacijos po įvykio.
Frazę „įrodymas keliauja kartu su atsakymu“ lengva perskaityti kaip rinkodarą. Praktiškai tai yra saugojimo taisyklė, proceso taisyklė ir dizaino taisyklė. Vien atsakymas nėra produktas. Atsakymas kartu su patikrinamu sertifikatu yra.
Kaip atrodo diegimas
AION diegimas šaltinio medžiagoje turi tris paprastus kelius: vertinimą, inžineriją ir atitiktį. Vertinimas reiškia perskaityti kodą ir paleisti pavyzdinius įrodymus prieš bet kokį pokalbį. Inžinerija reiškia prijungti biblioteką, kad esamos sistemos išduotų patikrinamą sertifikatą. Atitiktis reiškia iš naujo patikrinti saugomą sertifikatą neprisijungus audito metu.
Tie keliai sąmoningai skiriasi. Saugumo inžinierius gali pradėti nuo tikrintuvo. Platformos inžinierius gali pradėti nuo Rust krepšelio. Atitikties atsakingasis asmuo gali pradėti nuo išsaugoto sertifikato ir audito klausimo. Geri patikros keliai leidžia skirtingiems vaidmenims ateiti pro savo duris, vis tiek liečiant tą patį pagrindinį objektą.
Diegimo istorija taip pat nėra susieta su pardavimo ritualu. Tai svarbu, nes įrodymams reikia institucinio pasitikėjimo. Jei pirmoji įrodymų sistemos patirtis yra pirkimų kliūtis, sistema jau jaučiasi kaip dar viena priklausomybė. Jei pirmoji patirtis yra sertifikatas, kurį galima patikrinti, sistema jaučiasi kaip įrankis.
Atvirojo kodo laikysena nepanaikina inžinerinio sprendimo poreikio. Komandos vis tiek turi nuspręsti, kur išduodami sertifikatai, kaip jie saugomi, kuriems sprendimams jų reikia ir kaip patikros rezultatai tampa leidimo ir audito darbo eigų dalimi. AION šiuos sprendimus paverčia konkrečiais, o ne retoriniais.
Pamoka
AION pamoka yra ta, kad audito galimybė negali gyventi tik priede. Jei įrodymai yra pakankamai svarbūs, kad juos būtų galima parodyti reguliuotojui, pacientui, klientui ar vidiniam vertintojui, jie yra pakankamai svarbūs, kad būtų pačios atsakymo pakuotės dalis.
Ta pakuotė neturi būti triukšminga. Tai gali būti komanda, biblioteka, sertifikatas, saugomas artefaktas, CI patikra arba tylus kvitas, rodomas žmogui. Svarbu tai, kad jį gali patikrinti kas nors kitas, o ne tik pirminė sprendimų mašina. Svarbu tai, kad jis išgyvena judėjimą tarp įrankių ir laiko. Svarbu tai, kad organizacijai nereikia rankomis paversti pasitikėjimo įrodymais po to, kai sprendimas jau tapo prieštaringas.
AION yra atvirojo kodo įrodymas, nes įrodymas turi priklausyti žmonėms, kurie juo remiasi. Tai audito galimybė, nes įrodymus galima atkurti. Tai patikrinama, nes įrodymas nėra paslėptas už atsakymo. Tai atsakymo dalis, leidžianti atsakymu pasitikėti.
Tai naudingas teiginys: ne tai, kad kiekvienas AI sprendimas yra stebuklingai išspręstas, o tai, kad svarbūs sprendimai nusipelno tikslaus paviršiaus, kuriame darbas yra matomas. Mašina atsako. AION priverčia ją parodyti savo darbą. Tikrintuvas nusprendžia, ar tas darbas laikosi.