AI-turvalisus on matemaatika, mitte eetika küsimus
Eetika kõrvalejätmine
Astuge sisse ükskõik millisesse tehisintellekti ohutuse konverentsi ja kuulete kirglikke arutelusid teadvuse, tundlikkuse ja moraalsete raamistike üle. Kas tehisintellektil peaksid olema õigused? Kuidas tagame, et see jagab meie väärtusi? Mis juhtub, kui see muutub meist targemaks?
Need on huvitavad filosoofilised küsimused. Need on ka täiesti asjast mööda.
Tegelik tehisintellekti ohutuse kriis ei puuduta eetikat. See puudutab matemaatikat. Ja kui kõik muretsevad hüpoteetilise superintellekti pärast, ebaõnnestuvad praegused tehisintellekti süsteemid palju tavalisematel põhjustel: need on matemaatiliselt katki.
Hea uudis? See on probleem, mille me suudame tegelikult lahendada.
Tegelik ohutuse kriis
Selline näeb tehisintellekti ohutus tegelikult välja 2025. aastal: meditsiiniline diagnoosisüsteem, mis on testimisel 95% juhtudest õige, kuid tootmises ainult 73%. Finantsturundusalgoritm, mis töötab suurepäraselt, kuni turutingimused veidi muutuvad, ja kaotab siis miljoneid. Autonoomne sõiduk, mis klassifitseerib ebatavalise valgustuse tõttu stopp-märgi kiiruspiirangu märgiks.
Need ei ole äärejuhtumid. Need on süsteemsed tõrked, mida põhjustab matemaatiline ebastabiilsus aluseks olevates närvivõrkudes.
Iga ujukomaarvutehe toob kaasa ümardamisvead. Iga kiht võimendab neid vigu. Iga otsus põhineb üha ebakindlamatel matemaatilistel alustel. Ja me juurutame neid süsteeme kriitilistes rakendustes, samal ajal arutledes, kas need võiksid muutuda teadvuslikuks.
See on nagu muretsemine selle pärast, kas teie autol on tunded, ignoreerides samal ajal seda, et pidurid ei tööta usaldusväärselt.
Miks eetika meid päästa ei suuda
Tehisintellekti eetika pooldajatel on head kavatsused. Nad tahavad tagada, et tehisintellekti süsteemid oleksid õiglased, läbipaistvad, vastutustundlikud. Nad loovad raamistikke, juhiseid, põhimõtteid.
Kuid eetikaga ei saa matemaatikaprobleemi lahendada.
Närvivõrk, mis annab identsete sisendite korral erinevaid tulemusi, ei ole eetikaküsimus. See on matemaatilise ebastabiilsuse küsimus. Süsteem, mis hallutsineerib enesekindlalt kõlavat mõttetust, ei ole väärtuste ühtlustamise probleem. See on mustrituvastuse piiratuse probleem.
Eetikaraamistikud eeldavad, et süsteem töötab esmalt õigesti. Need on õige tegevuse valimise kohta. Kuid kui süsteem ei suuda ühtegi tegevust usaldusväärselt täita, on eetika ebaoluline.
Seetõttu näeme jätkuvalt tehisintellekti tõrkeid hoolimata kõigist eetikakomiteedest ja ohutusjuhistest. Me ravime sümptomeid, ignoreerides haigust.
Formaalse kontrolli lahendus
Arvutiteaduses on valdkond, mis on pühendatud süsteemide õige töö tõestamisele: formaalsed meetodid. Matemaatilised tehnikad, mis rangelt kontrollivad tarkvara käitumist. Tõestada, mitte testida. Garanteerida, mitte hinnata.
Formaalset kontrolli on kasutatud aastakümneid kriitilistes süsteemides: lennukite juhtimistarkvara, tuumareaktori haldus, kosmoselaevade navigatsioon. Need süsteemid vajavad matemaatilist kindlust, mitte statistilist usaldust.
Miks ei kasuta tehisintellekt formaalset kontrolli? Sest ujukomaarvudega närvivõrke on matemaatiliselt võimatu kontrollida.
Te ei saa tõestada süsteemi omadusi, kui süsteem ise põhineb ligikaudsel aritmeetikal. Ujukomaarvud toovad igal sammul sisse ebakindluse. See ebakindlus levib. Võimendub. Muutub formaalselt mõistlikuks arutlemiseks võimatuks.
See pole tööriistaprobleem. See on põhimõtteline kokkusobimatus närvivõrkude matemaatika ja formaalse verifitseerimise matemaatika vahel.
Binaarsed võrgud: tõestatavalt õige tehisintellekt
Binaarsed närvivõrgud muudavad võrrandi täielikult.
Ujukoma lähenduste asemel kasutavad binaarsed võrgud diskreetseid tehteid. +1 või -1. Tõene või väär. Täpne aritmeetika ilma ümardamisvigadeta.
See muudab need formaalseks verifitseerimiseks sobivaks. Binaarse närvivõrgu käitumise omadusi saab tõesti tõestada. Matemaatiliselt garanteerida teatud tulemusi. Luua tehisintellektisüsteeme sama rangusega kui lennuki juhtimistarkvara.
Dweve'is ehitasime kogu oma platvormi sellele põhimõttele. Core pakub binaarset raamistikku. Loom rakendab piirangupõhist arutlust tõestatavate omadustega. Iga tehe on matemaatiliselt täpne. Iga otsus on jälgitav.
See pole lihtsalt usaldusväärsem. See on põhimõtteliselt turvalisem. Turvalisus matemaatilise ranguse kaudu, mitte eetikasuuniste kaudu.
Piirangud kui turvapiirded
Siin on veel üks binaarsete võrkude eelis: need töötavad piirangutega, mitte tõenäosustega.
Piirang on karm reegel. "See väärtus peab olema positiivne." "See väljund peab vastama nendele tingimustele." Binaarsed võrgud saavad piirangud otse oma arhitektuuri sisse ehitada.
See tähendab, et turvanõuded muutuvad matemaatilisteks piiranguteks, mitte järeltöötlusfiltriteks. Süsteem ei suuda sõna otseses mõttes toota väljundeid, mis piiranguid rikuvad. See on matemaatiliselt võimatu, mitte lihtsalt ebatõenäoline.
Võrrelge seda traditsiooniliste närvivõrkudega, kus turvalisus on järelmõte. Treeni mudel, lisa siis turvapiirded. Looda, et turvapiirded probleemid kinni püüavad. Tegele riketega, kui need läbi libisevad.
Piirangupõhine tehisintellekt ehitab turvalisuse matemaatikasse. See on erinevus heade piduritega auto ja auto vahel, mis füüsiliselt ei suuda ületada ohutut kiirust.
Joondumisprobleem (tegelikult lahendatud)
Tehisintellekti joondumisprobleem küsib: kuidas tagada, et tehisintellektisüsteemid teevad seda, mida me tahame?
Praegune lähenemine: treeni inimeste tagasisidel, lisa rohkem näiteid, looda, et statistilised mustrid tabavad inimväärtused. See on põhimõtteliselt tõenäosuslik. Põhimõtteliselt ebakindel.
Binaarsed võrgud piirangupõhise arutlusega pakuvad teistsugust lähenemist: määra matemaatiliselt, mida sa tahad. Süsteem peab neid piiranguid rahuldama. Mitte "tavaliselt" või "99,9% usaldusväärsusega". Peab rahuldama. Matemaatiliselt garanteeritud.
See ei lahenda filosoofilist joondumist. Kui määrad valed piirangud, saad vale käitumise. Kuid see lahendab tehnilise joondumise. Kui suudad formaliseerida, mida tahad, teeb süsteem täpselt seda. Ei mingeid kõrvalekaldeid. Ei mingit ootamatut üldistust. Ei mingit tekkivat valejoondumist.
Raske osa nihkub küsimuselt "kuidas muuta see usaldusväärseks" küsimusele "kuidas määrata, mida me tahame". See on palju parem probleem, millega tegeleda.
Deterministlik on turvaline
Üks kõige alahinnatumaid binaarsete võrkude turvaomadusi: need on deterministlikud.
Sama sisend annab alati sama väljundi. Käivita süsteem miljon korda, saad identsed tulemused. See tundub elementaarne, kuid turvalisuse seisukohast on see sügav.
Testimine tähendab tegelikult midagi. Kui test läbib, läbib sama sisend alati. Saad käitumist sertifitseerida. Loo usaldus reprodutseeritavuse kaudu.
Ujukomaarvudel põhinevatel võrkudel seda pole. Sama sisend võib anda erinevaid väljundeid sõltuvalt riistvarast, tarkvaraversioonidest, isegi tehete järjekorrast. Testimine annab statistilise valimi, mitte garantiid.
Kriitiliste süsteemide puhul on deterministlikkus ohutus. Pead teadma täpselt, mida süsteem teeb, iga kord, igas olukorras. Binaarsed võrgud tagavad selle. Ujukomaarvudel põhinevad võrgud põhimõtteliselt ei suuda.
Mõistetavus piirangute kaudu
Kõik tahavad mõistetavat tehisintellekti. Kui me ei saa aru, miks süsteem otsuse tegi, kuidas saame seda usaldada?
Probleem ujukomaarvudel põhinevate närvivõrkudega: need on mustad kastid. Miljardid parameetrid, keerulised koosmõjud, selget otsustusrada pole. Isegi teadlased, kes need ehitasid, ei oska konkreetseid väljundeid selgitada.
Binaarsed võrgud, mis põhinevad piirangutel põhineval arutlusel, on olemuslikult mõistetavamad. Süsteem kontrollib piiranguid. Sa näed, millised piirangud olid täidetud, millised mitte, kuidas otsus piirangutest tulenes.
See pole täiuslik läbipaistvus. Keerulised süsteemid on endiselt keerulised. Kuid see on vahe selle vahel, et "mudel määras õpitud mustrite põhjal tõenäosuseks 0,87" ja "otsus rahuldas piiranguid A, B ja C, kuid rikkus piirangut D, seega valiti väljund X."
Üks on läbipaistmatu statistika. Teine on loogiline arutlus, mida saad jälgida ja kontrollida.
Ohutus arhitektuuri kaudu
Tehisintellekti ohutuse kogukond kulutab tohutult vaeva järelhoidlikele ohutusmeetmetele. Joondamistreening, ohutuse peenhäälestus, väljundi filtreerimine, inimese järelevalve.
Need on plaastrid põhimõtteliselt ebaturvalistele arhitektuuridele. Sa üritad muuta ebastabiilset süsteemi stabiilseks väliste kontrollide abil.
Binaarsed närvivõrgud esindavad teistsugust paradigmat: ohutus arhitektuuri kaudu. Matemaatilised alused on stabiilsed. Tehted on täpsed. Piirangud on sisse ehitatud. Ohutus pole peale lisatud; see on disaini lahutamatu osa.
Dweve Core'i arhitektuur demonstreerib seda põhimõtet. 1 930 algoritmi, kõik matemaatiliselt ranged. 415 primitiivi, 500 kernelit, 191 kihti, 674 kõrgema taseme algoritmi. Igaüks neist on loodud stabiilsuse ja kontrollitavuse jaoks.
Loom 456 toetub sellele alusele 456 valdkonnaspetsialistiga, kellest igaüks tegeleb teatud tüüpi arutlusega. Hõre aktiveerimine tähendab, et kaasatud on ainult asjakohased valdkonnaspetsialistid. Piirangutel põhinev loogika tähendab, et väljundid peavad vastama formaalsetele nõuetele.
See on tehisintellekti ohutus arhitektuuri tasandil, mitte poliitika tasandil.
Euroopa eelis
Euroopal on ranged eeskirjad tehisintellekti ohutuse kohta. GDPR, AI määrus, andmekaitseseadused. Need loovad vastavuskohustusi süsteemidele, mis ei suuda käitumist garanteerida.
Kuid need loovad võimalusi süsteemidele, mis suudavad.
Binaarsed närvivõrgud formaalse kontrolliga suudavad tegelikult regulatiivsetele nõuetele vastata. Tõestada õiglust. Näidata mittediskrimineerimist. Garanteerida andmetöötluse. Näidata auditeeritavust.
Traditsioonilised närvivõrgud seda teha ei suuda. Nad suudavad näidata statistilisi omadusi, esitada näiteid, pakkuda tõenäosuslikke kinnitusi. Kuid nad ei suuda matemaatiliselt midagi tõestada.
See tähendab, et binaarseid võrke kasutavatel Euroopa AI-ettevõtetel on regulatiivne eelis. Nad suudavad sertifitseerida ohutust viisil, millele ujukoma-süsteemid lihtsalt ei suuda vastu panna.
Vastavusnõuete täitmine muutub konkurentsieeliseks, mitte koormaks.
Euroopa regulatiivsed nõuded (miks matemaatika on juriidiliselt oluline)
ELi AI-määruse artikkel 13 nõuab tehnilist dokumentatsiooni, mis tõendab ohutusnõuete täitmist. Artikkel 15 nõuab täpsust, töökindlust ja küberturvalisuse meetmeid. Need nõuded loovad väljakutseid süsteemidele, mille käitumist ei saa formaalselt tõestada.
Sertifitseerimise väljakutsed ohutuse seisukohalt kriitilise tähtsusega AI puhul: Saksa sertifitseerimisasutused nagu TÜV nõuavad kriitilistes rakendustes kasutatava AI jaoks formaalseid spetsifikatsioone. Statistilised testitulemused ("99% täpsus") pakuvad erinevaid kinnitusi kui piirangute rahuldamise matemaatilised tõestused. Süsteemid, mis suudavad pakkuda formaalseid garantiisid, läbivad sertifitseerimise sujuvamalt kui need, mis tuginevad üksnes empiirilisele valideerimisele.
Meditsiiniseadmete määrus (MDR): CE-märgistust nõudvad AI-põhised diagnostikavahendid peavad ohutust tõendama range metoodika abil. MDRi nõuded etteaimatava ja kontrollitava käitumise kohta osutuvad väljakutseks närvivõrkudele, millel on omane juhuslikkus. Süsteemid, mis pakuvad deterministlikke garantiisid, sobivad paremini kokku sertifitseerimisnõuetega, mis on loodud meditsiiniseadmetele, kus ohutus on ülitähtis.
Lennunduse ohutusstandardid: DO-178C sertifitseerimine ohutuse seisukohalt kriitilise tähtsusega lennundustarkvara jaoks, eriti tasemel A (kus rike toob kaasa katastroofilised tagajärjed), nõuab õigsust tõestavaid formaalseid meetodeid. Traditsiooniliste närvivõrkude tõenäosuslik olemus on põhimõtteliselt vastuolus DO-178C nõuetega. See loob takistusi AI kasutuselevõtul lennukriitilistes süsteemides, välja arvatud juhul, kui kasutatakse alternatiivseid arhitektuure, millel on formaalse kontrolli võimalused.
Finantsregulatsioon: MiFID II nõuab, et algoritmilised kauplemissüsteemid tõendaksid turumanipulatsiooni takistavaid kontrolle. Teatud käitumisviiside puudumise matemaatiline tõestamine erineb oluliselt madalate empiiriliste esinemissageduste näitamisest. Süsteemid, millel on formaalsed piirangute spetsifikatsioonid, suudavad pakkuda tugevamaid vastavusargumente kui need, mille käitumine tuleneb üksnes statistilisest õppimisest.
Kuidas formaalne kontroll tegelikult töötab
Formaalne kontroll rakendab matemaatilisi tõestusmeetodeid, et tagada tehisintellektisüsteemide omadused.
Piirangute kodeerimise lähenemisviis: Vaatleme meditsiinilist diagnoosimise tehisintellekti, mis ei tohi kunagi soovitada ravimeid, mis on vastunäidustatud patsiendi ravimitega. Traditsiooniline lähenemisviis: treenida mudel, testida põhjalikult, loota, et mudel õpib piirangu, lisada ohutusfiltrid. Piirangutel põhinev lähenemisviis: kodeerida nõue matemaatiliselt kõva piiranguna. Süsteemi lahendusruum välistab sõnaselgelt vastunäidustatud kombinatsioonid, mitte 99,99% ohutus, vaid matemaatiliselt võimatu rikkuda.
Autotööstuse ohutusnõuded: ISO 26262 funktsionaalse ohutuse standard autotööstussüsteemidele nõuab ohuohtude leevendamise tõestamist. Erinevus "tuvastas testimisel 99,8% jalakäijatest" versus "suudab tõestada kõigi jalakäijate tuvastamist, kes vastavad nähtavuskriteeriumile X latentsusaja Y jooksul" kujutab endast põhimõtteliselt erinevat kindlustustaset. Esimene on empiiriline tõend; teine on matemaatiline tõestus. ASIL-D sertifitseerimine (kõrgeim autotööstuse ohutuse terviklikkuse tase) nõuab tõestustasemel kindlustusi, mida statistiline testimine üksi ei suuda pakkuda.
Tööstusautomaatika standardid: IEC 61508 nõuab ohutuse terviklikkuse taset (SIL) 3 või 4 kriitiliste tööstussüsteemide jaoks. SIL 4 nõuab <10⁻⁸ tõenäosuse tõendamist ohtliku rikke kohta tunnis. Traditsioonilise masinõppe omane stohhastilisus välistab formaalsed garantiid sellel tasemel. Süsteemid, mis nõuavad SIL 4 sertifitseerimist, vajavad matemaatilisi tõestusi rikkepiiride kohta, kontrollimeetodeid, mis rakenduvad deterministlikele piirangutel põhinevatele süsteemidele, kuid mitte tõenäosuslikele närvivõrkudele.
Ohutuse kontrollimise ärilised tagajärjed
Matemaatiline ohutuse kontrollimine loob ärilise dünaamika, mis ulatub regulatiivsest vastavusest kaugemale.
Hanked ja turulepääs: Euroopa avaliku sektori hanked nõuavad üha enam tõendatavat tehisintellekti ohutussertifitseerimist kõrge riskiga rakenduste jaoks. Süsteemid, mis ei suuda pakkuda formaalseid ohutusgarantiisid, seisavad silmitsi välistamisega hangetest, olenemata empiirilisest jõudlusest. Turulepääs määratakse võimega pakkuda matemaatilisi tõestusi, mitte ainult muljetavaldavaid testitulemusi.
Kindlustus ja vastutuse kaalutlused: Aktuaarne hinnang tehisintellektisüsteemide riskidele osutub keeruliseks, kui käitumist ei saa formaalselt tõestada. Kindlustuskaitse kriitiliste rakenduste, meditsiiniliste diagnooside, autonoomsete sõidukite, tööstusautomaatika jaoks nõuab üha enam, et süsteemid demonstreeriksid formaalseid ohutusomadusi. See loob lõhe: süsteemid matemaatiliste garantiidega muutuvad kindlustatavaks; puhtalt statistilised süsteemid seisavad silmitsi katvuse raskuste või keelavate preemiatega.
Sertifitseerimise ajakavad: Tekib vastuintuitiivne muster: süsteemid, millel on formaalne kontroll, võivad saavutada kiirema regulatiivse heakskiidu kui need, mis tuginevad ulatuslikule empiirilisele testimisele. Formaalne tõestus pakub deterministlikke sertifitseerimisteid: tõesta piirangute rahuldamine, saa heakskiit. Empiirilised lähenemisviisid seisavad silmitsi korduvate testimistsüklite ja regulatiivsete küsimustega äärejuhtumite kohta, millele statistiline valideerimine ei suuda lõplikult vastata. Matemaatiline kindlus võib kasutuselevõttu kiirendada, mitte edasi lükata.
Kliendi usalduse dünaamika: Euroopa ettevõttekliendid nõuavad üha enam selgitatavat tehisintellekti, eriti B2B kontekstis. "Miks süsteem selle otsuse tegi?" areneb meeldivast lisaväärtusest tehingu katkestajaks. Süsteemid, mis põhinevad piirangutel põhineval arutlusel, suudavad pakkuda loogilisi selgitusi; musta kasti närvivõrgud ei suuda. Usaldus korreleerub arusaadavusega ja matemaatika võimaldab mõistmist viisil, mida õpitud statistilised mustrid ei võimalda.
Tehniline rakendamine: kuidas piirangud ohutust tagavad
Piirangupõhise ohutuse mehhanismid vajavad selgitust. Kuidas täpselt matemaatika takistab AI tõrkeid?
Piirangute kodeerimine: Ohutusnõuded tõlgitakse enne treenimist matemaatilisteks piiranguteks. Mitte "mudel peaks vältima X-i", see on soovmõtlemine. "Väljundruum välistab X-i", see on matemaatika. Meditsiinilise diagnoosi näide: ravim T on vastunäidustatud koos ravimiga M, sellest saab piirang C: ¬(recommend(T) ∧ patient_takes(M)). Süsteem lihtsalt ei suuda väljastada lahendusi, mis rikuvad C-d. Lahendusruumi määratlevad piirangud. Iga võimalik väljund peab rahuldama kõiki piiranguid. Võimatud väljundid pole ebatõenäolised; need on matemaatiliselt välistatud.
Kontrollimisprotsess: Pärast treenimist tõestavad formaalse kontrolli tööriistad piirangute rahuldamist. Mudelikontroll, teoreemide tõestamine, rahuldatavuse lahendamine, formaalsete meetodite tehnikad. Binaarsete võrkude puhul: juhitav arvutus. Ujukomaarvudega võrkude puhul: juhitamatu. Kontrollimine annab matemaatilise tõestuse: "Kõigi kehtivate sisendite I korral rahuldavad kõik väljundid O piiranguid C." Mitte statistiline väide. Universaalne kvantifitseerimine sisendruumi üle. Euroopa regulaatorid mõistavad erinevust. Üks on tõend. Teine on tõestus.
Käitusaegsed garantiid: Piirangud ei piira ainult treenimist; need piiravad iga järelduste tegemist. Iga otsus läbib piirangute kontrollija. Väljund pakutakse, piiranguid kontrollitakse, ainult nõuetele vastavad väljundid lubatakse. Lisab latentsust? Minimaalselt: binaarsed tehted on kiired. Lisab ohutust? Absoluutselt: piirangu rikkumine on matemaatiliselt võimatu. Kulude-tulude analüüs on ilmne: mikrosekundid kontrollimist versus katastroofilised tõrked piiranguteta väljunditest.
Kompositsiooniline ohutus: Mitu piirangut kombineeruvad matemaatiliselt. Ohutuspiirang S1 pluss õigluspiirang F1 pluss jõudluspiirang P1: süsteem peab rahuldama S1 ∧ F1 ∧ P1 üheaegselt. Traditsioonilised lähenemised: treeni ohutuseks, treeni ümber õigluseks, looda, et jõudlus ei kannata. Piirangupõhine: määra kõik nõuded ette, leia lahendus, mis rahuldab konjunktsiooni. See ei ole alati olemas: mõnikord on piirangud vastuolus. Kuid võimatuse avastamine projekteerimise ajal on parem kui selle avastamine kasutuselevõtu ajal. Matemaatika sunnib aususele kompromisside osas.
Tõrkejuhtumite analüüs: Kui piirangupõhised süsteemid ebaõnnestuvad, on tõrkeviis põhimõtteliselt erinev. Traditsioonilised närvivõrgud: vaiksed tõrked, usutavad kuid valed väljundid, märkigi ebakindlusest. Piirangupõhised süsteemid: piirangu rikkumise selge tuvastamine. Süsteem mõistab, et see ei suuda kõiki piiranguid rahuldada, keeldub väljundist, teatab, milline piirang ebaõnnestus. Kaitsev tõrge: süsteem teab, et see ei tea. Meditsiinilise diagnoosi näide: traditsiooniline süsteem võib väljastada diagnoosi vaatamata ebapiisavale teabele. Piirangupõhine süsteem tuvastab teabepiirangu rikkumise ja väljastab "diagnoosimiseks ebapiisavad andmed". Mitte alati mugav. Alati ohutu. Euroopa meditsiiniseadmete regulaatorid eelistavad ebamugavat ohutust mugavale katastroofile. Ameeriklased õpivad seda õppetundi kallilt.
Hirmust edasi kindluse poole
AI ohutuse arutelu domineerib hirm. Hirm kontrollimatute süsteemide ees. Hirm valesti joondumise ees. Hirm tahtmatute tagajärgede ees.
Need hirmud on õigustatud. Kuid need on matemaatilise ebakindluse sümptomid. Kui teie AI on ehitatud ebastabiilsetele alustele, on loomulik, et muretsete selle pärast, mida see võiks teha.
Binaarsed närvivõrgud pakuvad midagi muud: matemaatilist kindlust. Mitte kindlust iga tulemuse osas, vaid kindlust süsteemi matemaatiliste omaduste osas. Kindlust, et piirangud täidetakse. Kindlust, et käitumine on korratav.
See nihutab vestluse teemalt "kuidas me seda ettearvamatut süsteemi kontrollime" teemale "kuidas me täpsustame õiget käitumist". Hirmult inseneritööle.
Euroopa institutsioonid teevad seda üleminekut juba praegu. Max Plancki intelligentseid süsteeme uuriv instituut keskendub formaalsele verifitseerimisele. Prantsuse INRIA juurutab piirangupõhist AI-d riigisüsteemides. Saksa Fraunhoferi instituudid arendavad sertifitseeritavat AI-d tööstuslikeks rakendusteks. Mitte sellepärast, et regulatsioon seda nõuab, vaid sellepärast, et matemaatika seda võimaldab. Kui sa suudad ohutust tõestada, ei pea sa selle üle vaidlema. Kui sa suudad käitumist garanteerida, ei pea sa sellele lootma. Hirm väheneb, kui alused on kindlad.
Tegelik tee ohutu AI-ni
AI ohutus ei puuduta teadvust, tundlikkust ega väärtuste ühtlustamist abstraktses filosoofilises mõttes. See puudutab süsteemide ehitamist, mis teevad seda, mida nad peaksid tegema, usaldusväärselt, iga kord.
Eetika on oluline. Kuid eetika ilma matemaatiliste alusteta on vaid soovmõtlemine. Sa ei saa reguleerimise teel ohutut AI-d, kui aluseks olev matemaatika on vigane.
Tee edasi on selge: ehita AI matemaatiliselt kindlatele alustele. Kasuta arhitektuure, mis toetavad formaalset verifitseerimist. Lülita piirangud otse disaini. Muuda ohutus sisemiseks, mitte väliseks omaduseks.
Binaarsed närvivõrgud ei ole täielik lahendus kõigile AI ohutusprobleemidele. Kuid need lahendavad põhiprobleemi: matemaatilise ebastabiilsuse. Ja see on eelduseks kõigele muule.
Sa ei saa ühtlustada süsteemi, mis ei tööta usaldusväärselt. Sa ei saa teha eetilisi otsuseid tööriistadega, mis toodavad ebajärjekindlaid väljundeid. Sa ei saa ehitada usaldusväärset AI-d kõikuvale matemaatilisele pinnale.
Kuid sa saad ehitada tõestatavalt ohutuid süsteeme range matemaatika abil. Sa saad luua AI, mis täidab piiranguid disaini poolest. Sa saad arendada tehnoloogiat, kus ohutus on garanteeritud, mitte lootuse küsimus.
Seda Dweve platvorm pakubki. Matemaatiline rangus. Formaalne verifitseeritavus. Piirangupõhine ohutus. Mitte eetiliste raamistike kaudu, vaid parema matemaatika kaudu.
AI ohutuskriis on reaalne. Kuid see on matemaatikaprobleem, mitte filosoofiaprobleem. Ja matemaatikaprobleemidel on matemaatilised lahendused.
Euroopa mõistis seda algusest peale. Sajanditepikkused insenerikatastroofid õpetasid lihtsa õppetunni: lootus ei ole strateegia, testimine ei ole tõestus ja head kavatsused ei hoia ära katastroofilisi tõrkeid. Matemaatika hoia ära. Euroopa AI-ettevõtted, kes sellele alusele toetuvad, ei ole regulatsiooni tõttu takistatud; regulatsioon on neid võimestanud. Kui ohutus on matemaatiliselt garanteeritud, kiireneb juurutamine. Kui käitumine on formaalselt verifitseeritud, järgneb usaldus loomulikult. AI tulevik ei ole filosoofilised vaidlused teadvuse üle. See on range matemaatika, mis tagab süsteemide korrektse töö. Euroopa lähenemine ei olnud kaitsev. See oli algusest peale õige.
Valmis AI-ks, mida sa saad tõeliselt usaldada? Dweve Core'i formaalselt verifitseeritavad binaarsed närvivõrgud on tulemas. Ohutus matemaatika kaudu, mitte lootuse kaudu. Liitu meie ootenimekirjaga.