Dirbtinio intelekto sauga yra matematikos, ne etikos klausimas
Etikos blaškymasis
Užsukite į bet kurią dirbtinio intelekto saugos konferenciją, ir išgirsite aistringas diskusijas apie sąmonę, jausmingumą ir moralines sistemas. Ar dirbtinis intelektas turėtų turėti teises? Kaip užtikrinti, kad jis dalytųsi mūsų vertybėmis? Kas nutiks, kai jis taps protingesnis už mus?
Tai įdomūs filosofiniai klausimai. Jie taip pat visiškai nepataiko į esmę.
Realioji dirbtinio intelekto saugumo krizė nėra susijusi su etika. Ji susijusi su matematika. Ir kol visi nerimauja dėl hipotetinio superintelekto, dabartinės dirbtinio intelekto sistemos žlunga dėl daug kasdieniškesnių priežasčių: jos matematiškai sugedusios.
Geros žinios? Tai problema, kurią tikrai galime išspręsti.
Tikroji saugumo krizė
Štai kaip dirbtinio intelekto sauga iš tikrųjų atrodo 2025 m.: medicinos diagnostikos sistema, kuri testavimo metu teisinga 95 % atvejų, bet gamyboje - tik 73 %. Finansinės prekybos algoritmas, kuris veikia puikiai, kol rinkos sąlygos šiek tiek pasikeičia, o tada praranda milijonus. Autonominė transporto priemonė, kuri dėl neįprasto apšvietimo sustojimo ženklą supainioja su greičio ribojimo ženklu.
Tai ne kraštiniai atvejai. Tai sisteminiai gedimai, kuriuos sukelia matematinis nestabilumas pagrindiniuose neuroniniuose tinkluose.
Kiekviena slankiojo kablelio operacija įveda apvalinimo klaidų. Kiekvienas sluoksnis šias klaidas didina. Kiekvienas sprendimas remiasi vis labiau netvirtais matematiniais pagrindais. Ir mes diegiame šias sistemas į kritines programas, kol diskutuojame, ar jos gali tapti sąmoningos.
Tai tas pats, kaip nerimauti, ar jūsų automobilis turi jausmų, ignoruojant, kad stabdžiai neveikia patikimai.
Kodėl etika mūsų neišgelbės
AI etikos bendruomenė turi gerų ketinimų. Jie nori užtikrinti, kad AI sistemos būtų teisingos, skaidrios, atskaitingos. Jie kuria sistemas, gaires, principus.
Bet negali etikos sprendimais išspręsti matematikos uždavinio.
Neuroninis tinklas, kuris identiškiems įvesties duomenims pateikia skirtingus rezultatus, nėra etikos problema. Tai matematinio nestabilumo problema. Sistema, kuri kuria įtikinamai skambančias nesąmones, nėra vertybių derinimo problema. Tai šablonų atpažinimo apribojimo problema.
Etinės sistemos prielaidos yra tokios, kad sistema iš pradžių veikia teisingai. Jose kalbama apie tinkamo veiksmo pasirinkimą. Tačiau kai sistema negali patikimai įvykdyti jokio veiksmo, etika tampa nesvarbi.
Todėl vis matome dirbtinio intelekto nesėkmes, nepaisant visų etikos komitetų ir saugos gairių. Mes gydome simptomus, ignoruodami ligą.
Formalaus tikrinimo sprendimas
Informatikos mokslas turi sritį, skirtą įrodyti, kad sistemos veikia teisingai: formalieji metodai. Matematinės technikos, kurios griežtai patikrina programinės įrangos elgseną. Įrodyti, o ne išbandyti. Garantuoti, o ne įvertinti.
Formalusis patikrinimas dešimtmečius naudojamas kritinėse sistemose: orlaivių valdymo programinėje įrangoje, branduolinių reaktorių valdyme, erdvėlaivių navigacijoje. Šioms sistemoms reikia matematinio tikrumo, o ne statistinio pasitikėjimo.
Kodėl dirbtinis intelektas nenaudoja formalaus patikrinimo? Nes slankiojo kablelio neuroniniai tinklai yra matematiškai neįmanoma patikrinti.
Negalite įrodyti sistemos savybių, kai pati sistema yra pagrįsta apytiksle aritmetika. Slankiojo kablelio skaičiavimai įveda neapibrėžtumą kiekviename žingsnyje. Tas neapibrėžtumas plinta. Kaupiasi. Tampa neįmanoma apie jį formaliai samprotauti.
Tai ne įrankių problema. Tai esminis nesuderinamumas tarp neuroninių tinklų matematikos ir formalaus patikrinimo matematikos.
Dvejetainiai tinklai: įrodomai teisingas DI
Dvejetainiai neuroniniai tinklai visiškai pakeičia lygtį.
Vietoj slankiojo kablelio aproksimacijų dvejetainiai tinklai naudoja diskrečiąsias operacijas. +1 arba -1. Teisinga arba klaidinga. Tikslus skaičiavimas be apvalinimo klaidų.
Dėl to juos galima formaliai patikrinti. Galite iš tikrųjų įrodyti dvejetainio tinklo elgsenos savybes. Matematiškai garantuoti tam tikrus rezultatus. Sukurti DI sistemas, pasižyminčias tokiu pat griežtumu kaip orlaivių valdymo programinė įranga.
„Dweve" visą savo platformą sukūrėme būtent šiuo principu. „Core" suteikia dvejetainį pagrindą. „Loom" įgyvendina apribojimais grįstą samprotavimą su įrodomomis savybėmis. Kiekviena operacija yra matematiškai tiksli. Kiekvienas sprendimas yra atsekamas.
Tai ne tik patikimiau. Tai iš esmės saugiau. Saugumas per matematinį griežtumą, o ne per etikos gaires.
Apribojimai kaip saugos apsaugai
Štai dar vienas dvejetainių tinklų privalumas: jie veikia su apribojimais, o ne su tikimybėmis.
Apribojimas yra griežta taisyklė. „Ši reikšmė turi būti teigiama." „Ši išvestis turi atitikti šias sąlygas." Dvejetainiai tinklai gali įtraukti apribojimus tiesiogiai į savo architektūrą.
Tai reiškia, kad saugos reikalavimai tampa matematiniais apribojimais, o ne apdorojimo filtrais. Sistema tiesiog negali pateikti išvesčių, kurios pažeidžia apribojimus. Tai matematiškai neįmanoma, o ne tik mažai tikėtina.
Palyginkite tai su tradiciniais neuroniniais tinklais, kuriuose sauga yra tik papildoma mintis. Išmokykite modelį, tada pridėkite apsaugus. Tikėkitės, kad apsaugai pagaus problemas. Spręskite gedimus, kai jie prasprūsta.
Apribojimais grįstas DI įdiegia saugą į pačią matematiką. Tai skirtumas tarp automobilio su gerais stabdžiais ir automobilio, kuris fiziškai negali viršyti saugaus greičio.
Derinimo problema (iš tikrųjų išspręsta)
DI derinimo problema klausia: kaip užtikrinti, kad DI sistemos darytų tai, ko norime?
Dabartinis metodas: mokyti pagal žmonių atsiliepimus, pridėti daugiau pavyzdžių, tikėtis, kad statistiniai modeliai užfiksuos žmogiškąsias vertybes. Tai iš esmės tikimybinis. Iš esmės neapibrėžtas.
Dvejetainiai tinklai su apribojimais grįstu samprotavimu siūlo kitokį metodą: matematiškai apibrėžkite, ko norite. Sistema turi atitikti tuos apribojimus. Ne „paprastai" ar „su 99,9 % pasitikėjimu". Turi atitikti. Matematiškai garantuota.
Tai neišsprendžia filosofinio derinimo. Jei nurodysite neteisingus apribojimus, gausite neteisingą elgseną. Bet tai išsprendžia techninį derinimą. Jei galite formalizuoti, ko norite, sistema darys būtent tai. Jokio nukrypimo. Jokio netikėto apibendrinimo. Jokio atsirandančio nederinimo.
Sunkioji dalis pasikeičia iš „kaip padaryti, kad tai būtų patikima" į „kaip apibrėžti, ko norime". Tai daug geresnė problema.
Determinuotumas yra sauga
Viena iš labiausiai neįvertintų dvejetainių tinklų saugos savybių: jie yra determinuoti.
Tas pats įvestis visada duoda tą patį rezultatą. Paleiskite sistemą milijoną kartų, gausite identiškus rezultatus. Tai atrodo elementaru, bet saugai tai labai reikšminga.
Testavimas iš tikrųjų ką nors reiškia. Jei testas praeina, tas pats įvestis visada praeis. Galite patvirtinti elgesį. Kurkite pasitikėjimą per pakartojamumą.
Slankiojo kablelio tinklai to neturi. Tas pats įvestis gali duoti skirtingus rezultatus priklausomai nuo aparatinės įrangos, programinės įrangos versijų ir net operacijų eilės. Testavimas suteikia statistinę imtį, o ne garantiją.
Kritinėms sistemoms determinizmas yra saugumas. Turite tiksliai žinoti, ką sistema padarys kiekvieną kartą, bet kokiomis aplinkybėmis. Dvejetainiai tinklai tai užtikrina. Slankiojo kablelio tinklai to iš esmės negali.
Aiškinamumas per apribojimus
Visi nori suprantamo dirbtinio intelekto. Jei negalime suprasti, kodėl sistema priėmė sprendimą, kaip galime ja pasitikėti?
Plaukiojančiojo kablelio neuroninių tinklų problema: jie yra juodosios dėžės. Milijardai parametrų, sudėtingos sąveikos, nėra aiškaus sprendimo kelio. Net juos sukūrę tyrėjai negali paaiškinti konkrečių rezultatų.
Dvejetainiai tinklai su apribojimais pagrįstu samprotavimu iš prigimties yra labiau interpretuojami. Sistema tikrina apribojimus. Galite matyti, kurie apribojimai buvo įvykdyti, kurie ne, kaip sprendimas išplaukė iš apribojimų.
Tai nėra tobulas skaidrumas. Sudėtingos sistemos vis tiek yra sudėtingos. Tačiau tai skirtumas tarp „modelis priskyrė tikimybę 0,87 remdamasis išmoktais modeliais“ ir „sprendimas atitiko apribojimus A, B ir C, bet pažeidė apribojimą D, todėl buvo pasirinktas rezultatas X“.
Viena yra nepermatoma statistika. Kita - loginis samprotavimas, kurį galite sekti ir patikrinti.
Saugumas per architektūrą
Dirbtinio intelekto saugumo bendruomenė skiria didžiulį dėmesį vėlesnėms saugumo priemonėms. Derinimo mokymas, saugumo tobulinimas, išvesties filtravimas, žmogaus priežiūra.
Tai pleistrai ant iš esmės nesaugių architektūrų. Jūs bandote padaryti nestabilią sistemą stabilią per išorinius valdiklius.
Dvejetainiai neuroniniai tinklai atstovauja kitokią paradigmą: saugumą užtikrina architektūra. Matematiniai pagrindai yra stabilūs. Operacijos yra tikslios. Apribojimai yra įmontuoti. Saugumas nėra pridedamas ant viršaus; jis yra neatsiejama dizaino dalis.
„Dweve Core“ architektūra įrodo šį principą. Šiandien tai šimtai tūkstančių rankomis suderintų branduolių 2 900+ operacijų per 76 kategorijas.
Loom remiasi šiuo pagrindu, turėdamas 528 srities specialistus, kurių kiekvienas sprendžia konkrečias samprotavimo rūšis. Retas aktyvavimas reiškia, kad įsitraukia tik atitinkami srities specialistai. Suvaržymais pagrįsta logika reiškia, kad rezultatai turi atitikti formalius reikalavimus.
Tai dirbtinio intelekto sauga architektūros lygmenyje, o ne politikos lygmenyje.
Europos pranašumas
Europoje galioja griežti dirbtinio intelekto saugos reglamentai. BDAR, Dirbtinio intelekto aktas, duomenų apsaugos įstatymai. Jie sukuria atitikties naštą sistemoms, kurios negali garantuoti savo elgesio.
Bet jie sukuria galimybes sistemoms, kurios gali.
Dvejetainiai neuroniniai tinklai su formalia patikra iš tikrųjų gali atitikti reguliavimo reikalavimus. Įrodykite sąžiningumą. Parodykite nediskriminavimą. Užtikrinkite duomenų tvarkymą. Pademonstruokite audito galimybes.
Tradiciniai neuroniniai tinklai to negali. Jie gali parodyti statistines savybes, pateikti pavyzdžių, pasiūlyti tikimybines garantijas. Tačiau jie negali nieko įrodyti matematiškai.
Tai reiškia, kad Europos dirbtinio intelekto įmonės, naudojančios dvejetainius tinklus, turi reguliacinį pranašumą. Jos gali sertifikuoti saugą taip, kaip slankiojo kablelio sistemos tiesiog negali.
Atitiktis tampa konkurenciniu pranašumu, o ne našta.
Europos reguliaciniai reikalavimai (kodėl matematika teisiškai svarbi)
ES dirbtinio intelekto akto 13 straipsnis reikalauja techninės dokumentacijos, įrodančios atitiktį saugos reikalavimams. 15 straipsnis reikalauja tikslumo, patikimumo ir kibernetinio saugumo priemonių. Šie reikalavimai sukuria iššūkių sistemoms, kurių elgsena negali būti formaliai įrodyta.
Sertifikavimo iššūkiai saugai kritiniam dirbtiniam intelektui: Vokietijos sertifikavimo įstaigos, pavyzdžiui, TÜV, reikalauja formalių specifikacijų dirbtiniam intelektui kritinėse programose. Statistinių bandymų rezultatai („99 % tikslumas") suteikia kitokias garantijas nei matematiniai apribojimų tenkinimo įrodymai. Sistemos, galinčios pateikti formaliąsias garantijas, susiduria su sklandesniu sertifikavimo keliu nei tos, kurios remiasi vien empiriniu patvirtinimu.
Medicinos priemonių reglamentas (MDR): Dirbtiniu intelektu pagrįstos diagnostikos priemonės, kurioms reikalingas CE ženklinimas, turi įrodyti saugą griežta metodika. MDR reikalavimai nuspėjamai ir patikrinamai elgsenai kelia iššūkių neuroniniams tinklams, kuriems būdingas vidinis atsitiktinumas. Sistemos, siūlančios deterministines garantijas, geriau atitinka sertifikavimo reikalavimus, sukurtus medicinos priemonėms, kuriose sauga yra svarbiausia.
Aviacijos saugos standartai: DO-178C sertifikavimas saugai kritinei avionikos programinei įrangai, ypač A lygiui (kai gedimas turi katastrofiškų pasekmių), reikalauja formaliųjų metodų, įrodančių teisingumą. Tikimybinis tradicinių neuroninių tinklų pobūdis iš esmės prieštarauja DO-178C reikalavimams. Tai sukuria kliūtis diegti dirbtinį intelektą skrydžiui kritinėse sistemose, nebent naudojamos alternatyvios architektūros su formalaus patvirtinimo galimybėmis.
Finansų reguliavimas: MiFID II reikalauja, kad algoritminės prekybos sistemos demonstruotų kontrolės priemones, užkertančias kelią rinkos manipuliavimui. Įrodyti, kad tam tikrų elgsenų nėra, matematiškai iš esmės skiriasi nuo žemų empirinių pasireiškimo dažnių rodymo. Sistemos su formaliai apibrėžtais apribojimais gali pateikti tvirtesnius atitikties argumentus nei tos, kurių elgsena atsiranda vien iš statistinio mokymosi.
Kaip iš tikrųjų veikia formalusis patikrinimas
Formalus patikrinimas taiko matematinio įrodymo metodus, siekiant užtikrinti dirbtinio intelekto sistemų savybes.
Apribojimų kodavimo metodas: Apsvarstykite medicininės diagnostikos DI, kuris niekada neturi rekomenduoti gydymo, kontraindikuotino pacientų vaistams. Tradicinis metodas: apmokyti modelį, išsamiai išbandyti, tikėtis, kad jis išmoks apribojimą, pridėti saugos filtrus. Apribojimais pagrįstas metodas: matematiškai užkoduoti reikalavimą kaip griežtą apribojimą. Sistemos sprendimų erdvė aiškiai pašalina kontraindikuotinus derinius, ne 99,99 % saugus, bet matematiškai neįmanomas pažeisti.
Automobilių saugos reikalavimai: ISO 26262 funkcinės saugos standartas automobilių sistemoms reikalauja įrodyti pavojų mažinimą. Skirtumas tarp „testuojant aptikta 99,8 % pėsčiųjų“ ir „galima įrodyti, kad aptinkami visi pėstieji, atitinkantys matomumo kriterijų X per delsą Y“ reiškia iš esmės skirtingus užtikrinimo lygius. Pirmasis yra empirinis įrodymas; antrasis - matematinis įrodymas. ASIL-D sertifikavimas (aukščiausias automobilių saugos vientisumo lygis) reikalauja įrodymų lygio užtikrinimo, kurio vien statistiniai testai negali suteikti.
Pramoninės automatikos standartai: IEC 61508 reikalauja, kad kritinės pramoninės sistemos atitiktų saugos vientisumo lygį (SIL) 3 arba 4. SIL 4 reikalauja įrodyti, kad pavojingo gedimo tikimybė per valandą yra mažesnė nei 10⁻⁸. Tradicinio mašininio mokymosi būdingas atsitiktinumas neleidžia pateikti formalių garantijų šiame lygmenyje. Sistemoms, kurioms reikia SIL 4 sertifikavimo, būtini matematiniai gedimo ribų įrodymai ir patikros metodai, taikomi deterministinėms apribojimais pagrįstoms sistemoms, bet ne tikimybiniams neuroniniams tinklams.
Komercinės saugos patikros pasekmės
Matematinis saugumo patikrinimas sukuria komercinę dinamiką, peržengiančią reguliavimo reikalavimų laikymąsi.
Viešieji pirkimai ir patekimas į rinką: Europos viešojo sektoriaus pirkimuose vis dažniau reikalaujama įrodomo dirbtinio intelekto saugos sertifikavimo didelės rizikos programoms. Sistemos, kurios negali pateikti oficialių saugos garantijų, susiduria su pašalinimu iš konkursų, nepaisant empirinių rezultatų. Patekimas į rinką tampa priklausomas nuo gebėjimo pateikti matematinius įrodymus, o ne tik įspūdingų testų rezultatų.
Draudimo ir atsakomybės aspektai: Aktuarinis dirbtinio intelekto sistemų rizikų vertinimas tampa sudėtingas, kai elgesio negalima formaliai įrodyti. Draudimo apsauga kritinėms programoms, medicininei diagnostikai, autonominėms transporto priemonėms, pramonės automatizavimui vis dažniau reikalauja, kad sistemos įrodytų formaliąsias saugos savybes. Tai sukuria atotrūkį: sistemos su matematinėmis garantijomis tampa apdraudžiamos; grynai statistinės sistemos susiduria su apsaugos sunkumais arba draudžiamai didelėmis įmokomis.
Sertifikavimo terminai: Atsiranda priešingas intuicijai modelis: sistemos su formalia verifikacija gali pasiekti greitesnį reguliavimo patvirtinimą nei tos, kurios remiasi plačiais empiriniais bandymais. Formalus įrodymas suteikia deterministinius sertifikavimo kelius: įrodykite apribojimų atitiktį, gaukite patvirtinimą. Empiriniai metodai susiduria su kartotiniais bandymų ciklais ir reguliavimo klausimais dėl kraštinių atvejų, į kuriuos statistinė validacija negali galutinai atsakyti. Matematinis tikrumas gali paspartinti, o ne atidėti diegimą.
Klientų pasitikėjimo dinamika: Europos įmonių klientai vis dažniau reikalauja paaiškinamojo dirbtinio intelekto, ypač B2B kontekste. „Kodėl sistema priėmė šį sprendimą?“ iš pageidaujamos savybės tampa esmine sąlyga. Sistemos, pagrįstos apribojimais, gali pateikti loginius paaiškinimus; juodosios dėžės neuroniniai tinklai - ne. Pasitikėjimas koreliuoja su suprantamumu, o matematika leidžia suprasti taip, kaip to neleidžia išmokti statistiniai modeliai.
Techninis įgyvendinimas: kaip apribojimai užtikrina saugą
Konstraintais pagrįstos saugos mechanika nusipelno paaiškinimo. Kaip tiksliai matematika užkerta kelią AI gedimams?
Konstraintų kodavimas: Saugos reikalavimai prieš mokymą paverčiami matematiniais apribojimais. Ne „modelis turėtų vengti X", tai norų mąstymas. „Išvesties erdvė neįtraukia X", tai matematika. Medicininės diagnostikos pavyzdys: gydymas T kontraindikuotinas su vaistu M tampa apribojimu C: ¬(rekomenduoti(T) ∧ pacientas_vartoja(M)). Sistema tiesiog negali išvesti sprendimų, pažeidžiančių C. Sprendimų erdvę apibrėžia apribojimai. Kiekviena galima išvestis turi atitikti visus apribojimus. Neįmanomos išvestys nėra mažai tikėtinos; jos matematiškai neįtrauktos.
Patikros procesas: Po mokymo formalios patikros įrankiai įrodo apribojimų tenkinimą. Modelio patikra, teoremų įrodymas, tenkinamumo sprendimas, formaliosios metodikos būdai. Dvejetainiams tinklams: skaičiuojama efektyviai. Slankiojo kablelio tinklams: neskaičiuojama efektyviai. Patikra pateikia matematinį įrodymą: „Visiems galiojantiems įvesties duomenims I visos išvestys O tenkina apribojimus C." Ne statistinis teiginys. Universali kvantifikacija visoje įvesties erdvėje. Europos reguliuotojai supranta skirtumą. Viena yra įrodymas. Kita yra įrodymas.
Veikimo garantijos: Apribojimai riboja ne tik mokymą; jie riboja kiekvieną išvadą. Kiekvienas sprendimas praeina apribojimų tikrintuvą. Pasiūloma išvestis, patikrinami apribojimai, leidžiamos tik atitinkančios išvestys. Ar prideda delsą? Minimaliai: dvejetainės operacijos yra greitos. Ar prideda saugos? Absoliučiai: matematinė apribojimų pažeidimo negalimybė. Sąnaudų ir naudos analizė akivaizdi: mikrosekundės tikrinimo prieš katastrofiškus gedimus dėl neribotų išvesčių.
Sudėtinė sauga: Keli apribojimai jungiasi matematiškai. Saugos apribojimas S1 plius teisingumo apribojimas F1 plius našumo apribojimas P1: sistema turi tenkinti S1 ∧ F1 ∧ P1 vienu metu. Tradiciniai metodai: mokyti saugai, perkvalifikuoti teisingumui, tikėtis, kad našumas nesumažės. Konstraintais pagrįstas: nurodyti visus reikalavimus iš anksto, rasti sprendimą, tenkinantį konjunkciją. Ne visada egzistuoja: kartais apribojimai konfliktuoja. Tačiau negalimybės atradimas projektavimo metu geriau nei jos atradimas diegimo metu. Matematika verčia būti sąžiningiems dėl kompromisų.
Gedimų atvejų analizė: Kai konstraintais pagrįstos sistemos sugenda, gedimo būdas iš esmės skiriasi. Tradiciniai neuroniniai tinklai: tylūs gedimai, tikėtinos, bet klaidingos išvestys, jokio neapibrėžtumo ženklo. Konstraintais pagrįstos sistemos: aiškus apribojimų pažeidimo aptikimas. Sistema supranta, kad negali tenkinti visų apribojimų, atsisako išvesties, praneša, kuris apribojimas nepavyko. Gynybinis gedimas: sistema žino, kad nežino. Medicininės diagnostikos pavyzdys: tradicinė sistema gali pateikti diagnozę nepaisant nepakankamos informacijos. Konstraintais pagrįsta sistema aptinka informacijos apribojimo pažeidimą ir vietoj to išveda „nepakanka duomenų diagnozei". Ne visada patogu. Visada saugu. Europos medicinos prietaisų reguliuotojai renkasi nepatogią saugą vietoj patogios katastrofos. Amerikiečiai šią pamoką mokosi brangiai.
Už baimės, link tikrumo
AI saugos diskusijose dominuoja baimė. Baimė dėl nevaldomų sistemų. Baimė dėl nesuderinamumo. Baimė dėl nenumatytų pasekmių.
Šios baimės yra pagrįstos. Tačiau jos yra matematinio neapibrėžtumo simptomai. Kai jūsų DI yra pastatytas ant nestabilių pamatų, žinoma, kad nerimaujate dėl to, ką jis gali padaryti.
Dvejetainiai neuroniniai tinklai siūlo ką nors kita: matematinį tikrumą. Ne tikrumą dėl kiekvieno rezultato, o tikrumą dėl matematinių sistemos savybių. Tikrumą, kad apribojimai bus įvykdyti. Tikrumą, kad elgsena yra atkuriama.
Tai pakeičia pokalbį nuo „kaip kontroliuoti šią nenuspėjamą sistemą“ prie „kaip apibrėžti teisingą elgseną“. Nuo baimės prie inžinerijos.
Europos institucijos jau daro šį perėjimą. Max Planck intelektinių sistemų institutas sutelkia dėmesį į formalaus patikrinimo tyrimus. Prancūzijos INRIA diegia apribojimais pagrįstą DI vyriausybės sistemose. Vokietijos Fraunhoferio institutai kuria sertifikuojamą DI pramoninėms programoms. Ne todėl, kad reglamentai to reikalauja, o todėl, kad matematika tai įgalina. Kai galite įrodyti saugumą, jums nereikia dėl jo diskutuoti. Kai galite garantuoti elgseną, jums nereikia jos tikėtis. Baimė sumažėja, kai pamatai yra tvirti.
Tikrasis kelias į saugų DI
DI saugumas nėra susijęs su sąmone, jausmingumu ar vertybių suderinimu abstrakčia filosofine prasme. Tai susiję su sistemų, kurios daro tai, ką turi daryti, patikimai, kiekvieną kartą, kūrimu.
Etika svarbi. Tačiau etika be matematinių pamatų yra tik norų mąstymas. Negalite reglamentais pasiekti saugaus DI, jei pagrindinė matematika yra sugedusi.
Kelias į priekį yra aiškus: kurkite DI ant matematiškai pagrįstų pamatų. Naudokite architektūras, kurios palaiko formalų patikrinimą. Įtraukite apribojimus tiesiogiai į dizainą. Padarykite saugumą vidiniu, o ne išoriniu.
Dvejetainiai neuroniniai tinklai nėra visiškas visų DI saugumo problemų sprendimas. Tačiau jie išsprendžia pagrindinę problemą: matematinį nestabilumą. Ir tai yra būtina sąlyga viskam kitam.
Negalite suderinti sistemos, kuri neveikia patikimai. Negalite priimti etinių sprendimų įrankiais, kurie sukuria nenuoseklius rezultatus. Negalite sukurti patikimo DI ant nestabilaus matematinio pagrindo.
Tačiau galite sukurti įrodomai saugias sistemas su griežta matematika. Galite sukurti DI, kuris atitinka apribojimus pagal dizainą. Galite plėtoti technologiją, kurioje saugumas yra garantuotas, o ne tikėtinas.
Būtent tai ir teikia Dweve platforma. Matematinis griežtumas. Formalus patikrinamumas. Apribojimais pagrįstas saugumas. Ne per etines sistemas, o per geresnę matematiką.
DI saugumo krizė yra reali. Tačiau tai matematikos problema, o ne filosofijos problema. O matematikos problemos turi matematinius sprendimus.
Europa tai suprato nuo pat pradžių. Šimtmečiai inžinerinių katastrofų išmokė paprastą pamoką: viltis nėra strategija, testavimas nėra įrodymas, o geri ketinimai neapsaugo nuo katastrofiškų gedimų. Matematika apsaugo. Europos DI įmonės, kuriančios ant šio pagrindo, nėra varžomos reglamentų; jos jų įgalinamos. Kai saugumas yra matematiškai garantuotas, diegimas spartėja. Kai elgsena yra formaliai patikrinta, pasitikėjimas atsiranda natūraliai. DI ateitis nėra filosofiniai debatai apie sąmonę. Tai griežta matematika, užtikrinanti, kad sistemos veiktų teisingai. Europos požiūris nebuvo gynybinis. Jis visą laiką buvo teisingas.
Pasiruošę DI, kuriuo tikrai galite pasitikėti? Saugumas per matematiką, o ne per viltį. Šiuo metu vartotojai „Dweve“ gali naudotis tik gavę kvietimą.