Drošība mākslīgajā intelektā ir matemātika, nevis ētika
Ētikas novirzīšana no būtības
Ieejiet jebkurā mākslīgā intelekta drošības konferencē, un dzirdēsiet kaislīgas debates par apziņu, jūtām un morāles sistēmām. Vai MI būtu jāpiešķir tiesības? Kā nodrošināt, ka tas pieņem mūsu vērtības? Kas notiks, kad tas kļūs gudrāks par mums?
Šie ir interesanti filozofiski jautājumi. Tie arī pilnībā palaiž garām būtību.
Īstā MI drošības krīze nav par ētiku. Tā ir par matemātiku. Un, kamēr visi uztraucas par hipotētisku superinteliģenci, pašreizējās MI sistēmas cieš neveiksmi daudz ikdienišķāku iemeslu dēļ: tās ir matemātiski salauztas.
Labā ziņa? Šī ir problēma, ko mēs patiešām varam atrisināt.
Īstā drošības krīze
Lūk, kā MI drošība patiesībā izskatās 2025. gadā: medicīniskās diagnostikas sistēma, kas testēšanā ir pareiza 95% gadījumu, bet praksē tikai 73%. Finanšu tirdzniecības algoritms, kas darbojas nevainojami, līdz tirgus apstākļi nedaudz mainās, un tad zaudē miljonus. Autonoms transportlīdzeklis, kas neparasta apgaismojuma dēļ sajauc stopzīmi ar ātruma ierobežojuma zīmi.
Šie nav robežgadījumi. Šīs ir sistēmiskas kļūmes, ko izraisa matemātiska nestabilitāte pamatā esošajos neironu tīklos.
Katra peldošā komata darbība rada noapaļošanas kļūdas. Katrs slānis šīs kļūdas pastiprina. Katrs lēmums balstās uz arvien nestabilākiem matemātiskajiem pamatiem. Un mēs izvietojam šīs sistēmas kritiskās lietojumprogrammās, vienlaikus spriežot, vai tās varētu kļūt apzinīgas.
Tas ir kā uztraukties par to, vai jūsu automašīnai ir jūtas, ignorējot to, ka bremzes nedarbojas uzticami.
Kāpēc ētika mūs nevar glābt
MI ētikas piekritējiem ir labi nodomi. Viņi vēlas nodrošināt, ka MI sistēmas ir taisnīgas, pārredzamas un atbildīgas. Viņi veido sistēmas, vadlīnijas, principus.
Bet jūs nevarat atrisināt matemātikas problēmu ar ētiku.
Neironu tīkls, kas ar identiskiem ievaddatiem rada atšķirīgus rezultātus, nav ētikas jautājums. Tā ir matemātiskas nestabilitātes problēma. Sistēma, kas rada pārliecinoši skanošas muļķības, nav vērtību saskaņošanas problēma. Tā ir modeļa atpazīšanas ierobežojumu problēma.
Ētikas sistēmas pieņem, ka sistēma vispirms darbojas pareizi. Tās ir par pareizās rīcības izvēli. Bet, kad sistēma nevar uzticami izpildīt nevienu darbību, ētika ir nebūtiska.
Tāpēc mēs joprojām redzam MI kļūmes, neskatoties uz visām ētikas komitejām un drošības vadlīnijām. Mēs ārstējam simptomus, ignorējot slimību.
Formālās verifikācijas risinājums
Datorzinātnē ir joma, kas veltīta sistēmu pareizas darbības pierādīšanai: formālās metodes. Matemātiskas metodes, kas stingri pārbauda programmatūras uzvedību. Pierādīt, nevis testēt. Garantēt, nevis aplēst.
Formālā verifikācija gadu desmitiem ir izmantota kritiskās sistēmās: gaisa kuģu vadības programmatūrā, kodolreaktoru pārvaldībā, kosmosa kuģu navigācijā. Šīm sistēmām ir nepieciešama matemātiska noteiktība, nevis statistiska ticamība.
Kāpēc MI neizmanto formālo verifikāciju? Tāpēc, ka peldošā komata neironu tīkli ir matemātiski neiespējami verificējami.
Jūs nevarat pierādīt sistēmas īpašības, ja pati sistēma ir balstīta uz aptuvenu aritmētiku. Peldošais komats ievieš nenoteiktību katrā solī. Šī nenoteiktība izplatās. Pastiprinās. Kļūst neiespējami par to spriest formāli.
Šī nav rīku problēma. Tā ir fundamentāla nesaderība starp neironu tīklu matemātiku un formālās verifikācijas matemātiku.
Binārie tīkli: pierādāmi pareizs mākslīgais intelekts
Binārie neironu tīkli pilnībā maina vienādojumu.
Tā vietā, lai izmantotu peldošā komata tuvinājumus, binārie tīkli izmanto diskrētas darbības. +1 vai -1. Patiess vai nepatiess. Precīza aritmētika bez noapaļošanas kļūdām.
Tas padara tos piemērotus formālai verifikācijai. Jūs varat faktiski pierādīt bināro tīklu uzvedības īpašības. Matemātiski garantēt noteiktus rezultātus. Izveidot mākslīgā intelekta sistēmas ar tādu pašu stingrību kā gaisa kuģu vadības programmatūru.
Uzņēmumā Dweve mēs visu savu platformu esam balstījuši uz šo principu. Core nodrošina bināro ietvaru. Loom īsteno uz ierobežojumiem balstītu spriešanu ar pierādāmām īpašībām. Katra darbība ir matemātiski precīza. Katrs lēmums ir izsekojams.
Šī nav tikai lielāka uzticamība. Tas ir fundamentāli drošāk. Drošība caur matemātisku stingrību, nevis caur ētikas vadlīnijām.
Ierobežojumi kā drošības aizsargmargas
Šeit ir vēl viena bināro tīklu priekšrocība: tie strādā ar ierobežojumiem, nevis varbūtībām.
Ierobežojums ir stingrs noteikums. "Šai vērtībai jābūt pozitīvai." "Šim rezultātam jāatbilst šiem nosacījumiem." Binārie tīkli var iekļaut ierobežojumus tieši savā arhitektūrā.
Tas nozīmē, ka drošības prasības kļūst par matemātiskiem ierobežojumiem, nevis pēcapstrādes filtriem. Sistēma burtiski nevar radīt rezultātus, kas pārkāpj ierobežojumus. Tas ir matemātiski neiespējami, nevis tikai maz ticams.
Salīdziniet to ar tradicionālajiem neironu tīkliem, kur drošība ir pēcpārdomas. Apmāciet modeli, pēc tam pievienojiet aizsargmargas. Ceriet, ka aizsargmargas noķers problēmas. Risiniet kļūmes, kad tās izslīd cauri.
Uz ierobežojumiem balstīts mākslīgais intelekts iebūvē drošību matemātikā. Tā ir atšķirība starp automašīnu ar labām bremzēm un automašīnu, kas fiziski nevar pārsniegt drošu ātrumu.
Saskaņošanas problēma (faktiski atrisināta)
Mākslīgā intelekta saskaņošanas problēma jautā: kā mēs nodrošinām, ka mākslīgā intelekta sistēmas dara to, ko mēs vēlamies?
Pašreizējā pieeja: apmāciet uz cilvēku atsauksmēm, pievienojiet vairāk piemēru, ceriet, ka statistiskie modeļi uztvers cilvēku vērtības. Tas ir fundamentāli varbūtības rakstura. Fundamentāli nenoteikts.
Binārie tīkli ar uz ierobežojumiem balstītu spriešanu piedāvā citu pieeju: precīzi definējiet, ko vēlaties, matemātiski. Sistēmai jāatbilst šiem ierobežojumiem. Nevis "parasti" vai "ar 99,9% pārliecību." Jāatbilst. Matemātiski garantēti.
Tas neatrisina filozofisko saskaņošanu. Ja definējat nepareizus ierobežojumus, iegūstat nepareizu uzvedību. Bet tas atrisina tehnisko saskaņošanu. Ja varat formalizēt to, ko vēlaties, sistēma darīs tieši to. Nekādas novirzes. Nekādas negaidītas vispārināšanas. Nekādas pēkšņas nesaskaņošanas.
Sarežģītā daļa pāriet no "kā mēs to padarām uzticamu" uz "kā mēs definējam, ko vēlamies." Tā ir daudz labāka problēma.
Determinisms ir drošība
Viena no visvairāk nenovērtētajām bināro tīklu drošības īpašībām: tie ir deterministiski.
Viens un tas pats ievads vienmēr rada vienu un to pašu rezultātu. Palaidiet sistēmu miljons reižu, iegūstiet identiskus rezultātus. Tas šķiet elementāri, bet drošībai tas ir dziļi nozīmīgi.
Testēšanai patiesībā ir nozīme. Ja tests iztur, tas pats ievades rezultāts vienmēr būs vienāds. Jūs varat sertificēt darbību. Veidojiet uzticību ar atkārtojamību.
Peldošā komata tīkliem tā nav. Viena un tā pati ievade var radīt atšķirīgus rezultātus atkarībā no aparatūras, programmatūras versijām, pat no darbību secības. Testēšana sniedz statistisku izlasi, nevis garantiju.
Kritiskām sistēmām determinisms ir drošība. Jums precīzi jāzina, ko sistēma darīs, katru reizi, jebkuros apstākļos. Binārie tīkli to nodrošina. Peldošā komata tīkli principā to nespēj.
Interpretējamība ar ierobežojumiem
Visi vēlas interpretējamu mākslīgo intelektu. Ja mēs nevaram saprast, kāpēc sistēma pieņēma lēmumu, kā mēs tai varam uzticēties?
Problēma ar peldošā komata neironu tīkliem: tie ir melnās kastes. Miljardiem parametru, sarežģītas mijiedarbības, nav skaidra lēmumu ceļa. Pat pētnieki, kas tos izveidoja, nevar izskaidrot konkrētus rezultātus.
Binārie tīkli ar uz ierobežojumiem balstītu spriešanu pēc būtības ir vieglāk interpretējami. Sistēma pārbauda ierobežojumus. Jūs varat redzēt, kuri ierobežojumi tika izpildīti, kuri netika, kā lēmums izrietēja no ierobežojumiem.
Tā nav pilnīga caurskatāmība. Sarežģītas sistēmas joprojām ir sarežģītas. Bet tā ir atšķirība starp "modelis piešķīra varbūtību 0,87, pamatojoties uz apgūtiem modeļiem" un "lēmums izpildīja ierobežojumus A, B un C, bet pārkāpa ierobežojumu D, tāpēc tika izvēlēta izvade X."
Viens ir necaurredzama statistika. Otrs ir loģiska spriešana, kurai varat sekot un kuru varat pārbaudīt.
Drošība ar arhitektūru
Mākslīgā intelekta drošības kopiena velta milzīgas pūles pēcpasākumu drošības risinājumiem. Saskaņošanas apmācība, drošības smalkā pielāgošana, izvades filtrēšana, cilvēku uzraudzība.
Tie ir pārsēji uz principiāli nedrošām arhitektūrām. Jūs mēģināt padarīt nestabilu sistēmu stabilu ar ārējiem kontroles līdzekļiem.
Binārie neironu tīkli pārstāv citu paradigmu: drošību ar arhitektūru. Matemātiskie pamati ir stabili. Darbības ir precīzas. Ierobežojumi ir iebūvēti. Drošība nav pievienota virsū; tā ir neatņemama dizaina daļa.
Dweve Core arhitektūra demonstrē šo principu. 1 930 algoritmi, visi matemātiski stingri. 415 primitīvi, 500 kodoli, 191 slāņi, 674 augstāka līmeņa algoritmi. Katrs izstrādāts stabilitātei un pārbaudāmībai.
Loom 456 balstās uz šī pamata ar 456 nozares speciālistiem, katrs apstrādā noteikta veida spriešanu. Reta aktivācija nozīmē, ka iesaistās tikai attiecīgie nozares speciālisti. Uz ierobežojumiem balstīta loģika nozīmē, ka izvadēm jāatbilst formālām prasībām.
Tā ir mākslīgā intelekta drošība arhitektūras līmenī, nevis politikas līmenī.
Eiropas priekšrocība
Eiropā ir stingri noteikumi par mākslīgā intelekta drošību. GDPR, AI akts, datu aizsardzības likumi. Tie rada atbilstības slogu sistēmām, kas nevar garantēt darbību.
Bet tie rada iespējas sistēmām, kas to var.
Binārie neironu tīkli ar formālu verifikāciju patiešām var atbilst normatīvajām prasībām. Pierādīt taisnīgumu. Demonstrēt nediskrimināciju. Garantēt datu apstrādi. Parādīt revidējamību.
Tradicionālie neironu tīkli to nespēj. Tie var uzrādīt statistiskas īpašības, sniegt piemērus, piedāvāt varbūtības apliecinājumus. Bet matemātiski tie neko nevar pierādīt.
Tas nozīmē, ka Eiropas mākslīgā intelekta uzņēmumiem, kas izmanto bināros tīklus, ir regulatīvas priekšrocības. Tie var apliecināt drošību tā, kā peldošā komata sistēmas vienkārši nespēj.
Atbilstība prasībām kļūst par konkurences priekšrocību, nevis slogu.
Eiropas regulatīvās prasības (kāpēc matemātikai ir juridiska nozīme)
ES Mākslīgā intelekta akta 13. pants pieprasa tehnisko dokumentāciju, kas apliecina atbilstību drošības prasībām. 15. pants pieprasa precizitāti, robustumu un kiberdrošības pasākumus. Šīs prasības rada izaicinājumus sistēmām, kuru uzvedību nevar formāli pierādīt.
Sertifikācijas izaicinājumi drošībai kritiskā MI: Vācijas sertifikācijas institūcijas, piemēram, TÜV, pieprasa formālas specifikācijas MI kritiskās lietojumprogrammās. Statistiskie testu rezultāti ("99% precizitāte") sniedz citādus apliecinājumus nekā matemātiski pierādījumi par ierobežojumu ievērošanu. Sistēmām, kas spēj sniegt formālas garantijas, sertifikācijas ceļš ir raitāks nekā tām, kas paļaujas tikai uz empīrisku validāciju.
Medicīnisko ierīču regula (MDR): MI balstītai diagnostikai, kurai nepieciešams CE marķējums, drošība jāapliecina ar stingru metodiku. MDR prasības par paredzamu un pārbaudāmu uzvedību ir izaicinājums neironu tīkliem ar raksturīgu stohastiskumu. Sistēmas, kas piedāvā deterministiskas garantijas, labāk saskan ar sertifikācijas prasībām, kas izstrādātas medicīniskajām ierīcēm, kur drošība ir vissvarīgākā.
Aviācijas drošības standarti: DO-178C sertifikācija drošībai kritiskai avionikas programmatūrai, īpaši A līmenī (kur kļūme rada katastrofālas sekas), pieprasa formālas metodes, kas pierāda pareizību. Tradicionālo neironu tīklu varbūtības raksturs fundamentāli konfliktē ar DO-178C prasībām. Tas rada šķēršļus MI ieviešanai lidojumkritiskās sistēmās, ja vien netiek izmantotas alternatīvas arhitektūras ar formālās verifikācijas iespējām.
Finanšu regulējums: MiFID II pieprasa algoritmiskās tirdzniecības sistēmām apliecināt kontroles pasākumus, kas novērš tirgus manipulācijas. Matemātiski pierādīt konkrētas uzvedības neesamību būtiski atšķiras no zemu empīriskās sastopamības rādītāju uzrādīšanas. Sistēmas ar formālām ierobežojumu specifikācijām var sniegt pārliecinošākus atbilstības argumentus nekā tās, kurās uzvedība rodas tikai no statistiskās mācīšanās.
Kā formālā verifikācija patiesībā darbojas
Formālā verifikācija izmanto matemātiskās pierādīšanas paņēmienus, lai garantētu AI sistēmu īpašības.
Ierobežojumu kodēšanas pieeja: Apsveriet medicīniskās diagnostikas AI, kam nekad nedrīkst ieteikt ārstēšanu, kas ir kontrindicēta pacienta medikamentiem. Tradicionālā pieeja: apmācīt modeli, plaši testēt, cerēt, ka tas apgūs ierobežojumu, pievienot drošības filtrus. Uz ierobežojumiem balstītā pieeja: prasību matemātiski kodēt kā stingru ierobežojumu. Sistēmas risinājumu telpa nepārprotami izslēdz kontrindicētas kombinācijas, nevis 99,99% drošība, bet matemātiski neiespējama pārkāpšana.
Automobiļu drošības prasības: ISO 26262 funkcionālās drošības standarts automobiļu sistēmām prasa pierādīt apdraudējumu mazināšanu. Atšķirība starp "testēšanā atklāti 99,8% gājēju" un "var pierādīt visu gājēju atklāšanu, kas atbilst redzamības kritērijam X noteiktā latentumā Y" ir būtiski atšķirīgs nodrošinājuma līmenis. Pirmais ir empīriski pierādījumi; otrais ir matemātisks pierādījums. ASIL-D sertifikācija (augstākais automobiļu drošības integritātes līmenis) pieprasa pierādījumu līmeņa garantijas, ko statistiskā testēšana vien nevar nodrošināt.
Rūpnieciskās automatizācijas standarti: IEC 61508 pieprasa drošības integritātes līmeni (SIL) 3 vai 4 kritiskām rūpnieciskām sistēmām. SIL 4 pieprasa pierādīt <10⁻⁸ bīstamas atteices varbūtību stundā. Tradicionālā mašīnmācīšanās raksturīgā stohastiskums neļauj sniegt formālas garantijas šajā līmenī. Sistēmām, kurām nepieciešama SIL 4 sertifikācija, ir vajadzīgi matemātiski pierādījumi atteices robežām, verifikācijas paņēmieni, kas attiecas uz deterministiskām uz ierobežojumiem balstītām sistēmām, bet ne uz varbūtības neironu tīkliem.
Drošības verifikācijas komerciālā ietekme
Matemātiskā drošības verifikācija rada komerciālu dinamiku, kas pārsniedz normatīvo atbilstību.
Iepirkumi un piekļuve tirgum: Eiropas publiskā sektora iepirkumos arvien biežāk tiek prasīta pierādāma AI drošības sertifikācija augsta riska lietojumiem. Sistēmas, kas nevar sniegt formālas drošības garantijas, tiek izslēgtas no konkursiem neatkarīgi no empīriskās veiktspējas. Piekļuvi tirgum nosaka spēja sniegt matemātiskus pierādījumus, nevis tikai iespaidīgi testu rezultāti.
Apdrošināšanas un atbildības apsvērumi: Aktuāra novērtējums par AI sistēmu riskiem izrādās sarežģīts, ja uzvedību nevar formāli pierādīt. Apdrošināšanas segums kritiskām lietojumprogrammām, medicīniskajai diagnostikai, autonomiem transportlīdzekļiem, rūpnieciskajai automatizācijai arvien biežāk prasa, lai sistēmas demonstrētu formālas drošības īpašības. Tas rada plaisu: sistēmas ar matemātiskām garantijām kļūst apdrošināmas; tīri statistiskas sistēmas saskaras ar seguma grūtībām vai pārmērīgām prēmijām.
Sertifikācijas termiņi: Parādās pretēji intuīcijai modelis: sistēmas ar formālu verifikāciju var panākt ātrāku normatīvo apstiprinājumu nekā tās, kas paļaujas uz plašu empīrisko testēšanu. Formāls pierādījums nodrošina deterministiskus sertifikācijas ceļus: pierādiet ierobežojumu izpildi, saņemiet apstiprinājumu. Empīriskās pieejas saskaras ar atkārtotiem testēšanas cikliem un normatīviem jautājumiem par robežgadījumiem, uz kuriem statistiskā validācija nevar sniegt galīgu atbildi. Matemātiskā noteiktība var paātrināt, nevis aizkavēt ieviešanu.
Klientu uzticības dinamika: Eiropas uzņēmumu klienti arvien vairāk pieprasa izskaidrojamu AI, īpaši B2B kontekstā. "Kāpēc sistēma pieņēma šo lēmumu?" attīstās no patīkamas papildvērtības par izšķirošu faktoru. Sistēmas ar uz ierobežojumiem balstītu spriešanu var sniegt loģiskus skaidrojumus; melnās kastes neironu tīkli to nevar. Uzticība korelē ar saprotamību, un matemātika ļauj saprast tā, kā apgūti statistiskie modeļi to nespēj.
Tehniskā ieviešana: kā ierobežojumi garantē drošību
Mehānika uz ierobežojumiem balstītas drošības ir pelnījusi skaidrojumu. Kā tieši matemātika novērš mākslīgā intelekta kļūmes?
Ierobežojumu kodēšana: Drošības prasības pirms apmācības tiek pārvērstas matemātiskos ierobežojumos. Nevis "modelim būtu jāizvairās no X", tā ir vēlmju domāšana. "Izvades telpa izslēdz X", tā ir matemātika. Medicīniskās diagnostikas piemērs: ārstēšana T ir kontrindicēta kopā ar medikamentu M, tas kļūst par ierobežojumu C: ¬(ieteikt(T) ∧ pacients_lieto(M)). Sistēma burtiski nevar izvadīt risinājumus, kas pārkāpj C. Risinājumu telpa ir noteikta ar ierobežojumiem. Katrai iespējamai izvadei jāatbilst visiem ierobežojumiem. Neiespējamās izvades nav maz ticamas; tās ir matemātiski izslēgtas.
Verifikācijas process: Pēc apmācības formālās verifikācijas rīki pierāda ierobežojumu ievērošanu. Modeļu pārbaude, teorēmu pierādīšana, izpildāmības risināšana, formālo metožu paņēmieni. Binārajiem tīkliem: aprēķināms. Peldošā komata tīkliem: neaprēķināms. Verifikācija sniedz matemātisku pierādījumu: "Visām derīgām ieejām I visas izvades O atbilst ierobežojumiem C." Nevis statistisks apgalvojums. Universāla kvantifikācija pār ieejas telpu. Eiropas regulatoru iestādes saprot atšķirību. Viens ir pierādījums. Otrs ir apliecinājums.
Darbības garantijas: Ierobežojumi ne tikai ierobežo apmācību; tie ierobežo katru secinājumu. Katrs lēmums iet caur ierobežojumu pārbaudītāju. Izvade tiek piedāvāta, ierobežojumi tiek pārbaudīti, tikai atbilstošas izvades tiek atļautas. Vai tas palēnina darbību? Minimāli: binārās operācijas ir ātras. Vai tas uzlabo drošību? Absolūti: matemātiska ierobežojumu pārkāpuma neiespējamība. Ieguvumu un izmaksu analīze ir acīmredzama: mikrosekundes pārbaudei pret katastrofālām kļūmēm no neierobežotām izvadēm.
Kompozicionālā drošība: Vairāki ierobežojumi kompozicionāli apvienojas. Drošības ierobežojums S1 plus taisnīguma ierobežojums F1 plus veiktspējas ierobežojums P1: sistēmai vienlaikus jāatbilst S1 ∧ F1 ∧ P1. Tradicionālās pieejas: apmācīt drošībai, pārāpmācīt taisnīgumam, cerēt, ka veiktspēja nepasliktināsies. Uz ierobežojumiem balstīta pieeja: norādīt visas prasības jau sākumā, atrast risinājumu, kas atbilst konjunkcijai. Tas ne vienmēr pastāv: dažkārt ierobežojumi konfliktē. Bet neiespējamības atklāšana projektēšanas laikā ir labāka nekā tās atklāšana ieviešanas laikā. Matemātika piespiež būt godīgiem par kompromisiem.
Kļūmju gadījumu analīze: Kad uz ierobežojumiem balstītas sistēmas neizdodas, kļūmes veids būtiski atšķiras. Tradicionālie neironu tīkli: klusas kļūmes, ticamas, bet nepareizas izvades, bez nenoteiktības norādes. Uz ierobežojumiem balstītas sistēmas: skaidra ierobežojumu pārkāpuma noteikšana. Sistēma atpazīst, ka tā nevar izpildīt visus ierobežojumus, atsakās sniegt izvadi un ziņo, kurš ierobežojums tika pārkāpts. Aizsardzības kļūme: sistēma zina, ka tā nezina. Medicīniskās diagnostikas piemērs: tradicionālā sistēma varētu sniegt diagnozi, neskatoties uz nepietiekamu informāciju. Uz ierobežojumiem balstīta sistēma nosaka informācijas ierobežojuma pārkāpumu un tā vietā sniedz izvadi "nepietiekami dati diagnozei". Ne vienmēr ērti. Vienmēr droši. Eiropas medicīnas ierīču regulatoru iestādes dod priekšroku neērtai drošībai, nevis ērtai katastrofai. Amerikāņi šo mācību apgūst dārgi.
Pāri bailēm, uz pārliecību
Mākslīgā intelekta drošības diskusijā dominē bailes. Bailes no nekontrolējamām sistēmām. Bailes no novirzes. Bailes no neparedzētām sekām.
Šīs bailes ir pamatotas. Taču tās ir matemātiskas nenoteiktības simptomi. Ja jūsu mākslīgais intelekts ir būvēts uz nestabiliem pamatiem, protams, jūs uztraucaties par to, ko tas varētu darīt.
Binārās neironu tīkli piedāvā ko citu: matemātisku noteiktību. Ne noteiktību par katru iznākumu, bet noteiktību par sistēmas matemātiskajām īpašībām. Noteiktību, ka ierobežojumi tiks ievēroti. Noteiktību, ka uzvedība ir atkārtojama.
Tas pārceļ sarunu no "kā mēs kontrolējam šo neparedzamo sistēmu" uz "kā mēs definējam pareizu uzvedību". No bailēm uz inženieriju.
Eiropas institūcijas jau veic šo pāreju. Maksa Planka Inteliģento sistēmu institūts koncentrējas uz formālās verifikācijas pētījumiem. Francijas INRIA izvieto uz ierobežojumiem balstītu mākslīgo intelektu valdības sistēmās. Vācijas Fraunhofera institūti izstrādā sertificējamu mākslīgo intelektu rūpnieciskiem lietojumiem. Ne tāpēc, ka regulējums to pieprasa, bet tāpēc, ka matemātika to ļauj. Kad jūs varat pierādīt drošību, jums nav par to jādebatē. Kad jūs varat garantēt uzvedību, jums nav par to jācer. Bailes mazinās, kad pamati ir stabili.
Īstais ceļš uz drošu mākslīgo intelektu
Mākslīgā intelekta drošība nav par apziņu, jūtām vai vērtību saskaņošanu abstraktā filozofiskā nozīmē. Tā ir par sistēmu veidošanu, kas dara to, kam tās paredzētas, uzticami, katru reizi.
Ētikai ir nozīme. Taču ētika bez matemātiskiem pamatiem ir tikai vēlmju domāšana. Jūs nevarat ar regulējumu panākt drošu mākslīgo intelektu, ja pamatā esošā matemātika ir kļūdaina.
Ceļš uz priekšu ir skaidrs: veidot mākslīgo intelektu uz matemātiski pamatotiem pamatiem. Izmantot arhitektūras, kas atbalsta formālo verifikāciju. Iekļaut ierobežojumus tieši dizainā. Padarīt drošību par iekšēju, nevis ārēju īpašību.
Binārās neironu tīkli nav pilnīgs risinājums visām mākslīgā intelekta drošības problēmām. Taču tie atrisina fundamentālo problēmu: matemātisko nestabilitāti. Un tas ir priekšnoteikums visam pārējam.
Jūs nevarat saskaņot sistēmu, kas nedarbojas uzticami. Jūs nevarat pieņemt ētiskus lēmumus ar rīkiem, kas rada nekonsekventus rezultātus. Jūs nevarat veidot uzticamu mākslīgo intelektu uz nestabiliem matemātiskiem pamatiem.
Taču jūs varat veidot pierādāmi drošas sistēmas ar stingru matemātiku. Jūs varat radīt mākslīgo intelektu, kas pēc konstrukcijas atbilst ierobežojumiem. Jūs varat izstrādāt tehnoloģiju, kurā drošība ir garantēta, nevis tikai cerēta.
Tieši to nodrošina Dweve platforma. Matemātiska stingrība. Formāla verifikācija. Uz ierobežojumiem balstīta drošība. Nevis caur ētikas sistēmām, bet caur labāku matemātiku.
Mākslīgā intelekta drošības krīze ir reāla. Taču tā ir matemātikas problēma, nevis filozofijas problēma. Un matemātikas problēmām ir matemātikas risinājumi.
Eiropa to saprata jau no paša sākuma. Gadsimtiem ilgas inženiertehniskās katastrofas iemācīja vienkāršu mācību: cerība nav stratēģija, testēšana nav pierādījums, un labi nodomi nenovērš katastrofālas kļūmes. Matemātika to dara. Eiropas mākslīgā intelekta uzņēmumi, kas būvē uz šī pamata, nav apgrūtināti ar regulējumu; tie ir tā iespējoti. Kad drošība ir matemātiski garantēta, izvietošana paātrinās. Kad uzvedība ir formāli verificēta, uzticēšanās seko dabiski. Mākslīgā intelekta nākotne nav filozofiskas debates par apziņu. Tā ir stingra matemātika, kas nodrošina, ka sistēmas darbojas pareizi. Eiropas pieeja nebija aizsardzības pozīcijā. Tā visu laiku bija pareiza.
Vai esat gatavs mākslīgajam intelektam, kuram patiešām var uzticēties? Dweve Core formāli verificējamie binārie neironu tīkli nāk. Drošība caur matemātiku, nevis caur cerību. Pievienojieties mūsu gaidīšanas sarakstam.