AI drošība: ko tā patiesībā nozīmē un kāpēc tā tev ir svarīga

AI drošība: ko tā patiesībā nozīmē un kāpēc tā tev ir svarīga

Īstā drošības problēma

Mākslīgā intelekta drošība. Šis termins raisa priekšstatus par slepkavām robotiem. Skynet. Terminatora scenāriji. Zinātniskās fantastikas bailes.

Tā nav īstā problēma. Ne šodien. Ne vēl daudzus gadus.

Īstās mākslīgā intelekta drošības problēmas ir ikdienišķas. Praktiskas. Notiek tieši tagad. Neobjektīvi pieņemšanas darbā algoritmi. Medicīniskas kļūdas diagnozēs. Autonomi transportlīdzekļi, kas pieņem nepareizus lēmumus sekundes daļā. Tās nav zinātniskā fantastika. Tā ir šodienas realitāte.

Saprast, ko mākslīgā intelekta drošība patiesībā nozīmē, palīdz novērtēt MI sistēmas. Pieprasīt labāku. Lietot tās droši.

Kas mākslīgā intelekta drošība patiesībā ir

Mākslīgā intelekta drošība nozīmē nodrošināt, ka MI sistēmas darbojas, kā paredzēts. Dara to, ko mēs vēlamies. Nedara to, ko mēs nevēlamies. Izklausās vienkārši. Tā nav.

Trīs galvenie izaicinājumi:

• 1. Specifikācija: Definēt, ko mēs patiešām vēlamies. Izrādās, ir grūti precīzi definēt "labu uzvedību". Cilvēku vērtības ir sarežģītas. Atkarīgas no konteksta. Dažkārt pretrunīgas.
• 2. Robustums: AI darbojas pareizi visās situācijās. Ne tikai apmācības scenārijos. Robežgadījumi. Nelabvēlīgas ievaddati. Reālās pasaules nekārtība. AI bieži vien neizdodas tieši tur, kur tam ir vislielākā nozīme.
• 3. Saskaņošana: AI mērķi atbilst cilvēku mērķiem. Nevis sistēmas apiešana. Nevis optimizēšana atbilstoši noteikuma burtam, vienlaikus pārkāpjot tā garu. Patiesa saskaņošana ar cilvēka nodomiem.

Ja kaut viens no šiem aspektiem ir nepareizs, AI nodara kaitējumu. Pat ar labiem nodomiem. Pat ar sarežģītu tehnoloģiju.

Eiropas regulatoriem tas ir labi zināms. ES AI akts klasificē AI sistēmas pēc riska līmeņa: minimāls, ierobežots, augsts un nepieņemams. Augsta riska sistēmām (medicīnas ierīcēm, kritiskajai infrastruktūrai, tiesībaizsardzībai, nodarbinātības lēmumiem) ir noteiktas stingras prasības. Izskaidrojamība nav izvēles jautājums. Robustuma testēšana nav apspriežama. Cilvēka uzraudzība nav patīkama papildu iespēja. Tas ir likums. Amerikas uzņēmumi, kas to atklāj grūtā ceļā, tagad to dēvē par "regulatīvo slogu". Eiropas uzņēmumi to dēvē par "pamata inženiertehnisko atbildību".

Kāpēc pašreizējais AI nav drošs (godīga patiesība)

Mūsdienu AI ir būtiskas drošības problēmas:

Melnās kastes problēma:

Jūs nevarat ieskatīties iekšā. Neironu tīkli ir necaurredzami. Miljardiem svaru. Nav cilvēkam saprotamas loģikas. Modelis darbojas (vai nedarbojas). Jūs nevarat redzēt, kāpēc.

Tas nozīmē: jūs nevarat pārbaudīt drošību. Jūs nevarat revidēt lēmumus. Jūs nevarat novērst konkrētas problēmas bez pārāpmācīšanas. Jūs plaši testējat un cerat, ka tas darbosies ražošanā. Tā nav drošība. Tas ir optimisms.

Iedomājieties Nīderlandes būvinženieri, kas ierosina dambi, kur aprēķini ir "ticiet man, neironu tīkls saka, ka tas izturēs". Vai Vācijas automobiļu inženieri, kas sertificē bremzes ar "mēs to apmācījām uz miljoniem piemēru". TÜV viņus izsmietu no ēkas. Tomēr tieši tā mēs izvietojam AI līdzīgi kritiskiem lēmumiem: medicīnas diagnozēm, autonomai braukšanai, finanšu riska novērtējumam. Uz ticību balstītā inženierijas pieeja, ko eiropieši pameta pirms gadsimtiem, ir atgriezusies, pārdēvēta par "mašīnmācīšanos".

Atkarība no apmācības datiem:

AI mācās no piemēriem. Ja piemēri ir neobjektīvi, AI ir neobjektīvs. Ja piemēri ir nepilnīgi, AI ir aklo zonu. Ja piemēri ir nepareizi, AI ir nepareizs.

Atkritumi iekšā, atkritumi ārā. Bet drošībai kritiskām sistēmām "atkritumi" nozīmē kaitējumu. Neobjektīvi kredītu lēmumi. Negodīgi darba atteikumi. Nepareizas medicīniskās diagnozes.

Trauslums:

Mākslīgais intelekts izceļas ar pazīstamām ievadēm. Uz nepazīstamām tas cieš neveiksmi. Nelielas izmaiņas ievadē rada milzīgas izmaiņas izvadē. Tā ir adversariālā neaizsargātība.

Pievieno attēlam nemanāmu troksni. Modelis to pilnībā nepareizi klasificē. Tas nav tikai teorija. Tas ir pārbaudīts. Pierādīts. Atkārtojams. Pašreizējais mākslīgais intelekts ir trausls.

Nav veselā saprāta:

Mākslīgajam intelektam nav izpratnes. Nav pasaules modeļa. Nav veselā saprāta. Tas atpazīst modeļus. Dažkārt izcili. Dažkārt katastrofāli nepareizi.

Pajautā tam neiespējamas lietas, tas tik un tā mēģina. Pajautā tam kaitīgas lietas, tas var tām piekrist. Tas nesaprot. Tas tikai apstrādā ievades.

Tas noved pie iespaidīgām neveiksmēm, kas būtu smieklīgas, ja tās nebūtu ieviestas kritiskās sistēmās. Medicīniskais mākslīgais intelekts pārliecinoši diagnosticē pacientiem slimības, kas neeksistē, jo simptomu modelis atbilda apmācības datiem. Autonomie transportlīdzekļi apstājas pie pastkastītēm, kas nokrāsotas kā stopzīmes, tehniski pareiza modeļu atpazīšana, katastrofāli nepareiza izpratne. Juridiskais mākslīgais intelekts atsaucas uz pilnībā izdomātu tiesu praksi, jo citēšanas formāts atbilda tam, ko tas bija apguvis. Pajautā trīsgadīgam bērnam, vai var elpot zem ūdens, viņš teiks nē. Pajautā pašreizējam mākslīgajam intelektam, tas var ģenerēt pārliecinošu eseju par elpošanas paņēmieniem zem ūdens, bez izpratnes, ka tas fiziski nav iespējams, tikai modeļu atpazīšana no zinātniskās fantastikas, ar kuru tas tika apmācīts.

Reālas drošības neveiksmes

Tie nav hipotētiski gadījumi. Tie ir notikuši:

• Autonomo transportlīdzekļu avārijas: Mākslīgais intelekts noteiktos apstākļos nespēja atpazīt gājējus. Apgaismojums. Apģērbs. Konteksts. Cilvēki gāja bojā. Mākslīgais intelekts tika optimizēts vidējiem gadījumiem, bet cieta neveiksmi malējos gadījumos.
• Sejas atpazīšanas neobjektivitāte: Augstāks kļūdu līmenis sievietēm un minoritātēm. Kāpēc? Apmācības dati pārsvarā bija baltie vīrieši. Neobjektivitāte datos kļuva par neobjektivitāti lēmumos. Reālas diskriminācijas automatizācija.
• Medicīniskā mākslīgā intelekta kļūdas: Mākslīgais intelekts iesaka nepareizas ārstēšanas metodes. Nepamana diagnozes. Kāpēc? Apmācīts ar datiem no konkrētām slimnīcām. Nespēja vispārināt uz citām populācijām vai apstākļiem. Optimizācija rādītājiem, nevis pacientu rezultātiem.
• Satura moderācijas neveiksmes: Mākslīgais intelekts noņem likumīgu saturu. Nepamana kaitīgu saturu. Kontekstam ir nozīme. Niansēm ir nozīme. Mākslīgais intelekts cīnās ar abiem. Cenzūra un ļaunprātīga izmantošana, automatizēta.

Katrā gadījumā mākslīgais intelekts darīja to, kam tas tika apmācīts. Apmācība bija nepietiekama. Izturība bija vāja. Specifikācija bija nepareiza. Drošības neveiksmes.

Eiropas piemēri ir tuvāk mājām. Nīderlandes nodokļu iestāde izmantoja mākslīgo intelektu, lai atklātu bērnu kopšanas pabalstu krāpšanu: algoritms atzīmēja tūkstošiem nevainīgu ģimeņu, daudzas no imigrantu vidus, dažām radot finansiālu postu. Netika sniegts nekāds skaidrojums. Nebija pieejama nekāda tiesiskā aizsardzība. Nīderlandes valdība galu galā izmaksāja 30 000 eiro kompensāciju par ģimeni, un visa valdība atkāpās no amata. Francijā mākslīgā intelekta sistēma, ko izmantoja universitāšu uzņemšanai, tika atzīta par diskriminējošu, pamatojoties uz uzvārdiem, nepārprotami kodētām vēlmēm, kas sakrita ar etnisko izcelsmi. Abos gadījumos: mākslīgais intelekts strādāja tieši tā, kā bija izstrādāts. Problēma bija izstrādē.

Kas padara AI patiesi drošu

Drošībai nepieciešami vairāki slāņi. Nav viena risinājuma:

Izskaidrojamība:

Jums vajadzētu spēt redzēt, kāpēc AI pieņēma lēmumu. Ne tikai "neironu tīkls aktivizējās." Patiesi iemesli. Izsekojama loģika. Pārbaudāmi soļi.

Uz ierobežojumiem balstītas sistēmas šeit palīdz. Katrs lēmums seko skaidriem ierobežojumiem. Varat izsekot pamatojumam. Pārbaudīt pareizību. Revidēt lēmumus.

Izturības testēšana:

Testējiet ārpus apmācības datiem. Pretinieka piemēri. Robežgadījumi. Stresa testi. Ja kaut kas sabojājas, salabojiet to pirms ieviešanas. Ne pēc kaitējuma nodarīšanas.

Formāla verifikācija, kur iespējams. Matemātiski pierādījumi par uzvedību. Pašlaik ierobežots apjoms, bet tas aug.

Eiropas sertifikācijas iestādes pieprasa šo rūpīgumu. TÜV nesertificēs autonomās sistēmas bez plašas izturības testēšanas visos iedomājamos scenārijos. Francijas CNIL pieprasa datu aizsardzības ietekmes novērtējumus pirms AI ieviešanas. Itālijas Garante pieprasa algoritmu revīzijas automatizētiem lēmumiem. Tā nav birokrātija; tā ir gūtā pieredze. Eiropa ir redzējusi pietiekami daudz tiltu sabrukumu, ēku bojājumu un rūpniecisko avāriju, lai saprastu, ka "lielākoties darbojas" nav pietiekami drošībai kritiskām sistēmām. Tie paši standarti tagad attiecas uz AI.

Cilvēka uzraudzība:

AI ierosina. Cilvēki izlemj. Īpaši augstu likmju lēmumos. Medicīniskā diagnoze, aizdevuma apstiprināšana, tiesas spriedumi. Cilvēka iesaiste ķēdē ir obligāta.

Nevis "AI izlemj, un cilvēks automātiski apstiprina." Cilvēks patiešām izskata. Ir rīki, lai saprastu. Var atcelt.

Eiropas finanšu regulatoriem tas bija jāmācās grūtā ceļā 2008. gada krīzes laikā: automatizētas tirdzniecības sistēmas ar nepietiekamu cilvēka uzraudzību izraisīja pēkšņus tirgus sabrukumus. Tagad ES finanšu noteikumi pieprasa jēgpilnu cilvēka uzraudzību automatizētiem lēmumiem. "Jēgpilna" nozīmē, ka cilvēkam ir pietiekama informācija, pietiekami daudz laika un pietiekama pilnvaras, lai patiešām iejauktos. Cilvēks, kurš ik pēc trim sekundēm noklikšķina "apstiprināt" uz AI aizdevumu lēmumiem, nav uzraudzība; tā ir izrāde. Eiropas regulatori to pārbauda: viņi revidē lēmumu pieņemšanas laiku, atcelšanas rādītājus un to, vai cilvēkiem ir reāli rīki, lai saprastu AI pamatojumu. Uzraudzība, kas nevar novērst problēmas, nav uzraudzība.

Pakāpeniska ieviešana:

Neieviesiet visur uzreiz. Sāciet maz. Uzraugiet cieši. Paplašiniet pakāpeniski. Noķeriet problēmas agri, kamēr likmes ir zemas.

A/B testēšana. Canary izvietošana. Pakāpeniska izlaišana. Programmatūras inženierijas prakses, kas piemērotas AI drošībai.

Nepārtraukta uzraudzība:

AI ražošanā prasa pastāvīgu uzraudzību. Veiktspējas rādītāji. Kļūdu rādītāji. Neobjektivitātes pārbaudes. Noviržu noteikšana.

Reāllaika informācijas paneļi. Automātiskie brīdinājumi. Ātra reaģēšana uz problēmām. Drošība nav vienreizēja. Tā ir nepārtraukta.

Bināro ierobežojumu sistēmas un drošība

Dažādām mākslīgā intelekta arhitektūrām ir dažādas drošības īpašības:

• Neironu tīkli (peldošā komata): Necaurredzami. Grūti pārbaudāmi. Trausluma problēmas. Neaizsargātība pret ļaunprātīgu ievadi. Drošība, kas balstās uz plašu testēšanu un cerībām.
• Uz ierobežojumiem balstītas sistēmas (piemēram, Dweve Loom): Caurredzamas. Skaidri ierobežojumi. Izsekojama spriešana. Katrs lēmums atbilst loģiskiem noteikumiem. Pēc konstrukcijas auditejamas.

Neatrisina visas drošības problēmas. Taču izskaidrojamība ļoti palīdz. Var redzēt, kāpēc lēmumi pieņemti. Pārliecināties, ka ierobežojumi ir pareizi. Novērst konkrētas problēmas bez pilnīgas pārtrenēšanas.

Binārās darbības nodrošina determinismu. Vieni un tie paši ievaddati, vieni un tie paši rezultāti. Atkārtojami. Testējami. Pārbaudāmi.

Ko jūs varat darīt (praktiski soļi)

Ja esat cilvēks, kas izmanto MI vai kuru MI ietekmē:

• 1. Pieprasiet izskaidrojamību: Jautājiet, kāpēc MI pieņēmis lēmumu. Ja viņi to nevar izskaidrot, tā ir brīdinājuma zīme.
• 2. Pārbaudiet neobjektivitātes testēšanu: Vai MI ir testēts uz dažādām iedzīvotāju grupām? Kāda ir kļūdu īpatsvars dažādām grupām?
• 3. Meklējiet cilvēka uzraudzību: Vai cilvēki izskata lēmumus? Vai viņiem ir reāla vara tos atcelt?
• 4. Izprotiet ierobežojumus: Kādos scenārijos MI zināms, ka tas cieš neveiksmi? Vai tie ir dokumentēti? Komunicēti?
• 5. Pārliecinieties par pakāpenisku ieviešanu: Vai sistēma ieviesta uzmanīgi? Vai arī tā uzreiz nodota ražošanā visur vienlaikus?
• 6. Uzraugiet problēmas: Vai notiek nepārtraukta uzraudzība? Cik ātri viņi reaģē uz problēmām?
• 7. Normatīvā atbilstība: Vai sistēma atbilst normatīvajiem standartiem (ES MI akts u. c.)? Vai pastāv atbildība?

Jums ir vara. Izmantojiet to. Pieprasiet drošu MI. Neapmierinieties ar atbildi "ticiet mums, tas ir MI".

Nedroša MI ekonomiskās izmaksas

Drošības nepilnības nav tikai ētiska problēma; tās ir finansiāla katastrofa. Eiropas uzņēmumi to dārgi iemācījās.

Tiešās izmaksas:

Nīderlandes bērnu pabalstu skandāls nodokļu maksātājiem izmaksāja vairāk nekā 1 miljardu eiro kompensācijās. Air France saņēma 800 000 eiro sodu, kad viņu sejas atpazīšanas iekāpšanas sistēma diskriminēja pasažierus. Vācijas veselības apdrošinātāji samaksāja miljoniem eiro sodu, kad MI balstīti lēmumi par apdrošināšanas atlīdzībām pārkāpa medicīniskās privātuma regulas.

Šie nav robežgadījumi. Tas notiek, ja izvietojat mākslīgo intelektu bez drošības pārbaudes.

Iespēju izmaksas:

Britu bankas pēc neobjektivitātes skandāliem atteicās no MI kredītu sistēmām: gadiem ilga izstrāde, miljoniem ieguldīti, pamesti, jo drošība netika prioritizēta jau no paša sākuma. Spānijas slimnīcas pārtrauca diagnostikas MI izmantošanu, kad revidenti nevarēja pārbaudīt lēmumu pieņemšanas procesus. Zviedrijas valsts iestādes atcēla automatizācijas plānus, jo nevarēja pierādīt atbilstību GDPR.

Būvēt divreiz (vienreiz nepareizi, vienreiz pareizi) izmaksā vairāk nekā sākotnēji būvēt pareizi. Eiropas iepirkumu speciālisti to saprot. Amerikāņu riska kapitāla investori to apgūst.

Regulatīvie sodi:

ES MI akta pārkāpumi paredz naudas sodus līdz 35 miljoniem eiro vai 7% no globālā gada apgrozījuma, atkarībā no tā, kurš rādītājs ir lielāks. GDPR jau pierādīja Eiropas gatavību ieviest noteikumus: tikai 2023. gadā tika piemēroti sodi 1,6 miljardu eiro apmērā. Uzņēmumi, kas MI drošību uzskata par izvēles jautājumu, atklāj, ka tā ir obligāta.

Matemātika ir vienkārša: ieguldījums drošībā sākotnēji izmaksā mazāk nekā kļūdu novēršana vēlāk. Eiropas uzņēmumi to iemācījās ar rūgtu pieredzi. Tagad viņi to pieprasa jau no paša sākuma.

Kultūras pieejas MI drošībai

Eiropas un Amerikas pieejas MI drošībai būtiski atšķiras ne tikai regulējuma, bet arī inženierijas filozofijas ziņā.

Silīcija ielejas pieeja:

Rīkojies ātri, lauz lietas, pilnveido. Vispirms izvieto, problēmas risini vēlāk. Drošība ir funkcija, ko pievieno pēc produkta un tirgus saskaņošanas. Pieļaujamais kļūdu līmenis ir tas, ko lietotāji pacieš. Inovācijas ātrums pārspēj rūpīgu validāciju. Lūdz piedošanu, nevis atļauju.

Tas darbojas tīmekļa lietojumprogrammās. Noklikšķini uz nepareizas pogas, pārlādē lapu. Bet medicīniskā diagnoze? Autonomi transportlīdzekļi? Finanšu lēmumi, kas ietekmē dzīves? Lietu laušana nozīmē kaitējumu cilvēkiem.

Eiropas inženierijas pieeja:

Mēri divreiz, griez vienreiz. Validē pirms izvietošanas. Drošība ir arhitektoniska, nevis izvēles iespēja. Pieļaujamo kļūdu līmeni nosaka risks, nevis lietotāju pacietība. Rūpīga validācija nodrošina ilgtspējīgu inovāciju. Atļauja nav birokrātija; tā ir atbildība.

Tas izriet no gadsimtiem ilgas fiziskās inženierijas. Tilti, kas sabrūk. Ēkas, kas bojājas. Medicīniskās procedūras, kas kaitē. Eiropas inženierijas kultūra šīs mācības apguva traģiskas pieredzes ceļā. Tie paši principi tagad attiecas uz digitālajām sistēmām.

Ironija:

Amerikas uzņēmumi bieži pārbūvē MI sistēmas, lai tās atbilstu Eiropas standartiem, un pēc tam atklāj, ka drošākā versija globāli darbojas labāk. Izskaidrojamais MI nav tikai regulatīva prasība; tas palīdz ātrāk identificēt un novērst problēmas. Stabila testēšana atklāj kļūdas, pirms tās pamana lietotāji. Cilvēka uzraudzība novērš kaskādes kļūmes.

Drošība nav inovācijas pretstats. Tā ir tas, kas nodrošina ilgtspējīgu inovāciju. Eiropieši šo ideju neizgudroja; viņi to vienkārši atcerējās, kad Silīcija ieleja to aizmirsa.

Praktiski ceļi uz drošākām MI sistēmām

Pāreja no nedroša uz drošu MI prasa konkrētas tehniskas izmaiņas, ne tikai politiku:

Arhitektūras izvēle pēc riska:

Pārtrauciet izmantot vienu un to pašu arhitektūru visam. Augsta riska lēmumiem ir vajadzīgas pārbaudāmas sistēmas. Medicīniskā diagnoze, finanšu lēmumi, autonomi transportlīdzekļi: tiem nepieciešams izskaidrojams, auditejams MI. Uz ierobežojumiem balstītas sistēmas, simboliskā spriešana, hibrīdas pieejas, kas apvieno neironu tīklus ar loģiskiem noteikumiem.

Zema riska lietojumprogrammas (satura ieteikumi, attēlu filtri, spēļu MI) var paciest melnās kastes. Bet Eiropas Medicīnisko ierīču regula skaidri nosaka, ka programmatūrai, kas pieņem diagnostikas lēmumus, jābūt izskaidrojamai. Izvēlieties arhitektūru, pamatojoties uz kļūmes sekām.

Pretrunīga sarkanās komandas pārbaude:

Pirms ieviešanas nolīgstiet cilvēkus, kas lauž jūsu mākslīgo intelektu. Ne drošības pētniekus, bet īstus nozares ekspertus, kuri saprot, kā sistēma tiks izmantota un ļaunprātīgi izmantota. Eiropas bankas tagad pieprasa pretrunīgu mākslīgā intelekta kredītu sistēmu testēšanu pirms regulatīvās apstiprināšanas. Vācijas automobiļu uzņēmumi nodarbina pretrunīgos testētājus, kuri mēnešiem ilgi meklē robežgadījumus, kuros autonomās sistēmas cieš neveiksmi.

Tas nav dārgi salīdzinājumā ar pēc ieviešanas radušos kļūmēm. Viens mēnesis sarkanās komandas pārbaudes izmaksā mazāk nekā viena diena regulatīvo sodu vai viena tiesas prāva par mākslīgā intelekta radīto kaitējumu.

Pakāpeniska spēju ieviešana:

Sāciet ar mākslīgā intelekta palīdzību, nevis autonomiju. Iesakiet, nevis izlemiet. Parādiet pamatojumu, pieprasiet cilvēka apstiprinājumu. Pakāpeniski palieliniet autonomiju tikai pēc tam, kad katrā līmenī ir pierādīta drošība.

Dānijas slimnīcās diagnostikas mākslīgo intelektu ievieš tieši šādi: vispirms kā otrā viedokļa rīku, pēc tam kā primāro skrīninga rīku tikai zema riska gadījumos, visbeidzot kā autonomu diagnostikas rīku konkrētiem validētiem stāvokļiem. Katrs solis tiek pierādīts kā drošs pirms darbības jomas paplašināšanas. Salīdziniet ar sistēmām, kas tiek ieviestas ar pilnu autonomiju uzreiz: neveiksmes ir paredzamas.

Obligātie drošības auditi:

Ārējie auditi, nevis iekšējā testēšana. Eiropas regulatori arvien biežāk pieprasa trešo pušu mākslīgā intelekta auditus augsta riska sistēmām. Austrijas datu aizsardzības iestāde pieprasa algoritmiskās ietekmes novērtējumus pirms ieviešanas. Francijas sertifikācijas iestādes auditē mākslīgā intelekta lēmumu pieņemšanu sabiedriskajos pakalpojumos.

Neatkarīgi auditori atrod problēmas, kuras iekšējās komandas palaiž garām, nevis nekompetences dēļ, bet gan svaiga skatījuma un bez organizatoriskā spiediena pasludināt lietas par drošām.

Izbeigšanas klauzulas mākslīgā intelekta sistēmām:

Mākslīgā intelekta sistēmām nevajadzētu darboties bezgalīgi bez atkārtotas validācijas. Dati mainās. Populācijas mainās. Parādās robežgadījumi. Eiropas iepirkuma līgumos arvien biežāk tiek iekļauti obligāti atkārtotas validācijas periodi: ik pēc 12-24 mēnešiem jāpierāda, ka sistēma joprojām darbojas pareizi, vai arī tā tiek izslēgta.

Tas novērš "ieviests un aizmirsts" problēmu, kad mākslīgā intelekta sistēmas, kas optimizētas 2020. gada datiem, joprojām pieņem lēmumus 2025. gadā ar paredzami sliktiem rezultātiem.

Mākslīgā intelekta drošības nākotne

Drošības pētniecība ir aktīva. Attīstās. Vairāki virzieni:

• Konstitucionālais mākslīgais intelekts: Mākslīgā intelekta apmācība ar skaidriem noteikumiem. Konstitucionāli uzvedības ierobežojumi. Ne tikai mācīšanās no piemēriem.
• Mehānistiskā interpretējamība: Neironu tīklu izpratne dziļākā līmenī. Ne tikai ievades/izvades. Iekšējie mehānismi. Vēl agrīnā stadijā, bet daudzsološi.
• Formālā verifikācija: Matemātiskie pierādījumi mākslīgā intelekta uzvedībai. Pašlaik ierobežota darbības joma. Pakāpeniski paplašinās. Zelta standarts drošības garantijām.
• Pretrunīgā apmācība: Apmācība ar pretrunīgiem piemēriem. Modeļu padarīšana izturīgus pret manipulācijām. Notiekoša bruņošanās sacensība, bet progress ir reāls.
• Mākslīgā intelekta drošības standarti: IEEE, ISO, valdību iestādes. Standartu izstrāde mākslīgā intelekta drošībai. Atbilstība kļūst obligāta.
• Eiropas mākslīgā intelekta drošības pētniecība: Eiropas institūcijas ir līderes drošību prioritizējošā mākslīgajā intelektā. CLAIRE (Confederation of Laboratories for Artificial Intelligence Research in Europe) nepārprotami prioritizē uzticamu mākslīgo intelektu pār veiktspējas etaloniem. Vācijas pētniecības institūti koncentrējas uz sertificējamu mākslīgo intelektu: sistēmām, kurās drošību var pierādīt, nevis tikai testēt. Francijas INRIA izstrādā formāli verificētu mašīnmācīšanos. Nīderlandes universitātēs pēta pret neobjektivitāti vērstus algoritmus pēc dizaina. Citas prioritātes nekā Silīcija ielejas "kusties ātri un lauz lietas". Eiropas pieeja: kusties uzmanīgi un pierādi, ka tas darbojas.

Drošība uzlabojas. Bet ieviešana bieži apsteidz drošību. Šī plaisa ir satraucoša.

Eiropas regulatīvā pieeja, kas prasa drošību pirms ieviešanas, nevis atvainošanos pēc kaitējuma nodarīšanas, atspoguļo fundamentāli atšķirīgu filozofiju. Amerikas tehnoloģiju uzņēmumi ES Mākslīgā intelekta aktu uztvēra kā šķērsli inovācijai. Eiropas inženieri to uztvēra kā tāda standarta prakses kodificēšanu, kam vajadzēja būt jau sen. Atšķirība starp inženieriju un uzņēmējdarbību: inženieri nebrauks pāri tiltam, kas paredzēts 10 tonnām, ar 11 tonnu kravas automašīnu, lai cik pārliecināti viņi justos.

Kas jums jāatceras

• 1. MI drošība attiecas uz reālām, aktuālām problēmām. Ne zinātniskā fantastika. Neobjektivitāte, kļūdas, trauslums. Notiek tagad.
• 2. Pašreizējais MI nav pēc būtības drošs. Melnās kastes. Atkarīgs no datiem. Trausls. Bez veselā saprāta. Drošība prasa aktīvu inženieriju.
• 3. Drošībai nepieciešami vairāki līmeņi. Izskaidrojamība, testēšana, uzraudzība, novērošana. Nav viena risinājuma. Aizsardzība dziļumā.
• 4. Arhitektūrai ir nozīme drošībā. Pārredzamas sistēmas ļauj veikt verifikāciju. Bināri ierobežojumi nodrošina determinismu. Izvēlieties arhitektūru atbilstoši lietošanas gadījumam.
• 5. Jūs varat pieprasīt drošāku MI. Uzdodiet jautājumus. Pieprasiet skaidrojumus. Pārbaudiet uzraudzību. Izmantojiet savu varu kā lietotājs/klients.
• 6. Drošība ir nepārtraukta, nevis vienreizēja. Pastāvīga uzraudzība. Ātras reakcijas. Adaptīvi uzlabojumi. Nekad "pabeigts."
• 7. Progress notiek. Aktīvi pētījumi. Topošie standarti. Bet ieviešana bieži apsteidz drošību. Esiet informēti.

Būtība

MI drošība nav par robotu valdnieku novēršanu. Tā ir par to, lai mūsdienu MI sistēmas darbotos pareizi, godīgi un pārredzami. Kaitējuma novēršana, nevis zinātniskā fantastika.

Pašreizējam MI ir reālas drošības problēmas. Necaurredzamība. Neobjektivitāte. Trauslums. Tās rada reālu kaitējumu. Reāliem cilvēkiem. Tieši tagad.

Drošāks MI ir iespējams. Ar labāku testēšanu. Izskaidrojamām arhitektūrām. Cilvēku uzraudzību. Pastāvīgu novērošanu. Tā ir inženierija, nevis maģija.

Dažādām pieejām ir dažādas drošības īpašības. Uz ierobežojumiem balstītas sistēmas piedāvā pārredzamību. Neironu tīkli piedāvā iespējas. Izvēlieties, pamatojoties uz drošības prasībām, nevis tikai veiktspēju.

Jums ir vara. Pieprasiet drošību. Prasiet izskaidrojamību. Uzstājiet uz uzraudzību. Nepieņemiet necaurredzamas sistēmas lēmumiem ar augstu nozīmi. Drošība caur atbildību.

Mākslīgā intelekta nākotne ir atkarīga no drošības problēmas risināšanas. Ne no veiktspējas. Veiktspēja jau tagad ir iespaidīga. Drošība atpaliek. Aizveriet šo plaisu, un mākslīgais intelekts kļūst patiesi vērtīgs. Atstājiet šo plaisu, un mākslīgais intelekts joprojām ir risks.

Eiropas regulatoru mērķis, izstrādājot šīs drošības prasības, nebija aizsargāt Eiropas uzņēmumus; tie tika izveidoti, lai aizsargātu Eiropas iedzīvotājus. Taču radās interesants blakusefekts: uzņēmumi, kas veido mākslīgo intelektu atbilstoši Eiropas drošības standartiem, atklāja, ka viņu sistēmas darbojas labāk visur. Skaidrojami lēmumi, kurus lietotāji var saprast un kuriem uzticēties. Stabilas sistēmas, kas tiek galā ar robežgadījumiem. Pārbaudāma argumentācija, kas kļūdas atklāj pirms ieviešanas. Izrādās, ka drošība un kvalitāte ir cieši saistītas.

Mākslīgā intelekta nozare saskaras ar izvēli: pretoties drošības prasībām kā apgrūtinošai regulēšanai vai pieņemt tās kā inženierijas labāko praksi. Eiropas uzņēmumi šo izvēli jau ir izdarījuši. Amerikas uzņēmumi mācās, dažkārt ar miljardu dolāru lieliem regulatīvajiem sodiem, dažkārt ar katastrofālām neveiksmēm, reizēm lasot inženierijas literatūru no nozarēm, kas drošību atrisināja pirms gadu desmitiem.

Drošība nav bailes no mākslīgā intelekta. Tā ir mākslīgā intelekta padarīšana par vērtīgu lietošanai. Sistēmas, kurām var uzticēties. Lēmumi, kurus var pārbaudīt. Tehnoloģija, kas palīdz, nekaitējot. Tā nav regulatīva nasta; tas ir pats mākslīgā intelekta veidošanas mērķis.

Vēlaties pēc būtības drošāku mākslīgo intelektu? Iepazīstiet Dweve Loom. Binārie ierobežojumi nodrošina skaidru, pārbaudāmu argumentāciju. Katrs lēmums izsekojams loģiskos noteikumos. Determinēta uzvedība. Tāds mākslīgais intelekts, kurā drošība nav pēcpārdomas, bet gan arhitektūras pamats.