Tehisintellekti ohutus: mida see tegelikult tähendab ja miks see sulle oluline on

Tehisintellekti ohutus: mida see tegelikult tähendab ja miks see sulle oluline on

Tegelik ohutusprobleem

Tehisintellekti ohutus. See termin toob meelde tapjarobotite kujutluspildid. Skynet. Terminaatori stsenaariumid. Ulmehirmud.

Tegelik probleem pole see. Mitte täna. Mitte veel aastaid.

Tegelikud tehisintellekti ohutusprobleemid on igapäevased. Praktilised. Toimuvad just praegu. Erapoolikud värbamisalgoritmid. Valediagnoosid meditsiinis. Isesõitvad sõidukid, mis teevad murdosa sekundiga valesid otsuseid. Need pole ulme. Need on tänane reaalsus.

Mõistmine, mida tehisintellekti ohutus tegelikult tähendab, aitab sul tehisintellektisüsteeme hinnata. Nõua paremat. Kasuta neid ohutult.

Mis tehisintellekti ohutus tegelikult on

Tehisintellekti ohutus tähendab tagada, et tehisintellektisüsteemid käituvad ettenähtud viisil. Teevad seda, mida me tahame. Ei tee seda, mida me ei taha. Kõlab lihtsalt. See pole seda.

Kolm peamist väljakutset:

• 1. Spetsifikatsioon: Selle määratlemine, mida me tegelikult tahame. Selgub, et "hea käitumise" täpselt määratlemine on raske. Inimväärtused on keerulised. Kontekstist sõltuvad. Mõnikord vastuolulised.
• 2. Robustsus: AI töötab õigesti kõikides olukordades. Mitte ainult treeningstsenaariumides. Äärejuhtumid. Vastandlikud sisendid. Reaalse maailma segadus. AI ebaõnnestub sageli just seal, kus see kõige rohkem tähtis on.
• 3. Vastavusse viimine: AI eesmärgid vastavad inimeste eesmärkidele. Mitte süsteemi petmine. Mitte reegli tähe optimeerimine selle vaimu rikkudes. Tõeline vastavusse viimine inimese kavatsustega.

Kui mõni neist on valesti, põhjustab AI kahju. Isegi heade kavatsustega. Isegi keeruka tehnoloogiaga.

Euroopa regulaatorid mõistavad seda põhjalikult. ELi AI-määrus liigitab AI-süsteeme riskitaseme järgi: minimaalne, piiratud, kõrge ja vastuvõetamatu. Kõrge riskiga süsteemid (meditsiiniseadmed, kriitiline taristu, õiguskaitse, tööhõiveotsused) seisavad silmitsi rangete nõuetega. Selgitatavus pole vabatahtlik. Robustsuse testimine pole läbiräägitav. Inimlik järelevalve pole boonus. See on seadus. Ameerika ettevõtted, kes seda raskel teel avastavad, nimetavad seda nüüd "regulatiivseks koormaks". Euroopa ettevõtted nimetavad seda "põhiliseks insenerivastutuseks".

Miks praegune AI pole ohutu (aus tõde)

Kaasaegsel AI-l on põhilised ohutusprobleemid:

Must kast - probleem:

Sa ei näe sisse. Närvivõrgud on läbipaistmatud. Miljardid kaalud. Puudub inimesele arusaadav loogika. Mudel töötab (või ei tööta). Sa ei näe, miks.

See tähendab: sa ei saa ohutust kontrollida. Sa ei saa otsuseid auditeerida. Sa ei saa konkreetseid probleeme parandada ilma ümber treenimata. Sa testid põhjalikult ja loodad, et see tootmises töötab. See pole ohutus. See on optimism.

Kujutage ette Hollandi ehitusinseneri, kes pakub välja tammi, kus arvutused on "uskuge mind, närvivõrk ütleb, et see peab vastu." Või Saksa autoinseneri, kes sertifitseerib pidureid sõnadega "me treenisime seda miljonite näidete peal." TÜV naeraks nad majast välja. Kuid just nii me juurutame AI-d sarnaselt kriitiliste otsuste jaoks: meditsiiniline diagnoos, autonoomne sõit, finantsriski hindamine. Usupõhine lähenemine inseneritööle, mille eurooplased sajandeid tagasi hülgasid, on tagasi, ümber nimetatud "masinõppeks".

Treeningandmetest sõltuvus:

AI õpib näidetest. Kui näited on kallutatud, on AI kallutatud. Kui näited on puudulikud, on AI-l pimeala. Kui näited on valed, on AI vale.

Prügi sisse, prügi välja. Kuid ohutuskriitiliste süsteemide puhul tähendab "prügi" kahju. Kallutatud laenuotsused. Ebaõiglased töötagasilükkamised. Valed meditsiinilised diagnoosid.

Haprus:

AI paistab silma tuttavate sisenditega. Tundmatutega kukub ta läbi suurejooneliselt. Väikesed muutused sisendis põhjustavad tohutuid muutusi väljundis. See on vastandlik haavatavus.

Lisa pildile märkamatut müra. Mudel klassifitseerib täiesti valesti. See pole teoreetiline. See on testitud. Tõestatud. Korratav. Praegune AI on habras.

Ei mingit tervet mõistust:

AI-l puudub arusaamine. Puudub maailmamudel. Puudub terve mõistus. See tuvastab mustreid. Mõnikord hiilgavalt. Mõnikord katastroofiliselt valesti.

Küsi sellelt võimatuid asju, see proovib niikuinii. Küsi sellelt kahjulikke asju, see võib neile vastata. See ei mõista. See lihtsalt töötleb sisendeid.

See toob kaasa suurejoonelisi ebaõnnestumisi, mis oleksid naljakad, kui neid ei kasutataks kriitilistes süsteemides. Meditsiini-AI diagnoosib enesekindlalt patsiente haigustega, mida pole olemas, sest sümptomimuster sobis treeningandmetega. Isesõitvad sõidukid peatuvad postkastide ees, mis on värvitud stop-märkide sarnaseks, tehniliselt õige mustrituvastus, katastroofiliselt vale arusaamine. Õigusvaldkonna AI viitab täiesti väljamõeldud kohtupraktikale, sest tsiteerimisvorming sobis sellega, mida see oli õppinud. Küsi kolmeaastaselt, kas sa saad vee all hingata, ta ütleb ei. Küsi praeguselt AI-lt, see võib genereerida veenva essee vee all hingamise tehnikatest, ilma arusaamiseta, et see on füüsiliselt võimatu, lihtsalt mustrituvastus ulmekirjandusest, millega seda treeniti.

Tegeliku maailma ohutusvead

Need pole hüpoteetilised. Need juhtusid:

• Isesõitvate sõidukite avariid: AI ei suutnud teatud tingimustes jalakäijaid ära tunda. Valgustus. Riietus. Kontekst. Inimesed surid. AI oli optimeeritud keskmiste juhtumite jaoks, ebaõnnestus äärejuhtumite puhul.
• Näotuvastuse kallutatus: Suurem veamäär naiste ja vähemuste puhul. Miks? Treeningandmed koosnesid peamiselt valgenahalistest meestest. Andmete kallutatusest sai otsuste kallutatus. Reaalse maailma diskrimineerimine automatiseeriti.
• Meditsiini-AI vead: AI soovitab valesid ravimeetodeid. Jätab diagnoosid tegemata. Miks? Treeningandmed pärinesid konkreetsetest haiglatest. Ei üldistatud erinevatele populatsioonidele või seisunditele. Optimeerimine mõõdikute, mitte patsientide tulemuste järgi.
• Sisumoderatsiooni vead: AI eemaldab õiguspärast sisu. Jätab kahjuliku sisu märkamata. Kontekst on oluline. Nüansid on olulised. AI-l on raskusi mõlemaga. Tsensuur ja kuritarvitamine, automatiseeritult.

Igal juhul tegi AI seda, milleks see oli treenitud. Treening oli ebapiisav. Robustsus puudus. Spetsifikatsioon oli vale. Ohutusvead.

Euroopa näited on lähemal. Hollandi maksuamet kasutas AI-d lastehoiutoetuste pettuse tuvastamiseks: algoritm märgistas tuhandeid süütuid peresid, paljud neist immigrantide taustaga, põhjustades mõnele rahalise hävingu. Selgitust ei antud. Edasikaebamise võimalust polnud. Hollandi valitsus maksis lõpuks 30 000 eurot hüvitist pere kohta ja terve valitsuskabinet astus tagasi. Prantsusmaal leiti, et ülikooli vastuvõtuks kasutatav AI-süsteem diskrimineeris perekonnanimede alusel, kodeeritud eelistused, mis juhtusid korreleeruma etnilise päritoluga. Mõlemal juhul töötas AI täpselt nii, nagu see oli kavandatud. Disain oli probleem.

Mis teeb AI tegelikult ohutuks

Ohutus nõuab mitut kihti. Ükski lahendus ei piisa:

Selgitatavus:

Peaksite nägema, miks AI tegi otsuse. Mitte lihtsalt "närvivõrk aktiveerus". Tegelikud põhjused. Jälgitav loogika. Auditeeritavad sammud.

Reeglipõhised süsteemid aitavad siin. Iga otsus järgib selgeid piiranguid. Saate jälgida põhjendusi. Kontrollida õigsust. Auditeerida otsuseid.

Vastupidavuse testimine:

Testige kaugemale treeningandmetest. Vastandlikud näited. Äärejuhtumid. Stressitestid. Kui see puruneb, parandage enne kasutuselevõttu. Mitte pärast kahju tekkimist.

Formaalne tõendamine kus võimalik. Matemaatilised tõestused käitumise kohta. Praegu piiratud ulatus, kuid kasvamas.

Euroopa sertifitseerimisasutused nõuavad seda rangust. TÜV ei sertifitseeri autonoomseid süsteeme ilma ulatusliku vastupidavuse testimiseta igas mõeldavas stsenaariumis. Prantsuse CNIL nõuab andmekaitse mõjuhinnanguid enne AI kasutuselevõttu. Itaalia Garante nõuab algoritmilisi auditeid automatiseeritud otsuste tegemisel. See pole bürokraatia; see on õpitud kogemus. Euroopa on näinud piisavalt sildade kokkuvarisemisi, hooneõnnetusi ja tööstusõnnetusi, et teada: "enamasti töötab" ei piisa ohutuskriitiliste süsteemide puhul. Samad standardid kehtivad nüüd ka AI-le.

Inimjärelevalve:

AI teeb ettepaneku. Inimene otsustab. Eriti suure panusega otsuste puhul. Meditsiiniline diagnoos, laenu heakskiit, õiguslikud otsused. Inimene protsessis on kohustuslik.

Mitte "AI otsustab ja inimene kinnitab automaatselt". Inimene vaatab tõesti üle. Tal on vahendid mõistmiseks. Saab üle kirjutada.

Euroopa finantsregulaatorid õppisid seda rängalt 2008. aasta kriisi ajal: automatiseeritud kauplemissüsteemid, millel puudus piisav inimjärelevalve, põhjustasid välk-krahhid. Nüüd nõuavad EL-i finantsmäärused tähenduslikku inimjärelevalvet automatiseeritud otsuste puhul. "Tähenduslik" tähendab, et inimesel on piisavalt teavet, piisavalt aega ja piisav volitus tegelikult sekkuda. Inimene, kes klõpsab iga kolme sekundi tagant "kinnita" AI laenuotsuste puhul, pole järelevalve; see on teater. Euroopa regulaatorid kontrollivad seda: nad auditeerivad otsuste ajastust, ülekirjutamise määrasid ja seda, kas inimestel on tegelikud vahendid AI põhjenduste mõistmiseks. Järelevalve, mis ei suuda probleeme ära hoida, pole järelevalve.

Järkjärguline kasutuselevõtt:

Ärge võtke kasutusele kõikjal korraga. Alustage väikselt. Jälgige hoolikalt. Laiendage järk-järgult. Avastage probleemid varakult, kui panused on väikesed.

A/B testimine. Canary kasutuselevõtud. Progressiivne väljaveeretamine. Tarkvaratehnika tavad rakendatuna AI ohutusele.

Pidev jälgimine:

AI tootmises vajab pidevat jälgimist. Jõudlusmõõdikud. Veamäärad. Kallutatuse kontrollid. Triivi tuvastamine.

Reaalajas armatuurlauad. Automaatsed hoiatused. Kiire reageerimine probleemidele. Ohutus ei ole ühekordne. See on pidev.

Binaarsed piirangusüsteemid ja ohutus

Erinevatel AI-arhitektuuridel on erinevad ohutusomadused:

• Närvivõrgud (ujukomaarvud): Läbipaistmatud. Raske kontrollida. Habrasusprobleemid. Ründevastane haavatavus. Ohutus ulatusliku testimise ja lootuse kaudu.
• Piirangupõhised süsteemid (nt Dweve Loom): Läbipaistvad. Selged piirangud. Jälgitav põhjendus. Iga otsus järgib loogilisi reegleid. Auditeeritav disaini poolest.

See ei lahenda kõiki ohutusprobleeme. Kuid selgitatavus aitab tohutult. Näete, miks otsuseid tehti. Kontrollige, et piirangud on õiged. Parandage konkreetseid probleeme ilma täieliku ümberõpetamiseta.

Binaarsed tehted tagavad determinismi. Samad sisendid, samad väljundid. Korratav. Testitav. Kontrollitav.

Mida saate teha (praktilised sammud)

AI kasutaja või mõjutatuna:

• 1. Nõudke selgitatavust: Küsige, miks AI tegi otsuse. Kui nad ei oska selgitada, on see punane lipp.
• 2. Kontrollige eelarvamuste testimist: Kas AI-d on testitud erinevate elanikkonnarühmade peal? Milline on veamäär erinevate gruppide puhul?
• 3. Otsige inimjärelevalvet: Kas inimesed vaatavad otsuseid üle? Kas neil on tegelik õigus otsuseid tühistada?
• 4. Mõistke piiranguid: Milliste stsenaariumite puhul on teada, et AI ebaõnnestub? Kas need on dokumenteeritud? Teatavaks tehtud?
• 5. Kontrollige järkjärgulist kasutuselevõttu: Kas see võeti kasutusele ettevaatlikult? Või visati korraga igale poole tootmisse?
• 6. Jälgige probleeme: Kas toimub pidev jälgimine? Kui kiiresti nad probleemidele reageerivad?
• 7. Regulatiivne vastavus: Kas see vastab regulatiivsetele standarditele (ELi AI-määrus jne)? Kas on olemas vastutus?

Sul on võim. Kasuta seda. Nõua ohutut AI-d. Ära lepi vastusega "usaldage meid, see on AI".

Ebaturvalise AI majanduslik hind

Ohutusvead ei ole ainult eetilised probleemid; need on rahalised katastroofid. Euroopa ettevõtted õppisid seda kallilt.

Otsesed kulud:

Madalmaade lapsetoetuste skandaal maksis maksumaksjatele hüvitistena üle 1 miljardi euro. Air France sai 800 000 euro suuruse trahvi, kui nende näotuvastusel põhinev pardaleminekusüsteem diskrimineeris reisijaid. Saksa tervisekindlustusandjad maksid miljoneid trahve, kui AI-põhised hüvitisotsused rikkusid meditsiinilise privaatsuse eeskirju.

Need pole äärejuhtumid. Need on tagajärjed, kui juurutad tehisintellekti ilma ohutuse kontrollimiseta.

Alternatiivkulud:

Briti pangad loobusid tehisintellektipõhistest laenusüsteemidest pärast kallutatusega seotud skandaale: aastatepikkune arendustöö, miljonitesse ulatuvad investeeringud, kõik hüljati, sest ohutust ei seatud algusest peale esikohale. Hispaania haiglad lõpetasid diagnostilise tehisintellekti kasutamise, kui audiitorid ei suutnud otsustusprotsesse kontrollida. Rootsi riigiasutused loobusid automatiseerimisplaanidest, kui nad ei suutnud tõendada isikuandmete kaitse üldmäärusele vastavust.

Millegi kaks korda ehitamine (kord valesti, kord õigesti) maksab rohkem kui algusest peale õigesti ehitamine. Euroopa hankespetsialistid mõistavad seda. Ameerika riskikapitalistid õpivad seda.

Regulatiivsed trahvid:

ELi tehisintellekti käsitleva määruse rikkumiste eest võib trahv ulatuda 35 miljoni euroni või 7 protsendini ülemaailmsest aastakäibest, olenevalt sellest, kumb on suurem. Isikuandmete kaitse üldmäärus on juba tõestanud Euroopa valmisolekut jõustada: 2023. aastal määrati trahve 1,6 miljardi euro eest. Ettevõtted, kes peavad tehisintellekti ohutust vabatahtlikuks, avastavad, et see on kohustuslik.

Matemaatika on lihtne: ohutusse investeerimine alguses maksab vähem kui vigade parandamine hiljem. Euroopa ettevõtted õppisid seda valusa kogemuse kaudu. Nüüd nõuavad nad seda algusest peale.

Kultuurilised lähenemised tehisintellekti ohutusele

Euroopa ja Ameerika lähenemised tehisintellekti ohutusele erinevad põhimõtteliselt, mitte ainult regulatsioonis, vaid ka insenerifilosoofias.

Silicon Valley lähenemine:

Tegutse kiiresti, lõhu asju, arenda iteratiivselt. Juruuta esmalt, paranda probleemid hiljem. Ohutus on funktsioon, mille lisad pärast toote-turu sobivuse saavutamist. Aktsepteeritav veamäär on see, mida kasutajad taluvad. Innovatsiooni kiirus trumpab hoolika valideerimise. Palu andestust, mitte luba.

See toimib veebirakenduste puhul. Vajutad vale nuppu, laadid lehe uuesti. Aga meditsiiniline diagnoos? Autonoomsed sõidukid? Finantsotsused, mis mõjutavad inimeste elusid? Asjade lõhkumine tähendab inimeste kahjustamist.

Euroopa insenerilähenemine:

Mõõda kaks korda, lõika üks kord. Valideeri enne juurutamist. Ohutus on arhitektuurne, mitte vabatahtlik. Aktsepteeritava veamäära määrab risk, mitte kasutaja taluvus. Hoolikas valideerimine võimaldab jätkusuutlikku innovatsiooni. Luba ei ole bürokraatia; see on vastutus.

See tuleneb sajanditepikkusest füüsilisest inseneritööst. Sillad, mis varisevad. Hooned, mis ebaõnnestuvad. Meditsiinilised ravimeetodid, mis kahjustavad. Euroopa insenerikultuur õppis need õppetunnid traagilise kogemuse kaudu. Samad põhimõtted kehtivad nüüd digitaalsete süsteemide puhul.

Iroonia:

Ameerika ettevõtted ehitavad sageli tehisintellektisüsteeme ümber, et vastata Euroopa standarditele, ja avastavad seejärel, et ohutum versioon töötab ülemaailmselt paremini. Selgitatav tehisintellekt ei ole ainult regulatiivne nõue; see aitab probleeme kiiremini tuvastada ja parandada. Põhjalik testimine tabab vead enne kasutajaid. Inimjärelevalve hoiab ära ahelreaktsioonina levivad tõrked.

Ohutus ei ole innovatsiooni vastand. See on see, mis võimaldab jätkusuutlikku innovatsiooni. Eurooplased ei leiutanud seda ideed; nad lihtsalt mäletasid seda, kui Silicon Valley unustas.

Praktilised teed ohutumate tehisintellektisüsteemideni

Liikumine ebaturvaliselt tehisintellektilt ohutule nõuab konkreetseid tehnilisi muudatusi, mitte ainult poliitikat:

Arhitektuuri valik riski järgi:

Lõpeta sama arhitektuuri kasutamine kõige jaoks. Suure panusega otsused vajavad kontrollitavaid süsteeme. Meditsiiniline diagnoos, finantsotsused, autonoomsed sõidukid: need nõuavad selgitatavat ja auditeeritavat tehisintellekti. Piirangupõhised süsteemid, sümboolne loogika, hübriidlähenemised, mis ühendavad närvivõrgud loogiliste reeglitega.

Väikese panusega rakendused (sisusoovitused, pildifiltrid, mängude tehisintellekt) võivad musta kastina toimida. Kuid Euroopa meditsiiniseadmete määrus nõuab sõnaselgelt, et diagnostilisi otsuseid tegev tarkvara peab olema selgitatav. Vali arhitektuur lähtuvalt rikke tagajärgedest.

Vastandlik punane meeskond:

Enne kasutuselevõttu palka inimesi, kes su tehisintellekti lõhuvad. Mitte turvateadlasi, vaid tegelikke valdkonnaeksperte, kes mõistavad, kuidas süsteemi kasutatakse ja kuritarvitatakse. Euroopa pangad nõuavad nüüd tehisintellekti krediidisüsteemide vastandlikku testimist enne regulatiivset heakskiitu. Saksa autotootjad palkavad vastandlikke testijaid, kes veedavad kuid otsides äärejuhtumeid, millega autonoomsed süsteemid hakkama ei saa.

See pole kallis võrreldes kasutuselevõtujärgsete riketega. Üks kuu punase meeskonna tööd maksab vähem kui üks päev regulatiivseid trahve või üks hagi tehisintellekti põhjustatud kahju eest.

Järkjärguline võimekuse kasutuselevõtt:

Alusta tehisintellekti abiga, mitte tehisintellekti autonoomiaga. Soovita, ära otsusta. Näita põhjendusi, nõua inimese kinnitust. Suurenda autonoomiat järk-järgult ainult pärast ohutuse tõestamist igal tasandil.

Taani haiglad võtavad diagnostilise tehisintellekti kasutusele just nii: kõigepealt teise arvamusena, seejärel esmase sõelujana ainult madala riskiga juhtudel, lõpuks autonoomse diagnostikana kindlaksmääratud valideeritud seisundite korral. Iga samm on enne ulatuse laiendamist ohutuks tõestatud. Vastandina süsteemidele, mis võetakse kohe täisautonoomselt kasutusele: rikked on etteaimatavad.

Kohustuslikud ohutusauditid:

Välisauditid, mitte sisemine testimine. Euroopa regulaatorid nõuavad üha enam kolmandate osapoolte tehisintellekti auditeid kõrge riskiga süsteemide jaoks. Austria andmekaitseasutus nõuab algoritmiliste mõjuhinnangute tegemist enne kasutuselevõttu. Prantsuse sertifitseerimisasutused auditeerivad tehisintellekti otsuste tegemist avalikes teenustes.

Sõltumatud audiitorid leiavad probleeme, mis sisemistel meeskondadel märkamata jäävad, mitte ebapädevuse tõttu, vaid värske pilgu ja organisatsioonilise surve puudumise tõttu asju ohutuks kuulutada.

AI-süsteemide lõppklauslid:

AI-süsteemid ei tohiks töötada lõputult ilma uuesti valideerimiseta. Andmed triivivad. Populatsioonid muutuvad. Äärejuhtumid ilmnevad. Euroopa hankelepingud sisaldavad üha enam kohustuslikke uuesti valideerimise perioode: iga 12-24 kuu tagant tõesta, et süsteem töötab endiselt õigesti, või see suletakse.

See hoiab ära "kasutusele võetud ja unustatud" probleemi, kus 2020. aasta andmete jaoks optimeeritud AI-süsteemid teevad 2025. aastal endiselt otsuseid, etteaimatavalt halbade tulemustega.

AI-ohutuse tulevik

Ohutusuuringud on aktiivsed. Paranevad. Mitu suunda:

• Konstitutsiooniline AI: AI koolitamine selgesõnaliste reeglitega. Konstitutsioonilised piirangud käitumisele. Mitte ainult näidetest õppimine.
• Mehhanistlik tõlgendatavus: Närvivõrkude mõistmine sügavamal tasandil. Mitte ainult sisendid/väljundid. Sisemised mehhanismid. Veel vara, kuid paljulubav.
• Formaalne kontroll: AI-käitumise matemaatilised tõestused. Praegu piiratud ulatus. Laiendatakse järk-järgult. Ohutustagatiste kuldstandard.
• Vastandlik koolitus: Koolitamine vastandlike näidete põhjal. Mudelite muutmine manipuleerimisele vastupidavaks. Pidev võidurelvastumine, kuid edasiminek on reaalne.
• AI-ohutusstandardid: IEEE, ISO, valitsusasutused. AI-ohutuse standardite loomine. Vastavus muutub kohustuslikuks.
• Euroopa AI-ohutuse teadusuuringud: Euroopa institutsioonid on ohutuse esikohale seadmisel liidrid. CLAIRE (Confederation of Laboratories for Artificial Intelligence Research in Europe) seab sõnaselgelt esikohale usaldusväärse AI, mitte jõudlusnäitajad. Saksa teadusinstituudid keskenduvad sertifitseeritavale AI-le: süsteemidele, mille ohutust saab tõestada, mitte ainult testida. Prantsuse INRIA arendab formaalselt kontrollitud masinõpet. Hollandi ülikoolid uurivad juba disainis eelarvamusteadlikke algoritme. Erinevad prioriteedid kui Silicon Valley "liigu kiiresti ja lõhu asju". Euroopa lähenemine: liigu ettevaatlikult ja tõesta, et see töötab.

Ohutus paraneb. Kuid kasutuselevõtt edestab sageli ohutust. See lõhe on murettekitav.

Euroopa reguleeriv lähenemine, mis nõuab ohutust enne kasutuselevõttu, mitte vabandamist pärast kahju tekkimist, peegeldab põhimõtteliselt teistsugust filosoofiat. Ameerika tehnoloogiaettevõtted nägid ELi AI-määruses takistust innovatsioonile. Euroopa insenerid nägid seda selle kodifitseerimisena, mis oleks pidanud juba ammu standardtavaks saama. Erinevus inseneritöö ja ettevõtluse vahel: insener ei sõida 10-tonnise kandevõimega sillale 11-tonnise veokiga, ükskõik kui kindel ta end ka tunneb.

Mida meeles pidada

• 1. AI ohutus puudutab tegelikke, praeguseid probleeme. Mitte ulmet. Eelarvamused, vead, haprus. Toimub just praegu.
• 2. Praegune AI ei ole oma olemuselt ohutu. Mustad kastid. Andmetest sõltuv. Habras. Puudub terve mõistus. Ohutus nõuab aktiivset inseneritööd.
• 3. Ohutus nõuab mitut kihti. Selgitatavus, testimine, järelevalve, monitooring. Ühtset lahendust pole. Kaitse sügavuti.
• 4. Arhitektuur on ohutuse seisukohast oluline. Läbipaistvad süsteemid võimaldavad kontrollimist. Binaarsed piirangud tagavad deterministlikkuse. Vali arhitektuur vastavalt kasutusjuhule.
• 5. Sa võid nõuda ohutumat AI-d. Esita küsimusi. Nõua selgitusi. Kontrolli järelevalvet. Kasuta oma võimu kasutaja/kliendina.
• 6. Ohutus on pidev protsess, mitte ühekordne tegevus. Pidev monitooring. Kiired reageeringud. Kohanduv täiustamine. Mitte kunagi "valmis".
• 7. Areng toimub. Teadustöö on aktiivne. Standardid kujunevad. Kuid kasutuselevõtt edestab sageli ohutust. Ole teadlik.

Kokkuvõte

AI ohutus ei tähenda robotivalitsejate ärahoidmist. See tähendab seda, et tänased AI-süsteemid töötavad õigesti, õiglaselt ja läbipaistvalt. Kahju ennetamine, mitte ulme.

Praegusel AI-l on tõelised ohutusprobleemid. Läbipaistmatus. Eelarvamused. Haprus. Need põhjustavad tõelist kahju. Päris inimestele. Just praegu.

Ohutum AI on võimalik. Parema testimise kaudu. Selgitatavad arhitektuurid. Inimeste järelevalve. Pidev monitooring. See on inseneritöö, mitte maagia.

Erinevatel lähenemistel on erinevad ohutusomadused. Piirangutel põhinevad süsteemid pakuvad läbipaistvust. Närvivõrgud pakuvad võimekust. Vali ohutusnõuete, mitte ainult jõudluse põhjal.

Sul on võim. Nõua ohutust. Nõua selgitatavust. Nõua järelevalvet. Ära aktsepteeri läbipaistmatuid süsteeme suure panusega otsuste puhul. Ohutus läbi vastutuse.

AI tulevik sõltub ohutuse lahendamisest. Mitte jõudlusest. Jõudlus on juba muljetavaldav. Ohutus jääb maha. Sulge see lõhe ja AI muutub tõeliselt väärtuslikuks. Jäta see lõhe lahti ja AI jääb riskiks.

Euroopa reguleerijad ei loonud neid ohutusnõudeid Euroopa ettevõtete kaitsmiseks; nad lõid need Euroopa kodanike kaitsmiseks. Kuid tekkis huvitav kõrvalmõju: ettevõtted, kes ehitasid AI-d Euroopa ohutusstandardite järgi, avastasid, et nende süsteemid töötavad paremini kõikjal. Selgitatavad otsused, mida kasutajad mõistavad ja usaldavad. Tugevad süsteemid, mis tulevad toime äärejuhtudega. Auditeeritav arutluskäik, mis tabab vead enne kasutuselevõttu. Selgub, et ohutus ja kvaliteet on tugevas korrelatsioonis.

AI-tööstus seisab valiku ees: kas seista vastu ohutusnõuetele kui koormavale regulatsioonile või võtta need omaks inseneritava parima praktikana. Euroopa ettevõtted on selle valiku juba teinud. Ameerika ettevõtted õpivad, mõnikord miljardite eurode suuruste regulatiivsete trahvide kaudu, mõnikord katastroofiliste tõrgete kaudu, aeg-ajalt lugedes tegelikult insenerikirjandust tööstustest, mis lahendasid ohutuse aastakümneid tagasi.

Ohutus ei tähenda AI kartmist. See tähendab AI muutmist kasutamist väärivaks. Süsteemid, mida saab usaldada. Otsused, mida saab kontrollida. Tehnoloogia, mis aitab ilma kahjustamata. See pole regulatiivne koorem; see on kogu AI ehitamise mõte.

Tahad sisemiselt ohutumat AI-d? Avasta Dweve Loom. Binaarsed piirangud tagavad selge, auditeeritava arutluskäigu. Iga otsus on jälgitav loogiliste reeglite kaudu. Deterministlik käitumine. Selline AI, kus ohutus pole järelmõte, vaid arhitektuurne alus.