Tekoälyn turvallisuus on matematiikkaa, ei etiikkaa
Etiikan harhautus
Astu mihin tahansa tekoälyturvallisuuskonferenssiin, niin kuulet intohimoisia väittelyitä tietoisuudesta, tuntevuudesta ja moraalisista viitekehyksistä. Pitäisikö tekoälyllä olla oikeuksia? Miten varmistamme, että se jakaa arvomme? Mitä tapahtuu, kun siitä tulee meitä älykkäämpi?
Nämä ovat kiinnostavia filosofisia kysymyksiä. Ne myös ohittavat täysin olennaisen.
Todellinen tekoälyturvallisuuden kriisi ei koske etiikkaa. Se koskee matematiikkaa. Ja kun kaikki huolehtivat hypoteettisesta superälykkyydestä, nykyiset tekoälyjärjestelmät pettävät paljon arkisemmista syistä: ne ovat matemaattisesti rikki.
Hyvät uutiset? Tämä on ongelma, jonka voimme oikeasti ratkaista.
Todellinen turvallisuuskriisi
Tältä tekoälyturvallisuus oikeasti näyttää vuonna 2025: Lääketieteellinen diagnoosijärjestelmä, joka on oikeassa 95 prosentissa tapauksista testauksessa mutta vain 73 prosentissa tuotannossa. Rahoituksen kaupankäyntialgoritmi, joka toimii täydellisesti, kunnes markkinaolosuhteet muuttuvat hieman, ja menettää sitten miljoonia. Itseohjautuva ajoneuvo, joka luokittelee stop-merkin nopeusrajoitusmerkiksi epätavallisen valaistuksen vuoksi.
Nämä eivät ole reunatapauksia. Nämä ovat systeemisiä vikoja, jotka johtuvat taustalla olevien neuroverkkojen matemaattisesta epävakaudesta.
Jokainen liukulukuoperaatio tuo mukanaan pyöristysvirheitä. Jokainen kerros kasvattaa näitä virheitä. Jokainen päätös rakentuu yhä hatarammalle matemaattiselle perustalle. Ja otamme näitä järjestelmiä käyttöön kriittisissä sovelluksissa samalla, kun väittelemme siitä, voivatko ne tulla tietoisiksi.
Se on kuin huolehtisi siitä, onko autollasi tunteita, samalla kun jättäisi huomiotta sen, että jarrut eivät toimi luotettavasti.
Miksi etiikka ei voi pelastaa meitä
Tekoälyetiikan harrastajilla on hyvät aikeet. He haluavat varmistaa, että tekoälyjärjestelmät ovat reiluja, läpinäkyviä ja vastuullisia. He luovat viitekehyksiä, ohjeistuksia ja periaatteita.
Mutta et voi etiikalla ratkaista matematiikan ongelmaa.
Neuroverkko, joka tuottaa erilaisia tuloksia identtisillä syötteillä, ei ole etiikkaongelma. Se on matemaattisen epävakauden ongelma. Järjestelmä, joka hallusinoi varmalta kuulostavaa hölynpölyä, ei ole arvoyhteensopivuuden ongelma. Se on kaavantunnistuksen rajoitteiden ongelma.
Eettiset viitekehykset olettavat, että järjestelmä toimii oikein alun perinkin. Ne koskevat oikean toiminnan valitsemista. Mutta kun järjestelmä ei pysty luotettavasti suorittamaan mitään toimintoa, etiikka on merkityksetöntä.
Siksi näemme jatkuvasti tekoälyn epäonnistumisia huolimatta kaikista etiikkakomiteoista ja turvallisuusohjeista. Hoidamme oireita, mutta jätämme taudin huomiotta.
Formaalin verifioinnin ratkaisu
Tietojenkäsittelytieteessä on ala, joka on omistautunut sen todistamiseen, että järjestelmät toimivat oikein: formaalit menetelmät. Matemaattisia tekniikoita, jotka varmentavat ohjelmiston käyttäytymisen tiukasti. Todista, älä testaa. Takaa, älä arvioi.
Formaalia verifiointia on käytetty vuosikymmeniä kriittisissä järjestelmissä: lentokoneiden ohjausohjelmistoissa, ydinreaktorien hallinnassa, avaruusalusten navigoinnissa. Nämä järjestelmät tarvitsevat matemaattista varmuutta, eivät tilastollista luottamusta.
Miksi tekoäly ei käytä formaalia verifiointia? Koska liukulukupohjaiset neuroverkot ovat matemaattisesti mahdottomia verifioida.
Et voi todistaa järjestelmän ominaisuuksia, kun järjestelmä itse rakentuu likimääräiselle aritmetiikalle. Liukuluku tuo epävarmuutta jokaiseen vaiheeseen. Se epävarmuus leviää. Kasvaa. Muuttuu mahdottomaksi käsitellä formaalisti.
Tämä ei ole työkaluongelma. Kyse on perustavanlaatuisesta yhteensopimattomuudesta neuroverkkojen matematiikan ja formaalin verifioinnin matematiikan välillä.
Binaariset verkot: todistettavasti oikea tekoäly
Binaariset neuroverkot muuttavat yhtälön täysin.
Liukulukuapproksimaatioiden sijaan binaariset verkot käyttävät diskreettejä operaatioita. +1 tai -1. Totta tai epätotta. Tarkkaa aritmetiikkaa ilman pyöristysvirheitä.
Tämä tekee niistä soveltuvia formaaliin verifiointiin. Binaariverkon käyttäytymisestä voi todella todistaa ominaisuuksia. Matemaattisesti taata tiettyjä lopputuloksia. Luoda tekoälyjärjestelmiä, joilla on sama tarkkuus kuin lentokoneiden ohjausohjelmistoilla.
Dwevellä rakensimme koko alustamme tälle periaatteelle. Core tarjoaa binaarisen kehyksen. Loom toteuttaa rajoitteisiin perustuvan päättelyn todistettavilla ominaisuuksilla. Jokainen operaatio on matemaattisesti tarkka. Jokainen päätös on jäljitettävissä.
Tämä ei ole vain luotettavampaa. Se on perustavanlaatuisesti turvallisempaa. Turvallisuutta matemaattisen tarkkuuden kautta, ei eettisten ohjeistusten kautta.
Rajoitteet turvallisuuden suojakaiteina
Tässä on toinen binaariverkkojen etu: ne toimivat rajoitteilla, eivät todennäköisyyksillä.
Rajoite on kova sääntö. "Tämän arvon on oltava positiivinen." "Tämän tulosteen on täytettävä nämä ehdot." Binaariset verkot voivat sisällyttää rajoitteet suoraan arkkitehtuuriinsa.
Tämä tarkoittaa, että turvallisuusvaatimuksista tulee matemaattisia rajoitteita, ei jälkikäsittelysuodattimia. Järjestelmä ei kirjaimellisesti voi tuottaa tulosteita, jotka rikkovat rajoitteita. Se on matemaattisesti mahdotonta, ei vain epätodennäköistä.
Vertaa tätä perinteisiin neuroverkkoihin, joissa turvallisuus on jälkikäteisajatus. Kouluta malli, lisää sitten suojakaiteet. Toivo, että suojakaiteet nappaavat ongelmat. Käsittele viat, kun ne livahtavat läpi.
Rajoitteisiin perustuva tekoäly rakentaa turvallisuuden matematiikkaan. Se on ero auton välillä, jossa on hyvät jarrut, ja auton välillä, joka ei fyysisesti voi ylittää turvallisia nopeuksia.
Kohdistusongelma (oikeasti ratkaistu)
Tekoälyn kohdistusongelma kysyy: miten varmistamme, että tekoälyjärjestelmät tekevät sen, mitä haluamme?
Nykyinen lähestymistapa: kouluta ihmispalautteella, lisää esimerkkejä, toivo että tilastolliset mallit tavoittavat ihmisten arvot. Se on perustavanlaatuisesti todennäköisyyspohjaista. Perustavanlaatuisesti epävarmaa.
Binaariset verkot rajoitteisiin perustuvalla päättelyllä tarjoavat erilaisen lähestymistavan: määrittele matemaattisesti, mitä haluat. Järjestelmän on täytettävä nämä rajoitteet. Ei "yleensä" tai "99,9 prosentin varmuudella". On täytettävä. Matemaattisesti taattu.
Tämä ei ratkaise filosofista kohdistusta. Jos määrittelet väärät rajoitteet, saat väärän käyttäytymisen. Mutta se ratkaisee teknisen kohdistuksen. Jos voit formalisoida, mitä haluat, järjestelmä tekee juuri sen. Ei ajautumista. Ei odottamatonta yleistymistä. Ei emergenttiä epäkohdistusta.
Vaikea osa siirtyy kohdasta "miten teemme siitä luotettavan" kohtaan "miten määrittelemme, mitä haluamme". Se on paljon parempi ongelma.
Deterministinen on turvallista
Yksi aliarvostetuimmista binaariverkkojen turvallisuusominaisuuksista: ne ovat deterministisiä.
Sama syöte tuottaa aina saman tulosteen. Aja järjestelmä miljoona kertaa, saat identtiset tulokset. Tämä vaikuttaa perustavanlaatuiselta, mutta se on syvällistä turvallisuuden kannalta.
Testaaminen merkitsee todella jotain. Jos testi menee läpi, sama syöte menee aina läpi. Voit varmentaa käyttäytymisen. Rakenna luottamusta toistettavuuden avulla.
Liukulukuverkkojen kohdalla näin ei ole. Sama syöte voi tuottaa erilaisia tulosteita riippuen laitteistosta, ohjelmistoversioista ja jopa laskutoimitusten järjestyksestä. Testaaminen antaa tilastollisen otoksen, ei takuuta.
Kriittisissä järjestelmissä determinismi on turvallisuutta. Sinun on tiedettävä tarkalleen, mitä järjestelmä tekee, joka kerta, kaikissa olosuhteissa. Binääriverkot tarjoavat tämän. Liukulukuverkot eivät periaatteessa pysty siihen.
Tulkittavuus rajoitteiden avulla
Kaikki haluavat tulkittavaa tekoälyä. Jos emme ymmärrä, miksi järjestelmä teki päätöksen, miten voimme luottaa siihen?
Liukulukuneuroverkkojen ongelma: ne ovat mustia laatikoita. Miljardeja parametreja, monimutkaisia vuorovaikutuksia, ei selkeää päätöspolkua. Edes ne tutkijat, jotka rakensivat ne, eivät voi selittää yksittäisiä tulosteita.
Binääriverkot rajoitepohjaisella päättelyllä ovat luonnostaan helpommin tulkittavia. Järjestelmä tarkistaa rajoitteet. Voit nähdä, mitkä rajoitteet täyttyivät, mitkä eivät, ja miten päätös seurasi rajoitteista.
Kyse ei ole täydellisestä läpinäkyvyydestä. Monimutkaiset järjestelmät ovat edelleen monimutkaisia. Mutta ero on siinä, sanotaanko "malli antoi todennäköisyyden 0,87 opittujen kaavojen perusteella" vai "päätös täytti rajoitteet A, B ja C, mutta rikkoi rajoitteen D, joten tuloste X valittiin".
Toinen on läpinäkymätöntä tilastotiedettä. Toinen on loogista päättelyä, jota voit seurata ja varmentaa.
Turvallisuus arkkitehtuurin kautta
Tekoälyturvallisuuden yhteisö käyttää valtavasti vaivaa jälkikäteisiin turvatoimiin. Kohdistuskoulutus, turvallisuushienosäätö, tulosteiden suodatus, ihmisten valvonta.
Nämä ovat laastareita pohjimmiltaan turvattomiin arkkitehtuureihin. Yrität tehdä epävakaasta järjestelmästä vakaan ulkoisten hallintakeinojen avulla.
Binääriset neuroverkot edustavat erilaista paradigmaa: turvallisuutta arkkitehtuurin kautta. Matemaattiset perustat ovat vakaat. Laskutoimitukset ovat tarkkoja. Rajoitteet ovat sisäänrakennettuja. Turvallisuutta ei lisätä päälle; se on olennainen osa suunnittelua.
Dweve Coren arkkitehtuuri osoittaa tämän periaatteen. 1 930 algoritmia, kaikki matemaattisesti täsmällisiä. 415 primitiiviä, 500 ydintä, 191 kerrosta, 674 korkeamman tason algoritmia. Jokainen suunniteltu vakauteen ja todennettavuuteen.
Loom 456 rakentuu tälle perustalle 456 alan asiantuntijalla, joista jokainen käsittelee tietynlaisia päättelytehtäviä. Harva aktivointi tarkoittaa, että vain asiaankuuluvat alan asiantuntijat aktivoituvat. Rajoitepohjainen logiikka tarkoittaa, että tulosteiden on täytettävä muodolliset vaatimukset.
Tämä on tekoälyturvallisuutta arkkitehtuurin tasolla, ei politiikan tasolla.
Euroopan etu
Euroopassa on tiukkoja tekoälyturvallisuutta koskevia säädöksiä. GDPR, tekoälyasetus, tietosuojalait. Ne luovat vaatimustenmukaisuustaakkoja järjestelmille, jotka eivät voi taata käyttäytymistään.
Mutta ne luovat mahdollisuuksia järjestelmille, jotka voivat.
Binääriset neuroverkot muodollisella verifioinnilla voivat todella täyttää sääntelyvaatimukset. Todistaa syrjimättömyys. Osoittaa syrjimättömyys. Taata tietojenkäsittely. Näyttää auditoitavuus.
Perinteiset neuroverkot eivät pysty tähän. Ne voivat osoittaa tilastollisia ominaisuuksia, tarjota esimerkkejä ja antaa todennäköisyyspohjaisia vakuuksia. Mutta ne eivät voi todistaa mitään matemaattisesti.
Tämä tarkoittaa, että binäärisiä verkkoja käyttävillä eurooppalaisilla tekoälyyrityksillä on sääntelyetu. Ne voivat sertifioida turvallisuuden tavoilla, joihin liukulukupohjaiset järjestelmät eivät yksinkertaisesti pysty.
Sääntöjen noudattamisesta tulee kilpailuetu taakan sijaan.
Euroopan sääntelyvaatimukset (miksi matematiikalla on oikeudellista merkitystä)
EU:n tekoälyasetuksen 13. artikla edellyttää teknistä dokumentaatiota, joka osoittaa turvallisuusvaatimusten noudattamisen. 15. artikla vaatii tarkkuutta, kestävyyttä ja kyberturvallisuustoimenpiteitä. Nämä vaatimukset luovat haasteita järjestelmille, joiden käyttäytymistä ei voida muodollisesti todistaa.
Sertifioinnin haasteet turvallisuuskriittisessä tekoälyssä: Saksalaiset sertifiointielimet, kuten TÜV, edellyttävät muodollisia spesifikaatioita tekoälyltä kriittisissä sovelluksissa. Tilastolliset testitulokset ("99 %:n tarkkuus") antavat erilaisia vakuuksia kuin matemaattiset todisteet rajoitteiden täyttymisestä. Järjestelmät, jotka voivat tarjota muodollisia takeita, pääsevät sujuvammin sertifiointiprosessin läpi kuin ne, jotka nojaavat pelkästään empiiriseen validointiin.
Lääkinnällisten laitteiden asetus (MDR): Tekoälypohjaisten diagnostiikkaratkaisujen, jotka vaativat CE-merkinnän, on osoitettava turvallisuutensa huolellisella menetelmällä. MDR:n vaatimukset ennustettavasta ja todennettavasta käyttäytymisestä osoittautuvat haastaviksi neuroverkoille, joihin liittyy luontainen satunnaisuus. Järjestelmät, jotka tarjoavat deterministisiä takeita, sopivat paremmin yhteen sertifiointivaatimusten kanssa, jotka on suunniteltu lääkinnällisille laitteille, joissa turvallisuus on ensiarvoisen tärkeää.
Ilmailun turvallisuusstandardit: DO-178C-sertifiointi turvallisuuskriittisille avioniikkaohjelmistoille, erityisesti tasolle A (jossa vikaantuminen saa katastrofaalisia seurauksia), edellyttää muodollisia menetelmiä oikeellisuuden todistamiseksi. Perinteisten neuroverkkojen todennäköisyyspohjainen luonne on perustavanlaatuisesti ristiriidassa DO-178C-vaatimusten kanssa. Tämä luo esteitä tekoälyn käyttöönotolle lennonvarmistuskriittisissä järjestelmissä, ellei käytetä vaihtoehtoisia arkkitehtuureja, joilla on muodollisen verifioinnin kyvykkyyksiä.
Rahoitusalan sääntely: MiFID II edellyttää, että algoritmiset kaupankäyntijärjestelmät osoittavat hallintatoimet, jotka estävät markkinoiden manipuloinnin. Tiettyjen käyttäytymismallien puuttumisen todistaminen matemaattisesti eroaa olennaisesti alhaisten empiiristen esiintymistiheyksien osoittamisesta. Järjestelmät, joilla on muodolliset rajoitespesifikaatiot, voivat tarjota vahvemmat vaatimustenmukaisuusperustelut kuin ne, joiden käyttäytyminen syntyy pelkästään tilastollisesta oppimisesta.
Näin formaali verifiointi todella toimii
Formaali verifiointi soveltaa matemaattisia todistustekniikoita takaamaan tekoälyjärjestelmien ominaisuuksia.
Rajoitteiden koodausmenetelmä: Tarkastellaan lääketieteellistä diagnoositekoälyä, joka ei saa koskaan suositella hoitoja, jotka ovat vasta-aiheisia potilaan lääkityksen kanssa. Perinteinen menetelmä: koulutetaan malli, testataan laajasti, toivotaan että malli oppii rajoitteen, lisätään turvasuodattimia. Rajoitepohjainen menetelmä: koodataan vaatimus matemaattisesti kovana rajoitteena. Järjestelmän ratkaisuavaruus sulkee nimenomaisesti pois vasta-aiheiset yhdistelmät, ei 99,99 prosentin varmuudella, vaan matemaattisesti mahdottomana rikkoa.
Autoteollisuuden turvallisuusvaatimukset: ISO 26262 -toiminnallisen turvallisuuden standardi autoteollisuudelle edellyttää vaaran lieventämisen todistamista. Ero "havaitsi 99,8 prosenttia jalankulkijoista testauksessa" ja "pystyy todistamaan havaitsemisen kaikille jalankulkijoille, jotka täyttävät näkyvyyskriteerin X viiveen Y sisällä" edustaa olennaisesti erilaisia varmuustasoja. Edellinen on empiiristä näyttöä; jälkimmäinen on matemaattinen todiste. ASIL-D-sertifiointi (korkein autoteollisuuden turvallisuuden eheystaso) edellyttää todistustason varmuuksia, joita pelkkä tilastollinen testaus ei voi tarjota.
Teollisuusautomaation standardit: IEC 61508 edellyttää turvallisuuden eheystasoa (SIL) 3 tai 4 kriittisille teollisuusjärjestelmille. SIL 4 edellyttää osoittamaan alle 10⁻⁸ todennäköisyyden vaaralliselle vikaantumiselle tunnissa. Perinteisen koneoppimisen luontainen satunnaisuus estää formaalit takeet tällä tasolla. SIL 4 -sertifiointia vaativat järjestelmät tarvitsevat matemaattisia todisteita vikarajojen ylittymättömyydestä, verifiointitekniikoita, jotka soveltuvat deterministisiin rajoitepohjaisiin järjestelmiin mutta eivät probabilistisiin neuroverkkoihin.
Turvallisuusverifioinnin kaupalliset vaikutukset
Matemaattinen turvallisuusverifiointi luo kaupallista dynamiikkaa, joka ylittää sääntelyn noudattamisen.
Hankinnat ja markkinoille pääsy: Eurooppalainen julkinen hankinta edellyttää yhä useammin osoitettavissa olevaa tekoälyn turvallisuussertifiointia suuren riskin sovelluksille. Järjestelmät, jotka eivät pysty tarjoamaan formaaleja turvallisuustakeita, suljetaan tarjouskilpailujen ulkopuolelle empiirisestä suorituskyvystä riippumatta. Markkinoille pääsy määräytyy kyvystä tarjota matemaattisia todisteita, ei pelkästään vaikuttavista testituloksista.
Vakuutus- ja vastuunäkökohdat: Tekoälyjärjestelmien riskien aktuaarinen arviointi osoittautuu haastavaksi, kun käyttäytymistä ei voida formaalisti todistaa. Vakuutusturva kriittisille sovelluksille, lääketieteellisille diagnostiikoille, autonomisille ajoneuvoille ja teollisuusautomaatiolle edellyttää yhä useammin, että järjestelmät osoittavat formaalit turvallisuusominaisuudet. Tämä luo jakolinjan: järjestelmistä, joilla on matemaattiset takeet, tulee vakuutuskelpoisia; puhtaasti tilastollisilla järjestelmillä on vakuutuskattavuuden ongelmia tai kohtuuttomia vakuutusmaksuja.
Sertifioinnin aikataulut: Vastaintuitiivinen kuvio nousee esiin: järjestelmät, joilla on formaali verifiointi, voivat saavuttaa nopeamman sääntelyhyväksynnän kuin ne, jotka nojaavat laajaan empiiriseen testaukseen. Formaali todiste tarjoaa deterministiset sertifiointipolut: osoita rajoitteiden täyttyminen, saat hyväksynnän. Empiiriset menetelmät kohtaavat iteratiivisia testausjaksoja ja sääntelykysymyksiä reunatapauksista, joihin tilastollinen validointi ei voi antaa lopullista vastausta. Matemaattinen varmuus voi nopeuttaa käyttöönottoa viivästyttämisen sijaan.
Asiakkaiden luottamusdynamiikka: Eurooppalaiset yritysasiakkaat vaativat yhä enemmän selitettävää tekoälyä erityisesti B2B-konteksteissa. "Miksi järjestelmä teki tämän päätöksen?" kehittyy mukavasta lisäominaisuudesta kaupan esteettömäksi edellytykseksi. Järjestelmät, joissa on rajoitepohjainen päättely, voivat tarjota loogisia selityksiä; mustan laatikon neuroverkot eivät voi. Luottamus korreloi ymmärrettävyyden kanssa, ja matematiikka mahdollistaa ymmärryksen tavoilla, joita opitut tilastolliset mallit eivät mahdollista.
Tekninen toteutus: miten rajoitteet takaavat turvallisuuden
Rajoitteisiin perustuvan turvallisuuden mekaniikka ansaitsee selityksen. Miten matematiikka tarkalleen ottaen estää tekoälyn viat?
Rajoitteiden koodaus: Turvallisuusvaatimukset käännetään matemaattisiksi rajoitteiksi ennen koulutusta. Ei "mallin pitäisi välttää X:ää", se on toiveajattelua. "Tulostusavaruus sulkee pois X:n", se on matematiikkaa. Lääketieteellisen diagnoosin esimerkki: hoito T on vasta-aiheinen lääkkeen M kanssa, josta tulee rajoite C: ¬(suosittele(T) ∧ potilas_käyttää(M)). Järjestelmä ei kirjaimellisesti voi tuottaa ratkaisuja, jotka rikkovat C:n. Ratkaisuavaruus määritellään rajoitteilla. Jokaisen mahdollisen tulosteen on täytettävä kaikki rajoitteet. Mahdottomat tulosteet eivät ole epätodennäköisiä; ne on matemaattisesti suljettu pois.
Varmennusprosessi: Koulutuksen jälkeen muodolliset varmennustyökalut todistavat rajoitteiden täyttymisen. Mallintarkistus, lauseentodistus, tyydytettävyysratkaisu, muodollisten menetelmien tekniikoita. Binäärieverkoille: laskennallisesti käsiteltävissä. Liukulukuverkoille: laskennallisesti käsittelemätöntä. Varmennus tuottaa matemaattisen todisteen: "Kaikille kelvollisille syötteille I, kaikki tulosteet O täyttävät rajoitteet C." Ei tilastollinen väite. Universaali kvantifiointi syöteavaruudessa. Eurooppalaiset sääntelijät ymmärtävät eron. Toinen on näyttöä. Toinen on todiste.
Suoritusaikaiset takeet: Rajoitteet eivät rajoita vain koulutusta; ne rajoittavat jokaista päättelyä. Jokainen päätös kulkee rajoitetarkistimen läpi. Tuloste ehdotetaan, rajoitteet varmistetaan, vain vaatimustenmukaiset tulosteet sallitaan. Lisää viivettä? Vähäisesti: binäärioperaatiot ovat nopeita. Lisää turvallisuutta? Ehdotonta: rajoitteiden rikkomisen matemaattinen mahdottomuus. Kustannus-hyötyanalyysi on ilmeinen: mikrosekunteja tarkistusta vastaan katastrofaaliset viat rajoittamattomista tulosteista.
Kompositionaalinen turvallisuus: Useat rajoitteet yhdistyvät matemaattisesti. Turvallisuusrajoite S1 plus oikeudenmukaisuusrajoite F1 plus suorituskykyrajoite P1: järjestelmän on täytettävä S1 ∧ F1 ∧ P1 samanaikaisesti. Perinteiset lähestymistavat: kouluta turvallisuutta varten, kouluta uudelleen oikeudenmukaisuutta varten, toivo että suorituskyky ei heikkene. Rajoitepohjainen: määrittele kaikki vaatimukset etukäteen, löydä ratkaisu joka täyttää konjunktion. Sitä ei aina ole: joskus rajoitteet ovat ristiriidassa. Mutta mahdottomuuden löytäminen suunnitteluvaiheessa on parempi kuin sen löytäminen käyttöönotossa. Matematiikka pakottaa rehellisyyteen kompromisseista.
Vikatapausten analyysi: Kun rajoitepohjaiset järjestelmät epäonnistuvat, vikatapa on pohjimmiltaan erilainen. Perinteiset neuroverkot: hiljaiset viat, uskottavia mutta vääriä tulosteita, ei merkkiä epävarmuudesta. Rajoitepohjaiset järjestelmät: eksplisiittinen rajoiterikkomusten havaitseminen. Järjestelmä tunnistaa, ettei se voi täyttää kaikkia rajoitteita, kieltäytyy tulostamasta, raportoi minkä rajoitteen se rikkoi. Puolustava vika: järjestelmä tietää, ettei se tiedä. Lääketieteellisen diagnoosin esimerkki: perinteinen järjestelmä saattaa tuottaa diagnoosin riittämättömistä tiedoista huolimatta. Rajoitepohjainen järjestelmä havaitsee tietorajoitteen rikkomisen ja tulostaa "riittämättömästi tietoja diagnoosia varten" sen sijaan. Ei aina kätevää. Aina turvallista. Eurooppalaiset lääkinnällisten laitteiden sääntelijät suosivat epämukavaa turvallisuutta kätevän katastrofin sijaan. Amerikkalaiset oppivat tämän oppitunnin kalliisti.
Pelon tuolle puolen, kohti varmuutta
Tekoälyn turvallisuuskeskustelua hallitsee pelko. Pelko hallitsemattomista järjestelmistä. Pelko epäsopivuudesta. Pelko tahattomista seurauksista.
Nämä pelot ovat aiheellisia. Mutta ne ovat matemaattisen epävarmuuden oireita. Kun tekoälysi on rakennettu epävakaalle perustalle, on tietysti huolissaan siitä, mitä se saattaisi tehdä.
Binääriset neuroverkot tarjoavat jotain muuta: matemaattisen varmuuden. Ei varmuutta jokaisesta lopputuloksesta, vaan varmuutta järjestelmän matemaattisista ominaisuuksista. Varmuutta siitä, että rajoitteet täyttyvät. Varmuutta siitä, että käyttäytyminen on toistettavaa.
Tämä siirtää keskustelun siitä, miten hallitsemme tätä arvaamatonta järjestelmää, siihen, miten määrittelemme oikean käyttäytymisen. Pelosta suunnitteluun.
Eurooppalaiset instituutiot ovat jo tekemässä tätä siirtymää. Max Planck -instituutti älykkäille järjestelmille keskittyy formaalin verifioinnin tutkimukseen. Ranskalainen INRIA ottaa käyttöön rajoitepohjaista tekoälyä julkishallinnon järjestelmissä. Saksalaiset Fraunhofer-instituutit kehittävät sertifioitavaa tekoälyä teollisiin sovelluksiin. Ei siksi, että sääntely sitä vaatisi, vaan siksi, että matematiikka sen mahdollistaa. Kun turvallisuuden voi todistaa, sitä ei tarvitse väitellä. Kun käyttäytymisen voi taata, sitä ei tarvitse toivoa. Pelko vähenee, kun perustukset ovat vakaat.
Todellinen tie turvalliseen tekoälyyn
Tekoälyn turvallisuus ei ole tietoisuutta, tuntevuutta tai arvojen yhteensovittamista abstraktissa filosofisessa mielessä. Kyse on järjestelmien rakentamisesta, jotka tekevät sen, mitä niiden pitää tehdä, luotettavasti, joka kerta.
Etiikalla on merkitystä. Mutta etiikka ilman matemaattisia perusteita on vain toiveajattelua. Sääntelyllä ei voi saavuttaa turvallista tekoälyä, jos taustalla oleva matematiikka on rikki.
Tie eteenpäin on selvä: rakenna tekoäly matemaattisesti vakaalle perustalle. Käytä arkkitehtuureja, jotka tukevat formaalia verifiointia. Sisällytä rajoitteet suoraan suunnitteluun. Tee turvallisuudesta sisäsyntyistä, ei ulkoista.
Binääriset neuroverkot eivät ole täydellinen ratkaisu kaikkiin tekoälyn turvallisuusongelmiin. Mutta ne ratkaisevat perustavan ongelman: matemaattisen epävakauden. Ja se on edellytys kaikelle muulle.
Et voi yhteensovittaa järjestelmää, joka ei toimi luotettavasti. Et voi tehdä eettisiä päätöksiä työkaluilla, jotka tuottavat epäjohdonmukaisia tuloksia. Et voi rakentaa luotettavaa tekoälyä horjuvalle matemaattiselle pohjalle.
Mutta voit rakentaa todistettavasti turvallisia järjestelmiä huolellisella matematiikalla. Voit luoda tekoälyä, joka täyttää rajoitteet jo suunnittelunsa puolesta. Voit kehittää teknologiaa, jossa turvallisuus on taattua, ei toivottua.
Sitä Dweven alusta tarjoaa. Matemaattista tarkkuutta. Formaalia todennettavuutta. Rajoitepohjaista turvallisuutta. Ei eettisten viitekehysten kautta, vaan paremman matematiikan kautta.
Tekoälyn turvallisuuskriisi on todellinen. Mutta se on matematiikan ongelma, ei filosofian ongelma. Ja matematiikan ongelmiin on matematiikan ratkaisut.
Eurooppa ymmärsi tämän alusta alkaen. Vuosisatojen insinöörionnettomuudet opettivat yksinkertaisen läksyn: toivo ei ole strategia, testaus ei ole todiste, eivätkä hyvät aikomukset estä katastrofaalisia vikoja. Matematiikka estää. Eurooppalaiset tekoälyyritykset, jotka rakentavat tälle perustalle, eivät ole sääntelyn haittaamia; sääntely mahdollistaa niiden toiminnan. Kun turvallisuus on matemaattisesti taattua, käyttöönotto nopeutuu. Kun käyttäytyminen on formaalisti todennettua, luottamus seuraa luonnollisesti. Tekoälyn tulevaisuus ei ole filosofisia väittelyjä tietoisuudesta. Se on huolellista matematiikkaa, joka varmistaa järjestelmien toimivan oikein. Eurooppalainen lähestymistapa ei ollut puolustautuva. Se oli alusta asti oikea.
Valmiina tekoälyyn, johon voit todella luottaa? Dweve Coren formaalisti todennettavat binääriset neuroverkot ovat tulossa. Turvallisuutta matematiikan kautta, ei toivon kautta. Liity jonotuslistallemme.