Auseste AI manifest: miks me vajame läbipaistvat tehisintellekti
Kaasaegse tehisintellekti arhitektuurne probleem
Kaasaegsetel tehisintellektisüsteemidel on põhimõtteline disainiviga, mida keegi tööstuses ei taha käsitleda: need on loodud kõlama õigesti, mitte olema õiged.
Vaadake, kuidas suured keelemudelid töötavad. Nad analüüsivad miljardeid tekstinäidiseid, leiavad statistilisi mustreid ja ennustavad, millised sõnad kõlaksid koos usutavalt. Puudub kontrollimise etapp. Puudub tõe kontroll. Puudub arusaam, kas väljund on faktiliselt õige. Ainult mustrite sobitamine ja ennustamine.
See arhitektuurne valik tähendab, et need süsteemid genereerivad enesekindlalt ebaõiget teavet alati, kui vale vastus järgib levinud keelelisi mustreid. See ei ole viga, mida saaks parandada. Nii on need loodud töötama.
Ja me juurutame neid süsteeme haiglates, kohtusaalides ja finantsasutustes üle Euroopa.
Ainuüksi Hollandis kasutavad sellised ettevõtted nagu ScreenPoint Medical tehisintellekti rinnavähi tuvastamiseks. Delft Imaging rakendab seda tuberkuloosi diagnoosimisel. Thirona analüüsib kopsuskaneeringuid süvaõppe abil. Kui need süsteemid teevad vea kellegi tervise osas, ei piisa sellest, et „mudel oli 87% ulatuses enesekindel". Kaalul on inimelud.
Probleem on sügavam kui üksikud vead. Traditsioonilised närvivõrgud optimeerivad statistilise tõenäosuse, mitte tõe nimel. Nad õpivad ennustama, milline vastus antud sisendile tüüpiliselt järgneb, lähtudes treeningandmete mustritest. Kui need mustrid on täpsed, töötab süsteem hästi. Kui mustrid on eksitavad, ebaõnnestub süsteem süstemaatiliselt.
Võtame meditsiinilise diagnoosimise. Traditsiooniline närvivõrk võib õppida, et teatud sümptomid korreleeruvad treeningandmetes kindlate haigustega. Kuid korrelatsioon ei ole põhjuslikkus. Kui treeningandmed sisaldavad piirkondlikke kallutatusi, õpib mudel need kallutatused selgeks. Kui haruldased seisundid on alaesindatud, ei suuda mudel neid ära tunda. Arhitektuuril puudub mehhanism, et eristada ehtsaid meditsiinilisi seoseid statistilistest artefaktidest.
See loob usalduskriisi. Kuidas juurutada tehisintellekti kõrge riskitasemega keskkondades, kui te ei saa selle arutluskäiku kontrollida? Kuidas selgitada patsiendile, miks tehisintellekt soovitas konkreetset ravi, kui süsteem ise ei suuda oma loogikat sõnastada? Kuidas auditeerida kallutatust, kui otsustusprotsess on maatrikskorrutiste must kast?
Kuidas närvivõrgud tegelikult otsuseid teevad
Traditsioonilised närvivõrgud töötavad kaalutud ühenduste kihtide kaudu. Sisend läbib mitu kihti, millest igaüks teostab matemaatilisi teisendusi, kuni toodetakse väljund koos sellega seotud usaldusväärsuse skooriga.
Probleem? Sa ei suuda jälgida, miks otsus tehti. Süsteem õppis treeningu käigus miljoneid kaaluväärtusi. Kui see väljundit toodab, näed, millised neuronid aktiveerusid, kuid see ei ütle sulle, miks. Põhjendus on hajutatud lugematute matemaatiliste tehete vahel ilma selge loogilise teeta.
See sobib filmide soovitamiseks. See on ohtlik haiguste diagnoosimisel.
Kaasatuse optimeerimise probleem
Siin on tume saladus, mida keegi ei taha tunnistada: enamik ärilisi tehisintellekti süsteeme pole isegi täpsuse jaoks optimeeritud. Need on optimeeritud kaasatusmõõdikute jaoks. Klikid. Veedetud aeg. Interaktsioonimäärad. Asi, mis teeb aktsionärid õnnelikuks ja tõe valikuliseks.
Soovitusalgoritmid õpivad, mis hoiab inimesi platvormil, sõltumata sellest, kas see sisu on tõene või kasulik. Kui vastuolulised väited toovad rohkem kaasatust kui tasakaalustatud analüüs, õpib algoritm vastuolulisust esile tooma. Kui emotsionaalne sisu toimib paremini kui faktipõhine kajastus, võidavad emotsioonid. Iga kord.
Süsteem töötab täpselt nii, nagu kavandatud. Me ütlesime sellele, et see maksimeeriks kaasatust. See õppis, et tõde ja kaasatus on sageli vastuolus, ja valis kaasatuse. Ei saa tehisintellekti süüdistada käskude täitmises.
See pole teoreetiline kätepesu. 2018. aasta MIT uuring analüüsis 126 000 uudislugu Twitteris ja leidis, et valeinfo levib kuus korda kiiremini kui tõde, jõudes 1500 inimeseni enne, kui tõelised lood jõuavad 1000 inimeseni. Algoritmid on selle mustri selgeks õppinud ja kasutavad seda halastamatult ära. Tõde on igav. Nördimus on viiruslik. Arva, mis võidab?
Korrelatsioon ilma põhjuslikkuseta
Statistilised mudelid leiavad andmetest mustreid. Kuid mustrid pole mõistmine.
Jäätisemüük korreleerub uppumissurmadega. Mõlemad suurenevad suvel. Statistiline mudel näeb korrelatsiooni ja võib ennustada uppumisriski jäätisemüügi põhjal. See leidis andmetest tõelise mustri. Mustril lihtsalt pole seda tähendust, mida naiivne tõlgendus vihjab.
Inimesed mõistavad põhjuslikkust. Me teame, et suvine ilm põhjustab mõlemat nähtust. Korrelatsioonil põhinevad tehisintellekti süsteemid ei suuda seda eristust teha, kui me ei kodeeri mudelisse sõnaselgelt põhjuslikku struktuuri.
See piirang mõjutab reaalseid otsuseid. Meditsiiniline tehisintellekt võib seostada sümptomit diagnoosiga statistiliste mustrite põhjal, jättes tähelepanuta tegeliku põhjusliku mehhanismi. Finantstehisintellekt võib korreleerida turuliikumisi ilma aluseks olevaid majanduslikke seoseid mõistmata.
Erinevus on praktikas tohutult oluline. Korrelatsioonipõhine süsteem võib täheldada, et patsientidel, kes saavad teatud ravi, on paremad tulemused. Aga mis siis, kui need patsiendid saavad ravi seetõttu, et nad on algusest peale tervemad? Korrelatsioon on olemas, kuid põhjuslik seos kulgeb vastupidises suunas. Statistilised mudelid ei suuda seda ilma sõnaselge põhjusliku modelleerimiseta tuvastada.
Euroopa finantssüsteemides muutuvad korrelatsioonid pidevalt. Turud, mis liikusid ajalooliselt koos, eralduvad regulatiivsete muudatuste (tere, MiFID II), tehnoloogiliste nihete või geopoliitiliste sündmuste (Brexit, keegi?) tõttu. Korrelatsioonipõhine mudel rakendab vananenud mustreid edasi, kuni see katastroofiliselt ebaõnnestub. Sellel puudub arusaam, miks korrelatsioon eksisteeris, nii et see ei suuda ära tunda, millal aluseks olev seos on muutunud.
Saksa pank Schufa õppis seda 2024. aastal raskel teel. Euroopa Liidu Kohus otsustas, et nende tehisintellektipõhine krediidiskoorimissüsteem rikkus GDPR-i nõudeid just seetõttu, et õpitud korrelatsioone ei saanud selgitada ega auditeerida. Kui algoritm keelab kellelegi 20 000-eurose laenu, ei piisa Euroopa õiguse kohaselt õiguslikult väljendist "arvuti ütleb ei".
Põhiprobleem: mustrite sobitamine ilma mõistmiseta loob haprad süsteemid. Need töötavad seni, kuni enam ei tööta, ja kui nad ebaõnnestuvad, ebaõnnestuvad nad täielikult ja ilma hoiatuseta.
Mida läbipaistvus tegelikult nõuab
Tõeline läbipaistvus tähendab, et saad iga otsuse jälgida läbi selgete loogiliste sammude. Mitte "usaldage meid, matemaatika töötab", vaid "siin on täpselt, miks, samm-sammult".
Kaasaegsed AI-platvormid nagu Dweve saavutavad selle mitme arhitektuurilise uuenduse koostoimel. Selle asemel, et läbipaistmatud ujukoma-kaalud jaotuksid üle miljonite ühenduste, sünnib intelligentsus kristalliseerunud piirangutest (selged loogilised reeglid), hübriidsest neuro-sümboolsest arutlusest (mustrituvastuse ja loogilise järeldamise kombineerimine) ning mitme agendi kontrollisüsteemidest (mitu spetsialiseerunud agenti kontrollivad üksteise tööd).
Kui süsteem teeb otsuse, suudab see sulle täpselt öelda, mis juhtus: "Tajumisagent tuvastas mustri X tunnustega Y ja Z. Arutlusagent rakendas piiranguid C1 ja C2, välistades variandi A. Otsustusagent valis variandi B, kuna see rahuldas piiranguid C3, C4 ja C5 100% loogilise rahuldatuse määraga." Mitte ebamäärased tõenäosusskoorid. Selge loogiline tuletus, mida saad kontrollida, auditeerida ja vaidlustada.
See on erinevus "mudel ütleb 73% tõenäosusega" (tõlge: meil pole aimugi, miks, aga statistika ütleb nii) ja "siin on loogiline tõestus, miks see järeldus järgneb nendest eeldustest" (tõlge: me saame oma tööd näidata, nagu koolis õppisid).
Formaalne kontroll ja tõestatav õigsus
Piirangupõhistele arhitektuuridele rajatud arenenud AI-süsteemid võimaldavad süsteemi käitumise matemaatilist kontrollimist. See on koht, kus arvutiteadus kohtub matemaatikaga kõige kaunimal viisil.
Formaalsete meetodite abil saab tõestada, et selline süsteem käitub alati etteantud piirides. Mitte "tõenäoliselt õige testimise põhjal" ega "töötas meie simulatsioonis hästi". Tõestatavalt õige matemaatilise tõestuse kaudu. Selline tõestus, mis paneks matemaatiku heakskiitvalt noogutama, mitte punase pliiatsi järele haarama.
See on oluline kriitiliste süsteemide puhul. Kui AI juhib meditsiiniseadmeid Rotterdami haiglates, haldab finantssüsteeme Amsterdami pankadele või opereerib kriitilist taristut üle Euroopa, vajame matemaatilisi garantiisid õigest käitumisest kõikides tingimustes. "Ups, seda äärejuhtumit me ei testinud" pole vastuvõetav, kui kaalul on elud ja elatusvahendid.
Traditsioonilised närvivõrgud ei suuda neid garantiisid pakkuda. Nende käitumine tuleneb miljonitest õpitud parameetritest, mis mõjutavad üksteist viisil, mida keegi täielikult ei mõista. Piirangupõhised võrgud suudavad oma käitumist matemaatiliselt tõestada, samamoodi nagu saab tõestada Pythagorase teoreemi. See on tõene, sest loogika nõuab seda, mitte sellepärast, et treeningandmed seda soovitasid.
Eksplitsiitne määramatuse kvantifitseerimine
Praegused tehisintellektisüsteemid väljendavad kindlust tõenäosushinnangute kaudu. Kuid need hinnangud mõõdavad sageli statistilist kindlust mustri suhtes, mitte tegelikku kindlust tõe osas.
Süsteem võib olla täiesti vale vastuse suhtes 99% kindel, kui vale vastus järgib treeningandmetes tugevaid statistilisi mustreid.
Binaarsed piirangusüsteemid käsitlevad määramatust teisiti. Kui piirangud on täielikult täidetud, järeldub järeldus loogiliselt. Kui piirangud on osaliselt täidetud või vastuolulised, teatab süsteem selgesõnaliselt: „Antud piirangute raames ei eksisteeri kehtivat lahendust."
See on aus määramatus. Süsteem tunnistab, kui ta ei suuda kehtivale järeldusele jõuda, selle asemel et väljastada oma parimat statistilist oletust koos kindlushinnanguga.
ELi AI-määrus ja regulatiivsed nõuded
1. augustil 2024 jõustus ELi AI-määrus, millest sai maailma esimene terviklik tehisintellekti reguleeriv õigusakt. See ei ole Brüsseli bürokraatia ohjeldamatult möllamas. See on tunnistamine, et inimeste elu mõjutav tehisintellekt peab olema aruandekohustuslik. Uudne mõiste, ilmselt.
Artikkel 13 nõuab, et kõrge riskitasemega AI-süsteemid kavandataks nii, et kasutajad saaksid väljundeid tegelikult tõlgendada ja neid asjakohaselt kasutada. Artikkel 14 näeb ette inimjärelevalve (inimesed protsessis, kujutage ette). Artikkel 15 nõuab täpsust, robustsust ja küberturvalisust. Täielik rakendamine algab 2. augustil 2026 ning nõuete rikkumine võib maksma minna kuni 7% ülemaailmsest aastatulust või 35 miljonit eurot, olenevalt sellest, kumb rohkem võpatama paneb.
Binaarsed piiranguvõrgud täidavad neid nõudeid arhitektuuriliselt. Läbipaistvust ei lisata tagantjärele pärast seda, kui juristid paanikasse satuvad. See on põhimõtteline osa sellest, kuidas süsteem esimesest päevast alates töötab. Iga otsus on olemuslikult selgitatav, sest see järgib selgesõnalisi loogilisi piiranguid, mida regulaatorid saavad tegelikult auditeerida.
Mõju reaalses maailmas
Need arhitektuurilised erinevused toovad kaasa konkreetseid tagajärgi.
Tervishoius võib mitteseletatav AI saavutada testimisel kõrge täpsuse, kuid ebaõnnestuda kasutuselevõtul, sest see on õppinud näilisi seoseid. Binaarsed piirangusüsteemid suudavad oma diagnostilist loogikat tõestada, võimaldades meditsiinitöötajatel enne kasutuselevõttu põhjendusi kontrollida.
Rahanduses võivad musta kasti mudelid laene heaks kiita või tagasi lükata mustrite põhjal, mis sisaldavad ajaloolisi eelarvamusi. Piirangupõhised süsteemid muudavad otsustuskriteeriumid selgesõnaliseks, võimaldades õigluse auditeerimist.
Õigussüsteemides õõnestavad mitteseletatavad karistussoovitused õigusemõistmist. Selgitatav piiranguloogika võimaldab kohtunikel hinnata, kas põhjendused on kooskõlas õiguspõhimõtetega.
Vaatleme isejuhtivaid sõidukeid. Traditsioonilised närvivõrgud töötlevad andurite andmeid miljonite kaalutud ühenduste kaudu, et teha roolimis- ja pidurdusotsuseid. Kui midagi läheb valesti, ei suuda uurijad kindlaks teha, miks süsteem konkreetse valiku tegi. Põhjendus on jaotatud üle kogu võrgu viisil, mis trotsib inimlikku mõistmist.
Binaarsed piirangusüsteemid töötavad teisiti. Iga otsus rahuldab selgesõnaliste ohutuspiirangute kogumi. Kui süsteem pidurdab, saab põhjenduse jälile: „Piirang C1 tuvastas takistuse 8 meetri raadiuses. Piirang C2 nõuab pidurdamist, kui takistuse kaugus on alla 10 meetri ja kiirus ületab 50 km/h. Praegune kiirus 70 km/h. Seetõttu rakendati pidurdust." Seda põhjendust saab kontrollida, testida ja tõestada, et see on õige.
See erinevus on oluline sertifitseerimise ja vastutuse seisukohast. 7. juulil 2024 jõustusid uued ELi ohutuseeskirjad, millega kehtestati esimesed rahvusvahelised reeglid täiesti juhita sõidukitele. Eeskirjad nõuavad põhjalikke ohutushinnanguid, küberturvalisuse nõudeid ja intsidentidest teatamist enne sõidukite Euroopa teedele lubamist. Kuidas sertifitseerida süsteemi, mida ei saa täielikult kontrollida? Kuidas määrata vastutust, kui otsustusprotsess on läbipaistmatu? Traditsioonilised närvivõrgud tekitavad juriidilisi ja regulatoorseid õudusunenägusid. Binaarsed piirangusüsteemid pakuvad läbipaistvust, mida Euroopa regulaatorid tegelikult nõuavad.
Tootmises peab kvaliteedikontrolli tehisintellekt selgitama veaklassifikatsioone töötajatele, kes parandusmeetmeid rakendavad. Musta kasti süsteemid ei paku mingit ülevaadet: "viga tuvastatud 87% usaldusväärsusega." Piirangupõhised süsteemid selgitavad: "mõõde ületab tolerantsi 0,3 mm võrra positsioonil (x,y), pinna karedus rikub spetsifikatsiooni tsoonis Z3." Töötajad saavad seda teavet protsesside kohandamiseks kasutada.
Muster on selge: selgitatavus ei ole luksusfunktsioon. See on hädavajalik selleks, et tehisintellekti süsteemid saaksid integreeruda inimeste töövoogudesse ja otsustusprotsessidesse. Ilma läbipaistvuseta jääb tehisintellekt isoleerituks, kontrollimatuks ja lõpuks ebausaldusväärseks.
Aus tehisintellekti ehitamine Dweve'is
Dweve'is oleme ehitanud täieliku tehisintellekti platvormi, mis muudab läbipaistvuse vältimatuks. Mitte järelmõttena või vastavusmärkena, vaid põhiarhitektuurina.
**Dweve Core** pakub 1930 riistvara jaoks optimeeritud algoritmi binaarsete, piirangupõhiste ja spikivate närvivõrkude jaoks. Need ei ole teie vanaisa ujukomaoperatsioonid, mis nõuavad GPU-klastreid. Need töötavad tõhusalt tavalistel protsessoritel, tarbides 96% vähem energiat kui traditsioonilised lähenemisviisid.
**Dweve Loom** koordineerib 456 valdkonnaspetsialistist koosnevat süsteemi, millest igaüks on valdkonnaspetsialist. Iga ülesande jaoks aktiveeruvad ainult asjakohased valdkonnaspetsialistid (tavaliselt 4 kuni 8 456-st), luues tohutu teadmiste mahu minimaalse arvutusliku jalajäljega. See on nagu 456 konsultanti palgal, kuid maksad ainult nende eest, keda tegelikult kasutad.
**Dweve Nexus** rakendab mitme agendi intelligentsust 31+ tajuekstraktoriga, 8 eristuva arutlusrežiimiga ja hübriidse neuro-sümbolilise integratsiooniga. Mitu spetsialiseeritud agenti tajuvad, arutlevad, otsustavad ja tegutsevad, kusjuures iga agendi loogika on täielikult jälgitav. Kui süsteem jõuab järeldusele, näete, millised agendid milliseid teadmisi andsid.
**Dweve Aura** pakub autonoomset arendusabi 32 spetsialiseeritud agendi kaudu, mis on organiseeritud 6 orkestreerimisrežiimi. Alates tavapärasest üheagendi täitmisest kuni parve-režiimi paralleelse uurimiseni ja konsensusrežiimi mitme-LLM-i aruteluni kohandab süsteem oma kognitiivset arhitektuuri käsiloleva ülesande järgi.
**Dweve Spindle** haldab teadmiste kvaliteeti 7-astmelise epistemoloogilise torustiku kaudu. Informatsioon liigub kandidaadilt kanooniliseks alles pärast ranget kontrolli, kusjuures 32 spetsialiseeritud agenti tagavad, et iga teadmistükk vastab kvaliteedilävenditele enne, kui see koolitab tulevasi mudeleid.
**Dweve Mesh** detsentraliseerib kõik selle, võimaldades föderatiivset õpet avalikes ja privaatsetes võrkudes äärmusliku veataluvusega. Võrk jätkab tööd isegi siis, kui 70% sõlmedest ebaõnnestuvad. Andmesuveräänsus jääb kohalikuks, võrgus liiguvad ainult krüpteeritud mudelivärskendused.
**Dweve Fabric** toob kõik kokku ühtsesse juhtpaneeli, kus kasutajad juhivad agente, töövooge, mudeleid ja reaalajas AI-vestlusi täieliku läbipaistvuse ja päritolujälgimisega.
Iga otsus kogu selle platvormi ulatuses jälgib läbi eksplitsiitsete loogiliste sammude. Regulaatorid saavad auditeerida piirangute aluseid ja põhjendusahelaid. Valdkonnaeksperdid saavad kontrollida, kas loogika vastab nende arusaamale. Kasutajad näevad täpselt, miks süsteem jõudis igale järeldusele, millised agendid panustasid ja millised piirangud olid täidetud.
See on AI, mis on loodud vastutustundlikkuseks nullist. Mitte sellepärast, et me oleksime toredad inimesed (kuigi me oleme), vaid sellepärast, et arhitektuur muudab ebaaususe arhitektuuriliselt võimatuks.
Põhimõtted ausa intelligentsuse taga
Me ehitasime Dweve kümnele põhiprintsiibile:
- Tõde üle kaasatuse. Optimeeri faktilise õigsuse, mitte kasutaja hoidmise nimel. Ausad vastused on olulisemad kui veenvad.
- Läbipaistvus üle jõudluse. Selgitatav põhjendamine kaalub üles marginaalse täpsuse kasu musta kasti mudelitest. Arusaamine on oluline.
- Määramatus üle enesekindluse. Eksplitsiitne määramatus on parem kui vale enesekindlus. Kui süsteem ei tea, ütleb ta seda.
- Kontrollimine üle usalduse. Paku matemaatilist tõestust õigsusest, selle asemel et paluda kasutajatel süsteemi usaldada.
- Loogika üle tõenäosuse. Deterministlik piirangute rahuldamine kaalub üles statistilise mustrituvastuse kriitiliste otsuste puhul.
- Inimesed üle mõõdikute. Teeninda inimeste vajadusi, mitte optimeerimiseesmärke. Tõde kaalub üles kaasatusmõõdikud.
- Ohutus üle mastaabi. Garanteeritud õige käitumine konkreetsetes valdkondades kaalub üles ligikaudse käitumise kõiges.
- Privaatsus üle andmete. Töötle kohalikult, kui võimalik. Minimeeri andmekogumist ja tsentraliseerimist.
- Sõltumatus üle lukustumise. Väldi müüja sõltuvusi ja patenteeritud arhitektuure.
- Euroopa väärtused. Kohtle regulatsiooni kui disainijuhist. Ehita vastavus sisse algusest peale.
Miks Euroopa lähenemine on oluline
Euroopa regulatiivne lähenemine tehisintellektile ei pidurda innovatsiooni, hoolimata sellest, mida Silicon Valley lobitöö üritab meile sisendada. See suunab innovatsiooni tulemuste poole, mille pärast ei pea hiljem parlamentide ees vabandama.
ELi tehisintellekti määrus tunnistab, et AI-süsteemid, mis mõjutavad põhiõigusi (tervishoid, õigusemõistmine, krediit, tööhõive), peaksid olema läbipaistvad, õiglased ja aruandekohustuslikud. Revolutsiooniline mõte: võib-olla peaks algoritm, mis otsustab, kas saad laenu, end ise selgitama. See regulatiivne raamistik soodustab arhitektuure, mis tagavad need omadused juba disaini kaudu, mitte hilisema vastavusplaastrina.
Arenenud AI-arhitektuurid, mis ühendavad piirangupõhise arutluse, mitme agendi süsteemid ja hübriidsed neuro-sümboolsed lähenemised, sobivad selle visiooniga täiuslikult. Nad ei püüa regulatsioonidest nutikate lünkade kaudu mööda hiilida. Nad kehastavad põhimõtteid: läbipaistvus selgete arutlusahelate kaudu, õiglus auditeeritava loogika kaudu, aruandekohustus tõestatava käitumise kaudu.
See on Euroopa võimalus juhtida AI arengut usaldusväärsete ja kontrollitavate süsteemide suunas, mitte "liigu kiiresti ja lõhu demokraatia" lähenemise poole, mida mujal eelistatakse. Nimetage meid vanamoelisteks, aga me eelistame, et meie AI-süsteemid ei vajaks kongressi kuulamisi.
Regulatiivne lähenemine loob konkurentsieelise, mitte koorma. Kui Ameerika ettevõtted lisavad selgitatavust tagantjärele arhitektuuridele, mis sellele vastu töötavad (õnne soovime tähelepanumaatriksite selgitamisel GDPR-i audiitorile), siis Euroopa ettevõtted ehitavad läbipaistvuse juba vundamenti. Kui teised üritavad täita nõudeid, mille vastu nad ise lobitasid, siis Euroopa ettevõtted kavandavad süsteeme, mis vastavad nõuetele loomulikult, sest me rääkisime regulaatoritega juba disainifaasis.
See ei ole regulatiivne koorem, mis meid aeglustab. See on strateegiline suund, mis meid kiirendab. Euroopa mõistis varakult, et kriitilistes süsteemides kasutatav AI peab olema usaldusväärne. Regulatsioonid kodifitseerivad selle arusaama. Piirangupõhised, mitme agendi ja hübriidsed arhitektuurid on nende põhimõtete tehniline teostus.
Globaalne tehisintellekti turg nõuab üha enam seda, mida Euroopa regulatsioonid ette näevad: selgitatavust, auditeeritavust, tõendatavat ohutust. Nende nõuete alusel arendatud Euroopa tehisintellekti platvormidel on esimese tegutseja eelis. Kui California lõpuks oma tehisintellekti regulatsiooni vastu võtab (pärast kolmandat suurt skandaali), kui Peking nõuab Hiinas kasutatavate süsteemide läbipaistvust ja kui iga teine jurisdiktsioon mõistab, et „usaldage tehnikageeniusi" ei ole juhtimisstrateegia, on Euroopa tehnoloogia valmis. Sest me oleme selle reaalsuse jaoks ehitanud esimesest päevast peale.
Tee edasi
Oleme tehisintellekti arendamise otsustuspunktis.
Üks tee jätkab traditsiooniliste närvivõrkude skaleerimist: suuremad mudelid, rohkem parameetreid, rohkem andmeid, vähem tõlgendatavust. See tee viib võimsate, kuid vastutuseta süsteemideni.
Teine tee ehitab tehisintellekti loogilistele alustele: selged piirangud, formaalne kontroll, tõendatav õigsus. See viib süsteemideni, mida saame kriitilistes rakendustes tõeliselt usaldada.
Dweve on valinud teise tee. Meie binaarsed piirangute võrgustikud tagavad täieliku selgitatavuse, formaalse kontrolli ja ELi tehisintellekti määruse järgimise arhitektuuri kaudu.
Küsimus tööstusele on: millist tulevikku tahame ehitada?
Valikul on sügavad tagajärjed. Traditsioonilised närvivõrgud optimeerivad võimekust iga hinna eest. Binaarsed piirangute võrgustikud optimeerivad usaldusväärset võimekust. Esimene lähenemine annab muljetavaldavaid demonstratsioone. Teine annab kasutatavaid süsteeme.
Näeme erinevust kasutuselevõtu mustrites. Traditsiooniline tehisintellekt paistab silma madala panusega rakendustes: sisusoovitused, pildigeneratsioon, teksti lõpetamine. Binaarne piirangutel põhinev tehisintellekt paistab silma kõrge panusega valdkondades: meditsiiniline diagnoosimine, finantsotsused, autonoomsed süsteemid, tööstuslik juhtimine.
Jaotus peegeldab põhimõttelisi arhitektuurilisi erinevusi. Kui õigsus on olulisem kui katvus, kui selgitatavus on kohustuslik, kui formaalne kontroll on nõutud, võidavad piirangutel põhinevad lähenemised. Kui lai võimekus on olulisem kui garantiid, piisab statistilistest meetoditest.
Kuid maastik on muutumas. Kui tehisintellekt liigub kriitilistesse süsteemidesse, muutub usaldusväärsus hädavajalikuks. Arhitektuurid, mis seda pakuvad, saavad eelise. Need, mis ei paku, seisavad silmitsi takistustega: regulatiivne tagasilükkamine, vastutusküsimused, turu vastuseis.
Binaarsed piirangute võrgustikud ei ole tulevik sellepärast, et nad on uudsed. Nad on tulevik, sest nad lahendavad probleeme, mis on olulised: läbipaistvus, vastutus, tõendatav ohutus. Nad pakuvad seda, mida kriitilised süsteemid vajavad ja mida regulatsioonid nõuavad.
Tee edasi on selge. Ehitage tehisintellekti, mida saate selgitada. Kavandage süsteeme, mida saate kontrollida. Juurutage intelligentsust, mida saate usaldada. See on aus tehisintellekt. See on arhitektuur, mis skaleerub kõrge panusega valdkondadesse. Seda ehitab Euroopa.
Dweve arendab läbipaistvat tehisintellekti piirangupõhise arutluse, mitme agendi süsteemide ja hübriidsete neuro-sümboolsete arhitektuuride kaudu. Iga otsus on jälgitav selgete loogiliste reeglite kaudu. Iga järeldus on kontrollitav formaalsete meetoditega. ELi AI-määrusele vastav juba disainilt. Asub Hollandis, teenindab ainult Euroopa organisatsioone.