Formalna verifikacija: edina pot do zadovoljitve AI regulatorjev
Pogovor, ki nikoli ne poteče dobro
Predstavljajte si ta prizor. Vsak teden se dogaja v sejnih sobah po vsej Evropi, na pregledih pri FDA, v pisarnah zavarovalniških ocenjevalcev tveganj. Inženir umetne inteligence predstavi svoj najnovejši sistem regulatorjem, pravnikom ali ocenjevalcem tveganj.
»Naša avtonomna inzulinska črpalka je dosegla 99,97-odstotno natančnost v 50 milijonih testnih scenarijev,« ponosno naznani inženir in klikne na prosojnico, polno impresivnih meritev. »Vrhunska tehnologija. Boljša od katerega koli človeškega endokrinologa.«
V prostoru nastane tišina. Regulatorka se nagne naprej.
»Torej mi pravite,« reče počasi, »da so od vsakih 10.000 odmerkov inzulina, ki jih ta naprava aplicira, morda trije napačni?«
Inženir se nemirno premakne. »No, statistično gledano ...«
»Samo v Nemčiji ima približno 7 milijonov ljudi sladkorno bolezen, ki zahteva zdravljenje z inzulinom. Če vsak prejme le štiri odmerke na dan, je to 28 milijonov dnevnih aplikacij. Pri vaši 0,03-odstotni stopnji napak ...« Na bloku si izračuna. »To je 8.400 morebitnih napak pri odmerjanju. Vsak dan.«
»Ampak večina teh ne bi bila klinično pomembnih ...«
»Mi lahko poveste, katere bi bile?«
Tišina.
»Mi lahko poveste, kdaj bo prišlo do naslednje okvare? Mi lahko poveste, zakaj bo prišlo do okvare?«
Spet tišina.
»Potem se bojim, da te naprave ne moremo odobriti.«
Ta pogovor se v različnih oblikah nenehno ponavlja, ko se umetna inteligenca seli iz raziskovalnih laboratorijev v fizični svet. In razkriva temeljno epistemološko vrzel med tem, kako inženirji umetne inteligence razmišljajo o varnosti, in tem, kako o njej razmišljajo regulatorji, pravniki in sodišča.
Jezikovna ovira, ki ni jezikovna
Ko inženir za umetno inteligenco reče »99,97-odstotna natančnost«, resnično verjame, da opisuje nekaj impresivnega in varnega. V svetu meril za strojno učenje bi ta številka pomenila uspeh. Objavili bi razprave. Vlagatelji bi bili navdušeni.
Toda regulator sliši nekaj povsem drugega. Sliši: »Obstaja majhna, a ne ničelna verjetnost, da bo ta sistem katastrofalno odpovedal, in nimamo pojma, kdaj, kje ali zakaj se bo to zgodilo.«
To ni komunikacijski problem. Ne gre za to, da bi inženirji potrebovali boljše veščine predstavljanja ali da bi regulatorji potrebovali tehnično izobrazbo. Gre za temeljno nasprotje med dvema različnima pojmovanjema tega, kaj »vedeti, da nekaj deluje« dejansko pomeni.
Pri potrošniški programski opremi so verjetnostni pristopi povsem sprejemljivi. Če Netflix priporoči film, ki ga sovražite, nihče ne umre. Če Spotify predlaga skladbo, ki ne ustreza vašemu okusu, je najslabši možni izid blaga jeza. Ti sistemi si lahko privoščijo, da se včasih zmotijo, ker so stroški napake zanemarljivi.
Toda umetna inteligenca se hitro pomika onkraj potrošniških priporočil na področja, kjer ima napaka fizične, pravne in moralne posledice: avtonomna vozila, ki se v delčku sekunde odločajo o pešcih, medicinske naprave, ki izračunavajo odmerke zdravil, industrijski roboti, ki delujejo skupaj s človeškimi delavci, finančni sistemi, ki odobravajo ali zavračajo kredite, kar določa, ali si družine lahko kupijo domove.
Na teh področjih »precej prepričani, da deluje« ni dovolj. Sodišča ne sprejemajo porazdelitev verjetnosti kot dokazov. Zavarovalniški aktuarji ne morejo določiti cen polic za neznane načine odpovedi. Regulatorji ne morejo odobriti naprav, ki bi lahko ubile ljudi iz razlogov, ki jih nihče ne more pojasniti.
Zakaj testiranje, ne glede na to, kako obsežno je, ne more zagotoviti varnosti
Prevladujoča paradigma pri vrednotenju umetne inteligence danes je empirično testiranje na izločenih naborih podatkov. Model naučite na naboru podatkov A, nato pa ga ovrednotite na naboru podatkov B. Če se na B dobro obnese, predpostavite, da se je »naučil« osnovne naloge in da bo posplošil na delovanje v resničnem svetu.
Ta pristop ima tri temeljne težave, ki jih nobena količina testiranja ne more rešiti.
Prva težava: neskončni prostor vhodnih podatkov
Testiranje lahko dokaže le prisotnost napak, nikoli pa njihove odsotnosti. Ne glede na to, koliko testnih primerov izvedete, vzorčite iz neskončnega prostora vhodnih podatkov. Sistem, ki nadzoruje medicinsko napravo, mora obravnavati ne le testne scenarije, ki ste si jih zamislili, temveč vsako možno kombinacijo pacientovih fizioloških značilnosti, okoljskih pogojev, odčitkov senzorjev in robnih primerov, ki jih bo resnični svet sčasoma ustvaril.
Predstavljajte si, da poskušate dokazati, da v senu ni igel, tako da naključno dvigujete koščke sena. Ko pregledate milijon kosov in ne najdete nobene igle, ne morete sklepati, da je seno brez igel. Lahko rečete le, da je še niste našli. Testiranje deluje na enak način. Ne glede na to, koliko scenarijev uspe, lahko naslednji spodleti.
Druga težava: ranljivost na sovražne vnose
Globoke nevronske mreže so še posebej ranljive za sovražne vnose. To so skrbno oblikovane motnje, zaradi katerih modeli katastrofalno odpovejo, čeprav se človeškim opazovalcem zdijo normalne.
Model bi lahko pravilno prepoznal znake za ustavljanje v 99,99 % primerov, a majhna nalepka na točno določenem mestu bi lahko povzročila, da bi znak samozavestno prepoznal kot znak za omejitev hitrosti. Model bi lahko natančno prepoznal zdravstvena stanja na tisočih rentgenskih posnetkih, a določen vzorec šuma, neviden človeškim radiologom, bi lahko povzročil, da bi spregledal očitne tumorje.
To niso zgolj teoretične skrbi. Raziskovalci so dokazali sovražne napade na vsak večji razred arhitektur nevronskih mrež. In napade je vse lažje izvesti, medtem ko obramba ostaja nepopolna.
Testiranje ne more zaščititi pred sovražnimi ranljivostmi, ker je napadalna površina neskončna. Testirati bi morali ne le običajne vnose, ampak vsako možno motnjo vsakega običajnega vnosa. To je matematično nemogoče.
Tretji problem: premik porazdelitve
Resnični svet ne miruje. Porazdelitev podatkov, na katerih je bil model usposobljen, se bo sčasoma spremenila. Populacije pacientov se spreminjajo. Pogoji vožnje se razvijajo. Proizvodni procesi se razlikujejo. Prihaja do degradacije senzorjev.
Model, ki danes deluje popolno na trenutnih podatkih, lahko tiho odpove, ko se jutrišnji podatki premaknejo izven njegove učne porazdelitve. In za razliko od izrecnih napak, ki povzročijo zrušitev programov, te napake pogosto ustvarijo samozavestne, verjetne, a napačne rezultate.
Testiranje na današnjih podatkih vam ne pove ničesar o jutrišnji uspešnosti. Ko opazite napako v produkciji, je škoda že nastala.
Formalna verifikacija: matematika kot univerzalni jezik varnosti
Formalna verifikacija ponuja povsem drugačen pristop. Namesto vprašanja »ali je sistem deloval na teh testnih primerih?« se vpraša »ali lahko matematično dokažemo, da bo sistem izpolnil lastnost za vse možne vnose?«
Razlika je temeljna. Testiranje vzorči prostor vnosov. Verifikacija izčrpno razmišlja o celotnem prostoru.
Predstavljajte si robotsko roko, ki dela skupaj z ljudmi v tovarni. Želimo zagotoviti varnostno lastnost: »Roka nikoli ne sme preseči 2 metrov na sekundo, ko je v polmeru 1 metra zaznan človek.«
Testni pristop poganja roko skozi na tisoče scenarijev s simuliranimi ljudmi na različnih položajih in hitrostih ter meri, ali je varnostna meja kdaj prekoračena. Če kršitev ni opaziti, se sistem razglasi za »varnega«. Toda naslednji scenarij, tisti, ki ni bil testiran, bi lahko bil tisti, ki poškoduje delavca.
Verifikacijski pristop je bistveno drugačen. Vzamemo matematični model krmilnega sistema, vključno z nevronsko mrežo, ki obdeluje podatke senzorjev, in krmilnikom, ki ustvarja ukaze za motorje. Varnostno lastnost izrazimo kot formalno omejitev. Nato uporabimo specializirane algoritme, imenovane reševalniki SMT (Satisfiability Modulo Theories), da odgovorimo na natančno vprašanje: »Ali obstaja KAKRŠNA koli konfiguracija vnosov, znotraj veljavnega delovnega območja, za katero izhodna hitrost preseže 2 m/s, ko je zaznana bližina človeka?«
Reševalnik ne testira naključnih točk. Analizira matematično strukturo celotnega sistema. Razmišlja o geometriji prostora funkcij. Če vrne »UNSAT« (nezadovoljivo), imamo matematični dokaz, da takšen kršilni vnos ne obstaja. Varnostna lastnost ne velja le za primere, ki smo jih testirali, ampak za vsak možen primer, ki bi se lahko kdaj zgodil.
To je razlika med »preveril sem veliko mostov in nobeden se ni podrl« in »fizika teh materialov matematično zagotavlja, da se ta most ne more podreti pod to obremenitvijo«. Eno je empirično opazovanje, ki ga je mogoče revidirati. Drugo je logična gotovost.
Zakaj se sodobna umetna inteligenca upira verifikaciji
Če je formalna verifikacija tako močna, zakaj je ne uporabljajo vsi? Zakaj se podjetja, kot sta OpenAI in Google, zanašajo na »red teaming« (ljudi, ki poskušajo zlomiti model) namesto na matematične dokaze?
Odgovor je v arhitekturnih odločitvah, ki jih je sprejela industrija. Sodobni veliki jezikovni modeli in globoke nevronske mreže so zasnovani za izraznost, ne za preverljivost. Optimizirani so za ustvarjanje kreativnih rezultatov, ne za matematično analizabilnost.
Tipičen transformatorski model ima milijarde ali bilijone parametrov. Uporablja kompleksne, nelinearne aktivacijske funkcije, kot sta GeLU ali Swish. Matematična kompleksnost preverjanja takega sistema eksponentno narašča s številom nevronov in globino mreže.
Dokazovanje lastnosti na transformatorju z milijardo parametrov je računsko neobvladljivo. Vesolje bi doseglo toplotno smrt, preden bi reševalnik končal raziskovanje vseh matematičnih vej. Industrija je zgradila sisteme, tako zapletene, da jih niti njihovi ustvarjalci ne morejo v celoti analizirati.
To je oblikovalska odločitev, ne neizogibnost. Industrija se je optimizirala za impresivne predstavitve in rezultate primerjalnih testov, ne da bi upoštevala, ali bi bilo mogoče nastale sisteme sploh kdaj varno uvesti v reguliranih okoljih.
Arhitektura Dweve: Preverljiva po zasnovi
Pri podjetju Dweve smo sprejeli drugačne arhitekturne odločitve. Naše sisteme smo od začetka zasnovali tako, da so preverljivi, ker smo razumeli, da bodo poslovni in industrijski uporabniki sčasoma morali zadovoljiti regulatorje, ne le navdušiti jih.
Naš pristop združuje dve ključni novosti, ki omogočata obvladljivo preverjanje.
Odkrivanje binarnih omejitev: Preprosta matematika
Namesto ogromnih nevronskih mrež s plavajočo vejico z milijardami zveznih parametrov sistemi Dweve uporabljajo odkrivanje binarnih omejitev. Znanje je predstavljeno kot diskretne logične omejitve in ne kot naučene zvezne uteži.
Naša knjižnica Dweve Core vsebuje algoritme, optimizirane za strojno opremo, zgrajene na binarnih operacijah: XNOR, AND, OR, POPCNT. Danes to pomeni stotine tisoč ročno prilagojenih jeder za 2.900+ operacij v 76 kategorijah. Te operacije imajo preproste, dobro razumljive matematične lastnosti. Binarna omejitev bodisi velja bodisi ne velja. Tu ni verjetnostne negotovosti.
Z omejitvijo matematike na preproste linearne odnose in logiko Boolove algebre dramatično zmanjšamo prostor iskanja pri preverjanju. Problemi, ki bi bili za zvezne nevronske mreže nerešljivi, postanejo rešljivi za naše sisteme binarnih omejitev. Problem preverjanja se spremeni iz nemogoče nelinearne optimizacije v rešljive probleme mešanega celega linearnega programiranja (MILP) ali SAT.
To so še vedno računsko zahtevni problemi, vendar lahko sodobni reševalniki za velikost sistemov, ki jih uvajamo v varnostno kritičnih aplikacijah, te probleme rešijo v sekundah ali minutah, ne v stoletjih.
Arhitektura omejene avtonomije s šestimi plastmi
Ne poskušamo preveriti vsakega vidika zaznavanja umetne inteligence. Zavedanje, da »mreža slikovnih pik predstavlja človeka«, je samo po sebi nejasna, verjetnostna presoja. Formalno ne morete dokazati, da je prepoznavanje vzorcev vedno pravilno, ker je pravilnost odvisna od subjektivnih definicij.
Namesto tega izvajamo večplastno varnostno arhitekturo, kjer so verjetnostne komponente umetne inteligence omejene s formalno preverjenimi logičnimi omejitvami. Umetna inteligenca lahko predlaga dejanja, vendar morajo ta dejanja pred izvedbo prestati preverjene varnostne vstopne točke.
Dweve Nexus izvaja šest plasti uveljavljanja varnosti:
- Preverjanje namena: Potrjuje, da so dejanja umetne inteligence usklajena z razglašenimi cilji
- Omejena avtonomija: Trde omejitve glede dovoljenih dejanj ne glede na predloge umetne inteligence
- Moderacija vsebine: Filtrira rezultate glede varnosti in ustreznosti
- Uveljavljanje etike: Zagotavlja skladnost z opredeljenimi etičnimi omejitvami
- Zaznavanje anomalij: Prepoznava, kdaj se vedenje umetne inteligence oddalji od pričakovanih vzorcev
- Sprotno spremljanje: Nenehno preverjanje, da so varnostne nespremenljivke ohranjene
Ključno spoznanje je, da moramo formalno preveriti le varnostne plasti, ne celotnega sistema umetne inteligence. Tudi če osnovna umetna inteligenca naredi napako, plast omejene avtonomije matematično zagotavlja, da nevarni ukazi nikoli ne dosežejo aktuatorjev.
De regelgevende wiskunde: waarom verificatie bedrijfswaarde creëert
Za naše stranke formalna verifikacija ni akademska vaja. Je konkurenčna prednost, ki se neposredno prevede v poslovne rezultate.
Snellere goedkeuring door regelgevende instanties
Ko se proizvajalec medicinskih pripomočkov obrne na FDA ali EMA s sistemom, ki ga poganja umetna inteligenca, so regulatorji ustrezno previdni. Vedo, da je umetna inteligenca lahko nepredvidljiva. Standardni postopki odobritve zahtevajo leta kliničnih preskušanj, da statistično dokažejo varnost.
Toda proizvajalec, ki uporablja formalno verificirane komponente Dweve, lahko spremeni pogovor. Namesto da bi predstavil rezultate testov, ki dokazujejo "še nismo opazili napak", lahko predstavi matematične dokaze, ki dokazujejo, da so "napake v teh mejah nemogoče".
"Ne le mislimo, da ta inzulinska črpalka ne bo povzročila prevelikega odmerka pri bolnikih. Tukaj je formalni dokaz, da je izhodni odmerek matematično omejen z omejitvami bolnikove teže in ravni glukoze. Kršitev ni le malo verjetna. Logično je nemogoča."
To omogoča pospešene poti pregleda. Regulatorji lahko dokaz preverijo neodvisno. Ni jim treba zaupati procesu testiranja; matematiko lahko pregledajo neposredno.
Verlaagde verzekeringspremies
Aktuarji v zavarovalništvu se pri tradicionalnih sistemih umetne inteligence soočajo z nemogočim problemom. Kako določiti ceno tveganja za načine odpovedi, ki jih ne morete predvideti ali pojasniti? Rezultat so bodisi izjemno visoke premije za kritje neznanih tveganj bodisi izključitvene klavzule, zaradi katerih je zavarovanje praktično neuporabno.
Verificirani sistemi spremenijo aktuarski izračun. Če matematični dokaz zagotavlja, da se določene vrste okvar ne morejo zgoditi, lahko te načine okvar izključimo iz modela tveganja. Preostala tveganja so merljiva. Premije se ustrezno znižajo.
Juridische verdedigbaarheid
Ko sistemi umetne inteligence povzročijo škodo, sledijo sodni spori. Pri tradicionalnih uvedbah umetne inteligence je obramba sistema skoraj nemogoča. "Kako se je vaš sistem odločil?" "Točno ne vemo, to je nevronska mreža z milijardami parametrov ..." Ta odgovor ne prepriča nobenega sodnika ali porote.
Verificirani sistemi ponujajo drugačno obrambo: "Tukaj je varnostna omejitev. Tukaj je matematični dokaz, da omejitve ni mogoče kršiti. Škoda je nastala zunaj verificirane meje, kar kaže na zunanje dejavnike, ne na odpoved sistema."
Ne gre za izogibanje odgovornosti. Gre za to, da lahko natančno pokažete, katere garancije so bile dane in ali so bile izpolnjene. Sodišča razumejo formalno logiko. Razumejo matematične dokaze. Ne razumejo pa verjetnostnih intervalov zaupanja.
De EU AI-verordening: verificatie wordt verplicht
De theoretische voordelen van formele verificatie worden praktische vereisten. De AI-verordening van de EU, die in 2024 in werking trad met een gefaseerde uitvoering tot 2027, verandert fundamenteel wat er juridisch vereist is voor AI-implementaties in Europa.
Voor AI-systemen met een "hoog risico", waaronder medische hulpmiddelen, beslissingen over werkgelegenheid, beoordelingen van kredietwaardigheid en veel industriële toepassingen, vereist de wet:
- Risicobeheersingssystemen die voorzienbare risico's identificeren en beperken
- Kakovostni podatki za učenje z dokumentiranim poreklom
- Logmogelijkheden die het traceren van systeemgedrag mogelijk maken
- Transparantie voor gebruikers over door AI genomen beslissingen
- Menselijk toezichtsmechanismen die ingrijpen mogelijk maken
- Nauwkeurigheid, robuustheid en cyberbeveiliging die passend zijn voor de toepassing
Bodite pozorni na izrazje: "predvidljiva tveganja", "sledljivo vedenje", "natančnost, primerna uporabi". To niso nejasne želje. To so pravne zahteve z zobmi za izvrševanje, vključno z globami do 35 milijonov evrov ali 7 % svetovnega prometa.
Kako dokažete, da ste prepoznali in ublažili "predvidljiva tveganja" za nevronsko mrežo z milijardami parametrov, katere proces odločanja je nejasen tudi njenim ustvarjalcem? Kako pokažete, da je vedenje "sledljivo", ko sistem ustvarja izhode z nerazumljivimi matričnimi množenji?
Tradicionalne arhitekture umetne inteligence teh zahtev ne morejo izpolniti zgolj z dokumentacijo in testiranjem. Verificirani sistemi pa jih lahko. Dokaz je dokumentacija. Matematična garancija je ublažitev. Logične omejitve so sledljivost.
De 528 domeinspecialisten: controleerbare schaal
Pogost ugovor zoper verificirano umetno inteligenco je, da se verifikacija ne skalira. Za preproste sisteme z nekaj pravili verifikacija res deluje. Toda umetna inteligenca v resničnem svetu mora obvladovati kompleksno zaznavanje in sklepanje. Kako lahko verifikacija deluje na velikem obsegu?
Dweve Loom dokazuje, da verifikacija in zmogljivost nista medsebojno izključujoči. Naš temeljni model uporablja 528 specializiranih nizov omejitev, od katerih vsak vsebuje 64–128 MB binarnih omejitev. Toda za vsako dano poizvedbo se aktivira le 4–8 domenskih specialistov.
Ta arhitektura, ki jo imenujemo ultra-redka aktivacija, pomeni, da se napor verifikacije skalira z aktivno podmnožico, ne s celotnim modelom. Ni nam treba hkrati verificirati vseh 528 kombinacij domenskih specialistov. Verificiramo logiko usmerjanja, ki izbira domenske specialiste, in vsak niz omejitev domenskega specialista verificiramo neodvisno.
Sistem usmerjanja Permuted Agreement Popcount (PAP) uporablja zaznavanje strukturnih vzorcev za izbiro ustreznih domenskih specialistov. Ta plast usmerjanja je sama po sebi formalno preverljiva, ker deluje na diskretnih binarnih operacijah z dobro opredeljenimi matematičnimi lastnostmi.
Het resultaat is een systeem dat complexe, realistische taken aankan terwijl de verifieerbaarheid behouden blijft. We profiteren van de mogelijkheden van mixture-of-experts-architecturen, gecombineerd met de veiligheidsvoordelen van formele verificatie.
Implementatie: Hoe verificatie er in de praktijk uitziet
Za organizacije, ki razmišljajo o uvedbi verificirane umetne inteligence, praktični postopek vključuje več faz.
Fase 1: Specificatie van de eigenschap
Preden se verifikacija začne, morate opredeliti, katere lastnosti je treba verificirati. To je pogosto najtežji korak, ki zahteva tesno sodelovanje med domenskimi strokovnjaki, inženirji in pravnimi/kompleksnimi ekipami za skladnost.
Lastnosti morajo biti natančne in matematično izrazljive. "Sistem mora biti varen" ni preverljiva lastnost. "Ukaz za hitrost motorja ne sme preseči V_max, ko senzor bližine zazna razdaljo, manjšo od D_min" je preverljiv.
Pri Dweve strankam pomagamo skozi ta postopek specifikacije s platformo Spindle, našo platformo za upravljanje znanja v podjetjih. Hierarhija 32 agentov vključuje strokovnjake za regulativno skladnost, ki pomagajo prevajati pravne zahteve v formalne omejitve.
2. faza: preslikava arhitekture
Arhitekturo sistema umetne inteligence je treba preslikati v formalni model, ki ga lahko analizirajo orodja za preverjanje. Pri sistemih Dweve je ta preslikava preprosta, ker je bila naša arhitektura binarnih omejitev zasnovana za preverljivost.
Za organizacije z obstoječimi namestitvami nevronskih mrež lahko ta faza zahteva arhitekturne spremembe. Dodajanje plasti omejene avtonomije okoli obstoječih modelov, izvajanje varnostnih omejitev kot preverjenih ovojnic ali v nekaterih primerih zamenjava nepreverljivih komponent z enakovrednimi komponentami Dweve.
3. faza: izvedba preverjanja
Sodobni reševalniki SMT in orodja za formalno preverjanje analizirajo model sistema, da bodisi dokažejo določene lastnosti bodisi identificirajo protiprimere. Protiprimeri so neprecenljivi, saj razkrijejo, kateri vnosi bi lahko kršili varnostne omejitve, kar omogoča ciljno usmerjene popravke.
Pri sistemih Dweve se preverjanje običajno zaključi v nekaj minutah do urah, odvisno od zahtevnosti omejitev.
4. faza: certificiranje in dokumentacija
Preverjene lastnosti ustvarijo dokazne artefakte, ki služijo kot dokazilo za certificiranje. Ti dokazi so strojno preverljivi, kar pomeni, da jih lahko regulatorji neodvisno preverijo s standardnimi orodji za preverjanje dokazov, ne da bi zaupali prvotnemu postopku preverjanja.
Dweve samodejno ustvarja dokumentacijo o skladnosti iz rezultatov preverjanja in jo daje na voljo prek portala Fabric in API-ja. Isti dokazi, ki zadovoljijo reševalnik, postanejo paket dokazil za regulativno oddajo.
Prihodnost: preverjena umetna inteligenca kot standardna praksa
Smo na prelomni točki pri uvajanju umetne inteligence. Doba »hitro napreduj in podiraj stvari« se za aplikacije z visokimi vložki končuje. Regulativno okolje se zaostruje. Izpostavljenost odgovornosti narašča. Zavarovalniški izzivi se kopičijo.
Organizacije, ki uvajajo umetno inteligenco v reguliranih panogah, so pred izbiro. Lahko nadaljujejo s tradicionalnimi arhitekturami in se soočajo z vse večjimi trenji: daljšimi postopki odobritev, višjimi zavarovalnimi stroški, večjo pravno izpostavljenostjo in morebitno izključitvijo s trga, ko začnejo veljati predpisi.
Ali pa lahko sprejmejo preverjene arhitekture, ki regulatorje zadovoljijo z matematično gotovostjo namesto s statističnim upanjem.
Revolucija preverjanja ne pomeni, da bo umetna inteligenca manj zmogljiva. Gre za to, da umetna inteligenca postane zaupanja vredna na načine, ki so pomembni za vse zunaj raziskovalnega laboratorija: paciente, operaterje, zavarovalnice, regulatorje in sodišča. Gre za gradnjo umetne inteligence, ki jo lahko ljudje dejansko uvajajo z zaupanjem.
Pri Dweve verjamemo, da prihodnost pripada sistemom umetne inteligence, ki lahko dokažejo svojo varnost, ne le obljubijo. Naša arhitektura, od preverjenih algoritmov v Core do šestih plasti omejene avtonomije v Nexus in 528 nizov omejitev za domenske strokovnjake v Loom, je zgrajena od temeljev za to prihodnost.
Matematika gotovosti ni omejitev za napredek umetne inteligence. Je temelj za uvajanje umetne inteligence v velikem obsegu.
Ste pripravljeni uvesti umetno inteligenco, ki jo lahko odobrijo regulatorji? Formalno preverjena arhitektura podjetja Dweve zagotavlja matematična jamstva, ki regulativne ovire spremenijo v konkurenčne prednosti. Stopite v stik z nami, da se pogovorimo o tem, kako lahko preverjanje pospeši vašo pot na trg in hkrati zmanjša vašo izpostavljenost odgovornosti.