Sąžiningo DI manifestas: kodėl mums reikia skaidraus intelekto
Architektūrinė šiuolaikinio dirbtinio intelekto problema
Šiuolaikinės dirbtinio intelekto sistemos turi esminį dizaino trūkumą, kurio niekas pramonėje nenori spręsti: jos sukurtos skambėti teisingai, o ne būti teisingos.
Pažiūrėkite, kaip veikia didieji kalbos modeliai. Jie analizuoja milijardus tekstų pavyzdžių, randa statistinius dėsningumus ir nuspėja, kurie žodžiai skambėtų tikėtinai kartu. Nėra patikros žingsnio. Nėra tiesos tikrinimo. Nėra supratimo, ar rezultatas faktiškai teisingas. Tik šablonų atpažinimas ir prognozavimas.
Šis architektūrinis sprendimas reiškia, kad šios sistemos užtikrintai generuos neteisingą informaciją, kai neteisingas atsakymas atitinka įprastus kalbinius modelius. Tai ne klaida, kurią galima ištaisyti. Taip jos sukurtos veikti.
Ir diegiamės šias sistemas ligoninėse, teismo salėse ir finansų įstaigose visoje Europoje.
Vien Nyderlanduose tokios įmonės kaip „ScreenPoint Medical“ naudoja dirbtinį intelektą krūties vėžio nustatymui. „Delft Imaging“ jį taiko tuberkuliozės diagnostikai. „Thirona“ plaučių skenavimo duomenis analizuoja giliuoju mokymusi. Kai šios sistemos suklysta dėl žmogaus sveikatos, „modelis buvo 87 % įsitikinęs“ nėra pakankamas atsakymas. Nuo to priklauso žmonių gyvybės.
Problema yra gilesnė nei pavieniai klaidos atvejai. Tradiciniai neuroniniai tinklai optimizuojami statistiniam tikėtinumui, o ne tiesai. Jie išmoksta numatyti, koks atsakymas paprastai sektų po pateikto įvesties duomens, remdamiesi mokymo duomenų šablonais. Kai tie šablonai yra tikslūs, sistema veikia gerai. Kai šablonai klaidina, sistema žlunga sistemingai.
Apsvarstykite medicininę diagnozę. Tradicinis neuroninis tinklas gali išmokti, kad tam tikri simptomai koreliuoja su konkrečiomis ligomis mokymo duomenyse. Tačiau koreliacija nėra priežastingumas. Jei mokymo duomenyse yra regioninių šališkumų, modelis išmoksta tuos šališkumus. Jei retos ligos yra nepakankamai atstovaujamos, modelis jų nepripažįsta. Architektūra neturi mechanizmo atskirti tikrus medicininius ryšius nuo statistinių artefaktų.
Tai sukuria pasitikėjimo krizę. Kaip diegti dirbtinį intelektą didelės rizikos aplinkose, kai negalite patikrinti jo samprotavimų? Kaip paaiškinti pacientui, kodėl DI rekomendavo konkretų gydymą, kai pati sistema negali artikuliuoti savo logikos? Kaip atlikti šališkumo auditą, kai sprendimų procesas yra juodoji dėžė, pilna matricų daugybos?
Kaip neuroniniai tinklai iš tikrųjų priima sprendimus
Tradiciniai neuroniniai tinklai veikia per svertinių ryšių sluoksnius. Įvestis praeina per kelis sluoksnius, kurių kiekvienas atlieka matematines transformacijas, kol gaunama išvestis su susijusiu pasitikėjimo balu.
Problema? Negalite atsekti, kodėl buvo priimtas sprendimas. Sistema mokymo metu išmoko milijonus svorio reikšmių. Kai ji pateikia rezultatą, matote, kurie neuronai suaktyvėjo, bet tai nepasako, kodėl. Samprotavimas yra pasklidęs po nesuskaičiuojamas matematines operacijas be aiškaus loginio kelio.
Tai tinka filmų rekomendacijoms. Tai pavojinga diagnozuojant ligas.
Įsitraukimo optimizavimo problema
Štai tamsi paslaptis, kurios niekas nenori pripažinti: dauguma komercinių dirbtinio intelekto sistemų net nėra optimizuotos tikslumui. Jos optimizuotos įsitraukimo metrikoms. Paspaudimams. Praleistam laikui. Sąveikos rodikliams. Dalykams, kurie džiugina akcininkus ir daro tiesą neprivalomą.
Rekomendacijų algoritmai išmoksta, kas išlaiko žmones platformoje, neatsižvelgdami į tai, ar tas turinys yra teisingas ar naudingas. Jei prieštaringi teiginiai sulaukia daugiau įsitraukimo nei subalansuota analizė, algoritmas išmoksta išryškinti prieštaravimus. Jei emocinis turinys veikia geriau nei faktinis reportažas, emocijos laimi. Kiekvieną kartą.
Sistema veikia tiksliai taip, kaip sukurta. Mes jai liepėme maksimaliai padidinti įsitraukimą. Ji išmoko, kad tiesa ir įsitraukimas dažnai konfliktuoja, ir pasirinko įsitraukimą. Negalime kaltinti dirbtinio intelekto, kad vykdo įsakymus.
Tai ne teoriniai samprotavimai. 2018 m. MIT tyrimas išanalizavo 126 000 naujienų istorijų „Twitter" ir nustatė, kad melagingos naujienos plinta šešis kartus greičiau nei tiesa, pasiekdamos 1 500 žmonių, kol tikros istorijos pasiekia 1 000. Algoritmai išmoko šį modelį ir negailestingai jį išnaudoja. Tiesa nuobodi. Pasipiktinimas plinta virusiškai. Spėkite, kas laimi?
Koreliacija be priežastingumo
Statistiniai modeliai randa duomenų modelius. Tačiau modeliai nėra supratimas.
Ledų pardavimai koreliuoja su skendimo atvejais. Abi vertės didėja vasarą. Statistinis modelis mato koreliaciją ir gali numatyti skendimo riziką pagal ledų pardavimus. Jis rado tikrą modelį duomenyse. Tik modelis nereiškia to, ką siūlo naivus aiškinimas.
Žmonės supranta priežastingumą. Mes žinome, kad vasaros orai sukelia abu reiškinius. Dirbtinio intelekto sistemos, apmokytos koreliacijai, negali atskirti šių dalykų, nebent aiškiai užkoduojame priežastinę struktūrą modelyje.
Šis apribojimas turi įtakos realiems sprendimams. Medicininis dirbtinis intelektas gali susieti simptomą su diagnoze pagal statistinius modelius, nepastebėdamas tikrojo priežastinio mechanizmo. Finansinis dirbtinis intelektas gali susieti rinkos judėjimus nesuprasdamas pagrindinių ekonominių ryšių.
Šis skirtumas praktiškai labai svarbus. Koreliacija pagrįsta sistema gali pastebėti, kad pacientai, gaunantys tam tikrą gydymą, turi geresnius rezultatus. Bet kas, jei šie pacientai gauna gydymą, nes iš pradžių yra sveikesni? Koreliacija egzistuoja, bet priežastinis ryšys eina priešinga kryptimi. Statistiniai modeliai to negali aptikti be aiškaus priežastinio modeliavimo.
Europos finansų sistemose koreliacijos nuolat keičiasi. Rinkos, kurios istoriškai judėjo kartu, atsiskiria dėl reguliavimo pokyčių (sveiki, MiFID II), technologinių pokyčių ar geopolitinių įvykių („Brexit", kas nors?). Koreliacija pagrįstas modelis ir toliau taiko pasenusius modelius, kol katastrofiškai žlunga. Jis nesupranta, kodėl koreliacija egzistavo, todėl negali atpažinti, kada pasikeitė pagrindinis ryšys.
Vokietijos bankas „Schufa" tai išmoko sunkiai 2024 m. Europos Sąjungos Teisingumo Teismas nusprendė, kad jų dirbtinio intelekto kredito reitingo sistema pažeidė BDAR reikalavimus būtent todėl, kad jos išmoktos koreliacijos negalėjo būti paaiškintos ar audituotos. Kai algoritmas atsisako suteikti kam nors 20 000 eurų paskolą, „kompiuteris sako ne" pagal Europos teisę nėra teisiškai pakankama.
Pagrindinė problema: modelių atpažinimas be supratimo sukuria trapios sistemas. Jos veikia, kol nustoja veikti, o kai žlunga, žlunga visiškai ir be įspėjimo.
Ko iš tikrųjų reikalauja skaidrumas
Tikras skaidrumas reiškia, kad kiekvieną sprendimą gali atsekti per aiškius loginius žingsnius. Ne „pasitikėkite mumis, matematika susidėlioja“, o „štai tiksliai kodėl, žingsnis po žingsnio“.
Šiuolaikinės dirbtinio intelekto platformos, tokios kaip Dweve, tai pasiekia per kelias kartu veikiančias architektūros naujoves. Vietoj nepermatomų slankiojo kablelio svorių, išsibarsčiusių per milijonus jungčių, intelektas kyla iš kristalizuotų apribojimų (aiškių loginių taisyklių), hibridinio neuroninio ir simbolinio samprotavimo (derinant modelių atpažinimą su logine išvada) ir kelių agentų patikros sistemų (keli specializuoti agentai tikrina vieni kitų darbą).
Kai sistema priima sprendimą, ji gali tiksliai pasakyti, kas įvyko: „Suvokimo agentas aptiko modelį X su požymiais Y ir Z. Samprotavimo agentas pritaikė apribojimus C1 ir C2, atmesdamas variantą A. Sprendimų agentas pasirinko variantą B, nes jis tenkina apribojimus C3, C4 ir C5 su 100 % loginiu atitikimu.“ Ne migloti tikimybių balai. Aiški loginė išvada, kurią gali patikrinti, audituoti ir ginčyti.
Tai skirtumas tarp „modelis sako 73 % tikėtina“ (vertimas: mes nežinome kodėl, bet statistika taip sako) ir „štai loginis įrodymas, kodėl ši išvada išplaukia iš šių prielaidų“ (vertimas: galime parodyti savo darbą, kaip mokėtės mokykloje).
Formalusis patikrinimas ir įrodomas teisingumas
Pažangios dirbtinio intelekto sistemos, sukurtos apribojimais grindžiamos architektūros pagrindu, leidžia matematiškai patikrinti sistemos elgseną. Čia kompiuterių mokslas gražiausiu būdu susitinka su matematika.
Taikant formalius metodus galima įrodyti, kad tokia sistema visada elgsis nustatytose ribose. Ne „tikriausiai teisinga remiantis testavimu“ ar „mūsų simuliacijoje veikė gerai“. Įrodomai teisinga per matematinį įrodymą. Tokį įrodymą, dėl kurio matematikas pritariamai linktelėtų, o ne siektų raudono rašiklio.
Tai svarbu kritinėms sistemoms. Kai dirbtinis intelektas valdo medicinos prietaisus Roterdamo ligoninėse, tvarko finansų sistemas Amsterdamo bankams ar valdo kritinę infrastruktūrą visoje Europoje, mums reikia matematinių garantijų, kad elgsena bus teisinga visomis sąlygomis. „Oi, to kraštinio atvejo netestavome“ nepriimtina, kai gresia gyvybės ir pragyvenimo šaltiniai.
Tradicinės neuroniniai tinklai negali užtikrinti šių garantijų. Jų elgsena kyla iš milijonų išmoktų parametrų, kurie sąveikauja taip, kaip niekas iki galo nesupranta. Apribojimais pagrįsti tinklai gali matematiškai įrodyti savo elgseną, taip pat kaip galima įrodyti Pitagoro teoremą. Tai tiesa, nes to reikalauja logika, o ne todėl, kad tai pasiūlė mokymo duomenys.
Aiškus neapibrėžtumo įvertinimas
Dabartinės DI sistemos pasitikėjimą išreiškia tikimybių balais. Tačiau šie balai dažnai matuoja statistinį pasitikėjimą modeliu, o ne tikrą tikrumą dėl tiesos.
Sistema gali būti 99 % įsitikinusi visiškai neteisingu atsakymu, jei neteisingas atsakymas atitinka stiprius statistinius modelius mokymo duomenyse.
Dvejetainės apribojimų sistemos neapibrėžtumą traktuoja kitaip. Kai apribojimai visiškai įvykdomi, išvada išplaukia logiškai. Kai apribojimai įvykdomi iš dalies arba yra prieštaringi, sistema aiškiai nurodo: „Pagal pateiktus apribojimus tinkamo sprendimo nėra.“
Tai sąžiningas neapibrėžtumas. Sistema pripažįsta, kada negali pasiekti pagrįstos išvados, užuot pateikusi geriausią statistinį spėjimą su pasitikėjimo balu.
ES Dirbtinio intelekto aktas ir reguliavimo reikalavimai
2024 m. rugpjūčio 1 d. įsigaliojo ES Dirbtinio intelekto aktas - pirmasis pasaulyje išsamus dirbtinio intelekto reglamentas. Tai ne Briuselio biurokratijos siautėjimas. Tai pripažinimas, kad dirbtinis intelektas, darantis įtaką žmonių gyvenimams, turi būti atskaitingas. Matyt, nauja sąvoka.
13 straipsnis reikalauja, kad didelės rizikos DI sistemos būtų suprojektuotos taip, kad naudotojai galėtų realiai interpretuoti rezultatus ir tinkamai juos naudoti. 14 straipsnis numato žmogaus priežiūrą (žmogus priežiūros grandinėje, įsivaizduokite). 15 straipsnis reikalauja tikslumo, patikimumo ir kibernetinio saugumo. Visiškas įgyvendinimas prasideda 2026 m. rugpjūčio 2 d., o už nesilaikymą gali tekti sumokėti iki 7 % metinių pasaulinių pajamų arba 35 mln. eurų, priklausomai nuo to, nuo ko labiau susitraukiate.
Dvejetainių apribojimų tinklai šiuos reikalavimus atitinka architektūriniu lygmeniu. Skaidrumas nėra pritaikomas vėliau, kai teisininkai susirūpina. Jis yra esminė sistemos veikimo dalis nuo pat pirmos dienos. Kiekvienas sprendimas iš prigimties yra paaiškinamas, nes jis vadovaujasi aiškiais loginiais apribojimais, kuriuos reguliuotojai tikrai gali patikrinti.
Praktinės reikšmės
Šie architektūros skirtumai turi konkrečių pasekmių.
Sveikatos priežiūroje nepaaiškinamas DI gali pasiekti didelį tikslumą testuojant, bet žlugti diegiant, nes išmoko atsitiktinių koreliacijų. Dvejetainės apribojimų sistemos gali įrodyti savo diagnostinę logiką, leisdamos medicinos specialistams patikrinti samprotavimą prieš diegimą.
Finansų srityje juodosios dėžės modeliai gali patvirtinti arba atmesti paskolas pagal modelius, kuriuose įtvirtinti istoriniai šališkumai. Apribojimais pagrįstos sistemos aiškiai nustato sprendimų kriterijus, todėl galima atlikti sąžiningumo auditą.
Teisinėse sistemose nepaaiškinamos bausmių skyrimo rekomendacijos kenkia teisingumui. Paaiškinama apribojimų logika leidžia teisėjams įvertinti, ar argumentavimas atitinka teisės principus.
Panagalvokite apie autonominius automobilius. Tradiciniai neuroniniai tinklai jutiklių duomenis apdoroja per milijonus svertinių jungčių, kad priimtų vairo ir stabdžių sprendimus. Kai kas nors nutinka ne taip, tyrėjai negali nustatyti, kodėl sistema pasirinko būtent tokį sprendimą. Samprotavimas yra paskirstytas visame tinkle taip, kad pranoksta žmogaus supratimą.
Dvejetainės apribojimų sistemos veikia kitaip. Kiekvienas sprendimas tenkina aiškių saugos apribojimų rinkinį. Jei sistema stabdo, galite atsekti samprotavimą: „Apribojimas C1 aptiko kliūtį per 8 metrus. Apribojimas C2 reikalauja stabdyti, kai kliūties atstumas mažesnis nei 10 metrų, o greitis viršija 50 km/h. Dabartinis greitis 70 km/h. Todėl stabdymas įjungtas." Šį samprotavimą galima patikrinti, išbandyti ir įrodyti, kad jis teisingas.
Skirtumas svarbus sertifikavimui ir atsakomybei. 2024 m. liepos 7 d. įsigaliojo nauji ES saugos reglamentai, nustatantys pirmąsias tarptautines visiškai be vairuotojo valdomų transporto priemonių taisykles. Reglamentai reikalauja išsamių saugos vertinimų, kibernetinio saugumo reikalavimų ir incidentų ataskaitų prieš transporto priemonėms išvažiuojant į Europos kelius. Kaip sertifikuoti sistemą, kurios negalite visiškai patikrinti? Kaip priskirti atsakomybę, kai sprendimų procesas yra neskaidrus? Tradiciniai neuroniniai tinklai kelia teisinių ir reguliavimo košmarų. Dvejetainės apribojimų sistemos užtikrina skaidrumą, kurio Europos reguliuotojai iš tikrųjų reikalauja.
Gamyboje kokybės kontrolės DI turi paaiškinti defektų klasifikacijas darbuotojams, kurie imasi taisomųjų veiksmų. „Juodosios dėžės“ sistemos nesuteikia įžvalgos: „defektas nustatytas su 87 % patikimumu.“ Apribojimais pagrįstos sistemos paaiškina: „matmuo viršija leistiną nuokrypį 0,3 mm padėtyje (x,y), paviršiaus šiurkštumas pažeidžia specifikaciją Z3 zonoje.“ Darbuotojai gali naudoti šią informaciją procesams koreguoti.
Šablonas aiškus: paaiškinamumas nėra prabangos funkcija. Jis yra būtinas, kad dirbtinio intelekto sistemos integruotųsi į žmonių darbo eigą ir sprendimų procesus. Be skaidrumo dirbtinis intelektas lieka izoliuotas, nepatikrinamas ir galiausiai nepatikimas.
Kuriant sąžiningą dirbtinį intelektą „Dweve“
„Dweve“ sukūrėme išsamią dirbtinio intelekto platformą, kuri daro skaidrumą neišvengiamą. Ne kaip paskesnę mintį ar atitikties langelį, o kaip pagrindinę architektūrą.
**Dweve Core** suteikia aparatinei įrangai optimizuotus algoritmus dvejetainiams, apribojimais pagrįstiems ir impulsiniams neuroniniams tinklams. Šiandien tai šimtai tūkstančių rankomis suderintų branduolių 2 900+ operacijų per 76 kategorijas. Tai ne jūsų senelio slankiojo kablelio operacijos, kurioms reikia GPU klasterių.
**Dweve Loom** koordinuoja 528 domeno specialistų sistemas, kurių kiekviena yra domeno specialistė. Kiekvienai užduočiai suaktyvinami tik atitinkami domeno specialistai (paprastai nuo 4 iki 8 iš 528), taip sukuriama didžiulė žinių talpa su minimaliu skaičiavimo pėdsaku. Tai tarsi turėti 528 konsultantus pagal sutartį, bet mokėti tik už tuos, kuriuos iš tikrųjų naudojate.
**Dweve Nexus** įgyvendina kelių agentų intelektą su 31+ suvokimo išgavikais, 8 skirtingais samprotavimo režimais ir hibridine neuroninio-simbolinio integracija. Keli specializuoti agentai suvokia, samprotauja, sprendžia ir veikia, o kiekvieno agento logika yra visiškai atsekama. Kai sistema pasiekia išvadą, galite matyti, kokias įžvalgas prisidėjo kiekvienas agentas.
**Dweve Aura** teikia autonominę kūrimo pagalbą per 32 specializuotus agentus, suskirstytus į 6 orkestravimo režimus. Nuo įprasto vieno agento vykdymo iki lygiagrečaus tyrinėjimo spiečiaus režimu ir konsensuso režimo kelių didžiųjų kalbos modelių diskusijų, sistema pritaiko savo pažinimo architektūrą prie konkrečios užduoties.
**Dweve Spindle** užtikrina žinių kokybę per 7 etapų epistemologinį vamzdyną. Informacija pereina iš kandidatės į kanoninę tik po griežto patikrinimo, o 32 specializuoti agentai užtikrina, kad kiekviena žinia atitiktų kokybės slenksčius, prieš jai apmokant būsimus modelius.
**Dweve Mesh** viską decentralizuoja, įgalindamas federacinį mokymąsi viešuosiuose ir privačiuose tinkluose su itin dideliu atsparumu gedimams. Duomenų suverenumas lieka vietinis, o tinklu keliauja tik užšifruoti modelio atnaujinimai.
**Dweve** viską sujungia į vieną paslaugą: per Fabric portalą ir API vartotojai valdo agentus, darbo eigas, modelius ir realaus laiko dirbtinio intelekto pokalbius, turėdami visišką skaidrumą ir kilmės sekimą.
Kiekvienas sprendimas visoje šioje platformoje atsekamas aiškiais loginiais žingsniais. Reguliuotojai gali audituoti apribojimų bazes ir samprotavimo grandines. Domeno ekspertai gali patikrinti, ar logika atitinka jų supratimą. Vartotojai gali tiksliai matyti, kodėl sistema priėjo prie kiekvienos išvados, kurie agentai prisidėjo ir kokie apribojimai buvo įvykdyti.
Tai dirbtinis intelektas, sukurtas atskaitomybei nuo pat pradžių. Ne todėl, kad esame geri žmonės (nors ir esame), o todėl, kad architektūra daro nesąžiningumą architektūriškai neįmanomą.
Principai, kuriais grindžiamas sąžiningas intelektas
Dweve sukūrėme remdamiesi dešimt pagrindinių principų:
- Tiesa svarbiau už įtraukimą. Siekiame faktinio teisingumo, o ne vartotojų išlaikymo. Sąžiningi atsakymai svarbesni už įtikinamus.
- Skaidrumas svarbiau už našumą. Paaiškinamas samprotavimas vertesnis už nežymų tikslumo prieaugį iš „juodosios dėžės“ modelių. Supratimas yra svarbus.
- Nežinomybė svarbiau už pasitikėjimą. Aiškus nežinojimas geriau nei klaidingas pasitikėjimas. Kai sistema nežino, ji tai pasako.
- Patikrinimas svarbiau už pasitikėjimą. Pateikiame matematinį teisingumo įrodymą, o ne prašome vartotojų tiesiog pasitikėti sistema.
- Logika svarbiau už tikimybę. Deterministinis apribojimų tenkinimas yra geresnis už statistinį šablonų atpažinimą priimant kritinius sprendimus.
- Žmonės svarbesni už metrikas. Tarnaujame žmonių poreikiams, o ne optimizavimo tikslams. Tiesa svarbesnė už įtraukimo metrikas.
- Sauga svarbesnė už mastą. Garantuotas teisingas elgesys konkrečiose srityse yra geriau nei apytikslis elgesys visur.
- Privatumas svarbesnis už duomenis. Kai įmanoma, apdorojame vietoje. Sumažiname duomenų rinkimą ir centralizavimą.
- Nepriklausomybė svarbesnė už susaistymą. Vengiame priklausomybės nuo tiekėjų ir nuosavybinių architektūrų.
- Europos vertybės. Į reglamentavimą žiūrime kaip į dizaino gaires. Kurti atitiktį nuo pat pradžių.
Kodėl Europos požiūris svarbus
Europos reguliavimo požiūris į dirbtinį intelektą nėra skirtas sulėtinti inovacijas, kad ir ką teigtų Silicio slėnio lobistų rankos. Jis skirtas nukreipti inovacijas į rezultatus, dėl kurių vėliau nereikėtų atsiprašinėti parlamentų.
ES Dirbtinio intelekto aktas pripažįsta, kad dirbtinio intelekto sistemos, darančios įtaką pagrindinėms teisėms (sveikatos priežiūrai, teisingumui, kreditui, įdarbinimui), turi būti skaidrios, teisingos ir atskaitingos. Revoliucinė idėja: galbūt algoritmas, sprendžiantis, ar gausite paskolą, turėtų paaiškinti savo sprendimą. Ši reguliavimo sistema skatina architektūras, kurios šias savybes užtikrina pačia savo konstrukcija, o ne kaip atitikties lopas, pritaikytas po fakto.
Pažangios DI architektūros, derinančios apribojimais grįstą samprotavimą, daugiaagentes sistemas ir hibridinius neuroninių bei simbolinių metodų sprendimus, puikiai atitinka šią viziją. Jos nebando apeiti reglamentų pro išmanias spragas. Jos įkūnija principus: skaidrumą per aiškias samprotavimo grandines, teisingumą per audituojamą logiką, atskaitomybę per įrodomą elgesį.
Tai Europos galimybė vesti DI plėtrą patikimų ir patikrinamų sistemų link, o ne „judėk greitai ir laužyk demokratiją“ kryptimi, kuri mėgstama kitur. Vadinkite mus senamadiškais, bet mes norime, kad mūsų DI sistemos nereikalautų kongreso klausymų.
Reguliavimo požiūris sukuria konkurencinį pranašumą, o ne naštą. Kol Amerikos įmonės bando pritaikyti paaiškinamumą architektūroms, kurios tam priešinasi (sėkmės bandant paaiškinti dėmesio matricas GDPR auditoriui), Europos įmonės skaidrumą įdiegia į pamatus. Kol kiti skuba vykdyti reikalavimus, kuriems patys priešinosi, Europos įmonės kuria sistemas, kurios natūraliai atitinka reikalavimus, nes mes iš tikrųjų kalbėjomės su reguliuotojais projektavimo metu.
Tai ne reguliavimo našta, kuri mus lėtina. Tai strateginė kryptis, kuri mus spartina. Europa anksti suprato, kad kritinėse sistemose naudojamas DI turi būti patikimas. Reglamentai įtvirtina šią įžvalgą. Apribojimais grįstos, daugiaagentės, hibridinės architektūros yra techninis šių principų įgyvendinimas.
Pasaulinė dirbtinio intelekto rinka vis labiau reikalaus to, ko reikalauja Europos reglamentai: paaiškinamumo, audito galimybių, įrodomo saugumo. Europos dirbtinio intelekto platformos, sukurtos laikantis šių reikalavimų, turi pirmojo žingsnio pranašumą. Kai Kalifornija pagaliau priims savo dirbtinio intelekto reglamentą (po trečiojo didelio skandalo), kai Pekinas pareikalaus skaidrumo sistemoms, diegiamoms Kinijoje, ir kai kiekviena kita jurisdikcija supras, kad „pasitikėti technologijų broliais“ nėra valdymo strategija, Europos technologijos bus pasirengusios. Nes mes kuriame šiai realybei nuo pat pirmos dienos.
Kelias į priekį
Esame sprendimo taške dėl dirbtinio intelekto plėtros.
Vienas kelias ir toliau plečia tradicinius neuroninius tinklus: didesni modeliai, daugiau parametrų, daugiau duomenų, mažiau aiškinamumo. Šis kelias veda prie galingų, bet neatskaitingų sistemų.
Kitas kelias kuria DI loginiais pagrindais: aiškiais apribojimais, formaliu patikrinimu, įrodomu teisingumu. Tai veda prie sistemų, kuriomis iš tikrųjų galime pasitikėti kritinėse programose.
„Dweve“ pasirinko antrąjį kelią. Mūsų dvejetainiai apribojimų tinklai užtikrina visišką paaiškinamumą, formalų patikrinimą ir atitiktį ES Dirbtinio intelekto aktui dėl pačios architektūros.
Klausimas pramonei yra: kokią ateitį norime sukurti?
Pasirinkimas turi didelių pasekmių. Tradiciniai neuroniniai tinklai optimizuojami gebėjimams bet kokia kaina. Dvejetainiai apribojimų tinklai optimizuojami patikimiems gebėjimams. Pirmasis metodas sukuria įspūdingas demonstracijas. Antrasis - diegti tinkamas sistemas.
Skirtumą matome įsisavinimo modeliuose. Tradicinis DI puikiai tinka mažos rizikos programoms: turinio rekomendacijoms, vaizdų generavimui, teksto užbaigimui. Dvejetainio apribojimo DI puikiai tinka didelės rizikos sritims: medicininei diagnostikai, finansiniams sprendimams, autonominėms sistemoms, pramonės valdymui.
Skirstymas atspindi esminius architektūros skirtumus. Kai teisingumas svarbesnis nei aprėptis, kai paaiškinamumas yra privalomas, kai reikalingas formalus patikrinimas, apribojimais pagrįsti metodai laimi. Kai platus pajėgumas svarbesnis nei garantijos, pakanka statistinių metodų.
Tačiau kraštovaizdis keičiasi. Kai dirbtinis intelektas įsilieja į kritines sistemas, patikimumas tampa esminis. Architektūros, kurios jį užtikrina, įgyja pranašumą. Tos, kurios to nedaro, susiduria su kliūtimis: reguliavimo atmetimu, atsakomybės rūpesčiais, rinkos pasipriešinimu.
Dvejopų apribojimų tinklai nėra ateitis todėl, kad yra naujoviški. Jie yra ateitis todėl, kad sprendžia svarbias problemas: skaidrumą, atskaitomybę, įrodomą saugą. Jie suteikia tai, ko reikalauja kritinės sistemos ir ko reikalauja reglamentai.
Kelias į priekį aiškus. Kurkite dirbtinį intelektą, kurį galite paaiškinti. Kurkite sistemas, kurias galite patikrinti. Diekite intelektą, kuriuo galite pasitikėti. Tai sąžiningas dirbtinis intelektas. Tai architektūra, kuri plečiasi į aukštos rizikos sritis. Tai tai, ką kuria Europa.
„Dweve" kuria skaidrų dirbtinį intelektą, naudodama apribojimais pagrįstą samprotavimą, kelių agentų sistemas ir hibridines neuroninių bei simbolinių sistemų architektūras. Kiekvienas sprendimas yra atsekamas per aiškias logikos taisykles. Kiekviena išvada yra patikrinama formaliais metodais. Atitinka ES Dirbtinio intelekto aktą pagal pačią konstrukciją. Įsikūrusi Nyderlanduose, aptarnauja išimtinai Europos organizacijas.