Godprātīga mākslīgā intelekta manifests: kāpēc mums vajag caurskatāmu inteliģenci
Arhitektūras problēma mūsdienu mākslīgajā intelektā
Mūsdienu mākslīgā intelekta sistēmām ir fundamentāls dizaina trūkums, ko neviens nozarē nevēlas risināt: tās ir veidotas tā, lai izklausītos pareizi, nevis lai būtu pareizas.
Paskatieties, kā darbojas lielie valodas modeļi. Tie analizē miljardiem teksta paraugu, atrod statistiskus modeļus un prognozē, kuri vārdi kopā izklausītos ticami. Nav verifikācijas soļa. Nav patiesības pārbaudes. Nav izpratnes par to, vai izvade ir faktiski pareiza. Tikai modeļu atpazīšana un prognozēšana.
Šī arhitektūras izvēle nozīmē, ka šīs sistēmas pārliecinoši ģenerēs nepareizu informāciju ikreiz, kad nepareizā atbilde atbilst izplatītiem valodas modeļiem. Tas nav kļūme, ko var salabot ar ielāpu. Tā ir to paredzētā darbība.
Un mēs izvietojam šīs sistēmas slimnīcās, tiesu zālēs un finanšu iestādēs visā Eiropā.
Jau Nīderlandē vien tādi uzņēmumi kā ScreenPoint Medical izmanto mākslīgo intelektu krūts vēža atklāšanai. Delft Imaging to piemēro tuberkulozes diagnostikā. Thirona analizē plaušu skenējumus ar dziļo mācīšanos. Kad šīs sistēmas kļūdās par kāda cilvēka veselību, "modelis bija 87% pārliecināts" nav pietiekami labs attaisnojums. Uz spēles ir cilvēku dzīvības.
Problēma ir dziļāka par atsevišķām kļūdām. Tradicionālie neironu tīkli optimizē statistisko varbūtību, nevis patiesību. Tie mācās prognozēt, kāda atbilde parasti sekotu konkrētam ievaddatumam, balstoties uz modeļiem apmācības datos. Kad šie modeļi ir precīzi, sistēma darbojas labi. Kad modeļi ir maldinoši, sistēma sistemātiski neizdodas.
Aplūkosim medicīnisko diagnostiku. Tradicionāls neironu tīkls var iemācīties, ka noteikti simptomi korelē ar konkrētām slimībām apmācības datos. Bet korelācija nav cēloņsakarība. Ja apmācības datos ir reģionālas novirzes, modelis apgūst šīs novirzes. Ja retas slimības ir nepietiekami pārstāvētas, modelis tās nespēj atpazīt. Arhitektūrā nav mehānisma, kas atšķirtu patiesas medicīniskas sakarības no statistiskiem artefaktiem.
Tas rada uzticības krīzi. Kā izvietot mākslīgo intelektu vidēs ar augstu atbildības līmeni, ja nevarat pārbaudīt tā spriešanu? Kā izskaidrot pacientam, kāpēc mākslīgais intelekts ieteica konkrētu ārstēšanu, ja sistēma pati nespēj formulēt savu loģiku? Kā pārbaudīt neobjektivitāti, ja lēmumu pieņemšanas process ir melnā kaste, kas pilna ar matricu reizināšanām?
Kā neironu tīkli patiesībā pieņem lēmumus
Tradicionālie neironu tīkli darbojas caur slāņiem, kuros savienojumiem ir piešķirti svari. Ievaddati iziet cauri vairākiem slāņiem, katrs veicot matemātiskas transformācijas, līdz tiek iegūts rezultāts ar tam piešķirto ticamības rādītāju.
Problēma? Jūs nevarat izsekot, kāpēc tika pieņemts lēmums. Sistēma apmācības laikā apguva miljoniem svara vērtību. Kad tā rada rezultātu, var redzēt, kuri neironi aktivizējās, bet tas nepasaka, kāpēc. Pamatojums ir izkliedēts pa neskaitāmām matemātiskām darbībām bez skaidra loģiska ceļa.
Tas ir pieņemami filmu ieteikšanai. Bīstami slimību diagnosticēšanai.
Iesaistes optimizācijas problēma
Lūk, tumšais noslēpums, ko neviens nevēlas atzīt: lielākā daļa komerciālo mākslīgā intelekta sistēmu pat nav optimizētas precizitātei. Tās ir optimizētas iesaistes rādītājiem. Klikšķiem. Pavadītajam laikam. Mijiedarbības biežumam. Tam, kas iepriecina akcionārus un padara patiesību neobligātu.
Ieteikumu algoritmi apgūst to, kas notur cilvēkus platformā, neatkarīgi no tā, vai šis saturs ir patiess vai noderīgs. Ja strīdīgi apgalvojumi rada lielāku iesaisti nekā līdzsvarota analīze, algoritms iemācās izvirzīt priekšplānā strīdīgumu. Ja emocionāls saturs darbojas labāk nekā faktoloģiska ziņošana, uzvar emocijas. Vienmēr.
Sistēma darbojas tieši tā, kā paredzēts. Mēs tai likām maksimizēt iesaisti. Tā iemācījās, ka patiesība un iesaiste bieži konfliktē, un izvēlējās iesaisti. Nevar īsti vainot MI par pavēļu izpildi.
Tas nav tikai teorētiska satraukšanās. 2018. gada MIT pētījumā tika analizēti 126 000 ziņu stāsti vietnē Twitter, un atklājās, ka nepatiesas ziņas izplatās sešas reizes ātrāk nekā patiesība, sasniedzot 1 500 cilvēku, pirms patiesi stāsti sasniedz 1 000. Algoritmi ir apguvuši šo modeli un nežēlīgi to izmanto. Patiesība ir garlaicīga. Sašutums ir vīrusveidīgs. Uzminiet, kas uzvar?
Korelācija bez cēloņsakarības
Statistiskie modeļi atrod modeļus datos. Bet modeļi nav izpratne.
Saldējuma pārdošanas apjomi korelē ar noslīkšanas gadījumu skaitu. Abi pieaug vasarā. Statistiskais modelis redz korelāciju un varētu prognozēt noslīkšanas risku pēc saldējuma pārdošanas apjomiem. Tas atrada reālu modeli datos. Modelis vienkārši nenozīmē to, ko liecina naiva interpretācija.
Cilvēki saprot cēloņsakarības. Mēs zinām, ka vasaras laikapstākļi izraisa abas parādības. MI sistēmas, kas apmācītas uz korelācijām, nevar izdarīt šo atšķirību, ja vien mēs nepārprotami neieprogrammējam cēloņsakarību struktūru modelī.
Šis ierobežojums ietekmē reālus lēmumus. Medicīniskais MI var korelēt simptomu ar diagnozi, pamatojoties uz statistiskiem modeļiem, neievērojot faktisko cēloņu mehānismu. Finanšu MI var korelēt tirgus kustības, neizprotot pamatā esošās ekonomiskās attiecības.
Atšķirībai praksē ir milzīga nozīme. Uz korelācijām balstīta sistēma var novērot, ka pacientiem, kuri saņem konkrētu ārstēšanu, ir labāki rezultāti. Bet ko darīt, ja šie pacienti saņem ārstēšanu tāpēc, ka viņi jau sākotnēji ir veselāki? Korelācija pastāv, bet cēloņsakarība darbojas pretējā virzienā. Statistiskie modeļi to nevar noteikt bez skaidras cēloņsakarību modelēšanas.
Eiropas finanšu sistēmās korelācijas pastāvīgi mainās. Tirgi, kas vēsturiski kustējās kopā, atdalās regulatīvu izmaiņu (sveiki, MiFID II), tehnoloģisku pārmaiņu vai ģeopolitisku notikumu (Brexit, kāds?) dēļ. Uz korelācijām balstīts modelis turpina piemērot novecojušus modeļus, līdz tas katastrofāli neizdodas. Tam nav izpratnes par to, kāpēc korelācija pastāvēja, tāpēc tas nevar atpazīt, kad pamatā esošās attiecības ir mainījušās.
Vācu banka Schufa to smagi izmācījās 2024. gadā. Eiropas Savienības Tiesa nolēma, ka viņu MI kredītreitinga sistēma pārkāpa VDAR prasības tieši tāpēc, ka tās apgūtās korelācijas nevarēja izskaidrot vai auditēt. Kad algoritms kādam noraida 20 000 eiro aizdevumu, "dators saka nē" saskaņā ar Eiropas tiesību aktiem nav juridiski pietiekami.
Pamatproblēma: modeļu atpazīšana bez izpratnes rada trauslas sistēmas. Tās darbojas, līdz vairs nedarbojas, un, kad tās neizdodas, tās neizdodas pilnībā un bez brīdinājuma.
Ko caurskatāmība patiesībā prasa
Patiesa caurskatāmība nozīmē, ka varat izsekot katram lēmumam caur skaidriem loģiskiem soļiem. Nevis "uzticieties mums, matemātika strādā", bet "lūk, tieši kāpēc, soli pa solim".
Mūsdienu AI platformas, piemēram, Dweve, to panāk ar vairākām arhitektūras inovācijām, kas darbojas kopā. Tā vietā, lai necaurredzami peldošā komata svari būtu izkliedēti pa miljoniem savienojumu, inteliģence rodas no kristalizētiem ierobežojumiem (skaidriem loģikas noteikumiem), hibrīdas neirāli-simboliskas spriešanas (apvienojot modeļu atpazīšanu ar loģisko secināšanu) un vairāku aģentu verifikācijas sistēmām (vairākiem specializētiem aģentiem, kas pārbauda viens otra darbu).
Kad sistēma pieņem lēmumu, tā var pateikt, kas tieši notika: "Uztveres aģents atklāja modeli X ar pazīmēm Y un Z. Spriešanas aģents piemēroja ierobežojumus C1 un C2, izslēdzot variantu A. Lēmumu aģents izvēlējās variantu B, pamatojoties uz ierobežojumu C3, C4 un C5 izpildi ar 100% loģisku apmierinātību." Nevis neskaidri varbūtību rādītāji. Skaidra loģiska dedukcija, ko varat pārbaudīt, auditēt un apstrīdēt.
Tā ir atšķirība starp "modelis saka, ka 73% iespējams" (tulkojums: mums nav ne jausmas, kāpēc, bet statistika tā saka) un "lūk, loģiskais pierādījums, kāpēc šis secinājums izriet no šīm premisām" (tulkojums: mēs varam parādīt savu darbu, kā jūs mācījāties skolā).
Formālā verifikācija un pierādāma pareizība
Uzlabotas AI sistēmas, kas veidotas uz ierobežojumu balstītām arhitektūrām, ļauj matemātiski verificēt sistēmas uzvedību. Šeit datorzinātne satiekas ar matemātiku visskaistākajā veidā.
Ar formālām metodēm var pierādīt, ka šāda sistēma vienmēr darbosies noteiktās robežās. Nevis "iespējams, pareizi, pamatojoties uz testēšanu" vai "mūsu simulācijā strādāja labi". Pierādāmi pareizi ar matemātisku pierādījumu. Tāds pierādījums, kas liktu matemātiķim apstiprinoši pamāt, nevis ķerties pie sarkanās pildspalvas.
Tas ir svarīgi kritiskām sistēmām. Kad AI kontrolē medicīnas ierīces Roterdamas slimnīcās, pārvalda finanšu sistēmas Amsterdamas bankām vai uztur kritisko infrastruktūru visā Eiropā, mums ir vajadzīgas matemātiskas garantijas par pareizu uzvedību visos apstākļos. "Ak, mēs nepārbaudījām šo robežgadījumu" nav pieņemami, kad runa ir par dzīvībām un iztikas līdzekļiem.
Tradicionālie neironu tīkli nevar nodrošināt šādas garantijas. To darbība izriet no miljoniem apgūtu parametru, kas mijiedarbojas veidos, kurus neviens pilnībā neizprot. Uz ierobežojumiem balstīti tīkli var matemātiski pierādīt savu darbību, tāpat kā var pierādīt Pitagora teorēmu. Tā ir patiesa, jo loģika to prasa, nevis tāpēc, ka to ieteiktu apmācības dati.
Nenoteiktības kvantitatīva noteikšana
Pašreizējās mākslīgā intelekta sistēmas pārliecību izsaka ar varbūtības rādītājiem. Taču šie rādītāji bieži mēra statistisko pārliecību par modeli, nevis faktisko pārliecību par patiesību.
Sistēma var būt 99% pārliecināta par pilnīgi nepareizu atbildi, ja nepareizā atbilde atbilst spēcīgiem statistikas modeļiem apmācības datos.
Bināro ierobežojumu sistēmas nenoteiktību apstrādā citādi. Kad ierobežojumi ir pilnībā izpildīti, secinājums loģiski izriet. Kad ierobežojumi ir daļēji izpildīti vai pretrunīgi, sistēma skaidri norāda: "Dotajos ierobežojumos nav derīga risinājuma."
Šī ir godīga nenoteiktība. Sistēma atzīst, kad tā nevar nonākt pie derīga secinājuma, nevis izvada savu labāko statistisko minējumu ar pārliecības rādītāju.
ES Mākslīgā intelekta akts un normatīvās prasības
2024. gada 1. augustā stājās spēkā ES Mākslīgā intelekta akts, kļūstot par pasaulē pirmo visaptverošo mākslīgā intelekta regulējumu. Tā nav Briseles birokrātija, kas trako. Tas ir atzīšana, ka mākslīgajam intelektam, kas ietekmē cilvēku dzīvi, ir jābūt atbildīgam. Jauna koncepcija, acīmredzot.
13. pants pieprasa, lai augsta riska mākslīgā intelekta sistēmas būtu veidotas tā, lai lietotāji varētu faktiski interpretēt rezultātus un tos atbilstoši izmantot. 14. pants nosaka cilvēka uzraudzību (cilvēki procesā, iedomājieties to). 15. pants pieprasa precizitāti, robustumu un kiberdrošību. Pilnīga ieviešana sākas 2026. gada 2. augustā, un neatbilstība var izmaksāt līdz 7% no globālajiem gada ieņēmumiem vai 35 miljonus eiro, atkarībā no tā, kurš skaitlis liek jums sarauties vairāk.
Bināro ierobežojumu tīkli šīs prasības izpilda arhitektūras līmenī. Pārredzamība netiek pievienota pēc tam, kad juristi sāk krist panikā. Tā ir pamatā tam, kā sistēma darbojas no pirmās dienas. Katrs lēmums pēc būtības ir izskaidrojams, jo tas izriet no skaidriem loģiskiem ierobežojumiem, kurus regulatori var faktiski pārbaudīt.
Ietekme reālajā dzīvē
Šīm arhitektūras atšķirībām ir konkrētas sekas.
Veselības aprūpē neizskaidrojams mākslīgais intelekts var sasniegt augstu precizitāti testēšanā, bet neizdoties ieviešanā, jo tas ir apguvis maldinošas korelācijas. Bināro ierobežojumu sistēmas var pierādīt savu diagnostikas loģiku, ļaujot medicīnas speciālistiem pārbaudīt pamatojumu pirms ieviešanas.
Finanšu jomā melnās kastes modeļi var apstiprināt vai noraidīt aizdevumus, pamatojoties uz modeļiem, kuros iestrādātas vēsturiskas neobjektivitātes. Uz ierobežojumiem balstītas sistēmas padara lēmumu kritērijus skaidrus, ļaujot veikt taisnīguma revīzijas.
Tiesību sistēmās neizskaidrojami sodu ieteikumi grauj taisnīgumu. Izskaidrojama ierobežojumu loģika ļauj tiesnešiem izvērtēt, vai pamatojums atbilst tiesību principiem.
Apsveriet autonomos transportlīdzekļus. Tradicionālie neironu tīkli apstrādā sensoru datus caur miljoniem svērto savienojumu, lai pieņemtu stūrēšanas un bremzēšanas lēmumus. Kad kaut kas noiet greizi, izmeklētāji nevar noteikt, kāpēc sistēma izdarīja konkrēto izvēli. Pamatojums ir izkliedēts visā tīklā tādā veidā, kas pārsniedz cilvēka izpratni.
Bināro ierobežojumu sistēmas darbojas citādi. Katrs lēmums atbilst noteiktam skaidru drošības ierobežojumu kopumam. Ja sistēma bremzē, varat izsekot pamatojumam: "Ierobežojums C1 konstatēja šķērsli 8 metru attālumā. Ierobežojums C2 pieprasa bremzēšanu, ja attālums līdz šķērslim ir mazāks par 10 metriem un ātrums pārsniedz 50 km/h. Pašreizējais ātrums 70 km/h. Tāpēc bremzēšana ir aktivizēta." Šo pamatojumu var pārbaudīt, testēt un pierādīt kā pareizu.
Atšķirībai ir nozīme sertifikācijā un atbildībā. 2024. gada 7. jūlijā stājās spēkā jauni ES drošības noteikumi, nosakot pirmos starptautiskos noteikumus pilnībā bezpilota transportlīdzekļiem. Noteikumi paredz visaptverošus drošības novērtējumus, kiberdrošības prasības un incidentu ziņošanu, pirms transportlīdzekļi nonāk uz Eiropas ceļiem. Kā sertificēt sistēmu, kuru nevar pilnībā pārbaudīt? Kā noteikt atbildību, ja lēmumu pieņemšanas process ir necaurredzams? Tradicionālie neironu tīkli rada juridiskus un normatīvus murgus. Bināro ierobežojumu sistēmas nodrošina caurskatāmību, ko Eiropas regulatoriem patiešām ir nepieciešama.
Ražošanā kvalitātes kontroles mākslīgajam intelektam ir jāizskaidro defektu klasifikācija darbiniekiem, kuri veic korektīvas darbības. Melnās kastes sistēmas nesniedz nekādu ieskatu: "defekts atklāts ar 87% pārliecību." Uz ierobežojumiem balstītas sistēmas izskaidro: "izmērs pārsniedz pielaidi par 0,3 mm pozīcijā (x,y), virsmas raupjums pārkāpj specifikāciju zonā Z3." Darbinieki var izmantot šo informāciju, lai pielāgotu procesus.
Modelis ir skaidrs: izskaidrojamība nav luksusa funkcija. Tā ir būtiska, lai mākslīgā intelekta sistēmas integrētos cilvēku darba plūsmās un lēmumu pieņemšanas procesos. Bez caurskatāmības mākslīgais intelekts paliek izolēts, nepārbaudāms un galu galā neuzticams.
Veidojot godīgu mākslīgo intelektu uzņēmumā Dweve
Uzņēmumā Dweve esam izveidojuši pilnīgu mākslīgā intelekta platformu, kas padara caurskatāmību neizbēdamu. Ne kā pēcpārdomas vai atbilstības izvēles rūtiņu, bet kā fundamentālu arhitektūru.
**Dweve Core** nodrošina 1,930 aparatūrai optimizētus algoritmus binārajiem, ierobežojumu un impulsu neironu tīkliem. Tie nav jūsu vectēva peldošā komata darbības, kurām vajadzīgi GPU klasteri. Tie darbojas efektīvi uz standarta CPU, patērējot par 96% mazāk enerģijas nekā tradicionālās pieejas.
**Dweve Loom** orķestrē 456 nozaru speciālistu sistēmas, katra ir nozares speciālists. Katram uzdevumam aktivizējas tikai attiecīgie nozaru speciālisti (parasti 4 līdz 8 no 456), radot milzīgu zināšanu kapacitāti ar minimālu skaitļošanas nospiedumu. Tas ir kā 456 konsultanti pastāvīgā rīcībā, bet maksājat tikai par tiem, kurus patiešām izmantojat.
**Dweve Nexus** īsteno vairāku aģentu inteliģenci ar 31+ uztveres ekstraktoru, 8 atšķirīgiem spriešanas režīmiem un hibrīdu neironu-simbolisko integrāciju. Vairāki specializēti aģenti uztver, spriež, pieņem lēmumus un rīkojas, un katra aģenta loģika ir pilnībā izsekojama. Kad sistēma nonāk pie secinājuma, varat redzēt, kuri aģenti sniedza kādu ieskatu.
**Dweve Aura** nodrošina autonomu izstrādes palīdzību, izmantojot 32 specializētus aģentus, kas organizēti 6 orķestrācijas režīmos. Sākot ar parastu viena aģenta izpildi un beidzot ar spieta režīma paralēlu izpēti un konsensa režīma vairāku LLM diskusijām, sistēma pielāgo savu kognitīvo arhitektūru konkrētajam uzdevumam.
**Dweve Spindle** pārvalda zināšanu kvalitāti, izmantojot 7 posmu epistemoloģisko cauruļvadu. Informācija no kandidāta kļūst par kanonisku tikai pēc stingras pārbaudes, un 32 specializēti aģenti nodrošina, ka katra zināšanu daļa sasniedz kvalitātes sliekšņus, pirms tā tiek izmantota nākotnes modeļu apmācībā.
**Dweve Mesh** visu decentralizē, nodrošinot federatīvu mācīšanos publiskajos un privātajos tīklos ar ārkārtīgu kļūdu toleranci. Tīkls turpina darboties pat tad, ja 70% mezglu atsakās. Datu suverenitāte paliek lokāla, un tīklā tiek pārsūtīti tikai šifrēti modeļu atjauninājumi.
**Dweve Fabric** to visu apvieno vienotā informācijas panelī, kur lietotāji kontrolē aģentus, darbplūsmas, modeļus un reāllaika AI sarunas ar pilnīgu pārredzamību un izcelsmes izsekošanu.
Katrs lēmums visā šajā platformā izsekojams caur skaidriem loģiskiem soļiem. Regulatori var auditēt ierobežojumu bāzes un spriešanas ķēdes. Nozares eksperti var pārliecināties, ka loģika atbilst viņu izpratnei. Lietotāji var redzēt tieši, kāpēc sistēma nonāca pie katra secinājuma, kuri aģenti piedalījās un kādi ierobežojumi tika izpildīti.
Šis ir AI, kas veidots atbildībai no paša sākuma. Ne tāpēc, ka mēs esam jauki cilvēki (lai gan esam), bet tāpēc, ka arhitektūra padara negodīgumu arhitektoniski neiespējamu.
Principi godīgas inteliģences pamatā
Mēs izveidojām Dweve, balstoties uz desmit pamatprincipiem:
- Patiesība pār iesaisti. Optimizējiet faktu pareizību, nevis lietotāju noturēšanu. Godīgas atbildes ir svarīgākas par pārliecinošām.
- Pārredzamība pār veiktspēju. Izskaidrojama spriešana atsver nelielus precizitātes ieguvumus no melnās kastes modeļiem. Izpratne ir svarīga.
- Nenoteiktība pār pārliecību. Skaidra nenoteiktība ir labāka par viltus pārliecību. Kad sistēma nezina, tā to pasaka.
- Pārbaude pār uzticēšanos. Nodrošiniet matemātisku pareizības pierādījumu, nevis prasiet lietotājiem uzticēties sistēmai.
- Loģika pār varbūtību. Deterministiska ierobežojumu izpilde ir labāka par statistisko modeļu atpazīšanu kritiskiem lēmumiem.
- Cilvēki pār rādītājiem. Apkalpojiet cilvēku vajadzības, nevis optimizācijas mērķus. Patiesība ir svarīgāka par iesaistes rādītājiem.
- Drošība pār mērogu. Garantēta pareiza rīcība konkrētās jomās ir labāka par aptuvenu rīcību visur.
- Privātums pār datiem. Apstrādājiet lokāli, kad iespējams. Samaziniet datu vākšanu un centralizāciju.
- Neatkarība pār piesaisti. Izvairieties no piegādātāju atkarībām un patentētām arhitektūrām.
- Eiropas vērtības. Uztveriet regulējumu kā dizaina vadlīnijas. Veidojiet atbilstību jau no paša sākuma.
Kāpēc Eiropas pieeja ir svarīga
Eiropas regulatīvā pieeja mākslīgajam intelektam nav par inovācijas bremzēšanu, lai ko teiktu Silīcija ielejas lobiju struktūras. Tā ir par inovācijas virzīšanu uz rezultātiem, par kuriem vēlāk nevajadzēs atvainoties parlamentu priekšā.
ES MI akts atzīst, ka MI sistēmām, kas ietekmē pamattiesības (veselības aprūpi, tieslietas, kredītus, nodarbinātību), jābūt pārredzamām, godīgām un atbildīgām. Revolucionāra doma: varbūt algoritmam, kas izlemj, vai saņemsiet aizdevumu, būtu jāpaskaidro savs lēmums. Šis regulatīvais satvars veicina arhitektūras, kas šīs īpašības nodrošina pēc būtības, nevis kā atbilstības plāksteri, kas uzlikts pēc fakta.
Uzlabotas MI arhitektūras, kas apvieno ierobežojumu balstītu spriešanu, vairāku aģentu sistēmas un hibrīdas neironu-simboliskās pieejas, lieliski saskan ar šo redzējumu. Tās nemēģina apiet regulējumu ar gudriem robiem. Tās iemieso principus: pārredzamību ar skaidrām spriešanas ķēdēm, godīgumu ar pārbaudāmu loģiku, atbildību ar pierādāmu rīcību.
Šī ir Eiropas iespēja virzīt MI attīstību uz uzticamām, pārbaudāmām sistēmām, nevis uz pieeju "kusties ātri un lauz demokrātiju", ko dod priekšroku citur. Sauciet mūs par vecmodīgiem, bet mēs labāk gribam, lai mūsu MI sistēmām nebūtu vajadzīgas parlamentārās uzklausīšanas.
Regulatīvā pieeja rada konkurences priekšrocības, nevis slogu. Kamēr Amerikas uzņēmumi pielāgo izskaidrojamību arhitektūrām, kas tai pretojas (veiksmi, mēģinot izskaidrot uzmanības matricas GDPR auditoram), Eiropas uzņēmumi pārredzamību iebūvē pamatos. Kamēr citi steidzas izpildīt prasības, pret kurām paši lobēja, Eiropas uzņēmumi veido sistēmas, kas dabiski atbilst prasībām, jo mēs tiešām runājām ar regulatoriem projektēšanas laikā.
Tas nav regulatīvs slogs, kas mūs bremzē. Tā ir stratēģiska virzība, kas mūs paātrina. Eiropa agri saprata, ka MI, ko izmanto kritiskās sistēmās, ir jābūt uzticamam. Regulējums kodificē šo atziņu. Uz ierobežojumiem balstītas, vairāku aģentu, hibrīdas arhitektūras ir šo principu tehniskais iemiesojums.
Globālais mākslīgā intelekta tirgus arvien vairāk pieprasīs to, ko nosaka Eiropas regulas: izskaidrojamību, auditejamību, pierādāmu drošību. Eiropas mākslīgā intelekta platformām, kas izstrādātas saskaņā ar šīm prasībām, ir pirmā lietotāja priekšrocība. Kad Kalifornija beidzot pieņems savu mākslīgā intelekta regulu (pēc trešā lielā skandāla), kad Pekina pieprasīs pārredzamību Ķīnā ieviestajām sistēmām un kad katra cita jurisdikcija sapratīs, ka "paļaušanās uz tehnoloģiju entuziastiem" nav pārvaldības stratēģija, Eiropas tehnoloģijas būs gatavas. Jo mēs šai realitātei esam veidojuši jau no pirmās dienas.
Ceļš uz priekšu
Mēs atrodamies mākslīgā intelekta attīstības izšķirošā punktā.
Viens ceļš turpina paplašināt tradicionālos neironu tīklus: lielāki modeļi, vairāk parametru, vairāk datu, mazāk interpretējamības. Šis ceļš ved uz spēcīgām, bet neatskaitāmām sistēmām.
Otrs ceļš veido mākslīgo intelektu uz loģiskiem pamatiem: skaidri ierobežojumi, formāla verifikācija, pierādāma pareizība. Tas ved uz sistēmām, kurām mēs patiešām varam uzticēties kritiskos lietojumos.
Dweve ir izvēlējusies otro ceļu. Mūsu bināro ierobežojumu tīkli nodrošina pilnīgu izskaidrojamību, formālu verifikāciju un atbilstību ES mākslīgā intelekta aktam jau arhitektūras līmenī.
Jautājums nozarei ir: kuru nākotni mēs vēlamies veidot?
Šai izvēlei ir dziļas sekas. Tradicionālie neironu tīkli optimizē spējas par katru cenu. Bināro ierobežojumu tīkli optimizē uzticamas spējas. Pirmā pieeja rada iespaidīgas demonstrācijas. Otrā rada sistēmas, ko var ieviest praksē.
Mēs redzam atšķirību ieviešanas modeļos. Tradicionālais mākslīgais intelekts izceļas zemas riska pakāpes lietojumos: satura ieteikšanā, attēlu ģenerēšanā, teksta pabeigšanā. Bināro ierobežojumu mākslīgais intelekts izceļas augstas riska pakāpes jomās: medicīniskajā diagnostikā, finanšu lēmumos, autonomās sistēmās, rūpnieciskajā vadībā.
Šī atšķirība atspoguļo fundamentālas arhitektūras atšķirības. Kad pareizība ir svarīgāka par pārklājumu, kad izskaidrojamība ir obligāta, kad formāla verifikācija ir nepieciešama, uz ierobežojumiem balstītas pieejas uzvar. Kad plašas spējas ir svarīgākas par garantijām, pietiek ar statistiskām pieejām.
Taču ainava mainās. Mākslīgajam intelektam ienākot kritiskajās sistēmās, uzticamība kļūst būtiska. Arhitektūras, kas to nodrošina, iegūst priekšrocības. Tās, kas to nenodrošina, saskaras ar šķēršļiem: regulatīvu noraidījumu, atbildības riskiem, tirgus pretestību.
Bināro ierobežojumu tīkli nav nākotne tāpēc, ka tie ir jauni. Tie ir nākotne, jo tie risina svarīgākās problēmas: pārredzamību, atbildību, pierādāmu drošību. Tie nodrošina to, ko prasa kritiskās sistēmas un ko pieprasa regulas.
Ceļš uz priekšu ir skaidrs. Veidojiet mākslīgo intelektu, ko varat izskaidrot. Izstrādājiet sistēmas, ko varat verificēt. Ieviesiet inteliģenci, kurai varat uzticēties. Tas ir godīgs mākslīgais intelekts. Tā ir arhitektūra, kas mērogojas augstas riska pakāpes jomās. To Eiropa veido.
Dweve izstrādā caurskatāmu mākslīgo intelektu, izmantojot uz ierobežojumiem balstītu spriešanu, vairāku aģentu sistēmas un hibrīdas neironu-simboliskas arhitektūras. Katrs lēmums ir izsekojams, pateicoties skaidriem loģikas noteikumiem. Katrs secinājums ir pārbaudāms ar formālām metodēm. Atbilst ES Mākslīgā intelekta aktam jau pēc konstrukcijas. Uzņēmums atrodas Nīderlandē un apkalpo tikai Eiropas organizācijas.