Il-manifest tal-AI onesta: għaliex għandna bżonn intelliġenza trasparenti
Il-problema arkitettonika bl-AI moderna
Is-sistemi moderni tal-AI għandhom difett fundamentali fid-disinn li ħadd fl-industrija ma jrid jindirizza: huma mibnija biex jinstemgħu korretti, mhux biex ikunu korretti.
Ħares lejn kif jaħdmu l-mudelli kbar tal-lingwa. Huma janalizzaw biljuni ta' kampjuni ta' test, isibu mudelli statistiċi, u jbassru liema kliem jinstema' plawsibbli flimkien. M'hemm l-ebda pass ta' verifikazzjoni. L-ebda kontroll tal-verità. L-ebda fehim dwar jekk l-output huwiex fattwalment korrett. Sempliċement tqabbil ta' mudelli u tbassir.
Din l-għażla arkitettonika tfisser li dawn is-sistemi se jiġġeneraw b'fiduċja informazzjoni żbaljata kull meta t-tweġiba ħażina ssegwi mudelli lingwistiċi komuni. Mhuwiex bug li tista' tissewwa. Hekk huma ddisinjati biex jaħdmu.
U qed inqegħdu dawn is-sistemi fi sptarijiet, fi swali tal-qorti, u f'istituzzjonijiet finanzjarji madwar l-Ewropa.
Fl-Olanda biss, kumpaniji bħal ScreenPoint Medical jużaw l-AI għall-iskoperta tal-kanċer tas-sider. Delft Imaging tapplikaha għad-dijanjosi tat-tuberkulożi. Thirona tanalizza skans tal-pulmun bit-tagħlim fil-fond. Meta dawn is-sistemi jagħmlu żball dwar is-saħħa ta' xi ħadd, "il-mudell kien 87% kunfidenti" mhux biżżejjed. Ħajjiet jiddendlu fil-bilanċ.
Il-problema tmur aktar fil-fond minn żbalji okkażjonali. In-netwerks newrali tradizzjonali jottimizzaw għall-probabbiltà statistika, mhux għall-verità. Huma jitgħallmu jbassru liema tweġiba tipikament issegwi input partikolari abbażi ta' mudelli fid-dejta tat-taħriġ. Meta dawk il-mudelli jkunu preċiżi, is-sistema taħdem tajjeb. Meta l-mudelli jkunu qarrieqa, is-sistema tfalli b'mod sistematiku.
Ikkunsidra d-dijanjosi medika. Netwerk newrali tradizzjonali jista' jitgħallem li ċerti sintomi jikkorrelataw ma' mard speċifiku fid-dejta tat-taħriġ. Iżda l-korrelazzjoni mhijiex kawżalità. Jekk id-dejta tat-taħriġ fiha preġudizzji reġjonali, il-mudell jitgħallem dawk il-preġudizzji. Jekk kundizzjonijiet rari ma jkunux rappreżentati biżżejjed, il-mudell jonqos milli jagħrafhom. L-arkitettura m'għandha l-ebda mekkaniżmu biex tiddistingwi bejn relazzjonijiet mediċi ġenwini u artifacts statistiċi.
Dan joħloq kriżi ta' fiduċja. Kif tqiegħed l-AI f'ambjenti ta' riskju għoli meta ma tistax tivverifika r-raġunament tagħha? Kif tispjega lil pazjent għaliex l-AI rrakkomandat trattament partikolari meta s-sistema nnifisha ma tistax tispjega l-loġika tagħha? Kif tawdita għall-preġudizzju meta l-proċess tad-deċiżjoni huwa kaxxa sewda ta' multiplikazzjonijiet ta' matriċi?
Kif in-netwerks newrali fil-fatt jieħdu deċiżjonijiet
In-netwerks newrali tradizzjonali jaħdmu permezz ta’ saffi ta’ konnessjonijiet peżati. Input jgħaddi minn diversi saffi, kull wieħed iwettaq trasformazzjonijiet matematiċi, sakemm jipproduċi output b’punteġġ ta’ kunfidenza assoċjat miegħu.
Il-problema? Ma tistax issegwi għaliex ittieħdet deċiżjoni. Is-sistema tgħallmet eluf ta' valuri ta' piż waqt it-taħriġ. Meta tipproduċi riżultat, tista' tara liema newroni attivaw, iżda dan ma jgħidlekx għaliex. Ir-raġunament huwa mifrux fuq għadd bla għadd ta' operazzjonijiet matematiċi mingħajr triq loġika ċara.
Dan kollu sew biex tirrakkomanda films. Huwa perikoluż biex tiddijanjostika l-mard.
Il-problema tal-ottimizzazzjoni tal-ingaġġ
Hawn is-sigriet skur li ħadd ma jrid jammetti: ħafna mis-sistemi kummerċjali tal-AI lanqas huma ottimizzati għall-eżattezza. Huma ottimizzati għall-metriċi tal-ingaġġ. Il-klikks. Iż-żmien imqatta'. Ir-rati tal-interazzjoni. L-affarijiet li jferrħu lill-azzjonisti u jagħmlu l-verità fakultattiva.
L-algoritmi tar-rakkomandazzjoni jitgħallmu x'iqajjem lin-nies fuq il-pjattaforma, irrispettivament minn jekk dak il-kontenut huwiex veru jew ta' benefiċċju. Jekk stqarrijiet kontroversjali jmexxu aktar ingaġġ minn analiżi bilanċjata, l-algoritmu jitgħallem iqiegħed il-kontroversja fil-wiċċ. Jekk kontenut emozzjonali jaħdem aħjar minn rappurtar fattwali, l-emozzjonijiet jirbħu. Kull darba.
Is-sistema qed taħdem eżattament kif kienet imfassla. Għidna lilha biex timmassimizza l-ingaġġ. Tgħallmet li l-verità u l-ingaġġ spiss jiġu f'kunflitt, u għażlet l-ingaġġ. Ma tistax verament tgħabbi lill-AI talli segwiet l-ordnijiet.
Dan mhux tħassib teoretiku biss. Studju tal-MIT tal-2018 analizza 126,000 storja ta' aħbarijiet fuq Twitter u sab li l-aħbarijiet foloz jinfirxu sitt darbiet aktar malajr mill-verità, u jilħqu 1,500 persuna qabel ma stejjer veri jilħqu 1,000. L-algoritmi tgħallmu dan il-mudell u jisfruttawh bla ħniena. Il-verità hija boring. L-għadab huwa virali. Aqta' x'jirbaħ?
Korrelazzjoni mingħajr kawżalità
Il-mudelli statistiċi jsibu mudelli fid-dejta. Iżda l-mudelli mhumiex fehim.
Il-bejgħ tal-ġelat jikkorrelata mal-imwiet mill-għarqa. It-tnejn jiżdiedu fis-sajf. Mudell statistiku jara l-korrelazzjoni u jista' jbassar ir-riskju tal-għarqa mill-bejgħ tal-ġelat. Sab mudell reali fid-dejta. Il-mudell biss ma jfissirx dak li jissuġġerixxi interpretazzjoni naïve.
Il-bnedmin jifhmu l-kawżalità. Nafu li t-temp tas-sajf jikkawża ż-żewġ fenomeni. Sistemi tal-AI mħarrġa fuq il-korrelazzjoni ma jistgħux jagħmlu din id-distinzjoni sakemm ma nikkodifikawx b'mod espliċitu l-istruttura kawżali fil-mudell.
Din il-limitazzjoni taffettwa deċiżjonijiet reali. AI medika tista' tikkorrelata sintomu ma' dijanjosi bbażata fuq mudelli statistiċi, u titlef il-mekkaniżmu kawżali attwali. AI finanzjarja tista' tikkorrelata l-movimenti tas-suq mingħajr ma tifhem ir-relazzjonijiet ekonomiċi sottostanti.
Id-distinzjoni għandha importanza kbira fil-prattika. Sistema bbażata fuq il-korrelazzjoni tista' tosserva li pazjenti li jirċievu trattament partikolari jkollhom riżultati aħjar. Imma x'jiġri jekk dawk il-pazjenti jirċievu t-trattament għaliex huma aktar b'saħħithom mill-bidu? Il-korrelazzjoni teżisti, iżda r-relazzjoni kawżali tmur fid-direzzjoni opposta. Il-mudelli statistiċi ma jistgħux jiskopru dan mingħajr immudellar kawżali espliċitu.
Fis-sistemi finanzjarji Ewropej, il-korrelazzjonijiet jinbidlu kontinwament. Swieq li storikament kienu jiċċaqilqu flimkien jinfirdu minħabba bidliet regolatorji (ħej, MiFID II), bidliet teknoloġiċi, jew avvenimenti ġeopolitiċi (Brexit, xi ħadd?). Mudell ibbażat fuq il-korrelazzjoni jkompli japplika mudelli skaduti sakemm ifalli b'mod katastrofiku. M'għandux fehim ta' għaliex kienet teżisti l-korrelazzjoni, għalhekk ma jistax jagħraf meta r-relazzjoni sottostanti nbidlet.
Il-bank Ġermaniż Schufa tgħallem dan bl-agħar mod fl-2024. Il-Qorti tal-Ġustizzja tal-Unjoni Ewropea ddeċidiet li s-sistema ta' skor ta' kreditu bl-AI tagħhom kisret ir-rekwiżiti tal-GDPR preċiżament għaliex il-korrelazzjonijiet li tgħallmet ma setgħux jiġu spjegati jew awditjati. Meta l-algoritmu jiċħad lil xi ħadd self ta' €20,000, "il-kompjuter jgħid le" mhux biżżejjed legalment taħt il-liġi Ewropea.
Il-problema fundamentali: it-tqabbil tal-mudelli mingħajr komprensjoni joħloq sistemi fraġli. Jaħdmu sakemm ma jaħdmux, u meta jfallu, ifallu kompletament u mingħajr twissija.
X'inhu verament meħtieġ għat-trasparenza
Trasparenza vera tfisser li tista' ssegwi kull deċiżjoni permezz ta' passi loġiċi espliċiti. Mhux "afda fina, il-matematika toħroġ" imma "hawn eżattament għaliex, pass pass."
Pjattaformi moderni tal-AI bħal Dweve jiksbu dan permezz ta' bosta innovazzjonijiet arkitettoniċi li jaħdmu flimkien. Minflok piżijiet opaki b'punt mobbli mqassma fuq miljuni ta' konnessjonijiet, l-intelliġenza toħroġ minn restrizzjonijiet kristallizzati (regoli loġiċi espliċiti), raġunament newrali-simboliku ibridu (li jgħaqqad ir-rikonoxximent ta' mudelli mal-inferenza loġika), u sistemi ta' verifikazzjoni b'aġenti multipli (aġenti speċjalizzati multipli li jiċċekkjaw ix-xogħol ta' xulxin).
Meta s-sistema tieħu deċiżjoni, tista' tgħidlek eżattament x'ġara: "L-aġent tal-perċezzjoni skopra l-mudell X bil-karatteristiċi Y u Z. L-aġent tar-raġunament applika r-restrizzjonijiet C1 u C2, u eskluda l-għażla A. L-aġent tad-deċiżjoni għażel l-għażla B abbażi tas-sodisfar tar-restrizzjonijiet C3, C4, u C5 b'sodisfazzjon loġiku ta' 100%." Mhux punteġġi ta' probabbiltà vagi. Deduzzjoni loġika ċara li tista' tivverifika, tawditja, u tisfida.
Din hija d-differenza bejn "il-mudell jgħid 73% probabbli" (traduzzjoni: m'għandna l-ebda idea għaliex, imma l-istatistika tgħid hekk) u "hawn il-prova loġika ta' għaliex din il-konklużjoni ssegwi minn dawn il-premessi" (traduzzjoni: nistgħu nuru x-xogħol tagħna, bħalma tgħallimt l-iskola).
Verifikazzjoni formali u korrettezza provabbli
Sistemi avvanzati tal-AI mibnija fuq arkitetturi bbażati fuq restrizzjonijiet jippermettu verifikazzjoni matematika tal-imġiba tas-sistema. Dan huwa fejn ix-xjenza tal-kompjuter tiltaqa' mal-matematika bl-aktar mod sabiħ.
Permezz ta' metodi formali, tista' tipprova li sistema bħal din dejjem se taġixxi fil-limiti speċifikati. Mhux "probabbilment korretta abbażi tal-ittestjar" jew "ħadmet tajjeb fis-simulazzjoni tagħna." Korretta b'mod provabbli permezz ta' prova matematika. It-tip ta' prova li tagħmel lil matematiku jħaddem rasek b'approvazzjoni minflok ma jilħaq għall-pinna ħamra.
Dan huwa importanti għal sistemi kritiċi. Meta l-AI tikkontrolla apparat mediku fi sptarijiet ta' Rotterdam, timmaniġġja sistemi finanzjarji għal banek ta' Amsterdam, jew topera infrastruttura kritika madwar l-Ewropa, għandna bżonn garanziji matematiċi ta' mġiba korretta taħt il-kundizzjonijiet kollha. "Ups, ma ttestjajniex dak il-każ estrem" mhux aċċettabbli meta jkunu f'riskju l-ħajjiet u l-għajxien tan-nies.
In-netwerks newrali tradizzjonali ma jistgħux jipprovdu dawn il-garanziji. L-imġiba tagħhom toħroġ minn miljuni ta' parametri mħallma li jinteraġixxu b'modi li ħadd ma jifhem bis-sħiħ. In-netwerks ibbażati fuq il-vinkoli jistgħu jippruvaw l-imġiba tagħhom matematikament, bl-istess mod kif tista' tipprova t-teorema ta' Pitaġora. Huwa veru għaliex il-loġika titlob hekk, mhux għaliex id-dejta tat-taħriġ issuġġeriet dan.
Kwantifikazzjoni espliċita tal-inċertezza
Is-sistemi tal-AI attwali jesprimu l-kunfidenza permezz ta' punteġġi ta' probabbiltà. Iżda dawn il-punteġġi spiss ikejlu l-kunfidenza statistika fil-mudell, mhux iċ-ċertezza attwali dwar il-verità.
Sistema tista' tkun 99% kunfidenti f'tweġiba kompletament ħażina jekk it-tweġiba ħażina ssegwi mudelli statistiċi b'saħħithom fid-dejta tat-taħriġ.
Is-sistemi b'vinkoli booleani jimmaniġġjaw l-inċertezza b'mod differenti. Meta l-vinkoli jkunu sodisfatti bis-sħiħ, il-konklużjoni ssegwi loġikament. Meta l-vinkoli jkunu sodisfatti parzjalment jew kontradittorji, is-sistema tiddikjara b'mod espliċitu: "Ma teżistix soluzzjoni valida fil-limiti tal-vinkoli mogħtija."
Din hija inċertezza onesta. Is-sistema tammetti meta ma tistax tasal għal konklużjoni valida, minflok ma toħroġ l-aħjar suppożizzjoni statistika tagħha b'punteġġ ta' kunfidenza.
L-Att dwar l-AI tal-UE u r-rekwiżiti regolatorji
Fl-1 ta' Awwissu 2024, l-Att dwar l-AI tal-UE daħal fis-seħħ, u sar l-ewwel regolament komprensiv dwar l-AI fid-dinja. Dan mhuwiex burokrazija ta' Brussell li ħarġet mill-kontroll. Huwa rikonoxximent li l-AI li taffettwa l-ħajja tan-nies trid tkun responsabbli. Kunċett ġdid, apparentement.
L-Artikolu 13 jirrikjedi li sistemi tal-AI b'riskju għoli jkunu ddisinjati b'tali mod li l-utenti jkunu jistgħu fil-fatt jinterpretaw l-outputs u jużawhom b'mod xieraq. L-Artikolu 14 jimponi superviżjoni umana (bnedmin fiċ-ċiklu, immaġina). L-Artikolu 15 jirrikjedi preċiżjoni, robustezza, u ċibersigurtà. L-implimentazzjoni sħiħa tibda fit-2 ta' Awwissu 2026, u n-nuqqas ta' konformità jista' jiswa sa 7% tad-dħul annwali globali jew €35 miljun, skont liema wieħed iġiegħlek tirtogħod aktar.
In-netwerks b'vinkoli booleani jissodisfaw dawn ir-rekwiżiti arkitettonikament. It-trasparenza mhijiex miżjuda wara li l-avukati jibdew jitħassbu. Hija fundamentali għall-mod kif is-sistema topera mill-ewwel jum. Kull deċiżjoni hija intrinsikament spjegabbli għaliex issegwi vinkoli loġiċi espliċiti li r-regolaturi jistgħu fil-fatt jivverifikaw.
Implikazzjonijiet fid-dinja reali
Dawn id-differenzi arkitettoniċi għandhom konsegwenzi konkreti.
Fil-qasam tas-saħħa, AI li ma tistax tiġi spjegata tista' tikseb preċiżjoni għolja fl-ittestjar iżda tfalli meta tiġi skjerata għaliex tgħallmet korrelazzjonijiet foloz. Is-sistemi b'vinkoli booleani jistgħu jippruvaw il-loġika dijanjostika tagħhom, u jippermettu lill-professjonisti mediċi jivverifikaw ir-raġunament qabel l-iskjerament.
Fil-qasam finanzjarju, mudelli ta' kaxxa sewda jistgħu japprovaw jew jiċħdu self ibbażat fuq mudelli li jinkorporaw preġudizzji storiċi. Is-sistemi bbażati fuq il-vinkoli jagħmlu l-kriterji tad-deċiżjoni espliċiti, u jippermettu verifiki għall-ġustizzja.
Fis-sistemi legali, rakkomandazzjonijiet ta' sentenzi li ma jistgħux jiġu spjegati jdgħajfu l-ġustizzja. Loġika ta' vinkoli spjegabbli tippermetti lill-imħallfin jevalwaw jekk ir-raġunament huwiex allinjat mal-prinċipji legali.
Ikkunsidra vetturi awtonomi. In-netwerks newrali tradizzjonali jipproċessaw id-dejta tas-sensuri permezz ta' miljuni ta' konnessjonijiet peżati biex jipproduċu deċiżjonijiet ta' steering u ibbrejkjar. Meta xi ħaġa tmur ħażin, l-investigaturi ma jistgħux jiddeterminaw għaliex is-sistema għamlet għażla partikolari. Ir-raġunament huwa mqassam madwar in-netwerk kollu b'mod li jisfida l-fehim uman.
Is-sistemi b'vinkoli booleani joperaw b'mod differenti. Kull deċiżjoni tissodisfa sett ta' vinkoli ta' sikurezza espliċiti. Jekk is-sistema tibbrejkja, tista' ssegwi r-raġunament: "Il-vinkolu C1 skopra ostaklu fi ħdan 8 metri. Il-vinkolu C2 jirrikjedi l-ibbrejkjar meta d-distanza tal-ostaklu tkun inqas minn 10 metri u l-veloċità taqbeż il-50 km/h. Il-veloċità attwali hija 70 km/h. Għalhekk, l-ibbrejkjar ġie attivat." Dan ir-raġunament jista' jiġi vverifikat, ittestjat, u ppruvat korrett.
Id-differenza għandha sinifikat għaċ-ċertifikazzjoni u għar-responsabbiltà. Fis-7 ta' Lulju 2024, daħlu fis-seħħ regolamenti ġodda tal-UE dwar is-sikurezza, li stabbilixxew l-ewwel regoli internazzjonali għal vetturi kompletament mingħajr sewwieq. Ir-regolamenti jimponu valutazzjonijiet komprensivi tas-sikurezza, rekwiżiti taċ-ċibersigurtà, u rappurtar ta' inċidenti qabel ma l-vetturi jidħlu fit-toroq Ewropej. Kif tista' tiċċertifika sistema li ma tistax tivverifikaha bis-sħiħ? Kif tassenja r-responsabbiltà meta l-proċess ta' deċiżjoni jkun opak? In-netwerks newrali tradizzjonali joħolqu inkubi legali u regolatorji. Is-sistemi b'vinkoli booleani jipprovdu t-trasparenza li r-regolaturi Ewropej verament jeħtieġu.
Fil-manifattura, l-AI għall-kontroll tal-kwalità trid tispjega l-klassifikazzjonijiet tad-difetti lill-ħaddiema li jieħdu azzjoni korrettiva. Is-sistemi ta' kaxxa s-sewda ma joffru l-ebda għarfien: "difett instab b'kunfidenza ta' 87%." Is-sistemi bbażati fuq vinkoli jispjegaw: "id-dimensjoni taqbeż it-tolleranza b'0.3mm fil-pożizzjoni (x,y), il-ħruxija tal-wiċċ tikser l-ispeċifikazzjoni fiż-żona Z3." Il-ħaddiema jistgħu jużaw din l-informazzjoni biex jaġġustaw il-proċessi.
Il-mudell huwa ċar: l-ispjegabbiltà mhijiex karatteristika ta' lussu. Hija essenzjali biex is-sistemi tal-AI jintegraw fil-flussi tax-xogħol u fil-proċessi ta' deċiżjoni tal-bniedem. Mingħajr trasparenza, l-AI tibqa' iżolata, mhux verifikabbli, u fl-aħħar mill-aħħar mhux affidabbli.
Nibnu AI onesta f'Dweve
F'Dweve, bnejna pjattaforma kompleta tal-AI li tagħmel it-trasparenza inevitabbli. Mhux bħala ħsieb ta' wara jew bħala kaxxa ta' kontroll tal-konformità, iżda bħala l-arkitettura fundamentali.
**Dweve Core** jipprovdi 1,930 algoritmu ottimizzati għall-ħardwer għal netwerks newrali booleani, b'vinkoli, u spiking. Dawn mhumiex l-operazzjonijiet b'punt mobbli ta' żmien ilu li jeħtieġu clusters ta' GPUs. Huma jaħdmu b'mod effiċjenti fuq CPUs standard, u jikkunsmaw 96% inqas enerġija mill-approċċi tradizzjonali.
**Dweve Loom** jikkoordina 456 sistema speċjalizzata fid-dominju, kull waħda speċjalista fid-dominju tagħha. Biss l-ispeċjalisti rilevanti tad-dominju jattivaw għal kull kompitu (tipikament minn 4 sa 8 minn 456), u joħolqu kapaċità kbira ta' għarfien b'impronta komputazzjonali minima. Huwa bħal li jkollok 456 konsulent f'disponibbiltà permanenti iżda tħallas biss għal dawk li verament tuża.
**Dweve Nexus** jimplimenta intelliġenza multi-aġent b'31+ estrattur tal-perċezzjoni, 8 modi distinti ta' raġunament, u integrazzjoni ibrida newrali-simbolika. Aġenti speċjalizzati multipli jipperċepixxu, jirraġunaw, jiddeċiedu, u jaġixxu, bil-loġika ta' kull aġent tkun kompletament traċċabbli. Meta s-sistema tasal għal konklużjoni, tista' tara liema aġenti kkontribwew liema għarfien.
**Dweve Aura** jipprovdi assistenza fl-iżvilupp b'mod awtonomu permezz ta' 32 aġenti speċjalizzati organizzati f'6 modi ta' orkestrazzjoni. Mill-eżekuzzjoni normali b'aġent wieħed għall-esplorazzjoni parallela fil-mod ta' swarm għad-dibattitu b'LLM multipli fil-mod ta' kunsens, is-sistema tadatta l-arkitettura konjittiva tagħha għall-kompitu li jkollha quddiemha.
**Dweve Spindle** jiggverna l-kwalità tal-għarfien permezz ta' pipeline epistemoloġiku ta' 7 stadji. L-informazzjoni timxi minn kandidata għal kanonika biss wara li tgħaddi minn verifikazzjoni rigoruża, b'32 aġent speċjalizzat jiżguraw li kull biċċa għarfien tilħaq il-limiti ta' kwalità qabel ma tħarreġ mudelli futuri.
**Dweve Mesh** jiddeċentralizza kollox, u jippermetti tagħlim federat fuq networks pubbliċi u privati b'tolleranza estrema għall-ħsarat. In-network ikompli jaħdem anki meta 70% tan-nodi ifallu. Is-sovranità tad-dejta tibqa' lokali, b'daqsxejn ta' aġġornamenti kriptati tal-mudelli biss jivvjaġġaw fuq in-network.
**Dweve Fabric** jiġbor kollox f'pannell unifikat fejn l-utenti jikkontrollaw aġenti, flussi tax-xogħol, mudelli, u konversazzjonijiet tal-AI f'ħin reali b'trasparenza sħiħa u traċċar tal-oriġini.
Kull deċiżjoni fuq din il-pjattaforma kollha tgħaddi minn passi loġiċi espliċiti. Ir-regolaturi jistgħu jivverifikaw il-bażijiet ta' restrizzjonijiet u l-katini ta' raġunament. L-esperti fil-qasam jistgħu jikkonfermaw li l-loġika taqbel mal-fehim tagħhom. L-utenti jistgħu jaraw eżattament għaliex is-sistema waslet għal kull konklużjoni, liema aġenti kkontribwew, u liema restrizzjonijiet ġew sodisfatti.
Din hija AI mibnija għar-responsabbiltà mill-bidu nett. Mhux għax aħna nies tajbin (għalkemm aħna), imma għax l-arkitettura tagħmel id-diżonestà arkitettonikament impossibbli.
Il-prinċipji wara intelliġenza onesta
Bnejna Dweve fuq għaxart prinċipji ewlenin:
- Il-verità fuq l-ingaġġ. Ottimizza għall-korrettezza fattwali, mhux għaż-żamma tal-utenti. Tweġibiet onesti jiswew aktar minn waħda konvinċenti.
- It-trasparenza fuq il-prestazzjoni. Raġunament spjegabbli jegħleb il-qligħ marġinali fl-eżattezza minn mudelli ta' kaxxa s-sewda. Il-fehim huwa importanti.
- L-inċertezza fuq il-kunfidenza. Inċertezza espliċita tegħleb kunfidenza falza. Meta s-sistema ma tkunx taf, tgħid hekk.
- Il-verifikazzjoni fuq il-fiduċja. Ipprovdi prova matematika tal-korrettezza minflok titlob lill-utenti jafdaw fis-sistema.
- Il-loġika fuq il-probabbiltà. Sodisfazzjon deterministiku tar-restrizzjonijiet jegħleb it-tqabbil statistiku tal-mudelli għal deċiżjonijiet kritiċi.
- Il-bnedmin fuq il-metriċi. Aqdi l-ħtiġijiet tal-bniedem, mhux il-miri ta' ottimizzazzjoni. Il-verità tegħleb il-metriċi tal-ingaġġ.
- Is-sigurtà fuq l-iskala. Imġiba korretta garantita f'oqsma speċifiċi tegħleb imġiba approssimattiva f'kollox.
- Il-privatezza fuq id-dejta. Ipproċessa lokalment meta possibbli. Naqqas il-ġbir u ċ-ċentralizzazzjoni tad-dejta.
- L-indipendenza fuq il-lock-in. Evita dipendenzi fuq il-fornituri u arkitetturi proprjetarji.
- Valuri Ewropej. Ittratta r-regolamentazzjoni bħala gwida għad-disinn. Ibni għall-konformità mill-bidu.
Għaliex l-approċċ tal-Ewropa jgħodd
L-approċċ regolatorju tal-Ewropa lejn l-AI mhuwiex dwar li jnaqqas l-innovazzjoni, minkejja dak li l-fergħat ta' lobbying ta' Silicon Valley iriduk temmen. Huwa dwar li jidderieġi l-innovazzjoni lejn riżultati li ma jeħtiġux li wieħed jiskuża ruħu quddiem il-parlamenti aktar tard.
L-Att dwar l-AI tal-UE jirrikonoxxi li s-sistemi tal-AI li jaffettwaw id-drittijiet fundamentali (il-kura tas-saħħa, il-ġustizzja, il-kreditu, l-impjieg) għandhom ikunu trasparenti, ġusti, u responsabbli. Kunċett rivoluzzjonarju: forsi l-algoritmu li jiddeċiedi jekk iksibx self għandu jispjega ruħu. Dan il-qafas regolatorju jinkoraġġixxi arkitetturi li jipprovdu dawn il-proprjetajiet mid-disinn, mhux bħala garża ta' konformità applikata wara l-fatt.
Arkitetturi avvanzati tal-AI li jgħaqqdu r-raġunament ibbażat fuq il-vinċoli, sistemi multi-aġent, u approċċi ibridi newrali-simboliċi jallinjaw perfettament ma' din il-viżjoni. Ma jippruvawx jaħdmu madwar ir-regolamenti permezz ta' lakuni intelliġenti. Huma jinkorporaw il-prinċipji: it-trasparenza permezz ta' katini ta' raġunament espliċiti, il-ġustizzja permezz ta' loġika verifikabbli, ir-responsabbiltà permezz ta' mġiba li tista' tiġi ppruvata.
Din hija l-opportunità tal-Ewropa li tmexxi l-iżvilupp tal-AI lejn sistemi affidabbli u verifikabbli minflok l-approċċ "ċċaqlaq malajr u kisser id-demokrazija" li jintgħażel x'imkien ieħor. Sejħulna antikwati, imma nippreferu li s-sistemi tal-AI tagħna ma jeħtiġux seduti fil-kungress.
L-approċċ regolatorju joħloq vantaġġ kompetittiv, mhux piż. Filwaqt li l-kumpaniji Amerikani jirrettifikaw l-ispjegabbiltà fuq arkitetturi li jirreżistuha (xorti tajba tispjega l-matriċi ta' attenzjoni lil awditur tal-GDPR), il-kumpaniji Ewropej jibnu t-trasparenza fil-pedament. Filwaqt li oħrajn jitħabtu biex jikkonformaw ma' mandati li huma stess opponew permezz ta' lobbying, il-kumpaniji Ewropej jiddisinjaw sistemi li b'mod naturali jissodisfaw ir-rekwiżiti għaliex aħna fil-fatt tkellimna mar-regolaturi waqt id-disinn.
Dan mhuwiex piż regolatorju li jnaqqasna. Huwa direzzjoni strateġika li taċċellerana 'l quddiem. L-Ewropa rrikonoxxiet kmieni li l-AI skjerata f'sistemi kritiċi trid tkun affidabbli. Ir-regolamenti jikkodifikaw din l-għarfien. L-arkitetturi bbażati fuq il-vinċoli, multi-aġent, u ibridi huma r-realizzazzjoni teknika ta' dawn il-prinċipji.
Is-suq globali tal-AI dejjem aktar se jitlob dak li jirrikjedu r-regolamenti Ewropej: spjegabbiltà, verifikabbiltà, sikurezza provabbli. Il-pjattaformi Ewropej tal-AI żviluppati taħt dawn ir-rekwiżiti għandhom vantaġġ ta' min jidħol l-ewwel. Meta California fl-aħħar tgħaddi r-regolamentazzjoni tagħha stess tal-AI (wara t-tielet skandlu kbir), u meta Beijing titlob trasparenza għas-sistemi skjerati fiċ-Ċina, u meta kull ġuriżdizzjoni oħra tirrealizza li "afda lill-esperti tat-teknoloġija" mhix strateġija ta' governanza, it-teknoloġija Ewropea tkun lesta. Għax aħna bnejna għal din ir-realtà mill-ewwel jum.
It-triq 'il quddiem
Qegħdin f'punt ta' deċiżjoni għall-iżvilupp tal-AI.
Triq waħda tkompli tiskala n-netwerks newrali tradizzjonali: mudelli akbar, aktar parametri, aktar dejta, inqas interpretabbiltà. Din it-triq twassal għal sistemi qawwija iżda mingħajr responsabbiltà.
It-triq l-oħra tibni l-AI fuq pedamenti loġiċi: restrizzjonijiet espliċiti, verifikazzjoni formali, korrettezza provabbli. Dan iwassal għal sistemi li nistgħu verament nafdaw f'applikazzjonijiet kritiċi.
Dweve għażlet it-tieni triq. In-netwerks tagħna ta' restrizzjonijiet binarji jipprovdu spjegabbiltà sħiħa, verifikazzjoni formali, u konformità mal-Att dwar l-AI tal-UE permezz tal-arkitettura.
Il-mistoqsija għall-industrija hija: liema futur irridu nibnu?
L-għażla għandha implikazzjonijiet profondi. In-netwerks newrali tradizzjonali jottimizzaw għall-kapaċità bi kwalunkwe spiża. In-netwerks ta' restrizzjonijiet binarji jottimizzaw għal kapaċità ta' fiduċja. L-ewwel approċċ jipproduċi dimostrazzjonijiet impressjonanti. It-tieni jipproduċi sistemi li jistgħu jiġu skjerati.
Naraw id-differenza fix-xejriet ta' adozzjoni. L-AI tradizzjonali teċċella f'applikazzjonijiet ta' riskju baxx: rakkomandazzjoni ta' kontenut, ġenerazzjoni ta' immaġini, tlestija ta' test. L-AI bbażata fuq restrizzjonijiet binarji teċċella f'oqsma ta' riskju għoli: dijanjosi medika, deċiżjonijiet finanzjarji, sistemi awtonomi, kontroll industrijali.
Id-diviżjoni tirrifletti differenzi arkitettoniċi fundamentali. Meta l-korrettezza timporta aktar mill-kopertura, meta l-ispjegabbiltà hija obbligatorja, meta l-verifikazzjoni formali hija meħtieġa, l-approċċi bbażati fuq restrizzjonijiet jirbħu. Meta l-kapaċità wiesgħa timporta aktar mill-garanziji, l-approċċi statistiċi jkunu biżżejjed.
Iżda l-pajsaġġ qed jinbidel. Hekk kif l-AI tidħol f'sistemi kritiċi, il-fiduċja ssir essenzjali. L-arkitetturi li jipprovduha jiksbu vantaġġ. Dawk li ma jipprovduhiex jiffaċċjaw ostakli: rifjut regolatorju, tħassib dwar ir-responsabbiltà, reżistenza tas-suq.
In-netwerks ta' restrizzjonijiet binarji mhumiex il-futur għax huma ġodda. Huma l-futur għax isolvu l-problemi li jimportaw: trasparenza, responsabbiltà, sikurezza provabbli. Jipprovdu dak li jirrikjedu s-sistemi kritiċi u dak li jitolbu r-regolamenti.
It-triq 'il quddiem hija ċara. Ibni AI li tista' tispjega. Iddisinja sistemi li tista' tivverifika. Skjera intelliġenza li tista' tafda. Din hija AI onesta. Din hija l-arkitettura li tiskala f'oqsma ta' riskju għoli. Dan huwa dak li qed tibni l-Ewropa.
Dweve tiżviluppa AI trasparenti permezz ta' raġunament ibbażat fuq il-kostrizzjonijiet, sistemi b'ħafna aġenti, u arkitetturi newrali-simboliċi ibridi. Kull deċiżjoni hija traċċabbli permezz ta' regoli loġiċi espliċiti. Kull konklużjoni hija verifikabbli permezz ta' metodi formali. Konformi mal-Att dwar l-AI tal-UE mid-disinn. Ibbażata fin-Netherlands, isservi organizzazzjonijiet Ewropej biss.