Manifest úprimnej umelej inteligencie: prečo potrebujeme transparentnú inteligenciu
Architektonický problém modernej umelej inteligencie
Moderné systémy umelej inteligencie majú zásadnú konštrukčnú chybu, ktorú nikto v odvetví nechce riešiť: sú navrhnuté tak, aby zneli správne, nie aby boli správne.
Pozrite sa, ako fungujú veľké jazykové modely. Analyzujú miliardy textových vzoriek, nachádzajú štatistické vzorce a predpovedajú, ktoré slová by spolu zneli vierohodne. Neexistuje žiadny krok overenia. Žiadna kontrola pravdivosti. Žiadne pochopenie toho, či je výstup fakticky správny. Len priraďovanie vzorcov a predikcia.
Táto architektonická voľba znamená, že tieto systémy budú s istotou generovať nesprávne informácie vždy, keď nesprávna odpoveď nasleduje bežné jazykové vzorce. Nie je to chyba, ktorú môžete opraviť záplatou. Takto sú navrhnuté, aby fungovali.
A my tieto systémy nasadzujeme v nemocniciach, súdnych sieňach a finančných inštitúciách po celej Európe.
Už len v Holandsku používajú spoločnosti ako ScreenPoint Medical umelú inteligenciu na detekciu rakoviny prsníka. Delft Imaging ju využíva na diagnostiku tuberkulózy. Thirona analyzuje pľúcne skeny pomocou hlbokého učenia. Keď tieto systémy urobia chybu týkajúcu sa zdravia niekoho, „model bol na 87 % presvedčený“ nestačí. V hre sú ľudské životy.
Problém siaha hlbšie než občasné chyby. Tradičné neurónové siete sa optimalizujú na štatistickú pravdepodobnosť, nie na pravdu. Učia sa predpovedať, ktorá odpoveď by typicky nasledovala po danom vstupe, na základe vzorcov v tréningových dátach. Keď sú tieto vzorce presné, systém funguje dobre. Keď sú vzorce zavádzajúce, systém zlyháva systematicky.
Zoberme si lekársku diagnostiku. Tradičná neurónová sieť sa môže naučiť, že určité príznaky korelujú s konkrétnymi chorobami v tréningových dátach. Ale korelácia nie je kauzalita. Ak tréningové dáta obsahujú regionálne skreslenia, model sa tieto skreslenia naučí. Ak sú zriedkavé stavy nedostatočne zastúpené, model ich nedokáže rozpoznať. Architektúra nemá žiadny mechanizmus na rozlíšenie medzi skutočnými medicínskymi vzťahmi a štatistickými artefaktmi.
To vytvára krízu dôvery. Ako nasadíte umelú inteligenciu v prostrediach s vysokými stávkami, keď nemôžete overiť jej uvažovanie? Ako vysvetlíte pacientovi, prečo umelá inteligencia odporučila konkrétnu liečbu, keď systém sám nedokáže formulovať svoju logiku? Ako vykonáte audit zaujatosti, keď je rozhodovací proces čiernou skrinkou maticových násobení?
Ako neurónové siete v skutočnosti rozhodujú
Tradičné neurónové siete fungujú cez vrstvy vážených prepojení. Vstup prechádza cez viacero vrstiev, pričom každá vykonáva matematické transformácie, až kým nevytvorí výstup so súvisiacim skóre spoľahlivosti.
Problém? Neviete zistiť, prečo bolo rozhodnutie prijaté. Systém sa počas tréningu naučil milióny hodnôt váh. Keď vygeneruje výstup, vidíte, ktoré neuróny sa aktivovali, ale to vám nepovie prečo. Uvažovanie je rozptýlené v nespočetných matematických operáciách bez jasnej logickej cesty.
To je v poriadku pri odporúčaní filmov. Je to nebezpečné pri diagnostike chorôb.
Problém optimalizácie zapojenia
Tu je temné tajomstvo, ktoré nikto nechce priznať: väčšina komerčných AI systémov nie je ani optimalizovaná na presnosť. Sú optimalizované na metriky zapojenia. Kliknutia. Strávený čas. Miera interakcie. To, čo robí akcionárov šťastnými a pravdu voliteľnou.
Odporúčacie algoritmy sa učia, čo udrží ľudí na platforme, bez ohľadu na to, či je obsah pravdivý alebo prospešný. Ak kontroverzné tvrdenia generujú väčšie zapojenie ako vyvážená analýza, algoritmus sa naučí zobrazovať kontroverziu. Ak emocionálny obsah funguje lepšie ako faktické spravodajstvo, vyhrávajú emócie. Zakaždým.
Systém funguje presne tak, ako bol navrhnutý. Povedali sme mu, aby maximalizoval zapojenie. Naučil sa, že pravda a zapojenie si často odporujú, a vybral si zapojenie. Naozaj nemôžeme viniť AI z toho, že plní rozkazy.
Toto nie je teoretické lamentovanie. Štúdia MIT z roku 2018 analyzovala 126 000 spravodajských príspevkov na Twitteri a zistila, že falošné správy sa šíria šesťkrát rýchlejšie ako pravda, pričom oslovia 1 500 ľudí skôr, než pravdivé príbehy oslovia 1 000. Algoritmy sa tento vzorec naučili a nemilosrdne ho využívajú. Pravda je nudná. Rozhorčenie je virálne. Hádajte, čo vyhráva?
Korelácia bez príčinnosti
Štatistické modely nachádzajú vzorce v dátach. Ale vzorce nie sú pochopenie.
Predaj zmrzliny koreluje s úmrtiami na utopenie. Oba javy v lete stúpajú. Štatistický model vidí koreláciu a môže predpovedať riziko utopenia na základe predaja zmrzliny. Našiel v dátach skutočný vzorec. Vzorec jednoducho neznamená to, čo naznačuje naivná interpretácia.
Ľudia chápu príčinnosť. Vieme, že letné počasie spôsobuje oba javy. AI systémy trénované na korelácii nedokážu tento rozdiel rozlíšiť, pokiaľ kauzálnu štruktúru do modelu výslovne nezakódujeme.
Toto obmedzenie ovplyvňuje reálne rozhodnutia. Lekárska AI môže korelovať príznak s diagnózou na základe štatistických vzorcov, pričom jej uniká skutočný kauzálny mechanizmus. Finančná AI môže korelovať pohyby trhov bez pochopenia základných ekonomických vzťahov.
Tento rozdiel má v praxi obrovský význam. Systém založený na korelácii môže pozorovať, že pacienti, ktorí dostávajú konkrétnu liečbu, majú lepšie výsledky. Ale čo ak títo pacienti dostávajú liečbu preto, lebo sú od začiatku zdravší? Korelácia existuje, ale kauzálny vzťah prebieha opačným smerom. Štatistické modely to bez explicitného kauzálneho modelovania nedokážu odhaliť.
V európskych finančných systémoch sa korelácie neustále menia. Trhy, ktoré sa historicky pohybovali spolu, sa rozdeľujú v dôsledku regulačných zmien (ahoj, MiFID II), technologických posunov alebo geopolitických udalostí (Brexit, niekto?). Model založený na korelácii naďalej aplikuje zastarané vzorce, až kým katastrofálne nezlyhá. Nerozumie, prečo korelácia existovala, a preto nedokáže rozpoznať, že sa základný vzťah zmenil.
Nemecká banka Schufa sa to tvrdo naučila v roku 2024. Súdny dvor Európskej únie rozhodol, že jej AI systém na kreditné hodnotenie porušil požiadavky GDPR práve preto, že korelácie, ktoré sa naučil, nebolo možné vysvetliť ani auditovať. Keď algoritmus niekomu zamietne pôžičku 20 000 EUR, odpoveď „počítač povedal nie" nie je podľa európskeho práva právne dostatočná.
Základný problém: spájanie vzorcov bez pochopenia vytvára krehké systémy. Fungujú, až kým neprestanú, a keď zlyhajú, zlyhajú úplne a bez varovania.
Čo transparentnosť skutočne vyžaduje
Skutočná transparentnosť znamená, že každé rozhodnutie viete vysledovať cez explicitné logické kroky. Nie „verte nám, matematika to spočíta“, ale „tu je presne dôvod, krok za krokom“.
Moderné AI platformy ako Dweve to dosahujú vďaka viacerým architektonickým inováciám, ktoré spolupracujú. Namiesto nepriehľadných váh s pohyblivou rádovou čiarkou rozložených medzi milióny spojení inteligencia vzniká z kryštalizovaných obmedzení (explicitných logických pravidiel), hybridného neuro-symbolického uvažovania (kombinácie rozpoznávania vzorov s logickou inferenciou) a multiagentových verifikačných systémov (viacerých špecializovaných agentov, ktorí si navzájom kontrolujú prácu).
Keď systém rozhoduje, vie vám presne povedať, čo sa stalo: „Percepčný agent detegoval vzor X s vlastnosťami Y a Z. Uvažovací agent aplikoval obmedzenia C1 a C2 a vylúčil možnosť A. Rozhodovací agent vybral možnosť B na základe splnenia obmedzení C3, C4 a C5 so 100 % logickou spokojnosťou.“ Nie vágne skóre pravdepodobnosti. Jasná logická dedukcia, ktorú môžete overiť, auditovať a spochybniť.
Toto je rozdiel medzi „model hovorí, že je to na 73 % pravdepodobné“ (preklad: nemáme poňatia prečo, ale štatistika to tvrdí) a „tu je logický dôkaz, prečo tento záver vyplýva z týchto premís“ (preklad: vieme ukázať svoju prácu, ako ste sa to učili v škole).
Formálna verifikácia a dokázateľná správnosť
Pokročilé AI systémy postavené na architektúrach založených na obmedzeniach umožňujú matematickú verifikáciu správania systému. Toto je miesto, kde sa informatika stretáva s matematikou tým najkrajším spôsobom.
Prostredníctvom formálnych metód môžete dokázať, že takýto systém sa bude vždy správať v rámci stanovených hraníc. Nie „pravdepodobne správny na základe testovania“ alebo „fungoval dobre v našej simulácii“. Dokázateľne správny prostredníctvom matematického dôkazu. Taký dôkaz, pri ktorom by matematik súhlasne prikývol namiesto toho, aby siahol po červenom pere.
To je dôležité pre kritické systémy. Keď AI riadi zdravotnícke zariadenia v rotterdamských nemocniciach, spravuje finančné systémy pre amsterdamské banky alebo prevádzkuje kritickú infraštruktúru v celej Európe, potrebujeme matematické záruky správneho správania za všetkých podmienok. „Ups, ten okrajový prípad sme netestovali“ nie je prijateľné, keď sú v stávke životy a živobytie.
Tradičné neurónové siete takéto záruky poskytnúť nedokážu. Ich správanie vzniká z miliónov naučených parametrov, ktoré na seba vzájomne pôsobia spôsobmi, ktorým nikto úplne nerozumie. Siete založené na obmedzeniach dokážu svoje správanie matematicky dokázať, rovnako ako môžete dokázať Pytagorovu vetu. Je to pravda, pretože to vyžaduje logika, nie preto, že to naznačovali tréningové dáta.
Explicitná kvantifikácia neistoty
Súčasné systémy umelej inteligencie vyjadrujú dôveru prostredníctvom skóre pravdepodobnosti. Tieto skóre však často merajú štatistickú dôveru vo vzor, nie skutočnú istotu o pravde.
Systém môže byť na 99 % presvedčený o úplne nesprávnej odpovedi, ak nesprávna odpoveď nasleduje silné štatistické vzory v tréningových dátach.
Binárne systémy s obmedzeniami pracujú s neistotou inak. Keď sú obmedzenia úplne splnené, záver logicky vyplýva. Keď sú obmedzenia splnené čiastočne alebo sú protichodné, systém explicitne uvedie: „V rámci daných obmedzení neexistuje žiadne platné riešenie."
Toto je čestná neistota. Systém prizná, že nedokáže dosiahnuť platný záver, namiesto toho, aby vydal svoj najlepší štatistický odhad so skóre dôvery.
Akt o umelej inteligencii EÚ a regulačné požiadavky
1. augusta 2024 nadobudol účinnosť Akt o umelej inteligencii EÚ, čím sa stal prvým komplexným nariadením o umelej inteligencii na svete. Toto nie je bruselská byrokracia, ktorá sa vymkla spod kontroly. Je to uznanie, že AI ovplyvňujúca životy ľudí musí byť zodpovedná. Novinka, že áno.
Článok 13 vyžaduje, aby boli systémy AI s vysokým rizikom navrhnuté tak, aby používatelia mohli skutočne interpretovať výstupy a používať ich primerane. Článok 14 nariaďuje ľudský dohľad (ľudia v slučke, predstavte si to). Článok 15 vyžaduje presnosť, robustnosť a kybernetickú bezpečnosť. Plná implementácia sa spúšťa 2. augusta 2026 a nedodržanie môže stáť až 7 % celosvetového ročného príjmu alebo 35 miliónov eur, podľa toho, čo vás zabolí viac.
Binárne siete s obmedzeniami spĺňajú tieto požiadavky architektonicky. Transparentnosť nie je dodatočne namontovaná po tom, čo právnici prepadnú panike. Je základom toho, ako systém funguje od prvého dňa. Každé rozhodnutie je zo svojej podstaty vysvetliteľné, pretože sa riadi explicitnými logickými obmedzeniami, ktoré môžu regulátori skutočne auditovať.
Dôsledky v reálnom svete
Tieto architektonické rozdiely majú konkrétne dôsledky.
V zdravotníctve môže nevysvetliteľná AI dosiahnuť vysokú presnosť v testoch, ale zlyhať pri nasadení, pretože sa naučila falošné korelácie. Binárne systémy s obmedzeniami dokážu dokázať svoju diagnostickú logiku, čo umožňuje zdravotníckym pracovníkom overiť zdôvodnenie pred nasadením.
Vo financiách môžu modely čiernej skrinky schváliť alebo zamietnuť úvery na základe vzorov, ktoré obsahujú historické predsudky. Systémy založené na obmedzeniach robia rozhodovacie kritériá explicitnými, čo umožňuje audity spravodlivosti.
V právnych systémoch nevysvetliteľné odporúčania týkajúce sa trestov podkopávajú spravodlivosť. Vysvetliteľná logika obmedzení umožňuje sudcom posúdiť, či zdôvodnenie je v súlade s právnymi zásadami.
Zamyslite sa nad autonómnymi vozidlami. Tradičné neurónové siete spracúvajú údaje zo senzorov cez milióny vážených spojení, aby vytvorili rozhodnutia o riadení a brzdení. Keď sa niečo pokazí, vyšetrovatelia nedokážu určiť, prečo systém urobil konkrétnu voľbu. Zdôvodnenie je rozložené v celej sieti spôsobom, ktorý sa vymyká ľudskému chápaniu.
Binárne systémy s obmedzeniami fungujú inak. Každé rozhodnutie spĺňa súbor explicitných bezpečnostných obmedzení. Ak systém zabrzdí, môžete vystopovať zdôvodnenie: „Obmedzenie C1 zistilo prekážku do 8 metrov. Obmedzenie C2 vyžaduje brzdenie, keď je vzdialenosť od prekážky menšia ako 10 metrov a rýchlosť presahuje 50 km/h. Aktuálna rýchlosť 70 km/h. Preto je aktivované brzdenie." Toto zdôvodnenie možno overiť, testovať a dokázať ako správne.
Rozdiel je dôležitý pre certifikáciu a zodpovednosť. 7. júla 2024 nadobudli účinnosť nové bezpečnostné predpisy EÚ, ktoré stanovili prvé medzinárodné pravidlá pre plne autonómne vozidlá. Predpisy vyžadujú komplexné hodnotenia bezpečnosti, požiadavky na kybernetickú bezpečnosť a hlásenie incidentov, kým sa vozidlá dostanú na európske cesty. Ako certifikujete systém, ktorý nedokážete úplne overiť? Ako prideľujete zodpovednosť, keď je rozhodovací proces nepriehľadný? Tradičné neurónové siete vytvárajú právne a regulačné nočné mory. Binárne obmedzovacie systémy poskytujú transparentnosť, ktorú európski regulátori skutočne vyžadujú.
Vo výrobe musí AI na kontrolu kvality vysvetliť klasifikáciu chýb pracovníkom, ktorí vykonávajú nápravné opatrenia. Systémy čiernej skrinky neponúkajú žiadny pohľad do vnútra: „zistená chyba s 87 % spoľahlivosťou." Systémy založené na obmedzeniach vysvetľujú: „rozmer presahuje toleranciu o 0,3 mm v polohe (x,y), drsnosť povrchu porušuje špecifikáciu v zóne Z3." Pracovníci môžu tieto informácie použiť na úpravu procesov.
Vzor je jasný: vysvetliteľnosť nie je luxusná funkcia. Je nevyhnutná, aby sa systémy AI začlenili do ľudských pracovných postupov a rozhodovacích procesov. Bez transparentnosti zostáva AI izolovaná, neoveriteľná a v konečnom dôsledku nespoľahlivá.
Budovanie čestnej AI v Dweve
V spoločnosti Dweve sme vybudovali kompletnú platformu AI, ktorá robí transparentnosť nevyhnutnou. Nie ako dodatočný nápad alebo zaškrtávacie políčko pre dodržiavanie predpisov, ale ako základnú architektúru.
**Dweve Core** poskytuje 1 930 hardvérovo optimalizovaných algoritmov pre binárne, obmedzovacie a impulzné neurónové siete. Toto nie sú operácie s pohyblivou rádovou čiarkou vašich starých otcov, ktoré vyžadujú klastre GPU. Fungujú efektívne na štandardných procesoroch a spotrebúvajú o 96 % menej energie ako tradičné prístupy.
**Dweve Loom** orchestrácia riadi 456 systémov špecialistov, pričom každý je doménovým špecialistom. Pre každú úlohu sa aktivujú iba relevantní doménoví špecialisti (zvyčajne 4 až 8 zo 456), čo vytvára obrovskú kapacitu vedomostí s minimálnou výpočtovou stopou. Je to ako mať 456 konzultantov na zavolanie, ale platiť len za tých, ktorých skutočne využijete.
**Dweve Nexus** implementuje multiagentovú inteligenciu s viac ako 31 extraktormi vnímania, 8 odlišnými režimami uvažovania a hybridnou neurónovo-symbolickou integráciou. Viaceré špecializované agenty vnímajú, uvažujú, rozhodujú a konajú, pričom logika každého agenta je plne vysledovateľná. Keď systém dospeje k záveru, môžete vidieť, ktoré agenty prispeli akými poznatkami.
**Dweve Aura** poskytuje autonómnu vývojovú asistenciu prostredníctvom 32 špecializovaných agentov organizovaných v 6 režimoch orchestrácie. Od bežného vykonávania jedného agenta cez paralelný prieskum v roji až po debatu viacerých LLM v režime konsenzu, systém prispôsobuje svoju kognitívnu architektúru aktuálnej úlohe.
**Dweve Spindle** riadi kvalitu znalostí prostredníctvom 7-stupňového epistemologického pipeline. Informácie postupujú od kandidáta ku kanonickému stavu až po absolvovaní prísnej verifikácie, pričom 32 špecializovaných agentov zabezpečuje, aby každá znalosť spĺňala kvalitatívne prahy predtým, než sa použije na trénovanie budúcich modelov.
**Dweve Mesh** všetko decentralizuje a umožňuje federované učenie naprieč verejnými aj súkromnými sieťami s extrémnou toleranciou voči chybám. Sieť funguje aj vtedy, keď zlyhá 70 % uzlov. Suverenita dát zostáva lokálna, sieťou prechádzajú iba šifrované aktualizácie modelov.
**Dweve Fabric** to všetko spája do jednotného dashboardu, kde používatelia ovládajú agentov, pracovné toky, modely a konverzácie s AI v reálnom čase s úplnou transparentnosťou a sledovaním pôvodu.
Každé rozhodnutie v rámci celej platformy prechádza explicitnými logickými krokmi. Regulátori môžu auditovať bázy obmedzení a reťazce uvažovania. Doménoví experti môžu overiť, či logika zodpovedá ich chápaniu. Používatelia vidia presne, prečo systém dospel ku každému záveru, ktorí agenti prispeli a aké obmedzenia boli splnené.
Toto je AI postavená na zodpovednosti od základov. Nie preto, že sme milí ľudia (hoci sme), ale preto, že architektúra robí nečestnosť architektonicky nemožnou.
Princípy za čestnou inteligenciou
Dweve sme postavili na desiatich základných princípoch:
- Pravda nad angažovanosťou. Optimalizujeme pre faktickú správnosť, nie pre udržanie používateľov. Úprimné odpovede sú dôležitejšie ako presvedčivé.
- Transparentnosť nad výkonom. Vysvetliteľné uvažovanie prevyšuje marginálne zisky v presnosti z modelov čiernej skrinky. Porozumenie je dôležité.
- Neistota nad sebaistotou. Explicitná neistota je lepšia ako falošná sebaistota. Keď systém nevie, povie to.
- Verifikácia nad dôverou. Poskytujeme matematický dôkaz správnosti namiesto toho, aby sme žiadali používateľov, aby systému dôverovali.
- Logika nad pravdepodobnosťou. Deterministické splnenie obmedzení je pre kritické rozhodnutia lepšie ako štatistické porovnávanie vzorov.
- Ľudia nad metrikami. Slúžime ľudským potrebám, nie optimalizačným cieľom. Pravda je dôležitejšia ako metriky angažovanosti.
- Bezpečnosť nad rozsahom. Garantované správne správanie v špecifických doménach je lepšie ako približné správanie vo všetkom.
- Súkromie nad dátami. Spracúvame lokálne, keď je to možné. Minimalizujeme zber a centralizáciu dát.
- Nezávislosť nad uzamknutím. Vyhýbame sa závislostiam od dodávateľov a proprietárnym architektúram.
- Európske hodnoty. Reguláciu vnímame ako dizajnové usmernenie. Staviame na súlad so zákonom od začiatku.
Prečo na európskom prístupe záleží
Európsky regulačný prístup k AI nespočíva v spomaľovaní inovácií, ako by vás chceli presvedčiť lobistické ramená Silicon Valley. Ide o nasmerovanie inovácií k výsledkom, za ktoré netreba neskôr pred parlamentmi ospravedlňovať.
Akt EÚ o umelej inteligencii uznáva, že systémy AI ovplyvňujúce základné práva (zdravotníctvo, justícia, úvery, zamestnanosť) by mali byť transparentné, spravodlivé a zodpovedné. Revolučná myšlienka: možno by sa algoritmus, ktorý rozhoduje o tom, či dostanete úver, mal vedieť vysvetliť. Tento regulačný rámec podporuje architektúry, ktoré tieto vlastnosti poskytujú už svojím návrhom, nie ako dodatočnú záplatu na dodržiavanie predpisov.
Pokročilé architektúry AI kombinujúce uvažovanie založené na obmedzeniach, multiagentové systémy a hybridné neuro-symbolické prístupy sa s touto víziou dokonale zhodujú. Nesnažia sa obchádzať regulácie šikovnými medzerami. Stelesňujú princípy: transparentnosť prostredníctvom explicitných reťazcov uvažovania, spravodlivosť prostredníctvom auditovateľnej logiky, zodpovednosť prostredníctvom dokázateľného správania.
Toto je európska príležitosť viesť vývoj AI k dôveryhodným a overiteľným systémom, a nie k prístupu „rýchlo napredovať a rozbiť demokraciu", ktorý sa presadzuje inde. Nazvite nás staromódnymi, ale preferujeme systémy AI, ktoré si nevyžadujú vypočutia v kongrese.
Regulačný prístup vytvára konkurenčnú výhodu, nie záťaž. Kým americké spoločnosti dodatočne vtláčajú vysvetliteľnosť do architektúr, ktoré sa jej bránia (veľa šťastia pri vysvetľovaní matíc pozornosti audítorovi GDPR), európske spoločnosti stavajú transparentnosť priamo do základov. Kým iní narýchlo plnia mandáty, proti ktorým lobovali, európske spoločnosti navrhujú systémy, ktoré požiadavky prirodzene spĺňajú, pretože sme s regulátormi počas návrhu skutočne hovorili.
Toto nie je regulačná záťaž, ktorá nás spomaľuje. Je to strategické smerovanie, ktoré nás urýchľuje. Európa si včas uvedomila, že AI nasadená v kritických systémoch musí byť dôveryhodná. Regulácie túto myšlienku kodifikujú. Architektúry založené na obmedzeniach, multiagentové a hybridné architektúry sú technickým stvárnením týchto princípov.
Globálny trh s umelou inteligenciou bude čoraz viac vyžadovať to, čo si vyžadujú európske predpisy: vysvetliteľnosť, auditovateľnosť, preukázateľnú bezpečnosť. Európske platformy umelej inteligencie vyvíjané v súlade s týmito požiadavkami majú výhodu prvého na trhu. Keď Kalifornia konečne prijme vlastnú reguláciu umelej inteligencie (po treťom veľkom škandále), keď Peking bude vyžadovať transparentnosť pre systémy nasadené v Číne a keď si každá ďalšia jurisdikcia uvedomí, že „dôverovať technologickým nadšencom“ nie je stratégia riadenia, európske technológie budú pripravené. Pretože túto realitu budujeme od prvého dňa.
Cesta vpred
Nachádzame sa v bode rozhodnutia pre vývoj umelej inteligencie.
Jedna cesta pokračuje v škálovaní tradičných neurónových sietí: väčšie modely, viac parametrov, viac údajov, menšia interpretovateľnosť. Táto cesta vedie k výkonným, ale nezodpovedným systémom.
Druhá cesta stavia umelú inteligenciu na logických základoch: explicitné obmedzenia, formálne overovanie, preukázateľná správnosť. To vedie k systémom, ktorým môžeme skutočne dôverovať v kritických aplikáciách.
Spoločnosť Dweve si zvolila druhú cestu. Naše binárne obmedzovacie siete poskytujú úplnú vysvetliteľnosť, formálne overovanie a súlad s európskym aktom o umelej inteligencii už svojou architektúrou.
Otázka pre odvetvie znie: akú budúcnosť chceme budovať?
Táto voľba má hlboké dôsledky. Tradičné neurónové siete optimalizujú schopnosti za každú cenu. Binárne obmedzovacie siete optimalizujú dôveryhodné schopnosti. Prvý prístup prináša pôsobivé demonštrácie. Druhý prináša systémy pripravené na nasadenie.
Rozdiel vidíme vo vzorcoch prijímania. Tradičná umelá inteligencia vyniká v aplikáciách s nízkym rizikom: odporúčanie obsahu, generovanie obrázkov, dokončovanie textu. Umelá inteligencia založená na binárnych obmedzeniach vyniká v oblastiach s vysokým rizikom: lekárska diagnostika, finančné rozhodnutia, autonómne systémy, priemyselné riadenie.
Toto rozdelenie odráža zásadné architektonické rozdiely. Keď správnosť znamená viac než pokrytie, keď je vysvetliteľnosť povinná, keď sa vyžaduje formálne overovanie, prístupy založené na obmedzeniach víťazia. Keď široká schopnosť znamená viac než záruky, postačujú štatistické prístupy.
Prostredie sa však mení. Keď sa umelá inteligencia presúva do kritických systémov, dôveryhodnosť sa stáva nevyhnutnou. Architektúry, ktoré ju poskytujú, získavajú výhodu. Tie, ktoré ju neposkytujú, čelia prekážkam: regulačné odmietnutie, obavy zo zodpovednosti, odpor trhu.
Binárne obmedzovacie siete nie sú budúcnosťou preto, že sú nové. Sú budúcnosťou preto, že riešia problémy, na ktorých záleží: transparentnosť, zodpovednosť, preukázateľnú bezpečnosť. Poskytujú to, čo kritické systémy vyžadujú a čo si predpisy žiadajú.
Cesta vpred je jasná. Budujte umelú inteligenciu, ktorú viete vysvetliť. Navrhujte systémy, ktoré viete overiť. Nasadzujte inteligenciu, ktorej môžete dôverovať. Toto je čestná umelá inteligencia. Toto je architektúra, ktorá sa škáluje do oblastí s vysokým rizikom. Toto je to, čo Európa buduje.
Spoločnosť Dweve vyvíja transparentnú umelú inteligenciu prostredníctvom uvažovania založeného na obmedzeniach, multiagentových systémov a hybridných neurónovo-symbolických architektúr. Každé rozhodnutie je sledovateľné prostredníctvom explicitných logických pravidiel. Každý záver je overiteľný formálnymi metódami. V súlade s nariadením EÚ o umelej inteligencii už od návrhu. So sídlom v Holandsku, výhradne pre európske organizácie.