Manifest upřímné umělé inteligence: proč potřebujeme transparentní inteligenci
Architektonický problém moderní umělé inteligence
Moderní systémy umělé inteligence mají zásadní konstrukční vadu, kterou nechce nikdo v oboru řešit: jsou navrženy tak, aby zněly správně, ne aby správné byly.
Podívejte se, jak fungují velké jazykové modely. Analyzují miliardy vzorků textu, hledají statistické vzorce a předpovídají, která slova by spolu zněla věrohodně. Chybí zde krok ověření. Žádná kontrola pravdivosti. Žádné pochopení toho, zda je výstup fakticky správný. Pouhé přiřazování vzorců a predikce.
Tato architektonická volba znamená, že tyto systémy budou sebevědomě generovat nesprávné informace vždy, když nesprávná odpověď odpovídá běžným jazykovým vzorcům. Není to chyba, kterou lze opravit záplatou. Je to způsob, jakým jsou navrženy k fungování.
A my tyto systémy nasazujeme v nemocnicích, soudních síních a finančních institucích po celé Evropě.
Jen v Nizozemsku využívají společnosti jako ScreenPoint Medical umělou inteligenci pro detekci rakoviny prsu. Delft Imaging ji aplikuje na diagnostiku tuberkulózy. Thirona analyzuje plicní snímky pomocí hlubokého učení. Když tyto systémy udělají chybu ohledně něčího zdraví, věta „model byl z 87 % přesvědčen“ nestačí. V sázce jsou lidské životy.
Problém je hlubší než občasné chyby. Tradiční neuronové sítě optimalizují statistickou pravděpodobnost, ne pravdu. Učí se předpovídat, která odpověď by typicky následovala po daném vstupu na základě vzorců v trénovacích datech. Když jsou tyto vzorce přesné, systém funguje dobře. Když jsou zavádějící, systém selhává systematicky.
Vezměme si lékařskou diagnostiku. Tradiční neuronová síť se může naučit, že určité příznaky korelují s konkrétními nemocemi v trénovacích datech. Ale korelace není kauzalita. Pokud trénovací data obsahují regionální zkreslení, model se tato zkreslení naučí. Pokud jsou vzácná onemocnění nedostatečně zastoupena, model je nedokáže rozpoznat. Architektura nemá žádný mechanismus, jak rozlišit skutečné medicínské vztahy od statistických artefaktů.
To vytváří krizi důvěry. Jak nasadíte umělou inteligenci v prostředích s vysokými sázkami, když nemůžete ověřit její uvažování? Jak vysvětlíte pacientovi, proč umělá inteligence doporučila konkrétní léčbu, když systém sám nedokáže formulovat svou logiku? Jak provádíte audit zkreslení, když je rozhodovací proces černou skříňkou maticových násobení?
Jak neuronové sítě ve skutečnosti rozhodují
Tradiční neuronové sítě fungují prostřednictvím vrstev vážených propojení. Vstup prochází více vrstvami, z nichž každá provádí matematické transformace, až vznikne výstup s přidruženým skóre spolehlivosti.
Problém? Nemůžete dohledat, proč bylo rozhodnutí učiněno. Systém se během trénování naučil miliony hodnot vah. Když vytvoří výstup, vidíte, které neurony se aktivovaly, ale to vám neřekne proč. Uvažování je rozprostřeno napříč nesčetnými matematickými operacemi bez jasné logické cesty.
To je v pořádku pro doporučování filmů. Je to nebezpečné pro diagnostiku nemocí.
Problém optimalizace zapojení
Tady je temné tajemství, které nikdo nechce přiznat: většina komerčních systémů umělé inteligence není ani optimalizována na přesnost. Jsou optimalizovány na metriky zapojení. Kliknutí. Strávený čas. Míra interakcí. To, co dělá akcionáře šťastnými a pravdu volitelnou.
Doporučovací algoritmy se učí, co udrží lidi na platformě, bez ohledu na to, zda je daný obsah pravdivý nebo prospěšný. Pokud kontroverzní tvrzení generují větší zapojení než vyvážená analýza, algoritmus se naučí zobrazovat kontroverzi. Pokud emocionální obsah funguje lépe než faktické zpravodajství, emoce vyhrávají. Pokaždé.
Systém funguje přesně tak, jak byl navržen. Řekli jsme mu, aby maximalizoval zapojení. Naučil se, že pravda a zapojení si často odporují, a zvolil zapojení. Nemůžeme vlastně vinit umělou inteligenci z toho, že plní rozkazy.
Tohle není teoretické lomení rukou. Studie MIT z roku 2018 analyzovala 126 000 zpravodajských příspěvků na Twitteru a zjistila, že se falešné zprávy šíří šestkrát rychleji než pravda a dosáhnou 1 500 lidí dříve, než pravdivé příběhy dosáhnou 1 000. Algoritmy se tento vzorec naučily a nemilosrdně ho využívají. Pravda je nudná. Pobuření je virální. Hádejte, co vyhrává?
Korelace bez příčinné souvislosti
Statistické modely nacházejí v datech vzorce. Ale vzorce nejsou porozumění.
Prodej zmrzliny koreluje s úmrtími na utonutí. Obojí v létě roste. Statistický model vidí korelaci a může předpovídat riziko utonutí na základě prodeje zmrzliny. Našel v datech skutečný vzorec. Jenže vzorec neznamená to, co naznačuje naivní interpretace.
Lidé chápou příčinnou souvislost. Víme, že letní počasí způsobuje oba jevy. Systémy umělé inteligence trénované na korelaci toto rozlišení neumí, pokud do modelu explicitně nezakódujeme kauzální strukturu.
Toto omezení ovlivňuje skutečná rozhodnutí. Lékařská umělá inteligence může korelovat příznak s diagnózou na základě statistických vzorců, aniž by zachytila skutečný kauzální mechanismus. Finanční umělá inteligence může korelovat pohyby trhů, aniž by chápala základní ekonomické vztahy.
Tento rozdíl má v praxi obrovský význam. Systém založený na korelaci může zjistit, že pacienti, kteří dostávají určitou léčbu, mají lepší výsledky. Ale co když tito pacienti dostávají léčbu proto, že jsou od začátku zdravější? Korelace existuje, ale příčinný vztah probíhá opačným směrem. Statistické modely to bez explicitního kauzálního modelování nedokážou odhalit.
V evropských finančních systémech se korelace neustále mění. Trhy, které se historicky pohybovaly společně, se rozdělují kvůli regulačním změnám (zdravíme MiFID II), technologickým posunům nebo geopolitickým událostem (Brexit, někdo?). Model založený na korelaci nadále aplikuje zastaralé vzorce, dokud katastrofálně neselže. Nechápe, proč korelace existovala, a tak nedokáže rozpoznat, kdy se základní vztah změnil.
Německá banka Schufa se to tvrdě naučila v roce 2024. Soudní dvůr Evropské unie rozhodl, že jejich systém AI pro úvěrové hodnocení porušil požadavky GDPR právě proto, že korelace, které se naučil, nebylo možné vysvětlit ani auditovat. Když algoritmus někomu zamítne půjčku 20 000 eur, „počítač říká ne" není podle evropského práva právně dostačující.
Základní problém: porovnávání vzorců bez porozumění vytváří křehké systémy. Fungují, dokud nefungují, a když selžou, selžou úplně a bez varování.
Co transparentnost skutečně vyžaduje
Skutečná transparentnost znamená, že každé rozhodnutí můžete vysledovat přes explicitní logické kroky. Ne „věřte nám, matematika to spočítá“, ale „tady je přesně důvod, krok za krokem“.
Moderní platformy umělé inteligence, jako je Dweve, toho dosahují díky několika architektonickým inovacím, které spolupracují. Místo neprůhledných čísel s plovoucí řádovou čárkou rozložených do milionů spojení se inteligence rodí z krystalizovaných omezení (explicitních logických pravidel), hybridního neuronálně-symbolického uvažování (kombinace rozpoznávání vzorů s logickou inferencí) a systémů víceagentního ověřování (několik specializovaných agentů, kteří si navzájem kontrolují práci).
Když systém učiní rozhodnutí, dokáže vám přesně říct, co se stalo: „Percepční agent detekoval vzor X s rysy Y a Z. Uvažující agent aplikoval omezení C1 a C2 a vyloučil možnost A. Rozhodovací agent vybral možnost B na základě splnění omezení C3, C4 a C5 se 100% logickým uspokojením.“ Žádné vágní skóre pravděpodobnosti. Jasná logická dedukce, kterou můžete ověřit, auditovat a zpochybnit.
To je rozdíl mezi „model říká 73% pravděpodobnost“ (překlad: nemáme tušení proč, ale statistika to tvrdí) a „tady je logický důkaz, proč tento závěr vyplývá z těchto premis“ (překlad: můžeme ukázat svou práci, jako jste se to učili ve škole).
Formální verifikace a prokazatelná správnost
Pokročilé systémy umělé inteligence postavené na architekturách založených na omezeních umožňují matematickou verifikaci chování systému. Tady se počítačová věda setkává s matematikou tím nejkrásnějším způsobem.
Pomocí formálních metod můžete dokázat, že se takový systém bude vždy chovat v rámci stanovených mezí. Ne „pravděpodobně správně na základě testování“ nebo „fungovalo to dobře v naší simulaci“. Prokazatelně správně prostřednictvím matematického důkazu. Takový důkaz, při kterém by matematik souhlasně přikyvoval, místo aby sáhl po červeném peru.
To je důležité pro kritické systémy. Když umělá inteligence řídí zdravotnické přístroje v rotterdamských nemocnicích, spravuje finanční systémy pro amsterdamské banky nebo provozuje kritickou infrastrukturu napříč Evropou, potřebujeme matematické záruky správného chování za všech podmínek. „Jejda, tenhle okrajový případ jsme netestovali“ není přijatelné, když jde o životy a obživu.
Tradiční neuronové sítě tyto záruky poskytnout nemohou. Jejich chování vzniká z milionů naučených parametrů, které spolu interagují způsobem, jemuž nikdo zcela nerozumí. Sítě založené na omezeních dokážou své chování matematicky dokázat, stejně jako lze dokázat Pythagorovu větu. Je to pravda, protože to logika vyžaduje, ne proto, že to naznačovala trénovací data.
Explicitní kvantifikace nejistoty
Současné systémy umělé inteligence vyjadřují jistotu pomocí skóre pravděpodobnosti. Tato skóre však často měří statistickou jistotu ve vzoru, nikoli skutečnou jistotu o pravdě.
Systém může být z 99 % přesvědčen o zcela chybné odpovědi, pokud chybná odpověď odpovídá silným statistickým vzorům v trénovacích datech.
Binární systémy s omezeními přistupují k nejistotě jinak. Když jsou omezení plně splněna, závěr logicky vyplývá. Když jsou omezení splněna částečně nebo si odporují, systém explicitně uvede: „V rámci daných omezení neexistuje platné řešení."
Toto je poctivá nejistota. Systém přizná, že nemůže dospět k platnému závěru, místo aby vydal svůj nejlepší statistický odhad se skóre pravděpodobnosti.
Akt o umělé inteligenci EU a regulační požadavky
Dne 1. srpna 2024 vstoupil v platnost Akt o umělé inteligenci EU, čímž se stal prvním komplexním nařízením o umělé inteligenci na světě. Toto není bruselská byrokracie, která se vymkla kontrole. Je to uznání, že umělá inteligence ovlivňující životy lidí musí být odpovědná. Novinka, že ano.
Článek 13 vyžaduje, aby systémy umělé inteligence s vysokým rizikem byly navrženy tak, aby uživatelé mohli skutečně interpretovat výstupy a vhodně je používat. Článek 14 nařizuje lidský dohled (člověk v rozhodovacím procesu, představte si to). Článek 15 vyžaduje přesnost, robustnost a kybernetickou bezpečnost. Plná implementace začne 2. srpna 2026 a nedodržení může stát až 7 % celosvětového ročního obratu nebo 35 milionů eur, podle toho, co vás zabolí víc.
Binární sítě s omezeními splňují tyto požadavky na architektonické úrovni. Transparentnost není dodatečně instalována poté, co právníci zpanikaří. Je základním principem fungování systému od prvního dne. Každé rozhodnutí je ze své podstaty vysvětlitelné, protože se řídí explicitními logickými omezeními, která mohou regulátoři skutečně auditovat.
Dopady v reálném světě
Tyto architektonické rozdíly mají konkrétní důsledky.
Ve zdravotnictví může nevysvětlitelná umělá inteligence dosáhnout vysoké přesnosti v testech, ale selhat při nasazení, protože se naučila falešné korelace. Binární systémy s omezeními dokážou prokázat svou diagnostickou logiku, což zdravotnickým pracovníkům umožňuje ověřit uvažování před nasazením.
Ve finančnictví mohou modely typu černé skříňky schvalovat nebo zamítat půjčky na základě vzorů, které zahrnují historické předsudky. Systémy založené na omezeních činí rozhodovací kritéria explicitními, což umožňuje audity spravedlnosti.
V právním systému nevysvětlitelná doporučení ohledně trestů podkopávají spravedlnost. Vysvětlitelná logika omezení umožňuje soudcům posoudit, zda je uvažování v souladu s právními zásadami.
Vezměme si autonomní vozidla. Tradiční neuronové sítě zpracovávají data ze senzorů prostřednictvím milionů vážených spojení, aby vytvořily rozhodnutí o řízení a brzdění. Když se něco pokazí, vyšetřovatelé nedokážou určit, proč systém učinil konkrétní volbu. Uvažování je rozptýleno po celé síti způsobem, který se vzpírá lidskému chápání.
Binární systémy s omezeními fungují jinak. Každé rozhodnutí splňuje soubor explicitních bezpečnostních omezení. Pokud systém zabrzdí, lze uvažování vysledovat: „Omezení C1 detekovalo překážku do 8 metrů. Omezení C2 vyžaduje brzdění, pokud je vzdálenost od překážky menší než 10 metrů a rychlost přesahuje 50 km/h. Aktuální rychlost 70 km/h. Proto bylo aktivováno brzdění." Toto uvažování lze ověřit, testovat a prokázat jako správné.
Rozdíl je zásadní pro certifikaci i odpovědnost. Dne 7. července 2024 vstoupila v platnost nová bezpečnostní nařízení EU, která stanovila první mezinárodní pravidla pro plně autonomní vozidla. Nařízení vyžadují komplexní hodnocení bezpečnosti, požadavky na kybernetickou bezpečnost a hlášení incidentů, než se vozidla dostanou na evropské silnice. Jak certifikujete systém, který nelze plně ověřit? Jak přidělíte odpovědnost, když je rozhodovací proces neprůhledný? Tradiční neuronové sítě vytvářejí právní a regulační noční můry. Binární omezující systémy poskytují transparentnost, kterou evropští regulátoři skutečně vyžadují.
V oblasti výroby musí AI pro kontrolu kvality vysvětlit klasifikaci závad pracovníkům, kteří provádějí nápravná opatření. Systémy černé skříňky nenabízejí žádný vhled: „závada zjištěna s 87% spolehlivostí." Systémy založené na omezeních vysvětlují: „rozměr překračuje toleranci o 0,3 mm v poloze (x,y), drsnost povrchu porušuje specifikaci v zóně Z3." Pracovníci mohou tyto informace využít k úpravě procesů.
Vzor je jasný: vysvětlitelnost není luxusní funkce. Je nezbytná pro to, aby se systémy AI začlenily do lidských pracovních postupů a rozhodovacích procesů. Bez transparentnosti zůstává AI izolovaná, neověřitelná a v konečném důsledku nedůvěryhodná.
Budování upřímné AI ve společnosti Dweve
Ve společnosti Dweve jsme vybudovali kompletní platformu AI, díky níž je transparentnost nevyhnutelná. Ne jako dodatečný nápad nebo zaškrtávací políčko pro shodu, ale jako základní architektura.
**Dweve Core** poskytuje 1 930 hardwarově optimalizovaných algoritmů pro binární, omezující a pulzní neuronové sítě. Nejedná se o operace s plovoucí desetinnou čárkou z dob vašich dědečků, které vyžadují shluky GPU. Fungují efektivně na běžných procesorech a spotřebovávají o 96 % méně energie než tradiční přístupy.
**Dweve Loom** orchestruje 456 doménově specializovaných systémů, z nichž každý je odborníkem na svou doménu. Pro každý úkol se aktivují pouze příslušní doménoví specialisté (obvykle 4 až 8 z 456), což vytváří obrovskou znalostní kapacitu s minimální výpočetní stopou. Je to jako mít 456 konzultantů v pohotovosti, ale platit jen za ty, které skutečně využijete.
**Dweve Nexus** implementuje multiagentní inteligenci s více než 31 extraktory vnímání, 8 odlišnými režimy uvažování a hybridní neuronově-symbolickou integrací. Více specializovaných agentů vnímá, uvažuje, rozhoduje a jedná, přičemž logika každého agenta je plně dohledatelná. Když systém dospěje k závěru, můžete vidět, kteří agenti přispěli jakými poznatky.
**Dweve Aura** poskytuje autonomní vývojovou asistenci prostřednictvím 32 specializovaných agentů organizovaných v 6 orchestrovacích režimech. Od běžného jednoagentového provádění přes paralelní průzkum v režimu roje až po debatu více LLM v konsensuálním režimu se systém přizpůsobuje danému úkolu svou kognitivní architekturou.
**Dweve Spindle** řídí kvalitu znalostí prostřednictvím 7fázového epistemologického pipeline. Informace postupuje od kandidáta ke kanonické podobě teprve po absolvování přísné verifikace, přičemž 32 specializovaných agentů zajišťuje, aby každý kus znalostí splňoval kvalitativní prahy, než se použije k trénování budoucích modelů.
**Dweve Mesh** vše decentralizuje a umožňuje federované učení napříč veřejnými i soukromými sítěmi s extrémní tolerancí poruch. Síť funguje i při výpadku 70 % uzlů. Suverenita dat zůstává lokální, sítí putují pouze šifrované aktualizace modelů.
**Dweve Fabric** to vše spojuje do jednotného dashboardu, kde uživatelé ovládají agenty, pracovní postupy, modely i konverzace s umělou inteligencí v reálném čase s plnou transparentností a sledováním původu dat.
Každé rozhodnutí na celé této platformě lze vysledovat zpět k explicitním logickým krokům. Regulátoři mohou auditovat báze omezení a řetězce uvažování. Doménoví experti mohou ověřit, že logika odpovídá jejich chápání. Uživatelé přesně vidí, proč systém dospěl k jednotlivým závěrům, kteří agenti přispěli a která omezení byla splněna.
Toto je umělá inteligence postavená na odpovědnosti od základu. Ne proto, že jsme hodní lidé (i když jsme), ale proto, že architektura činí nepoctivost architektonicky nemožnou.
Principy poctivé inteligence
Dweve jsme postavili na deseti základních principech:
- Pravda před zaujetím. Optimalizujeme pro faktickou správnost, ne pro udržení uživatelů. Poctivé odpovědi jsou důležitější než poutavé.
- Transparentnost před výkonem. Vysvětlitelné uvažování převažuje nad nepatrnými zisky přesnosti z modelů typu černé skříňky. Porozumění má význam.
- Nejistota před sebedůvěrou. Explicitní nejistota je lepší než falešná sebedůvěra. Když systém neví, řekne to.
- Verifikace před důvěrou. Poskytujeme matematický důkaz správnosti místo toho, abychom žádali uživatele, aby systému důvěřovali.
- Logika před pravděpodobností. Deterministické splnění omezení je pro kritická rozhodnutí lepší než statistické porovnávání vzorů.
- Lidé před metrikami. Sloužíme lidským potřebám, ne optimalizačním cílům. Pravda je důležitější než metriky zaujetí.
- Bezpečnost před rozsahem. Zaručené správné chování ve specifických doménách je lepší než přibližné chování napříč vším.
- Soukromí před daty. Zpracovávejte lokálně, kdykoli je to možné. Minimalizujte sběr a centralizaci dat.
- Nezávislost před uzamčením. Vyhýbáme se závislostem na dodavatelích a proprietárním architekturám.
- Evropské hodnoty. Regulaci bereme jako vodítko pro návrh. Stavíme na souladu s předpisy od samého začátku.
Proč na evropském přístupu záleží
Evropský regulační přístup k AI není o zpomalování inovací, jak by vás rády přesvědčily lobbistické skupiny ze Silicon Valley. Je o nasměrování inovací k výsledkům, za které se později nebudete muset omlouvat před parlamenty.
Akt o umělé inteligenci EU uznává, že systémy AI ovlivňující základní práva (zdravotnictví, soudnictví, úvěry, zaměstnání) by měly být transparentní, spravedlivé a odpovědné. Revoluční myšlenka: možná by se algoritmus, který rozhoduje o tom, zda dostanete půjčku, měl umět vyjádřit. Tento regulační rámec podporuje architektury, které tyto vlastnosti poskytují už svým návrhem, nikoli jako dodatečnou záplatu na dodržování předpisů.
Pokročilé architektury AI kombinující uvažování založené na omezeních, multiagentní systémy a hybridní neuronově-symbolické přístupy dokonale odpovídají této vizi. Nesnaží se obcházet regulace chytrými mezerami v zákoně. Ztělesňují principy: transparentnost prostřednictvím explicitních řetězců uvažování, spravedlnost prostřednictvím auditovatelné logiky, odpovědnost prostřednictvím prokazatelného chování.
To je evropská příležitost vést vývoj AI směrem k důvěryhodným a ověřitelným systémům, místo přístupu "jednej rychle a rozbíjej demokracii", který se prosazuje jinde. Říkejte nám staromódní, ale dáváme přednost systémům AI, které nevyžadují slyšení v parlamentu.
Regulační přístup vytváří konkurenční výhodu, nikoli zátěž. Zatímco americké společnosti dodatečně vrství vysvětlitelnost na architektury, které se tomu brání (hodně štěstí při vysvětlování matic pozornosti auditu GDPR), evropské společnosti staví transparentnost přímo do základů. Zatímco jiní shánějí řešení, aby splnili nařízení, proti kterým lobbovali, evropské společnosti navrhují systémy, které požadavky přirozeně splňují, protože jsme s regulátory skutečně mluvili už během návrhu.
Toto není regulační zátěž, která nás zpomaluje. Je to strategické směřování, které nás urychluje. Evropa si včas uvědomila, že systémy AI nasazené v kritických oblastech musí být důvěryhodné. Nařízení tuto myšlenku kodifikují. Architektury založené na omezeních, multiagentní a hybridní architektury jsou technickým ztělesněním těchto principů.
Globální trh s umělou inteligencí bude stále více vyžadovat to, co vyžadují evropské předpisy: vysvětlitelnost, auditovatelnost, prokazatelnou bezpečnost. Evropské platformy umělé inteligence vyvíjené v souladu s těmito požadavky mají výhodu prvního na trhu. Až Kalifornie konečně přijme vlastní regulaci umělé inteligence (po třetím velkém skandálu), až Peking bude vyžadovat transparentnost pro systémy nasazené v Číně a až si každá další jurisdikce uvědomí, že „důvěřujte technologickým guru“ není strategií řízení, evropská technologie bude připravena. Protože od prvního dne stavíme pro tuto realitu.
Cesta vpřed
Nacházíme se v rozhodujícím okamžiku pro vývoj umělé inteligence.
Jedna cesta pokračuje ve škálování tradičních neuronových sítí: větší modely, více parametrů, více dat, menší interpretovatelnost. Tato cesta vede k výkonným, ale nezodpovědným systémům.
Druhá cesta staví umělou inteligenci na logických základech: explicitní omezení, formální verifikace, prokazatelná správnost. To vede k systémům, kterým můžeme skutečně důvěřovat v kritických aplikacích.
Společnost Dweve zvolila druhou cestu. Naše binární omezující sítě poskytují úplnou vysvětlitelnost, formální verifikaci a soulad s nařízením EU o umělé inteligenci díky samotné architektuře.
Otázka pro celé odvětví zní: jakou budoucnost chceme budovat?
Tato volba má zásadní důsledky. Tradiční neuronové sítě optimalizují schopnosti za každou cenu. Binární omezující sítě optimalizují důvěryhodné schopnosti. První přístup vytváří působivé demonstrace. Druhý vytváří systémy připravené k nasazení.
Rozdíl vidíme ve vzorcích přijetí. Tradiční umělá inteligence vyniká v aplikacích s nízkou mírou rizika: doporučování obsahu, generování obrázků, dokončování textu. Umělá inteligence založená na binárních omezujících sítích vyniká v oblastech s vysokou mírou rizika: lékařská diagnostika, finanční rozhodování, autonomní systémy, průmyslové řízení.
Toto rozdělení odráží zásadní architektonické rozdíly. Když je správnost důležitější než pokrytí, když je vysvětlitelnost povinná, když je vyžadována formální verifikace, vítězí přístupy založené na omezeních. Když je široká schopnost důležitější než záruky, postačují statistické přístupy.
Prostředí se ale mění. Jak se umělá inteligence přesouvá do kritických systémů, důvěryhodnost se stává nezbytnou. Architektury, které ji poskytují, získávají výhodu. Ty, které ji neposkytují, čelí překážkám: odmítnutí ze strany regulátorů, obavy z odpovědnosti, odpor trhu.
Binární omezující sítě nejsou budoucností proto, že jsou nové. Jsou budoucností proto, že řeší problémy, na kterých záleží: transparentnost, odpovědnost, prokazatelnou bezpečnost. Poskytují to, co kritické systémy vyžadují a co předpisy požadují.
Cesta vpřed je jasná. Budujte umělou inteligenci, kterou dokážete vysvětlit. Navrhujte systémy, které dokážete ověřit. Nasaďte inteligenci, které můžete důvěřovat. Toto je poctivá umělá inteligence. Toto je architektura, která se škáluje do oblastí s vysokou mírou rizika. Toto je to, co Evropa buduje.
Dweve vyvíjí transparentní umělou inteligenci prostřednictvím uvažování založeného na omezeních, multiagentních systémů a hybridních neuronálně-symbolických architektur. Každé rozhodnutí je dohledatelné díky explicitním logickým pravidlům. Každý závěr je ověřitelný formálními metodami. Od základu v souladu s nařízením EU o umělé inteligenci. Se sídlem v Nizozemsku, výhradně pro evropské organizace.