Sąžiningo DI manifestas: kodėl mums reikia skaidraus intelekto
The architectural problem with modern AI
Modern AI systems have a fundamental design flaw that nobody in the industry wants to address: they're built to sound right, not to be right.
Look at how large language models work. They analyse billions of text samples, find statistical patterns, and predict which words would sound plausible together. There's no verification step. No truth checking. No understanding of whether the output is factually correct. Just pattern matching and prediction.
This architectural choice means these systems will confidently generate incorrect information whenever the incorrect answer follows common linguistic patterns. It's not a bug you can patch. It's how they're designed to operate.
And we're deploying these systems in hospitals, courtrooms, and financial institutions across Europe.
In the Netherlands alone, companies like ScreenPoint Medical use AI for breast cancer detection. Delft Imaging applies it to tuberculosis diagnosis. Thirona analyses lung scans with deep learning. When these systems make a mistake about someone's health, "the model was 87% confident" isn't good enough. Lives hang in the balance.
The problem runs deeper than occasional errors. Traditional neural networks optimise for statistical likelihood, not truth. They learn to predict what answer would typically follow a given input based on patterns in training data. When those patterns are accurate, the system works well. When patterns are misleading, the system fails systematically.
Consider medical diagnosis. A traditional neural network might learn that certain symptoms correlate with specific diseases in the training data. But correlation isn't causation. If the training data contains regional biases, the model learns those biases. If rare conditions are underrepresented, the model fails to recognise them. The architecture has no mechanism to distinguish between genuine medical relationships and statistical artifacts.
This creates a crisis of trust. How do you deploy AI in high-stakes environments when you can't verify its reasoning? How do you explain to a patient why the AI recommended a particular treatment when the system itself can't articulate its logic? How do you audit for bias when the decision process is a black box of matrix multiplications?
How neural networks actually make decisions
Tradiciniai neuroniniai tinklai veikia per svertinių ryšių sluoksnius. Įvestis praeina per kelis sluoksnius, kurių kiekvienas atlieka matematines transformacijas, kol gaunama išvestis su susijusiu pasitikėjimo balu.
Problema? Negalite atsekti, kodėl buvo priimtas sprendimas. Sistema mokymo metu išmoko milijonus svorio reikšmių. Kai ji pateikia rezultatą, matote, kurie neuronai suaktyvėjo, bet tai nepasako, kodėl. Samprotavimas yra pasklidęs po nesuskaičiuojamas matematines operacijas be aiškaus loginio kelio.
Tai tinka filmų rekomendacijoms. Tai pavojinga diagnozuojant ligas.
Įsitraukimo optimizavimo problema
Štai tamsi paslaptis, kurios niekas nenori pripažinti: dauguma komercinių dirbtinio intelekto sistemų net nėra optimizuotos tikslumui. Jos optimizuotos įsitraukimo metrikoms. Paspaudimams. Praleistam laikui. Sąveikos rodikliams. Dalykams, kurie džiugina akcininkus ir daro tiesą neprivalomą.
Rekomendacijų algoritmai išmoksta, kas išlaiko žmones platformoje, neatsižvelgdami į tai, ar tas turinys yra teisingas ar naudingas. Jei prieštaringi teiginiai sulaukia daugiau įsitraukimo nei subalansuota analizė, algoritmas išmoksta išryškinti prieštaravimus. Jei emocinis turinys veikia geriau nei faktinis reportažas, emocijos laimi. Kiekvieną kartą.
Sistema veikia tiksliai taip, kaip sukurta. Mes jai liepėme maksimaliai padidinti įsitraukimą. Ji išmoko, kad tiesa ir įsitraukimas dažnai konfliktuoja, ir pasirinko įsitraukimą. Negalime kaltinti dirbtinio intelekto, kad vykdo įsakymus.
Tai ne teoriniai samprotavimai. 2018 m. MIT tyrimas išanalizavo 126 000 naujienų istorijų „Twitter" ir nustatė, kad melagingos naujienos plinta šešis kartus greičiau nei tiesa, pasiekdamos 1 500 žmonių, kol tikros istorijos pasiekia 1 000. Algoritmai išmoko šį modelį ir negailestingai jį išnaudoja. Tiesa nuobodi. Pasipiktinimas plinta virusiškai. Spėkite, kas laimi?
Koreliacija be priežastingumo
Statistiniai modeliai randa duomenų modelius. Tačiau modeliai nėra supratimas.
Ledų pardavimai koreliuoja su skendimo atvejais. Abi vertės didėja vasarą. Statistinis modelis mato koreliaciją ir gali numatyti skendimo riziką pagal ledų pardavimus. Jis rado tikrą modelį duomenyse. Tik modelis nereiškia to, ką siūlo naivus aiškinimas.
Žmonės supranta priežastingumą. Mes žinome, kad vasaros orai sukelia abu reiškinius. Dirbtinio intelekto sistemos, apmokytos koreliacijai, negali atskirti šių dalykų, nebent aiškiai užkoduojame priežastinę struktūrą modelyje.
Šis apribojimas turi įtakos realiems sprendimams. Medicininis dirbtinis intelektas gali susieti simptomą su diagnoze pagal statistinius modelius, nepastebėdamas tikrojo priežastinio mechanizmo. Finansinis dirbtinis intelektas gali susieti rinkos judėjimus nesuprasdamas pagrindinių ekonominių ryšių.
Šis skirtumas praktiškai labai svarbus. Koreliacija pagrįsta sistema gali pastebėti, kad pacientai, gaunantys tam tikrą gydymą, turi geresnius rezultatus. Bet kas, jei šie pacientai gauna gydymą, nes iš pradžių yra sveikesni? Koreliacija egzistuoja, bet priežastinis ryšys eina priešinga kryptimi. Statistiniai modeliai to negali aptikti be aiškaus priežastinio modeliavimo.
Europos finansų sistemose koreliacijos nuolat keičiasi. Rinkos, kurios istoriškai judėjo kartu, atsiskiria dėl reguliavimo pokyčių (sveiki, MiFID II), technologinių pokyčių ar geopolitinių įvykių („Brexit", kas nors?). Koreliacija pagrįstas modelis ir toliau taiko pasenusius modelius, kol katastrofiškai žlunga. Jis nesupranta, kodėl koreliacija egzistavo, todėl negali atpažinti, kada pasikeitė pagrindinis ryšys.
Vokietijos bankas „Schufa" tai išmoko sunkiai 2024 m. Europos Sąjungos Teisingumo Teismas nusprendė, kad jų dirbtinio intelekto kredito reitingo sistema pažeidė BDAR reikalavimus būtent todėl, kad jos išmoktos koreliacijos negalėjo būti paaiškintos ar audituotos. Kai algoritmas atsisako suteikti kam nors 20 000 eurų paskolą, „kompiuteris sako ne" pagal Europos teisę nėra teisiškai pakankama.
Pagrindinė problema: modelių atpažinimas be supratimo sukuria trapios sistemas. Jos veikia, kol nustoja veikti, o kai žlunga, žlunga visiškai ir be įspėjimo.
Ko iš tikrųjų reikalauja skaidrumas
Tikras skaidrumas reiškia, kad kiekvieną sprendimą gali atsekti per aiškius loginius žingsnius. Ne „pasitikėkite mumis, matematika susidėlioja“, o „štai tiksliai kodėl, žingsnis po žingsnio“.
Šiuolaikinės dirbtinio intelekto platformos, tokios kaip Dweve, tai pasiekia per kelias kartu veikiančias architektūros naujoves. Vietoj nepermatomų slankiojo kablelio svorių, išsibarsčiusių per milijonus jungčių, intelektas kyla iš kristalizuotų apribojimų (aiškių loginių taisyklių), hibridinio neuroninio ir simbolinio samprotavimo (derinant modelių atpažinimą su logine išvada) ir kelių agentų patikros sistemų (keli specializuoti agentai tikrina vieni kitų darbą).
Kai sistema priima sprendimą, ji gali tiksliai pasakyti, kas įvyko: „Suvokimo agentas aptiko modelį X su požymiais Y ir Z. Samprotavimo agentas pritaikė apribojimus C1 ir C2, atmesdamas variantą A. Sprendimų agentas pasirinko variantą B, nes jis tenkina apribojimus C3, C4 ir C5 su 100 % loginiu atitikimu.“ Ne migloti tikimybių balai. Aiški loginė išvada, kurią gali patikrinti, audituoti ir ginčyti.
Tai skirtumas tarp „modelis sako 73 % tikėtina“ (vertimas: mes nežinome kodėl, bet statistika taip sako) ir „štai loginis įrodymas, kodėl ši išvada išplaukia iš šių prielaidų“ (vertimas: galime parodyti savo darbą, kaip mokėtės mokykloje).
Formalusis patikrinimas ir įrodomas teisingumas
Pažangios dirbtinio intelekto sistemos, sukurtos apribojimais grindžiamos architektūros pagrindu, leidžia matematiškai patikrinti sistemos elgseną. Čia kompiuterių mokslas gražiausiu būdu susitinka su matematika.
Taikant formalius metodus galima įrodyti, kad tokia sistema visada elgsis nustatytose ribose. Ne „tikriausiai teisinga remiantis testavimu“ ar „mūsų simuliacijoje veikė gerai“. Įrodomai teisinga per matematinį įrodymą. Tokį įrodymą, dėl kurio matematikas pritariamai linktelėtų, o ne siektų raudono rašiklio.
Tai svarbu kritinėms sistemoms. Kai dirbtinis intelektas valdo medicinos prietaisus Roterdamo ligoninėse, tvarko finansų sistemas Amsterdamo bankams ar valdo kritinę infrastruktūrą visoje Europoje, mums reikia matematinių garantijų, kad elgsena bus teisinga visomis sąlygomis. „Oi, to kraštinio atvejo netestavome“ nepriimtina, kai gresia gyvybės ir pragyvenimo šaltiniai.
Traditional neural networks can't provide these guarantees. Their behaviour emerges from millions of learned parameters that interact in ways nobody fully understands. Constraint-based networks can prove their behaviour mathematically, the same way you can prove Pythagoras's theorem. It's true because the logic demands it, not because the training data suggested it.
Explicit uncertainty quantification
Current AI systems express confidence through probability scores. But these scores often measure statistical confidence in the pattern, not actual certainty about truth.
A system can be 99% confident in a completely wrong answer if the wrong answer follows strong statistical patterns in the training data.
Binary constraint systems handle uncertainty differently. When constraints are fully satisfied, the conclusion follows logically. When constraints are partially satisfied or contradictory, the system explicitly states: "No valid solution exists within given constraints."
This is honest uncertainty. The system admits when it cannot reach a valid conclusion, rather than outputting its best statistical guess with a confidence score.
The EU AI Act and regulatory requirements
On August 1, 2024, the EU AI Act entered into force, becoming the world's first comprehensive AI regulation. This isn't Brussels bureaucracy run amok. It's recognising that AI affecting people's lives must be accountable. Novel concept, apparently.
Article 13 requires high-risk AI systems to be designed so users can actually interpret outputs and use them appropriately. Article 14 mandates human oversight (humans in the loop, imagine that). Article 15 requires accuracy, robustness, and cybersecurity. Full implementation kicks in August 2, 2026, and non-compliance can cost up to 7% of global annual revenue or €35 million, whichever makes you wince harder.
Binary constraint networks meet these requirements architecturally. Transparency isn't retrofitted after lawyers panic. It's fundamental to how the system operates from day one. Every decision is inherently explainable because it follows explicit logical constraints that regulators can actually audit.
Real-world implications
These architectural differences have concrete consequences.
In healthcare, unexplainable AI might achieve high accuracy in testing but fail when deployed because it learned spurious correlations. Binary constraint systems can prove their diagnostic logic, allowing medical professionals to verify reasoning before deployment.
In finance, black box models might approve or deny loans based on patterns that embed historical biases. Constraint-based systems make the decision criteria explicit, enabling audits for fairness.
In legal systems, unexplainable sentencing recommendations undermine justice. Explainable constraint logic allows judges to evaluate whether the reasoning aligns with legal principles.
Consider autonomous vehicles. Traditional neural networks process sensor data through millions of weighted connections to produce steering and braking decisions. When something goes wrong, investigators can't determine why the system made a particular choice. The reasoning is distributed across the entire network in a way that defies human comprehension.
Binary constraint systems operate differently. Each decision satisfies a set of explicit safety constraints. If the system brakes, you can trace the reasoning: "Constraint C1 detected obstacle within 8 metres. Constraint C2 requires braking when obstacle distance less than 10 metres and speed exceeds 50 km/h. Current speed 70 km/h. Therefore braking engaged." This reasoning can be verified, tested, and proven correct.
The difference matters for certification and liability. On July 7, 2024, new EU safety regulations came into effect, establishing the first international rules for fully driverless vehicles. The regulations mandate comprehensive safety assessments, cybersecurity requirements, and incident reporting before vehicles hit European roads. How do you certify a system you can't fully verify? How do you assign liability when the decision process is opaque? Traditional neural networks create legal and regulatory nightmares. Binary constraint systems provide the transparency European regulators actually require.
In manufacturing, quality control AI must explain defect classifications to workers who take corrective action. Black box systems offer no insight: "defect detected with 87% confidence." Constraint-based systems explain: "dimension exceeds tolerance by 0.3mm at position (x,y), surface roughness violates specification at zone Z3." Workers can use this information to adjust processes.
The pattern is clear: explainability isn't a luxury feature. It's essential for AI systems to integrate into human workflows and decision processes. Without transparency, AI remains isolated, unverifiable, and ultimately untrustworthy.
Building honest AI at Dweve
At Dweve, we've built a complete AI platform that makes transparency unavoidable. Not as an afterthought or a compliance checkbox, but as the fundamental architecture.
**Dweve Core** provides 1,930 hardware-optimized algorithms for binary, constraint-based, and spiking neural networks. These aren't your grandfather's floating-point operations requiring GPU clusters. They run efficiently on standard CPUs, consuming 96% less power than traditional approaches.
**Dweve Loom** orchestrates 456 domain-specialist systems, each a domain specialist. Only the relevant domain specialists activate for each task (typically 4 to 8 out of 456), creating massive knowledge capacity with minimal computational footprint. It's like having 456 consultants on retainer but only paying for the ones you actually use.
**Dweve Nexus** implements multi-agent intelligence with 31+ perception extractors, 8 distinct reasoning modes, and hybrid neural-symbolic integration. Multiple specialized agents perceive, reason, decide, and act, with each agent's logic fully traceable. When the system reaches a conclusion, you can see which agents contributed what insights.
**Dweve Aura** teikia autonominę kūrimo pagalbą per 32 specializuotus agentus, suskirstytus į 6 orkestravimo režimus. Nuo įprasto vieno agento vykdymo iki lygiagrečaus tyrinėjimo spiečiaus režimu ir konsensuso režimo kelių didžiųjų kalbos modelių diskusijų, sistema pritaiko savo pažinimo architektūrą prie konkrečios užduoties.
**Dweve Spindle** užtikrina žinių kokybę per 7 etapų epistemologinį vamzdyną. Informacija pereina iš kandidatės į kanoninę tik po griežto patikrinimo, o 32 specializuoti agentai užtikrina, kad kiekviena žinia atitiktų kokybės slenksčius, prieš jai apmokant būsimus modelius.
**Dweve Mesh** viską decentralizuoja, įgalindamas federacinį mokymąsi viešuosiuose ir privačiuose tinkluose su itin dideliu atsparumu gedimams. Tinklas veikia toliau net ir sugedus 70 % mazgų. Duomenų suverenumas lieka vietinis, o tinklu keliauja tik užšifruoti modelio atnaujinimai.
**Dweve Fabric** viską sujungia į vieningą valdymo skydelį, kuriame vartotojai valdo agentus, darbo eigas, modelius ir realaus laiko dirbtinio intelekto pokalbius, turėdami visišką skaidrumą ir kilmės sekimą.
Kiekvienas sprendimas visoje šioje platformoje atsekamas aiškiais loginiais žingsniais. Reguliuotojai gali audituoti apribojimų bazes ir samprotavimo grandines. Domeno ekspertai gali patikrinti, ar logika atitinka jų supratimą. Vartotojai gali tiksliai matyti, kodėl sistema priėjo prie kiekvienos išvados, kurie agentai prisidėjo ir kokie apribojimai buvo įvykdyti.
Tai dirbtinis intelektas, sukurtas atskaitomybei nuo pat pradžių. Ne todėl, kad esame geri žmonės (nors ir esame), o todėl, kad architektūra daro nesąžiningumą architektūriškai neįmanomą.
Principai, kuriais grindžiamas sąžiningas intelektas
Dweve sukūrėme remdamiesi dešimt pagrindinių principų:
- Tiesa svarbiau už įtraukimą. Siekiame faktinio teisingumo, o ne vartotojų išlaikymo. Sąžiningi atsakymai svarbesni už įtikinamus.
- Skaidrumas svarbiau už našumą. Paaiškinamas samprotavimas vertesnis už nežymų tikslumo prieaugį iš „juodosios dėžės“ modelių. Supratimas yra svarbus.
- Nežinomybė svarbiau už pasitikėjimą. Aiškus nežinojimas geriau nei klaidingas pasitikėjimas. Kai sistema nežino, ji tai pasako.
- Patikrinimas svarbiau už pasitikėjimą. Pateikiame matematinį teisingumo įrodymą, o ne prašome vartotojų tiesiog pasitikėti sistema.
- Logika svarbiau už tikimybę. Deterministinis apribojimų tenkinimas yra geresnis už statistinį šablonų atpažinimą priimant kritinius sprendimus.
- Žmonės svarbesni už metrikas. Tarnaujame žmonių poreikiams, o ne optimizavimo tikslams. Tiesa svarbesnė už įtraukimo metrikas.
- Sauga svarbesnė už mastą. Garantuotas teisingas elgesys konkrečiose srityse yra geriau nei apytikslis elgesys visur.
- Privatumas svarbesnis už duomenis. Kai įmanoma, apdorojame vietoje. Sumažiname duomenų rinkimą ir centralizavimą.
- Nepriklausomybė svarbesnė už susaistymą. Vengiame priklausomybės nuo tiekėjų ir nuosavybinių architektūrų.
- Europos vertybės. Į reglamentavimą žiūrime kaip į dizaino gaires. Kurti atitiktį nuo pat pradžių.
Kodėl Europos požiūris svarbus
Europos reguliavimo požiūris į dirbtinį intelektą nėra skirtas sulėtinti inovacijas, kad ir ką teigtų Silicio slėnio lobistų rankos. Jis skirtas nukreipti inovacijas į rezultatus, dėl kurių vėliau nereikėtų atsiprašinėti parlamentų.
ES dirbtinio intelekto aktas pripažįsta, kad DI sistemos, darančios įtaką pagrindinėms teisėms (sveikatos priežiūrai, teisingumui, kreditui, įdarbinimui), turi būti skaidrios, teisingos ir atskaitingos. Revoliucinė idėja: galbūt algoritmas, sprendžiantis, ar gausite paskolą, turėtų paaiškinti savo sprendimą. Ši reguliavimo sistema skatina architektūras, kurios šias savybes užtikrina pačia savo konstrukcija, o ne kaip atitikties lopas, pritaikytas po fakto.
Pažangios DI architektūros, derinančios apribojimais grįstą samprotavimą, daugiaagentes sistemas ir hibridinius neuroninių bei simbolinių metodų sprendimus, puikiai atitinka šią viziją. Jos nebando apeiti reglamentų pro išmanias spragas. Jos įkūnija principus: skaidrumą per aiškias samprotavimo grandines, teisingumą per audituojamą logiką, atskaitomybę per įrodomą elgesį.
Tai Europos galimybė vesti DI plėtrą patikimų ir patikrinamų sistemų link, o ne „judėk greitai ir laužyk demokratiją“ kryptimi, kuri mėgstama kitur. Vadinkite mus senamadiškais, bet mes norime, kad mūsų DI sistemos nereikalautų kongreso klausymų.
Reguliavimo požiūris sukuria konkurencinį pranašumą, o ne naštą. Kol Amerikos įmonės bando pritaikyti paaiškinamumą architektūroms, kurios tam priešinasi (sėkmės bandant paaiškinti dėmesio matricas GDPR auditoriui), Europos įmonės skaidrumą įdiegia į pamatus. Kol kiti skuba vykdyti reikalavimus, kuriems patys priešinosi, Europos įmonės kuria sistemas, kurios natūraliai atitinka reikalavimus, nes mes iš tikrųjų kalbėjomės su reguliuotojais projektavimo metu.
Tai ne reguliavimo našta, kuri mus lėtina. Tai strateginė kryptis, kuri mus spartina. Europa anksti suprato, kad kritinėse sistemose naudojamas DI turi būti patikimas. Reglamentai įtvirtina šią įžvalgą. Apribojimais grįstos, daugiaagentės, hibridinės architektūros yra techninis šių principų įgyvendinimas.
The global AI market will increasingly demand what European regulations require: explainability, auditability, provable safety. European AI platforms developed under these requirements have a first-mover advantage. When California finally passes its own AI regulation (after the third major scandal), and when Beijing demands transparency for systems deployed in China, and when every other jurisdiction realizes "trust the tech bros" isn't a governance strategy, European technology will be ready. Because we've been building for this reality since day one.
The path forward
We're at a decision point for AI development.
One path continues scaling traditional neural networks: bigger models, more parameters, more data, less interpretability. This path leads to powerful but unaccountable systems.
The other path builds AI on logical foundations: explicit constraints, formal verification, provable correctness. This leads to systems we can actually trust in critical applications.
Dweve has chosen the second path. Our binary constraint networks provide complete explainability, formal verification, and EU AI Act compliance by architecture.
The question for the industry is: which future do we want to build?
The choice has profound implications. Traditional neural networks optimise for capability at any cost. Binary constraint networks optimise for trustworthy capability. The first approach produces impressive demonstrations. The second produces deployable systems.
We see the difference in adoption patterns. Traditional AI excels in low-stakes applications: content recommendation, image generation, text completion. Binary constraint AI excels in high-stakes domains: medical diagnosis, financial decisions, autonomous systems, industrial control.
The division reflects fundamental architectural differences. When correctness matters more than coverage, when explainability is mandatory, when formal verification is required, constraint-based approaches win. When broad capability matters more than guarantees, statistical approaches suffice.
But the landscape is shifting. As AI moves into critical systems, trustworthiness becomes essential. The architectures that provide it gain advantage. The ones that don't face barriers: regulatory rejection, liability concerns, market resistance.
Binary constraint networks aren't the future because they're novel. They're the future because they solve the problems that matter: transparency, accountability, provable safety. They provide what critical systems require and what regulations demand.
The path forward is clear. Build AI you can explain. Design systems you can verify. Deploy intelligence you can trust. This is honest AI. This is the architecture that scales into high-stakes domains. This is what Europe is building.
„Dweve" kuria skaidrų dirbtinį intelektą, naudodama apribojimais pagrįstą samprotavimą, kelių agentų sistemas ir hibridines neuroninių bei simbolinių sistemų architektūras. Kiekvienas sprendimas yra atsekamas per aiškias logikos taisykles. Kiekviena išvada yra patikrinama formaliais metodais. Atitinka ES dirbtinio intelekto aktą pagal pačią konstrukciją. Įsikūrusi Nyderlanduose, aptarnauja išimtinai Europos organizacijas.