Faktaspädningsproblemet: varför 98 % korrekt AI blir fullständigt nonsens
Kemiexperimentet som förklarar varför din AI misslyckas
Tänk dig att du har en bägare med rent vatten. Någon säger åt dig att ta bort exakt 2 % av vattnet och ersätta det med något ofarligt. Du gör detta en gång, du har fortfarande 98 % vatten. Inga problem.
Upprepa nu processen 50 gånger. Hur mycket vatten har du kvar?
Svaret beror helt på vilken fråga du besvarar. Och den skillnaden är exakt varför de flesta nuvarande AI-system blir helt opålitliga i flerstegsresonemang.
Detta är ingen metafor. Detta är matematik. Och det förstör AI-projekt inom alla branscher.
De två sätten att tänka på fel
När människor pratar om AI-träffsäkerhet tänker de oftast på vad statistiker kallar oberoende fel. Varje AI-operation har 2 % chans att vara fel. Nästa operation är oberoende. Den har också 2 % chans att vara fel.
Under denna modell gör du efter 50 operationer 50 oberoende 2-procentiga fel. Det är ungefär ett fel totalt. Ingen stor sak, eller hur?
Men så fungerar inte AI i verkligheten. AI-system bygger på tidigare utdata. Varje steg är beroende av det som kom innan. Och det förändrar allt.
Inom kemi, när du upprepade gånger späder ut en lösning, tillämpar du en sönderfallsfaktor på det som återstår. Du subtraherar inte 2 % av den ursprungliga koncentrationen varje gång. Du minskar den aktuella koncentrationen med 2 %.
Det låter liknande. Det ger radikalt olika resultat.
Den linjära illusionen
Låt oss börja med det felaktiga sättet att tänka på det, eftersom det är så de flesta AI-företag faktiskt modellerar sina system.
Linjärt sönderfall antar att du alltid tar bort 2 % av den ursprungliga mängden. Börja med 100 % träffsäkerhet. Steg 1: du är på 98 %. Steg 2: du är på 96 %. Efter 50 steg är du på exakt 0 %.
Enkelt. Förutsägbart. Och helt fel för AI-system.
Denna linjära modell är vad som får företag att tro att deras AI är säker. De testar träffsäkerheten i enstaka steg, finner att den är 98 %, och antar att flerstegsoperationer kommer att försämras linjärt. De distribuerar agenter, resonemangskedjor och flerstegsfrågor. Sedan ser de sina system misslyckas katastrofalt.
Problemet är att AI-fel inte fungerar som oberoende slantsinglingar. De ackumuleras.
Den exponentiella verkligheten
Så här går det faktiskt till. Varje AI-operation bevarar 98 % av den sanning som återstod från föregående operation. Men avgörande är att dessa 98 % är av den minskande resten, inte av originalet.
Matematiken är enkel exponentiell avklingning: 0,98 upphöjt till n steg.
Låt mig visa dig hur detta faktiskt ser ut:
- Steg 0: 100 % träffsäkerhet (perfekt sanning)
- Steg 10: 81,7 % träffsäkerhet
- Steg 25: 60,3 % träffsäkerhet
- Steg 50: 36,4 % träffsäkerhet
- Steg 100: 13,3 % träffsäkerhet
- Steg 228: 1 % träffsäkerhet
- Steg 342: 0,1 % träffsäkerhet
Läs det igen. Efter bara 50 resonemangssteg med 98 % träffsäkerhet per steg är ditt system mer sannolikt fel än rätt. Efter 100 steg är det fel 86,7 % av tiden. Efter 228 steg finns det knappt 1 % sanning kvar.
Det är därför dina AI-agenter misslyckas. Det är därför flerstegsresonemang producerar nonsens. Detta är den matematiska grunden för hallucinationssnöbollen.
Tröskeln för oanvändbarhet
Här är en fråga ingen inom AI vill besvara: vid vilken punkt blir ett system så opålitligt att det i praktiken är oanvändbart?
Det matematiska svaret är 34 steg. Med 98 procents noggrannhet per steg hamnar systemet under 50 procents noggrannhet efter 34 resonemangsoperationer. Det är mer sannolikt att det har fel än rätt.
Men det praktiska svaret kommer mycket tidigare. I produktionssystem kan du inte tolerera något i närheten av 50 procents fel. Du behöver 90 procents tillförlitlighet eller högre. Den tröskeln nås redan efter 11 steg.
Låt mig vara tydlig med vad detta innebär:
- Kedja med 11 resonemangssteg: 90 procent av dina utdata är felaktiga
- Kedja med 34 resonemangssteg: ditt system är sämre än slumpen
- Kedja med 50 resonemangssteg: 63,6 procents felfrekvens
- Kedja med 100 resonemangssteg: 86,7 procents felfrekvens
Tänk nu på vad detta innebär för agentisk AI. Ett typiskt agentarbetsflöde kan se ut så här: förstå uppgiften (1), dela upp i steg (2), söka information (3), utvärdera källor (4), sammanställa resultat (5), generera svar (6), verifiera kvalitet (7) och så vidare. Det är redan 7 steg, och vi har inte ens kommit till komplexa uppgifter.
Resonemangskedjor över flera hopp inom juridisk research, medicinsk diagnostik eller finansiell analys överstiger rutinmässigt 20 steg. Med 98 procents noggrannhet per steg innebär det 33 procents fel innan du ens tar hänsyn till komplexitet.
Detta är inte teoretiskt. Det är därför AI-agenter misslyckas i produktion.
Produktionskatastrofen ingen diskuterar
Statistiken är förödande, men den nämns nästan aldrig i AI-marknadsföringsmaterial.
Misslyckanden inom företags-AI: Enligt forskning från 2025 av MIT och Fortune når 95 procent av generativa AI-pilotprojekt aldrig produktion med mätbar affärspåverkan. Inte "kämpar för att nå produktion." De misslyckas fullständigt.
Misslyckanden specifika för agenter: Analyser från LinkedIn av AI-utövare visar att 95 procent av AI-agenterna misslyckas i produktion. Inte för att modellerna inte är tillräckligt intelligenta. Utan för att felackumulering gör dem opålitliga.
Multiagentsystem: Forskning visar att fel förvärras snabbare när flera agenter samarbetar. Om en agent överför felaktig information till en annan bygger den andra agenten vidare på felen, och försämringen accelererar.
Den ekonomiska påverkan: Företag spenderar hundratals miljoner på AI-system som i grunden inte kan fungera för sina avsedda användningsområden. En enda implementering av en agent med flera steg kan kosta miljoner att utveckla, men ändå misslyckas på grund av grundläggande matematik.
Detta är 98-procentsproblemet i praktiken: utmärkt noggrannhet i enstaka steg, katastrofalt misslyckande över flera steg.
Hallucinationens snöbollseffekt
Forskning från Zhang et al. (2023) identifierade det de kallar "hallucinationssnöbollen". Så här fungerar det: LLM:er överengagerar sig i tidiga misstag och genererar sedan ytterligare falska påståenden för att rättfärdiga dessa misstag. Felet fortplantar sig inte bara. Det växer.
Tänk på vad detta innebär i samband med exponentiell felavklingning. Ditt första fel vid steg 5 minskar inte bara noggrannheten med 2 %. Det skapar en bristfällig grund för steg 6, som nu har ännu högre sannolikhet för fel eftersom det bygger på felaktiga antaganden.
Den rena exponentiella avklingningsmodellen är faktiskt optimistisk. I praktiken snöbollar felen snabbare än matematiken förutspår, eftersom varje fel gör efterföljande fel mer sannolika.
Det är därför vi ser dokumenterade fall som:
CNET:s AI-katastrof (2023): 41 av 77 AI-skrivna artiklar krävde rättelser. Det är en felfrekvens på 53 % inom produktionsjournalistik, där ensiffriga felfrekvenser skulle vara oacceptabla.
Misslyckanden inom medicinsk diagnostik: En studie i JAMA Pediatrics visade att ChatGPT gjorde felaktiga diagnoser i över 80 % av pediatriska fall. Detta är inte "hallucination" i abstrakt bemärkelse. Det handlar om specifika medicinska fel som kan skada patienter.
Juridiska AI-hallucinationer: Forskning från Stanford HAI visar att juridiska AI-modeller hallucinerar i 1 av 6 benchmarkfrågor. Advokater har bestraffats för att ha lämnat in AI-genererade falska fall till domstolar. Vid flera tillfällen. I flera länder.
Google AI Overviews misslyckanden: Systemet föreslog att man skulle lägga lim på pizza och äta stenar dagligen. Detta är inte gränsfall. Det är vad som händer när felackumulering möter självförtroende utan verifiering.
Verifieringsfällan
Här är det ironiska. Vi vet att LLM:er kan identifiera sina egna misstag. Forskning visar att ChatGPT identifierar 67 % av sina fel, GPT-4 identifierar 87 %. Modellerna vet när de har fel.
Men de håller ändå fast vid hallucinationerna. De genererar falska påståenden för att rättfärdiga initiala fel. De överengagerar sig i misstag trots att de har förmågan att känna igen dem.
Det är därför enkel verifiering inte löser problemet. Att lägga till ett steg med "kontrollera ditt arbete" hjälper inte när systemet är incitamenterat att försvara sina tidigare utdata snarare än att korrigera dem.
Verifieringssteget blir i sig självt ytterligare ett steg i resonemangskedjan. Ännu ett fel på 2 %. Ännu en möjlighet för snöbollen att växa.
Varför nuvarande metoder inte kan åtgärda detta
AI-industrins svar på felackumulering har varit att försöka hårdare. Mer träningsdata. Bättre finjustering. Smarta prompts. Chain-of-thought-resonemang. Verifieringssteg.
Inget av detta adresserar det grundläggande matematiska problemet.
Mer träning hjälper inte: Bättre enstegsnoggrannhet förändrar inte exponentiell avklingning. 99 % noggrannhet flyttar bara tröskeln från 34 steg till 69 steg. 99,5 % flyttar den till 138 steg. Samtidigt spenderar du exponentiellt mer beräkningskraft för marginella vinster.
Bättre prompting hjälper inte: Promptstrategier försöker i huvudsak bekämpa matematik med naturligt språk. Du kan inte prompta dig ur (0,98)ⁿ.
Verifiering förvärrar problemet: Varje verifieringssteg är ytterligare en operation med sin egen felsannolikhet. Du lägger till steg för att bekämpa problemet som orsakas av att ha för många steg.
Ensemblemetoder hjälper men löser inte: Forskning visar att självkonsistensmetoder kan förbättra noggrannheten med upp till 17,9 procentenheter på matematikproblem. Men detta sker till priset av 40× mer beräkning. Och det eliminerar inte exponentiell avklingning. Det flyttar bara kurvan något.
Det grundläggande problemet är inte träningskvalitet eller promptstrategi. Det är att neurala nätverk med flyttal i grunden är probabilistiska. Varje operation introducerar osäkerhet. Osäkerhet ackumuleras. Det finns ingen väg runt denna matematik.
Den begränsningsbaserade lösningen
Begränsningsbaserade AI-system följer inte modellen med exponentiell avklingning. Här är varför.
Deterministiska operationer: Vår metod använder diskreta operationer. XNOR, POPCNT, logisk AND, OR. Dessa operationer är deterministiska. Samma indata, samma utdata. Varje enda gång.
Inga avrundningsfel: Binära värden är exakta. +1 eller -1. Ingen flyttalsapproximation. Inget ackumulerat avrundningsfel.
Begränsningsuppfyllelse: Våra system arbetar med begränsningar, inte sannolikheter. En begränsning är antingen uppfylld eller inte. Det finns inget 98 % uppfylld. Det finns uppfylld (100 %) eller överträdd (0 %).
Kristalliserade begränsningar: I Dweves metod, när en begränsning väl är upptäckt och kristalliserad, tillämpas den deterministiskt. Den hundrade tillämpningen av en begränsning är lika tillförlitlig som den första. Ingen avklingning. Inget ackumulerat fel.
Det är därför begränsningsbaserade system kan hantera multi-hop-resonemang utan försämring. Varje hopp kontrolleras mot kristalliserade begränsningar. Hopp 10 är lika tillförlitligt som hopp 1. Hopp 100 är lika tillförlitligt som hopp 1.
Felkurvan ser inte ut som exponentiell avklingning. Den ser ut som en stegfunktion: 100 % noggrannhet tills en begränsningsgräns nås, sedan 0 % (detekterbart fel). Inga gråzoner. Ingen gradvis avklingning till nonsens.
The regulatory angle
European regulators understand this problem better than American tech companies want to admit.
The EU AI Act doesn't just mandate accuracy. It mandates explainability and auditability. You need to explain why your AI made a specific decision. You need to prove it works correctly.
How do you prove a system works correctly when its reliability decays exponentially with reasoning depth?
You can't.
This is why GDPR Article 22's right to explanation and the EU AI Act's transparency requirements fundamentally favor constraint-based approaches. When a decision is the result of constraint satisfaction, you can explain it. Here's constraint A, constraint B, constraint C. All satisfied. Output follows logically.
When a decision is the output of 50 probabilistic operations, each compounding the uncertainty of the last? You can't explain that. You can't even reliably reproduce it.
This isn't a compliance burden. This is mathematics catching up with marketing claims.
The business implication
Here's what exponential error decay means for AI in business:
Simple tasks: Single-step operations work fine. Classification, basic question answering, simple retrieval. 98% accuracy is genuinely useful here.
Medium complexity: Multi-step but bounded operations are risky. You can probably handle 5-10 steps if you're careful. But you're approaching the threshold where errors accumulate faster than value is created.
High complexity: Deep reasoning chains, agent workflows, multi-hop queries are mathematically infeasible with floating-point probabilistic approaches. The system will fail. It's not a question of if, but when.
This explains why 95% of enterprise AI pilots fail. Companies are trying to solve problems that require 20, 50, 100 reasoning steps using systems that become unreliable after 11.
The mathematics don't care about your use case. They don't care about your budget. They don't care about your ambitious roadmap. (0.98)ⁿ goes to zero regardless of intentions.
The path forward
We've identified the problem. Exponential error accumulation makes floating-point neural networks unsuitable for multi-step reasoning. The mathematics are clear. The production failures are documented. The economic costs are measurable.
The solution is equally clear: we need AI systems that don't suffer from exponential decay.
Constraint-based AI provides exactly this. Deterministic operations. Crystallized constraints. No accumulated error. Multi-hop reasoning without degradation.
This isn't speculative. This is what we're building at Dweve. Core provides the binary algorithm framework. Loom implements 456 constraint-based domain specialists. Nexus provides the multi-agent orchestration layer. Each operation is mathematically exact. Each decision is traceable to specific constraints.
The result: AI systems that remain reliable across hundreds of reasoning steps. Not 98% accurate in step 1 and 36% accurate in step 50. 100% accurate in step 1 and step 50 and step 500.
Until the constraint boundary is hit, reliability is absolute. At the boundary, failure is detectable. The system knows when it doesn't know. That's not a bug. That's safety.
What you need to remember
- Felackumuleringen är exponentiell, inte linjär. Varje AI-operation i flera steg förvärrar tidigare fel. 98 procents träffsäkerhet per steg blir 13 procents framgång efter 100 steg.
- Gränsen för oanvändbarhet nås snabbt. Vid 98 procents träffsäkerhet per steg sjunker systemen under 50 procents tillförlitlighet efter bara 34 steg. I praktiken ligger gränsen runt 11 steg för 90 procents tillförlitlighet.
- Hallucinationer snöbollar, de sprids inte bara. LLM:er överengagerar sig i tidiga misstag och genererar ytterligare falska påståenden för att rättfärdiga dem. Felackumuleringen accelererar bortom ren exponentiell avklingning.
- Produktionsfelfrekvenserna är katastrofala. 95 procent av pilotprojekten inom generativ AI når aldrig produktion. 95 procent av AI-agenterna misslyckas i driftsättning. Det här är inte dålig ingenjörskonst. Det är dålig matematik.
- Verifiering löser inte problemet. Att lägga till verifieringssteg innebär fler operationer med egna felsannolikheter. Du bekämpar exponentiell avklingning med mer exponentiell avklingning.
- System baserade på begränsningar lider inte av exponentiell avklingning. Deterministiska operationer och kristalliserade begränsningar innebär att steg 100 är lika tillförlitligt som steg 1. Ingen ackumulerad felmarginal. Inga gråzoner.
- Europeisk reglering gynnar matematisk säkerhet. EU:s AI-förordnings krav på förklarbarhet och granskningsbarhet stämmer överens med begränsningsbaserade metoder och står i konflikt med probabilistiska svarta lådor.
Slutsatsen
98-procentsproblemet är verkligt, mätbart och förstör AI-projekt i alla branscher. När varje operation förlorar 2 procent av sanningen och fel förvärras över resonemangssteg blir system matematiskt garanterade att misslyckas.
Det här handlar inte om bättre träningsdata eller smartare uppmaningar. Det handlar om den grundläggande matematiken i neurala nätverk med flyttal jämfört med begränsningsbaserat resonemang.
Traditionella metoder följer exponentiell avklingning: (0,98)ⁿ närmar sig noll när n ökar. Det finns ingen väg runt detta. Det är inbakat i matematiken.
Begränsningsbaserade metoder fungerar annorlunda. Deterministiska operationer. Kristalliserade begränsningar. Steg 500 är lika tillförlitligt som steg 1. Felkurvan är en stegfunktion, inte exponentiell avklingning.
Branschen vaknar långsamt upp till denna verklighet. Företag spenderar hundratals miljoner på system som är matematiskt garanterade att misslyckas. Produktionsfelfrekvensen på 95 procent är inte mystisk. Den är förutsägbar.
Europeiska AI-företag som bygger på begränsningsbaserade grunder är inte i underläge. De löser det faktiska problemet medan amerikanska företag fördubblar sina satsningar på bristfällig matematik.
Framtiden för tillförlitlig AI handlar inte om mer beräkningskraft, större modeller eller smartare uppmaningar. Det handlar om begränsningsbaserade system med kristalliserade begränsningar. Matematisk säkerhet i stället för statistisk konfidens. Bevisbar tillförlitlighet i stället för exponentiell avklingning.
Vill du ha AI som inte förfaller till nonsens? Dweve Cores begränsningsbaserade ramverk ger deterministiskt resonemang i flera steg. Ingen exponentiell felackumulering. Inga hallucinationssnöbollar. Bara matematik som fungerar. Gå med i vår väntelista.