Faktaspädningsproblemet: varför 98 % korrekt AI blir fullständigt nonsens
Kemiexperimentet som förklarar varför din AI misslyckas
Tänk dig att du har en bägare med rent vatten. Någon säger åt dig att ta bort exakt 2 % av vattnet och ersätta det med något ofarligt. Du gör detta en gång, du har fortfarande 98 % vatten. Inga problem.
Upprepa nu processen 50 gånger. Hur mycket vatten har du kvar?
Svaret beror helt på vilken fråga du besvarar. Och den skillnaden är exakt varför de flesta nuvarande AI-system blir helt opålitliga i flerstegsresonemang.
Detta är ingen metafor. Detta är matematik. Och det förstör AI-projekt inom alla branscher.
De två sätten att tänka på fel
När människor pratar om AI-träffsäkerhet tänker de oftast på vad statistiker kallar oberoende fel. Varje AI-operation har 2 % chans att vara fel. Nästa operation är oberoende. Den har också 2 % chans att vara fel.
Under denna modell gör du efter 50 operationer 50 oberoende 2-procentiga fel. Det är ungefär ett fel totalt. Ingen stor sak, eller hur?
Men så fungerar inte AI i verkligheten. AI-system bygger på tidigare utdata. Varje steg är beroende av det som kom innan. Och det förändrar allt.
Inom kemi, när du upprepade gånger späder ut en lösning, tillämpar du en sönderfallsfaktor på det som återstår. Du subtraherar inte 2 % av den ursprungliga koncentrationen varje gång. Du minskar den aktuella koncentrationen med 2 %.
Det låter liknande. Det ger radikalt olika resultat.
Den linjära illusionen
Låt oss börja med det felaktiga sättet att tänka på det, eftersom det är så de flesta AI-företag faktiskt modellerar sina system.
Linjärt sönderfall antar att du alltid tar bort 2 % av den ursprungliga mängden. Börja med 100 % träffsäkerhet. Steg 1: du är på 98 %. Steg 2: du är på 96 %. Efter 50 steg är du på exakt 0 %.
Enkelt. Förutsägbart. Och helt fel för AI-system.
Denna linjära modell är vad som får företag att tro att deras AI är säker. De testar träffsäkerheten i enstaka steg, finner att den är 98 %, och antar att flerstegsoperationer kommer att försämras linjärt. De distribuerar agenter, resonemangskedjor och flerstegsfrågor. Sedan ser de sina system misslyckas katastrofalt.
Problemet är att AI-fel inte fungerar som oberoende slantsinglingar. De ackumuleras.
Den exponentiella verkligheten
Så här går det faktiskt till. Varje AI-operation bevarar 98 % av den sanning som återstod från föregående operation. Men avgörande är att dessa 98 % är av den minskande resten, inte av originalet.
Matematiken är enkel exponentiell avklingning: 0,98 upphöjt till n steg.
Låt mig visa dig hur detta faktiskt ser ut:
- Steg 0: 100 % träffsäkerhet (perfekt sanning)
- Steg 10: 81,7 % träffsäkerhet
- Steg 25: 60,3 % träffsäkerhet
- Steg 50: 36,4 % träffsäkerhet
- Steg 100: 13,3 % träffsäkerhet
- Steg 228: 1 % träffsäkerhet
- Steg 342: 0,1 % träffsäkerhet
Läs det igen. Efter bara 50 resonemangssteg med 98 % träffsäkerhet per steg är ditt system mer sannolikt fel än rätt. Efter 100 steg är det fel 86,7 % av tiden. Efter 228 steg finns det knappt 1 % sanning kvar.
Det är därför dina AI-agenter misslyckas. Det är därför flerstegsresonemang producerar nonsens. Detta är den matematiska grunden för hallucinationssnöbollen.
Tröskeln för oanvändbarhet
Här är en fråga ingen inom AI vill besvara: vid vilken punkt blir ett system så opålitligt att det i praktiken är oanvändbart?
Det matematiska svaret är 34 steg. Med 98 procents noggrannhet per steg hamnar systemet under 50 procents noggrannhet efter 34 resonemangsoperationer. Det är mer sannolikt att det har fel än rätt.
Men det praktiska svaret kommer mycket tidigare. I produktionssystem kan du inte tolerera något i närheten av 50 procents fel. Du behöver 90 procents tillförlitlighet eller högre. Den tröskeln nås redan efter 11 steg.
Låt mig vara tydlig med vad detta innebär:
- Kedja med 11 resonemangssteg: 90 procent av dina utdata är felaktiga
- Kedja med 34 resonemangssteg: ditt system är sämre än slumpen
- Kedja med 50 resonemangssteg: 63,6 procents felfrekvens
- Kedja med 100 resonemangssteg: 86,7 procents felfrekvens
Tänk nu på vad detta innebär för agentisk AI. Ett typiskt agentarbetsflöde kan se ut så här: förstå uppgiften (1), dela upp i steg (2), söka information (3), utvärdera källor (4), sammanställa resultat (5), generera svar (6), verifiera kvalitet (7) och så vidare. Det är redan 7 steg, och vi har inte ens kommit till komplexa uppgifter.
Resonemangskedjor över flera hopp inom juridisk research, medicinsk diagnostik eller finansiell analys överstiger rutinmässigt 20 steg. Med 98 procents noggrannhet per steg innebär det 33 procents fel innan du ens tar hänsyn till komplexitet.
Detta är inte teoretiskt. Det är därför AI-agenter misslyckas i produktion.
Produktionskatastrofen ingen diskuterar
Statistiken är förödande, men den nämns nästan aldrig i AI-marknadsföringsmaterial.
Misslyckanden inom företags-AI: Enligt forskning från 2025 av MIT och Fortune når 95 procent av generativa AI-pilotprojekt aldrig produktion med mätbar affärspåverkan. Inte "kämpar för att nå produktion." De misslyckas fullständigt.
Misslyckanden specifika för agenter: Analyser från LinkedIn av AI-utövare visar att 95 procent av AI-agenterna misslyckas i produktion. Inte för att modellerna inte är tillräckligt intelligenta. Utan för att felackumulering gör dem opålitliga.
Multiagentsystem: Forskning visar att fel förvärras snabbare när flera agenter samarbetar. Om en agent överför felaktig information till en annan bygger den andra agenten vidare på felen, och försämringen accelererar.
Den ekonomiska påverkan: Företag spenderar hundratals miljoner på AI-system som i grunden inte kan fungera för sina avsedda användningsområden. En enda implementering av en agent med flera steg kan kosta miljoner att utveckla, men ändå misslyckas på grund av grundläggande matematik.
Detta är 98-procentsproblemet i praktiken: utmärkt noggrannhet i enstaka steg, katastrofalt misslyckande över flera steg.
Hallucinationens snöbollseffekt
Forskning från Zhang et al. (2023) identifierade det de kallar "hallucinationssnöbollen". Så här fungerar det: LLM:er överengagerar sig i tidiga misstag och genererar sedan ytterligare falska påståenden för att rättfärdiga dessa misstag. Felet fortplantar sig inte bara. Det växer.
Tänk på vad detta innebär i samband med exponentiell felavklingning. Ditt första fel vid steg 5 minskar inte bara noggrannheten med 2 %. Det skapar en bristfällig grund för steg 6, som nu har ännu högre sannolikhet för fel eftersom det bygger på felaktiga antaganden.
Den rena exponentiella avklingningsmodellen är faktiskt optimistisk. I praktiken snöbollar felen snabbare än matematiken förutspår, eftersom varje fel gör efterföljande fel mer sannolika.
Det är därför vi ser dokumenterade fall som:
CNET:s AI-katastrof (2023): 41 av 77 AI-skrivna artiklar krävde rättelser. Det är en felfrekvens på 53 % inom produktionsjournalistik, där ensiffriga felfrekvenser skulle vara oacceptabla.
Misslyckanden inom medicinsk diagnostik: En studie i JAMA Pediatrics visade att ChatGPT gjorde felaktiga diagnoser i över 80 % av pediatriska fall. Detta är inte "hallucination" i abstrakt bemärkelse. Det handlar om specifika medicinska fel som kan skada patienter.
Juridiska AI-hallucinationer: Forskning från Stanford HAI visar att juridiska AI-modeller hallucinerar i 1 av 6 benchmarkfrågor. Advokater har bestraffats för att ha lämnat in AI-genererade falska fall till domstolar. Vid flera tillfällen. I flera länder.
Google AI Overviews misslyckanden: Systemet föreslog att man skulle lägga lim på pizza och äta stenar dagligen. Detta är inte gränsfall. Det är vad som händer när felackumulering möter självförtroende utan verifiering.
Verifieringsfällan
Här är det ironiska. Vi vet att LLM:er kan identifiera sina egna misstag. Forskning visar att ChatGPT identifierar 67 % av sina fel, GPT-4 identifierar 87 %. Modellerna vet när de har fel.
Men de håller ändå fast vid hallucinationerna. De genererar falska påståenden för att rättfärdiga initiala fel. De överengagerar sig i misstag trots att de har förmågan att känna igen dem.
Det är därför enkel verifiering inte löser problemet. Att lägga till ett steg med "kontrollera ditt arbete" hjälper inte när systemet är incitamenterat att försvara sina tidigare utdata snarare än att korrigera dem.
Verifieringssteget blir i sig självt ytterligare ett steg i resonemangskedjan. Ännu ett fel på 2 %. Ännu en möjlighet för snöbollen att växa.
Varför nuvarande metoder inte kan åtgärda detta
AI-industrins svar på felackumulering har varit att försöka hårdare. Mer träningsdata. Bättre finjustering. Smarta prompts. Chain-of-thought-resonemang. Verifieringssteg.
Inget av detta adresserar det grundläggande matematiska problemet.
Mer träning hjälper inte: Bättre enstegsnoggrannhet förändrar inte exponentiell avklingning. 99 % noggrannhet flyttar bara tröskeln från 34 steg till 69 steg. 99,5 % flyttar den till 138 steg. Samtidigt spenderar du exponentiellt mer beräkningskraft för marginella vinster.
Bättre prompting hjälper inte: Promptstrategier försöker i huvudsak bekämpa matematik med naturligt språk. Du kan inte prompta dig ur (0,98)ⁿ.
Verifiering förvärrar problemet: Varje verifieringssteg är ytterligare en operation med sin egen felsannolikhet. Du lägger till steg för att bekämpa problemet som orsakas av att ha för många steg.
Ensemblemetoder hjälper men löser inte: Forskning visar att självkonsistensmetoder kan förbättra noggrannheten med upp till 17,9 procentenheter på matematikproblem. Men detta sker till priset av 40× mer beräkning. Och det eliminerar inte exponentiell avklingning. Det flyttar bara kurvan något.
Det grundläggande problemet är inte träningskvalitet eller promptstrategi. Det är att neurala nätverk med flyttal i grunden är probabilistiska. Varje operation introducerar osäkerhet. Osäkerhet ackumuleras. Det finns ingen väg runt denna matematik.
Den begränsningsbaserade lösningen
Begränsningsbaserade AI-system följer inte modellen med exponentiell avklingning. Här är varför.
Deterministiska operationer: Vår metod använder diskreta operationer. XNOR, POPCNT, logisk AND, OR. Dessa operationer är deterministiska. Samma indata, samma utdata. Varje enda gång.
Inga avrundningsfel: Binära värden är exakta. +1 eller -1. Ingen flyttalsapproximation. Inget ackumulerat avrundningsfel.
Begränsningsuppfyllelse: Våra system arbetar med begränsningar, inte sannolikheter. En begränsning är antingen uppfylld eller inte. Det finns inget 98 % uppfylld. Det finns uppfylld (100 %) eller överträdd (0 %).
Kristalliserade begränsningar: I Dweves metod, när en begränsning väl är upptäckt och kristalliserad, tillämpas den deterministiskt. Den hundrade tillämpningen av en begränsning är lika tillförlitlig som den första. Ingen avklingning. Inget ackumulerat fel.
Det är därför begränsningsbaserade system kan hantera multi-hop-resonemang utan försämring. Varje hopp kontrolleras mot kristalliserade begränsningar. Hopp 10 är lika tillförlitligt som hopp 1. Hopp 100 är lika tillförlitligt som hopp 1.
Felkurvan ser inte ut som exponentiell avklingning. Den ser ut som en stegfunktion: 100 % noggrannhet tills en begränsningsgräns nås, sedan 0 % (detekterbart fel). Inga gråzoner. Ingen gradvis avklingning till nonsens.
Het regelgevingsperspectief
Europese toezichthouders begrijpen dit probleem beter dan Amerikaanse techbedrijven willen toegeven.
EU:s AI-förordning föreskriver inte bara noggrannhet. Den föreskriver även förklarbarhet och granskningsbarhet. Du måste kunna förklara varför din AI fattade ett specifikt beslut. Du måste kunna bevisa att den fungerar korrekt.
Hur bevisar man att ett system fungerar korrekt när dess tillförlitlighet avtar exponentiellt med resonemangsdjupet?
Det kan man inte.
Det är därför rätten till förklaring i artikel 22 i GDPR och AI-förordningens transparenskrav i grunden gynnar begränsningsbaserade metoder. När ett beslut är resultatet av att begränsningar uppfylls kan man förklara det. Här är begränsning A, begränsning B, begränsning C. Alla uppfyllda. Utdata följer logiskt.
När ett beslut är resultatet av 50 probabilistiska operationer, där var och en förstärker osäkerheten från den föregående? Det kan man inte förklara. Man kan inte ens reproducera det på ett tillförlitligt sätt.
Dit is geen nalevingslast. Dit is wiskunde die marketingclaims inhaalt.
De zakelijke implicatie
Så här betyder exponentiellt felförfall för AI i affärslivet:
Eenvoudige taken: Bewerkingen in één stap werken prima. Classificatie, eenvoudige vraagbeantwoording, eenvoudige opvraging. 98% nauwkeurigheid is hier echt nuttig.
Medelstor komplexitet: Flerstegsoperationer som är avgränsade är riskabla. Du klarar förmodligen 5–10 steg om du är noggrann. Men du närmar dig tröskeln där felen ackumuleras snabbare än värde skapas.
Hög komplexitet: Djupa resonemangskedjor, agentarbetsflöden och flerhopps-frågor är matematiskt omöjliga med probabilistiska metoder baserade på flyttal. Systemet kommer att misslyckas. Det är inte en fråga om huruvida, utan när.
Dit verklaart waarom 95% van de AI-pilots in het bedrijfsleven mislukken. Bedrijven proberen problemen op te lossen die 20, 50, 100 redeneerstappen vereisen, met systemen die na 11 stappen onbetrouwbaar worden.
De wiskunde geeft niets om jouw use case. Ze geven niets om jouw budget. Ze geven niets om jouw ambitieuze roadmap. (0.98)ⁿ gaat naar nul, ongeacht je intenties.
De weg vooruit
Vi har identifierat problemet. Exponentiell felackumulering gör flyttalsbaserade neurala nätverk olämpliga för flerstegsresonemang. Matematiken är tydlig. Produktionsfelen är dokumenterade. De ekonomiska kostnaderna är mätbara.
Lösningen är lika tydlig: vi behöver AI-system som inte lider av exponentiellt förfall.
Constraint-gebaseerde AI biedt precies dit. Deterministische bewerkingen. Gekristalliseerde beperkingen. Geen opgebouwde fouten. Multi-hop redenering zonder degradatie.
Detta är inte spekulativt. Detta är vad vi bygger på Dweve. Core tillhandahåller ramverket för binära algoritmer. Loom implementerar 528 begränsningsbaserade domänspecialister. Nexus tillhandahåller orkestreringslagret för multiagenter. Varje operation är matematiskt exakt. Varje beslut kan spåras till specifika begränsningar.
Resultatet: AI-system som förblir tillförlitliga genom hundratals resonemangssteg. Inte 98 % korrekta i steg 1 och 36 % korrekta i steg 50. 100 % korrekta i steg 1, steg 50 och steg 500.
Så länge begränsningsgränsen inte nås är tillförlitligheten absolut. Vid gränsen är fel upptäckbara. Systemet vet när det inte vet. Det är inte en bugg. Det är säkerhet.
Wat je moet onthouden
- Felackumuleringen är exponentiell, inte linjär. Varje AI-operation i flera steg förvärrar tidigare fel. 98 procents träffsäkerhet per steg blir 13 procents framgång efter 100 steg.
- Gränsen för oanvändbarhet nås snabbt. Vid 98 procents träffsäkerhet per steg sjunker systemen under 50 procents tillförlitlighet efter bara 34 steg. I praktiken ligger gränsen runt 11 steg för 90 procents tillförlitlighet.
- Hallucinationer snöbollar, de sprids inte bara. LLM:er överengagerar sig i tidiga misstag och genererar ytterligare falska påståenden för att rättfärdiga dem. Felackumuleringen accelererar bortom ren exponentiell avklingning.
- Produktionsfelfrekvenserna är katastrofala. 95 procent av pilotprojekten inom generativ AI når aldrig produktion. 95 procent av AI-agenterna misslyckas i driftsättning. Det här är inte dålig ingenjörskonst. Det är dålig matematik.
- Verifiering löser inte problemet. Att lägga till verifieringssteg innebär fler operationer med egna felsannolikheter. Du bekämpar exponentiell avklingning med mer exponentiell avklingning.
- System baserade på begränsningar lider inte av exponentiell avklingning. Deterministiska operationer och kristalliserade begränsningar innebär att steg 100 är lika tillförlitligt som steg 1. Ingen ackumulerad felmarginal. Inga gråzoner.
- Europeisk reglering gynnar matematisk säkerhet. EU:s AI-förordnings krav på förklarbarhet och granskningsbarhet stämmer överens med begränsningsbaserade metoder och står i konflikt med probabilistiska svarta lådor.
Slutsatsen
98-procentsproblemet är verkligt, mätbart och förstör AI-projekt i alla branscher. När varje operation förlorar 2 procent av sanningen och fel förvärras över resonemangssteg blir system matematiskt garanterade att misslyckas.
Det här handlar inte om bättre träningsdata eller smartare uppmaningar. Det handlar om den grundläggande matematiken i neurala nätverk med flyttal jämfört med begränsningsbaserat resonemang.
Traditionella metoder följer exponentiell avklingning: (0,98)ⁿ närmar sig noll när n ökar. Det finns ingen väg runt detta. Det är inbakat i matematiken.
Begränsningsbaserade metoder fungerar annorlunda. Deterministiska operationer. Kristalliserade begränsningar. Steg 500 är lika tillförlitligt som steg 1. Felkurvan är en stegfunktion, inte exponentiell avklingning.
Branschen vaknar långsamt upp till denna verklighet. Företag spenderar hundratals miljoner på system som är matematiskt garanterade att misslyckas. Produktionsfelfrekvensen på 95 procent är inte mystisk. Den är förutsägbar.
Europeiska AI-företag som bygger på begränsningsbaserade grunder är inte i underläge. De löser det faktiska problemet medan amerikanska företag fördubblar sina satsningar på bristfällig matematik.
Framtiden för tillförlitlig AI handlar inte om mer beräkningskraft, större modeller eller smartare uppmaningar. Det handlar om begränsningsbaserade system med kristalliserade begränsningar. Matematisk säkerhet i stället för statistisk konfidens. Bevisbar tillförlitlighet i stället för exponentiell avklingning.
Vill du ha AI som inte förfaller till nonsens? Dweve Cores begränsningsbaserade ramverk ger deterministiskt resonemang i flera steg. Ingen exponentiell felackumulering. Inga hallucinationssnöbollar. Bara matematik som fungerar. Konsumenter får för närvarande tillgång till Dweve endast via inbjudan.