Det faktiske fortyndingsproblem: hvorfor 98 % præcis AI bliver til fuldstændig nonsens
Kemieksperimentet, der forklarer, hvorfor din AI fejler
Forestil dig, at du har et bægerglas med rent vand. Nogen beder dig om at fjerne præcis 2% af vandet og erstatte det med noget harmløst. Du gør det én gang, og du har stadig 98% vand. Intet problem.
Gentag nu processen 50 gange. Hvor meget vand har du tilbage?
Svaret afhænger fuldstændig af, hvilket spørgsmål du besvarer. Og netop den forskel er grunden til, at de fleste nuværende AI-systemer bliver fuldstændig upålidelige i opgaver, der kræver ræsonnement i flere trin.
Dette er ikke en metafor. Det er matematik. Og det ødelægger AI-projekter i alle brancher.
De to måder at tænke på fejl
Når folk taler om AI-nøjagtighed, tænker de som regel på det, statistikere kalder uafhængige fejl. Hver AI-operation har 2% chance for at være forkert. Den næste operation er uafhængig. Den har også 2% chance for at være forkert.
Under denne model har du efter 50 operationer lavet 50 uafhængige fejl på 2%. Det er cirka én fejl i alt. Ikke noget problem, vel?
Men sådan fungerer AI faktisk ikke. AI-systemer bygger på tidligere output. Hvert trin afhænger af det, der kom før. Og det ændrer alt.
I kemi, når du gentagne gange fortynder en opløsning, anvender du en henfaldsfaktor på det, der er tilbage. Du trækker ikke 2% fra den oprindelige koncentration hver gang. Du reducerer den aktuelle koncentration med 2%.
Det lyder ens. Det giver radikalt forskellige resultater.
Den lineære illusion
Lad os starte med den forkerte måde at tænke på det, fordi det er sådan, de fleste AI-virksomheder faktisk modellerer deres systemer.
Lineært henfald antager, at du altid fjerner 2% af det oprindelige beløb. Start med 100% nøjagtighed. Trin 1: du er på 98%. Trin 2: du er på 96%. Efter 50 trin er du på præcis 0%.
Enkelt. Forudsigeligt. Og fuldstændig forkert for AI-systemer.
Denne lineære model er det, der får virksomheder til at tro, at deres AI er sikker. De tester nøjagtigheden i enkelte trin, finder ud af, at den er 98%, og antager, at operationer i flere trin vil forringes lineært. De implementerer agenter, ræsonnementkæder og forespørgsler over flere hop. Så ser de deres systemer fejle katastrofalt.
Problemet er, at AI-fejl ikke fungerer som uafhængige møntkast. De akkumuleres.
Den eksponentielle virkelighed
Her er, hvad der faktisk sker. Hver AI-operation bevarer 98% af den sandhed, der var tilbage fra den foregående operation. Men afgørende er, at de 98% er af den aftagende rest, ikke af det oprindelige.
Regnestykket er simpelt eksponentielt henfald: 0,98 opløftet i n trin.
Lad mig vise dig, hvordan det faktisk ser ud:
- Trin 0: 100% nøjagtighed (perfekt sandhed)
- Trin 10: 81,7% nøjagtighed
- Trin 25: 60,3% nøjagtighed
- Trin 50: 36,4% nøjagtighed
- Trin 100: 13,3% nøjagtighed
- Trin 228: 1% nøjagtighed
- Trin 342: 0,1% nøjagtighed
Læs det igen. Efter blot 50 ræsonnementstrin med 98% nøjagtighed pr. trin er dit system mere tilbøjeligt til at tage fejl end at have ret. Efter 100 trin tager det fejl 86,7% af tiden. Efter 228 trin er der kun lige knap 1% sandhed tilbage.
Derfor fejler dine AI-agenter. Derfor giver multi-hop-ræsonnering vrøvl. Dette er det matematiske grundlag for hallucinationssnebolden.
Grænsen for ubrugelighed
Her er et spørgsmål, ingen i AI-branchen vil svare på: hvornår bliver et system så upålideligt, at det reelt er ubrugeligt?
Det matematiske svar er 34 trin. Med 98 % nøjagtighed pr. trin vil systemet efter 34 ræsonnementstrin ligge under 50 % nøjagtighed. Det er mere sandsynligt, at det tager fejl, end at det har ret.
Men det praktiske svar kommer meget tidligere. I produktionssystemer kan man ikke tolerere noget i nærheden af 50 % fejl. Man har brug for 90 % pålidelighed eller mere. Den grænse nås allerede efter 11 trin.
Lad mig være præcis om, hvad det betyder:
- Ræsonnementkæde på 11 trin: 90 % af dine output er forkerte
- Ræsonnementkæde på 34 trin: dit system er værre end ren tilfældighed
- Ræsonnementkæde på 50 trin: 63,6 % fejlrate
- Ræsonnementkæde på 100 trin: 86,7 % fejlrate
Overvej nu, hvad det betyder for agentisk AI. En typisk agent-workflow kan omfatte: forstå opgaven (1), opdel i trin (2), søg efter information (3), vurder kilder (4), sammenfat resultater (5), generér svar (6), verificér kvalitet (7) og så videre. Det er allerede 7 trin, og vi er ikke engang nået til komplekse opgaver.
Multi-hop-ræsonnementkæder i juridisk research, medicinsk diagnostik eller finansiel analyse overstiger rutinemæssigt 20 trin. Med 98 % nøjagtighed pr. trin ser du på 33 % fejl, før du overhovedet tager kompleksitet i betragtning.
Dette er ikke teoretisk. Det er derfor, AI-agenter fejler i produktion.
Produktionskatastrofen, ingen taler om
Statistikkerne er ødelæggende, men bliver næsten aldrig nævnt i AI-markedsføringsmateriale.
Enterprise-AI-fejl: Ifølge forskning fra 2025 fra MIT og Fortune når 95 % af generative AI-piloter aldrig til produktion med målbar forretningsmæssig effekt. Ikke "kæmper for at nå til produktion." De fejler fuldstændigt.
Agentspecifikke fejl: LinkedIn-analyse fra AI-praktikere viser, at 95 % af AI-agenter fejler i produktion. Ikke fordi modellerne ikke er intelligente nok. Men fordi fejlophobning gør dem upålidelige.
Multi-agent-systemer: Forskning viser, at når flere agenter samarbejder, akkumuleres fejl hurtigere. Hvis én agent videregiver fejlagtig information til en anden, bygger den anden agent videre på fejlene, og forringelsen accelererer.
Den økonomiske effekt: Virksomheder bruger hundredvis af millioner på AI-systemer, der fundamentalt ikke kan fungere til deres tilsigtede use cases. En enkelt udrulning af en multi-step-agent kan koste millioner at udvikle og alligevel fejle på grund af basal matematik.
Det er 98 %-problemet i praksis: fremragende nøjagtighed på enkelte trin, katastrofal fejl på tværs af flere trin.
Hallucinations-sneboldeffekten
Forskning fra Zhang et al. (2023) identificerede det, de kalder "hallucination-snebolden." Sådan fungerer den: LLM'er forpligter sig for tidligt til fejl og genererer derefter yderligere falske påstande for at retfærdiggøre disse fejl. Fejlen spreder sig ikke bare. Den vokser.
Tænk over, hvad det betyder i forbindelse med eksponentiel fejldæmpning. Din første fejl ved trin 5 reducerer ikke kun nøjagtigheden med 2%. Den skaber et fejlbehæftet fundament for trin 6, som nu har en endnu højere fejlsandsynlighed, fordi den bygger på forkerte antagelser.
Den rene eksponentielle dæmpningsmodel er faktisk optimistisk. I praksis sneboller fejl hurtigere, end matematikken forudsiger, fordi hver fejl gør efterfølgende fejl mere sandsynlige.
Derfor ser vi dokumenterede tilfælde som:
CNET's AI-katastrofe (2023): 41 ud af 77 AI-skrevet artikler krævede rettelser. Det er en fejlrate på 53% i produktionsjournalistik, hvor encifrede fejlprocenter ville være uacceptable.
Fejl i medicinske diagnoser: En undersøgelse fra JAMA Pediatrics viste, at ChatGPT lavede forkerte diagnoser i over 80% af pædiatriske tilfælde. Dette er ikke "hallucination" i det abstrakte. Det er konkrete medicinske fejl, der kan skade patienter.
Juridiske AI-hallucinationer: Forskning fra Stanford HAI viser, at juridiske AI-modeller hallucinerer i 1 ud af 6 benchmark-forespørgsler. Advokater er blevet sanktioneret for at indsende AI-genererede falske sager til domstole. Flere gange. I flere lande.
Fejl i Google AI Overview: Systemet foreslog at putte lim på pizza og spise sten dagligt. Disse er ikke kanttilfælde. Det er, hvad der sker, når fejlophobning møder selvtillid uden verifikation.
Verifikationsfælden
Her er det ironiske. Vi ved, at LLM'er kan identificere deres egne fejl. Forskning viser, at ChatGPT identificerer 67% af sine fejl, og GPT-4 identificerer 87%. Modellerne ved, hvornår de tager fejl.
Men de forpligter sig stadig til hallucinationerne. De genererer falske påstande for at retfærdiggøre indledende fejl. De forpligter sig for meget til fejl på trods af at have kapaciteten til at genkende dem.
Derfor løser simpel verifikation ikke problemet. At tilføje et "tjek dit arbejde"-trin hjælper ikke, når systemet er motiveret til at forsvare sine tidligere output frem for at rette dem.
Verifikationstrinnet bliver selv endnu et trin i ræsonneringskæden. Endnu 2% fejl. Endnu en mulighed for snebolden til at vokse.
Hvorfor nuværende tilgange ikke kan løse dette
AI-industriens svar på fejlophobning har været at prøve hårdere. Mere træningsdata. Bedre finjustering. Smart prompting. Kæde-af-tanke-ræsonnering. Verifikationstrin.
Intet af dette adresserer det grundlæggende matematiske problem.
Mere træning hjælper ikke: Bedre nøjagtighed på enkelte trin ændrer ikke eksponentiel dæmpning. 99% nøjagtighed flytter bare tærsklen fra 34 trin til 69 trin. 99,5% flytter den til 138 trin. I mellemtiden bruger du eksponentielt mere computerkraft for marginale gevinster.
Bedre prompting hjælper ikke: Prompting-strategier forsøger i bund og grund at bekæmpe matematik med naturligt sprog. Du kan ikke prompte dig ud af (0,98)ⁿ.
Verifikation forværrer problemet: Hvert verifikationstrin er endnu en operation med sin egen fejlsandsynlighed. Du tilføjer trin for at bekæmpe problemet, der er forårsaget af at have for mange trin.
Ensemble-metoder hjælper, men løser ikke: Forskning viser, at selvkonsistens-metoder kan forbedre nøjagtigheden med op til 17,9 procentpoint på matematiske problemer. Men det kommer på bekostning af 40× mere computerkraft. Og det eliminerer ikke eksponentiel dæmpning. Det flytter bare kurven en smule.
Det grundlæggende problem er ikke kvaliteten af træningen eller promptstrategien. Det er, at neurale netværk med flydende komma er fundamentalt probabilistiske. Hver operation introducerer usikkerhed. Usikkerhed akkumuleres. Der er ingen vej uden om denne matematik.
Den begrænsningsbaserede løsning
Begrænsningsbaserede AI-systemer følger ikke modellen for eksponentiel henfald. Her er hvorfor.
Deterministiske operationer: Vores tilgang bruger diskrete operationer. XNOR, POPCNT, logisk AND, OR. Disse operationer er deterministiske. Samme input, samme output. Hver eneste gang.
Ingen afrundingsfejl: Binære værdier er eksakte. +1 eller -1. Ingen tilnærmelse med flydende komma. Ingen akkumuleret afrundingsfejl.
Begrænsningsopfyldelse: Vores systemer arbejder med begrænsninger, ikke sandsynligheder. En begrænsning er enten opfyldt eller ej. Der er ikke noget, der hedder 98 % opfyldelse. Der er opfyldt (100 %) eller overtrådt (0 %).
Krystalliserede begrænsninger: I Dweves tilgang gælder en begrænsning deterministisk, når den først er opdaget og krystalliseret. Den hundrede anvendelse af en begrænsning er lige så pålidelig som den første. Intet henfald. Ingen akkumuleret fejl.
Det er derfor, begrænsningsbaserede systemer kan håndtere multi-hop-ræsonnering uden forringelse. Hvert hop kontrolleres mod krystalliserede begrænsninger. Hop 10 er lige så pålideligt som hop 1. Hop 100 er lige så pålideligt som hop 1.
Fejlkuren ligner ikke eksponentielt henfald. Den ligner en trinfunktion: 100 % nøjagtighed, indtil en begrænsningsgrænse rammes, derefter 0 % (detekterbar fejl). Ingen gråzoner. Intet gradvist henfald til nonsens.
Reguleringsvinklen
Europæiske regulatorer forstår dette problem bedre, end amerikanske teknologivirksomheder ønsker at indrømme.
EU's AI-forordning kræver ikke kun nøjagtighed. Den kræver forklarlighed og revisionssporbarhed. Du skal kunne forklare, hvorfor din AI traf en bestemt beslutning. Du skal kunne bevise, at den fungerer korrekt.
Hvordan beviser du, at et system fungerer korrekt, når dets pålidelighed forringes eksponentielt med ræsonneringsdybden?
Det kan du ikke.
Det er derfor, at retten til forklaring i artikel 22 i GDPR og gennemsigtighedskravene i EU's AI-forordning grundlæggende begunstiger begrænsningsbaserede tilgange. Når en beslutning er resultatet af opfyldelse af begrænsninger, kan du forklare den. Her er begrænsning A, begrænsning B, begrænsning C. Alle opfyldt. Outputtet følger logisk.
Når en beslutning er outputtet af 50 probabilistiske operationer, hvor hver enkelt forstærker usikkerheden fra den foregående? Det kan du ikke forklare. Du kan ikke engang pålideligt reproducere det.
Dette er ikke en byrde fra compliance. Dette er matematik, der indhenter marketingpåstande.
Forretningsimplikationen
Her er, hvad eksponentiel fejlforringelse betyder for AI i forretningssammenhæng:
Simple opgaver: Operationer med ét trin fungerer fint. Klassificering, grundlæggende spørgsmålsbesvarelse, simpel informationssøgning. 98 % nøjagtighed er virkelig nyttigt her.
Middel kompleksitet: Operationer med flere trin, men afgrænsede, er risikable. Du kan sandsynligvis håndtere 5-10 trin, hvis du er omhyggelig. Men du nærmer dig tærsklen, hvor fejl akkumuleres hurtigere, end værdi skabes.
Høj kompleksitet: Dybe ræsonneringskæder, agent-workflows og forespørgsler over flere hop er matematisk umulige med flydende-komma-baserede probabilistiske tilgange. Systemet vil fejle. Det er ikke et spørgsmål om, hvorvidt, men hvornår.
Dette forklarer, hvorfor 95 % af AI-pilotprojekter i virksomheder fejler. Virksomheder forsøger at løse problemer, der kræver 20, 50, 100 ræsonneringstrin ved hjælp af systemer, der bliver upålidelige efter 11.
Matematikken er ligeglad med din use case. Den er ligeglad med dit budget. Den er ligeglad med din ambitiøse køreplan. (0,98)ⁿ går mod nul uanset intentioner.
Vejen frem
Vi har identificeret problemet. Eksponentiel fejlakkumulering gør flydende-komma-baserede neurale netværk uegnede til ræsonnering over flere trin. Matematikken er klar. Produktionsfejlene er dokumenterede. De økonomiske omkostninger er målbare.
Løsningen er lige så klar: Vi har brug for AI-systemer, der ikke lider af eksponentiel forringelse.
Begrænsningsbaseret AI leverer netop dette. Deterministiske operationer. Krystalliserede begrænsninger. Ingen akkumuleret fejl. Ræsonnering over flere hop uden forringelse.
Dette er ikke spekulativt. Dette er, hvad vi bygger hos Dweve. Core leverer rammen for binære algoritmer. Loom implementerer 456 begrænsningsbaserede domænespecialister. Nexus leverer orkestreringslaget for multi-agent. Hver operation er matematisk eksakt. Hver beslutning kan spores til specifikke begrænsninger.
Resultatet: AI-systemer, der forbliver pålidelige på tværs af hundredvis af ræsonneringstrin. Ikke 98 % nøjagtige i trin 1 og 36 % nøjagtige i trin 50. 100 % nøjagtige i trin 1 og trin 50 og trin 500.
Indtil begrænsningsgrænsen nås, er pålideligheden absolut. Ved grænsen kan fejl opdages. Systemet ved, hvornår det ikke ved. Det er ikke en fejl. Det er sikkerhed.
Hvad du skal huske
- Fejlophobningen er eksponentiel, ikke lineær. Hver multi-trins AI-operation forstærker tidligere fejl. 98 % nøjagtighed pr. trin bliver til 13 % succes efter 100 trin.
- Tærsklen for ubrugelighed nås hurtigt. Ved 98 % nøjagtighed pr. trin falder systemerne til under 50 % pålidelighed efter blot 34 trin. I praksis ligger tærsklen på omkring 11 trin for 90 % pålidelighed.
- Hallucinationer sneboldere, de spreder sig ikke bare. LLM'er forpligter sig for tidligt til tidlige fejl og genererer yderligere falske påstande for at retfærdiggøre dem. Fejlophobningen accelererer ud over ren eksponentiel henfald.
- Fejlraten i produktion er katastrofal. 95 % af generative AI-piloter når aldrig til produktion. 95 % af AI-agenter fejler i implementeringen. Dette er ikke dårlig ingeniørkunst. Det er dårlig matematik.
- Verifikation løser ikke problemet. At tilføje verifikationstrin tilføjer flere operationer med deres egne fejlsandsynligheder. Du bekæmper eksponentielt henfald med mere eksponentielt henfald.
- Begrænsningsbaserede systemer lider ikke af eksponentielt henfald. Deterministiske operationer og krystalliserede begrænsninger betyder, at trin 100 er lige så pålideligt som trin 1. Ingen ophobet fejl. Ingen gråzoner.
- Europæisk regulering favoriserer matematisk sikkerhed. EU's AI-lovs krav om forklarlighed og reviderbarhed stemmer overens med begrænsningsbaserede tilgange og er i konflikt med probabilistiske black boxes.
Bundlinjen
98 %-problemet er reelt, målbart og ødelægger AI-projekter i alle brancher. Når hver operation mister 2 % af sandheden, og fejl akkumuleres på tværs af ræsonnementstrin, bliver systemerne matematisk garanteret til at fejle.
Dette handler ikke om bedre træningsdata eller smartere prompter. Det handler om den grundlæggende matematik i floating-point-neurale netværk versus begrænsningsbaseret ræsonnement.
Traditionelle tilgange følger eksponentielt henfald: (0,98)ⁿ nærmer sig nul, når n stiger. Der er ingen vej udenom. Det er indbygget i matematikken.
Begrænsningsbaserede tilgange fungerer anderledes. Deterministiske operationer. Krystalliserede begrænsninger. Trin 500 er lige så pålideligt som trin 1. Fejlkuren er en trinfunktion, ikke eksponentielt henfald.
Branchen vågner langsomt op til denne virkelighed. Virksomheder bruger hundredvis af millioner på systemer, der matematisk er garanteret til at fejle. 95 %-fejlraten i produktion er ikke mystisk. Den er forudsigelig.
Europæiske AI-virksomheder, der bygger på begrænsningsbaserede fundamenter, er ikke på en ulempe. De løser det faktiske problem, mens amerikanske virksomheder fordobler deres satsning på fejlbehæftet matematik.
Fremtiden for pålidelig AI er ikke mere computerkraft, større modeller eller klogere prompter. Det er begrænsningsbaserede systemer med krystalliserede begrænsninger. Matematisk sikkerhed i stedet for statistisk tillid. Beviselig pålidelighed i stedet for eksponentielt henfald.
Vil du have AI, der ikke henfalder til nonsens? Dweve Cores begrænsningsbaserede rammeværk giver deterministisk multi-trins ræsonnement. Ingen eksponentiel fejlophobning. Ingen hallucinationssnebolde. Bare matematik, der virker. Tilmeld dig vores venteliste.