Problém rozmělnění faktů: proč se 98% přesná AI stává naprostým nesmyslem
Chemický experiment, který vysvětluje, proč vaše AI selhává
Představte si kádinku s čistou vodou. Někdo vám řekne, abyste odebrali přesně 2 % vody a nahradili ji něčím neškodným. Uděláte to jednou, stále máte 98 % vody. Žádný problém.
Nyní tento postup zopakujte 50krát. Kolik vody vám zbude?
Odpověď zcela závisí na tom, na kterou otázku odpovídáte. A právě tento rozdíl je důvodem, proč se většina současných systémů AI stává při vícekrokových úlohách uvažování zcela nespolehlivou.
Toto není metafora. Toto je matematika. A ničí projekty AI ve všech odvětvích.
Dva způsoby, jak přemýšlet o chybách
Když lidé mluví o přesnosti AI, obvykle myslí to, čemu statistici říkají nezávislá chyba. Každá operace AI má 2% pravděpodobnost, že bude chybná. Další operace je nezávislá. Má také 2% pravděpodobnost, že bude chybná.
Podle tohoto modelu po 50 operacích uděláte 50 nezávislých 2% chyb. To je zhruba jedna chyba celkem. Žádný velký problém, že?
Ale takto AI ve skutečnosti nefunguje. Systémy AI staví na předchozích výstupech. Každý krok závisí na tom, co bylo před ním. A to mění vše.
V chemii, když opakovaně ředíte roztok, aplikujete faktor útlumu na to, co zbývá. Neodečítáte 2 % původní koncentrace pokaždé. Snižujete aktuální koncentraci o 2 %.
Zní to podobně. Výsledky jsou radikálně odlišné.
Lineární iluze
Začněme se špatným způsobem uvažování, protože právě takto většina společností AI modeluje své systémy.
Lineární útlum předpokládá, že vždy odstraňujete 2 % původního množství. Začněte se 100% přesností. Krok 1: jste na 98 %. Krok 2: jste na 96 %. Po 50 krocích jste přesně na 0 %.
Jednoduché. Předvídatelné. A pro systémy AI zcela špatné.
Právě tento lineární model vede společnosti k přesvědčení, že jejich AI je bezpečná. Otestují přesnost jednoho kroku, zjistí, že je 98 %, a předpokládají, že vícekrokové operace budou degradovat lineárně. Nasadí agenty, řetězce uvažování, dotazy s více skoky. A pak sledují, jak jejich systémy katastrofálně selhávají.
Problém je v tom, že chyby AI nefungují jako nezávislé hody mincí. Kumulují se.
Exponenciální realita
Toto se ve skutečnosti děje. Každá operace AI zachová 98 % pravdy, která zbyla z předchozí operace. Ale klíčové je, že těchto 98 % se vztahuje ke zmenšujícímu se zbytku, nikoli k původnímu stavu.
Matematika je jednoduchý exponenciální útlum: 0,98 na n-tou, kde n je počet kroků.
Ukážu vám, jak to ve skutečnosti vypadá:
- Krok 0: 100% přesnost (dokonalá pravda)
- Krok 10: 81,7% přesnost
- Krok 25: 60,3% přesnost
- Krok 50: 36,4% přesnost
- Krok 100: 13,3% přesnost
- Krok 228: 1% přesnost
- Krok 342: 0,1% přesnost
Přečtěte si to znovu. Po pouhých 50 krocích uvažování s 98% přesností na krok je váš systém pravděpodobněji chybný než správný. Po 100 krocích je chybný v 86,7 % případů. Po 228 krocích zbývá sotva 1 % pravdy.
Proto vaši agenti umělé inteligence selhávají. Proto vícekrokové uvažování produkuje nesmysly. Toto je matematický základ sněhové koule halucinací.
Práh nepoužitelnosti
Tady je otázka, kterou nikdo v oboru AI nechce zodpovědět: v jakém okamžiku se systém stane natolik nespolehlivým, že je fakticky nepoužitelný?
Matematická odpověď zní 34 kroků. Při 98% přesnosti na krok je systém po 34 logických operacích pod 50% přesností. Je pravděpodobnější, že se mýlí, než že má pravdu.
Praktická odpověď ale přichází mnohem dřív. V produkčních systémech si nemůžete dovolit nic blízkého 50% chybovosti. Potřebujete spolehlivost 90 % nebo vyšší. Tohoto prahu se dosáhne už po 11 krocích.
Budu konkrétní, co to znamená:
- Řetězec uvažování o 11 krocích: 90 % vašich výstupů je chybných
- Řetězec uvažování o 34 krocích: váš systém je horší než náhoda
- Řetězec uvažování o 50 krocích: 63,6% míra selhání
- Řetězec uvažování o 100 krocích: 86,7% míra selhání
Teď si představte, co to znamená pro agentní AI. Typický pracovní postup agenta může vypadat takto: pochopení úkolu (1), rozložení na kroky (2), vyhledání informací (3), vyhodnocení zdrojů (4), syntéza zjištění (5), vytvoření odpovědi (6), ověření kvality (7) a tak dále. To je už 7 kroků, a to jsme se ještě nedostali ke složitým úkolům.
Vícekrokové řetězce uvažování v právním výzkumu, lékařské diagnostice nebo finanční analýze běžně přesahují 20 kroků. Při 98% přesnosti na krok se díváte na 33% selhání, ještě než vůbec zohledníte složitost.
Tohle není teorie. Tohle je důvod, proč agenti AI v produkci selhávají.
Produkční katastrofa, o které se nemluví
Statistiky jsou zdrcující, přesto se o nich v marketingových materiálech o AI téměř nikdy nemluví.
Selhání podnikové AI: Podle výzkumu z roku 2025 od MIT a Fortune se 95 % pilotních projektů generativní AI nedostane do produkce s měřitelným dopadem na byznys. Ne „s obtížemi se dostanou do produkce“. Selžou úplně.
Selhání specifická pro agenty: Analýza LinkedIn od praktiků z oblasti AI ukazuje, že 95 % agentů AI selže v produkci. Ne proto, že by modely nebyly dost inteligentní. Protože hromadění chyb je činí nespolehlivými.
Systémy s více agenty: Výzkum ukazuje, že když spolupracuje více agentů, chyby se násobí rychleji. Pokud jeden agent předá chybné informace druhému, druhý agent staví na chybách a degradace se zrychluje.
Ekonomický dopad: Společnosti utrácejí stovky milionů za systémy AI, které pro zamýšlené případy použití z principu nemohou fungovat. Jediné nasazení vícekrokového agenta může stát miliony na vývoj, a přesto selže kvůli základní matematice.
Tohle je problém 98 % v praxi: skvělá přesnost v jednom kroku, katastrofální selhání ve více krocích.
Efekt sněhové koule u halucinací
Výzkum Zhanga a kol. (2023) identifikoval to, čemu říkají „sněhová koule halucinací". Funguje to takto: LLM se příliš upnou na rané chyby a poté generují další nepravdivá tvrzení, aby tyto chyby ospravedlnily. Chyba se nejen šíří. Roste.
Zamyslete se nad tím, co to znamená v kontextu exponenciálního poklesu chybovosti. Vaše první chyba v kroku 5 nesníží přesnost jen o 2 %. Vytvoří chybný základ pro krok 6, který má nyní ještě vyšší pravděpodobnost chyby, protože staví na špatných předpokladech.
Čistý model exponenciálního poklesu je ve skutečnosti optimistický. V praxi se chyby valí rychleji, než matematika předpovídá, protože každá chyba zvyšuje pravděpodobnost dalších chyb.
Proto vidíme zdokumentované případy, jako jsou:
AI katastrofa CNET (2023): 41 ze 77 článků napsaných AI vyžadovalo opravy. To je 53% chybovost v produkční žurnalistice, kde by byly nepřijatelné už jednociferné chybovosti.
Selhání lékařské diagnostiky: Studie JAMA Pediatrics zjistila, že ChatGPT stanovil nesprávné diagnózy ve více než 80 % pediatrických případů. Toto není „halucinace" v abstraktním smyslu. Jde o konkrétní lékařské chyby, které mohou poškodit pacienty.
Halucinace právní AI: Výzkum Stanford HAI ukazuje, že modely právní AI halucinují v 1 ze 6 benchmarkových dotazů. Právníci byli potrestáni za předkládání smyšlených případů vytvořených AI soudům. Opakovaně. Ve více zemích.
Selhání Google AI Overview: Systém navrhoval dávat na pizzu lepidlo a denně jíst kameny. Toto nejsou okrajové případy. To se stane, když se hromadění chyb setká s sebedůvěrou bez ověřování.
Past ověřování
Zde je ta ironická část. Víme, že LLM dokážou identifikovat vlastní chyby. Výzkum ukazuje, že ChatGPT identifikuje 67 % svých chyb, GPT-4 identifikuje 87 %. Modely vědí, kdy se mýlí.
Přesto se k halucinacím upnou. Generují nepravdivá tvrzení, aby ospravedlnily počáteční chyby. Přenášejí se do chyb, přestože mají schopnost je rozpoznat.
Proto jednoduché ověřování problém neřeší. Přidání kroku „zkontroluj svou práci" nepomůže, když je systém motivován bránit své předchozí výstupy spíše než je opravovat.
Krok ověřování se sám stává dalším krokem v řetězci uvažování. Další 2% chyba. Další příležitost pro sněhovou kouli růst.
Proč to současné přístupy nedokážou opravit
Reakcí odvětví AI na hromadění chyb bylo snažit se víc. Více trénovacích dat. Lepší dolaďování. Chytré promptování. Řetězové uvažování. Kroky ověřování.
Nic z toho neřeší základní matematický problém.
Více trénování nepomáhá: Lepší přesnost jednotlivých kroků nemění exponenciální pokles. Přesnost 99 % jen posune hranici z 34 kroků na 69 kroků. Přesnost 99,5 % ji posune na 138 kroků. Mezitím utrácíte exponenciálně více výpočetního výkonu za marginální zisky.
Lepší promptování nepomáhá: Promptovací strategie jsou v podstatě pokusem bojovat s matematikou přirozeným jazykem. Z (0,98)ⁿ se nevypromptujete.
Ověřování problém zhoršuje: Každý krok ověřování je další operací s vlastní pravděpodobností chyby. Přidáváte kroky, abyste bojovali s problémem způsobeným příliš mnoha kroky.
Ensemble metody pomáhají, ale neřeší to: Výzkum ukazuje, že metody self-consistency mohou zlepšit přesnost až o 17,9 procentního bodu u matematických problémů. To ale přichází za cenu 40× vyšší výpočetní náročnosti. A neodstraňuje to exponenciální pokles. Jen to mírně posouvá křivku.
Základní problém není kvalita trénování ani strategie promptování. Jde o to, že neuronové sítě s plovoucí řádovou čárkou jsou ze své podstaty pravděpodobnostní. Každá operace vnáší nejistotu. Nejistota se kumuluje. Této matematice se nelze vyhnout.
Řešení založené na omezeních
Systémy umělé inteligence založené na omezeních se neřídí modelem exponenciálního poklesu. Vysvětlíme si proč.
Deterministické operace: Náš přístup používá diskrétní operace. XNOR, POPCNT, logické AND, OR. Tyto operace jsou deterministické. Stejný vstup, stejný výstup. Pokaždé.
Žádné chyby zaokrouhlování: Binární hodnoty jsou přesné. +1 nebo -1. Žádná aproximace s plovoucí řádovou čárkou. Žádná kumulovaná chyba zaokrouhlování.
Splnění omezení: Naše systémy pracují s omezeními, ne s pravděpodobnostmi. Omezení je buď splněno, nebo není. Neexistuje 98% splnění. Existuje splněno (100 %) nebo porušeno (0 %).
Krystalizovaná omezení: V přístupu Dweve, jakmile je omezení objeveno a krystalizováno, platí deterministicky. Sté použití omezení je stejně spolehlivé jako první. Žádný pokles. Žádná kumulovaná chyba.
Proto systémy založené na omezeních zvládají vícekrokové uvažování bez degradace. Každý krok se ověřuje proti krystalizovaným omezením. Krok 10 je stejně spolehlivý jako krok 1. Krok 100 je stejně spolehlivý jako krok 1.
Křivka chyb nevypadá jako exponenciální pokles. Vypadá jako kroková funkce: 100% přesnost, dokud nenarazí na hranici omezení, pak 0 % (zjistitelné selhání). Žádné šedé zóny. Žádný postupný pokles do nesmyslů.
Regulační úhel pohledu
Evropští regulátoři chápou tento problém lépe, než si chtějí americké technologické společnosti připustit.
Akt o umělé inteligenci EU nevyžaduje pouze přesnost. Vyžaduje vysvětlitelnost a auditovatelnost. Musíte vysvětlit, proč vaše AI učinila konkrétní rozhodnutí. Musíte prokázat, že funguje správně.
Jak prokážete, že systém funguje správně, když jeho spolehlivost klesá exponenciálně s hloubkou uvažování?
Nemůžete.
Proto právo na vysvětlení podle článku 22 GDPR a požadavky na transparentnost v Aktu o umělé inteligenci EU zásadně zvýhodňují přístupy založené na omezeních. Když je rozhodnutí výsledkem splnění omezení, můžete ho vysvětlit. Tady je omezení A, omezení B, omezení C. Vše splněno. Výstup logicky vyplývá.
Když je rozhodnutí výstupem 50 pravděpodobnostních operací, z nichž každá násobí nejistotu té předchozí? To vysvětlit nemůžete. Nemůžete to ani spolehlivě zopakovat.
Toto není zátěž v oblasti compliance. Toto je matematika, která dohání marketingová tvrzení.
Obchodní důsledek
Zde je, co exponenciální růst chyb znamená pro AI v podnikání:
Jednoduché úkoly: Jednokrokové operace fungují dobře. Klasifikace, základní odpovídání na otázky, jednoduché vyhledávání. Přesnost 98 % je zde skutečně užitečná.
Střední složitost: Vícekrokové, ale ohraničené operace jsou rizikové. Pravděpodobně zvládnete 5 až 10 kroků, pokud budete opatrní. Blížíte se ale hranici, kde se chyby hromadí rychleji, než vzniká hodnota.
Vysoká složitost: Hluboké řetězce uvažování, pracovní postupy agentů a dotazy s více skoky jsou u přístupů s plovoucí desetinnou čárkou a pravděpodobnostními metodami matematicky neproveditelné. Systém selže. Není otázka, zda, ale kdy.
To vysvětluje, proč 95 % podnikových pilotních projektů AI selhává. Společnosti se snaží řešit problémy, které vyžadují 20, 50 nebo 100 kroků uvažování, pomocí systémů, které se stávají nespolehlivými po 11 krocích.
Matematice je jedno, jaký máte případ použití. Je jí jedno, jaký máte rozpočet. Je jí jedno, jak ambiciózní máte plán. (0,98)ⁿ jde k nule bez ohledu na záměry.
Cesta vpřed
Identifikovali jsme problém. Exponenciální hromadění chyb činí neuronové sítě s plovoucí desetinnou čárkou nevhodnými pro vícekrokové uvažování. Matematika je jasná. Selhání ve výrobě jsou zdokumentována. Ekonomické náklady jsou měřitelné.
Řešení je stejně jasné: potřebujeme systémy AI, které netrpí exponenciálním poklesem.
Přesně to poskytuje AI založená na omezeních. Deterministické operace. Krystalizovaná omezení. Žádné nahromaděné chyby. Vícekrokové uvažování bez degradace.
Toto není spekulace. Toto je to, co budujeme ve společnosti Dweve. Core poskytuje rámec binárních algoritmů. Loom implementuje 456 doménově specifických specialistů založených na omezeních. Nexus poskytuje vrstvu orchestrace více agentů. Každá operace je matematicky přesná. Každé rozhodnutí je dohledatelné ke konkrétním omezením.
Výsledek: systémy AI, které zůstávají spolehlivé napříč stovkami kroků uvažování. Ne 98% přesnost v kroku 1 a 36% přesnost v kroku 50. 100% přesnost v kroku 1, v kroku 50 i v kroku 500.
Dokud není dosaženo hranice omezení, je spolehlivost absolutní. Na hranici je selhání zjistitelné. Systém ví, kdy neví. To není chyba. To je bezpečnost.
Co si musíte zapamatovat
- Akumulace chyb je exponenciální, nikoli lineární. Každá vícekroková operace AI znásobuje předchozí chyby. Přesnost 98 % na krok znamená po 100 krocích úspěšnost pouze 13 %.
- Hranice nepoužitelnosti nastává rychle. Při přesnosti 98 % na krok klesá spolehlivost systémů pod 50 % už po 34 krocích. Pro praktické účely je hranice pro 90% spolehlivost kolem 11 kroků.
- Halucinace se lavinovitě šíří, nejen přenášejí. LLM se nadměrně upínají k raným chybám a generují další nepravdivá tvrzení, aby je ospravedlnily. Akumulace chyb se zrychluje nad rámec čistého exponenciálního poklesu.
- Míra selhání v produkci je katastrofální. 95 % pilotních projektů generativní AI se nedostane do produkce. 95 % agentů AI selže při nasazení. Není to špatné inženýrství. Je to špatná matematika.
- Verifikace problém neřeší. Přidání verifikačních kroků přidává další operace s vlastními pravděpodobnostmi chyb. Bojujete proti exponenciálnímu poklesu dalším exponenciálním poklesem.
- Systémy založené na omezeních netrpí exponenciálním poklesem. Deterministické operace a krystalizovaná omezení znamenají, že krok 100 je stejně spolehlivý jako krok 1. Žádná akumulovaná chyba. Žádné šedé zóny.
- Evropské regulace upřednostňují matematickou jistotu. Požadavky na vysvětlitelnost a auditovatelnost podle aktu o AI v EU jsou v souladu s přístupy založenými na omezeních a jsou v rozporu s pravděpodobnostními černými skříňkami.
Závěr
Problém 98 % je skutečný, měřitelný a ničí projekty AI napříč všemi odvětvími. Když každá operace ztratí 2 % pravdy a chyby se kumulují napříč kroky uvažování, systémy jsou matematicky zaručeně odsouzeny k selhání.
Nejde o lepší trénovací data nebo chytřejší výzvy. Jde o základní matematiku neuronových sítí s plovoucí desetinnou čárkou versus uvažování založené na omezeních.
Tradiční přístupy sledují exponenciální pokles: (0,98)ⁿ se blíží nule, jak n roste. Není to obejít. Je to vepsáno do matematiky.
Přístupy založené na omezeních fungují jinak. Deterministické operace. Krystalizovaná omezení. Krok 500 je stejně spolehlivý jako krok 1. Křivka chyb je skoková funkce, nikoli exponenciální pokles.
Průmysl si tuto realitu pomalu uvědomuje. Společnosti utrácejí stovky milionů za systémy, u nichž je matematicky zaručeno, že selžou. 95% míra selhání v produkci není záhadná. Je předvídatelná.
Evropské společnosti zabývající se AI, které staví na základech založených na omezeních, nejsou v nevýhodě. Řeší skutečný problém, zatímco americké společnosti zdvojnásobují sázku na chybnou matematiku.
Budoucnost spolehlivé AI není více výpočetního výkonu, větší modely nebo chytřejší výzvy. Jsou to systémy založené na omezeních s krystalizovanými omezeními. Matematická jistota místo statistické spolehlivosti. Prokazatelná spolehlivost místo exponenciálního poklesu.
Chcete AI, která se nerozpadne v nesmysly? Rámec Dweve Core založený na omezeních poskytuje deterministické vícekrokové uvažování. Žádná exponenciální akumulace chyb. Žádné laviny halucinací. Jen matematika, která funguje. Přidejte se na náš čekací seznam.