A tényhígítás problémája: miért válik teljes értelmetlenséggé a 98%-ban pontos MI
A kémiai kísérlet, amely megmagyarázza, miért hibázik az AI
Képzeljen el egy főzőpohár tiszta vizet. Valaki azt mondja, távolítson el belőle pontosan 2%-ot, és cserélje ki valami ártalmatlanra. Ezt egyszer megteszi, és még mindig 98% víz marad. Semmi gond.
Most ismételje meg ezt a folyamatot 50-szer. Mennyi víz marad?
A válasz teljesen attól függ, melyik kérdésre válaszol. És pontosan ez a különbség az oka annak, hogy a legtöbb jelenlegi AI-rendszer teljesen megbízhatatlanná válik a többlépéses gondolkodási feladatokban.
Ez nem metafora. Ez matematika. És ez tönkreteszi az AI-projekteket minden iparágban.
A hiba értelmezésének két módja
Amikor az emberek az AI pontosságáról beszélnek, általában arra gondolnak, amit a statisztikusok független hibának neveznek. Minden egyes AI-műveletnek 2% esélye van arra, hogy hibás legyen. A következő művelet független. Ennek is 2% esélye van a hibára.
E modell szerint 50 művelet után 50 független, 2%-os hibát követ el. Ez nagyjából egyetlen hiba összesen. Nem nagy ügy, igaz?
De az AI valójában nem így működik. Az AI-rendszerek a korábbi kimenetekre építenek. Minden lépés az előzőektől függ. És ez mindent megváltoztat.
A kémiában, amikor ismételten hígít egy oldatot, egy bomlási tényezőt alkalmaz a megmaradt részre. Nem von le 2%-ot az eredeti koncentrációból minden alkalommal. Hanem a jelenlegi koncentrációt csökkenti 2%-kal.
Ezek hasonlónak hangzanak. Radikálisan eltérő eredményeket produkálnak.
A lineáris illúzió
Kezdjük a hibás gondolkodásmóddal, mert a legtöbb AI-vállalat valójában így modellezi a rendszereit.
A lineáris bomlás azt feltételezi, hogy mindig az eredeti mennyiség 2%-át távolítja el. Kezdje 100%-os pontossággal. 1. lépés: 98%-nál tart. 2. lépés: 96%-nál tart. 50 lépés után pontosan 0%-nál tart.
Egyszerű. Kiszámítható. És teljesen téves az AI-rendszerek esetében.
Ez a lineáris modell vezeti oda a vállalatokat, hogy azt higgyék, az AI-juk biztonságos. Tesztelik az egyes lépések pontosságát, azt találják, hogy 98%, és feltételezik, hogy a többlépéses műveletek lineárisan romlanak. Üzembe helyeznek ágenseket, gondolkodási láncokat, többszintű lekérdezéseket. Aztán nézik, ahogy a rendszereik katasztrofálisan meghibásodnak.
A probléma az, hogy az AI-hibák nem úgy működnek, mint a független pénzfeldobások. Halmozódnak.
Az exponenciális valóság
Íme, mi történik valójában. Minden egyes AI-művelet megőrzi az előző műveletből megmaradt igazság 98%-át. De ami kulcsfontosságú, ez a 98% a csökkenő maradékra vonatkozik, nem az eredetire.
A matematika egyszerű exponenciális bomlás: 0,98 az n-edik hatványon.
Hadd mutassam meg, hogyan néz ki ez valójában:
- 0. lépés: 100%-os pontosság (tökéletes igazság)
- 10. lépés: 81,7%-os pontosság
- 25. lépés: 60,3%-os pontosság
- 50. lépés: 36,4%-os pontosság
- 100. lépés: 13,3%-os pontosság
- 228. lépés: 1%-os pontosság
- 342. lépés: 0,1%-os pontosság
Olvassa el újra. Mindössze 50 gondolkodási lépés után, 98%-os lépésenkénti pontossággal, a rendszer nagyobb valószínűséggel téved, mint hogy jól válaszoljon. 100 lépés után az esetek 86,7%-ában hibázik. 228 lépés után alig 1% igazság marad.
Ezért buknak el az AI-ügynökeid. Ezért ad értelmetlenséget a többlépcsős következtetés. Ez a hallucinációs hógolyó matematikai alapja.
A használhatatlanság küszöbe
Íme egy kérdés, amelyre senki sem akar válaszolni a mesterséges intelligencia területén: mikortól válik egy rendszer annyira megbízhatatlanná, hogy gyakorlatilag használhatatlan?
A matematikai válasz: 34 lépés. 98 százalékos lépésenkénti pontosság mellett 34 gondolkodási művelet után a rendszer 50 százalék alá kerül. Ez azt jelenti, hogy valószínűbb, hogy téved, mint hogy igaza legyen.
Ám a gyakorlati válasz sokkal korábban érkezik. Éles rendszerekben nem engedheted meg magadnak, hogy akár csak megközelítsd az 50 százalékos hibát. 90 százalékos megbízhatóságra vagy magasabbra van szükséged. Ez a küszöb már 11 lépésnél elérhető.
Legyek egyértelmű abban, hogy ez mit jelent:
- 11 lépésből álló gondolkodási lánc: a kimeneteid 90 százaléka hibás
- 34 lépésből álló gondolkodási lánc: a rendszered rosszabb, mint a véletlen
- 50 lépésből álló gondolkodási lánc: 63,6 százalékos hibaráta
- 100 lépésből álló gondolkodási lánc: 86,7 százalékos hibaráta
Most pedig gondold végig, mit jelent ez az ügynök alapú mesterséges intelligenciára. Egy tipikus ügynök-munkafolyamat így nézhet ki: a feladat megértése (1), lépésekre bontás (2), információkeresés (3), források értékelése (4), az eredmények szintetizálása (5), válasz generálása (6), minőségellenőrzés (7), és így tovább. Ez már 7 lépés, és még az összetett feladatokhoz sem értünk el.
A többlépcsős gondolkodási láncok a jogi kutatásban, az orvosi diagnosztikában vagy a pénzügyi elemzésben rutinszerűen meghaladják a 20 lépést. 98 százalékos lépésenkénti pontosság mellett 33 százalékos hibával számolhatsz, még mielőtt az összetettséget egyáltalán figyelembe vennéd.
Ez nem elmélet. Pontosan ezért buknak el az AI-ügynökök éles környezetben.
A termelési katasztrófa, amiről senki sem beszél
A statisztikák lesújtóak, mégis szinte soha nem jelennek meg az AI-marketinganyagokban.
Vállalati AI-kudarcok: A MIT és a Fortune 2025-ös kutatása szerint a generatív AI-próbaprojektek 95 százaléka nem jut el a mérhető üzleti hatással járó éles üzembe. Nem úgy, hogy „küzdenek az éles üzembe jutással”. Teljesen elbuknak.
Ügynökspecifikus kudarcok: A LinkedIn AI-szakemberek körében végzett elemzése azt mutatja, hogy az AI-ügynökök 95 százaléka megbukik éles környezetben. Nem azért, mert a modellek nem elég intelligensek. Hanem azért, mert a hibafelhalmozódás megbízhatatlanná teszi őket.
Több ügynökből álló rendszerek: A kutatások azt mutatják, hogy amikor több ügynök működik együtt, a hibák gyorsabban halmozódnak. Ha az egyik ügynök hibás információt ad át egy másiknak, a második ügynök a hibákra épít, és a romlás felgyorsul.
A gazdasági hatás: A vállalatok több száz milliót költenek olyan AI-rendszerekre, amelyek alapvetően képtelenek működni a tervezett felhasználási esetekben. Egyetlen többlépcsős ügynök telepítése milliókba kerülhet, mégis elbukhat pusztán az alapvető matematika miatt.
Ez a 98 százalékos probléma a gyakorlatban: kiváló egylépéses pontosság, katasztrofális többlépéses kudarc.
A hallucináció hógolyóhatása
Zhang és munkatársai (2023) kutatása azonosította azt a jelenséget, amelyet ők "hallucinációs hógolyónak" neveznek. Így működik: az LLM-ek túlzottan elköteleződnek a korai hibák mellett, majd további hamis állításokat generálnak, hogy igazolják ezeket a hibákat. A hiba nem csak terjed. Növekszik.
Gondoljuk át, mit jelent ez az exponenciális hibacsökkenés összefüggésében. Az első hiba az 5. lépésnél nem csak 2%-kal csökkenti a pontosságot. Hibás alapot teremt a 6. lépéshez, amelynek így még magasabb lesz a hibavalószínűsége, mert téves feltételezésekre épül.
A tiszta exponenciális csökkenési modell valójában optimista. A gyakorlatban a hibák gyorsabban halmozódnak, mint amit a matematika előre jelez, mert minden hiba valószínűbbé teszi a következő hibákat.
Ezért látunk dokumentált eseteket, mint például:
A CNET mesterséges intelligencia katasztrófája (2023): A 77 AI által írt cikkből 41 javításra szorult. Ez 53%-os hibaarányt jelent az éles újságírásban, ahol már az egy számjegyű hibaszázalék is elfogadhatatlan lenne.
Orvosi diagnózis kudarcok: A JAMA Pediatrics tanulmánya megállapította, hogy a ChatGPT az esetek több mint 80%-ában helytelen diagnózist állított fel gyermekgyógyászati esetekben. Ez nem "hallucináció" elvont értelemben. Ezek konkrét orvosi hibák, amelyek kárt okozhatnak a betegeknek.
Jogi AI hallucinációk: A Stanford HAI kutatása azt mutatja, hogy a jogi AI-modellek minden hatodik benchmark lekérdezésben hallucinálnak. Ügyvédeket szankcionáltak, mert AI által generált hamis ügyeket nyújtottak be bíróságokhoz. Többször. Több országban.
A Google AI Overview kudarcai: A rendszer azt javasolta, hogy tegyünk ragasztót a pizzára, és együnk naponta köveket. Ezek nem szélsőséges esetek. Ez történik, amikor a hibafelhalmozódás találkozik az ellenőrzés nélküli magabiztossággal.
Az ellenőrzés csapdája
Itt jön az irónia. Tudjuk, hogy az LLM-ek képesek felismerni a saját hibáikat. A kutatások szerint a ChatGPT hibáinak 67%-át azonosítja, a GPT-4 pedig 87%-át. A modellek tudják, amikor tévednek.
Mégis kitartanak a hallucinációk mellett. Hamis állításokat generálnak, hogy igazolják a kezdeti hibákat. Túlzottan elköteleződnek a hibák mellett, annak ellenére, hogy képesek felismerni azokat.
Ezért nem oldja meg a problémát az egyszerű ellenőrzés. Egy "ellenőrizd a munkádat" lépés hozzáadása nem segít, ha a rendszer arra van ösztönözve, hogy megvédje a korábbi kimeneteit, ahelyett hogy kijavítsa azokat.
Az ellenőrzési lépés maga is újabb lépéssé válik az érvelési láncban. Újabb 2%-os hiba. Újabb lehetőség a hógolyó növekedésére.
Miért nem tudják ezt megoldani a jelenlegi megközelítések
Az AI-ipar válasza a hibafelhalmozódásra az volt, hogy jobban igyekszik. Több tanítási adat. Jobb finomhangolás. Okos promptolás. Láncolt gondolkodás. Ellenőrzési lépések.
Egyik sem kezeli az alapvető matematikai problémát.
A több tanítás nem segít: A jobb egyes lépések pontossága nem változtat az exponenciális csökkenésen. A 99%-os pontosság csak eltolja a küszöböt 34 lépésről 69 lépésre. A 99,5% pedig 138 lépésre. Eközben exponenciálisan több számítási kapacitást költesz el csekély nyereségért.
A jobb promptolás nem segít: A promptolási stratégiák lényegében azt próbálják elérni, hogy természetes nyelvvel küzdjünk meg a matematikával. Nem lehet kipromptolni magad a (0,98)ⁿ-ből.
Az ellenőrzés súlyosbítja a problémát: Minden ellenőrzési lépés egy újabb művelet a saját hibavalószínűségével. Lépéseket adsz hozzá, hogy küzdd meg a problémát, amelyet a túl sok lépés okozott.
Az ensemble módszerek segítenek, de nem oldják meg: A kutatások szerint az önkonzisztencia módszerek akár 17,9 százalékponttal is javíthatják a pontosságot matematikai feladatoknál. De ez 40-szer több számítási kapacitás árán történik. És nem szünteti meg az exponenciális csökkenést. Csak kissé eltolja a görbét.
A probléma nem a tanítás minősége vagy a promptolási stratégia. Hanem az, hogy a lebegőpontos neurális hálózatok alapvetően valószínűségi alapúak. Minden művelet bizonytalanságot visz a rendszerbe. A bizonytalanság halmozódik. Ebből a matematikából nincs kiút.
A kényszeralapú megoldás
A kényszeralapú mesterségesintelligencia-rendszerek nem az exponenciális hanyatlás modelljét követik. Íme, miért.
Determinisztikus műveletek: A megközelítésünk diszkrét műveleteket használ. XNOR, POPCNT, logikai ÉS, VAGY. Ezek a műveletek determinisztikusak. Ugyanaz a bemenet, ugyanaz a kimenet. Minden egyes alkalommal.
Nincsenek kerekítési hibák: A bináris értékek pontosak. +1 vagy -1. Nincs lebegőpontos közelítés. Nincs felhalmozódó kerekítési hiba.
Kényszerkielégítés: A rendszereink kényszerekkel dolgoznak, nem valószínűségekkel. Egy kényszer vagy teljesül, vagy nem. Nincs 98%-os teljesülés. Van teljesült (100%) vagy megsértett (0%).
Kikristályosodott kényszerek: A Dweve megközelítésében, ha egy kényszer felfedezésre kerül és kikristályosodik, determinisztikusan érvényesül. A kényszer századik alkalmazása ugyanolyan megbízható, mint az első. Nincs hanyatlás. Nincs felhalmozódó hiba.
Ezért tudják a kényszeralapú rendszerek minőségromlás nélkül kezelni a többlépcsős gondolkodást. Minden lépés a kikristályosodott kényszerekhez igazodik. A 10. lépés ugyanolyan megbízható, mint az 1. lépés. A 100. lépés ugyanolyan megbízható, mint az 1. lépés.
A hibagörbe nem úgy néz ki, mint az exponenciális hanyatlás. Úgy néz ki, mint egy lépcsőfüggvény: 100%-os pontosság, amíg el nem érjük a kényszerhatárt, majd 0% (észlelhető hiba). Nincsenek szürke zónák. Nincs fokozatos hanyatlás az értelmetlenségbe.
A szabályozási szempont
Az európai szabályozók jobban értik ezt a problémát, mint amennyit az amerikai techvállalatok hajlandók elismerni.
Az EU AI Act nem csak pontosságot ír elő. Előírja a magyarázhatóságot és az ellenőrizhetőséget is. Meg kell tudnod magyarázni, miért hozott az AI egy adott döntést. Bizonyítanod kell, hogy helyesen működik.
Hogyan bizonyítod, hogy egy rendszer helyesen működik, amikor a megbízhatósága exponenciálisan romlik az érvelési mélységgel?
Nem tudod.
Ezért állnak alapvetően a kényszerfeltétel-alapú megközelítések mellett a GDPR 22. cikkének magyarázathoz való joga és az EU AI Act átláthatósági követelményei. Amikor egy döntés kényszerfeltételek kielégítésének eredménye, meg tudod magyarázni. Itt az A kényszerfeltétel, itt a B kényszerfeltétel, itt a C kényszerfeltétel. Mind teljesül. A kimenet logikusan következik.
Amikor egy döntés 50 valószínűségi művelet kimenete, és mindegyik növeli az előző bizonytalanságát? Azt nem tudod megmagyarázni. Még megbízhatóan reprodukálni sem tudod.
Ez nem megfelelőségi teher. Ez a matematika, amely utoléri a marketingállításokat.
Az üzleti vonatkozás
Íme, mit jelent az exponenciális hibaterjedés az AI üzleti alkalmazásában:
Egyszerű feladatok: Az egyes lépésből álló műveletek jól működnek. Osztályozás, alapvető kérdésmegválaszolás, egyszerű lekérdezés. A 98%-os pontosság itt valóban hasznos.
Közepes összetettség: A többlépéses, de korlátozott műveletek kockázatosak. Valószínűleg kezelni tudsz 5-10 lépést, ha óvatos vagy. De közelítesz ahhoz a küszöbhöz, ahol a hibák gyorsabban halmozódnak fel, mint ahogy az érték létrejön.
Magas összetettség: A mély érvelési láncok, az ügynök-munkafolyamatok és a többszintű lekérdezések matematikailag kivitelezhetetlenek lebegőpontos valószínűségi megközelítésekkel. A rendszer kudarcot vall. Nem az a kérdés, hogy bekövetkezik-e, hanem hogy mikor.
Ez magyarázza, miért bukik meg a vállalati AI-kísérletek 95%-a. A vállalatok olyan problémákat próbálnak megoldani, amelyek 20, 50 vagy 100 érvelési lépést igényelnek, olyan rendszerekkel, amelyek 11 után megbízhatatlanná válnak.
A matematikát nem érdekli a te felhasználási eseted. Nem érdekli a költségvetésed. Nem érdekli az ambiciózus ütemterved. A (0.98)ⁿ nullához tart, függetlenül a szándékoktól.
Az előre vezető út
Azonosítottuk a problémát. Az exponenciális hibafelhalmozódás alkalmatlanná teszi a lebegőpontos neurális hálózatokat a többlépéses érvelésre. A matematika egyértelmű. A termelési kudarcok dokumentáltak. A gazdasági költségek mérhetők.
A megoldás ugyanilyen egyértelmű: olyan AI-rendszerekre van szükségünk, amelyek nem szenvednek exponenciális romlástól.
A kényszerfeltétel-alapú AI pontosan ezt nyújtja. Determinisztikus műveletek. Kikristályosodott kényszerfeltételek. Nincs felhalmozódott hiba. Többszintű érvelés romlás nélkül.
Ez nem spekuláció. Ezt építjük a Dweve-nél. A Core biztosítja a bináris algoritmuskeretrendszert. A Loom 456 kényszerfeltétel-alapú doménszakértőt valósít meg. A Nexus biztosítja a többügynökös orkesztrációs réteget. Minden művelet matematikailag egzakt. Minden döntés visszavezethető konkrét kényszerfeltételekre.
Az eredmény: AI-rendszerek, amelyek több száz érvelési lépésen keresztül is megbízhatók maradnak. Nem 98%-os pontosság az 1. lépésben és 36%-os az 50. lépésben. 100%-os pontosság az 1., az 50. és az 500. lépésben is.
Amíg el nem érjük a kényszerfeltétel-határt, a megbízhatóság abszolút. A határnál a hiba észlelhető. A rendszer tudja, hogy mit nem tud. Ez nem hiba. Ez biztonság.
Amire emlékezned kell
- A hibahalmozódás exponenciális, nem lineáris. Minden egyes többlépéses AI-művelet felerősíti a korábbi hibákat. A 98%-os lépésenkénti pontosság 100 lépés után 13%-os sikerességet eredményez.
- A használhatatlanság küszöbe gyorsan elérkezik. 98%-os lépésenkénti pontosság mellett a rendszerek mindössze 34 lépés után 50% alá csökkennek a megbízhatóságban. Gyakorlati szempontból a küszöb körülbelül 11 lépés a 90%-os megbízhatósághoz.
- A hallucinációk lavinaszerűen terjednek, nem csak továbböröklődnek. Az LLM-ek túlzottan elköteleződnek a korai hibák mellett, és további hamis állításokat generálnak azok igazolására. A hibahalmozódás felgyorsul a puszta exponenciális csökkenésen túl.
- A termelési meghibásodási arányok katasztrofálisak. A generatív AI-kísérletek 95%-a nem jut el a termelésig. Az AI-ügynökök 95%-a meghibásodik az éles környezetben. Ez nem rossz mérnöki munka. Ez rossz matematika.
- Az ellenőrzés nem oldja meg a problémát. Az ellenőrzési lépések hozzáadása több műveletet jelent saját hibavalószínűségekkel. Exponenciális csökkenés ellen harcolsz további exponenciális csökkenéssel.
- A kényszeralapú rendszerek nem szenvednek exponenciális csökkenéstől. A determinisztikus műveletek és a kristályosodott kényszerek azt jelentik, hogy a 100. lépés ugyanolyan megbízható, mint az 1. lépés. Nincs felhalmozódott hiba. Nincsenek szürke zónák.
- Az európai szabályozás a matematikai bizonyosságot részesíti előnyben. Az EU AI-törvény magyarázhatósági és auditálhatósági követelményei összhangban vannak a kényszeralapú megközelítésekkel, és ütköznek a valószínűségi fekete dobozokkal.
A lényeg
A 98%-os probléma valós, mérhető, és tönkreteszi az AI-projekteket minden iparágban. Amikor minden művelet 2%-nyi igazságot veszít, és a hibák felerősödnek az érvelési lépések során, a rendszerek matematikailag garantáltan kudarcot vallanak.
Ez nem a jobb tanítási adatokról vagy okosabb promptokról szól. Ez a lebegőpontos neurális hálózatok és a kényszeralapú érvelés alapvető matematikájáról szól.
A hagyományos megközelítések exponenciális csökkenést követnek: (0,98)ⁿ nullához közelít, ahogy n növekszik. Erre nincs megoldás. Ez bele van égetve a matematikába.
A kényszeralapú megközelítések másként működnek. Determinisztikus műveletek. Kristályosodott kényszerek. Az 500. lépés ugyanolyan megbízható, mint az 1. lépés. A hibagörbe egy lépésfüggvény, nem exponenciális csökkenés.
Az iparág lassan ébred erre a valóságra. A vállalatok több száz milliót költenek olyan rendszerekre, amelyek matematikailag garantáltan kudarcot vallanak. A 95%-os termelési meghibásodási arány nem rejtélyes. Kiszámítható.
Az európai AI-vállalatok, amelyek kényszeralapú alapokra építenek, nincsenek hátrányban. Ők a valódi problémát oldják meg, miközben az amerikai vállalatok hibás matematikára dupláznak.
A megbízható AI jövője nem több számítási kapacitás, nagyobb modellek vagy okosabb promptok. Hanem kényszeralapú rendszerek kristályosodott kényszerekkel. Matematikai bizonyosság a statisztikai megbízhatóság helyett. Bizonyítható megbízhatóság az exponenciális csökkenés helyett.
Szeretnél olyan AI-t, ami nem bomlik értelmetlenségbe? A Dweve Core kényszeralapú keretrendszere determinisztikus többlépéses érvelést biztosít. Nincs exponenciális hibahalmozódás. Nincsenek hallucinációs lavinák. Csak matematika, ami működik. Csatlakozz a várólistánkhoz.