Problema diluării faptelor: de ce un AI cu 98% acuratețe devine un nonsens complet
Experimentul de chimie care explică de ce AI-ul tău eșuează
Imaginează-ți că ai un pahar cu apă pură. Cineva îți spune să elimini exact 2% din apă și să înlocuiești cu ceva inofensiv. Faci asta o dată, mai ai 98% apă. Nicio problemă.
Acum repetă procesul de 50 de ori. Câtă apă îți mai rămâne?
Răspunsul depinde în întregime de întrebarea la care răspunzi. Și această distincție este exact motivul pentru care majoritatea sistemelor AI actuale devin complet nesigure în sarcinile de raționament în mai mulți pași.
Nu este o metaforă. Este matematică. Și distruge proiecte AI din toate industriile.
Cele două moduri de a gândi despre eroare
Când oamenii vorbesc despre acuratețea AI, de obicei se gândesc la ceea ce statisticienii numesc eroare independentă. Fiecare operațiune AI are o șansă de 2% să fie greșită. Următoarea operațiune este independentă. Are și ea o șansă de 2% să fie greșită.
Sub acest model, după 50 de operațiuni, ai făcut 50 de erori independente de 2%. Asta înseamnă aproximativ o eroare în total. Mare lucru, nu?
Dar nu așa funcționează AI-ul de fapt. Sistemele AI se construiesc pe ieșirile anterioare. Fiecare pas depinde de ceea ce a venit înainte. Și asta schimbă totul.
În chimie, când diluezi în mod repetat o soluție, aplici un factor de descreștere asupra a ceea ce rămâne. Nu scazi 2% din concentrația inițială de fiecare dată. Reduci concentrația curentă cu 2%.
Sună similar. Produc rezultate radical diferite.
Iluzia liniară
Să începem cu modul greșit de a gândi despre asta, pentru că așa modelează de fapt majoritatea companiilor AI sistemele lor.
Descreșterea liniară presupune că elimini mereu 2% din cantitatea inițială. Începi cu 100% acuratețe. Pasul 1: ești la 98%. Pasul 2: ești la 96%. După 50 de pași, ești exact la 0%.
Simplu. Previzibil. Și complet greșit pentru sistemele AI.
Acest model liniar este ceea ce îi face pe companii să creadă că AI-ul lor este sigur. Testează acuratețea unui singur pas, constată că este 98% și presupun că operațiunile în mai mulți pași vor degrada liniar. Implementează agenți, lanțuri de raționament, interogări pe mai multe niveluri. Apoi își văd sistemele eșuând catastrofal.
Problema este că erorile AI nu funcționează ca aruncările independente de monedă. Ele se compun.
Realitatea exponențială
Iată ce se întâmplă de fapt. Fiecare operațiune AI păstrează 98% din orice adevăr a rămas din operațiunea anterioară. Dar, crucial, acel 98% este din restul diminuat, nu din original.
Matematica este o simplă descreștere exponențială: 0,98 la puterea n pași.
Hai să-ți arăt cum arată asta de fapt:
- Pasul 0: 100% acuratețe (adevăr perfect)
- Pasul 10: 81,7% acuratețe
- Pasul 25: 60,3% acuratețe
- Pasul 50: 36,4% acuratețe
- Pasul 100: 13,3% acuratețe
- Pasul 228: 1% acuratețe
- Pasul 342: 0,1% acuratețe
Citește din nou. După doar 50 de pași de raționament cu o acuratețe de 98% pe pas, sistemul tău este mai probabil să greșească decât să aibă dreptate. După 100 de pași, greșește în 86,7% din cazuri. După 228 de pași, abia mai rămâne 1% adevăr.
De aceea eșuează agenții tăi de AI. De aceea raționamentul multi-hop produce nonsens. Aceasta este fundația matematică a bulgărelui de zăpadă al halucinațiilor.
Pragul inutilității
Iată o întrebare pe care nimeni din domeniul AI nu vrea să o răspundă: în ce moment devine un sistem atât de nesigur încât este, practic, inutil?
Răspunsul matematic este 34 de pași. Cu o precizie de 98% pe pas, după 34 de operații de raționament, sistemul ajunge sub 50% precizie. Este mai probabil să greșească decât să aibă dreptate.
Dar răspunsul practic vine mult mai devreme. În sistemele de producție, nu poți tolera ceva apropiat de 50% eroare. Ai nevoie de 90% fiabilitate sau mai mult. Acest prag este atins după doar 11 pași.
Fii atent ce înseamnă asta, explicit:
- Lanț de raționament de 11 pași: 90% dintre rezultatele tale sunt greșite
- Lanț de raționament de 34 de pași: sistemul tău este mai prost decât șansa aleatorie
- Lanț de raționament de 50 de pași: rată de eșec de 63,6%
- Lanț de raționament de 100 de pași: rată de eșec de 86,7%
Acum gândește-te ce înseamnă asta pentru AI-ul agentic. Un flux de lucru tipic pentru un agent ar putea include: înțelegerea sarcinii (1), descompunerea în pași (2), căutarea de informații (3), evaluarea surselor (4), sinteza rezultatelor (5), generarea răspunsului (6), verificarea calității (7) și așa mai departe. Aceștia sunt deja 7 pași, și nici măcar nu am ajuns la sarcini complexe.
Lanțurile de raționament multi-hop din cercetarea juridică, diagnosticul medical sau analiza financiară depășesc în mod obișnuit 20 de pași. Cu o precizie de 98% pe pas, te uiți la 33% eșec înainte chiar să iei în considerare complexitatea.
Acest lucru nu este teoretic. Iată de ce agenții AI eșuează în producție.
Dezastrul din producție despre care nimeni nu vorbește
Statisticile sunt devastatoare, dar aproape niciodată recunoscute în materialele de marketing AI.
Eșecurile AI enterprise: Conform cercetărilor din 2025 de la MIT și Fortune, 95% dintre piloturile de AI generativ nu reușesc să ajungă în producție cu un impact de afaceri măsurabil. Nu „se chinuie să ajungă în producție”. Eșuează complet.
Eșecurile specifice agenților: Analiza LinkedIn realizată de practicieni AI arată că 95% dintre agenții AI eșuează în producție. Nu pentru că modelele nu sunt suficient de inteligente. Ci pentru că acumularea de erori îi face nesiguri.
Sistemele multi-agent: Cercetările arată că atunci când mai mulți agenți colaborează, erorile se compun mai repede. Dacă un agent transmite informații eronate altuia, al doilea agent construiește pe baza erorilor, iar degradarea se accelerează.
Impactul economic: Companiile cheltuiesc sute de milioane pe sisteme AI care, fundamental, nu pot funcționa pentru cazurile lor de utilizare intenționate. O singură implementare de agent multi-pas poate costa milioane de dezvoltat și totuși să eșueze din cauza matematicii de bază.
Acesta este problema de 98% în practică: precizie excelentă pe un singur pas, eșec catastrofal pe mai mulți pași.
Efectul bulgărelui de zăpadă al halucinațiilor
Cercetările lui Zhang et al. (2023) au identificat ceea ce ei numesc „bulgărele de zăpadă al halucinațiilor". Iată cum funcționează: modelele lingvistice de mari dimensiuni se angajează excesiv în greșeli timpurii, apoi generează afirmații false suplimentare pentru a justifica acele greșeli. Eroarea nu doar se propagă. Ea crește.
Gândește-te ce înseamnă acest lucru în contextul decăderii exponențiale a erorilor. Prima ta eroare de la pasul 5 nu reduce doar acuratețea cu 2%. Ea creează o fundație defectuoasă pentru pasul 6, care acum are o probabilitate și mai mare de eroare, deoarece se construiește pe ipoteze greșite.
Modelul pur al decăderii exponențiale este, de fapt, optimist. În practică, erorile cresc ca un bulgăre de zăpadă mai repede decât prezice matematica, deoarece fiecare eroare face erorile ulterioare mai probabile.
De aceea vedem cazuri documentate precum:
Dezastrul AI al CNET (2023): 41 din 77 de articole scrise de AI au necesitat corecții. Aceasta înseamnă o rată de eroare de 53% în jurnalismul de producție, unde rate de eroare de o singură cifră ar fi inacceptabile.
Eșecuri în diagnosticarea medicală: Studiul JAMA Pediatrics a constatat că ChatGPT a oferit diagnostice incorecte în peste 80% dintre cazurile pediatrice. Aceasta nu este o „halucinație" în abstract. Acestea sunt erori medicale specifice care ar putea dăuna pacienților.
Halucinații AI în domeniul juridic: Cercetările Stanford HAI arată că modelele AI juridice halucinează în 1 din 6 interogări de evaluare comparativă. Avocații au fost sancționați pentru depunerea la instanțe a unor cazuri false generate de AI. De multiple ori. În multiple țări.
Eșecurile AI Overview de la Google: Sistemul a sugerat punerea de lipici pe pizza și consumul zilnic de pietre. Acestea nu sunt cazuri marginale. Ele sunt ceea ce se întâmplă când acumularea de erori se întâlnește cu încrederea fără verificare.
Capcana verificării
Iată partea ironică. Știm că modelele lingvistice de mari dimensiuni își pot identifica propriile greșeli. Cercetările arată că ChatGPT identifică 67% dintre erorile sale, iar GPT-4 identifică 87%. Modelele știu când greșesc.
Dar ele se angajează totuși în halucinații. Generează afirmații false pentru a justifica erorile inițiale. Se angajează excesiv în greșeli, deși au capacitatea de a le recunoaște.
De aceea, simpla verificare nu rezolvă problema. Adăugarea unui pas de „verifică-ți munca" nu ajută atunci când sistemul este stimulat să își apere rezultatele anterioare, mai degrabă decât să le corecteze.
Pasul de verificare devine el însuși un alt pas în lanțul de raționament. Încă o eroare de 2%. Încă o oportunitate pentru bulgărele de zăpadă să crească.
De ce abordările actuale nu pot rezolva această problemă
Răspunsul industriei AI la acumularea de erori a fost să încerce mai mult. Mai multe date de antrenament. O ajustare fină mai bună. Prompturi ingenioase. Raționament în lanț. Pași de verificare.
Nimic din toate acestea nu abordează problema matematică fundamentală.
Mai mult antrenament nu ajută: O acuratețe mai bună pe un singur pas nu schimbă decăderea exponențială. O acuratețe de 99% mută doar pragul de la 34 de pași la 69 de pași. 99,5% îl mută la 138 de pași. Între timp, cheltuiești exponențial mai mult calcul pentru câștiguri marginale.
Prompturi mai bune nu ajută: Strategiile de promptare încearcă, în esență, să lupte cu matematica folosind limbajul natural. Nu poți să ieși prin prompturi din (0,98)ⁿ.
Verificarea agravează problema: Fiecare pas de verificare este o altă operațiune cu propria probabilitate de eroare. Adaugi pași pentru a lupta cu o problemă cauzată de prea mulți pași.
Metodele de ansamblu ajută, dar nu rezolvă: Cercetările arată că metodele de auto-consistență pot îmbunătăți acuratețea cu până la 17,9 puncte procentuale la problemele de matematică. Dar acest lucru vine cu costul unui calcul de 40 de ori mai mare. Și nu elimină decăderea exponențială. Doar mută ușor curba.
Problema fundamentală nu este calitatea instruirii sau strategia de solicitare. Este faptul că rețelele neuronale cu virgulă mobilă sunt fundamental probabilistice. Fiecare operație introduce incertitudine. Incertitudinea se acumulează. Nu există nicio cale de a ocoli această matematică.
Soluția bazată pe constrângeri
Sistemele AI bazate pe constrângeri nu urmează modelul decăderii exponențiale. Iată de ce.
Operații deterministe: Abordarea noastră folosește operații discrete. XNOR, POPCNT, AND logic, OR logic. Aceste operații sunt deterministe. Aceeași intrare, aceeași ieșire. De fiecare dată.
Fără erori de rotunjire: Valorile binare sunt exacte. +1 sau -1. Fără aproximare cu virgulă mobilă. Fără erori acumulate de rotunjire.
Satisfacerea constrângerilor: Sistemele noastre lucrează cu constrângeri, nu cu probabilități. O constrângere este fie satisfăcută, fie nu. Nu există satisfacere de 98%. Există satisfăcută (100%) sau încălcată (0%).
Constrângeri cristalizate: În abordarea Dweve, odată ce o constrângere este descoperită și cristalizată, se aplică determinist. A suta aplicare a unei constrângeri este la fel de fiabilă ca prima. Fără decădere. Fără eroare acumulată.
Acesta este motivul pentru care sistemele bazate pe constrângeri pot gestiona raționamentul pe mai multe etape fără degradare. Fiecare etapă verifică constrângerile cristalizate. Etapa 10 este la fel de fiabilă ca etapa 1. Etapa 100 este la fel de fiabilă ca etapa 1.
Curba erorii nu arată ca o decădere exponențială. Arată ca o funcție treaptă: precizie de 100% până când este atinsă o limită a constrângerii, apoi 0% (eșec detectabil). Fără zone gri. Fără decădere treptată în nonsens.
Unghiul de reglementare
Reglementatorii europeni înțeleg această problemă mai bine decât vor companiile americane de tehnologie să recunoască.
EU AI Act nu impune doar acuratețe. Impune explicabilitate și auditabilitate. Trebuie să explici de ce AI-ul tău a luat o anumită decizie. Trebuie să dovedești că funcționează corect.
Cum dovedești că un sistem funcționează corect când fiabilitatea lui scade exponențial cu adâncimea raționamentului?
Nu poți.
De aceea, dreptul la explicație din Articolul 22 al GDPR și cerințele de transparență ale EU AI Act favorizează fundamental abordările bazate pe constrângeri. Când o decizie este rezultatul satisfacerii constrângerilor, o poți explica. Iată constrângerea A, constrângerea B, constrângerea C. Toate satisfăcute. Rezultatul decurge logic.
Când o decizie este rezultatul a 50 de operații probabilistice, fiecare amplificând incertitudinea celei anterioare? Nu poți explica asta. Nu poți nici măcar să o reproduci în mod fiabil.
Aceasta nu este o povară de conformitate. Este matematica prinzând din urmă afirmațiile de marketing.
Implicația pentru afaceri
Iată ce înseamnă decăderea exponențială a erorilor pentru AI în afaceri:
Sarcini simple: Operațiile cu un singur pas funcționează bine. Clasificare, răspunsuri la întrebări de bază, regăsire simplă. O acuratețe de 98% este cu adevărat utilă aici.
Complexitate medie: Operațiile cu mai mulți pași, dar limitate, sunt riscante. Probabil poți gestiona 5-10 pași dacă ești atent. Dar te apropii de pragul unde erorile se acumulează mai repede decât se creează valoare.
Complexitate ridicată: Lanțurile de raționament profunde, fluxurile de lucru ale agenților, interogările cu mai multe salturi sunt matematic imposibile cu abordări probabilistice în virgulă mobilă. Sistemul va eșua. Nu este o chestiune de dacă, ci de când.
Aceasta explică de ce 95% dintre proiectele-pilot de AI din întreprinderi eșuează. Companiile încearcă să rezolve probleme care necesită 20, 50, 100 de pași de raționament folosind sisteme care devin nesigure după 11.
Matematicii nu îi pasă de cazul tău de utilizare. Nu îi pasă de bugetul tău. Nu îi pasă de foaia ta de parcurs ambițioasă. (0,98)ⁿ tinde spre zero indiferent de intenții.
Calea de urmat
Am identificat problema. Acumularea exponențială a erorilor face rețelele neuronale în virgulă mobilă nepotrivite pentru raționamentul cu mai mulți pași. Matematica este clară. Eșecurile din producție sunt documentate. Costurile economice sunt măsurabile.
Soluția este la fel de clară: avem nevoie de sisteme AI care nu suferă de decădere exponențială.
AI-ul bazat pe constrângeri oferă exact acest lucru. Operații deterministe. Constrângeri cristalizate. Fără erori acumulate. Raționament cu mai multe salturi fără degradare.
Aceasta nu este speculație. Aceasta este ceea ce construim la Dweve. Core oferă cadrul algoritmic binar. Loom implementează 456 de specialiști de domeniu bazați pe constrângeri. Nexus oferă stratul de orchestrare multi-agent. Fiecare operație este matematic exactă. Fiecare decizie este trasabilă la constrângeri specifice.
Rezultatul: sisteme AI care rămân fiabile pe sute de pași de raționament. Nu 98% acuratețe la pasul 1 și 36% acuratețe la pasul 50. 100% acuratețe la pasul 1, la pasul 50 și la pasul 500.
Până la atingerea limitei constrângerilor, fiabilitatea este absolută. La limită, eșecul este detectabil. Sistemul știe când nu știe. Aceasta nu este o eroare. Aceasta este siguranță.
Ce trebuie să reții
- Acumularea erorilor este exponențială, nu liniară. Fiecare operațiune AI în mai mulți pași amplifică erorile anterioare. O acuratețe de 98% pe pas devine o rată de succes de 13% după 100 de pași.
- Pragul inutilității este atins rapid. Cu o acuratețe de 98% pe pas, sistemele scad sub 50% fiabilitate după doar 34 de pași. Din punct de vedere practic, pragul este în jur de 11 pași pentru o fiabilitate de 90%.
- Halucinațiile se acumulează ca un bulgăre de zăpadă, nu doar se propagă. Modelele lingvistice mari se angajează excesiv în greșelile timpurii și generează afirmații false suplimentare pentru a le justifica. Acumularea erorilor accelerează dincolo de simpla decădere exponențială.
- Ratele de eșec în producție sunt catastrofale. 95% dintre proiectele-pilot de AI generativ nu ajung în producție. 95% dintre agenții AI eșuează în implementare. Nu este inginerie proastă. Este matematică proastă.
- Verificarea nu rezolvă problema. Adăugarea pașilor de verificare introduce mai multe operațiuni cu propriile probabilități de eroare. Lupți împotriva decăderii exponențiale cu mai multă decădere exponențială.
- Sistemele bazate pe constrângeri nu suferă de decădere exponențială. Operațiunile deterministe și constrângerile cristalizate înseamnă că pasul 100 este la fel de fiabil ca pasul 1. Fără erori acumulate. Fără zone gri.
- Reglementările europene favorizează certitudinea matematică. Cerințele de explicabilitate și auditabilitate ale Actului UE privind IA se aliniază abordărilor bazate pe constrângeri și intră în conflict cu cutiile negre probabilistice.
Concluzia
Problema de 98% este reală, măsurabilă și distruge proiecte AI din toate industriile. Când fiecare operațiune pierde 2% din adevăr, iar erorile se compun pe parcursul pașilor de raționament, sistemele devin matematic garantate să eșueze.
Nu este vorba despre date de antrenament mai bune sau prompturi mai inteligente. Este vorba despre matematica fundamentală a rețelelor neuronale cu virgulă mobilă versus raționamentul bazat pe constrângeri.
Abordările tradiționale urmează o decădere exponențială: (0,98)ⁿ tinde spre zero pe măsură ce n crește. Nu există nicio cale de ocolire. Este încorporat în matematică.
Abordările bazate pe constrângeri funcționează diferit. Operațiuni deterministe. Constrângeri cristalizate. Pasul 500 este la fel de fiabil ca pasul 1. Curba erorilor este o funcție treaptă, nu o decădere exponențială.
Industria începe încet să realizeze această realitate. Companiile cheltuiesc sute de milioane pe sisteme care sunt matematic garantate să eșueze. Rata de eșec de 95% în producție nu este misterioasă. Este previzibilă.
Companiile europene de AI care construiesc pe fundații bazate pe constrângeri nu sunt în dezavantaj. Ele rezolvă problema reală, în timp ce companiile americane pariază totul pe o matematică defectuoasă.
Viitorul AI fiabil nu înseamnă mai multă putere de calcul, modele mai mari sau prompturi mai ingenioase. Înseamnă sisteme bazate pe constrângeri, cu constrângeri cristalizate. Certitudine matematică în loc de încredere statistică. Fiabilitate demonstrabilă în loc de decădere exponențială.
Vrei AI care să nu degenereze în nonsens? Cadrul bazat pe constrângeri al Dweve Core oferă raționament determinist în mai mulți pași. Fără acumulare exponențială de erori. Fără bulgări de zăpadă ai halucinațiilor. Doar matematică care funcționează. Alătură-te listei noastre de așteptare.