Защо 98% точният ИИ се превръща в пълна безсмислица
Химичният експеримент, който обяснява защо вашият ИИ се проваля
Представете си, че имате чаша с чиста вода. Някой ви казва да премахнете точно 2% от водата и да ги замените с нещо безвредно. Правите това веднъж и все още имате 98% вода. Няма проблем.
Сега повторете този процес 50 пъти. Колко вода ви остава?
Отговорът зависи изцяло от това на кой въпрос отговаряте. И точно това разграничение е причината повечето настоящи системи с ИИ да стават напълно ненадеждни при задачи с многоетапно разсъждение.
Това не е метафора. Това е математика. И унищожава проекти с ИИ във всяка индустрия.
Двата начина да мислим за грешката
Когато хората говорят за точността на ИИ, те обикновено мислят за това, което статистиците наричат независима грешка. Всяка операция на ИИ има 2% вероятност да е грешна. Следващата операция е независима. Тя също има 2% вероятност да е грешна.
При този модел след 50 операции сте направили 50 независими грешки от по 2%. Това е приблизително една грешка общо. Нищо страшно, нали?
Но ИИ не работи така. Системите с ИИ надграждат върху предишни резултати. Всяка стъпка зависи от това, което е било преди нея. И това променя всичко.
В химията, когато многократно разреждате разтвор, прилагате фактор на разпад към това, което остава. Не изваждате 2% от първоначалната концентрация всеки път. Намалявате текущата концентрация с 2%.
Това звучи подобно. Но води до коренно различни резултати.
Линейната илюзия
Нека започнем с грешния начин на мислене, защото така повечето компании за ИИ всъщност моделират системите си.
Линейният разпад предполага, че винаги премахвате 2% от първоначалното количество. Започвате със 100% точност. Стъпка 1: сте на 98%. Стъпка 2: сте на 96%. След 50 стъпки сте точно на 0%.
Просто. Предвидимо. И напълно грешно за системите с ИИ.
Именно този линеен модел кара компаниите да вярват, че техният ИИ е безопасен. Те тестват точността на една стъпка, установяват, че е 98%, и приемат, че многоетапните операции ще се влошават линейно. Те внедряват агенти, вериги за разсъждение, заявки с множество скокове. После гледат как системите им се провалят катастрофално.
Проблемът е, че грешките на ИИ не действат като независими хвърляния на монета. Те се натрупват.
Експоненциалната реалност
Ето какво се случва всъщност. Всяка операция на ИИ запазва 98% от истината, останала от предишната операция. Но ключовото е, че тези 98% са от намаляващия остатък, а не от първоначалното количество.
Математиката е прост експоненциален разпад: 0,98 на степен n стъпки.
Нека ви покажа как изглежда това на практика:
- Стъпка 0: 100% точност (съвършена истина)
- Стъпка 10: 81,7% точност
- Стъпка 25: 60,3% точност
- Стъпка 50: 36,4% точност
- Стъпка 100: 13,3% точност
- Стъпка 228: 1% точност
- Стъпка 342: 0,1% точност
Прочетете това отново. След само 50 стъпки на разсъждение с 98% точност на стъпка, системата ви е по-вероятно да сгреши, отколкото да е права. След 100 стъпки тя греши в 86,7% от случаите. След 228 стъпки едва 1% истина остава.
Ето защо вашите AI агенти се провалят. Ето защо многократното разсъждение поражда безсмислици. Това е математическата основа на снежната топка от халюцинации.
Прагът на безполезността
Ето въпрос, на който никой в сферата на ИИ не иска да отговори: в кой момент една система става толкова ненадеждна, че на практика е безполезна?
Математическият отговор е 34 стъпки. При точност от 98% на стъпка, след 34 операции на разсъждение системата пада под 50% точност. По-вероятно е да сгреши, отколкото да е права.
Но практическият отговор идва много по-рано. В производствените системи не можеш да толерираш нищо близко до 50% грешка. Трябват ти 90% надеждност или повече. Този праг се достига само след 11 стъпки.
Нека бъда категоричен какво означава това:
- Верига на разсъждение от 11 стъпки: 90% от резултатите ти са грешни
- Верига на разсъждение от 34 стъпки: системата ти е по-лоша от случайното предположение
- Верига на разсъждение от 50 стъпки: 63,6% процент на отказ
- Верига на разсъждение от 100 стъпки: 86,7% процент на отказ
Сега помисли какво означава това за агентния ИИ. Типичният работен процес на агент може да включва: разбиране на задачата (1), разделяне на стъпки (2), търсене на информация (3), оценка на източниците (4), синтезиране на констатациите (5), генериране на отговор (6), проверка на качеството (7) и така нататък. Това вече са 7 стъпки, а още не сме стигнали до сложни задачи.
Веригите на разсъждение с множество скокове в правните проучвания, медицинската диагностика или финансовия анализ рутинно надхвърлят 20 стъпки. При точност от 98% на стъпка гледаш 33% отказ, преди дори да вземеш предвид сложността.
Това не е теоретично. Ето защо ИИ агентите се провалят в производство.
Производственият провал, за който никой не говори
Статистиката е съкрушителна, но почти никога не се признава в маркетинговите материали за ИИ.
Провали на корпоративния ИИ: Според проучване от 2025 г. на MIT и Fortune, 95% от пилотните проекти с генеративен ИИ не успяват да достигнат до производство с измеримо бизнес въздействие. Не „изпитват трудности да достигнат до производство“. Провалят се напълно.
Провали, специфични за агентите: Анализ на LinkedIn от практикуващи ИИ специалисти показва, че 95% от ИИ агентите се провалят в производство. Не защото моделите не са достатъчно интелигентни. А защото натрупването на грешки ги прави ненадеждни.
Мултиагентни системи: Проучванията показват, че когато няколко агента си сътрудничат, грешките се натрупват по-бързо. Ако един агент предаде грешна информация на друг, вторият агент надгражда върху грешките и влошаването се ускорява.
Икономическото въздействие: Компаниите харчат стотици милиони за ИИ системи, които по принцип не могат да работят за предвидените случаи на употреба. Едно единствено внедряване на мултистъпков агент може да струва милиони за разработка, но да се провали поради елементарна математика.
Това е проблемът с 98-те процента на практика: отлична точност на единична стъпка, катастрофален провал при множество стъпки.
Ефектът на снежната топка при халюцинациите
Проучване на Zhang et al. (2023) идентифицира това, което те наричат „снежната топка на халюцинациите“. Ето как работи: LLM моделите се ангажират прекомерно с ранни грешки, след което генерират допълнителни неверни твърдения, за да оправдаят тези грешки. Грешката не просто се разпространява. Тя расте.
Помислете какво означава това в контекста на експоненциалния спад на грешките. Първата ви грешка на стъпка 5 не просто намалява точността с 2%. Тя създава дефектна основа за стъпка 6, която сега има още по-висока вероятност за грешка, защото се гради върху погрешни допускания.
Чистият модел на експоненциален спад всъщност е оптимистичен. На практика грешките се трупат по-бързо, отколкото предвижда математиката, защото всяка грешка прави следващите грешки по-вероятни.
Ето защо виждаме документирани случаи като:
AI инцидентът на CNET (2023): 41 от 77 статии, написани от AI, изискваха корекции. Това е 53% процент на грешки в продукционната журналистика, където едноцифрени проценти на грешки биха били неприемливи.
Провали в медицинската диагностика: Проучване на JAMA Pediatrics установи, че ChatGPT е направил неправилни диагнози в над 80% от педиатричните случаи. Това не е „халюцинация“ в абстрактния смисъл. Това са конкретни медицински грешки, които биха могли да навредят на пациенти.
Юридически AI халюцинации: Изследване на Stanford HAI показва, че юридическите AI модели халюцинират в 1 от 6 бенчмарк заявки. Адвокати са били санкционирани за подаване на измислени от AI дела в съдилища. Многократно. В множество държави.
Провали на Google AI Overview: Системата предложи да се слага лепило върху пица и да се ядат камъни ежедневно. Това не са крайни случаи. Това е какво се случва, когато натрупването на грешки срещне увереност без проверка.
Капанът на проверката
Ето ироничната част. Знаем, че LLM моделите могат да разпознават собствените си грешки. Проучванията показват, че ChatGPT разпознава 67% от грешките си, а GPT-4 разпознава 87%. Моделите знаят кога грешат.
Но въпреки това се ангажират с халюцинациите. Те генерират неверни твърдения, за да оправдаят първоначалните грешки. Те се ангажират прекомерно с грешки, въпреки че имат капацитета да ги разпознаят.
Ето защо простата проверка не решава проблема. Добавянето на стъпка „провери работата си“ не помага, когато системата е стимулирана да защитава предишните си резултати, вместо да ги коригира.
Самата стъпка на проверка се превръща в още една стъпка във веригата на разсъждение. Още 2% грешка. Още една възможност снежната топка да расте.
Защо настоящите подходи не могат да поправят това
Отговорът на AI индустрията на натрупването на грешки е да се опитва по-усърдно. Повече обучителни данни. По-добро фино настройване. Умни подкани. Разсъждение по верига от мисли. Стъпки за проверка.
Нищо от това не адресира основния математически проблем.
Повече обучение не помага: По-добрата точност на единична стъпка не променя експоненциалния спад. Точност от 99% просто премества прага от 34 стъпки на 69 стъпки. 99,5% го премества на 138 стъпки. Междувременно харчите експоненциално повече изчислителни ресурси за незначителни ползи.
По-добрите подкани не помагат: Стратегиите за подкани по същество се опитват да се борят с математиката чрез естествен език. Не можете да се измъкнете от (0,98)ⁿ с подкани.
Проверката влошава проблема: Всяка стъпка на проверка е друга операция със собствена вероятност за грешка. Добавяте стъпки, за да се борите с проблема, причинен от наличието на твърде много стъпки.
Ансамбловите методи помагат, но не решават проблема: Проучванията показват, че методите за самосъгласуваност могат да подобрят точността с до 17,9 процентни пункта при математически задачи. Но това идва с цената на 40× повече изчисления. И не елиминира експоненциалния спад. Просто измества кривата леко.
Основният проблем не е качеството на обучението или стратегията за подсказване. Проблемът е, че невронните мрежи с плаваща запетая са по своята същност вероятностни. Всяка операция внася несигурност. Несигурността се натрупва. Няма начин да се заобиколи тази математика.
Решението, основано на ограничения
Системите с изкуствен интелект, основани на ограничения, не следват модела на експоненциалния спад. Ето защо.
Детерминирани операции: Нашият подход използва дискретни операции. XNOR, POPCNT, логическо И, ИЛИ. Тези операции са детерминирани. Един и същ вход, един и същ изход. Всеки път.
Без грешки при закръгляне: Двоичните стойности са точни. +1 или -1. Без приближение с плаваща запетая. Без натрупани грешки при закръгляне.
Удовлетворяване на ограничения: Нашите системи работят с ограничения, а не с вероятности. Едно ограничение или е удовлетворено, или не е. Няма 98% удовлетворение. Има удовлетворено (100%) или нарушено (0%).
Кристализирани ограничения: В подхода на Dweve, след като едно ограничение бъде открито и кристализирано, то се прилага детерминирано. Стотото прилагане на едно ограничение е също толкова надеждно, колкото първото. Без спад. Без натрупана грешка.
Ето защо системите, основани на ограничения, могат да се справят с многостъпкови разсъждения без влошаване. Всяка стъпка се проверява спрямо кристализирани ограничения. Стъпка 10 е също толкова надеждна, колкото стъпка 1. Стъпка 100 е също толкова надеждна, колкото стъпка 1.
Кривата на грешките не прилича на експоненциален спад. Тя прилича на стъпаловидна функция: 100% точност, докато не се достигне граница на ограничение, след което 0% (откриваема повреда). Без сиви зони. Без постепенно влошаване до безсмислица.
Регулаторният аспект
Европейските регулатори разбират този проблем по-добре, отколкото американските технологични компании искат да признаят.
Актът за изкуствения интелект на ЕС не изисква само точност. Той изисква обяснимост и проверимост. Трябва да обясните защо вашият ИИ е взел конкретно решение. Трябва да докажете, че работи правилно.
Как доказвате, че една система работи правилно, когато надеждността ѝ намалява експоненциално с дълбочината на разсъждението?
Не можете.
Ето защо правото на обяснение по член 22 от GDPR и изискванията за прозрачност на Акта за ИИ на ЕС по същество благоприятстват подходите, основани на ограничения. Когато дадено решение е резултат от удовлетворяване на ограничения, можете да го обясните. Ето ограничение А, ограничение Б, ограничение В. Всички са удовлетворени. Резултатът следва логически.
Когато дадено решение е резултат от 50 вероятностни операции, всяка от които увеличава несигурността на предишната? Не можете да обясните това. Дори не можете да го възпроизведете надеждно.
Това не е тежест за съответствието. Това е математиката, която настига маркетинговите твърдения.
Бизнес последицата
Ето какво означава експоненциалното натрупване на грешки за ИИ в бизнеса:
Прости задачи: Операциите в една стъпка работят добре. Класификация, основно отговаряне на въпроси, просто извличане на информация. Точност от 98% е наистина полезна тук.
Средна сложност: Многостъпковите, но ограничени операции са рискови. Вероятно можете да се справите с 5-10 стъпки, ако сте внимателни. Но наближавате прага, при който грешките се натрупват по-бързо, отколкото се създава стойност.
Висока сложност: Дълбоките вериги на разсъждение, работните потоци на агенти и заявките с множество преходи са математически неосъществими при подходи с плаваща запетая и вероятностен характер. Системата ще се провали. Не е въпрос дали, а кога.
Това обяснява защо 95% от пилотните проекти за ИИ в предприятията се провалят. Компаниите се опитват да решават проблеми, които изискват 20, 50, 100 стъпки на разсъждение, използвайки системи, които стават ненадеждни след 11.
Математиката не се интересува от вашия случай на употреба. Не се интересува от бюджета ви. Не се интересува от амбициозната ви пътна карта. (0,98)ⁿ клони към нула независимо от намеренията.
Пътят напред
Идентифицирахме проблема. Експоненциалното натрупване на грешки прави невронните мрежи с плаваща запетая неподходящи за многостъпково разсъждение. Математиката е ясна. Производствените провали са документирани. Икономическите разходи са измерими.
Решението е също толкова ясно: имаме нужда от ИИ системи, които не страдат от експоненциален спад.
ИИ, основан на ограничения, осигурява точно това. Детерминирани операции. Кристализирани ограничения. Без натрупани грешки. Многостъпково разсъждение без влошаване.
Това не е спекулация. Точно това изграждаме в Dweve. Core предоставя рамката за двоични алгоритми. Loom прилага 456 специализирани домейн експерта, базирани на ограничения. Nexus осигурява слоя за оркестрация на множество агенти. Всяка операция е математически точна. Всяко решение може да бъде проследено до конкретни ограничения.
Резултатът: ИИ системи, които остават надеждни в стотици стъпки на разсъждение. Не 98% точност в стъпка 1 и 36% точност в стъпка 50. 100% точност в стъпка 1, в стъпка 50 и в стъпка 500.
Докато не бъде достигната границата на ограниченията, надеждността е абсолютна. На границата провалът е откриваем. Системата знае кога не знае. Това не е бъг. Това е безопасност.
Какво трябва да запомните
- Натрупването на грешки е експоненциално, а не линейно. Всяка многоетапна AI операция задълбочава предишните грешки. Точност от 98% на стъпка се превръща в 13% успех след 100 стъпки.
- Прагът на безполезността настъпва бързо. При точност от 98% на стъпка, системите падат под 50% надеждност само след 34 стъпки. За практически цели, прагът е около 11 стъпки за 90% надеждност.
- Халюцинациите се трупат като снежна топка, не просто се предават. Езиковите модели се вкопчват в ранни грешки и генерират допълнителни неверни твърдения, за да ги оправдаят. Натрупването на грешки се ускорява отвъд чистия експоненциален спад.
- Процентът на провал в производство е катастрофален. 95% от генеративните AI пилотни проекти не достигат до производство. 95% от AI агентите се провалят при внедряване. Това не е лошо инженерство. Това е лоша математика.
- Верификацията не решава проблема. Добавянето на стъпки за верификация добавя повече операции със собствени вероятности за грешка. Борите се с експоненциален спад с още експоненциален спад.
- Системите, базирани на ограничения, не страдат от експоненциален спад. Детерминистичните операции и кристализираните ограничения означават, че стъпка 100 е толкова надеждна, колкото стъпка 1. Без натрупани грешки. Без сиви зони.
- Европейските регулации благоприятстват математическата сигурност. Изискванията на EU AI Act за обяснимост и одитируемост са в синхрон с подходите, базирани на ограничения, и в конфликт с вероятностните черни кутии.
Изводът
Проблемът с 98% е реален, измерим и унищожава AI проекти във всяка индустрия. Когато всяка операция губи 2% от истината и грешките се натрупват през стъпките на разсъждение, системите стават математически гарантирано обречени на провал.
Това не е въпрос на по-добри данни за обучение или по-умни подкани. Това е въпрос на фундаменталната математика на невронни мрежи с плаваща запетая срещу разсъждение, базирано на ограничения.
Традиционните подходи следват експоненциален спад: (0.98)ⁿ клони към нула, когато n нараства. Няма заобиколен път. Това е вградено в математиката.
Подходите, базирани на ограничения, работят по различен начин. Детерминистични операции. Кристализирани ограничения. Стъпка 500 е толкова надеждна, колкото стъпка 1. Кривата на грешките е стъпкова функция, не експоненциален спад.
Индустрията бавно осъзнава тази реалност. Компаниите харчат стотици милиони за системи, които са математически гарантирано обречени на провал. 95% процентът на провал в производство не е мистерия. Той е предвидим.
Европейските AI компании, които изграждат върху основи, базирани на ограничения, не са в неизгодна позиция. Те решават реалния проблем, докато американските компании удвояват залозите върху грешна математика.
Бъдещето на надеждния AI не е повече изчислителна мощ, по-големи модели или по-умни подкани. То е системи, базирани на ограничения, с кристализирани ограничения. Математическа сигурност вместо статистическа увереност. Доказуема надеждност вместо експоненциален спад.
Искате AI, който не се изражда в безсмислици? Рамката на Dweve Core, базирана на ограничения, осигурява детерминистично многоетапно разсъждение. Без експоненциално натрупване на грешки. Без снежни топки от халюцинации. Просто математика, която работи. Присъединете се към нашия списък на чакащи.