O problema da diluição factual: por que uma IA com 98% de precisão se torna um completo disparate
A experiência de química que explica porque é que a sua IA falha
Imagine que tem um gobelé com água pura. Dizem-lhe para remover exatamente 2% da água e substituí-la por algo inofensivo. Faz isto uma vez e continua a ter 98% de água. Sem problema.
Agora repita esse processo 50 vezes. Quanta água lhe resta?
A resposta depende inteiramente da pergunta a que está a responder. E essa distinção é exatamente a razão pela qual a maioria dos sistemas de IA atuais se torna completamente pouco fiável em tarefas de raciocínio com múltiplos passos.
Isto não é uma metáfora. Isto é matemática. E está a destruir projetos de IA em todas as indústrias.
As duas formas de pensar sobre o erro
Quando as pessoas falam sobre a precisão da IA, estão normalmente a pensar no que os estatísticos chamam erro independente. Cada operação de IA tem 2% de probabilidade de estar errada. A operação seguinte é independente. Também tem 2% de probabilidade de estar errada.
Neste modelo, após 50 operações, cometeu 50 erros independentes de 2%. Isso dá aproximadamente um erro no total. Sem grande problema, certo?
Mas não é assim que a IA funciona realmente. Os sistemas de IA constroem-se a partir de resultados anteriores. Cada passo depende do que veio antes. E isso muda tudo.
Em química, quando dilui repetidamente uma solução, está a aplicar um fator de decaimento ao que resta. Não subtrai 2% da concentração original de cada vez. Reduz a concentração atual em 2%.
Isto parece semelhante. Produz resultados radicalmente diferentes.
A ilusão linear
Comecemos pela forma errada de pensar nisto, porque é assim que a maioria das empresas de IA modela os seus sistemas.
O decaimento linear assume que está sempre a remover 2% da quantidade original. Comece com 100% de precisão. Passo 1: está em 98%. Passo 2: está em 96%. Após 50 passos, está exatamente em 0%.
Simples. Previsível. E completamente errado para sistemas de IA.
Este modelo linear é o que leva as empresas a acreditar que a sua IA é segura. Testam a precisão de um único passo, descobrem que é de 98%, e assumem que as operações com múltiplos passos vão degradar-se linearmente. Implementam agentes, cadeias de raciocínio, consultas de múltiplos saltos. Depois veem os seus sistemas falhar catastroficamente.
O problema é que os erros de IA não funcionam como lançamentos de moeda independentes. Acumulam-se.
A realidade exponencial
Eis o que acontece realmente. Cada operação de IA preserva 98% da verdade que restou da operação anterior. Mas, crucialmente, esses 98% são do restante decrescente, não do original.
A matemática é um decaimento exponencial simples: 0,98 elevado a n passos.
Deixe-me mostrar-lhe como isto se parece na prática:
- Passo 0: 100% de precisão (verdade perfeita)
- Passo 10: 81,7% de precisão
- Passo 25: 60,3% de precisão
- Passo 50: 36,4% de precisão
- Passo 100: 13,3% de precisão
- Passo 228: 1% de precisão
- Passo 342: 0,1% de precisão
Leia isto novamente. Após apenas 50 passos de raciocínio com 98% de precisão por passo, o seu sistema tem mais probabilidade de estar errado do que certo. Após 100 passos, está errado 86,7% das vezes. Após 228 passos, resta apenas 1% de verdade.
É por isto que os seus agentes de IA falham. É por isto que o raciocínio multi-hop produz disparates. Esta é a base matemática da bola de neve de alucinações.
O limiar da inutilidade
Eis uma pergunta que ninguém na IA quer responder: em que ponto é que um sistema se torna tão pouco fiável que é efetivamente inútil?
A resposta matemática é 34 passos. Com 98% de precisão por passo, após 34 operações de raciocínio, o sistema fica abaixo dos 50% de precisão. É mais provável que erre do que acerte.
Mas a resposta prática chega muito mais cedo. Em sistemas de produção, não se pode tolerar nada perto de 50% de erro. É preciso 90% de fiabilidade ou mais. Esse limiar é atingido ao fim de apenas 11 passos.
Deixem-me ser explícito sobre o que isto significa:
- Cadeia de raciocínio de 11 passos: 90% dos vossos resultados estão errados
- Cadeia de raciocínio de 34 passos: o vosso sistema é pior do que o acaso
- Cadeia de raciocínio de 50 passos: taxa de falha de 63,6%
- Cadeia de raciocínio de 100 passos: taxa de falha de 86,7%
Agora considerem o que isto significa para a IA agêntica. Um fluxo de trabalho típico de um agente pode envolver: compreender a tarefa (1), decompor em passos (2), procurar informação (3), avaliar fontes (4), sintetizar descobertas (5), gerar resposta (6), verificar qualidade (7), e assim por diante. Já são 7 passos, e ainda nem chegámos a tarefas complexas.
Cadeias de raciocínio multi-salto em investigação jurídica, diagnóstico médico ou análise financeira excedem rotineiramente os 20 passos. Com 98% de precisão por passo, estamos a falar de 33% de falha antes sequer de considerar a complexidade.
Isto não é teórico. É por isto que os agentes de IA falham em produção.
O desastre de produção de que ninguém fala
As estatísticas são devastadoras, mas quase nunca são reconhecidas nos materiais de marketing da IA.
Falhas de IA empresarial: Segundo investigação de 2025 do MIT e da Fortune, 95% dos pilotos de IA generativa não chegam à produção com impacto empresarial mensurável. Não é "têm dificuldade em chegar à produção". Falham por completo.
Falhas específicas de agentes: Uma análise do LinkedIn feita por profissionais de IA mostra que 95% dos agentes de IA falham em produção. Não porque os modelos não sejam suficientemente inteligentes. Mas porque a acumulação de erros os torna pouco fiáveis.
Sistemas multiagente: A investigação mostra que, quando vários agentes colaboram, os erros acumulam-se mais depressa. Se um agente passa informação defeituosa a outro, o segundo agente constrói sobre erros e a degradação acelera.
O impacto económico: As empresas estão a gastar centenas de milhões em sistemas de IA que, fundamentalmente, não conseguem funcionar para os casos de uso pretendidos. Uma única implementação de agente multi-passo pode custar milhões a desenvolver e, ainda assim, falhar por causa de matemática básica.
Este é o problema dos 98% na prática: grande precisão num único passo, falha catastrófica em múltiplos passos.
O efeito de bola de neve das alucinações
Uma investigação de Zhang et al. (2023) identificou aquilo a que chamam a "bola de neve das alucinações". Funciona assim: os LLM comprometem-se excessivamente com erros iniciais e depois geram afirmações falsas adicionais para justificar esses erros. O erro não se limita a propagar-se. Cresce.
Pense no que isto significa no contexto do decaimento exponencial de erros. O seu primeiro erro no passo 5 não reduz apenas a precisão em 2%. Cria uma base defeituosa para o passo 6, que agora tem uma probabilidade de erro ainda maior porque se baseia em pressupostos errados.
O modelo puro de decaimento exponencial é, na verdade, otimista. Na prática, os erros acumulam-se mais depressa do que a matemática prevê, porque cada erro torna os erros subsequentes mais prováveis.
É por isso que vemos casos documentados como:
O desastre de IA da CNET (2023): 41 dos 77 artigos escritos por IA exigiram correções. Isso é uma taxa de erro de 53% em jornalismo de produção, onde taxas de erro de um dígito já seriam inaceitáveis.
Falhas no diagnóstico médico: Um estudo da JAMA Pediatrics concluiu que o ChatGPT fez diagnósticos incorretos em mais de 80% dos casos pediátricos. Isto não é "alucinação" no abstrato. São erros médicos concretos que podem prejudicar doentes.
Alucinações de IA jurídica: A investigação do Stanford HAI mostra que os modelos de IA jurídica alucinam em 1 em cada 6 consultas de avaliação comparativa. Advogados já foram sancionados por apresentarem casos falsos gerados por IA em tribunais. Várias vezes. Em vários países.
Falhas do Google AI Overview: O sistema sugeriu colocar cola na pizza e comer pedras diariamente. Estes não são casos extremos. São o que acontece quando a acumulação de erros encontra confiança sem verificação.
A armadilha da verificação
Esta é a parte irónica. Sabemos que os LLM conseguem identificar os seus próprios erros. A investigação mostra que o ChatGPT identifica 67% dos seus erros, e o GPT-4 identifica 87%. Os modelos sabem quando estão errados.
Mas continuam a manter as alucinações. Geram afirmações falsas para justificar erros iniciais. Comprometem-se excessivamente com erros apesar de terem capacidade para os reconhecer.
É por isso que a simples verificação não resolve o problema. Adicionar um passo de "verifique o seu trabalho" não ajuda quando o sistema é incentivado a defender as suas saídas anteriores em vez de as corrigir.
O próprio passo de verificação torna-se outro passo na cadeia de raciocínio. Outro erro de 2%. Outra oportunidade para a bola de neve crescer.
Porque é que as abordagens atuais não conseguem resolver isto
A resposta da indústria de IA à acumulação de erros tem sido tentar com mais afinco. Mais dados de treino. Melhor afinação. Prompts inteligentes. Raciocínio em cadeia de pensamento. Passos de verificação.
Nada disto aborda o problema matemático fundamental.
Mais treino não ajuda: Uma melhor precisão de passo único não altera o decaimento exponencial. Uma precisão de 99% apenas move o limiar de 34 passos para 69 passos. 99,5% move-o para 138 passos. Entretanto, está a gastar exponencialmente mais computação para ganhos marginais.
Melhores prompts não ajudam: As estratégias de prompting estão essencialmente a tentar combater a matemática com linguagem natural. Não é possível resolver (0,98)ⁿ com prompts.
A verificação agrava o problema: Cada passo de verificação é outra operação com a sua própria probabilidade de erro. Está a adicionar passos para combater o problema causado por ter demasiados passos.
Os métodos de conjunto ajudam, mas não resolvem: A investigação mostra que os métodos de autoconsistência podem melhorar a precisão em até 17,9 pontos percentuais em problemas de matemática. Mas isto tem o custo de 40× mais computação. E não elimina o decaimento exponencial. Apenas desloca ligeiramente a curva.
A questão fundamental não é a qualidade do treino nem a estratégia de prompts. É que as redes neuronais de vírgula flutuante são fundamentalmente probabilísticas. Cada operação introduz incerteza. A incerteza acumula-se. Não há forma de contornar esta matemática.
A solução baseada em restrições
Os sistemas de IA baseados em restrições não seguem o modelo de decaimento exponencial. Eis porquê.
Operações determinísticas: A nossa abordagem utiliza operações discretas. XNOR, POPCNT, AND lógico, OR. Estas operações são determinísticas. Mesma entrada, mesma saída. Sempre.
Sem erros de arredondamento: Os valores binários são exatos. +1 ou -1. Sem aproximação de vírgula flutuante. Sem erro de arredondamento acumulado.
Satisfação de restrições: Os nossos sistemas trabalham com restrições, não com probabilidades. Uma restrição ou é satisfeita ou não é. Não existe satisfação a 98%. Existe satisfeita (100%) ou violada (0%).
Restrições cristalizadas: Na abordagem da Dweve, uma vez descoberta e cristalizada uma restrição, esta aplica-se de forma determinística. A centésima aplicação de uma restrição é tão fiável como a primeira. Sem decaimento. Sem erro acumulado.
É por isto que os sistemas baseados em restrições conseguem lidar com raciocínio de múltiplos saltos sem degradação. Cada salto verifica as restrições cristalizadas. O salto 10 é tão fiável como o salto 1. O salto 100 é tão fiável como o salto 1.
A curva de erro não se parece com decaimento exponencial. Parece-se com uma função em degrau: 100% de precisão até se atingir um limite de restrição, depois 0% (falha detetável). Sem zonas cinzentas. Sem decaimento gradual para o absurdo.
A perspetiva regulatória
Os reguladores europeus compreendem este problema melhor do que as empresas tecnológicas americanas querem admitir.
A Lei da IA da UE não exige apenas precisão. Exige explicabilidade e auditabilidade. É preciso explicar por que razão a sua IA tomou uma decisão específica. É preciso provar que funciona corretamente.
Como é que se prova que um sistema funciona corretamente quando a sua fiabilidade decai exponencialmente com a profundidade do raciocínio?
Não se consegue.
É por isso que o direito à explicação do artigo 22.º do RGPD e os requisitos de transparência da Lei da IA da UE favorecem fundamentalmente as abordagens baseadas em restrições. Quando uma decisão é o resultado da satisfação de restrições, é possível explicá-la. Aqui está a restrição A, a restrição B, a restrição C. Todas satisfeitas. O resultado segue-se logicamente.
Quando uma decisão é o resultado de 50 operações probabilísticas, em que cada uma agrava a incerteza da anterior? Isso não se consegue explicar. Nem sequer se consegue reproduzir de forma fiável.
Isto não é um encargo de conformidade. É a matemática a alcançar as promessas do marketing.
A implicação para as empresas
Eis o que o decaimento exponencial do erro significa para a IA nas empresas:
Tarefas simples: As operações de passo único funcionam bem. Classificação, resposta básica a perguntas, recuperação simples. Uma precisão de 98% é genuinamente útil aqui.
Complexidade média: As operações com vários passos, mas limitadas, são arriscadas. Provavelmente consegue lidar com 5 a 10 passos se for cuidadoso. Mas está a aproximar-se do limiar em que os erros se acumulam mais depressa do que o valor é criado.
Complexidade elevada: Cadeias de raciocínio profundas, fluxos de trabalho de agentes e consultas de múltiplos saltos são matematicamente inviáveis com abordagens probabilísticas de vírgula flutuante. O sistema vai falhar. Não é uma questão de se, mas de quando.
Isto explica por que razão 95% dos projetos-piloto de IA empresarial falham. As empresas estão a tentar resolver problemas que exigem 20, 50, 100 passos de raciocínio usando sistemas que se tornam pouco fiáveis após 11.
A matemática não se importa com o seu caso de utilização. Não se importa com o seu orçamento. Não se importa com o seu roteiro ambicioso. (0,98)ⁿ tende para zero independentemente das intenções.
O caminho a seguir
Identificámos o problema. A acumulação exponencial de erros torna as redes neuronais de vírgula flutuante inadequadas para o raciocínio de múltiplos passos. A matemática é clara. As falhas de produção estão documentadas. Os custos económicos são mensuráveis.
A solução é igualmente clara: precisamos de sistemas de IA que não sofram de decaimento exponencial.
A IA baseada em restrições proporciona exatamente isto. Operações determinísticas. Restrições cristalizadas. Sem erro acumulado. Raciocínio de múltiplos saltos sem degradação.
Isto não é especulativo. É isto que estamos a construir na Dweve. A Core fornece a estrutura algorítmica binária. A Loom implementa 456 especialistas de domínio baseados em restrições. A Nexus fornece a camada de orquestração multiagente. Cada operação é matematicamente exata. Cada decisão é rastreável até restrições específicas.
O resultado: sistemas de IA que permanecem fiáveis ao longo de centenas de passos de raciocínio. Não 98% de precisão no passo 1 e 36% no passo 50. 100% de precisão no passo 1, no passo 50 e no passo 500.
Até o limite das restrições ser atingido, a fiabilidade é absoluta. No limite, a falha é detetável. O sistema sabe quando não sabe. Isso não é um defeito. Isso é segurança.
O que precisa de recordar
- A acumulação de erros é exponencial, não linear. Cada operação de IA em várias etapas agrava os erros anteriores. Uma precisão de 98% por etapa torna-se um sucesso de 13% após 100 etapas.
- O limiar da inutilidade chega rapidamente. Com uma precisão de 98% por etapa, os sistemas caem abaixo de 50% de fiabilidade após apenas 34 etapas. Para efeitos práticos, o limiar ronda as 11 etapas para uma fiabilidade de 90%.
- As alucinações acumulam-se como uma bola de neve, não se limitam a propagar-se. Os LLM comprometem-se em excesso com os primeiros erros e geram afirmações falsas adicionais para os justificar. A acumulação de erros acelera para além do mero decaimento exponencial.
- As taxas de falha em produção são catastróficas. 95% dos projetos-piloto de IA generativa não chegam à produção. 95% dos agentes de IA falham na implementação. Isto não é má engenharia. É má matemática.
- A verificação não resolve o problema. Adicionar etapas de verificação acrescenta mais operações com as suas próprias probabilidades de erro. Está a combater o decaimento exponencial com mais decaimento exponencial.
- Os sistemas baseados em restrições não sofrem de decaimento exponencial. Operações determinísticas e restrições cristalizadas significam que a etapa 100 é tão fiável como a etapa 1. Sem erros acumulados. Sem zonas cinzentas.
- A regulamentação europeia favorece a certeza matemática. Os requisitos de explicabilidade e auditabilidade do Regulamento da UE sobre IA alinham-se com as abordagens baseadas em restrições e entram em conflito com as caixas negras probabilísticas.
A conclusão
O problema dos 98% é real, mensurável e está a destruir projetos de IA em todos os setores. Quando cada operação perde 2% de verdade e os erros se agravam ao longo das etapas de raciocínio, os sistemas ficam matematicamente condenados a falhar.
Isto não é uma questão de melhores dados de treino ou de instruções mais inteligentes. É uma questão da matemática fundamental das redes neuronais de vírgula flutuante em comparação com o raciocínio baseado em restrições.
As abordagens tradicionais seguem um decaimento exponencial: (0,98)ⁿ aproxima-se de zero à medida que n aumenta. Não há forma de contornar isto. Está incorporado na matemática.
As abordagens baseadas em restrições funcionam de forma diferente. Operações determinísticas. Restrições cristalizadas. A etapa 500 é tão fiável como a etapa 1. A curva de erro é uma função em degrau, não um decaimento exponencial.
O setor está lentamente a acordar para esta realidade. As empresas estão a gastar centenas de milhões em sistemas que estão matematicamente condenados a falhar. A taxa de falha de 95% em produção não é misteriosa. É previsível.
As empresas europeias de IA que constroem sobre bases baseadas em restrições não estão em desvantagem. Estão a resolver o problema real enquanto as empresas americanas insistem numa matemática defeituosa.
O futuro da IA fiável não é mais poder de computação, modelos maiores ou instruções mais engenhosas. São sistemas baseados em restrições com restrições cristalizadas. Certeza matemática em vez de confiança estatística. Fiabilidade comprovável em vez de decaimento exponencial.
Quer uma IA que não se degrade em disparates? A estrutura baseada em restrições do Dweve Core proporciona raciocínio determinístico em várias etapas. Sem acumulação exponencial de erros. Sem bolas de neve de alucinações. Apenas matemática que funciona. Junte-se à nossa lista de espera.