O risco da "podridão de competências": será que a IA nos vai tornar estúpidos?
Os Filhos do Magenta
Na indústria da aviação, existe um documentário arrepiante conhecido como "Children of the Magenta". Refere-se a uma geração de pilotos que aprendeu a voar em aeronaves modernas altamente automatizadas. O "Magenta" refere-se à cor da linha da trajetória de voo no ecrã de navegação automatizada do cockpit.
Estes pilotos eram especialistas em programar o Computador de Gestão de Voo. Conseguiam gerir os sistemas na perfeição. Mas os investigadores descobriram que, em situações de crise (quando a automatização falhava ou se desligava devido a dados defeituosos dos sensores), alguns destes pilotos entravam em pânico. Tinham perdido a "sensação" do avião. Tinham dificuldades com o voo básico de manetes e pedais. Tinham-se tornado operadores de sistemas, não aviadores. As suas competências essenciais tinham apodrecido.
Estamos atualmente a infligir este fenómeno a toda a economia global do conhecimento.
Estamos a dar a programadores juniores ferramentas que escrevem código que eles não compreendem. Estamos a dar a advogados juniores ferramentas que redigem contratos que eles não leram. Estamos a dar a estudantes de medicina ferramentas de diagnóstico que detetam tumores que eles não conseguem ver.
Isto funciona bem quando o tempo está limpo e a automatização está a funcionar. Mas o que acontece quando o sistema falha? E, mais importante: se a máquina faz toda a prática, como é que os humanos alguma vez alcançam o domínio?
A Atrofia Cognitiva
Este é o risco da Podridão de Competências. É a deterioração gradual da capacidade humana por desuso. É "O Efeito Google Maps" com esteroides. Antes do GPS, as pessoas tinham um mapa mental da sua cidade; compreendiam as relações espaciais. Agora, seguimos a linha azul. Se a bateria morrer, estamos perdidos no nosso próprio bairro.
Em engenharia de software, assistimos à ascensão do "Sénior de Copiar e Colar." São programadores com 2 anos de experiência que conseguem produzir o resultado de um veterano com 10 anos apoiando-se fortemente em assistentes de IA. Mas quando lhes pedimos para depurar uma condição de corrida, ou explicar porquê escolheram uma arquitetura específica, desmoronam. Têm a produtividade, mas não a profundidade.
Isto é perigoso porque o software é complexo. O código escrito por IA contém frequentemente erros subtis ou vulnerabilidades de segurança que só um verdadeiro especialista consegue detetar. Se eliminarmos a luta da aprendizagem (as horas passadas a bater com a cabeça na parede a tentar compreender um erro de ponteiro) eliminamos o processo que constrói especialistas.
O Paradoxo do Aprendiz
Isto conduz a uma crise estrutural no mercado de trabalho: O Paradoxo do Aprendiz.
Historicamente, os especialistas seniores eram formados ao fazer o "trabalho braçal" enquanto juniores. Aprendia-se a escrever excelentes peças jurídicas escrevendo centenas de peças monótonas e recebendo críticas de um sócio. Aprendia-se a diagnosticar doenças raras vendo milhares de casos comuns durante a residência.
Se a IA automatizar o trabalho braçal (se escrever o código padrão, resumir os documentos e fazer a triagem dos pacientes), o que resta para o júnior? Como é que ele ganha as "repetições"? Se saltar a aprendizagem, não pode tornar-se um mestre. Fica apenas um novato permanente com uma calculadora muito poderosa.
A Solução Dweve: Inteligência Aumentada
Na Dweve, concebemos as nossas ferramentas para combater a "Skill Rot". Somos ideologicamente contra a "Automação" que substitui o pensamento. Acreditamos na "Aumentação" que melhora o pensamento.
Acreditamos que a IA deve ser uma bicicleta para a mente (fazendo-o ir mais rápido), não uma cadeira de rodas para a mente (carregando-o porque não consegue andar).
1. Modo Explicativo: A IA como Tutora
Quando o nosso assistente de programação sugere uma correção, não se limita a colar o código silenciosamente. Entra no "Modo Explicativo". Realça as linhas que alterou e explica porquê.
- "Alterei este loop para uma função map porque é mais eficiente em termos de memória neste contexto."
- "Adicionei aqui uma verificação de sanitização porque esta entrada poderia ser vulnerável a XSS."
Transforma a correção de bugs numa micro-lição. Obriga o utilizador a envolver-se com a lógica, não apenas com o resultado. Transfere conhecimento do modelo para o humano.
2. Human-in-the-Loop por Conceção
Os nossos sistemas de decisão crítica (para medicina, direito e finanças) são concebidos para propor e justificar, nunca para decidir silenciosamente. Chamamos a isto a "Interface Argumentativa".
A IA apresenta um rascunho: "Recomendo aprovar este empréstimo." Mas também apresenta o argumento: "Porque o rácio de endividamento é baixo e a garantia é alta." Obriga o especialista humano a rever os passos lógicos e a aprová-los. Isto mantém o humano "no circuito" cognitivamente, não apenas processualmente.
3. Depuração Interativa
Como os nossos modelos são transparentes (Glass Box), os utilizadores podem discutir com eles. Se a IA disser "Isto é um gato", o utilizador pode perguntar "Porquê?" A IA mostra as características que detetou. O utilizador pode dizer "Não, isso é um cão, olha para as orelhas."
Este processo dialético (a troca de argumentos entre humano e máquina) aguça o pensamento crítico do utilizador. Incentiva o ceticismo. Previne a complacência do "Computer Says No".
Preservar o Ofício
Precisamos de proteger o "Ofício". A compreensão profunda e intuitiva que vem do esforço, da prática e do fracasso.
A IA deve eliminar o trabalho árduo (a papelada, a introdução de dados, a formatação). Mas não deve eliminar o pensamento. Não deve eliminar o julgamento.
Se construirmos uma IA que nos torna estúpidos, falhámos como espécie. Construímos uma muleta em vez de uma ferramenta.
Na Dweve, construímos ferramentas que nos desafiam a ser melhores. Construímos ferramentas que exigem utilizadores inteligentes. Porque o futuro não deve ser apenas máquinas mais inteligentes; deve ser humanos mais inteligentes.
À procura de IA que torne a sua equipa mais inteligente, e não dependente? A arquitetura Glass Box e o Modo Explicativo da Dweve garantem que os seus especialistas crescem a par da tecnologia. Contacte-nos para descobrir como a inteligência aumentada pode preservar e ampliar a perícia humana na sua organização.