A conversa europeia sobre IA precisa de menos demonstrações e mais instituições.

Uma demonstração convincente pode mostrar uma capacidade. Não pode decidir quem tem autoridade, como se contesta um resultado, onde vive a evidência, o que...

A conversa europeia sobre IA precisa de menos demonstrações e mais instituições.

Uma demonstração não é uma instituição pública

Uma boa demonstração tem um tipo particular de poder. Comprime uma possibilidade em poucos minutos. Um formulário é preenchido, um documento é resumido, uma imagem aparece, uma pergunta difícil recebe uma resposta plausível. Todos na sala conseguem ver porque alguém pode querer aquilo. Isso é útil. É também o ponto em que muitas perguntas mais difíceis são educadamente adiadas para mais tarde.

Mais tarde é onde a instituição começa. Quem tem o direito de decidir se o sistema pode ser usado? Que propósito público está a servir? Que provas são suficientes para esse propósito, e quem pode dizer que não são suficientes? O que acontece quando uma versão muda, quando um trabalhador contesta uma recomendação, quando uma pessoa pede uma explicação, quando uma restrição energética encerra uma rota, ou quando o roteiro do fornecedor se torna um roteiro diferente? Uma demonstração não foi concebida para responder a essas perguntas. Uma instituição pública foi.

A Europa passou bastante tempo a discutir a IA como uma competição de capacidades. Essa conversa é compreensível. A capacidade é visível. Dá um bom vídeo. As instituições são maioritariamente visíveis através do trabalho que impedem de se tornar misterioso: condições de contratação, manutenção de registos, controlos de acesso, formação, supervisão, vias de recurso, orçamentos de manutenção, apoio linguístico, normas técnicas, uma pessoa cujo nome está associado a uma decisão. Nada disto dá a um discurso de abertura o seu brilho habitual. Mas decide se um sistema continua a ser responsabilizável quando a sala esvazia.

Este não é um argumento a favor de tecnologia tímida ou de um setor público que não compra nada até conseguir ver o futuro. É um argumento contra um erro de categoria. Um modelo pode gerar, classificar, prever ou recomendar. Não pode, por si só, criar um mandato legítimo, atribuir responsabilidade pública, ensinar um colega a contestá-lo, manter uma língua nacional, negociar uma ligação à rede ou preservar um recurso para uma pessoa afetada pela sua utilização. Essas tarefas pertencem a pessoas e organizações, mesmo quando o software ajuda no trabalho.

A conversa europeia sobre IA precisa de menos demonstrações no sentido de que precisa de menos demonstrações a substituírem provas de prontidão. Precisa de mais instituições no sentido de que precisa de melhores lugares para tomar decisões, reter conhecimento e corrigir o rumo. A mudança não é da tecnologia para a burocracia. É de uma imagem superficial da tecnologia para o arranjo real em que a tecnologia tem consequências.

A questão importa muito para além do governo. Um hospital, um município, uma escola, um fabricante, uma instituição cultural e uma pequena empresa não têm as mesmas obrigações ou riscos. Mas todos acabam por descobrir que o modelo é um componente num arranjo maior. O arranjo maior determina quem fornece os dados, quem lê os resultados, quem aceita o risco residual, quem pode parar o sistema e quem permanece quando a empresa de software enviou a sua newsletter trimestral.

É por isso que a linguagem das instituições não é um recuo da ambição técnica. É a linguagem da continuidade. Um serviço público tem de funcionar numa terça-feira normal, na língua das pessoas que o usam, sob um orçamento que alguém possa inspecionar, depois de uma mudança de pessoal, durante um desacordo com o fornecedor e quando o entusiasmo original se tornou um pedido de manutenção. Qualquer afirmação séria sobre IA tem de sobreviver a essa jornada.

A capacidade é apenas uma das perguntas

Uma demonstração normalmente coloca uma pergunta estreita e razoável: consegue o sistema fazer esta tarefa nestas condições? Uma instituição tem de colocar um conjunto mais vasto de perguntas ao mesmo tempo. É apropriado automatizar ou apoiar esta tarefa? A finalidade declarada é lícita e proporcionada? As pessoas que fazem o trabalho continuam a conseguir compreender e contestar o resultado? Existe uma via para um membro do público perguntar o que aconteceu? Pode a organização mudar de fornecedor sem abandonar os seus registos? Depende o sistema de capacidade de computação escassa, de um recurso linguístico específico ou de um fluxo de dados que ninguém orçamentou para manter?

Estas perguntas não tornam o modelo pior. Tornam a decisão mais honesta. Distinguem uma funcionalidade de um serviço e um serviço de uma capacidade pública. Uma funcionalidade pode ser impressionante enquanto o enquadramento à sua volta é frágil. Um serviço pode ser útil enquanto o seu contrato torna impossível inspecionar uma alteração material. Uma capacidade pública tem de permanecer utilizável, governada e reparável ao longo do tempo. Tem de transportar mais do que um resultado.

O Regulamento IA é frequentemente referido como se fosse uma resposta única para este problema. Não é. É um quadro jurídico significativo, e a sua finalidade declarada junta o funcionamento do mercado interno à IA fiável e centrada no ser humano e a um elevado nível de proteção da saúde, da segurança, dos direitos fundamentais, da democracia, do Estado de direito e do ambiente. Mas o próprio Regulamento faz um ponto importante sobre a realidade institucional: opera em paralelo com o direito da União existente em matéria de proteção de dados, consumidores, emprego, trabalhadores e segurança dos produtos. O quadro jurídico não substitui esses domínios. Encontra-os.

Isso deve moldar a conversa prática. Uma equipa não pode declarar um sistema socialmente sólido apontando para uma classificação de risco de IA enquanto ignora o processo de emprego à sua volta. Uma autoridade pública não pode declarar um sistema responsabilizável por ter concluído uma avaliação técnica enquanto deixa os residentes sem conseguir encontrar o responsável ou o registo. Um fornecedor não pode fazer desaparecer um problema de portabilidade usando a palavra nuvem. A questão é sempre como o novo componente se comporta dentro das obrigações que já existiam.

Há uma tentação prática de tratar isto como um argumento a favor de uma pasta de conformidade maior. Não é. Mais páginas podem tornar uma organização menos capaz de agir se ninguém sabe qual página altera a decisão. As instituições não se tornam capazes por recolherem modelos. Tornam-se capazes quando uma finalidade definida, uma autoridade nomeada, provas utilizáveis e uma via de correção se encontram no mesmo trabalho.

Esse é um padrão muito mais exigente do que uma demonstração. É também mais justo. Um fornecedor de modelos não deve ter de responder por todas as escolhas políticas locais feitas por quem implementa. A quem implementa não deve ser pedido que faça engenharia inversa de todas as decisões técnicas a montante. Cada parte precisa de um limite, de um registo do que o cruza e de uma forma de identificar quando o limite se moveu. As instituições existem em parte para tornar esses limites legíveis.

A lei é um piso, não o edifício inteiro

A Europa é frequentemente descrita como se tivesse escolhido regras em vez de tecnologia. A descrição é demasiado limpa para ser útil. A lei pode proibir, exigir, atribuir deveres e preservar vias de recurso. Pode definir um piso público mínimo abaixo do qual um sistema não deve cair. Não pode contratar o revisor que compreende um fluxo de trabalho local, manter uma interface de dados, escrever uma especificação de aquisição sensata ou fazer com que uma equipa exausta tenha subitamente tempo para aprender um novo processo. Estas coisas exigem capacidade.

The distinction matters because legal language can hide operational absence. A policy may say that human oversight exists. That statement is meaningless if the human being has no authority to pause the route, no time to review a case, no information about the model version, no training in the task and no path for escalating a disagreement. The oversight exists on paper, rather like a fire exit hidden behind a cupboard. It will be very reassuring until it is needed.

The same is true of transparency. A disclosure can be technically available and practically useless. A person may receive a long description of a system without learning who owns the decision, what record can be challenged or how to obtain a remedy. A public register may list an algorithm without saying whether the listed version is current, what the system is used for or who has authority to answer a question. Transparency is not the amount of text. It is the ability to locate a decision and its owner.

Europe's legal work is valuable precisely because it makes some of these questions harder to dismiss. It gives shared language for providers, deployers, regulators and affected people. It also makes the gaps more visible. When an organisation cannot state its intended purpose, identify its data flow, keep a record of a material change or name the person who can stop a use, the problem is not merely that the paperwork is late. The organisation has not yet built the thing it claims to be operating.

This is where institutions have a modest advantage over slogans. They remember that a decision happened. They keep the conditions with it. They preserve the difference between a plan and an event. They put a name, an inbox and sometimes a slightly stubborn form next to a promise. The form is not the achievement. The achievement is that somebody can be held to the answer.

Good law creates room for this work. It should not be used as a substitute for it. The mature question is not whether a system is compliant in the abstract. It is whether the people responsible can demonstrate how its particular use meets the applicable duties, what they do not yet know and what they will do when the evidence changes. That is a legal question, an operational question and an institutional question at the same time.

Procurement is where public intent meets a supplier contract

Public procurement sounds procedural because it is procedural. It is also one of the places where public intent becomes real. A public authority buys works, goods or services from selected companies through a process shaped by rules intended to keep procurement open and competitive. In an AI context, that process is not merely the moment at which a product is chosen. It is the moment at which an authority can decide what the supplier must make inspectable, what changes require notice, which records remain available, how the work can be handed over and what happens if the system must stop.

A procurement that asks only for a model's capabilities tends to buy a demonstration with an invoice attached. A procurement that asks for the operating conditions buys something closer to a service. It can ask for a defined intended purpose, interfaces, documentation, accessible evidence, role-based permissions, incident contacts, update notices, export formats, support boundaries, retention arrangements, exit assistance and a clear allocation of responsibility. It can ask who owns a particular risk rather than permitting every party to assume that the other one does.

Não existe uma cláusula universal que resolva estas questões. Uma pequena organização que compra uma ferramenta interna restrita não deve herdar um contrato concebido para um serviço crítico de âmbito nacional. Do mesmo modo, uma utilização pública de grande impacto não deve receber a disciplina contratual de um teste gratuito com um formulário ligeiramente mais longo. O contrato tem de acompanhar a consequência da decisão, a dependência criada pelo serviço e a capacidade da organização para o operar.

Cenário ilustrativo, não um relato de um processo de aquisição real: imagine um organismo público a considerar um sistema que ajuda o pessoal a organizar o material de processos recebido. A demonstração mostra resumos, campos extraídos e uma fila sugerida. A questão responsável não é se a fila parece organizada. É se o pessoal consegue ver o material de origem, se as regras de prioridade estão documentadas, se um processo pode ser corrigido sem criar um segundo fluxo de trabalho oculto, se uma atualização do sistema altera o resultado, se os registos podem ser exportados e quem responde quando uma pessoa contesta a forma como o seu material foi tratado. Nenhuma destas questões exige um medo teatral da IA. Exigem um contrato adulto.

A contratação pública também pode proteger a organização do seu próprio otimismo. Se um fornecedor disser que uma nova funcionalidade chegará mais tarde, a autoridade pode registá-la como um plano em vez de a comprar como uma capacidade existente. Se um fornecedor prometer um canal de revisão humana, o contrato pode descrever o papel real, a condição de resposta e as provas, em vez de aceitar uma frase que soa reconfortante. Se um serviço depender de um formato de dados específico, a autoridade pode exigir o mapeamento e a exportação antes de o sistema se tornar difícil de abandonar. O otimismo tem lugar na inovação. Não deve ser autorizado a assinar contratos sem acompanhamento.

Isto não significa que todas as equipas de contratação se devam tornar um laboratório modelo. Significa que as equipas precisam de acesso à competência certa. Os conhecimentos jurídicos, técnicos, operacionais, financeiros e orientados para o utilizador têm de se encontrar antes de serem tomadas as decisões irreversíveis. Essa é uma das razões pelas quais as instituições importam. Criam uma forma de diferentes tipos de conhecimento estarem presentes sem fingir que uma pessoa os pode carregar todos.

A melhor pergunta de contratação é muitas vezes desarmantemente simples: o que exigirá este acordo de nós após o lançamento? A resposta pode incluir tempo do pessoal, registos, monitorização, energia, conhecimentos linguísticos, trabalho de integração, canais de revisão e um plano de saída. Se nenhuma destas coisas aparecer na resposta, a contratação não fez desaparecer o encargo. Simplesmente o deixou de fora do orçamento.

As infraestruturas têm um endereço público

É tentador falar de computação como se fosse meteorologia. Uma carga de trabalho precisa de capacidade, a capacidade está noutro lugar e o importante é se a página acaba por carregar. Mas a computação tem uma localização, uma cadeia de abastecimento, um percurso de rede, uma procura de energia, um regime de manutenção e um contexto jurídico. A infraestrutura faz, portanto, parte da capacidade institucional, não é um pano de fundo para ela.

O trabalho da Comissão Europeia sobre a digitalização do sistema energético torna isto difícil de ignorar. Aborda a otimização da rede, a eficiência, a flexibilidade e a integração sustentável dos centros de dados. A palavra importante é integração. Um centro de dados não é meramente uma caixa privada de máquinas que por acaso consome eletricidade. Está inserido num sistema energético partilhado, com restrições locais, planeamento público e outras exigências sobre a rede. Uma estratégia séria de IA tem de ver todo o conjunto, em vez de tratar a eletricidade como uma nota de rodapé sob um gráfico de computação.

Isso não produz uma regra simples de que todo o processamento tem de ser local, central, nacional ou europeu. Cada escolha tem condições. Uma implementação local pode reduzir algumas transferências e colocar o controlo perto da organização, aumentando ao mesmo tempo o seu encargo de manutenção. Uma instalação europeia partilhada pode alargar o acesso a capacidades dispendiosas, exigindo ao mesmo tempo regras de acesso claras e um percurso realista da experiência para a operação. Um serviço comercial alojado pode oferecer uma via útil para alguns trabalhos, levantando ao mesmo tempo questões sobre jurisdição, dependência, registos e controlo de alterações. A geografia é uma decisão de conceção com consequências, não um selo moral.

As Fábricas de IA do EuroHPC são interessantes a este respeito porque a sua descrição pública é mais ampla do que uma sala cheia de aceleradores. Os serviços incluem computação e armazenamento, acesso a dados e software, apoio, formação, integração e colaboração centrada em setores. Essa combinação é importante. Uma máquina sem uma via acessível, pessoas que possam ajudar e uma ligação fundamentada a uma área de trabalho não é capacidade pública. É mobiliário caro com um ruído de ventoinha impressionante.

A infraestrutura pública também precisa de uma memória institucional. Quem pode utilizar o recurso? Em que condições? Que trabalho recebe prioridade quando a capacidade é escassa? Que dados podem ser introduzidos? Que resultados podem sair? O que acontece quando um projeto termina? Como é que as organizações mais pequenas são ajudadas a utilizar o recurso sem se esperar que cheguem com um gabinete de investigação dedicado e uma semana livre? A aquisição de hardware não responde a essas perguntas. As operações respondem.

Há aqui uma lição de soberania que é frequentemente reduzida a um mapa. Um serviço pode estar fisicamente próximo e continuar a ser difícil de governar. Um sistema pode estar alojado em solo europeu enquanto controlos cruciais, autoridade de atualização, interfaces ou alavancagem comercial permanecem noutro lugar. Inversamente, um acordo europeu transfronteiriço pode apoiar uma capacidade pública significativa quando os limites, os direitos de acesso, as responsabilidades e as vias de saída são tornados explícitos. A questão relevante não é simplesmente onde está um bastidor. É quem pode decidir, inspecionar, manter e sair.

As instituições são necessárias para manter essas questões unidas. Os planeadores de energia não podem inferir uma carga de trabalho de IA a partir de uma página de marketing. Os responsáveis pelas aquisições não podem negociar uma relação com um centro de dados a partir de uma referência de modelo. Uma equipa de investigação não pode transformar o acesso a uma máquina em capacidade duradoura sem apoio, práticas de dados e uma via para utilizar o resultado. O fio que liga estas questões não é um modelo específico. É a capacidade pública de tomar uma decisão delimitada e manter a possibilidade de a rever.

A capacidade não se encontra no centro por si só. Selecione um campo para ver o trabalho público que ele tem de suportar.

O trabalho não é um pormenor de implementação

Cada sistema de IA altera o trabalho em algum lugar. Por vezes, a alteração é óbvia porque uma tarefa é entregue ao software. Mais frequentemente, é mais discreta. Um trabalhador verifica uma sugestão em vez de criar um primeiro rascunho. Um gestor vê uma pontuação antes de uma conversa. Um operador de chamadas recebe um resumo que enquadra a pergunta seguinte. Um técnico de caso passa menos tempo a encontrar um documento e mais tempo a explicar uma exceção. A tarefa mudou, mesmo que o título do cargo não tenha mudado.

É por isso que o trabalho não pode ficar no fim de um plano de implementação, sob o título gestão da mudança. O trabalho não é uma superfície a gerir depois de tomada a decisão técnica. É aí que o sistema adquire o seu significado prático. Os trabalhadores sabem quais os registos incompletos, quais as exceções mais comuns, onde uma regra sensata se torna absurda e o que um processo aparentemente eficiente exige que uma pessoa absorva. Afastá-los da conversa sobre o design é uma forma segura de tornar um fluxo de trabalho menos inteligível.

A panorâmica da EU-OSHA sobre a gestão de trabalhadores baseada em IA aponta tanto para oportunidades como para riscos para a segurança e saúde no trabalho. Esta formulação é útil porque rejeita duas narrativas fáceis. A primeira diz que toda a ferramenta de IA é um gestor disfarçado. A segunda diz que a tecnologia é neutra até que um mau ator específico a utilize indevidamente. Na prática, o design da monitorização, das metas, das recomendações, dos alertas e da afetação pode moldar a qualidade do trabalho antes de alguém dizer uma palavra dramática sobre substituição.

Uma resposta institucional humana não consiste em insistir que todos os colaboradores se tornem especialistas em IA. Consiste em tornar discutível a relação entre a ferramenta e o trabalho. O que é que o sistema pode recomendar? O que é que não pode decidir? Que sinais alimentam uma conversa sobre desempenho? Pode um trabalhador inspecionar e corrigir o registo que é usado sobre si? O que acontece quando o resultado do sistema entra em conflito com o julgamento profissional? Há tempo para aprender a ferramenta, e esse tempo é tratado como trabalho, em vez de um passatempo privado praticado depois de as crianças estarem a dormir?

A questão da autoridade é especialmente importante. Um trabalhador que é nominalmente livre para anular um resultado, mas que é avaliado por um painel que recompensa a concordância, não recebeu discrição significativa. Um gestor que recebe uma pontuação sem saber a sua base não recebeu responsabilidade significativa. Um representante sindical que só vê o sistema depois da aquisição não pode acrescentar o conhecimento que teria evitado um conflito evitável. As instituições abrem espaço para estes factos antes de uma folha de cálculo os transformar em surpresas.

Não existe um único local de trabalho europeu. Os acordos setoriais, o direito laboral nacional, a cultura organizacional e a natureza da tarefa são todos relevantes. Mas o princípio institucional aplica-se bem: não tratar as pessoas como a camada de tratamento de erros de um sistema que não lhes foi permitido compreender. Se o julgamento humano faz parte do argumento de segurança, então a organização deve dar a esse julgamento informação, autoridade e um caminho para ser ouvido.

A educação é uma prática, e a linguagem faz parte da prática

A literacia em IA tornou-se uma resposta popular à fraqueza institucional. Enviar as pessoas para um curso, emitir um certificado, colocar um diapositivo alegre na intranet e dar o assunto por resolvido. É uma resposta melhor do que nenhuma aprendizagem. Mas não chega.

O guia da Comissão sobre literacia em IA coloca a obrigação num lugar mais fundamentado. Os fornecedores e os utilizadores devem tomar medidas para garantir um nível suficiente de literacia entre o pessoal e outras pessoas que lidam com sistemas de IA em seu nome. Os fatores relevantes incluem conhecimentos técnicos, experiência, educação e formação, e o contexto em que o sistema é utilizado. Não se trata de um requisito para um questionário universal sobre aprendizagem automática. É um convite para fazer corresponder o conhecimento à responsabilidade.

Um responsável por compras precisa de reconhecer uma alegação que não pode ser avaliada a partir de um folheto. Um trabalhador da linha da frente precisa de saber quando um resultado deve ser verificado em relação ao material de origem. Um gestor precisa de compreender o que uma pontuação agregada não lhe pode dizer sobre um caso individual. Um membro do conselho de administração precisa de poder perguntar quem tem autoridade para parar um sistema. Um programador precisa de uma compreensão mais profunda de dados, interfaces, avaliação e falhas. Chamar a tudo isto literacia pode ser um pouco desarrumado. As instituições reais podem permitir-se ser desarrumadas quando a alternativa é fingir que um curso torna todas as funções igualmente preparadas.

A educação também tem um problema temporal. Uma pessoa pode compreender uma ferramenta em março e, em outubro, deparar-se com uma interface, um modelo ou um fluxo de trabalho materialmente diferentes. Um programa de aprendizagem útil acompanha, portanto, as mudanças que importam. Dá às pessoas uma forma de rever as condições de decisão, e não apenas a memória de um evento de lançamento. A orientação ética da Comissão para educadores faz um ponto relacionado noutro contexto: o discernimento prático sobre a IA no ensino e na aprendizagem não pode ser reduzido a um interruptor que se liga. O contexto, a finalidade e as pessoas presentes continuam a ser relevantes.

A língua também pertence aqui. A língua apresentada por um sistema não é a língua de uma sociedade. Um modelo pode produzir texto fluente numa língua e, ainda assim, faltar-lhe os termos administrativos, as formas regionais, o vocabulário profissional, as referências culturais ou os significados jurídicos que tornam uma decisão real inteligível. Uma tradução pode ser gramaticalmente correta e, ainda assim, alterar uma responsabilidade, uma obrigação ou um direito. A utilização multilingue não é uma passagem decorativa de localização no final de um produto já concluído.

Para a Europa, esta é uma questão institucional prática. Os serviços públicos, os locais de trabalho e as escolas funcionam em muitas línguas, por vezes várias dentro da mesma organização. A documentação, os percursos de erro, a formação, o apoio e os processos de contestação têm de ir ao encontro das pessoas onde o trabalho acontece. Se a política está disponível numa língua, mas a interface operacional está noutra, a organização dividiu o sistema em dois. Se uma pessoa pode receber uma decisão na sua língua, mas não consegue encontrar a explicação ou o percurso de contestação nessa língua, o recurso tornou-se teórico.

A solução não é prometer que todos os sistemas compreendem todas as línguas de igual forma. Essa seria uma alegação com muito pouca evidência a sustentá-la. A solução é declarar honestamente a cobertura, testar a utilização que é efetivamente pretendida, manter as limitações linguísticas visíveis e garantir que uma lacuna não se torne silenciosamente numa desvantagem para as pessoas menos capazes de a corrigir. Isto é menos glamoroso do que anunciar IA multilingue. É mais respeitoso.

A segurança começa com uma alegação que pode ser discutida

Segurança é outra palavra que se torna vaga quando lhe pedimos que carregue demasiado. Um sistema de IA não é seguro porque um fornecedor diz que tem salvaguardas. Não é seguro porque um benchmark contém um número tranquilizador. Não é seguro porque uma pessoa permanece algures no circuito. A segurança diz respeito a uma alegação delimitada: este sistema pode ser utilizado para esta finalidade, neste contexto, nestas condições, com estes controlos, evidências, riscos residuais e pessoas que podem agir.

É por isso que os casos de segurança são úteis para além dos setores em que são habitualmente discutidos. Um caso de segurança não é um distintivo. É um argumento que liga uma alegação a perigos, controlos, pressupostos, evidências e uma decisão. Tem espaço para a incerteza. Pode dizer que uma condição ainda não foi cumprida. Pode dizer que uma alteração exige uma reavaliação. Pode dizer que a decisão correta é fazer uma pausa. Uma demonstração não tem forma real de dizer essas coisas sem estragar o seu próprio ambiente.

No trabalho de IA, o movimento importante é ligar as evidências à utilização real. Uma avaliação de modelo pode dizer a uma organização algo sobre uma capacidade num método declarado. Não estabelece automaticamente que o modelo é adequado em todos os fluxos de trabalho, para todos os grupos, em todas as línguas ou após cada alteração de integração. Uma instituição tem de percorrer a cadeia do modelo ao serviço e à decisão local. É nessa cadeia que muitas afirmações de outra forma sinceras se tornam demasiado amplas.

As evidências têm um prazo de validade mesmo quando o ficheiro em si não tem. Uma versão muda. Uma coleção de recuperação muda. Um novo modelo de prompt altera o comportamento que o utilizador vê. Um trabalhador descobre um modo de falha que não estava no conjunto de testes. Uma lei, política ou fonte de dados muda. Estes não são constrangimentos embaraçosos num sistema perfeito. São condições normais de operar software no mundo. A tarefa institucional é decidir quais as alterações que exigem uma nova revisão, quem toma essa decisão e como o registo anterior permanece disponível para comparação.

A capacidade de parar faz parte do mesmo argumento. Uma condição de paragem que ninguém pode invocar é uma cláusula decorativa. Um botão de paragem sem dono é uma pequena peça de arte contemporânea. Um acordo credível nomeia a autoridade, o sinal que pode desencadear a ação, o percurso de escalada, o estado seguro e a forma como a decisão é registada. Os detalhes variam. A necessidade de detalhes não varia.

A segurança não é, portanto, o departamento que chega no fim com uma caneta vermelha. É uma forma de tornar uma decisão partilhada mais precisa antes de o sistema se tornar difícil de alterar. Coloca a pergunta que as demonstrações evitam porque a resposta pode ser inconveniente: que evidências nos convenceriam a não avançar? Uma instituição que consegue responder a essa pergunta já se tornou mais capaz do que uma que apenas consegue celebrar um lançamento.

A capacidade pública é uma cadeia, não um showroom

A capacidade pública europeia para a IA não será medida apenas pelo número de modelos, centros de dados ou anúncios de investigação que consegue colocar num mapa. Essas coisas importam. Não são autossustentáveis. Capacidade é a capacidade de utilizar recursos técnicos para um fim público ao longo do tempo, com competência e autoridade suficientes para evitar que a dependência se disfarce de progresso.

A Lei da Interoperabilidade Europeia oferece uma pista útil. A sua preocupação é a interoperabilidade do setor público em toda a União e a partilha e reutilização de soluções de interoperabilidade. A interoperabilidade é por vezes tratada como uma preferência técnica: uma questão de formato para pessoas que gostam de diagramas com setas. No trabalho público, é também uma propriedade institucional. Determina se um registo pode viajar com o seu significado, se uma autoridade pode compreender os limites do sistema de outra autoridade, se uma saída de fornecedor se transforma numa migração gerível ou num armário cheio de exportações ilegíveis.

Interoperabilidade não significa que todos os sistemas devam parecer iguais ou que todo o trabalho público deva ser centralizado. Significa que uma fronteira não deve destruir a informação necessária para continuar de forma responsável. Uma organização deve ser capaz de identificar o objeto, o seu dono, o seu propósito, a sua versão, as evidências a ele associadas e as decisões que o alteraram. Um novo serviço deve ser capaz de receber os registos necessários sem exigir a permissão do antigo fornecedor para os interpretar. Isso não é um floreado de design. É assim que uma instituição pública permanece livre para decidir mais tarde.

O Registo de Algoritmos dos Países Baixos é outro objeto institucional pequeno mas útil. Publica informações sobre algoritmos utilizados por organizações governamentais e centra-se em algoritmos de elevado impacto, incluindo sistemas de IA de alto risco. Um registo não prova que cada sistema listado é bom, justo ou legal. O seu valor reside noutro lugar. Torna a existência de um sistema, uma utilização declarada e um organismo público responsável mais fáceis de encontrar. Cria uma superfície onde uma pergunta pode aterrar.

Precisamos de mais dessas superfícies, não necessariamente de mais websites. Um registo de modelo ou de sistema, uma explicação pública, um ficheiro técnico controlado, um percurso de incidente, um registo de aquisição, um plano de formação e uma especificação de interoperabilidade servem todos leitores diferentes. Devem concordar quanto aos factos que circulam entre eles. Uma página pública não tem de expor todos os detalhes sensíveis. Mas não deve contradizer as provas internas. Um ficheiro de aquisição não tem de ser um manual para o público. Mas não deve permitir que a organização se esqueça das condições que adquiriu.

O perigo está em confundir visibilidade com capacidade. Um portal polido pode esconder um modelo operativo ausente. Uma estratégia nacional pode nomear uma prioridade sem fornecer pessoal, acesso, manutenção ou um percurso para organizações mais pequenas. Um fundo de inovação pode apoiar uma prova de conceito sem apoiar o trabalho necessário para manter vivo um serviço útil. A lacuna entre estas coisas é onde muitos projetos sensatos terminam silenciosamente.

A capacidade pública tem uma forma menos fotogénica. Inclui experiência partilhada, infraestrutura acessível, competência em aquisições, trabalho de normas, recursos em línguas locais, financiamento de longo prazo, escrutínio independente e pessoas que compreendem o suficiente para fazer a um fornecedor uma pergunta difícil. Inclui a capacidade de dizer não, de pausar, de adaptar e de sair. Um continente que consegue fazer essas coisas tem mais do que um setor de IA. Tem o início da autogovernação tecnológica.

A capacidade pública é um ciclo: propósito, provas, autoridade, operação e aprendizagem devem permanecer ligados após um lançamento.

O trabalho depois dos aplausos

Pode ajudar imaginar a semana após uma demonstração em vez do momento dela. Não um evento real, não um estudo de caso disfarçado, simplesmente o trabalho comum que se segue a uma ideia promissora. Alguém precisa de transformar o propósito declarado num âmbito que possa ser avaliado. Alguém precisa de decidir quais os registos de origem adequados a utilizar. Alguém precisa de mapear como um resultado entra num fluxo de trabalho. Alguém precisa de perguntar se o trabalho muda para as pessoas que já o fazem. Alguém precisa de garantir que o percurso de apoio funciona nas línguas que importam. Alguém precisa de definir o preço da integração, da monitorização e da eventual saída.

Neste ponto, o projeto pode parecer mais lento, porque adquiriu nomes, condições e dependências. Na verdade, tornou-se possível de gerir. Uma demonstração é rápida porque ignora o trabalho de tornar um sistema responsável. Uma instituição não é lenta porque usa uma lista de verificação. É lenta quando descobre as dependências reais depois de já ter prometido um resultado.

A disciplina prática é colocar as questões não resolvidas onde possam mudar a decisão. Se a organização não souber como um fornecedor a notificará de uma alteração material ao modelo, registe isso antes de o contrato ser fechado. Se não conseguir explicar quem pode sobrepor-se a uma recomendação, resolva isso antes de a interface se tornar habitual. Se ninguém for dono dos dados de origem, não chame aos dados prontos. Se a organização não conseguir apoiar as línguas pretendidas, restrinja a utilização pretendida em vez de permitir que uma promessa ampla se torne numa exclusão silenciosa.

Isto não é maximalismo burocrático. É proporcionalidade. Um assistente interno de baixo risco pode precisar de um enquadramento simples: uma utilização declarada, uma fronteira de dados clara, orientação para o pessoal, uma forma de comunicar um problema e uma via de saída. Um sistema que condiciona o acesso ao trabalho, aos serviços, à educação, ao crédito, à saúde ou ao poder público exige um enquadramento muito mais sólido. A resposta certa à proporcionalidade não é fazer menos perguntas. É fazer perguntas proporcionais ao dano que um erro pode causar.

O trabalho institucional torna também a inovação mais reutilizável. Quando uma equipa documenta como avaliou um fluxo de trabalho, outra equipa pode aprender com o método em vez de repetir a mesma incerteza. Quando uma autoridade publica um registo útil do sistema, os residentes e outros organismos públicos têm um ponto de partida. Quando um contrato preserva os direitos de exportação e os registos de alterações, um sucessor não é forçado a reconstruir o passado a partir de capturas de ecrã e faturas. A reutilização não é apenas uma questão de código. É também uma questão de manter inteligíveis as decisões em torno do código.

Há aqui uma ironia agradável. As organizações mais receosas de que a governação as atrase são muitas vezes as que carregam mais retrabalho oculto. Repetem avaliações porque as condições nunca foram registadas. Discutem responsabilidades porque os papéis nunca foram nomeados. Renegociam um contrato porque a saída foi assumida em vez de especificada. Formam pessoas depois da implementação porque o fluxo de trabalho foi tratado como algo evidente por si só. As instituições só parecem um custo indireto enquanto a sua ausência não é visível num plano de projeto.

O que as instituições fazem na prática

É fácil fazer soar as instituições como algo grandioso e distante. Na prática, elas realizam atos comuns de manutenção. Preservam distinções que uma conversa de mercado prefere esbater. Distinguem um objetivo de um resultado, um plano de um evento, um modelo de um serviço, um serviço de uma decisão pública, um registo de uma prova e uma reclamação de um remédio.

Atribuem autoridade. Não autoridade simbólica, mas a autoridade para aprovar uma utilização pretendida, recusar uma fonte de dados, suspender uma via, publicar uma correção, aceitar um risco residual e dizer a um fornecedor que a resposta não é suficiente. Um sistema sem esta atribuição tende a descobrir a autoridade através do conflito. Essa é uma forma cara de o conceber.

Preservam a memória. O registo de uma decisão anterior pode não ser glamoroso, mas é o que permite a um novo membro da equipa compreender por que razão existe uma restrição. A história permite a uma organização comparar um sistema alterado com as condições em que foi aprovado. Protege uma pessoa que contesta um resultado de lhe dizerem que a prova relevante se dissolveu numa versão anterior. O esquecimento é ocasionalmente conveniente. Raramente é um modelo de governação sólido.

Criam vias para o desacordo. Uma boa instituição não assume que uma reclamação é prova de falha. Dá à reclamação um destino, informação suficiente para ser examinada e uma pessoa que possa responder sem inventar um novo procedimento sob pressão. Isto é importante para trabalhadores, residentes, clientes, fornecedores e equipas internas. Uma via de contestação não é uma concessão ao pessimismo. Faz parte da forma como um sistema reconhece os seus próprios limites.

Investem em competência. O trabalho não é apenas técnico. Inclui pessoas capazes de ler um contrato, avaliar uma fronteira de dados, compreender um fluxo de trabalho, explicar um resultado em linguagem simples, operar infraestruturas, formar colegas e reconhecer quando a evidência é demasiado fraca para a decisão proposta. Nenhuma organização contrata todas essas pessoas para todos os pequenos projetos. Mas as organizações sérias sabem como encontrá-las, partilhá-las ou consultá-las antes de a decisão se consolidar.

Em última análise, as instituições tornam os compromissos suportáveis. Uma empresa pode mudar de rumo, um ministro pode mudar de pasta, um modelo pode mudar de versão e um orçamento pode tornar-se menos imaginativo. O propósito público, o registo, a autoridade e o recurso não deviam desaparecer com a apresentação original. É por isso que os sistemas duradouros precisam de coisas aborrecidas: interfaces abertas sempre que possível, titularidade clara, registos conservados, condições de suporte realistas, pontos de revisão nomeados e uma saída exequível. As coisas aborrecidas não são o oposto da inovação. São o que permite rever a inovação sem que ela se transforme numa operação de demolição.

Uma vantagem europeia que vale a pena construir

A Europa não precisa de ganhar uma discussão sobre se as instituições são entusiasmantes. Não são, na maioria dos dias. Um registo bem gerido não é empolgante. Uma especificação de interoperabilidade nunca provocou uma vaga num estádio. Uma cláusula de contratação sobre formatos de exportação não vai ser impressa num saco de pano. A falta de glamour faz parte do seu valor. Continuam a funcionar quando a atenção se desvia para outro lado.

Também não há razão para transformar isto numa história de superioridade moral europeia. Todas as regiões têm instituições, falhanços, realizações técnicas e pontos cegos. A Europa tem uma oportunidade, não uma vantagem consumada. As suas tradições jurídicas, serviços públicos, sociedades multilingues, redes de investigação, base industrial e acordos transfronteiriços podem sustentar uma abordagem distinta se forem ligados a capacidade operacional real. Também podem continuar a ser uma coleção de documentos admiráveis se as pessoas encarregadas de fazer o trabalho ficarem sem tempo, autoridade ou ferramentas.

A escolha é prática. Construir contratação que compre provas e vias de saída, não apenas capacidade. Construir infraestruturas que incluam acesso, apoio, consciência energética e operação responsável. Construir processos de trabalho que deem às pessoas informação e critério genuíno. Construir literacia nas funções e nas mudanças, e não numa única tarde. Construir apoio linguístico no serviço, não apenas na página de lançamento. Construir argumentos de segurança que possam ser reabertos. Construir registos públicos que permitam que uma pergunta difícil chegue ao responsável certo.

Então a próxima demonstração pode ser recebida como deve ser. Pode ser apreciada pelo que é: prova de que uma capacidade técnica pode merecer investigação. Não tem de carregar o fardo impossível de provar que a sociedade que a rodeia está pronta. Essa prova, quando é possível, é feita lentamente por instituições que fazem o seu trabalho.

Uma pequena nota nossa

Na Dweve, abordamos o mesmo problema institucional com uma afirmação pública deliberadamente restrita. O nosso Trust Centre regista que o Dweve Loom 1.0 continua em testes de pré-lançamento apenas internos, com acesso externo fechado. O limiar de lançamento publicado diz que abrir uma via externa depende de provas correspondentes à versão, de aprovações específicas da via, de uma decisão de lançamento registada e de verificação da integridade dos registos públicos. Não é uma afirmação de que um registo torna um sistema seguro ou de que um lançamento futuro vai acontecer. É uma afirmação sobre manter um plano separado de um evento e uma decisão operacional ligada a provas.

Esse é o padrão que vale a pena aplicar de forma mais ampla. Não peça a um modelo que seja uma instituição. Peça às instituições que sejam suficientemente boas para decidir onde um modelo pertence, o que lhe é permitido fazer, como pode ser contestado e quando deve parar.

Fontes