Quando um chatbot se torna colega de trabalho

Um chatbot pode ser uma ferramenta útil sem se tornar um gestor numa interface amigável. A linha é ultrapassada quando um sistema conversacional começa a...

Quando um chatbot se torna colega de trabalho

A colleague is more than a voice in the room

There is a particular kind of sentence that makes a change sound smaller than it is: ‘We are giving everyone a chatbot.’ It arrives with the familiar furniture of a software rollout. There will be a licence, a short demonstration, perhaps a page of prompt suggestions and somebody’s slightly too cheerful reminder to use it responsibly. The tool appears to sit beside the work. It can draft, search, summarise, translate, explain a policy or turn a rough note into something that looks as though it was written after a full night’s sleep. These are ordinary and sometimes useful capabilities. But the sentence stops being innocent when the chatbot begins to shape who gets work, what counts as a good answer, which account of an event is accepted, or how a person is judged for disagreeing with it.

At that point the question is no longer whether the interface is conversational. It is whether the system has become a workplace colleague in the more consequential sense: a participant in the division of labour, a source of authority, a witness whose account is given weight, a quiet influence on the terms under which somebody is trusted. A colleague may recommend, challenge, explain and sometimes make the day easier. A colleague also belongs inside a structure of responsibility. They can be asked why. They can be corrected. Their role can be described. A system that speaks with the ease of a colleague but is governed with the vagueness of a utility is a harder proposition.

Europe has a useful instinct here. It does not require us to pretend that every automated tool is a manager, nor that every worker should become a specialist in model architecture before opening a chat window. It asks more practical questions about the conditions of work. Who is affected? What data is being used? What is the purpose? What happens when a suggestion is wrong? Who can intervene? What information and consultation rights apply? Which decisions remain human, and is that human role real or merely decorative?

The title is deliberately uneasy. A chatbot is not a colleague in the human sense. It has no employment contract, no professional judgement, no legal responsibility and no experience of being late for a train in the rain. It does not need breaks, a payslip or a route to appeal a performance review. The danger begins when its inability to carry those things is treated as an advantage. If a system can influence work but bears none of the social, legal or practical obligations that come with workplace authority, the organisation must supply the boundaries itself. Otherwise the cheapest colleague in the building becomes the least accountable one.

The small invitation that changes the room

Consider a clearly hypothetical example. A medium-sized organisation introduces a chat assistant for internal policy questions. It is told to help people find procedures, draft routine messages and identify the next step in a case. Nobody says that it will make decisions. The organisation is careful enough to say that staff remain responsible for their work. This is a sensible beginning, but it does not settle the matter.

Within the first weeks, people discover that the assistant is quicker than searching through a crowded intranet. A supervisor starts asking teams to use it before escalating a question. A draft created by the assistant becomes the default tone for correspondence. The records that the assistant retrieves become the records that people cite. Later, the same tool is connected to a queue so that it can suggest priority. A manager sees a dashboard showing how often staff accept the suggestions and how long they take to respond. Each addition has a plausible explanation. Together, they change the organisation’s practical definition of a good worker.

Nenhum momento isolado precisa de ser dramático. Não é necessário haver uma catástrofe inventada, nenhum funcionário com um nome convenientemente memorável, nenhuma terça-feira azarada às 09:17. O objetivo do cenário hipotético é exatamente este: a mudança pode chegar sem teatro. Um local de trabalho pode entregar autoridade a um sistema através de uma sequência de pequenas conveniências. O assistente não precisa de dar uma ordem. Pode criar o padrão contra o qual a resposta humana é medida. Pode tornar-se a primeira fonte consultada, o caminho através do qual a incerteza é enquadrada, a linha de base silenciosa a partir da qual qualquer desvio tem de ser explicado.

A pergunta a fazer não é se o chatbot substituiu um gestor. É mais precisa: o que é que agora acontece de forma diferente porque o chatbot está lá? Altera o tempo concedido para uma tarefa? Uniformiza uma linguagem que antes dependia do critério profissional? Decide que informação é visível em primeiro lugar? Uma recomendação aparece num fluxo de trabalho em que recusá-la exige explicação adicional? Um gestor usa as taxas de aceitação como prova de diligência? A ferramenta cria um registo que sobrevive à conversa, e a pessoa afetada pode vê-lo ou corrigi-lo?

Estas perguntas não são hostis a ferramentas úteis. São a forma de uma organização distinguir um auxiliar de escrita de um sistema de gestão paralelo. A diferença não está na personalidade da interface. Um painel frio pode governar o trabalho tão completamente como uma janela de conversa simpática. Inversamente, uma ferramenta conversacional pode continuar a ser um instrumento se o seu papel for claro, se as suas entradas e limites forem compreendidos, e se uma pessoa mantiver tanto o tempo como a autoridade para exercer o seu critério.

Uma conversa pode esconder uma cadeia de decisões

O chat faz com que sistemas complexos pareçam estar ao alcance da mão. Uma pessoa escreve uma pergunta em linguagem corrente e recebe uma resposta em linguagem corrente. Isso faz parte do atrativo. Mas também esconde uma cadeia de decisões que importa no trabalho: que fontes estão disponíveis, cujas políticas são tratadas como atuais, como uma pergunta é interpretada, que informação é omitida, se uma resposta é registada, quem pode inspecionar o registo, como o modelo muda, e se uma resposta é meramente útil ou operacionalmente consequente.

As pessoas estão habituadas a tratar um resultado de pesquisa como um convite à inspeção. A frase de um chatbot chega com mais confiança social. Já realizou uma forma de síntese. Pode citar fontes, pode não citar. Pode descrever uma conclusão num registo fluente que torna o desacordo desconfortável. Se essa resposta disser respeito a um pedido de férias, a um procedimento de segurança, a uma política de emprego, a uma reclamação de cliente ou à próxima ação correta num serviço público, a fluência não é uma característica estética menor. Ela molda a distribuição da atenção e da dúvida.

É por isso que a proveniência é uma condição de trabalho, e não uma característica técnica decorativa. Uma pessoa precisa de saber se a resposta veio de uma política aprovada, de um procedimento local atual, de uma resposta geral do modelo ou de uma mistura de fontes. Precisa de ver onde uma afirmação foi simplificada. Precisa de um caminho para dizer que a resposta não se adequa ao caso que tem diante de si. Sem esse caminho, a confiança do sistema torna-se uma instrução informal, e o trabalhador carrega o risco de a seguir ou de lhe resistir sem provas.

Há uma questão semelhante com a palavra «assistir». A assistência pode ser genuína. Uma ferramenta que reúne material que uma pessoa teria de encontrar manualmente pode proteger tempo para o critério. Mas a assistência também pode deslocar o ónus. Se o assistente produz um primeiro rascunho plausível, o trabalhador pode ser obrigado a processar mais casos. Se faz uma recomendação, o trabalhador pode precisar de documentar todas as recusas. Se reduz o tempo que um supervisor gasta a explicar um processo, a organização pode silenciosamente eliminar o tempo em que uma explicação humana poderia revelar que o próprio processo está errado.

A linha não separa, portanto, a automatização da não automatização. Separa uma ferramenta que amplia a capacidade de uma pessoa para fazer um trabalho cuidadoso de uma ferramenta que estreita a forma aceitável de o fazer. As duas podem parecer idênticas numa demonstração de produto. Divergem na fila de espera, na conversa sobre desempenho, na via de recurso e no momento em que alguém precisa de dizer: esta resposta não é suficientemente boa para este caso.

Um sistema pode tornar o caminho através do trabalho mais claro. Não deve esbater o ponto em que uma pessoa responsável tem de julgar e decidir. Selecione uma fase para inspecionar o seu papel.

Quando uma recomendação se torna uma diretiva

A autoridade no local de trabalho raramente chega como uma ordem única. Viaja através da atribuição de tarefas, de objetivos, de predefinições, de respostas sugeridas, do tratamento de exceções e do pequeno atrito associado à discordância. Um sistema não precisa do poder de despedir alguém para afetar a sua vida profissional. Pode influenciar quais as tarefas que essa pessoa vê, quando as recebe, como o seu trabalho é descrito, que sinal de desempenho chega a um supervisor ou se um pedido é tratado como normal ou suspeito.

A investigação europeia sobre segurança no trabalho utiliza o termo gestão de trabalhadores baseada em IA para designar sistemas que recolhem e analisam informações sobre locais de trabalho, trabalhadores e tarefas, a fim de tomar decisões automatizadas ou semiautomatizadas sobre questões como a programação de horários, a distribuição de tarefas ou a avaliação de desempenho. Esta definição é útil porque olha para a função e não para o marketing. Um sistema rotulado como «assistente», «copiloto» ou «companheiro de conhecimento» pode estar fora desta descrição num contexto e próximo dela noutro. O rótulo não é prova. O efeito no trabalho é.

O trabalho da EU-OSHA também deixa claro por que razão esta não é apenas uma questão de proteção de dados. Os sistemas que aumentam a monitorização, a pressão de desempenho ou a intensidade do trabalho podem ter consequências para a segurança, a saúde e o bem-estar. A redução da autonomia não é uma objeção abstrata à inovação. Pode mudar se alguém tem espaço suficiente para fazer uma tarefa em segurança, pedir ajuda, exercer o seu discernimento profissional ou recuperar de um período de grande exigência. A organização deve ser capaz de explicar como vai detetar esses efeitos, e não apenas como vai medir o modelo.

Um chatbot pode tornar-se parte deste panorama de formas menos óbvias do que um otimizador de rotas ou um motor de programação de horários. Imagine que produz uma «próxima melhor ação» num ecrã de gestão de casos. Imagine que redige um resumo de desempenho a partir de dados de atividade. Imagine que dá aos supervisores um relato conciso de conversas que eles próprios não leram. Imagine que diz a um trabalhador porque é que o seu turno foi alterado, enquanto os critérios subjacentes permanecem ocultos. A superfície conversacional não elimina a função de gestão. Pode tornar a função mais fácil de aceitar porque a decisão chega numa voz que parece útil.

Não há nada de infantil em levar isto a sério. Os adultos sabem que uma frase educada pode ainda assim conter uma instrução. Num local de trabalho, a educação pode tornar uma instrução mais difícil de contestar, porque transforma uma questão de autoridade numa questão de tom. A resposta certa não é tornar todas as interfaces sombrias. É garantir que as recomendações importantes identificam a sua base, os seus limites e o papel humano que continua a ser responsável pelo resultado.

A supervisão humana não é um clique cerimonial

«Há uma pessoa no circuito» é uma das garantias mais gastas na tecnologia. Pode descrever uma salvaguarda real. Também pode descrever alguém a quem se pede que confirme um resultado em menos tempo do que aquele que é preciso para o compreender, sem acesso à informação que o produziu e com um objetivo que recompensa a concordância. A distinção é importante porque o nome dessa pessoa pode vir a ficar associado à decisão mesmo quando a sua autoridade era ilusória.

O Regulamento IA dá à versão melhor uma forma prática. Para os sistemas de alto risco relevantes, a supervisão humana não é apenas a presença de uma pessoa. Diz respeito a competência, formação e autoridade adequadas. As pessoas encarregadas da supervisão devem ser capazes de compreender as capacidades e limitações relevantes, manter-se conscientes do enviesamento de automatização, interpretar corretamente os resultados e decidir não utilizar, anular ou interromper o sistema quando necessário. As obrigações legais exatas dependem do sistema e do contexto. A lição organizacional vai mais longe: uma supervisão com significado exige conhecimento, tempo, informação e autorização.

Essa autorização é muitas vezes a parte que falta. Um trabalhador pode tecnicamente rejeitar uma recomendação, mas ser na prática desencorajado de o fazer. Talvez rejeitá-la implique um formulário mais longo. Talvez baixe uma métrica de aceitação. Talvez o supervisor encare o desvio como um sinal de que o trabalhador não abraçou o novo processo. Talvez ninguém tenha explicado o que acontece depois de uma anulação, pelo que o caminho mais seguro parece ser o da aceitação. Nada disto exige más intenções. Pode resultar de um fluxo de trabalho construído por pessoas que viam a aceitação como eficiência e não perguntaram de que precisa a recusa para ser real.

Um design fiável torna o caminho da recusa tão legível como o da aceitação. Indica quando o sistema não deve ser utilizado. Dá à pessoa espaço para registar um motivo em linguagem corrente. Envia a discordância para um lugar onde possa produzir uma correção, em vez de a fazer cair numa folha de cálculo onde se torna um pequeno incómodo. Protege o revisor de ser tratado como ineficiente apenas porque o trabalho cuidadoso demora mais tempo. E regista a decisão de uma forma que permita a uma revisão posterior distinguir um resultado do modelo da conclusão da própria pessoa.

As orientações do Comité Europeu para a Proteção de Dados sobre a tomada de decisões individuais automatizada são especialmente úteis como aviso contra o envolvimento humano nominal. A intervenção humana tem de ter significado, não ser um gesto simbólico. Embora o teste legal do artigo 22.º do RGPD tenha as suas próprias condições e não deva ser esticado até cobrir todas as decisões no local de trabalho, a questão subjacente é valiosa: uma pessoa ponderou realmente a informação disponível e tinha autoridade para se afastar do resultado automatizado? Se a resposta for não, a organização não deve usar uma assinatura humana para fazer um acordo automatizado parecer mais responsabilizável do que é.

Consultar antes de o hábito útil se tornar política

Muitos sistemas no local de trabalho são objeto de consulta tarde demais. O fornecedor foi escolhido, o contrato foi assinado, a ligação de dados foi definida, os gestores viram um projeto-piloto promissor e a conversa que resta é descrita como implementação. Nessa fase, ainda pode ser pedido feedback aos trabalhadores, mas o feedback é um canal estreito quando a questão de base já foi decidida. O momento certo para a informação e a consulta é mais cedo, quando a organização ainda está a decidir que problema pretende realmente resolver.

Diretiva 2002/14/CE estabelece um quadro europeu geral para informar e consultar os trabalhadores. O seu âmbito e a sua aplicação nacional são importantes, e não se trata de um manual específico para IA. No entanto, a sua linguagem continua diretamente relevante para uma mudança que pode alterar substancialmente a organização do trabalho. As informações devem ser fornecidas numa altura, de uma forma e com um conteúdo que permitam aos representantes examiná-las adequadamente. A consulta envolve uma troca de pontos de vista e o estabelecimento de um diálogo, com vista à celebração de um acordo sobre decisões no âmbito dos poderes do empregador. Isso é consideravelmente mais sério do que revelar um sistema acabado e chamar à sessão de perguntas participação.

No caso de um chatbot, a consulta precoce deve começar pelo trabalho e não pelo modelo. Que parte da tarefa é difícil? A dificuldade é causada por informação deficiente, dotações de pessoal desiguais, políticas pouco claras, administração repetitiva, sistemas inacessíveis, formação inadequada ou uma necessidade real de um assistente conversacional? Uma ferramenta pode ocultar uma falha organizacional antiga de forma muito eficiente. Se as pessoas não conseguem encontrar uma política porque a política é contraditória, um chatbot pode produzir uma confusão mais suave. Se uma equipa está sobrecarregada porque os pressupostos sobre as dotações de pessoal estão errados, uma ferramenta de redação pode transformar a sobrecarga num resultado mais polido.

Os trabalhadores e os representantes também podem identificar onde um assistente aparentemente inofensivo altera o risco. Eles podem saber que uma frase padrão é insegura num determinado tipo de caso, que um procedimento local tem exceções, que um modelo de linguagem tratará mal um termo especializado, ou que um registo de perguntas revelará informações que as pessoas deveriam poder levantar em privado. Este não é um conhecimento que aparece numa folha de cálculo de aquisições. Faz parte da realidade operacional que determina se um sistema ajuda ou prejudica.

A consulta não é um veto sobre cada implementação. É uma forma de tornar a decisão mais honesta. Obriga a organização a nomear o que vai mudar, quem pode ser afetado, que provas tem, o que não sabe e que salvaguardas está disposta a aceitar. Cria um registo de desacordo que pode ser revisitado quando o sistema mudar. Um design que não sobrevive a uma explicação clara às pessoas que fazem o trabalho não é necessariamente ilegal. Está, no entanto, a pedir confiança em termos invulgarmente fracos.

A voz dos trabalhadores é evidência, não atmosfera

Há o hábito de tratar a voz dos trabalhadores como uma questão de cultura: desejável, calorosa, difícil de medir. Isso é demasiado suave. Num fluxo de trabalho em mudança, as pessoas que encontram as exceções são uma fonte de evidência. Veem os casos que não se encaixam no conjunto de dados, os clientes que não conseguem usar o caminho padrão, o equipamento que falha no frio, o registo que não corresponde à pessoa à sua frente, o lugar onde uma frase de política e uma necessidade humana se separam. Um local de trabalho que remove a sua capacidade de falar está a deitar fora parte do seu sistema de deteção.

Mas ouvir não é o mesmo que recolher comentários. Um formulário de feedback pode tornar-se outro instrumento de vigilância se ninguém souber quem o lê, como é armazenado ou se pode afetar a pessoa que levantou uma preocupação. Um caminho útil tem salvaguardas. Permite que as pessoas reportem um problema sem terem de o traduzir para vocabulário técnico. Distingue um caso individual de um padrão. Dá aos representantes informação agregada suficiente para notarem um problema recorrente. Torna claro quem é responsável pela resposta e quando a organização decidirá se deve alterar o sistema.

Essa via precisa sobreviver a atualizações. Uma consulta pontual sobre a versão um não governa um sistema que depois recebe novas fontes, um modelo diferente, um novo público, prompts adicionais, um painel de desempenho ou uma integração com outro fluxo de trabalho. Um chatbot muda quando o seu contexto muda. Pode ser tecnicamente o mesmo serviço enquanto desempenha um papel social diferente. A governação deve seguir esse papel, não a ordem de compra original.

Há aqui uma modesta lição holandesa: uma caixa de comentários não é um modelo pólder. O diálogo exige uma mesa, um registo e a possibilidade de algo no mapa se mover. A questão não é transformar cada ajuste de prompt numa convenção constitucional. É reconhecer os limiares que merecem novo escrutínio. O sistema usa agora dados de colaboradores? Classifica, aloca, avalia ou recomenda uma ação com consequências graves? O conjunto de pessoas afetadas alargou-se? A via de recusa tornou-se mais difícil? As salvaguardas antigas tornaram-se inadequadas porque a ferramenta faz agora parte de um fluxo de trabalho mais rápido e mais pressionado?

Quando a resposta é sim, a voz deve ter uma via para a governação. Caso contrário, a organização está a pedir às pessoas que identifiquem riscos enquanto reserva o direito de ignorar a evidência que os identifica. Isso não é participação. É teste não pago com melhor papel de carta.

O feedback torna-se governação quando chega a um responsável nomeado, produz uma resposta documentada e pode mudar o sistema. Selecione um ponto no circuito para inspecionar a sua finalidade.

A vigilância não se torna suave por causa de uma bolha de conversa

Os sistemas conversacionais criam uma forma particularmente tentadora de dados no local de trabalho. As perguntas podem revelar incerteza, carga de trabalho, preocupações de saúde, responsabilidades de prestação de cuidados, atividade sindical, stress financeiro, características protegidas ou simplesmente o facto de alguém estar a tentar compreender uma situação difícil. Um registo pode parecer operacionalmente útil porque mostra o que as pessoas perguntam. Também pode tornar-se um mapa de vulnerabilidades. O facto de os dados aparecerem numa ferramenta de trabalho não decide se devem ser recolhidos, retidos, analisados ou reutilizados para avaliação.

A limitação da finalidade é, portanto, uma questão humana antes de ser uma frase de conformidade. Se o assistente é fornecido para ajudar alguém a compreender um procedimento, as suas perguntas serão mais tarde usadas para avaliar a sua competência? Se um gestor pode ver quais os prompts que uma pessoa introduziu, as pessoas evitarão pedir ajuda? Se a organização analisa perguntas recorrentes, pode fazê-lo de uma forma que melhore a documentação sem construir um perfil das pessoas que precisaram dela? Um sistema pode fazer um local de trabalho parecer mais informado enquanto torna a aprendizagem individual menos segura.

A Diretiva do Trabalho em Plataformas oferece um exemplo europeu útil e específico. As suas regras dirigem-se ao trabalho em plataformas, não a todas as relações de trabalho, e devem ser lidas dentro desse âmbito. Ainda assim, mostram um sério juízo público sobre a gestão algorítmica: quando a monitorização automatizada ou a tomada de decisões afeta o trabalho, deve haver transparência, monitorização humana e revisão, vias de explicação e contestação, e cuidado particular em torno de categorias específicas de dados pessoais. A diretiva não faz desaparecer os problemas laborais comuns. Torna mais difícil afirmar que o software está fora das obrigações sociais do trabalho apenas porque chegou através de uma aplicação.

Num ambiente de trabalho em geral, o princípio prático é mais restrito e mais útil do que uma promessa grandiosa de privacidade. Recolha menos. Dê um nome ao propósito. Separe a melhoria do serviço da avaliação de desempenho, a menos que exista uma razão clara e defensável para as ligar. Não transforme as perguntas de uma pessoa numa pontuação de competência não declarada. Não trate a ausência de perguntas como prova de confiança. Não permita que um gestor consulte os registos de conversas apenas porque a plataforma o torna tecnicamente fácil. A disponibilidade técnica não é um propósito legítimo.

Há também uma questão de dignidade que não pode ser reduzida a um campo de dados. Um trabalhador deve poder perguntar como lidar com um problema desconhecido sem criar uma suspeita permanente de que é menos capaz do que alguém que já sabe a resposta. Aprender envolveu sempre incerteza. Um local de trabalho que regista e classifica a incerteza com demasiado entusiasmo pode produzir menos perguntas visíveis e piores decisões. O silêncio é uma métrica muito arrumada. Não é necessariamente um bom sinal.

A formação deve incluir o direito a duvidar

A literacia em IA é frequentemente descrita como a capacidade de utilizar bem uma ferramenta. Isso é apenas metade do requisito. Num local de trabalho, a literacia deve também incluir a capacidade de reconhecer quando não se deve confiar uma pergunta a uma ferramenta, quando uma resposta não tem fundamento, quando uma recomendação tem consequências para além do ecrã e quando é necessário escalar. Uma pessoa que consegue produzir um pedido bem formulado mas não consegue identificar uma resposta enganadora não está totalmente preparada. Aprendeu a interface, não a responsabilidade que a rodeia.

O artigo 4.º do Regulamento IA exige que os fornecedores e os utilizadores tomem medidas para garantir um nível suficiente de literacia em IA entre o pessoal e outras pessoas que lidam com sistemas de IA em seu nome, tendo em conta os seus conhecimentos técnicos, experiência, educação, formação e o contexto em que o sistema é utilizado. Isto é, com sensatez, contextual. Um rececionista, um clínico, um assistente social, um engenheiro, um supervisor e um encarregado de proteção de dados podem precisar de conhecimentos diferentes. Uma apresentação genérica, seguida de um questionário sobre vocabulário, dificilmente cumprirá o objetivo prático.

Uma boa formação começa pelo trabalho real. Quais são as fontes aprovadas do assistente? Que tipo de resposta deve desencadear uma verificação? O que nunca deve ser introduzido? Que resultados podem ser utilizados como rascunho e quais exigem uma segunda fonte? O que deve fazer alguém quando o assistente está indisponível, errado ou invulgarmente confiante? Como se corrige o registo? Quem pode responder a perguntas sobre a ferramenta sem tratar cada preocupação como um ticket de TI? São perguntas banais, o que é encorajador. É nas perguntas banais que vivem os hábitos seguros.

A formação também tem de chegar aos supervisores. Se um gestor interpretar o volume de pedidos, as taxas de aceitação ou o tempo de resposta como um indicador de empenho, os trabalhadores viverão a ferramenta de forma diferente daquela que a apresentação do lançamento descreveu. Os supervisores precisam de compreender os limites desses sinais e os riscos do enviesamento de automatização. Precisam de saber que um resultado não é um facto de desempenho apenas por ter sido gerado a partir de dados do local de trabalho. Precisam de uma instrução clara para não criarem práticas informais de pontuação em torno de um sistema que foi introduzido para assistência.

A forma mais forte de literacia inclui o direito de dizer «não sei se esta resposta é segura de utilizar». Isso não é uma admissão de fracasso. É um juízo profissional sob incerteza. As organizações dizem frequentemente que querem uma utilização responsável e depois constroem uma cultura em que a incerteza parece ineficiente. As duas posições não podem coexistir durante muito tempo. Se a dúvida cuidadosa for punida, a ferramenta será utilizada com confiança até ao ponto em que a confiança se torna cara.

Como é uma avaliação justa

Um sistema não deve ser julgado apenas por ser utilizado. A adoção é um sinal ambíguo. As pessoas podem usar um chatbot porque este poupa tempo de forma genuína, porque um gestor o espera, porque as alternativas se tornaram mais difíceis de aceder, porque foi integrado num ecrã obrigatório, ou porque recusar usá-lo parece falta de entusiasmo. Nenhuma destas razões prova que o acordo seja justo ou útil.

Uma avaliação melhor pergunta o que mudou no trabalho. As pessoas passaram a gastar menos tempo a procurar material verificado, ou apenas mais tempo a verificar respostas fluentes? A ferramenta reduziu a administração duplicada, ou aumentou o volume esperado de trabalho concluído? Tornou um procedimento difícil mais fácil de compreender, ou padronizou uma resposta que deveria ter permanecido sensível ao contexto? Estão a ser identificados mais problemas porque os trabalhadores têm uma via fácil para fazer perguntas, ou estão a ser identificados menos problemas porque as pessoas aprenderam que perguntar deixa rasto? Estes são resultados diferentes, mesmo que o painel mostre uma utilização semelhante.

A avaliação deve incluir as pessoas mais afetadas e deve preservar a diferença entre uma observação medida e uma aspiração. «Esperamos que o assistente reduza o esforço rotineiro» é uma proposta. «Os trabalhadores relataram que o assistente reduziu a pesquisa duplicada durante um projeto-piloto definido» é uma observação, se tiver sido efetivamente registada. «O assistente melhorou a qualidade» precisa de uma definição de qualidade, de um contexto e de provas. Palavras como melhoria, adoção e eficiência podem ocultar uma quantidade notável de políticas não examinadas.

Deve também existir um ponto pré-acordado em que a organização reconsidere o sistema. Um chatbot que se expanda para além do seu propósito inicial, comece a receber dados diferentes ou passe a fazer parte de um fluxo de trabalho de avaliação não deve ser protegido pelo facto de ter sido aprovado, um dia, para algo mais pequeno. A revisão não é um sinal de que a equipa original não tinha confiança. É um reconhecimento de que os sistemas adquirem novas consequências quando as pessoas criam hábitos à sua volta.

O trabalho da OIT sobre IA generativa e emprego é útil aqui porque separa a exposição potencial dos resultados reais. A tecnologia pode complementar, deslocar ou alterar tarefas, dependendo de como as organizações escolhem introduzi-la. A mesma contenção é útil dentro de um único local de trabalho. Uma capacidade não carrega o seu próprio resultado social. Um chatbot pode reduzir o trabalho monótono, intensificar o trabalho, redistribuir conhecimentos especializados, enfraquecer o discernimento profissional ou criar uma melhor via para a evidência. A possibilidade técnica não decide o que acontece. O design, as escolhas de gestão e o equilíbrio de voz decidem.

O limite deve ser posto por escrito

Qualquer implementação séria precisa de uma declaração curta e clara do seu limite. Não um slogan sobre IA responsável, e não um documento legal tão denso que apenas a equipa de aquisições consiga encontrar o ponto. Um limite de trabalho descreve o propósito, as pessoas afetadas, as informações que o sistema pode usar, as informações que não pode usar, as decisões em que pode ajudar, as decisões que não pode tomar, a pessoa responsável pelo fluxo de trabalho, a via para contestar, as circunstâncias em que a ferramenta deve ser suspensa e a data em que o acordo será revisto.

Essa declaração será imperfeita. O trabalho muda. As políticas mudam. Os modelos mudam. Mas o ato de a escrever muda a qualidade da conversa. Dá ao trabalhador algo concreto para comparar com a sua experiência. Dá ao representante uma via para perguntar se a ferramenta se expandiu para além do seu papel declarado. Dá ao gestor um lembrete de que um assistente útil não é uma licença geral para recolher mais dados ou tomar mais decisões mais depressa. Dá ao auditor, ao regulador ou à futura equipa um registo que não depende da memória institucional.

A fronteira deve também separar a recomendação da decisão. Um chatbot pode propor um resumo, um passo seguinte ou um rascunho. O sistema deve indicar quando a proposta se baseia em informação incompleta. O decisor humano deve estar visível no registo. Se uma ação for mais tarde contestada, a organização deve ser capaz de identificar o modelo ou a regra envolvida, a versão relevante, o material que informou o resultado, a pessoa que o reviu e o motivo da escolha final. Isto não é uma exigência de que todas as perguntas do quotidiano se tornem um processo. É proporcionalidade: quanto mais um resultado afeta uma pessoa, mais o percurso até à explicação deve subsistir.

Existe um teste útil. Conseguiria a organização explicar esta fronteira a um novo colega na primeira semana sem usar as palavras «mágica», «sem atritos» ou «o sistema sabe»? Conseguiria explicar a mesma fronteira a um representante dos trabalhadores sem mudar de assunto? Conseguiria explicá-la a uma pessoa que recebeu um resultado desfavorável? Se a resposta for não, o problema não é a falta de sofisticação do público. A fronteira é provavelmente demasiado vaga.

A clareza tem uma virtude discreta. Torna mais difícil afirmar que um sistema apenas assiste quando, na verdade, dirige. Torna mais difícil dizer a um trabalhador que continua a ser responsável enquanto não lhe é dada autoridade para discordar. Torna mais difícil usar um tom conversacional como substituto de uma decisão responsável. Em governação, esse tipo de inconveniente é muitas vezes uma vantagem.

Um ponto pequeno da nossa parte, e um ponto humano maior

Na Dweve, o instinto de design relevante é modesto: as respostas importantes devem manter um caminho de volta para as evidências, os limites e a pessoa responsável por agir sobre elas. Esta é uma posição sobre como um sistema deve apoiar o julgamento, não uma afirmação de que o software pode resolver o poder no local de trabalho ou substituir as instituições que protegem as pessoas no trabalho. Uma resposta bem estruturada pode tornar uma conversa mais útil. Não pode decidir se alguém teve tempo, autoridade ou segurança suficientes para a contestar.

A questão maior pertence a empregadores, trabalhadores, representantes, equipas de segurança, especialistas em proteção de dados, reguladores e ao público. São eles que decidem se um chatbot se torna um instrumento de melhor trabalho ou uma interface agradável para um hábito antigo: extrair mais julgamento das pessoas enquanto se lhes dá menos poder sobre as condições em que esse julgamento é exercido. Nenhuma definição de modelo resolverá isso por si só.

Não confundir simpatia com justiça

Um chatbot pode ser útil no trabalho. Pode ajudar um novo colega a encontrar um procedimento, dar a um especialista um primeiro rascunho, tornar uma política menos obscura ou poupar a uma equipa pesquisas desnecessárias. São coisas que valem a pena. O erro é pensar que uma interface simpática torna também simpáticas as consequências organizacionais. Quanto mais o sistema influencia a atribuição, a avaliação, o acesso, a disciplina ou o relato do que aconteceu, mais cuidadosamente a sua autoridade precisa de ser limitada.

Isso exige alguns compromissos pouco glamorosos: consulta antes de o acordo se consolidar; formação que inclua a dúvida; práticas de dados que respeitem a aprendizagem e a privacidade; supervisão humana com autoridade real; um caminho para contestação individual e coletiva; registos que distinguam uma proposta de uma decisão; e revisão periódica quando o papel do sistema muda. Nenhum destes é uma rejeição da tecnologia. São as condições sob as quais a tecnologia pode entrar num local de trabalho sem pedir às pessoas que entreguem primeiro o seu julgamento.

O chatbot não precisa de se tornar um colega. Pode continuar a ser uma ferramenta, o que é muitas vezes uma ambição melhor e mais honesta. As ferramentas podem ser excelentes. Não precisam de uma mitologia. Precisam de um propósito, uma fronteira, um dono e alguém com autoridade para as largar quando deixam de ajudar.

Fontes