A régua que decide quando a IA pode responder sozinha, e o que ela faz quando não sabe

Antes de qualquer cliente real conversar com o Gottit, em teste pela Mutagex, veio uma pergunta que importa mais do que parece: quando o agente de IA que atende no WhatsApp não souber a resposta certa, o que ele faz? A tentação óbvia é deixar ele tentar mesmo assim, afinal uma resposta gerada na hora quase sempre sai fluente, educada e convincente. É exatamente por isso que essa tentação precisa ser recusada.

O problema não é a IA errar, é a IA errar com confiança

Em fevereiro de 2024 o Tribunal de Resolução Civil da Columbia Britânica, tribunal de pequenas causas do governo dessa província canadense, julgou o caso de um passageiro que perguntou ao chatbot do site da Air Canada como funcionava a tarifa de luto, depois da morte da avó dele. O chatbot respondeu que ele podia comprar a passagem no preço normal e pedir o reembolso da diferença depois, dentro de 90 dias. Essa informação estava errada: a política real da empresa exigia o pedido antes da viagem. A Air Canada se recusou a reembolsar e, levada ao tribunal, alegou que o chatbot era "uma entidade legal separada, responsável pelas próprias ações". O tribunal rejeitou o argumento, chamou de notável a tentativa e condenou a empresa a pagar a diferença. O detalhe que fica: o chatbot não mentiu por maldade, nem tinha motivo para enganar ninguém. Ele só respondeu com a mesma confiança de sempre a uma pergunta para a qual não tinha a resposta certa guardada.

A régua antes de ligar o microfone

Foi para não repetir esse erro que a régua de liberar o agente do Gottit para responder sozinho virou uma condição fechada, não um sentimento de "parece que já está bom". O critério: zero resposta com dado errado em três rodadas seguidas de pelo menos 200 casos de teste, cobrindo os tipos de pergunta que o nicho do cliente realmente faz. Enquanto isso não acontecer, ninguém libera. Não é desconfiança do time que constrói, é reconhecer que uma taxa de erro que parece pequena em teste controlado chega multiplicada quando vira volume real de conversa, com gente de verdade do outro lado decidindo se aquilo é verdade.

O segundo número da régua é o limite de quanto o agente pode recorrer à resposta de segurança, descrita abaixo, quando a pergunta cai dentro do que ele deveria saber responder pela base de conhecimento daquele negócio: até 10% das vezes. Passar disso quer dizer que a base de respostas está rasa para aquele nicho, e o problema não é o agente, é o material que ele tem para trabalhar.

Quando não sabe, ele não inventa: ele devolve o texto aprovado

A parte que de fato evita o caso da Air Canada é o que acontece quando a verificação interna reprova a resposta que o agente gerou. A saída não é deixar ele tentar de novo com outras palavras, nem admitir incerteza e inventar algo plausível. Quando existe um texto já aprovado por uma pessoa que responde àquela pergunta, é esse texto, colado, que o cliente recebe. No pior caso, a resposta sai um pouco menos natural. No caso que importa, o cliente nunca lê uma informação fabricada apresentada com a mesma confiança de uma informação real.

Essa escolha segue a mesma lógica que a Anthropic, empresa que desenvolve o Claude, descreve no próprio material sobre como treinar um agente de IA confiável, publicado em abril de 2026: o ponto não é fazer o modelo nunca errar, isso não existe. O ponto é treinar o agente para parar e admitir a lacuna, em vez de agir sobre uma suposição só porque uma resposta qualquer sai mais rápido que nenhuma resposta. A Anthropic chama esse comportamento de parte do "harness", a camada de regra que segura o agente além do que o modelo sozinho decidiria fazer.

Por que essa lacuna aparece tanto mais do que a intuição sugere, há número de sobra. Pesquisadores de Stanford HAI e do Stanford RegLab, dois centros de pesquisa da própria universidade, testaram em janeiro de 2024 modelos de linguagem geral (GPT-3.5, Llama 2, PaLM 2, nenhum deles treinado especificamente para isso) com pergunta jurídica real e mediram quantas vezes a resposta trazia fato inventado sobre lei ou jurisprudência. A taxa, nas perguntas mais específicas, chegou de 69% a 88%. Esse número é de um domínio diferente do atendimento de WhatsApp, mas o mecanismo é o mesmo: o modelo não sabe que não sabe, e continua respondendo com a mesma fluência de quando sabe.

O que fica, mesmo fora do atendimento

Toda empresa que coloca um agente de IA para falar direto com cliente, sem revisão humana em cada mensagem, está decidindo, mesmo sem perceber, o que acontece na hora em que o modelo não tem a resposta certa. Deixar ele improvisar é apostar que a fluência do texto vale mais do que a exatidão do fato, e o caso da Air Canada mostra o preço dessa aposta em tribunal. A alternativa exige duas coisas antes de qualquer cliente real entrar na conversa: uma régua numérica de quando o agente está pronto, testada contra volume de caso real antes de qualquer promessa de que "já está bom", e uma saída de segurança que devolve o texto certo, mesmo menos bonito, no lugar do texto inventado.