Quando a IA inventa: como evitar que um agente dê resposta errada ao seu cliente

Open Mind IA · 14 de setembro de 2026 · 11 min de leitura

Existe um momento específico que costuma decidir se um projeto de IA vai adiante ou morre na primeira semana: aquele em que alguém da equipe faz uma pergunta simples ao assistente e recebe uma resposta que soa perfeita — educada, bem escrita, confiante — e completamente errada. O prazo de entrega que não existe. O desconto que a empresa nunca ofereceu. A condição de pagamento que ninguém autorizou. O texto é impecável; o conteúdo é ficção.

Esse comportamento tem nome técnico: alucinação. E é, de longe, a objeção mais legítima que ouvimos de empresários que estão avaliando colocar um agente de IA para conversar com clientes. A pergunta nunca é "a IA consegue responder?" — todo mundo já viu que consegue. A pergunta é "e quando ela responder errado na frente do meu cliente?". É uma preocupação correta, e merece uma resposta técnica em vez de uma promessa de vendedor.

A boa notícia é que alucinação não é um mistério nem um defeito irreparável. É uma consequência previsível de como esses modelos funcionam — e, justamente por ser previsível, pode ser contida com decisões de arquitetura. Um agente bem construído erra muito menos que um agente improvisado, e quando erra, erra de forma segura. Este artigo explica por que a IA inventa, e quais controles concretos separam um assistente confiável de um gerador de problemas.

O que é alucinação, sem jargão

Um modelo de linguagem não é um banco de dados. Ele não "consulta" uma verdade guardada em algum lugar e devolve o registro encontrado. O que ele faz é prever qual é a continuação mais plausível de um texto, palavra por palavra, com base nos padrões que aprendeu ao ler uma quantidade enorme de material. É uma máquina de plausibilidade, não de veracidade.

Isso explica o comportamento estranho. Quando você pergunta ao modelo qual é o prazo de entrega do produto X e ele nunca viu essa informação, ele não tem um mecanismo natural para dizer "não sei". O que ele tem é um mecanismo para completar a frase de forma convincente. E "o prazo médio de entrega é de 5 a 7 dias úteis" é uma continuação estatisticamente plausível para aquela pergunta, porque frases assim aparecem o tempo todo em textos comerciais. O modelo não está mentindo no sentido humano do termo — ele está fazendo exatamente o que foi treinado para fazer, num contexto onde isso não serve.

Daí vem a característica mais perigosa da alucinação: ela não vem acompanhada de aviso. Um sistema tradicional que não encontra o dado devolve erro, tela em branco, "registro não localizado". Um modelo de linguagem devolve um parágrafo bem escrito. A ausência de informação e a informação correta chegam com a mesma aparência de segurança. Quem lê não tem como distinguir só pelo tom.

Por que isso é mais grave no atendimento do que em outros usos

Vale separar os cenários, porque o risco não é o mesmo em todos. Se você usa IA para redigir um rascunho de e-mail que você vai revisar antes de enviar, uma alucinação custa trinta segundos de correção. Existe um humano no caminho, e ele funciona como filtro natural.

Já um agente que conversa direto com o cliente no WhatsApp não tem esse filtro. A resposta sai no mesmo instante em que é gerada, sem ninguém no meio. E ela não sai como opinião de um robô: sai com o nome da sua empresa em cima. Se o agente prometeu um prazo, o cliente entendeu que a empresa prometeu um prazo. Em alguns casos isso é apenas um desconforto a ser desfeito com um pedido de desculpas; em outros — preço, condição comercial, orientação técnica, informação sobre garantia — pode gerar consequência jurídica ou financeira real.

Por isso o desenho de um agente de atendimento precisa partir de uma premissa diferente da de um assistente interno. Não basta que ele acerte na maioria das vezes. Ele precisa ser construído de modo que, quando não souber, o resultado seja silêncio ou transferência — nunca invenção.

Controle 1: tirar o modelo do papel de fonte de informação

O erro estrutural mais comum é tratar o modelo como se ele fosse a fonte da verdade sobre a sua empresa. Ele não é, e nunca vai ser — ele não conhece seu estoque, sua tabela de preços, sua política de troca, o pedido número 4.812 nem a situação financeira daquele cliente específico.

A correção é mudar o papel dele na arquitetura. Em vez de responder de memória, o agente é obrigado a buscar a informação nos seus sistemas antes de falar. A pergunta do cliente é interpretada, transformada em uma consulta ao ERP, ao banco de dados ou à base de documentos da empresa, e só então o modelo entra em cena — para transformar o dado retornado em uma frase clara em português. Ele deixa de ser o autor da informação e passa a ser o tradutor dela.

Essa distinção parece sutil e é decisiva. Um agente que responde de memória pode inventar um prazo. Um agente que consulta o pedido antes de responder devolve o prazo que está no sistema — ou devolve "não localizei esse pedido", que é uma resposta honesta e útil. O padrão técnico que implementa isso costuma ser chamado de recuperação de contexto: a resposta é sempre ancorada em um dado recuperado, e o que não foi recuperado não pode ser afirmado.

Controle 2: escopo fechado em vez de assistente universal

Existe uma tentação natural, na hora de implantar, de deixar o agente responder qualquer coisa. Afinal, ele consegue. O problema é que a capacidade de responder qualquer coisa inclui a capacidade de responder errado sobre qualquer coisa.

Agentes confiáveis têm escopo declarado e estreito. Ele responde sobre status de pedido, segunda via de boleto, horário de funcionamento, rastreio de entrega e agendamento — e recusa educadamente o resto, oferecendo o caminho humano. Não é limitação por falta de tecnologia; é limitação de projeto, e é ela que sustenta a confiança. Quanto mais estreito o escopo, mais previsível o comportamento e mais fácil testar se ele está certo.

Na prática, definir esse escopo é o trabalho mais valioso do início de um projeto, e é um trabalho de negócio, não de tecnologia. Vale mapear as perguntas que mais chegam, separar as que têm resposta objetiva e verificável em sistema das que exigem julgamento, negociação ou contexto humano, e automatizar só o primeiro grupo. Costuma ser um grupo pequeno em variedade e enorme em volume — o que é exatamente o alvo ideal de automação.

Controle 3: caminho de escape obrigatório

Todo agente precisa ter uma saída pronta para quando não souber. E essa saída precisa ser a opção mais fácil para ele, não a mais difícil, porque é isso que determina se ele vai usá-la.

Na configuração, isso significa instruir explicitamente que responder "não tenho essa informação, vou te encaminhar para alguém do time" é um resultado aceitável e desejável, e não uma falha. Significa também definir gatilhos automáticos de transferência: cliente irritado, assunto financeiro sensível, reclamação formal, pergunta fora do escopo, terceira tentativa sem resolução. Nesses casos o agente não tenta mais — ele passa a conversa, com o histórico, para uma pessoa.

Vale insistir num ponto contraintuitivo: um agente que transfere 30% das conversas e acerta 100% do que responde é infinitamente melhor para o negócio do que um que resolve tudo e erra 5%. O primeiro economiza 70% do tempo do time com segurança. O segundo gera desconfiança, retrabalho e, eventualmente, o abandono do projeto — porque bastam dois ou três erros visíveis para que todo mundo dentro da empresa passe a checar manualmente cada resposta, e aí a automação deixou de existir na prática.

Controle 4: registro e auditoria de conversas

Nenhum controle preventivo é perfeito, então é preciso enxergar o que está acontecendo. Todo agente em produção deve registrar as conversas de forma consultável: o que o cliente perguntou, quais dados o sistema buscou, o que o agente respondeu e como terminou o atendimento.

Esse registro serve a três propósitos. O primeiro é corretivo: quando um erro aparece, você consegue reconstituir exatamente onde ele nasceu — a consulta falhou? o dado estava errado na origem? a instrução era ambígua? O segundo é de melhoria contínua: lendo as perguntas que caíram fora do escopo, você descobre o que vale a pena incorporar no próximo ciclo. O terceiro é gerencial: volume atendido, taxa de resolução e taxa de transferência são os indicadores que mostram se a automação está entregando o resultado prometido.

Na maioria das implantações, as duas primeiras semanas de registro ensinam mais sobre o atendimento da empresa do que meses de percepção subjetiva. É comum descobrir que metade das mensagens era uma única pergunta repetida — e que ninguém tinha percebido.

Controle 5: testar com as perguntas ruins, não com as boas

A última defesa é o teste, e quase todo mundo testa errado. A tendência natural é fazer ao agente as perguntas que ele obviamente responde: "qual o horário de funcionamento?", "onde está meu pedido?". Ele acerta, todo mundo se impressiona, e o sistema vai ao ar sem nunca ter sido pressionado.

Um teste sério é feito com o pior repertório possível: perguntas fora do escopo, perguntas ambíguas, perguntas sobre pedidos que não existem, perguntas com informação falsa embutida ("como faço para usar o desconto de 40% que vocês me prometeram?"), perguntas em que o cliente insiste depois de já ter recebido um "não sei". O que você está medindo não é a taxa de acerto — é o comportamento no erro. O agente admite que não sabe? Transfere? Ou tenta agradar e inventa?

Um roteiro mínimo de validação

• Pergunta inexistente: peça informação sobre um produto ou pedido que não existe e verifique se ele nega em vez de descrever.
• Premissa falsa: afirme algo falso como se fosse verdade e veja se ele corrige ou concorda.
• Fora do escopo: pergunte algo alheio ao negócio e confirme que ele redireciona.
• Insistência: repita a mesma pergunta três vezes e confira se ele mantém a mesma resposta ou começa a variar.
• Assunto sensível: traga uma reclamação ou tema financeiro e verifique se o handoff para humano dispara.

Como começar com risco baixo

Se você quer colocar um agente de IA no atendimento sem se expor, um caminho conservador funciona bem. Comece pelo uso interno: deixe o agente responder ao seu próprio time por algumas semanas. Erros ali são gratuitos e ensinam muito. Em seguida, avance para o modo copiloto, em que o agente redige a resposta mas um atendente humano aprova antes de enviar — você ganha velocidade sem abrir mão do filtro, e vai medindo a taxa de aprovação.

Quando a taxa de aprovação estabilizar em um nível alto, libere o atendimento autônomo apenas para as categorias mais objetivas: status de pedido, boleto, horário, rastreio. Tudo o mais continua indo para humano. A partir daí, amplie categoria por categoria, sempre com o registro ligado e com um número claro de taxa de erro para cada uma. Essa progressão troca a pergunta "a IA é confiável?" — que não tem resposta — pela pergunta "a IA é confiável nesta categoria específica, com esse escopo, medida por esse indicador?", que tem.

E vale dizer com franqueza: a maior parte do trabalho aqui não é de inteligência artificial. É de organização de dados e de processo. Um agente só consulta o pedido se existir uma forma confiável de consultar o pedido. Se a informação está em três lugares diferentes e nenhum deles é atualizado com disciplina, a IA vai apenas expor esse problema em alta velocidade. Empresas cujos dados estão organizados implantam agentes confiáveis em semanas; empresas cujos dados estão espalhados levam meses — e o gargalo nunca é o modelo.

Confiança é arquitetura, não sorte

Alucinação não se resolve pedindo ao modelo que não invente. Resolve-se com arquitetura: dado buscado na fonte em vez de recuperado da memória, escopo estreito e declarado, caminho de escape obrigatório, registro auditável e teste feito com as perguntas difíceis. Nenhum desses cinco controles é exótico ou caro. O que eles exigem é que alguém decida projetar o agente antes de ligá-lo.

É assim que a Open Mind IA trabalha em projetos de IA aplicada ao negócio e de automação de WhatsApp: o agente é ligado aos dados reais da empresa, com escopo definido junto com quem conhece o atendimento, transferência para humano desenhada desde o primeiro dia e registro de conversas para acompanhar o resultado. Antes de escrever qualquer prompt, fazemos o diagnóstico de onde os dados estão e do que pode ser respondido com segurança — porque um agente confiável é, no fundo, consequência de uma casa organizada.

Se você está avaliando colocar IA no seu atendimento e a dúvida que trava a decisão é exatamente essa — "e se ela errar na frente do cliente?" — é uma boa conversa para ter. Nossa recomendação costuma ser começar menor do que o cliente imagina e crescer com número na mão.