Alucinação de IA: quando a IA responde com segurança o que não sabe
Um atendente novo pergunta ao assistente de IA da empresa qual é o prazo de troca de um produto. A resposta vem rápida, educada e objetiva: “30 dias, sem custo de frete”. O problema é que a política real é de 7 dias, e o frete é do cliente. Ninguém mentiu de propósito. A IA simplesmente preencheu uma lacuna com algo que soava plausível.
Esse fenômeno tem nome: alucinação. Para quem decide sobre tecnologia, entender o conceito vale mais do que decorar o termo, porque ele muda a forma de escolher, ligar e vigiar qualquer IA dentro da operação.
O que é alucinação de IA?
Modelos de linguagem, os LLMs por trás dos assistentes de IA, não consultam uma enciclopédia. Eles foram treinados para completar texto de forma coerente: dada uma pergunta, produzem a sequência de palavras mais provável. Quando a informação existe e é comum, o resultado costuma sair certo. Quando ela não existe, é rara ou específica da sua empresa, o modelo continua escrevendo do mesmo jeito, com a mesma firmeza.
É isso que a alucinação é: uma resposta fluente, confiante e sem base real. O tom não muda entre o acerto e o erro, e por isso o erro passa despercebido.
Um bom jeito de pensar: a IA se comporta como um profissional brilhante que nunca diz “não sei”. Ele prefere improvisar a admitir a lacuna.
Por que isso acontece, em termos simples?
Três situações aparecem com frequência no dia a dia das empresas:
A informação nunca esteve ao alcance da IA. Regras internas, preços negociados, contratos e o jeito próprio de operar da sua empresa não estão na internet. O modelo não tem como saber, mas responde mesmo assim.
A informação está desatualizada. O modelo aprendeu em uma data e não sabe o que mudou depois: uma alíquota nova, um fornecedor trocado, uma regra que o setor revisou semana passada.
A pergunta é ambígua. “Qual o limite de crédito do cliente?” pode se referir ao limite aprovado, ao disponível ou ao do grupo econômico. Sem pedir esclarecimento, a IA escolhe um sentido e segue em frente. Por isso as definições do negócio precisam estar escritas e aprovadas, como explicamos no artigo sobre ontologia de negócio.
Onde a alucinação machuca a operação?
Em conversa livre, o custo é um constrangimento. Quando a IA está ligada ao trabalho real, o custo passa a ser financeiro e jurídico:
- Atendimento: o assistente promete prazo, desconto ou garantia que a empresa não oferece, e o cliente guarda a conversa como prova.
- Jurídico e compliance: um resumo de contrato cita uma cláusula que não existe, ou omite a que importa.
- Financeiro e fiscal: uma resposta sobre imposto ou regra de conciliação soa certa, mas se apoia em norma antiga.
- Sistemas legados: a IA explica o que um módulo antigo faz sem ter lido o código de fato, e a equipe planeja a migração em cima de uma descrição inventada.
Em todos os casos o padrão é o mesmo: a resposta errada não vem com aviso. Parece igual à certa.
Dá para eliminar a alucinação?
Hoje, não por completo — a OWASP LLM09:2025 (Misinformation) trata a alucinação como causa central de informação falsa em LLMs —, e desconfie de quem prometer isso. A boa notícia é que dá para reduzir bastante a frequência e, principalmente, o estrago. A lógica é parar de pedir que a IA “lembre” e passar a exigir que ela mostre de onde tirou a resposta.
- Dar a fonte certa à IA. Conectar o assistente aos documentos, regras e dados atuais da empresa, em vez de deixá-lo responder de memória. A resposta passa a nascer de material verificável: é o que se chama de RAG.
- Exigir citação. Toda resposta importante deve apontar o documento ou o registro que a sustenta. Sem fonte, a resposta não vale.
- Permitir o “não sei”. Instruir a IA a admitir quando não encontrou a informação e a encaminhar para uma pessoa, em vez de improvisar.
- Colocar uma pessoa onde o erro custa caro. Preço, contrato, imposto e qualquer ação irreversível passam por revisão humana antes de chegar ao cliente ou ao sistema — os guardrails de IA definem exatamente onde essa barreira entra.
- Medir com perguntas de resposta conhecida. Manter um conjunto de perguntas cujas respostas a empresa já sabe e conferir, de tempos em tempos, se a IA continua acertando.
Que perguntas um gestor de TI deve fazer antes de ligar uma IA?
Algumas perguntas simples já separam um projeto maduro de uma aposta:
- De onde a IA tira cada resposta: de documentos da empresa ou da memória do modelo?
- A resposta mostra a fonte, de forma que alguém consiga conferir em segundos?
- O que acontece quando a IA não sabe? Ela admite ou improvisa?
- Quais respostas passam por uma pessoa antes de valer?
- Quem confere, mês a mês, se a qualidade se manteve?
Se o fornecedor não responde com clareza a essas cinco perguntas, quem fica sem controle é você.
Como a RETTA ajuda?
A RETTA, software house e empresa de outsourcing de TI de Lajeado/RS, ajuda a colocar a IA para trabalhar sobre os dados e os sistemas da própria empresa, inclusive os legados, com fonte à vista, regra para o “não sei” e revisão humana nos pontos em que o erro custa caro. Assim a IA deixa de ser um palpite confiante e passa a ser uma ferramenta que a sua equipe consegue conferir e auditar.
Quer descobrir onde a alucinação pode aparecer nos processos da sua empresa? Agende um diagnóstico gratuito de IA.