Alucinação de IA: como detectar e verificar respostas do ChatGPT e de outras IAs

Por Anderson Leon Ayora, autor do AYORAI ATTRACTOR · Atualizado em 7 de novembro de 2026

O que é alucinação de IA

Chama-se alucinação de IA quando um modelo de inteligência artificial — como o ChatGPT, o Gemini, o Claude ou outros — produz uma informação que soa plausível, mas é falsa ou não tem apoio nas fontes. Pode ser um número inventado, uma data errada, uma lei que não diz o que foi afirmado ou uma referência bibliográfica que não existe.

Há um tipo de erro mais difícil de perceber: a resposta cita uma fonte real, mas a fonte não sustenta o que foi dito. A citação passa uma sensação de confiabilidade que a resposta não merece. É por isso que "a IA citou a fonte" não é o mesmo que "a informação está comprovada".

Por que a IA erra

Modelos de linguagem são treinados para produzir o texto mais provável a partir do que receberam, e não para consultar fatos a cada frase. Quando faltam dados, quando a pergunta é ambígua ou quando o assunto é muito específico, o modelo ainda assim tende a responder de forma fluente. Mesmo sistemas que buscam documentos antes de responder podem resumir errado, misturar fontes ou atribuir a um documento algo que ele não diz.

Sinais de alerta

• Números, datas ou percentuais muito precisos sem a fonte correspondente.
• Citações, artigos de lei ou referências que você não consegue localizar.
• Links que não abrem ou que levam a páginas sobre outro assunto.
• Respostas muito seguras sobre temas de nicho, recentes ou locais.
• Contradições dentro da própria resposta ou entre duas respostas à mesma pergunta.

Como verificar se a resposta da IA está correta, passo a passo

1. Separe a resposta em afirmações

Uma resposta costuma reunir várias afirmações. Liste cada uma separadamente: é muito mais fácil checar "a lei X entrou em vigor em tal data" do que um parágrafo inteiro.

2. Peça e abra as fontes

Peça à IA as fontes de cada afirmação e abra cada uma. Prefira fontes primárias: o texto da lei, o documento oficial, o artigo científico, o relatório da empresa.

3. Encontre o trecho exato

Localize na fonte o trecho que deveria sustentar a afirmação. Se não encontrar, a afirmação não está verificada — mesmo que a fonte exista.

4. Compare com rigor

O trecho diz exatamente aquilo? Apenas parte? Diz o contrário? Duas fontes dizem coisas diferentes?

5. Classifique e registre

Use categorias claras e anote a fonte e o trecho usados. O AYORAI ATTRACTOR usa cinco vereditos:

Equivalem a: sustentada, parcialmente sustentada, não verificada, em conflito e contraditada. A regra de ouro: falta de evidência não é confirmação.

Verificação em empresas e instituições

Conferir manualmente funciona para uma resposta. Para organizações que usam IA em escala — atendimento, jurídico, financeiro, setor público — a verificação precisa ser sistemática, rastreável e reproduzível. É o campo da auditoria de inteligência artificial.

O AYORAI ATTRACTOR é um projeto brasileiro open source (licença Apache-2.0), de autoria de Anderson Leon Ayora, que automatiza esse método: delimita cada afirmação, relaciona as evidências e sua proveniência, analisa se apoiam ou contradizem a afirmação e deixa a decisão final a um Judge determinístico com regras versionadas. Modelos de linguagem podem auxiliar a análise, mas não são a autoridade do veredito — o princípio do projeto é Inteligência ≠ Autorização ≠ Execução.

Código no GitHub · Documento técnico (PDF)

O que nenhuma ferramenta garante

Nenhuma ferramenta detecta toda alucinação, e nenhuma prova que uma fonte externa é verdadeira — apenas se ela sustenta ou não a afirmação. O AYORAI ATTRACTOR não é apresentado como certificado e ainda não tem resultado de benchmark em português; o estado atual está no Status técnico. Em decisões importantes, a revisão humana continua indispensável.

Perguntas frequentes