O que é alucinação em IA e como evitar

Alucinação em IA é quando um modelo de linguagem gera uma informação factualmente errada, inventada ou distorcida — e apresenta com confiança, sem sinalizar a incerteza. Acontece porque modelos como o ChatGPT são sistemas de previsão estatística, não bancos de dados de fatos verificados. Eles preveem qual texto faz sentido vir a seguir, o que às vezes produz respostas plausíveis mas falsas.

Por que a IA alucina?

Modelos de linguagem como GPT-4o, Claude e Gemini são treinados para prever a próxima palavra mais provável em uma sequência, com base em padrões de bilhões de textos. Eles não consultam um banco de dados de fatos em tempo real — geram texto que 'soa certo' estatisticamente.

Quando o modelo não tem informação suficiente sobre um assunto, ou quando a pergunta pede um dado muito específico (número, data, nome de pessoa, referência bibliográfica), o modelo pode 'completar o espaço' com algo que parece plausível mas é falso. E o problema é que ele faz isso com o mesmo tom confiante que usa para responder coisas que sabe.

O fenômeno é mais comum com: referências bibliográficas e jurisprudência (citar artigos ou decisões que não existem), dados estatísticos precisos, eventos recentes após a data de corte do modelo, e informações muito específicas sobre pessoas e empresas pouco conhecidas.

Exemplos reais de alucinação

Jurisprudência fictícia: advogados nos Estados Unidos já foram punidos por citar acórdãos que o ChatGPT inventou completamente — com número de processo, nomes de partes e trechos que pareciam reais. No Brasil, o risco é o mesmo.

Estatísticas sem fonte: se você pede 'qual a taxa de desemprego jovem no Brasil em março de 2026?', o modelo pode dar um número preciso que não corresponde a nenhum dado oficial.

Citações de especialistas: modelos podem atribuir afirmações a pesquisadores ou especialistas que nunca disseram aquilo.

Detalhes biográficos: perguntar sobre pessoas pouco conhecidas ou empresas de nicho gera alto risco de informações inventadas — endereços, histórico, cargos, datas.

Como reduzir o risco de alucinação

Não eliminar, mas reduzir — modelos atuais ainda alucinar, mesmo os mais avançados. O que ajuda:

Peça fontes e verifique: 'Qual a fonte dessa afirmação?' ou 'Dê o link de onde tirou isso'. O modelo pode inventar a fonte também, então verifique o link ou referência diretamente.

Use RAG (Retrieval-Augmented Generation): ferramentas que conectam a IA a documentos reais e específicos reduzem muito a alucinação porque o modelo responde com base em texto fornecido, não memória de treino. É o que fazem ferramentas jurídicas como Jusbrasil IA.

Forneça o contexto você mesmo: em vez de 'me explique a resolução CFM sobre IA', cole o texto da resolução e peça 'com base neste texto, explique os pontos principais'. A IA responde com base no documento, não na memória.

Trate a IA como rascunho, não como fonte: use IA para estruturar, redigir e acelerar — mas verifique fatos em fontes primárias antes de usar a informação profissionalmente.

Perguntas frequentes

O ChatGPT sabe quando está alucinando?

Em geral, não — ou pelo menos não sinaliza consistentemente. O modelo pode estar completamente errado e responder com o mesmo tom seguro de quando está certo. Alguns modelos mais recentes foram treinados para expressar incerteza ('não tenho certeza sobre isso'), mas isso não é confiável o suficiente para eliminar a necessidade de verificação.

Algum modelo de IA não alucina?

Todos os modelos de linguagem atuais alucinar em algum grau. A diferença é na frequência e no tipo de tarefa. Modelos mais recentes e maiores alucinar menos, e ferramentas especializadas que usam RAG com base de dados curada alucinar muito menos do que modelos genéricos. Mas nenhum modelo é 100% confiável em fatos.

Como saber se a IA alucionou?

Verificando a fonte. Se a IA cita uma lei, procure a lei no site oficial. Se cita um artigo científico, busque o DOI ou título no Google Acadêmico. Se cita uma estatística, procure a fonte no site do IBGE, CNJ ou órgão responsável. A alucinação só é detectada com checagem externa — a resposta em si parece plausível.

Termos relacionados

Glossário

Prompt Engineering

O que é prompt engineering, para que serve e como aprender do zero. Definição clara com exemplos práticos em português.

Ler →

Mulher brasileira iniciante acessando o ChatGPT pela primeira vez no computador, aprendendo como usar ChatGPT do zero

Guia

Como usar o ChatGPT do zero: guia completo para iniciantes

Aprenda a usar o ChatGPT do zero com este guia passo a passo em português. Do cadastro ao primeiro prompt, sem complicação.

Ler →

Advogado brasileiro usando IA no escritório para elaborar petição, demonstrando IA para advogados na prática

Guia

Como usar IA na advocacia: guia prático para advogados

Guia prático sobre como advogados podem usar IA no dia a dia: pesquisa jurídica, elaboração de peças, contratos e o que a OAB permite. Com exemplos reais e ressalvas.

Ler →