Por que a IA inventa coisas com confiança
Por Chatday Editorial Team ·
Faça a um chatbot de IA uma pergunta cuja resposta ele não conhece e aqui vem a parte perturbadora: ele quase nunca diz «não tenho certeza». Em vez disso, muitas vezes te entrega uma resposta segura, polida e completamente inventada: um título de livro falso, uma citação que ninguém disse, uma lei que não existe. A IA não está mentindo de propósito. Ela genuinamente não percebe a diferença. E, assim que você entender por que isso acontece, nunca mais cairá nessa.
O que «alucinação» realmente significa
No mundo da IA, uma «alucinação» é quando um chatbot produz algo que soa verdadeiro, mas não é: uma estatística fabricada, uma fonte inventada, uma resposta errada dita com confiança. A palavra faz parecer algo exótico, mas a versão do dia a dia é simples: a IA preenche uma lacuna do seu conhecimento com um chute convincente e o apresenta como fato.
O complicado é o tom. Uma pessoa que não sabe algo costuma hesitar, ressalvar ou admitir. Uma IA entrega sua invenção com exatamente a mesma calma e confiança que usa para as coisas que acerta. Não há um nervoso «hum, eu acho?», e é exatamente por isso que as pessoas acabam sendo enganadas.
Então, por que isso acontece?
Para entender, você precisa saber o que um chatbot realmente faz por baixo dos panos. Ele não está procurando fatos em um banco de dados. É uma máquina de previsão espetacularmente boa: ela lê sua pergunta e descobre, palavra por palavra, a que uma resposta sensata provavelmente soa, com base em padrões que aprendeu de uma enorme pilha de texto.
Isso é brilhante para escrever um e-mail ou explicar uma ideia. Mas significa que a IA está perseguindo plausibilidade, não verdade. Quando ela sabe a resposta, as próximas palavras mais plausíveis acabam sendo as corretas. Quando não sabe, as palavras que soam mais plausíveis podem ser uma ficção lindamente redigida. A máquina nem sempre consegue distinguir qual é qual: para ela, ambas parecem «uma boa resposta».
| O que você acha que a IA faz | O que ela realmente faz |
|---|---|
| Procura um fato e o relata | Prevê as palavras que soam mais prováveis |
| Sabe quando não sabe | Muitas vezes não distingue um chute de um fato |
| Fica em silêncio se está em dúvida | Preenche a lacuna com algo plausível |
| Cita fontes reais | Pode inventar fontes que parecem reais |
A reviravolta: a IA é treinada para chutar
Aqui vem a parte que surpreendeu até os especialistas. Em um artigo de pesquisa de 2025, a OpenAI explicou que as alucinações não são apenas uma falha: elas são em parte embutidas pela forma como a IA é avaliada durante o treinamento.
Pense em um aluno em uma prova de múltipla escolha. Se uma resposta errada e uma em branco ambas valem zero, mas um chute com sorte pode valer um ponto, o movimento inteligente é sempre chutar. Os modelos de IA são testados de forma muito parecida: a pontuação recompensa uma resposta confiante e pune o «não sei», mesmo quando não saber é a resposta honesta e correta. Então os modelos aprendem a blefar. A solução sugerida pela OpenAI é mudar como os avaliamos, para que admitir incerteza seja recompensado em vez de penalizado.
Isto não é só teórico: tem custos reais
Respostas inventadas já causaram problemas reais:
- Em 2023, dois advogados de Nova York usaram o ChatGPT para ajudar a escrever uma petição jurídica e a apresentaram com seis casos judiciais que não existiam: a IA havia inventado os nomes, as citações e as referências. Um juiz os multou em US$ 5.000.
- Em 2024, um tribunal canadense ordenou que a Air Canada honrasse uma política de reembolso que o próprio chatbot de atendimento havia simplesmente inventado quando um cliente enlutado perguntou sobre tarifas por luto. A companhia aérea alegou que o bot era responsável por si mesmo; o tribunal discordou.
A lição de ambos os casos: a confiança de uma IA não é prova. Para qualquer coisa que realmente importe, jurídica, médica, financeira ou «estou prestes a dizer às pessoas que isto é verdade», você verifica.
Algumas IAs inventam mais coisas do que outras
A alucinação não é igualmente ruim em todos os casos. Testes independentes que medem com que frequência um modelo se mantém fiel aos fatos de uma fonte que lhe é dada mostram diferenças reais, às vezes grandes, entre modelos; e os novos modelos «pensantes», que param para raciocinar antes de responder, tendem a ser mais precisos do que os antigos de resposta instantânea.
É um dos motivos pelos quais vale a pena não se casar com um único chatbot. Se uma resposta parece importante ou surpreendente, fazer a mesma pergunta a um segundo modelo é uma das verificações mais rápidas que existem: se duas IAs diferentes, criadas por empresas diferentes, concordam de forma independente, você pode confiar muito mais do que em uma única voz confiante.
Como obter respostas confiáveis
Você não precisa temer as alucinações: só precisa de alguns hábitos que, silenciosamente, colocam as chances a seu favor:
- Peça as fontes. «De onde você tirou isso? Me dê links que eu possa checar.» Se ele não conseguir apontar nada real, trate a afirmação como um chute.
- Dê os fatos para ele trabalhar. Os modelos alucinam muito menos quando respondem sobre um documento que você fornece do que de memória. Cole o texto, ou use uma ferramenta que permita conversar com um PDF para que a resposta fique ancorada em uma fonte real.
- Cruze com um segundo modelo. Faça a mesma pergunta a outra IA. A concordância tranquiliza; a discordância é um sinal para investigar mais.
- Use um modelo de raciocínio para perguntas difíceis. Os modelos que pensam antes de responder são comprovadamente mais precisos em assuntos complicados (embora ainda não sejam perfeitos).
- Dê uma saída a ele. Adicione «diga “não sei” se não tiver certeza» ao seu prompt. Nem sempre obedecerá, mas reduz visivelmente as bobagens ditas com confiança.
Quer testar o truque do cruzamento agora mesmo? Abra a mesma pergunta em alguns modelos e compare as respostas:
A conclusão
As alucinações da IA não são um sinal de que a tecnologia está quebrada: são um efeito colateral do que a torna tão útil em primeiro lugar: uma máquina espantosamente boa em produzir linguagem fluente e plausível. A solução não é desconfiar da IA, mas usá-la com sabedoria: peça fontes, ancore-a em documentos reais e nunca deixe que uma única voz confiante seja sua única testemunha.
A rede de segurança mais fácil de todas é uma segunda opinião. Faça sua pergunta e depois a faça de novo a um modelo diferente e veja se eles concordam: você pode fazer exatamente isso, de graça, no Chatday, onde Claude, GPT-5.5, Gemini e mais vivem lado a lado.