Conselhos
Verificar respostas da IA: como detetar e evitar alucinações
Em resumo
Alucinações são respostas de IA que soam convincentes, mas que estão erradas ou são pura invenção. Surgem porque um modelo de linguagem encadeia palavras prováveis em vez de consultar factos. Por isso, verifica cada afirmação importante: pede a fonte, abre-a tu mesmo e confirma números e citações. Em temas de saúde, direito e dinheiro, a IA só faz o trabalho preparatório; a decisão deve basear-se numa fonte fiável ou na opinião de um profissional.
Pedes a uma IA um estudo e recebes título, autor e ano de publicação, e tudo parece plausível. Só quando o procuras percebes: esse estudo não existe. Não é um deslize raro, mas uma fraqueza conhecida de todos os assistentes de IA, seja o ChatGPT, o Claude ou o Gemini. Isso não quer dizer que não possas confiar de todo na IA. Precisas apenas de uma rotina de verificação simples. Aqui ficas a saber porque surgem os erros, como os reconheces e como os evitas com poucos gestos.
O que é uma alucinação de IA e porque surge?
Fala-se de alucinação quando uma IA afirma algo errado com total convicção. Pode ser um ano errado, uma citação inventada ou um livro que nunca foi publicado. A IA não mente de propósito. Simplesmente não se apercebe de que está enganada.
A razão está no modo de funcionamento. Um grande modelo de linguagem aprendeu, a partir de enormes quantidades de texto, que palavra tem maior probabilidade de vir a seguir. Não consulta uma base de dados de factos. Padrões recorrentes, como a gramática, aprende-os de forma fiável; factos isolados e raros, como o aniversário de uma pessoa pouco conhecida, já não. Nesse caso, preenche a lacuna com algo que soa plausível.
Acresce que, segundo uma investigação da OpenAI, os procedimentos habituais de treino e de teste recompensam mais o palpite do que um honesto «Não sei». É como num teste de escolha múltipla, em que uma resposta dada ao acaso pode valer pontos, mas uma resposta em branco nunca vale. Além disso, os modelos sem pesquisa na web só conhecem o estado dos seus dados de treino, pelo que os acontecimentos atuais ficam de fora.
Como reconheces que uma resposta da IA pode estar errada?
À primeira vista, as alucinações parecem uma resposta como outra qualquer. Mas estes sinais de alerta devem deixar-te de pé atrás:
- Números, percentagens ou datas muito exatos sem indicação da fonte.
- Citações textuais, sobretudo de pessoas conhecidas.
- Fontes, estudos, links ou decisões judiciais que não encontras num motor de pesquisa.
- A resposta muda quando fazes a mesma pergunta outra vez.
- Contradições dentro da resposta ou em relação àquilo que sabes com certeza.
- Perguntas sobre acontecimentos muito recentes, temas de nicho ou pessoas e empresas pouco conhecidas.
Um caso nos EUA mostra como isto pode ficar sério: aí, uns advogados tiveram de pagar uma multa por terem citado em tribunal decisões judiciais que o ChatGPT tinha inventado por completo. Um tom confiante não é, portanto, prova de exatidão.
Como verificas uma resposta da IA passo a passo?
Nem todas as respostas precisam de uma verificação de factos. Um brainstorming de ideias podes encará-lo com descontração. Mas, assim que passas algo a outras pessoas, o publicas ou tomas uma decisão com base nisso, compensa seguir esta rotina:
- Assinalar as afirmações principais: que factos, números ou nomes seriam embaraçosos ou caros se estivessem errados?
- Pedir a fonte: pergunta de onde vem a informação, de preferência com link.
- Abrir tu mesmo a fonte: verifica se a página existe e se lá diz realmente o que a IA afirma.
- Confirmar noutra fonte: procura uma segunda fonte independente, por exemplo o site oficial de uma entidade pública, de um fabricante ou um portal especializado.
- Refazer as contas e ver se os dados estão atualizados: as somas e as percentagens batem certo, e de quando são os dados?
Dica: Pede uma revisão crítica da resposta, de preferência num chat novo ou a um segundo assistente: «Verifica este texto quanto a erros factuais e assinala todas as afirmações que não consegues comprovar com segurança.» Isso revela muitas vezes pontos fracos, mas não substitui a consulta da fonte original.
Que ferramentas ajudam a fundamentar respostas da IA com fontes?
A forma mais fácil de verificar respostas é a IA fornecer logo as fontes. Nas nossas ferramentas de pesquisa encontras ajudantes adequados para isso, muitos deles gratuitos:
- Perplexity: um motor de pesquisa com IA que fundamenta as respostas com fontes. Gratuito com 3 pesquisas Pro por dia.
- ChatGPT Search: pesquisa na web com fontes diretamente no chat, gratuita com limites.
- Google Gemini (Deep Research): cria relatórios de várias páginas com fontes, também sem subscrição, com limites. O nosso glossário explica como funciona o Deep Research.
- Gemini Notebook: carregas os teus próprios documentos e fazes perguntas sobre eles. As respostas baseiam-se nas tuas fontes e não no conhecimento geral do modelo.
- Elicit e Consensus: especificamente para estudos científicos, ambos com uma versão gratuita limitada.
Quem precisa disto regularmente pode automatizá-lo: o agente de pesquisa entrega um briefing com fontes sobre um tema, e uma base de conhecimento para os teus documentos responde a perguntas a partir dos teus ficheiros, com indicação da fonte. Importante: também as indicações de fontes podem falhar. Por vezes a IA resume mal uma fonte verdadeira; por isso, o terceiro passo da rotina aplica-se sempre.
Com que prompts evitas alucinações?
Não podes impedir os erros por completo, mas com instruções claras torna-los mais raros e mais fáceis de detetar. Estas formulações já provaram a sua eficácia:
- «Se não tiveres a certeza de algo, di-lo explicitamente em vez de adivinhar.»
- «Indica a fonte, com link, para cada número e cada facto.»
- «Responde apenas com base no texto seguinte. Se a resposta não estiver lá, escreve: O texto não diz nada sobre isso.»
- «Na tua resposta, separa os factos comprovados das avaliações e suposições.»
- «Que partes da tua resposta devo mesmo verificar por mim?»
O terceiro prompt é especialmente útil: se deres à IA o próprio texto, por exemplo um artigo ou um PDF, ela não tem de completar nada de memória. Encontras mais noções básicas no guia Escrever prompts para principiantes.
Em que temas é preciso um cuidado especial?
Em alguns temas, um erro pode causar danos reais. Aqui usas a IA apenas como preparação, nunca como última palavra:
- Saúde: esclarece sempre sintomas, medicamentos e dosagens com o médico ou na farmácia.
- Direito: as leis variam de país para país e mudam. Em contratos, prazos e litígios, ajuda um escritório de advogados ou um serviço de apoio jurídico.
- Finanças e impostos: deduções, regras fiscais e condições mudam com frequência. Confirma-as junto de entidades oficiais ou com um contabilista certificado.
- Números e estatísticas: a IA engana-se nas contas e usa por vezes dados desatualizados. Vai buscar as estatísticas à fonte original, por exemplo a um instituto de estatística.
- Citações: as citações textuais são uma fonte típica de erros. Usa apenas o que encontraste na fonte original.
Ainda assim, a IA pode ser uma ajuda útil nestes temas: explica termos técnicos de forma compreensível e ajuda-te a preparar boas perguntas para a consulta médica ou para o aconselhamento. Tem atenção aos dados pessoais que introduzes. Encontras dicas sobre isso em Proteção de dados em ferramentas de IA.
Perguntas frequentes
Porque é que o ChatGPT inventa fontes?
O ChatGPT gera texto palavra a palavra segundo probabilidades. Uma referência bibliográfica é composta por elementos típicos como autor, título e ano, e é exatamente isso que o modelo por vezes junta de forma plausível, sem que a fonte exista. Com a pesquisa na web ativada, o risco diminui, porque são indicadas páginas reais. Mesmo assim, abre sempre tu os links.
Que IA alucina menos?
Não existe uma IA totalmente livre de alucinações. A frequência dos erros depende do modelo, do tema e da tua pergunta e muda a cada atualização. Mais prático do que procurar a ferramenta sem erros é usar um assistente com pesquisa na web e indicação de fontes, porque assim podes verificar as afirmações rapidamente por ti.
É possível evitar completamente as alucinações da IA?
Não, mas podes reduzi-las bastante. Dá à IA o máximo de contexto possível ou o próprio texto de partida, pede-lhe que diga abertamente quando não tem certezas e usa ferramentas com indicação de fontes. Depois, verificas as afirmações importantes na fonte original. Assim, um risco transforma-se num passo de controlo gerível, de poucos minutos.
As respostas da IA com indicação de fontes estão automaticamente certas?
Não. As indicações de fontes facilitam a verificação, mas não são uma garantia. A IA pode resumir mal uma fonte verdadeira, trocar números ou citar uma página que diz outra coisa. Por isso, nos pontos importantes, abre o link e lê tu mesmo a passagem em causa. Normalmente, isso demora apenas um ou dois minutos.