Vérifier les réponses de l'IA : repérer et éviter les hallucinations

Qu'est-ce qu'une hallucination de l'IA et pourquoi se produit-elle ?

On parle d'hallucination quand une IA affirme quelque chose de faux avec une conviction totale. Il peut s'agir d'une date erronée, d'une citation inventée ou d'un livre qui n'a jamais été publié. L'IA ne ment pas délibérément. Elle ne se rend tout simplement pas compte qu'elle se trompe.

La raison tient à son fonctionnement. Un grand modèle de langage a appris, à partir d'immenses quantités de texte, quel mot a de fortes chances de venir ensuite. Il ne consulte pas une base de données de faits. Il apprend de manière fiable les schémas récurrents comme la grammaire, mais pas les faits isolés et rares comme la date de naissance d'une personne peu connue. Il comble alors le vide avec quelque chose qui semble plausible.

À cela s'ajoute un autre point : selon une étude d'OpenAI, les méthodes d'entraînement et d'évaluation habituelles récompensent davantage le fait de deviner qu'un honnête « Je ne sais pas ». C'est comme un QCM où une réponse au hasard peut rapporter des points, alors qu'une case laissée vide n'en rapporte jamais. De plus, les modèles sans recherche web ne connaissent que l'état de leurs données d'entraînement ; les événements récents leur échappent donc.

Comment savoir qu'une réponse de l'IA pourrait être fausse ?

À première vue, les hallucinations ressemblent à n'importe quelle autre réponse. Ces signaux d'alerte devraient toutefois te mettre la puce à l'oreille :

• Des chiffres, des pourcentages ou des dates très précis sans indication de source.
• Des citations mot pour mot, surtout de personnalités connues.
• Des sources, études, liens ou décisions de justice que tu ne trouves pas avec un moteur de recherche.
• La réponse change quand tu reposes la même question.
• Des contradictions au sein de la réponse ou avec ce que tu sais avec certitude.
• Des questions sur des événements très récents, des sujets de niche ou des personnes et entreprises peu connues.

Un cas aux États-Unis montre à quel point cela peut devenir sérieux : des avocats y ont dû payer une amende parce qu'ils avaient cité devant le tribunal des jugements que ChatGPT avait entièrement inventés. Un ton assuré n'est donc pas une preuve d'exactitude.

Comment vérifier une réponse de l'IA étape par étape ?

Toutes les réponses n'ont pas besoin d'une vérification des faits. Un brainstorming pour trouver des idées peut être pris à la légère. Mais dès que tu transmets quelque chose, que tu le publies ou que tu prends une décision sur cette base, cette routine vaut la peine :

1. Repérer les affirmations clés : quels faits, chiffres ou noms seraient gênants ou coûteux s'ils étaient faux ?
2. Demander la source : demande d'où vient l'information, si possible avec un lien.
3. Ouvrir la source toi-même : vérifie que la page existe et qu'elle dit vraiment ce que l'IA affirme.
4. Recouper : cherche une deuxième source indépendante, par exemple le site officiel d'une administration, d'un fabricant ou un portail spécialisé.
5. Recalculer les chiffres et vérifier leur actualité : les totaux et les pourcentages sont-ils justes, et de quand datent les données ?

Quels outils aident à étayer les réponses de l'IA par des sources ?

Le plus simple pour vérifier des réponses, c'est quand l'IA fournit directement ses sources. Dans nos outils de recherche, tu trouveras des aides adaptées, dont beaucoup sont gratuites :

• Perplexity : un moteur de recherche IA qui étaye ses réponses par des sources. Gratuit avec 3 recherches Pro par jour.
• ChatGPT Search : recherche web avec sources directement dans le chat, gratuite avec des limites.
• Google Gemini (Deep Research) : crée des rapports de plusieurs pages avec sources, même sans abonnement, avec des limites. Notre lexique explique comment fonctionne Deep Research.
• Gemini Notebook : tu importes tes propres documents et tu poses des questions à leur sujet. Les réponses s'appuient sur tes sources plutôt que sur les connaissances générales du modèle.
• Elicit et Consensus : spécialement conçus pour les études scientifiques, chacun avec une version gratuite limitée.

Si tu en as besoin régulièrement, tu peux l'automatiser : l'agent de recherche fournit sur un sujet un briefing avec sources, et une base de connaissances pour tes propres documents répond aux questions en citant les sources tirées de tes fichiers. Important : les indications de source peuvent elles aussi être erronées. Il arrive que l'IA résume mal une vraie source ; c'est pourquoi l'étape trois de la routine s'applique toujours.

Avec quels prompts éviter les hallucinations ?

Tu ne peux pas empêcher complètement les erreurs, mais avec des consignes claires, tu les rends plus rares et plus faciles à repérer. Ces formulations ont fait leurs preuves :

• « Si tu ne sais pas quelque chose avec certitude, dis-le explicitement au lieu de deviner. »
• « Indique pour chaque chiffre et chaque fait la source avec un lien. »
• « Réponds uniquement sur la base du texte suivant. Si la réponse n'y figure pas, écris : Le texte ne dit rien à ce sujet. »
• « Dans ta réponse, sépare les faits établis des appréciations et des suppositions. »
• « Quelles parties de ta réponse devrais-je absolument vérifier moi-même ? »

Le troisième prompt est particulièrement utile : si tu donnes toi-même le texte à l'IA, par exemple un article ou un PDF, elle n'a rien à compléter de mémoire. Tu trouveras d'autres bases dans le guide Écrire des prompts pour débutants.

Sur quels sujets faut-il être particulièrement prudent ?

Sur certains sujets, une erreur peut causer de réels dommages. Ici, tu utilises l'IA uniquement comme préparation, jamais comme instance finale :

• Santé : clarifie toujours les symptômes, les médicaments et les dosages avec un cabinet médical ou une pharmacie.
• Droit : les lois diffèrent d'un pays à l'autre et évoluent. Pour les contrats, les délais et les litiges, un cabinet d'avocats ou un service de conseil juridique t'aide.
• Finances et impôts : les abattements, les règles fiscales et les conditions changent souvent. Vérifie-les auprès des organismes officiels ou d'un conseiller fiscal.
• Chiffres et statistiques : l'IA fait des erreurs de calcul et utilise parfois des données obsolètes. Prends les statistiques à la source, par exemple auprès d'un institut national de statistique.
• Citations : les citations mot pour mot sont une source d'erreur typique. Ne reprends que ce que tu as trouvé dans la source originale.

L'IA peut tout de même être utile ici : elle explique les termes techniques de façon compréhensible et t'aide à préparer de bonnes questions pour le rendez-vous chez le médecin ou la consultation. Fais attention aux données personnelles que tu saisis. Tu trouveras des conseils à ce sujet dans Protection des données avec les outils d'IA.