Ratgeber
KI-Antworten prüfen: So erkennst und vermeidest du Halluzinationen
Kurz erklärt
Halluzinationen sind KI-Antworten, die überzeugend klingen, aber falsch oder frei erfunden sind. Sie entstehen, weil ein Sprachmodell wahrscheinliche Wörter aneinanderreiht, statt Fakten nachzuschlagen. Prüfe deshalb jede wichtige Aussage: Quelle verlangen, Quelle selbst öffnen, Zahlen und Zitate gegenchecken. Bei Gesundheit, Recht und Geld liefert die KI nur Vorarbeit, entscheiden solltest du mit einer verlässlichen Quelle oder einer Fachperson.
Du fragst eine KI nach einer Studie, bekommst Titel, Autor und Erscheinungsjahr, und alles klingt plausibel. Erst bei der Suche merkst du: Diese Studie gibt es nicht. Das ist kein seltener Ausrutscher, sondern eine bekannte Schwäche aller KI-Assistenten, egal ob ChatGPT, Claude oder Gemini. Das heißt nicht, dass du der KI gar nicht trauen kannst. Du brauchst nur eine einfache Prüf-Routine. Hier erfährst du, warum Fehler entstehen, woran du sie erkennst und wie du sie mit wenigen Handgriffen vermeidest.
Was ist eine KI-Halluzination und warum entsteht sie?
Von einer Halluzination spricht man, wenn eine KI etwas Falsches mit voller Überzeugung behauptet. Das kann eine falsche Jahreszahl sein, ein erfundenes Zitat oder ein Buch, das nie erschienen ist. Die KI lügt dabei nicht absichtlich. Sie merkt schlicht nicht, dass sie danebenliegt.
Der Grund liegt in der Funktionsweise. Ein großes Sprachmodell hat aus riesigen Textmengen gelernt, welches Wort mit hoher Wahrscheinlichkeit als Nächstes folgt. Es schlägt nicht in einer Faktendatenbank nach. Wiederkehrende Muster wie Grammatik lernt es zuverlässig, seltene Einzelfakten wie den Geburtstag einer wenig bekannten Person dagegen nicht. Dann füllt es die Lücke mit etwas, das plausibel klingt.
Dazu kommt: Laut einer Untersuchung von OpenAI belohnen übliche Trainings- und Testverfahren das Raten stärker als ein ehrliches „Weiß ich nicht“. Das ist wie bei einem Multiple-Choice-Test, bei dem eine geratene Antwort Punkte bringen kann, eine leere aber nie. Außerdem kennen Modelle ohne Websuche nur den Stand ihrer Trainingsdaten, aktuelle Ereignisse fehlen also.
Woran erkennst du, dass eine KI-Antwort falsch sein könnte?
Halluzinationen sehen auf den ersten Blick aus wie jede andere Antwort. Diese Warnsignale sollten dich aber stutzig machen:
- Sehr genaue Zahlen, Prozentwerte oder Daten ohne Quellenangabe.
- Wörtliche Zitate, vor allem von bekannten Personen.
- Quellen, Studien, Links oder Gerichtsurteile, die du per Suchmaschine nicht findest.
- Die Antwort ändert sich, wenn du dieselbe Frage noch einmal stellst.
- Widersprüche innerhalb der Antwort oder zu dem, was du sicher weißt.
- Fragen zu sehr aktuellen Ereignissen, Nischenthemen oder wenig bekannten Personen und Firmen.
Wie ernst das werden kann, zeigt ein Fall aus den USA: Dort mussten Anwälte eine Strafe zahlen, weil sie vor Gericht Urteile zitiert hatten, die ChatGPT frei erfunden hatte. Ein selbstbewusster Ton ist also kein Beweis für Richtigkeit.
Wie prüfst du eine KI-Antwort Schritt für Schritt?
Nicht jede Antwort braucht einen Faktencheck. Ein Brainstorming für Ideen darfst du locker nehmen. Sobald du aber etwas weitergibst, veröffentlichst oder danach entscheidest, lohnt sich diese Routine:
- Kernaussagen markieren: Welche Fakten, Zahlen oder Namen wären peinlich oder teuer, wenn sie falsch sind?
- Quelle verlangen: Frag nach, woher die Information stammt, möglichst mit Link.
- Quelle selbst öffnen: Prüfe, ob es die Seite gibt und ob dort wirklich steht, was die KI behauptet.
- Gegenprüfen: Suche eine zweite, unabhängige Quelle, zum Beispiel die offizielle Seite einer Behörde, eines Herstellers oder ein Fachportal.
- Zahlen nachrechnen und auf Aktualität achten: Stimmen Summen und Prozentwerte, und von wann sind die Daten?
Tipp: Lass die Antwort kritisch gegenlesen, am besten in einem neuen Chat oder von einem zweiten Assistenten: „Prüfe diesen Text auf sachliche Fehler und markiere alle Aussagen, die du nicht sicher belegen kannst.“ Das deckt oft Schwachstellen auf, ersetzt aber nicht den Blick in die Originalquelle.
Welche Tools helfen, KI-Antworten mit Quellen zu belegen?
Am einfachsten prüfst du Antworten, wenn die KI ihre Quellen gleich mitliefert. Bei unseren Recherche-Tools findest du dafür passende Helfer, viele davon gratis:
- Perplexity: eine KI-Suchmaschine, die ihre Antworten mit Quellen belegt. Gratis mit 3 Pro-Suchen pro Tag.
- ChatGPT Search: Websuche mit Quellen direkt im Chat, kostenlos mit Limits.
- Google Gemini (Deep Research): erstellt mehrseitige Berichte mit Quellen, auch ohne Abo mit Limits. Wie Deep Research funktioniert, erklärt unser Lexikon.
- Gemini Notebook: Du lädst eigene Unterlagen hoch und stellst Fragen dazu. Die Antworten stützen sich auf deine Quellen statt auf das allgemeine Modellwissen.
- Elicit und Consensus: speziell für wissenschaftliche Studien, jeweils mit begrenzter Gratis-Version.
Wer das regelmäßig braucht, kann es automatisieren: Der Recherche-Agent liefert zu einem Thema ein Briefing mit Quellen, und ein Wissensspeicher für eigene Dokumente beantwortet Fragen mit Quellenangabe aus deinen Dateien. Wichtig: Auch Quellenangaben können danebenliegen. Manchmal fasst die KI eine echte Quelle falsch zusammen, deshalb gilt Schritt drei der Routine immer.
Mit welchen Prompts vermeidest du Halluzinationen?
Ganz verhindern kannst du Fehler nicht, aber mit klaren Anweisungen machst du sie seltener und leichter erkennbar. Diese Formulierungen haben sich bewährt:
- „Wenn du etwas nicht sicher weißt, sag das ausdrücklich, statt zu raten.“
- „Nenne zu jeder Zahl und jedem Fakt die Quelle mit Link.“
- „Antworte nur auf Basis des folgenden Textes. Steht die Antwort nicht darin, schreib: Dazu steht nichts im Text.“
- „Trenne in deiner Antwort gesicherte Fakten von Einschätzungen und Vermutungen.“
- „Welche Teile deiner Antwort sollte ich unbedingt selbst nachprüfen?“
Besonders hilfreich ist der dritte Prompt: Gibst du der KI den Text selbst, etwa einen Artikel oder ein PDF, muss sie nichts aus dem Gedächtnis ergänzen. Weitere Grundlagen findest du im Ratgeber Prompts schreiben für Einsteiger.
Bei welchen Themen ist besondere Vorsicht nötig?
Bei manchen Themen kann ein Fehler echten Schaden anrichten. Hier nutzt du KI nur als Vorbereitung, nie als letzte Instanz:
- Gesundheit: Symptome, Medikamente und Dosierungen immer mit Arztpraxis oder Apotheke klären.
- Recht: Gesetze unterscheiden sich je nach Land und ändern sich. Bei Verträgen, Fristen und Streitfällen hilft eine Anwaltskanzlei oder Beratungsstelle.
- Finanzen und Steuern: Freibeträge, Steuerregeln und Konditionen ändern sich häufig. Prüfe sie bei offiziellen Stellen oder in der Steuerberatung.
- Zahlen und Statistiken: KI verrechnet sich und nutzt mitunter veraltete Daten. Hol dir Statistiken aus der Originalquelle, zum Beispiel von einem Statistikamt.
- Zitate: Wörtliche Zitate sind eine typische Fehlerquelle. Übernimm nur, was du in der Originalquelle gefunden hast.
Trotzdem kann KI hier sinnvoll helfen: Sie erklärt Fachbegriffe verständlich und hilft dir, gute Fragen für den Arzttermin oder die Beratung vorzubereiten. Achte dabei darauf, welche persönlichen Daten du eingibst. Tipps dazu findest du unter Datenschutz bei KI-Tools.
Häufige Fragen
Warum erfindet ChatGPT Quellen?
ChatGPT erzeugt Text Wort für Wort nach Wahrscheinlichkeit. Eine Quellenangabe besteht aus typischen Bausteinen wie Autor, Titel und Jahr, und genau die setzt das Modell manchmal plausibel zusammen, ohne dass es die Quelle gibt. Mit aktivierter Websuche sinkt das Risiko, weil echte Seiten verlinkt werden. Öffne die Links trotzdem immer selbst.
Welche KI halluziniert am wenigsten?
Eine KI ganz ohne Halluzinationen gibt es nicht. Wie oft Fehler auftreten, hängt vom Modell, vom Thema und von deiner Frage ab und ändert sich mit jedem Update. Praktischer als die Suche nach dem fehlerfreien Tool ist ein Assistent mit Websuche und Quellenangaben, denn dann kannst du Aussagen schnell selbst überprüfen.
Kann man KI-Halluzinationen komplett verhindern?
Nein, aber du kannst sie deutlich reduzieren. Gib der KI möglichst viel Kontext oder den Ausgangstext direkt mit, bitte sie, Unsicherheit offen zu sagen, und nutze Tools mit Quellenangaben. Wichtige Aussagen prüfst du anschließend in der Originalquelle. So wird aus einem Risiko ein überschaubarer Kontrollschritt von wenigen Minuten.
Sind KI-Antworten mit Quellenangabe automatisch richtig?
Nein. Quellenangaben machen das Prüfen leichter, sind aber keine Garantie. Die KI kann eine echte Quelle falsch zusammenfassen, Zahlen vertauschen oder eine Seite zitieren, die etwas anderes aussagt. Öffne deshalb bei wichtigen Punkten den Link und lies die betreffende Stelle selbst nach. Das dauert meist nur ein bis zwei Minuten.