Use Case
KI-Halluzinationen sind erfundene Inhalte, die plausibel klingen — falsche Studien, frei zusammengesetzte Zitate, ausgedachte Personen oder Daten. Mit einer festen 5-Schritte-Routine erkennen Sie diese Fehler, bevor sie in Ihre Arbeit übergehen.
Für wen ist dieser Use Case geeignet?
Dieser Use Case eignet sich für alle, die KI-Ergebnisse weiterverwenden, ohne dass jede Aussage hinterher manuell mit einer Quelle abgeglichen wird: Schreiben, Recherche, Beratung, Berichterstellung, Vorbereitung von Entscheidungen.
Besonders wichtig ist die Routine bei Themen, in denen die KI nicht aktiv im Web sucht — also wenn sie aus dem trainierten Sprachmodell antwortet. Studienangaben, juristische Verweise, historische Daten und Zitate sind klassische Halluzinations-Felder.
Ausgangsproblem
KI-Systeme erzeugen ihre Antworten aus Wahrscheinlichkeiten — sie wissen nicht, ob das, was sie sagen, stimmt. Wenn ein passender Satz fehlt, wird er erfunden. Das Ergebnis: erfundene Studientitel, falsch zugeordnete Autorenschaft, ausgedachte Zahlen, frei zusammengesetzte Zitate.
Halluzinationen sind besonders gefährlich, weil sie sich gut tarnen: sie klingen plausibel, folgen typischen Mustern und passen in den Kontext. Wer keine feste Prüfroutine hat, übersieht sie. Mit einer 5-Schritte-Plausibilitätsprüfung fangen Sie die häufigsten Fälle ab.
Schritt-für-Schritt-Anleitung
Schritt 1: Konkrete Fakten in der Antwort markieren
Lesen Sie die Antwort durch und unterstreichen Sie alle konkreten Fakten:
- Zahlen, Prozentangaben, Jahreszahlen
- Namen von Personen, Studien, Institutionen, Gesetzen
- Zitate und paraphrasierte Aussagen
- Konkrete Behauptungen über Ursachen oder Folgen
- Definitionen mit Bezug auf eine Quelle
Schritt 2: Zahlen und Daten gegen externe Quelle prüfen
Suchen Sie jede markierte Zahl in einer unabhängigen Quelle. Statistisches Bundesamt, OECD, EU-Datenbanken, Fachpublikationen — je nach Thema. Wenn eine Zahl nicht reproduzierbar ist, ist sie wahrscheinlich erfunden oder verzerrt.
Schritt 3: Namen und Quellenangaben prüfen
Tippen Sie genannte Studientitel, Autorennamen und Institutionen in eine Suchmaschine. Häufige Halluzinations-Muster:
- Studientitel klingt plausibel, taucht aber nirgends auf
- Reale Autoren wird eine Studie zugeschrieben, die sie nicht verfasst haben
- Echte Zeitschriften werden für nicht-existente Veröffentlichungen genannt
- Paragraphen werden falsch zitiert oder existieren in dieser Form nicht
Schritt 4: Logische Konsistenz prüfen
Manche Halluzinationen werden erst durch interne Widersprüche sichtbar:
- Passen genannte Zeiträume zusammen? (z. B. „Studie von 2024 zitiert ein Gesetz von 2026″)
- Sind Zahlen rechnerisch stimmig? (z. B. „90 Prozent davon sind 30 von 100″)
- Passen Ursache und Wirkung zueinander, ohne dass etwas übersprungen wird?
Schritt 5: KI nach Quellen fragen — und die Antwort prüfen
Bitten Sie die KI explizit, jede Aussage mit einer Quelle zu belegen. Prüfen Sie dann, ob diese Quellen real sind: existieren sie, sagen sie wirklich das Behauptete, sind sie aktuell? Wenn die KI Quellen nicht nennen kann oder offen sagt, dass sie sich nicht sicher ist, ist das ein wichtiger Hinweis.
Beispielprompt
Ich habe folgende KI-Antwort und möchte sie auf Halluzinationen prüfen.
KI-Antwort:
[Antwort einfügen]
Aufgabe:
1. Liste alle konkreten Faktenaussagen aus der Antwort auf — Zahlen, Namen, Studien, Zitate, Gesetzesverweise, Daten.
2. Bewerte für jede Faktenaussage, wie sicher du als KI bist:
(a) Sicher — basierend auf trainingsdaten
(b) Wahrscheinlich, aber nicht garantiert
(c) Unsicher oder nicht überprüfbar
3. Nenne für jede Aussage, was eine verlässliche externe Quelle wäre, die ich konsultieren kann.
4. Markiere Aussagen, bei denen die Wahrscheinlichkeit einer Halluzination erhöht ist (zum Beispiel exakte Zahlen ohne Standardquelle, sehr spezifische Zitate, nicht-mainstream-Studien).
Wichtig:
- Erfinde keine Quellen. Wenn du keine kennst, sage das.
- Bei Unsicherheit lieber zu vorsichtig einordnen.
- Beziehe dich nur auf Aussagen aus der gegebenen Antwort, nicht auf neue.Qualitätscheck
Bevor Sie die Antwort verwenden, prüfen Sie:
- Sind alle Zahlen in einer unabhängigen Quelle reproduzierbar?
- Existieren genannte Studien und Autoren wirklich?
- Stimmen Zeiträume und Jahreszahlen logisch zusammen?
- Sind genannte Gesetzesverweise im Original prüfbar?
- Hat die KI ihre Unsicherheit selbst gekennzeichnet?
Ein guter Test: Können Sie zu jeder Faktenaussage in der Antwort einen Link oder Buchverweis ergänzen? Wenn nicht, war die Aussage entweder nicht prüfbar oder erfunden — in beiden Fällen gehört sie nicht ohne Markierung in den finalen Text.
Risiken und Grenzen
KI-Halluzinationen wirken sprachlich überzeugend, weil sie aus denselben Mustern stammen wie echte Aussagen. Wer nicht systematisch prüft, übernimmt erfundene Studien und Zahlen ohne es zu merken. Das schadet der Glaubwürdigkeit der eigenen Arbeit.
Auch Tools mit Web-Suche halluzinieren — sie zitieren manchmal Webseiten, die das Behauptete gar nicht enthalten. Quelle anklicken und nachlesen ist Pflicht, nicht Option.
Datenschutzhinweis
Die Prüfroutine selbst arbeitet mit der KI-Antwort, nicht mit zusätzlichen sensiblen Daten. In der Regel sind keine speziellen Datenschutzmaßnahmen notwendig.
Wenn Sie Quellen aus internen Datenbanken oder vertraulichen Dokumenten heranziehen, gelten dafür die internen Datenschutzrichtlinien — nicht in offene KI-Tools hochladen.
Passende Tools
- ChatGPT: gut für Plausibilitätsprüfung und Markierung unsicherer Aussagen
- Claude: kennzeichnet Unsicherheit oft proaktiv und differenziert
- Perplexity: liefert Quellenangaben mit, die direkt prüfbar sind — gut zur Verifikation
- Gemini: mit Google-Suche-Integration sinnvoll für Quellenabgleich