Eine KI-Halluzination liegt vor, wenn ein Sprachmodell falsche Informationen erfindet und sie überzeugend als Fakten präsentiert – erfundene Quellen, falsche Zahlen, nicht existierende Gerichtsurteile oder Produkte. Das Gefährliche daran: Die Antwort klingt genauso souverän wie eine richtige.
Warum halluzinieren KI-Modelle?
Ein LLM erzeugt Text, indem es das wahrscheinlich nächste Token vorhersagt – es hat keine eingebaute Instanz, die „wahr“ von „falsch“ unterscheidet. Fehlt dem Modell Wissen, produziert es trotzdem eine flüssige, plausibel klingende Antwort, statt zuzugeben, dass es etwas nicht weiß. Besonders häufig passiert das bei sehr spezifischen Fakten: Namen, Daten, Zitaten, Quellenangaben, Paragrafen und Zahlen.
So reduzierst du Halluzinationen
- Quellen mitliefern: Gib der KI das Dokument oder die Daten, auf die sie sich stützen soll – statt sie aus dem „Gedächtnis“ antworten zu lassen (Stichwort RAG).
- Websuche aktivieren: Viele Chatbots können live nachschlagen und ihre Antwort mit Links belegen – die Belege stichprobenartig prüfen.
- Nachfragen erlauben: Formulierungen wie „Wenn du etwas nicht sicher weißt, sag es“ senken die Rate erfundener Fakten spürbar.
- Kritisch bleiben: Alles, was rechtliche, finanzielle oder gesundheitliche Folgen hat, grundsätzlich gegenprüfen.
Werden Halluzinationen je verschwinden?
Neuere Modelle halluzinieren deutlich seltener als frühere Generationen, und Techniken wie Quellenanbindung und Websuche entschärfen das Problem weiter. Ganz verschwinden wird es nach heutigem Stand aber nicht – der Umgang damit gehört zur KI-Grundkompetenz. Wie du KI-Antworten effizient prüfst, zeigen wir in unseren Anleitungen.
Verwandte Begriffe
LLM · RAG · Prompt · Zum ganzen KI-Glossar