Halluzination (KI): Definition & Erklärung — Glossar

Was ist eine KI-Halluzination?

KI-Halluzinationen bezeichnen Ausgaben von Large Language Models (LLMs), die faktisch falsch, erfunden oder irreführend sind, jedoch mit hoher Überzeugungskraft und ohne Unsicherheitsmarkierung formuliert werden. Das Modell “halluziniert” Fakten, Zitate, Quellen oder Sachverhalte, die nicht existieren oder falsch dargestellt sind.

Ursachen von Halluzinationen

LLMs sind statistische Textgeneratoren, die auf Basis von Wahrscheinlichkeiten den nächsten Token vorhersagen. Sie haben keine Möglichkeit zu “wissen”, ob eine Aussage wahr ist – sie kennen keine Trennung zwischen Fakten und Mustern. Halluzinationen entstehen besonders bei: Fragen zu spezifischen Fakten außerhalb des Trainingszeitraums, seltenen oder spezialisierten Themen, Anfragen nach Quellen und Zitaten sowie bei Prompts, die das Modell zu einer bestimmten Antwort drängen.

Auswirkungen im Unternehmenseinsatz

In professionellen Kontexten können Halluzinationen erheblichen Schaden anrichten: falsche rechtliche Informationen, erfundene Produktspezifikationen, nicht existierende Ansprechpartner in Angeboten oder fehlerhafte technische Dokumentation. Deshalb sind Human-in-the-Loop-Prozesse und Qualitätssicherung beim LLM-Einsatz unverzichtbar.

Mitigation-Strategien

Retrieval Augmented Generation (RAG) verankert Antworten in verifizierten Dokumenten. Grounding-Techniken zwingen das Modell, Antworten auf bereitgestellte Quellen zu stützen. Konfidenzscores und Unsicherheitsmarkierungen signalisieren, wann das Modell unsicher ist. Ausgabe-Validierung durch nachgelagerte Prüfung oder spezialisierte Verifikationsmodelle fangen Fehler ab. Regelmäßige Evaluation gegen Testsets misst die Halluzinationsrate eines Modells.