Halluzination.

Ein Sprachmodell hat kein Konzept von Wahrheit. Es setzt Wortfolgen fort, die zu seinen Trainingsmustern passen, und ein flüssiger, selbstsicherer Ton ist dabei eine Eigenschaft der Sprache, keine Aussage über Sicherheit. Genau das macht Halluzinationen tückisch: Der Fehler kommt nicht holprig daher, sondern in derselben souveränen Form wie die richtige Antwort. Typische Muster sind erfundene Quellenangaben mit korrekt aussehendem Format, plausible, aber falsche Zahlen, nicht existierende Funktionen einer Software und Paragraphen, die es so nie gab. Auffallend häufig treten sie bei Nischenthemen auf, zu denen wenig Trainingsmaterial existiert.

Vollständig abstellen lässt sich das nicht. Ein Teil des Problems ist strukturell: Wer immer eine Antwort gibt, schneidet in den üblichen Bewertungen besser ab als wer zugibt, etwas nicht zu wissen — Raten wird also belohnt. Grounding und Retrieval senken die Fehlerrate deutlich, weil das Modell aus mitgelieferten Dokumenten statt aus dem Gedächtnis antwortet. Sie verschieben das Problem aber auch: Sind die abgerufenen Quellen veraltet oder widersprüchlich, entsteht eine falsche Antwort mit Quellenlink, die noch vertrauenswürdiger wirkt als eine ohne. Die Qualität der Quellen wird damit zur eigentlichen Stellschraube.

In der Praxis wirken vier Massnahmen. Erstens Retrieval mit Zitierpflicht, sodass jede Aussage auf eine mitgelieferte Passage zurückführbar ist und Antworten ohne Beleg auffallen. Zweitens strukturierte Ausgaben, die gegen ein Schema geprüft werden, statt Freitext, den niemand kontrolliert. Drittens eine menschliche Freigabe überall dort, wo eine falsche Aussage teuer wird — bei Preisen, Fristen, Rechtsfragen und Gesundheitsthemen. Viertens Protokollierung der gestellten Fragen, denn wiederkehrende Fehlantworten zeigen zuverlässig, welche Information in den Quellen fehlt oder unklar formuliert ist.

Für Websites hat das eine Seite, die oft übersehen wird: KI-Assistenten halluzinieren auch über Unternehmen. Fehlt eine Angabe oder widerspricht sie sich zwischen Website, Google Business Profile und Verzeichnissen, füllt das Modell die Lücke mit dem Wahrscheinlichsten — und nennt eine Öffnungszeit, die nie galt, oder einen Preis, den niemand verlangt hat. Ein konkreter Fall dafür ist die Preisangabe, die nur als Grafik auf der Seite steht: Für ein Modell ist sie unsichtbar, also wird geschätzt. Fakten als klare Sätze auszuschreiben und über alle Quellen identisch zu halten, ist deshalb die wirksamste Vorbeugung.