KI-Halluzinationen im Business erkennen und eindämmen

Eine KI schreibt Ihnen in Sekunden eine überzeugende Antwort. Sie nennt eine konkrete Zahl, verweist auf eine Studie, zitiert eine Bestimmung. Alles wirkt fundiert und professionell. Nur: Die Zahl stimmt nicht, die Studie existiert nicht, die Bestimmung ist erfunden. Willkommen bei einem der heikelsten Phänomene im praktischen KI-Einsatz, den Halluzinationen.

Das Tückische daran ist nicht der Fehler selbst, sondern seine Verpackung. Eine KI, die etwas erfindet, tut das mit derselben Souveränität wie bei einer korrekten Antwort. Wer die Grenzen nicht kennt, verlässt sich auf Aussagen, die keiner Prüfung standhalten. Dieser Artikel erklärt, warum das passiert, wie Sie es erkennen und wie Sie im Geschäftsalltag damit umgehen.

Warum KI überhaupt halluziniert

Um das Phänomen zu verstehen, hilft ein Blick auf die Funktionsweise. Ein Sprachmodell ist kein Nachschlagewerk und keine Datenbank. Es ist ein System, das gelernt hat, aus riesigen Textmengen das jeweils wahrscheinlichste nächste Wort vorherzusagen. Es setzt Wort an Wort, so wie es in ähnlichen Zusammenhängen plausibel wäre.

Diese Mechanik erklärt die Stärke und die Schwäche zugleich. Die KI kann erstaunlich flüssig und kohärent formulieren, weil sie Sprachmuster meisterhaft beherrscht. Aber sie hat kein Konzept von Wahrheit. Sie unterscheidet nicht zwischen einer belegten Tatsache und einer plausibel klingenden Erfindung. Beide sehen aus ihrer Sicht gleich aus, solange sie sprachlich stimmig sind.

Am ehesten passieren Halluzinationen dort, wo die KI unter Druck gerät. Bei sehr spezifischen Fragen, zu denen sie wenig Sicheres gelernt hat, füllt sie die Lücke mit dem, was plausibel wirkt, statt Unwissen einzugestehen. Genau in diesen Randbereichen ist die Wahrscheinlichkeit erfundener Details am höchsten.

Die Gefahr liegt im Selbstvertrauen

Wäre eine KI-Halluzination als solche erkennbar, wäre sie halb so schlimm. Das eigentliche Risiko liegt in der Souveränität, mit der falsche Aussagen daherkommen. Die KI signalisiert keine Unsicherheit, sie zögert nicht, sie relativiert nicht. Sie präsentiert eine Erfindung im selben sicheren Ton wie eine Tatsache.

Dieses Selbstvertrauen wirkt auf uns überzeugend. Wir sind darauf trainiert, Sicherheit mit Kompetenz gleichzusetzen. Wenn ein Gegenüber ohne Zögern eine präzise Zahl nennt, gehen wir davon aus, dass es Bescheid weiss. Bei Menschen ist diese Faustregel oft brauchbar, bei KI ist sie irreführend, denn die Sicherheit im Ausdruck sagt nichts über die Richtigkeit im Inhalt.

Woran Sie Halluzinationen erkennen

Es gibt keine hundertprozentig sichere Methode, doch ein paar Warnsignale helfen im Alltag. Achten Sie besonders auf überprüfbare Angaben: konkrete Zahlen, Namen von Personen oder Organisationen, Zitate, Datumsangaben und vor allem Quellenverweise. Genau diese Elemente sind es, die eine KI gern erfindet, weil sie einer Antwort Autorität verleihen.

Ein zweites Signal ist die Diskrepanz zwischen Fragestellung und Antwort. Wenn Sie eine schwierige, sehr spezifische Frage stellen und eine glatte, vollständige Antwort ohne jeden Vorbehalt zurückbekommen, ist Vorsicht angebracht. Reale Sachverhalte sind oft komplizierter, als eine allzu saubere Antwort vermuten lässt.

Besonders heikel sind Themen mit aktuellem oder lokalem Bezug. Fragen zu jüngsten Ereignissen, zu spezifischen Schweizer Regelungen oder zu Nischenwissen sind klassische Fallen. Hier liegt das gelernte Wissen der KI dünn, und die Wahrscheinlichkeit einer plausibel klingenden Erfindung steigt entsprechend.

Quellen anbinden statt raten lassen

Die wirksamste Gegenmassnahme besteht darin, die KI gar nicht erst raten zu lassen. Wenn eine Antwort auf realen, überprüfbaren Quellen aufbauen soll, geben Sie ihr diese Quellen mit, statt sich auf ihr Gedächtnis zu verlassen. Genau hier setzen Werkzeuge an, die Suche und KI verbinden.

Perplexity verfolgt genau diesen Ansatz: Es sucht zu einer Frage passende Quellen aus dem Web und formuliert die Antwort mit direkten Verweisen darauf. Dadurch lässt sich jede Aussage bis zu ihrer Herkunft zurückverfolgen, statt sie blind hinnehmen zu müssen. Das eliminiert Halluzinationen nicht vollständig, verschiebt aber die Grundlage von reiner Wahrscheinlichkeit hin zu belegbaren Fundstellen, was einen entscheidenden Unterschied macht.

Dasselbe Prinzip gilt für interne Anwendungen. Wenn Sie einer KI Ihre eigenen Dokumente als Grundlage geben und sie anweisen, nur daraus zu antworten, sinkt das Risiko erfundener Aussagen erheblich. Die KI arbeitet dann mit Ihrem tatsächlichen Wissen, nicht mit vagen Erinnerungen aus dem Training.

Prompts, die Ehrlichkeit fördern

Auch die Art der Fragestellung beeinflusst das Ergebnis. Eine KI, die zum Antworten gedrängt wird, halluziniert eher als eine, der man erlaubt, Unwissen einzugestehen. Deshalb lohnt es sich, die Anweisung entsprechend zu formulieren. Bitten Sie die KI ausdrücklich, auf Unsicherheit hinzuweisen und lieber «das weiss ich nicht» zu sagen, als etwas zu erfinden.

Ein Modell wie Claude reagiert gut auf solche Anweisungen und ist darauf ausgelegt, Unsicherheit eher zu benennen als zu überspielen. Wenn Sie es bitten, seine Aussagen zu begründen oder zwischen Gesichertem und Vermutetem zu unterscheiden, erhalten Sie ehrlichere und besser prüfbare Antworten. Die klare Aufforderung, im Zweifel Unwissen einzuräumen, ist eine der einfachsten und wirksamsten Massnahmen überhaupt.

Ebenso hilft es, komplexe Anfragen in Schritte zu zerlegen und die KI ihre Überlegungen darlegen zu lassen. Wer den Weg zur Antwort sieht, erkennt eher, wo eine Schlussfolgerung wackelt. Eine Antwort ohne nachvollziehbaren Weg ist schwerer zu prüfen als eine, deren Herleitung offenliegt.

Der Mensch als letzte Instanz

Alle technischen Massnahmen ändern nichts an einem Grundsatz: Bei wichtigen Ergebnissen bleibt die menschliche Kontrolle unverzichtbar. KI ist ein hervorragender Assistent für Entwürfe, Recherchen und erste Fassungen. Sie ist kein Ersatz für das prüfende Urteil eines Menschen, der die Verantwortung trägt.

Entscheidend ist, den Kontrollaufwand am Risiko auszurichten. Ein interner Brainstorming-Text braucht keine Faktenprüfung, eine Kundenkommunikation mit konkreten Zusagen sehr wohl. Wer diese Abstufung im Team verankert, nutzt die Geschwindigkeit der KI, ohne ihre Schwächen zum Problem werden zu lassen. Nicht jede Antwort muss geprüft werden, aber jede folgenreiche.

KI-Halluzinationen sind kein Grund, auf KI zu verzichten, aber ein guter Grund, sie mit offenen Augen einzusetzen. Wer versteht, warum sie entstehen, ihre Warnsignale kennt und Quellen sowie menschliche Kontrolle klug einbindet, verwandelt ein Risiko in einen beherrschbaren Faktor. Das Ziel ist nicht die fehlerfreie KI, sondern ein Arbeitsprozess, in dem ein Fehler auffällt, bevor er nach aussen dringt.