Halluzination
von Nicole Angela Buck
Wenn die KI lügt, ohne zu lügen – warum Halluzinationen das wichtigste Sicherheitsthema sind
Vor ein paar Wochen hab ich Claude gebeten, mir ein Zitat von einer bekannten Marketing-Expertin rauszusuchen. Claude hat geliefert: schönes Zitat, mit Quellenangabe, Buchseite, alles. Ich hab's übernommen und in einen Text gepackt. Beim Gegenlesen dann doch noch mal nachgeschaut. Das Zitat existiert nicht. Das Buch existiert, die Expertin existiert, die Seitenzahl ist erfunden.
Das ist eine Halluzination. Und die ist gefährlicher als die meisten denken.
Was ist eine Halluzination?
Eine KI halluziniert, wenn sie etwas behauptet, was nicht stimmt – und es trotzdem so klingt, als wäre es Fakt. Das ist kein Bug. Das ist die direkte Folge davon, wie KI-Sprachmodelle arbeiten. Sie wissen nichts. Sie berechnen Wahrscheinlichkeiten: Welches Wort passt am ehesten nach diesem Wort? Welcher Satz klingt am plausibelsten nach diesem Satz? Manchmal entsteht dabei ein Satz, der grammatisch perfekt ist, stilistisch überzeugend, inhaltlich aber komplett ausgedacht.
Der Begriff selbst kommt übrigens aus der Bildgenerierung der frühen 2010er, als KI-Modelle anfingen, Dinge in Bilder „hineinzusehen", die gar nicht da waren. Inzwischen meint man damit alle Arten von KI-Erfindungen: erfundene Quellen, falsche Daten, ausgedachte Zitate, nicht-existente Personen.
Was Du wirklich wissen musst
Halluzinationen sind kein Zeichen dafür, dass die KI kaputt ist. Sie sind ein Strukturmerkmal. Jede generative KI, von Claude über ChatGPT bis Gemini, halluziniert. Die guten Modelle weniger, die schlechten mehr, aber keines nie.
Besonders kritisch wird's bei drei Dingen: Zahlen, Quellen, Personen. Bei allem, was sich überprüfen lässt – Geburtsdaten, Studienergebnisse, Gesetzestexte, juristische Urteile – ist die Wahrscheinlichkeit, dass die KI was erfindet, am höchsten. Weil es da klare richtige und falsche Antworten gibt, und das Modell rät, wenn es nicht weiß.
Was weniger kritisch ist: Konzepte erklären, Texte umformulieren, Ideen sammeln, Strukturen vorschlagen. Da kann die KI selten halluzinieren, weil es kein „falsch" gibt.
Die wichtigste Regel: Alles, was Du veröffentlichst, prüfst Du. Jede Zahl, jedes Zitat, jede Quelle. Die KI ist ein verdammt guter Assistent, aber sie ist nicht Dein Faktenchecker. Das musst Du sein.
Was Du damit machst
Bau Dir einen Reflex an: Wenn die KI Dir was Konkretes liefert (Zahl, Zitat, Datum, Quelle), kopierst Du es und googelst. Dauert 30 Sekunden. Spart Dir im Zweifel die Blamage, einen erfundenen Buchtitel öffentlich zu zitieren.
Bei Claude und manchen anderen kannst Du übrigens die Websuche aktivieren. Das senkt die Halluzinationsrate deutlich, weil das Modell dann tatsächlich nachschaut, statt zu raten. Nicht perfekt, aber besser.
Und: Wenn eine Antwort zu glatt klingt, zu perfekt passt, zu schön formuliert ist – misstrauisch werden. Das ist genau der Moment, in dem die KI gerade besonders überzeugend etwas Falsches behauptet.
Verwandte Begriffe in dieser Sammlung: LLM, Token, Kontextfenster
Stand: Mai 2026