Jeder kennt den Moment: Du fragst ein Sprachmodell etwas, die Antwort klingt perfekt formuliert, sachlich, mit konkreten Zahlen – und ist trotzdem falsch. Erfundene Gerichtsurteile, Biografien, die es nie gab, Quellen, die nirgendwo existieren. In der KI-Fachwelt heißt das Halluzination. Ich finde den Begriff eigentlich irreführend, denn halluzinieren klingt nach einem kuriosen Aussetzer. In Wahrheit ist es kein Defekt, sondern die direkte Folge des Prinzips, nach dem diese Modelle arbeiten.
Wahrscheinlichkeit statt Faktenwissen
Sprachmodelle sagen das jeweils nächste Token voraus – sie geben aus, was statistisch wahrscheinlich folgt, nicht was nachweislich wahr ist. Diese beiden Dinge fallen meist zusammen, aber nicht immer. Lücken in den Trainingsdaten, seltene Themen oder gezielt irreführende Fragen führen dazu, dass das Modell die plausibelste Antwort wählt. Plausibel ist nicht gleich richtig.
Was mich dabei überrascht hat: OpenAI selbst hat im September 2025 eine Forschungsarbeit veröffentlicht, die zeigt, dass Standard-Training und -Evaluierung das Raten aktiv belohnen – und nicht das Eingestehen von Unsicherheit. Das Modell lernt also nicht nur, zu raten, es wird dafür auch noch belohnt.
Die drei häufigsten Auslöser
- Datenlücken: Was im Training nicht oder nur widersprüchlich vorkam, wird beim besten Willen nie sicher beantwortet.
- Selbstsichere Formulierung: Das Modell kann einen Ton wählen, der Überzeugung ausstrahlt – ohne dass dahinter ein Wissenscheck steckt.
- Veralteter Wissensstand: Das Trainingsmaterial endet an einem Stichtag. Alles danach ist dem Modell unbekannt, es antwortet trotzdem.
Real gewordene Halluzinationen
Die Folgen sind keine Theorie. Inzwischen gibt es dokumentierte Fälle, in denen Anwälte erfundene Gerichtsurteile in Schriftsätzen zitierten und dafür gerügt wurden – sogar deutsche Gerichte haben sich damit beschäftigt. Solche Beispiele zeigen: Halluzinationen sind kein Randphänomen, gerade bei spezifischen, seltenen oder juristisch präzisen Fragen.
So schützt du dich im Alltag
Ganz abstellen lässt sich das Phänomen nicht. Aber die Fehlerquote sinkt deutlich mit ein paar Gewohnheiten:
- Betrachte KI-Antworten als Entwurf, nicht als Beleg. Gerade bei Zahlen, Namen und Zitaten.
- Bitte um Quellen – und öffne sie. Modelle können Quellen erfinden, die gut aussehen. Der Klick auf den Link entscheidet.
- Sag dem Modell, es soll unsicher sein dürfen. „Wenn du es nicht weißt, sag es“ senkt nachweislich die Rate glatter Erfindungen.
- Bei kritischen Themen: Quercheck mit einer zweiten, unabhängigen Informationsquelle.
Ich nutze Sprachmodelle täglich und lasse sie Texte, Ideen und Code liefern. Aber sobald etwas wichtig ist, prüfe ich es. Das ist keine Skepsis gegenüber der Technik – es ist der Umgang, der sie erst zuverlässig macht. Wer die Grenze kennt, bekommt mehr von ihr: Halluzinationen sind der Preis für eine Maschine, die immer antwortet. Ein bisschen Vorsicht ist die Gebühr, die man dafür zahlt.