Was ist eine Halluzination bei Sprachmodellen?
Hallucination
Eine Halluzination ist in der KI eine Antwort eines Sprachmodells, die sprachlich sicher und plausibel wirkt, inhaltlich aber falsch oder frei erfunden ist. Typische Beispiele sind eine erfundene Paragrafenangabe, eine nicht existierende Quelle oder eine Softwarefunktion, die es nie gab.
Die gefährlichsten Fehler eines Sprachmodells sind die, die gut aussehen: die erfundene Paragrafenangabe mitten in einem ansonsten korrekten Text.
KI-generiertDieses Bild wurde mit KI erzeugt · Yves Hoppe / KI / cmt
- Erkennbar an
- Selbstsicherem Ton bei falschem Inhalt
- Häufig bei
- Zahlen, Zitaten, Paragrafen, Produktfunktionen
- Hilft dagegen
- Belege aus eigenen Quellen und Stichproben
- Verwechselt mit
- Veralteten Trainingsdaten
Woher der Begriff kommt
Das Wort stammt aus der Psychologie und Medizin, wo es eine Wahrnehmung ohne äußeren Reiz bezeichnet, etwa Stimmen zu hören, die niemand spricht. In der KI ist es eine Metapher: Das Modell nimmt nichts wahr, es erzeugt Text, der keine Grundlage in Fakten oder in der vorgelegten Quelle hat. Manche Fachleute sprechen deshalb lieber von Konfabulation, weil das Modell Lücken mit erfundenen, aber stimmigen Details füllt, ohne zu täuschen.
Durchgesetzt hat sich trotzdem Halluzination, im Englischen hallucination. Gemeint ist fast immer dasselbe Phänomen bei großen Sprachmodellen wie ChatGPT, Claude, Gemini oder Microsoft 365 Copilot. Bei Bildgeneratoren heißt es ebenfalls so, wenn ein Bild Details enthält, die nicht verlangt waren oder unmöglich sind, etwa eine Hand mit sechs Fingern.
Warum ein Modell erfindet
Ein Sprachmodell sagt das jeweils wahrscheinlichste nächste Textstück voraus. Es gleicht seine Antwort mit keiner Datenbank ab und hat keinen Mechanismus, der zwischen gelernter Tatsache und gut klingender Fortsetzung unterscheidet. Wo die Trainingsdaten eine Lücke lassen, füllt das Modell sie mit dem Muster, das an dieser Stelle üblich ist.
Genau deshalb sehen Halluzinationen so echt aus. Eine Quellenangabe hat ein bekanntes Format: Nachname, Titel, Jahr, Zeitschrift. Das Modell erzeugt dieses Format fehlerfrei, auch wenn es die Arbeit dahinter nie gegeben hat. Sicheres Auftreten ist eine Eigenschaft der Sprache und kein Hinweis auf Wissen.
Hinzu kommt das Training selbst. Forschende von OpenAI haben 2025 argumentiert, dass übliche Bewertungsverfahren ein Modell für eine geratene Antwort eher belohnen als für ein ehrliches „weiß ich nicht“, ähnlich wie bei einer Multiple-Choice-Prüfung ohne Punktabzug für falsche Kreuze. Ein Modell lernt so, im Zweifel lieber etwas zu behaupten.
Welche Arten von Halluzination es gibt
In der Forschung werden vor allem Faktenfehler und Treuefehler unterschieden, in der Praxis kommen Fehler im Schlussfolgern dazu. Die Unterscheidung ist nützlich, weil jede Form andere Gegenmaßnahmen verlangt.
| Art | Was passiert | Beispiel |
|---|---|---|
| Faktenfehler | Die Antwort widerspricht der Wirklichkeit oder erfindet Fakten | Ein Urteil mit Aktenzeichen, das es nie gab |
| Treuefehler | Die Antwort weicht von der mitgelieferten Quelle oder Anweisung ab | Die Zusammenfassung nennt eine Frist, die im Vertrag nicht steht |
| Logikfehler | Einzelschritte stimmen, die Schlussfolgerung nicht | Richtige Einzelbeträge, falsche Summe |
Faktenfehler bekämpfst du, indem du dem Modell Quellen gibst. Treuefehler bleiben auch dann möglich, deshalb muss die Antwort gegen die Quelle geprüft werden, nicht nur gegen dein Bauchgefühl.
Wo es im Arbeitsalltag teuer wird
Kritisch sind alle Stellen, an denen eine Zahl oder ein Verweis später jemand anderes übernimmt: Paragrafen und Fristen in einem Schreiben, Beträge in einer Zusammenfassung, Literaturangaben in einem Bericht, Funktionsaufrufe in Programmcode, die es in der Bibliothek gar nicht gibt.
Besonders unangenehm ist die Mischform: Neun Angaben stimmen, die zehnte nicht. Wer den Text nur überfliegt, findet keinen Anhaltspunkt zum Misstrauen, weil ringsum alles korrekt ist. Deshalb ist die Frage nicht, ob du Antworten prüfst, sondern welche Stellen du gezielt prüfst.
Was tatsächlich hilft
Gegen Halluzinationen gibt es keinen Schalter, aber eine Handvoll Maßnahmen, die die Fehlerquote spürbar senken und Fehler sichtbar machen.
-
Grundlage mitgeben
Lass das Modell aus einem beigefügten Dokument oder über RAG aus einer Wissensbasis antworten statt aus dem Gedächtnis.
-
Wörtliche Zitate verlangen
Ein Zitat kannst du im Dokument suchen, eine Paraphrase nicht. Jede wichtige Aussage braucht eine Fundstelle.
-
Den Ausweg erlauben
Schreib in die Aufgabe, dass „dazu steht nichts in der Unterlage“ eine gültige Antwort ist. Ohne diese Erlaubnis liefert das Modell irgendetwas.
-
Quellen aufrufen
Links und Literaturangaben tatsächlich öffnen, statt sie plausibel zu finden.
-
Menschliche Freigabe
Alles, was rechtlich oder finanziell bindet, zeichnet ein Mensch gegen, bevor es das Haus verlässt.
KI-generiertDieses Bild wurde mit KI erzeugt · Yves Hoppe / KI / cmt
Halluzination und was oft damit gleichgesetzt wird
Antworten können falsch sein, weil das Trainingsmaterial einen bestimmten Stand hat und sich seither Gesetze oder Produkte geändert haben. Das ist keine Erfindung, sondern ein Aktualitätsproblem, und es lässt sich durch Zugriff auf aktuelle Quellen lösen.
Bei einer Halluzination irrt das Modell von sich aus. Bei einer Prompt Injection wird es gezielt von außen manipuliert, etwa durch versteckte Anweisungen in einem Dokument. Die falsche Ausgabe sieht ähnlich aus, die Gegenmaßnahmen sind völlig andere.
Bias ist eine systematische Verzerrung, etwa wenn ein Modell bei bestimmten Berufen immer an Männer denkt. Die Aussage ist dann nicht erfunden, sondern einseitig. Eine Halluzination dagegen behauptet etwas, das es nicht gibt.
KI-generiertDieses Bild wurde mit KI erzeugt · Yves Hoppe / KI / cmt
Teuer wird es dort, wo niemand mehr nachschaut
Die klassischen Stellen sind Zahlen und Belege: eine Paragrafenangabe in einem sonst sauberen Schreiben, ein Preis in einem Angebot, ein Funktionsname in einem Codebeispiel, den es in der Bibliothek nie gab. Alles drumherum stimmt, deshalb fällt die eine falsche Angabe beim Überfliegen nicht auf.
Der eigentliche Schaden entsteht durch Gewöhnung. Wer wochenlang brauchbare Entwürfe bekommt, prüft irgendwann nur noch den Tonfall. Genau deshalb gehört die Kontrolle in den Ablauf und nicht in die Selbstdisziplin: Zahlen aus dem Quellsystem einsetzen statt aus dem Modell übernehmen, Zitate nur mit Fundstelle gelten lassen, bei Verträgen und Rechtstexten eine zweite Person darüberschauen lassen.
Was zusätzlich hilft, ist, dem Modell die Quelle mitzugeben und die Antwort ausdrücklich auf diese Quelle zu verpflichten. Die Zahl der erfundenen Angaben sinkt damit deutlich, auf null geht sie nicht, denn ein Modell kann auch einen mitgelieferten Text falsch zusammenfassen.
Halluzination lernen
Woran du eine erfundene Quelle erkennst und wie du Ergebnisse systematisch gegenprüfst, üben die Kurse zum kritischen Prüfen von KI-Antworten.
Wer die Fehlerquote messen statt nur bemerken möchte, ist bei den Trainings zur Messung von Modellqualität richtig.
Sitzt Halluzination schon?
Lesen fühlt sich schnell nach Können an. Ein kurzer Test zeigt dir, was davon schon sitzt und wo sich ein Kurs lohnt. Kostenlos, ohne Anmeldung, mit einer Erklärung zu jeder Antwort.
Kurse, die Halluzination behandeln
Häufige Fragen
Kann man Halluzinationen ganz abstellen?
Hilft es, im Prompt zu schreiben, das Modell soll nicht halluzinieren?
Woran erkenne ich eine erfundene Quelle?
Halluzinieren neuere Modelle seltener?
Wer haftet, wenn eine halluzinierte Angabe Schaden anrichtet?
Passt thematisch dazu
Wie du das im Team dauerhaft verankerst, beschreibt der Beitrag über Prüfroutinen gegen erfundene KI-Angaben.
Wer zahlt, wenn eine falsche KI-Angabe Schaden anrichtet, klärt der Beitrag über die Haftungsfrage zwischen Anbieter und Betreiber.
Deine Ansprechpartner
Du willst das Thema nicht nur nachschlagen, sondern anwenden können? Wir beraten dich persönlich und kostenlos.
Yves Hoppe
Weiterbildung & Beratung
Ordnet mit dir ein, welcher Kurs zu deinem Vorwissen passt.
Norbert Jansen
Beratung & Inhouse
Plant Inhouse-Trainings, die an euren eigenen Daten und Abläufen ansetzen.
Halluzination im Kurs statt im Lexikon
Nachschlagen bringt dich bis zum Verstehen. Anwenden lernst du an echten Aufgaben.