Fehlertypen bei Sprachmodellen

Was ist eine Halluzination bei Sprachmodellen?

Hallucination

Eine Halluzination ist in der KI eine Antwort eines Sprachmodells, die sprachlich sicher und plausibel wirkt, inhaltlich aber falsch oder frei erfunden ist. Typische Beispiele sind eine erfundene Paragrafenangabe, eine nicht existierende Quelle oder eine Softwarefunktion, die es nie gab.

Die gefährlichsten Fehler eines Sprachmodells sind die, die gut aussehen: die erfundene Paragrafenangabe mitten in einem ansonsten korrekten Text.

KI-generiertDieses Bild wurde mit KI erzeugt · Yves Hoppe / KI / cmt
Erkennbar an
Selbstsicherem Ton bei falschem Inhalt
Häufig bei
Zahlen, Zitaten, Paragrafen, Produktfunktionen
Hilft dagegen
Belege aus eigenen Quellen und Stichproben
Verwechselt mit
Veralteten Trainingsdaten

Woher der Begriff kommt

Das Wort stammt aus der Psychologie und Medizin, wo es eine Wahrnehmung ohne äußeren Reiz bezeichnet, etwa Stimmen zu hören, die niemand spricht. In der KI ist es eine Metapher: Das Modell nimmt nichts wahr, es erzeugt Text, der keine Grundlage in Fakten oder in der vorgelegten Quelle hat. Manche Fachleute sprechen deshalb lieber von Konfabulation, weil das Modell Lücken mit erfundenen, aber stimmigen Details füllt, ohne zu täuschen.

Durchgesetzt hat sich trotzdem Halluzination, im Englischen hallucination. Gemeint ist fast immer dasselbe Phänomen bei großen Sprachmodellen wie ChatGPT, Claude, Gemini oder Microsoft 365 Copilot. Bei Bildgeneratoren heißt es ebenfalls so, wenn ein Bild Details enthält, die nicht verlangt waren oder unmöglich sind, etwa eine Hand mit sechs Fingern.

Warum ein Modell erfindet

Ein Sprachmodell sagt das jeweils wahrscheinlichste nächste Textstück voraus. Es gleicht seine Antwort mit keiner Datenbank ab und hat keinen Mechanismus, der zwischen gelernter Tatsache und gut klingender Fortsetzung unterscheidet. Wo die Trainingsdaten eine Lücke lassen, füllt das Modell sie mit dem Muster, das an dieser Stelle üblich ist.

Genau deshalb sehen Halluzinationen so echt aus. Eine Quellenangabe hat ein bekanntes Format: Nachname, Titel, Jahr, Zeitschrift. Das Modell erzeugt dieses Format fehlerfrei, auch wenn es die Arbeit dahinter nie gegeben hat. Sicheres Auftreten ist eine Eigenschaft der Sprache und kein Hinweis auf Wissen.

Hinzu kommt das Training selbst. Forschende von OpenAI haben 2025 argumentiert, dass übliche Bewertungsverfahren ein Modell für eine geratene Antwort eher belohnen als für ein ehrliches „weiß ich nicht“, ähnlich wie bei einer Multiple-Choice-Prüfung ohne Punktabzug für falsche Kreuze. Ein Modell lernt so, im Zweifel lieber etwas zu behaupten.

Welche Arten von Halluzination es gibt

In der Forschung werden vor allem Faktenfehler und Treuefehler unterschieden, in der Praxis kommen Fehler im Schlussfolgern dazu. Die Unterscheidung ist nützlich, weil jede Form andere Gegenmaßnahmen verlangt.

ArtWas passiertBeispiel
FaktenfehlerDie Antwort widerspricht der Wirklichkeit oder erfindet FaktenEin Urteil mit Aktenzeichen, das es nie gab
TreuefehlerDie Antwort weicht von der mitgelieferten Quelle oder Anweisung abDie Zusammenfassung nennt eine Frist, die im Vertrag nicht steht
LogikfehlerEinzelschritte stimmen, die Schlussfolgerung nichtRichtige Einzelbeträge, falsche Summe

Faktenfehler bekämpfst du, indem du dem Modell Quellen gibst. Treuefehler bleiben auch dann möglich, deshalb muss die Antwort gegen die Quelle geprüft werden, nicht nur gegen dein Bauchgefühl.

Wo es im Arbeitsalltag teuer wird

Kritisch sind alle Stellen, an denen eine Zahl oder ein Verweis später jemand anderes übernimmt: Paragrafen und Fristen in einem Schreiben, Beträge in einer Zusammenfassung, Literaturangaben in einem Bericht, Funktionsaufrufe in Programmcode, die es in der Bibliothek gar nicht gibt.

Besonders unangenehm ist die Mischform: Neun Angaben stimmen, die zehnte nicht. Wer den Text nur überfliegt, findet keinen Anhaltspunkt zum Misstrauen, weil ringsum alles korrekt ist. Deshalb ist die Frage nicht, ob du Antworten prüfst, sondern welche Stellen du gezielt prüfst.

Was tatsächlich hilft

Gegen Halluzinationen gibt es keinen Schalter, aber eine Handvoll Maßnahmen, die die Fehlerquote spürbar senken und Fehler sichtbar machen.

  • Grundlage mitgeben

    Lass das Modell aus einem beigefügten Dokument oder über RAG aus einer Wissensbasis antworten statt aus dem Gedächtnis.

  • Wörtliche Zitate verlangen

    Ein Zitat kannst du im Dokument suchen, eine Paraphrase nicht. Jede wichtige Aussage braucht eine Fundstelle.

  • Den Ausweg erlauben

    Schreib in die Aufgabe, dass „dazu steht nichts in der Unterlage“ eine gültige Antwort ist. Ohne diese Erlaubnis liefert das Modell irgendetwas.

  • Quellen aufrufen

    Links und Literaturangaben tatsächlich öffnen, statt sie plausibel zu finden.

  • Menschliche Freigabe

    Alles, was rechtlich oder finanziell bindet, zeichnet ein Mensch gegen, bevor es das Haus verlässt.

KI-generiertDieses Bild wurde mit KI erzeugt · Yves Hoppe / KI / cmt
Nicht verwechseln

Halluzination und was oft damit gleichgesetzt wird

Halluzination gegen Veraltete Information

Antworten können falsch sein, weil das Trainingsmaterial einen bestimmten Stand hat und sich seither Gesetze oder Produkte geändert haben. Das ist keine Erfindung, sondern ein Aktualitätsproblem, und es lässt sich durch Zugriff auf aktuelle Quellen lösen.

Halluzination gegen Prompt Injection

Bei einer Halluzination irrt das Modell von sich aus. Bei einer Prompt Injection wird es gezielt von außen manipuliert, etwa durch versteckte Anweisungen in einem Dokument. Die falsche Ausgabe sieht ähnlich aus, die Gegenmaßnahmen sind völlig andere.

Halluzination gegen Bias

Bias ist eine systematische Verzerrung, etwa wenn ein Modell bei bestimmten Berufen immer an Männer denkt. Die Aussage ist dann nicht erfunden, sondern einseitig. Eine Halluzination dagegen behauptet etwas, das es nicht gibt.

KI-generiertDieses Bild wurde mit KI erzeugt · Yves Hoppe / KI / cmt
In der Praxis

Teuer wird es dort, wo niemand mehr nachschaut

Die klassischen Stellen sind Zahlen und Belege: eine Paragrafenangabe in einem sonst sauberen Schreiben, ein Preis in einem Angebot, ein Funktionsname in einem Codebeispiel, den es in der Bibliothek nie gab. Alles drumherum stimmt, deshalb fällt die eine falsche Angabe beim Überfliegen nicht auf.

Der eigentliche Schaden entsteht durch Gewöhnung. Wer wochenlang brauchbare Entwürfe bekommt, prüft irgendwann nur noch den Tonfall. Genau deshalb gehört die Kontrolle in den Ablauf und nicht in die Selbstdisziplin: Zahlen aus dem Quellsystem einsetzen statt aus dem Modell übernehmen, Zitate nur mit Fundstelle gelten lassen, bei Verträgen und Rechtstexten eine zweite Person darüberschauen lassen.

Was zusätzlich hilft, ist, dem Modell die Quelle mitzugeben und die Antwort ausdrücklich auf diese Quelle zu verpflichten. Die Zahl der erfundenen Angaben sinkt damit deutlich, auf null geht sie nicht, denn ein Modell kann auch einen mitgelieferten Text falsch zusammenfassen.

Halluzination lernen

Woran du eine erfundene Quelle erkennst und wie du Ergebnisse systematisch gegenprüfst, üben die Kurse zum kritischen Prüfen von KI-Antworten.

Wer die Fehlerquote messen statt nur bemerken möchte, ist bei den Trainings zur Messung von Modellqualität richtig.

Wissen prüfen

Sitzt Halluzination schon?

Lesen fühlt sich schnell nach Können an. Ein kurzer Test zeigt dir, was davon schon sitzt und wo sich ein Kurs lohnt. Kostenlos, ohne Anmeldung, mit einer Erklärung zu jeder Antwort.

Häufige Fragen

Kann man Halluzinationen ganz abstellen?
Nein. Sie folgen aus der Funktionsweise der Modelle und lassen sich nur senken, nicht ausschalten. Realistisch ist ein Aufbau, in dem Fehler auffallen, bevor sie Schaden anrichten: belegpflichtige Antworten, ein Prüfschritt und eine klare Regel, welche Ergebnisse ohne menschliche Freigabe nirgends hingehen.
Hilft es, im Prompt zu schreiben, das Modell soll nicht halluzinieren?
Kaum. Das Modell kann nicht erkennen, dass es gerade erfindet, sonst würde es aufhören. Wirksam sind stattdessen Anweisungen, die überprüfbar sind: nur aus dem beigefügten Text antworten, jede Aussage mit Zitat belegen, bei fehlender Grundlage ausdrücklich nichts liefern.
Woran erkenne ich eine erfundene Quelle?
Daran, dass du sie nicht findest. Titel und Autorenname klingen stimmig, aber die Kombination existiert nicht, oder die genannte Fundstelle führt zu einem ganz anderen Thema. Der einzige verlässliche Test ist, den Verweis aufzurufen, statt ihn plausibel zu finden.
Halluzinieren neuere Modelle seltener?
Im Schnitt ja, vor allem wenn sie im Internet suchen oder mit Dokumenten arbeiten dürfen. Verschwunden ist das Problem aber bei keinem Anbieter, und auch Modelle mit langen Denkphasen erfinden Details. Für deine Prüfroutine ändert ein Modellwechsel deshalb nichts.
Wer haftet, wenn eine halluzinierte Angabe Schaden anrichtet?
In aller Regel derjenige, der das Ergebnis verwendet, also du oder dein Unternehmen, nicht der Anbieter des Modells. Die Nutzungsbedingungen der großen Anbieter weisen ausdrücklich darauf hin, dass Ausgaben fehlerhaft sein können. Deshalb gehört die Prüfung zu jedem Ablauf, in dem KI-Texte nach außen gehen.

Passt thematisch dazu

Wie du das im Team dauerhaft verankerst, beschreibt der Beitrag über Prüfroutinen gegen erfundene KI-Angaben.

Wer zahlt, wenn eine falsche KI-Angabe Schaden anrichtet, klärt der Beitrag über die Haftungsfrage zwischen Anbieter und Betreiber.

Persönlich für dich da

Deine Ansprechpartner

Du willst das Thema nicht nur nachschlagen, sondern anwenden können? Wir beraten dich persönlich und kostenlos.

Yves Hoppe

Yves Hoppe

Weiterbildung & Beratung

Ordnet mit dir ein, welcher Kurs zu deinem Vorwissen passt.

Norbert Jansen

Norbert Jansen

Beratung & Inhouse

Plant Inhouse-Trainings, die an euren eigenen Daten und Abläufen ansetzen.

Halluzination im Kurs statt im Lexikon

Nachschlagen bringt dich bis zum Verstehen. Anwenden lernst du an echten Aufgaben.