Eine leuchtende Stadt schwebt über einer dunklen Salzebene, mit verzerrten Spiegelbildern in der Luft und einem schimmernden Wasserbild am Boden. Künstlerische Fata Morgana als Metapher für plausible falsche Aussagen.

Im vorigen Kapitel ging es darum, wie ein Sprachmodell die nächste Fortsetzung auswählt. Keiner dieser Regler prüft, ob eine Aussage stimmt. Ein LLM kann daher eine flüssige Antwort formulieren, die eine falsche Angabe enthält. Dafür hat sich das Wort Halluzination eingebürgert. In der Forschung meint es meist plausible, aber falsche Aussagen. Es bezeichnet einen Fehlertyp, keine Wahrnehmung des Modells. [1]

Was an dem Wort stört

Ein Mensch kann etwas halluzinieren, weil er etwas wahrnimmt, das nicht da ist. Ein LLM nimmt in diesem Sinn nichts wahr. Es erzeugt Text. Selbst die Forschungsarbeit Why Language Models Hallucinate weist ausdrücklich darauf hin, dass ihr Fachbegriff etwas grundlegend anderes bezeichnet als menschliche Wahrnehmung. [1]

Das Wort kann einen Fehler wie eine merkwürdige Eigenart klingen lassen. Für jemanden, der eine Antwort als verlässliche Auskunft verwendet, ist aber entscheidend, welche Behauptung falsch oder nicht belegt ist und welche Folgen das hat. „Halluzination“ ist als Fachwort gebräuchlich. Es ersetzt weder die Benennung des konkreten Fehlers noch die Prüfung der Aussage. Und nicht jeder Modellfehler ist eine Halluzination. Eine missachtete Formatvorgabe oder ein abgebrochener Satz ist etwas anderes als eine überzeugend vorgetragene falsche Tatsache. [1]

Wie eine falsche Angabe entsteht

Beim Training lernt ein LLM, wie Texte üblicherweise weitergehen. Es lernt nicht zu jeder Aussage zuverlässig dazu, ob sie stimmt. Fragt man nach einem kaum bekannten Geburtsdatum, kann es deshalb ein genaues Datum schreiben, ohne dafür eine verlässliche Grundlage zu haben. Auch wenn immer die wahrscheinlichste Fortsetzung gewählt wird, kann die Antwort falsch sein. [1] [2]

Zusätzliches Training kann solche Fehler verringern. Doch auch Tests beeinflussen, welche Antworten belohnt werden. Bringt „Ich weiß es nicht“ genauso wenig Punkte wie eine falsche Antwort, kann Raten die Punktzahl verbessern. Das Modell blufft dabei nicht bewusst. Es wird für eine Art Antwort belohnt, die plausibel klingt und trotzdem falsch sein kann. [1] [2]

Was bedeutet eine „Halluzinationsrate“?

Eine falsche Aussage ist ein Fehler. Eine Fehlerrate sagt, wie viele Fälle unter den untersuchten Fällen falsch waren. Eine bloße Angabe wie „40 Prozent Halluzinationen“ sagt noch nicht, ob tatsächlich 40 von 100 Antworten falsch waren. Dafür muss klar sein, was gezählt wurde.

Artificial Analysis stellte 2025 bei einem Wissenstest 6.000 schwierige Fragen. In der damaligen Grafik steht für GPT-5.1 (high) eine „Hallucination Rate“ von 51 Prozent. Für diese Zahl werden die richtig beantworteten Fragen zuerst beiseitegelegt. Von den übrigen Fällen – falsch beantwortet, nur teilweise beantwortet oder gar nicht beantwortet – waren 51 Prozent falsch. Es sind nicht 51 Prozent aller Fragen und auch keine allgemeine Fehlerrate von ChatGPT im Alltag. [3] [4]

Das macht die falschen Antworten nicht harmlos. Für verlässliche Auskünfte zählt, wie oft eine falsche Aussage vorkommt und was sie anrichten kann. Eine Zahl hilft nur, wenn die Aufgabe und die Zählweise bekannt sind.

Was das für die Arbeit bedeutet

Wer sich mit einem LLM in ein neues Thema einarbeitet, kann eine falsche Erklärung besonders leicht übernehmen. Je weniger man selbst über das Thema weiß, desto schwerer lässt sich erkennen, ob die Antwort in die falsche Richtung führt. Für Wissensfragen ist ein LLM deshalb als alleinige Quelle nur bedingt geeignet. Seine Antworten können neue Fragen aufwerfen; wichtige Angaben sollten anhand unabhängiger Quellen überprüft werden.

Ein LLM eignet sich eher für Aufgaben, deren Ergebnis sich prüfen lässt. Eine kleine Codeänderung lässt sich zum Beispiel ausführen und testen; eine konkrete Rechnung lässt sich nachrechnen. Auch das garantiert keine vollständige Prüfung. Komplexer Code und mathematische Beweise können schwer zu beurteilen sein. Je weniger sich eine Aussage eindeutig überprüfen lässt, desto vorsichtiger sollte man mit ihr umgehen. Eine überzeugende Formulierung ist noch kein Beleg.

Auch das Kontextfenster spielt bei der Aufgabenplanung eine Rolle. Bei größeren, weit gefüllten Kontextfenstern fallen in der Praxis häufiger plausible falsche Aussagen und ein Abdriften von der eigentlichen Aufgabe auf. Überholte Ansätze, lange Ausgaben und Widersprüche können wichtige Angaben verdecken. Das ist eine persönliche Beobachtung, keine allgemein gemessene Fehlerrate oder feste Grenze. Daher hilft es, die Aufgabe rechtzeitig mit aktuellen Anforderungen und relevanten Quellen neu auszurichten – etwa durch eine sorgfältige Zusammenfassung oder eine neue Sitzung mit gezielter Übergabe. [5]

Im nächsten Kapitel

Wichtige Aussagen brauchen Belege. Wie findet Software passende Textstellen zu einer Frage und gibt sie einem LLM mit? Im nächsten Kapitel geht es um Embeddings und RAG – und darum, was zusätzliche Quellen leisten können und was weiterhin geprüft werden muss.

Deeper into the Rabbit Hole

Video auf Englisch

  • IBM Technology — Why Large Language Models Hallucinate — Martin Keen erklärt in knapp zehn Minuten anhand von Beispielen, wie unzuverlässige Antworten aussehen und welche Gegenmaßnahmen helfen können. Das vollständige englische Transkript wurde gelesen, nicht das vollständige Video angesehen. Der Beitrag verwendet „Halluzination“ weiter als dieses Kapitel und zählt auch Widersprüche zum Prompt oder innerhalb einer Antwort dazu. Seine Tipps zu Temperature und Prompts sind keine Wahrheitsgarantie.

Quellen

  1. Kalai et al. — Why Language Models Hallucinate, Preprint vom September 2025. Abstract und Einleitung sowie die Abschnitte zu Vortraining und Bewertung wurden gelesen. Die Autoren grenzen den Fachbegriff ausdrücklich von menschlicher Wahrnehmung ab.
  2. OpenAI — Why language models hallucinate, 5. September 2025. Forschungserklärung zu falschen Faktenangaben, Vortraining und Anreizen durch Genauigkeitsbewertungen; sie ist keine unabhängige Messung aller Anwendungen.
  3. Artificial Analysis — AA-Omniscience: Knowledge and Hallucination Benchmark, 16. November 2025. Historische Auswertung und Grafik mit GPT-5.1 (high). Die Erläuterung im Artikel vereinfacht den Nenner.
  4. Artificial Analysis — AA-Omniscience evaluation. Methodenseite mit der genaueren Definition „incorrect / (incorrect + partial answers + not attempted)“. Das aktuelle Dashboard zeigt nicht zwingend denselben Modellausschnitt wie die historische Grafik.
  5. Anthropic — Effective context engineering for AI agents. Praxisbeitrag zur Auswahl relevanter Informationen in langen Verläufen; keine allgemeine Messung der Halluzinationsrate nach Kontextlänge.