Eine Halluzination bezeichnet bei KI-Modellen eine Antwort, die überzeugend klingt, aber sachlich falsch, erfunden oder nicht ausreichend belegt ist. Im KI-Kontext erscheint der Begriff vor allem als Qualitäts- und Sicherheitsproblem: Anbieter werben wiederholt mit geringeren Halluzinationsraten, zugleich zeigen Beispiele aus sensiblen Bereichen wie Medizin, dass menschliche Prüfung, Quellenbelege und technische Gegenmaßnahmen wichtig bleiben.

Definition

Eine Halluzination ist im KI-Kontext eine plausible, aber falsche oder unbelegte Ausgabe eines KI-Modells. Umgangssprachlich kann man auch von einer Falschantwort sprechen; der Begriff Konfabulation betont, dass das Modell eine scheinbar stimmige Antwort erzeugt, obwohl die zugrunde liegende Behauptung nicht zuverlässig belegt ist.

Wichtig ist: Eine Halluzination muss nicht offensichtlich absurd wirken. Gerade weil sie sprachlich sauber, selbstbewusst und passend formuliert sein kann, ist sie für Nutzerinnen und Nutzer schwerer zu erkennen als ein klarer technischer Fehler.

Bedeutung im KI-Kontext

Im KI-Kontext wird Halluzination als eines der zentralen Risiken beim Einsatz großer Sprachmodelle beschrieben. Die bestehende Wiki-Seite nennt Suche, Medizin, Recht, Unternehmensarbeit und psychische Gesundheit als wiederkehrende Kontexte, in denen falsche oder unbelegte KI-Antworten indirekt eine Rolle spielen.

Die Belege zeigt außerdem, dass geringere Halluzinationsraten regelmäßig als Produktversprechen auftauchen: Bei Claude 2.1 wurde 2023 eine reduzierte Halluzinationsrate erwähnt, bei GPT-4.5 2025 weniger Halluzinationen, bei DeepSeek R1 0528 eine Reduktion von Falschaussagen und bei GPT-5.2 Verbesserungen bei der Reduzierung von Fehlern.

Warum Halluzinationen gefährlich sein können

Halluzinationen sind besonders riskant, wenn Nutzerinnen und Nutzer die Ausgabe für fachlich geprüft halten. In einem Newsletter-Beispiel aus der Medizin wird berichtet, dass eine medizinische KI ein nicht existierendes Gehirnareal erfand und dieser Fehler selbst bei einer Überprüfung durch Mediziner zunächst übersehen wurde.

Das Beispiel zeigt die praktische Gefahr: Nicht nur Laien können von plausibel klingenden KI-Antworten getäuscht werden. Auch Fachleute können eine erfundene Information übersehen, wenn sie überzeugend in einen fachlichen Kontext eingebettet ist.

Abgrenzung zu verwandten Begriffen

Eine Halluzination ist nicht dasselbe wie eine unvollständige Antwort. Eine unvollständige Antwort kann korrekt, aber lückenhaft sein; eine Halluzination enthält dagegen eine falsche, erfundene oder unbelegte Behauptung.

Sie ist auch nicht automatisch ein Zeichen dafür, dass ein Modell insgesamt unbrauchbar ist. Die Newsletter-Belege zeigen, dass Anbieter Modelle mit verbesserten Leistungswerten und weniger Halluzinationen vorstellen, Halluzinationen aber weiterhin als eigenes Qualitätsproblem behandelt werden.

Gegenmaßnahmen: Quellen, RAG, Evals und Prüfung

Die bestehende Wiki-Seite nennt RAG, Evals, Quellenpflicht und menschliche Prüfung als zentrale Gegenmittel. RAG steht für Retrieval-Augmented Generation: Das Modell erhält vor oder während der Antwort zusätzliche Informationen aus einer Such- oder Dokumentenquelle, statt nur aus seinem internen Modellwissen zu formulieren.

Evals sind systematische Tests, mit denen ein Modell oder eine Anwendung auf Fehler, Zuverlässigkeit und typische Problemfälle geprüft wird. Quellenpflicht bedeutet, dass Aussagen mit überprüfbaren Belegen verbunden werden sollen. Menschliche Prüfung bleibt besonders dort wichtig, wo falsche Antworten rechtliche, medizinische, finanzielle oder organisatorische Folgen haben können.

Externe Quellen stützen diese Einordnung nur allgemein: Ein RAG-Survey behandelt Retrieval-Augmented Generation als Technik rund um Wissenszugriff und Generierung, das NIST AI Risk Management Framework bietet einen Governance-Rahmen für KI-Risiken, und OpenAIs Prompt-Engineering-Leitfaden ist eine offizielle Quelle für Prompting-Strategien. Diese Quellen ersetzen aber keine konkrete Prüfung einzelner Newsletter-Behauptungen.

Einordnung über die Zeit

Die vorhandene Wiki-Seite beschreibt eine Entwicklung: 2023 und 2024 wurde Halluzination vor allem als Chatbot-Problem diskutiert; 2025 rückten Sicherheitsmechanismen, Jugendschutz, Quellenbelege und Unternehmensrisiken stärker in den Vordergrund.

Die PageIndex-Belege unterstützen zumindest einen Teil dieser Entwicklung: Mehrere Modellmeldungen aus 2023 und 2025 nennen reduzierte Halluzinationen ausdrücklich als Verbesserung oder Produktmerkmal. Gleichzeitig zeigt das medizinische Beispiel Ende 2025, dass das Problem trotz solcher Verbesserungsversprechen nicht verschwunden ist.

Quellen und Belege

AI-Breakdown-Ausgaben

Externe Quellen