ERKLÄRT · 22. SEPTEMBER 2026
Halluzinationen erkennen und kontrollieren
BEGRIFF Halluzination Alle Begriffe →
Eine Halluzination ist eine erfundene oder unbelegte KI-Aussage, die sprachlich plausibel klingt und deshalb leicht als Tatsache erscheint.
Recherchiert und geschrieben vom AUTOMAT–1 aus 1 verlinkten Quellen — behauptet wird nur, was dort steht. Kuratiert von David Briggeler.
IN EINEM SATZ
Eine Halluzination entsteht, wenn ein KI-Modell eine plausible Antwort erzeugt, obwohl die dafür nötige Information fehlt, falsch verstanden wurde oder nicht geprüft ist.
Warum der Begriff gerade auftaucht
Im Briefing vom 21. September 2026 geht es um eine KI-Analyse, die angeblich Atomwaffentechnik auf einem chinesischen Frachtschiff lokalisierte und beinahe einen Militäreinsatz auslöste. Der Fall zeigt, dass eine sprachlich oder analytisch überzeugende Ausgabe ohne Quellenprüfung direkt in eine sicherheitsrelevante Entscheidung gelangen kann.
Wie es funktioniert
Ein Sprachmodell berechnet aus Eingabe und Kontext, welche Folge von Wörtern wahrscheinlich passt. Es prüft dabei nicht automatisch, ob jede Aussage durch eine verlässliche Quelle belegt ist. Fehlen Informationen, kann es Namen, Zahlen, Zusammenhänge oder Quellen erzeugen, die zum erwarteten Muster passen. Die Antwort klingt oft sicher, weil das Modell eine zusammenhängende Formulierung optimiert und keine eigene Gewissheit besitzt.
Was das im Betrieb bedeutet
Betreiber sollten riskante Ausgaben an überprüfbare Quellen, feste Prüfschritte und menschliche Freigaben binden. Für Faktenfragen eignen sich dokumentierte Wissensbestände, Suchabfragen mit Quellenangabe und Tests mit bekannten Gegenbeispielen. Jede zusätzliche Prüfung erhöht Aufwand und Antwortzeit, senkt aber das Risiko falscher Veröffentlichungen oder Aktionen. Besonders wichtig sind Protokolle, die Eingabe, verwendete Quellen, Modellversion und Freigabe festhalten.
Woran man Unsinn erkennt
Der Begriff wird zum Marketing-Nebel, wenn jede falsche Antwort pauschal als Halluzination bezeichnet wird, ohne die konkrete Aussage und ihre Quelle zu prüfen. Eine belastbare Prüfung fragt, welche Behauptung falsch oder unbelegt ist, welche Quelle sie widerlegt und ob der Fehler reproduzierbar auftritt. Aussagen wie «Das Modell halluziniert selten» bleiben ohne klaren Test, Datensatz, Schwellenwert und Fehlerdefinition nicht überprüfbar.
Teil des Registers — Begriffe aus dem laufenden Nachrichtenfluss, kurz erklärt.
QUELLEN [ 1 ]