Definition
Halluzination (KI)
Eine Halluzination ist eine von einem KI-Modell erzeugte Aussage, die flüssig und plausibel klingt, aber faktisch falsch, erfunden oder nicht durch die Quellen gedeckt ist.
Halluzinationen entstehen, weil Sprachmodelle das wahrscheinlichste nächste Token vorhersagen und nicht zwischen wahr und falsch prüfen. Gegenmassnahmen sind das Verankern der Antworten in geprüften Quellen (etwa via RAG), Quellenangaben und eine menschliche Kontrolle vor geschäftskritischer Verwendung.