Halluzination (KI)

Als Halluzination bezeichnet man plausibel wirkende, aber sachlich falsche oder unsinnige Ausgaben einer KI. Sprachmodelle erzeugen sie, weil sie statistisch wahrscheinliche Fortsetzungen generieren, statt jede Aussage zu prüfen; auch Fehler in Trainings- oder abgerufenen Daten können dazu führen. Grounding und RAG helfen, sie zu verringern.

A hallucination is plausible but factually incorrect or nonsensical AI output. Language models produce it because they generate statistically likely continuations rather than verify each claim; errors in training or retrieved data can also cause it. Grounding and RAG help reduce hallucinations.