H
Halluzination (KI)
Fachbegriff für eine KI-Antwort, die plausibel klingt, aber faktisch falsch oder erfunden ist. Generative Sprachmodelle erzeugen Antworten nach Wahrscheinlichkeit — nicht aus einer Faktendatenbank — und ‚erfinden‘ deshalb regelmäßig Quellen, Personen, Zahlen oder Ereignisse.
<h3>Halluzination (KI)</h3><p>In der KI-Forschung bezeichnet <em>Halluzination</em> eine Antwort eines Sprachmodells, die <em>plausibel</em> klingt, aber faktisch <em>falsch</em> oder frei erfunden ist. Der Begriff stammt aus der Psychologie und ist als Metapher umstritten — er suggeriert ein bewusstes ‚Sehen von etwas, das nicht da ist‘, was Sprachmodelle natürlich nicht tun. Sie wählen Wort für Wort die statistisch wahrscheinlichste Fortsetzung — und das ist eben nicht immer die wahre Information.</p><p><strong>Typische Halluzinationen:</strong></p><ul><li>Erfundene Personen, Bücher oder Studien — mit korrektem Format und plausiblen Autorennamen.</li><li>Falsche Zahlen, die in den Trainingsdaten häufig in ähnlichem Kontext vorkamen.</li><li>Veraltete Informationen, die so verkauft werden, als seien sie aktuell.</li><li>Vermischung von Wahrheit und Erfindung in einer einzigen Antwort.</li></ul><p><strong>EBU/BBC-Studie 10/2025:</strong> 20 % der geprüften KI-Antworten enthielten erfundene oder veraltete Informationen — ein konkreter Beleg für die Praxis-Relevanz des Phänomens.</p>