H
Halluzination (KI-Antwort)
Plausibel klingende, aber inhaltlich falsche Antwort eines KI-Sprachmodells. Erfundene Quellen, Zitate oder Fakten — sprachlich überzeugend, aber sachlich falsch. Zentrales Problem im Schulalltag mit ChatGPT & Co.
<h3>Halluzination (KI-Antwort)</h3><p>Der Begriff bezeichnet ein systembedingtes Phänomen generativer Sprachmodelle: Diese erzeugen flüssige, sprachlich überzeugende Texte — auch wenn die Inhalte erfunden sind. Beispiele aus dem Schulalltag 2025: erfundene Quellen, frei erfundene Zitate berühmter Personen, falsch wiedergegebene Gesetzestexte.</p><p><strong>Warum passiert das?</strong> Sprachmodelle sind <em>statistische Vorhersagemaschinen</em>. Sie produzieren das wahrscheinlich nächste Wort — nicht die wahre Antwort. Wenn die Trainingsdaten lückenhaft sind, füllt das Modell die Lücke mit dem, was sprachlich gut passt.</p><p><strong>Pädagogischer Umgang:</strong></p><ul><li>KI-Output als Vorschlag, nicht als Antwort betrachten.</li><li>Mindestens eine zweite, von Menschen geprüfte Quelle konsultieren.</li><li>Bei Quellenangaben durch die KI: Quelle eigenständig aufrufen — oft existieren die genannten Werke gar nicht.</li></ul><p><strong>Bezug zur Folge 81:</strong> Im Jahresrückblick 2025 wird Halluzination als zentraler neuer Begriff der digitalen Quellenkritik benannt — die Routine ‚steht im Internet, also stimmt es‘ greift nicht mehr.</p>