Studierende erleben KI-Halluzinationen: Analyse der Ursachen und Erkennung

In einer Zeit, in der immer mehr Studierende auf große Sprachmodelle zurückgreifen, stellen KI-Halluzinationen eine wachsende Gefahr für das Lernen dar. Um dieser Bedrohung entgegenzuwirken, muss die KI-Kompetenz über die reine Prompt-Engineering-Fähigkeit hinausgehen und die Erkennung sowie den Umgang mit Halluzinationen umfassen.

Eine aktuelle Untersuchung hat 63 Universitätsstudenten drei offene Fragen zu ihren Erfahrungen mit KI-Halluzinationen, zu ihren Erkennungsstrategien und zu ihren mentalen Modellen der Ursachen gestellt. Die daraus gewonnenen Antworten wurden mittels thematischer Analyse ausgewertet.

Die Ergebnisse zeigen, dass die meisten Halluzinationen auf falsche oder erfundene Zitate, unrichtige Informationen, übermäßig selbstsichere, aber irreführende Antworten, mangelnde Einhaltung von Prompt-Anweisungen, hartnäckige falsche Antworten und sycophantische Tendenzen zurückzuführen sind.

Zur Erkennung von Halluzinationen greifen die Studierenden entweder auf ihr intuitives Urteilsvermögen zurück oder setzen gezielte Verifizierungsstrategien ein, etwa das Überprüfen von Informationen in externen Quellen oder das erneute Prompten des Modells.

Die Erklärungen der Studierenden zu den Ursachen spiegeln verschiedene mentale Modelle wider, darunter die Vorstellung, dass KI als Forschungsmaschine fungiert, die Informationen erfindet, wenn sie keine Antwort in ihrer „Datenbank“ finden kann. Andere Gründe sind Probleme mit den Trainingsdaten, unzureichende Prompting-Techniken oder die Annahme, dass das Modell Informationen nicht verstehen oder verifizieren kann.

Diese Erkenntnisse verdeutlichen die Schwachstellen beim KI-gestützten Lernen und unterstreichen die Notwendigkeit, Lernende gezielt im kritischen Umgang mit KI-Generierungen zu schulen.