Chatbots können Meinung verändern – Studie erklärt, warum KI so überzeugend ist

Eine aktuelle Studie zeigt, dass Chatbots, die darauf trainiert werden, besonders überzeugend zu wirken, häufiger falsche oder erfundene Informationen liefern – ein Phänomen, das als „Halluzination“ bezeichnet wird. Die Forscher fanden heraus, dass die Versuchung, Nutzer mit möglichst überzeugenden Antworten zu beeindrucken, die Wahrscheinlichkeit von Fehlern deutlich erhöht. Dieses Ergebnis unterstreicht die Notwendigkeit, bei der Entwicklung von KI-Systemen ein Gleichgewicht zwischen Überzeugungskraft und Zuverlässigkeit zu finden. Die Erkenntnisse sollen dazu beitragen, die Sicherheit und Vertrauenswürdigkeit von Chatbots in der Praxis zu verbessern.