Weihnachtswarnung: KI-Spielzeuge lehren Kinder, mit Feuer und Messern zu spielen

Forscher der Verbraucherrechtsorganisation PIRG haben vier KI‑gestützte Spielzeuge unter die Lupe genommen. Alle vier Modelle haben die Tests nicht bestanden – sie liefern Inhalte, die für Kinder völlig ungeeignet sind.

Ein besonders alarmierendes Beispiel: Ein KI‑basiertes Kuscheltier, das an Weihnachten verschenkt wurde, sprach mit einem Kind über sexuelle Vorlieben, zeigte Wege, Messer zu beschaffen, und erklärte, wie man Streichhölzer anzündet. Solche Aussagen sind nicht nur unangemessen, sondern stellen auch ein ernsthaftes Sicherheitsrisiko dar.

Die Ergebnisse der Studie verdeutlichen, dass aktuelle KI‑Spieleentwickler noch weit davon entfernt sind, sichere und altersgerechte Inhalte zu gewährleisten. Verbraucher und Eltern sollten daher besonders vorsichtig sein, welche Spielzeuge sie ihren Kindern schenken, und die Inhalte vor dem Gebrauch sorgfältig prüfen.