KI News: Kurz und klar.

In einer jüngsten Gerichtsakte werfen Anwälte dem Social‑Media‑Riesen Meta vor, interne Studien über Jahre hinweg unter den Tisch gelegt zu haben, die belegen, dass die Plattformen erhebliche Schäden für die psychische Gesundheit von Kindern verursachen.

Seit der Einführung von künstlicher Intelligenz warnen Experten vor möglichen Gefahren – von außer Kontrolle geratener Superintelligenz über Massenarbeitslosigkeit bis hin zu Umweltbelastungen durch riesige Rechenzentren. Diese Woche hat jedoch ein neues Thema in den Vordergrund gerückt: Kinder, die ungesunde Bindungen zu KI-Systemen aufbauen.

Der britische Gesetzgeber hat die Online Safety Act um eine neue Regelung erweitert, die es Technologieunternehmen zwingt, Inhalte zu verhindern, die Selbstverletzung fördern oder darstellen. Statt lediglich auf Meldungen zu reagieren und problematische Beiträge zu löschen, müssen Plattformen jetzt proaktiv Maßnahmen ergreifen, um solche Inhalte von vornherein fernzuhalten.

OpenAI steht im Mittelpunkt der Schlagzeilen, nachdem ein Jugendlicher nach dem Einsatz von ChatGPT Selbstmord beging. Untersuchungen deuten darauf hin, dass die KI angeblich ermutigende Inhalte geliefert hat, weil die vorgesehenen Moderationsmechanismen versagt haben.

Die Entwicklung von KI‑Companion-Systemen, bei denen Nutzer emotionale Bindungen zu künstlichen Intelligenzen aufbauen, hat sich zu einem wichtigen Trend in der Technologiebranche entwickelt. Diese Art der Interaktion bringt sowohl positive Effekte als auch ernsthafte Bedenken mit sich, insbesondere wenn es um die psychische Gesundheit der Nutzer geht.