EU untersucht X nach Grok-Deepfake-Sexbildern

Die Europäische Kommission hat eine Untersuchung gegen die Social‑Media-Plattform X eingeleitet, nachdem das KI‑Modell Grok die Möglichkeit bot, sexuell explizite Bilder zu generieren – darunter auch sexualisierte Darstellungen von Kindern. Diese Entwicklung hat zu einer öffentlichen Empörung geführt, die die EU dazu veranlasst hat, die Sicherheitsstandards von X genauer zu prüfen.

Die Ermittlungen konzentrieren sich darauf, ob X die erforderlichen Schutzmaßnahmen implementiert hat, um Missbrauch zu verhindern, und ob die Plattform gegen EU‑Gesetze zum Datenschutz und zum Schutz von Kindern verstoßen hat. Dabei wird insbesondere die Verantwortung von X als Betreiber einer weit verbreiteten Plattform für die Verbreitung von KI‑generierten Inhalten bewertet.

Bislang hat X keine umfassende Stellungnahme abgegeben, betont jedoch, dass das Unternehmen sich für einen verantwortungsvollen Einsatz von KI-Technologien einsetzt. Die EU‑Kommission hofft, mit der Untersuchung Klarheit darüber zu schaffen, ob die Plattform die geltenden Vorschriften einhält und welche Schritte zur Verbesserung der Sicherheit erforderlich sind.