KI-Chatbots gegen digitale Missbrauchsformen: Erste Bewertung ihrer Hilfe

In einer wegweisenden Studie wurden vier große Sprachmodelle (LLMs) daraufhin geprüft, wie gut sie auf Fragen zu technologiegestütztem Missbrauch (TFA) reagieren. Dabei wurden sowohl zwei allgemein einsetzbare Modelle als auch zwei speziell für den Bereich der Intimpartnergewalt entwickelten Varianten herangezogen.

Die Bewertung erfolgte anhand von realen Fragen, die aus Fachliteratur und Online-Foren gesammelt wurden. Die LLMs wurden in einem „Zero‑Shot“-Setup mit einem Prompt getestet, der die Sicherheit der Betroffenen in den Mittelpunkt stellt. Anschließend wurden die Antworten von Experten auf Kriterien wie Genauigkeit, Sensibilität und Handlungsorientierung beurteilt.

Um die praktische Nützlichkeit zu prüfen, führte die Studie zudem eine Nutzerbefragung unter Personen durch, die selbst von TFA betroffen waren. Diese Nutzer bewerteten, wie umsetzbar und hilfreich die generierten Antworten für ihre Situation waren. Die Ergebnisse zeigen, dass die Modelle zwar bereits signifikante Fortschritte gemacht haben, aber noch Schwächen in Bezug auf Kontextverständnis und präzise Handlungsempfehlungen aufweisen.

Basierend auf den Erkenntnissen wurden konkrete Empfehlungen für die Weiterentwicklung von LLMs im TFA‑Bereich formuliert. Dazu gehören gezieltes Fine‑Tuning, die Integration von Sicherheitsrichtlinien und die Einbindung von Fachwissen aus der Praxis. Diese Vorschläge sollen dazu beitragen, dass künftige KI‑Chatbots noch besser auf die Bedürfnisse von TFA‑Betroffenen eingehen können.