Neue XAI-App erkennt Missogynie in Code‑Mixed Hindi‑English Memes und Texten

Digitale Plattformen verzeichnen einen stetig wachsenden Nutzerzuwachs und fungieren gleichzeitig als zentrale Kommunikations- und Geschäftsplattformen. Gleichzeitig erleichtern sie die Verbreitung von Hassrede und Missogynie. Künstliche Intelligenz hat sich als wirksames Mittel zur Bekämpfung von Online‑Hassrede etabliert, jedoch fehlt ihr in ressourcenarmen und code‑gemischten Sprachen oft die nötige Transparenz.

In dieser Studie wird eine webbasierte, multimodale und erklärbare Anwendung vorgestellt, die Missogynie in Texten und Memes erkennt, die Hindi und Englisch vermischen. Die Lösung nutzt moderne Transformer‑Modelle wie XLM‑RoBERTa und mBERT für die Textanalyse und kombiniert mBERT mit EfficientNet bzw. ResNet für die Bild‑Erkennung. Auf Datensätzen mit rund 4.200 Kommentaren bzw. Memes wird die Genauigkeit der Modelle demonstriert.

Ein besonderes Merkmal der App ist die Integration von Explainable‑AI‑Techniken. Feature‑Importance‑Scores werden über SHAP und LIME berechnet, sodass die Entscheidungswege der Modelle nachvollziehbar bleiben. Dies ist besonders wichtig in sensiblen Bereichen wie der Erkennung von geschlechtsspezifischer Gewalt.

Die Anwendung richtet sich an Forscher und Content‑Moderatoren und soll die weitere Forschung in diesem Bereich fördern sowie die Bekämpfung von geschlechtsspezifischer digitaler Gewalt unterstützen.