Neue XAI-App erkennt Missogynie in Code‑Mixed Hindi‑English Memes und Texten
Digitale Plattformen verzeichnen einen stetig wachsenden Nutzerzuwachs und fungieren gleichzeitig als zentrale Kommunikations- und Geschäftsplattformen. Gleichzeitig erleichtern sie die Verbreitung von Hassrede und Miss…
- Digitale Plattformen verzeichnen einen stetig wachsenden Nutzerzuwachs und fungieren gleichzeitig als zentrale Kommunikations- und Geschäftsplattformen.
- Gleichzeitig erleichtern sie die Verbreitung von Hassrede und Missogynie.
- Künstliche Intelligenz hat sich als wirksames Mittel zur Bekämpfung von Online‑Hassrede etabliert, jedoch fehlt ihr in ressourcenarmen und code‑gemischten Sprachen oft d…
Digitale Plattformen verzeichnen einen stetig wachsenden Nutzerzuwachs und fungieren gleichzeitig als zentrale Kommunikations- und Geschäftsplattformen. Gleichzeitig erleichtern sie die Verbreitung von Hassrede und Missogynie. Künstliche Intelligenz hat sich als wirksames Mittel zur Bekämpfung von Online‑Hassrede etabliert, jedoch fehlt ihr in ressourcenarmen und code‑gemischten Sprachen oft die nötige Transparenz.
In dieser Studie wird eine webbasierte, multimodale und erklärbare Anwendung vorgestellt, die Missogynie in Texten und Memes erkennt, die Hindi und Englisch vermischen. Die Lösung nutzt moderne Transformer‑Modelle wie XLM‑RoBERTa und mBERT für die Textanalyse und kombiniert mBERT mit EfficientNet bzw. ResNet für die Bild‑Erkennung. Auf Datensätzen mit rund 4.200 Kommentaren bzw. Memes wird die Genauigkeit der Modelle demonstriert.
Ein besonderes Merkmal der App ist die Integration von Explainable‑AI‑Techniken. Feature‑Importance‑Scores werden über SHAP und LIME berechnet, sodass die Entscheidungswege der Modelle nachvollziehbar bleiben. Dies ist besonders wichtig in sensiblen Bereichen wie der Erkennung von geschlechtsspezifischer Gewalt.
Die Anwendung richtet sich an Forscher und Content‑Moderatoren und soll die weitere Forschung in diesem Bereich fördern sowie die Bekämpfung von geschlechtsspezifischer digitaler Gewalt unterstützen.
Welche Linse du auf diese Meldung legen solltest
Dieses Thema ist relevant, weil es zeigt, wie sich KI-Produkte, Modelle oder Rahmenbedingungen in der Praxis verschieben.
Achte zuerst darauf, was sich fuer Nutzer, Builder oder Unternehmen konkret veraendert und ob daraus ein nachhaltiger Trend entsteht.