X-MAP: Erklärbare Fehlklassifikationsanalyse verbessert Spam-Phishing-Erkennung

Fehlklassifikationen bei Spam- und Phishing-Erkennung sind besonders gefährlich: Falsch-negative Treffer lassen Angriffe unbemerkt, während Falsch-positive Entscheidungen das Vertrauen der Nutzer untergraben. X-MAP – ein neues Framework für erklärbare Fehlklassifikationsanalyse – liefert hier eine Lösung, indem es die semantischen Muster hinter Modellfehlern sichtbar macht.

Das System kombiniert SHAP-basierte Feature‑Attributionswerte mit nicht‑negativer Matrix‑Faktorisierung, um interpretierbare Themenprofile für korrekt klassifizierte Spam/Phishing‑ und legitime Nachrichten zu erstellen. Für jede Nachricht wird anschließend die Abweichung von diesen Profilen mittels Jensen‑Shannon‑Divergenz gemessen. In Experimenten mit SMS‑ und Phishing‑Datensätzen zeigte sich, dass falsch klassifizierte Nachrichten mindestens das Doppelte dieser Divergenz aufweisen.

Als eigenständiger Detektor erreicht X-MAP bis zu 0,98 AUROC und senkt die Fehl‑Ablehnungsrate bei 95 % True‑Positive‑Rate auf 0,089 für positive Vorhersagen. Wird X-MAP als Reparaturlayer zu bestehenden Modellen eingesetzt, kann es bis zu 97 % der zuvor falsch abgelehnten korrekten Vorhersagen wiederherstellen, wobei die Leakage‑Rate moderat bleibt. Diese Ergebnisse demonstrieren, dass X-MAP sowohl die Erkennungsleistung als auch die Interpretierbarkeit von Spam‑ und Phishing‑Detektoren deutlich verbessert.