Neues multimodales XAI-Framework steigert Vertrauen in CNNs und erkennt Bias

Ein neues multimodales Explainable AI (XAI)-Framework wurde vorgestellt, das die Zuverlässigkeit von Convolutional Neural Networks (CNNs) in sensiblen Anwendungen deutlich verbessert. Durch die Kombination von attention‑augmentierter Feature‑Fusion, Grad‑CAM++‑basierten lokalen Erklärungen und einem Reveal‑to‑Revise‑Feedback‑Loop kann das System nicht nur hochpräzise Vorhersagen treffen, sondern auch versteckte Biases in den Daten erkennen und reduzieren.

Die Autoren haben ihr Konzept anhand von multimodalen Erweiterungen des MNIST‑Datensatzes getestet. Das Ergebnis: 93,2 % Klassifikationsgenauigkeit, ein F1‑Score von 91,6 % und eine Erklärungs‑Fidelity von 78,1 % (IoU‑XAI). Diese Kennzahlen übertreffen sowohl unimodale als auch nicht‑erklärbare Baselines deutlich.

Durch gezielte Ablation‑Studien wurde gezeigt, dass die Integration von Interpretierbarkeit in den Lernprozess die Robustheit erhöht und die Übereinstimmung mit menschlichen Erwartungen verbessert. Das neue Framework schafft damit einen praktischen Weg, Leistung, Transparenz und Fairness in einem Paket zu vereinen – ein entscheidender Schritt für vertrauenswürdige KI in Bereichen, in denen Fehler keine Option sind.