Uncertainty in XAI: Systematischer Überblick über Methoden und Bewertung

Eine neue Studie auf arXiv (2603.26838v1) fasst die aktuelle Forschung zu Unsicherheitsbewusster erklärbarer KI zusammen. Sie zeigt, dass drei Hauptansätze zur Quantifizierung von Unsicherheit – Bayesian, Monte‑Carlo und Conformal – in der Literatur dominieren. Gleichzeitig werden drei Wege identifiziert, wie Unsicherheit in Erklärungen eingebunden wird: die Vertrauenswürdigkeit prüfen, Modelle bzw. Erklärungen einschränken und Unsicherheit explizit kommunizieren. Die Bewertung dieser Methoden ist jedoch noch fragmentiert und konzentriert sich überwiegend auf das Modell selbst, wobei Nutzerperspektiven und die konsistente Berichterstattung von Zuverlässigkeitsmerkmalen wie Kalibrierung, Abdeckung und Stabilität der Erklärungen kaum berücksichtigt werden. Aktuelle Arbeiten setzen vermehrt auf kalibrierungsbasierte, distributionsfreie Techniken und erkennen die Variabilität von Erklärern als zentrales Problem an. Die Autoren fordern ein einheitliches Evaluationsframework, das Unsicherheitsweitergabe, Robustheit und menschliche Entscheidungsfindung verknüpft, und heben dabei counterfactual- und kalibrierungsorientierte Ansätze als vielversprechende Wege hervor, Interpretierbarkeit mit Zuverlässigkeit in Einklang zu bringen.