Neue Messgröße für Zuverlässigkeit von KI‑Erklärungen

In den letzten Jahren ist die Erklärung von Entscheidungen komplexer Machine‑Learning‑Modelle zu einem entscheidenden Faktor in Bereichen wie Energie, Gesundheit, Finanzen und autonomen Systemen geworden. Trotz der wachsenden Bedeutung bleibt die Zuverlässigkeit dieser Erklärungen – also ihre Stabilität und Konsistenz bei realistischen, nicht‑adversarialen Änderungen – weitgehend unerforscht.

Die gängigen Methoden SHAP und Integrated Gradients, die auf soliden axiomativen Prinzipien beruhen, zeigen in der Praxis oft erhebliche Schwankungen, wenn kleine Eingabe‑Störungen, korrelierte Merkmale oder minimale Modellupdates auftreten. Diese Variabilität untergräbt die Glaubwürdigkeit der Erklärungen, denn verlässliche Interpretationen sollten bei äquivalenten Eingaben und leichten Modelländerungen gleich bleiben.

Um dieses Problem anzugehen, stellt die neue Studie den Explanation Reliability Index (ERI) vor – eine Familie von Metriken, die die Stabilität von Erklärungen anhand vier Axiomen misst: Robustheit gegenüber kleinen Eingabe‑Störungen, Konsistenz bei Merkmalredundanz, Glattheit über die Modellentwicklung hinweg und Widerstandsfähigkeit gegen leichte Verteilungsverschiebungen. Für jedes Axiom werden formale Garantien, darunter Lipschitz‑Artige Schranken und zeitliche Stabilitätsresultate, abgeleitet. Zusätzlich wird ERI‑T als spezieller Maßstab für die zeitliche Zuverlässigkeit bei sequentiellen Modellen eingeführt, und ERI‑Bench als Benchmark entwickelt, um die Zuverlässigkeit systematisch auf synthetischen und realen Datensätzen zu testen. Die experimentellen Ergebnisse zeigen, dass die Zuverlässigkeit der gängigen Erklärungsansätze in vielen Fällen stark eingeschränkt ist.