Neuer Ansatz zur Feature‑Bedeutung: Counterfactual Importance Distribution (CID)

In der Welt des maschinellen Lernens ist es entscheidend, die Bedeutung einzelner Merkmale zu verstehen, um die Entscheidungsprozesse von Modellen nachvollziehen zu können. Trotz zahlreicher vorhandener Methoden fehlt bislang ein eindeutiges Referenzmaß, das als Vergleichsgrundlage dienen könnte. Der neue Ansatz Counterfactual Importance Distribution (CID) bietet hierfür eine solide Alternative.

Bei CID werden zwei Gruppen von Gegenfakten erzeugt – eine positive und eine negative. Durch Kernel‑Density‑Estimation werden die Verteilungen dieser Gegenfakten modelliert, und die Merkmale werden anschließend anhand einer dissimilaritätsbasierten Metrik sortiert. Diese Metrik ist mathematisch fundiert und erfüllt die wesentlichen Eigenschaften eines gültigen Messwerts.

Die Autoren demonstrieren die Wirksamkeit von CID, indem sie es mit etablierten lokalen Feature‑Importance‑Explorern vergleichen. CID liefert nicht nur ergänzende Perspektiven, sondern verbessert auch die Leistung bei Faithfulness‑Messgrößen, sowohl in Bezug auf Vollständigkeit als auch auf Suffizienz. Das Ergebnis sind präzisere und vertrauenswürdigere Erklärungen des Modells, die CID zu einem wertvollen Werkzeug für die Analyse von KI-Systemen machen.