Neuer XAI-Algorithmus liefert ausführlichere semi-faktische Erklärungen

In der erklärbaren KI (XAI) gewinnen semi-faktische Erklärungen immer mehr an Bedeutung. Sie zeigen, wie ein vorhergesagtes Ergebnis unverändert bleibt, selbst wenn bestimmte Eingabefaktoren verändert werden. Ein klassisches Beispiel ist die Kreditvergabe: „Selbst wenn Sie doppelt so viel Geld beantragen, würden Sie trotzdem genehmigt.“

Die meisten bestehenden semi-faktischen Verfahren suchen lediglich nach maximalen Änderungen eines einzelnen Schlüsselfaktors, die das Ergebnis nicht beeinflussen. Sie erklären jedoch nicht, warum diese extremen Änderungen keine Wirkung zeigen. Hier setzt der neue Ansatz an.

Der „Informative Semi-Factuals“ (ISF)-Algorithmus ergänzt die klassischen semi-faktischen Erklärungen um zusätzliche Informationen über versteckte Merkmale, die die Entscheidung beeinflussen. So könnte ein Kunde nicht nur erfahren, dass sein Antrag trotzdem angenommen wird, sondern auch, dass sein guter Kredit-Score die entscheidende Rolle spielt.

Experimentelle Tests auf Standard-Datensätzen zeigen, dass ISF semi-faktische Erklärungen erzeugt, die sowohl informativer als auch von höherer Qualität sind. Eine anschließende Nutzerstudie bestätigt, dass Menschen diese ausführlicheren Erklärungen bevorzugen.