Dual-Encodierung enthüllt kausale Zusammenhänge für erklärbare KI

Eine neue Methode zur kausalen Entdeckung wurde auf arXiv veröffentlicht (ID: 2601.21221v1). Sie verspricht, die Erklärbarkeit von KI-Modellen deutlich zu verbessern, indem sie die zugrunde liegenden kausalen Beziehungen zwischen Merkmalen aufdeckt.

Traditionelle kausale Entdeckungsalgorithmen stoßen bei kategorialen Variablen häufig an Grenzen, weil die numerische Stabilität bei Tests der bedingten Unabhängigkeit leidet. Die Autoren schlagen einen Dual-Encodierungs-Ansatz vor, der zwei komplementäre Kodierungsstrategien nutzt und die Ergebnisse anschließend mittels Mehrheitsabstimmung zusammenführt.

Durch die Kombination von constraint-basierten Algorithmen mit unterschiedlichen Codierungen werden die Schwächen einzelner Verfahren ausgeglichen, sodass robustere kausale Strukturen identifiziert werden können. In einem Testfall mit dem Titanic-Datensatz konnte die Methode kausale Strukturen rekonstruieren, die mit etablierten erklärbaren Verfahren übereinstimmen.

Diese Entwicklung eröffnet neue Möglichkeiten, KI-Entscheidungen nicht nur zu visualisieren, sondern auch zu verstehen und zu hinterfragen. Die Dual-Encodierung könnte damit ein wichtiger Schritt zur vertrauenswürdigen KI sein.