Erklärung über Intuition hinaus: Testkriterium für inhärente Erklärbarkeit
Ein neues arXiv‑Veröffentlichung definiert ein weltweit anwendbares Kriterium, um die inhärente Erklärbarkeit von KI‑Modellen eindeutig zu prüfen. Damit wird ein langjähriges Problem gelöst: bislang fehlte eine einheitliche Definition und ein überprüfbarer Test für die Erklärbarkeit von Algorithmen.
Die Autoren nutzen Graphentheorie, um Modelle in strukturierte, lokal erklärbare Bausteine zu zerlegen. Diese Bausteine werden als Anmerkungen – eine überprüfbare Hypothesen‑Beweis‑Struktur – festgehalten und anschließend zu einer globalen Erklärung zusammengesetzt. Das Verfahren erlaubt die Einbindung verschiedener Erklärungsansätze, ohne die Konsistenz zu gefährden.
Das Kriterium stimmt mit den gängigen Intuitionen überein und liefert nachvollziehbare Gründe, warum ein großes Regressionsmodell möglicherweise nicht erklärbar ist, während ein sparsames neuronales Netzwerk das Potenzial hat, erklärbar zu sein. Dabei wird klar zwischen „erklärbar“ (ein Modell, das Erklärungen zulässt) und „erklärt“ (ein Modell mit verifizierter Erklärung) unterschieden.
Ein konkretes Beispiel ist das in Neuseeland klinisch eingesetzte Cox‑Proportional‑Hazards‑Modell PREDICT zur Vorhersage von Herz-Kreislauf‑Risiken. Durch die Anwendung des neuen Kriteriums konnte nachgewiesen werden, dass PREDICT inhärent erklärbar ist.
Diese Arbeit liefert eine strukturierte Grundlage, um bestehende Ansätze zur Erklärbarkeit zu formalieren und bietet Regulierungsbehörden ein flexibles, aber rigoroses Prüfverfahren für Compliance‑Frameworks. Enthusiastisch, aber seriös, eröffnet sie neue Wege, KI‑Transparenz wissenschaftlich zu untermauern.