Erklärbare KI: Neue Dimensionen für vertrauenswürdige Entscheidungen

In den letzten Jahren hat sich die erklärbare Künstliche Intelligenz (XAI) zu einem zentralen Thema entwickelt. Die KI‑Community erkennt zunehmend, dass ein System nicht nur gute Ergebnisse liefern muss, sondern auch nachvollziehbar erklären muss, warum es zu bestimmten Entscheidungen kommt. Nur so kann Vertrauen aufgebaut werden.

Ein entscheidendes Problem ist, dass verschiedene Anwendungsbereiche unterschiedliche Anforderungen an die Art und Weise stellen, wie ein KI‑System seine Entscheidungen begründet. Was in der Medizin als ausreichende Erklärung gilt, ist in der Finanzwelt möglicherweise nicht hinreichend.

In dem neuen Beitrag von arXiv (2602.19071v1) werden drei Dimensionen vorgestellt, die die erklärenden Anforderungen systematisch klassifizieren: Source (Woher die Erklärung stammt), Depth (Wie detailliert die Erklärung sein muss) und Scope (Welcher Teil des Modells oder der Daten soll erklärt werden). Diese Kategorien ermöglichen es, die Bedürfnisse einzelner Anwendungen klar zu definieren.

Der Fokus liegt darauf, die erklärenden Anforderungen mit den Fähigkeiten aktueller Machine‑Learning‑Techniken abzugleichen. Dabei werden bereits gut erforschte Aspekte der Erklärung bewusst außen vor gelassen, um die Diskussion auf die noch offenen Fragen zu konzentrieren. Obwohl der Beitrag sich primär auf Machine Learning konzentriert, lassen sich die Prinzipien leicht auf die gesamte KI‑Forschung übertragen.