Hierarchische Konzepte: Neue Modelle erklären Deep Learning besser

Moderne Deep‑Learning‑Netze bleiben schwer verständlich, weil ihre latenten Repräsentationen undurchsichtig sind. Das erschwert das Verständnis, Debugging und die Beseitigung von Bias. Concept Embedding Models (CEMs) haben diesen Mangel teilweise behoben, indem sie Eingaben in menschlich interpretierbare Konzepte übersetzen. Sie stoßen jedoch an Grenzen: Sie erfassen keine Beziehungen zwischen Konzepten und erfordern umfangreiche Konzeptannotationen in unterschiedlichen Granularitäten.

In der aktuellen Arbeit wird die neue Familie der Hierarchical Concept Embedding Models (HiCEMs) vorgestellt. HiCEMs modellieren explizit die Beziehungen zwischen Konzepten über hierarchische Strukturen. Damit wird die Interpretable‑Model‑Lücke geschlossen und die Flexibilität erhöht.

Ein zentrales Innovationstool ist Concept Splitting. Diese Methode entdeckt automatisch feinere Unterkonzepte aus dem Embedding‑Raum eines vortrainierten CEMs, ohne zusätzliche Annotationen zu benötigen. Dadurch sinkt der Aufwand für die Beschriftung erheblich, während gleichzeitig die Erklärbarkeit und Genauigkeit der Modelle gesteigert werden.

Die Evaluation umfasst mehrere Datensätze, eine Nutzerstudie und Experimente mit PseudoKitchens – einem neu entwickelten Konzept‑Dataset aus 3‑D‑Küchendarstellungen. Die Ergebnisse zeigen, dass Concept Splitting menschlich interpretierbare Unterkonzepte findet, die während des Trainings nicht vorhanden waren, und dass HiCEMs leistungsstarke Test‑Zeit‑Interventionen auf unterschiedlichen Granularitäten ermöglichen. Das führt zu einer verbesserten Aufgaben‑Genauigkeit und macht die Modelle in realen Anwendungen praktikabler.