Sparsifizierung von neuronalen Netzen: Interpretierbarkeit bei 90 % Aktivierung kollabiert

Eine neue Untersuchung auf arXiv zeigt, dass die drastische Reduktion der Aktivierung in neuronalen Netzen – bis zu 90 % weniger aktive Neuronen – die mechanistische Interpretierbarkeit stark beeinträchtigt. Die Forscher haben ein hybrides Variational Autoencoder–Sparse Autoencoder (VAE‑SAE) Modell entwickelt, das die Anzahl aktiver Neuronen schrittweise von 500 auf 50 reduziert, und dabei die Grenzen der Sparsifizierung in Bezug auf die Erhaltung interpretierbarer Merkmale aufzeigt.

Im Rahmen der Studie wurden zwei Benchmark‑Datensätze verwendet: dSprites (graustufig, 5 Faktoren) und Shapes3D (RGB, 6 Faktoren). Für beide Datensätze wurden die Top‑k‑ und L1‑Sparsifizierungsverfahren getestet. Während die globale Repräsentationsqualität, gemessen am Mutual Information Gap, weitgehend stabil blieb, zeigte sich ein systematischer Kollaps der lokalen Feature‑Interpretierbarkeit.

Bei der Top‑k‑Sparsifizierung erreichten die „toten“ Neuronen Raten von 34,4 % ± 0,9 % bei dSprites und 62,7 % ± 1,3 % bei Shapes3D, wenn k auf 50 gesetzt wurde. L1‑Regularisierung führte zu noch höheren Raten: 41,7 % ± 4,4 % bei dSprites und 90,6 % ± 0,5 % bei Shapes3D. Eine Verlängerung des Trainings um weitere 100 Epochen konnte die verlorenen Neuronen nicht wiederherstellen, und das Muster blieb über alle definierten Schwellenwerte hinweg konsistent.

Der Kollaps skaliert mit der Komplexität des Datensatzes: Shapes3D weist 1,8‑mal mehr tote Neuronen als dSprites bei Top‑k und 2,2‑mal mehr bei L1 auf. Diese Ergebnisse legen nahe, dass es fundamentale Grenzen gibt, wie stark ein neuronales Netzwerk komprimiert werden kann, ohne die interpretierbaren Strukturen zu zerstören. Für die Entwicklung von erklärbaren KI‑Systemen bedeutet dies, dass bei der Anwendung von Sparsifizierungsstrategien ein sorgfältiges Abwägen zwischen Modellkomplexität und Interpretierbarkeit erforderlich ist.