Neues Dreieck-Modell vergleicht neuronale Netzwerke umfassend

Wissenschaftler haben ein innovatives „Triangle of Similarity“ entwickelt, das neuronale Netzwerke aus drei Blickwinkeln bewertet: statische Repräsentationsähnlichkeit (CKA/Procrustes), funktionale Ähnlichkeit (Linear Mode Connectivity oder Predictive Similarity) und Sparsity‑Ähnlichkeit (Robustheit gegen Pruning). Durch die Kombination dieser Perspektiven liefert das Modell ein ganzheitliches Bild der inneren Funktionsweise von Deep‑Learning‑Architekturen.

In einer umfangreichen Analyse wurden verschiedene CNN‑Modelle, Vision‑Transformers und Vision‑Language‑Modelle sowohl auf In‑Distribution‑Daten (ImageNetV2) als auch auf Out‑of‑Distribution‑Daten (CIFAR‑10) getestet. Die Ergebnisse zeigen, dass die Architekturfamilie der wichtigste Faktor für die Repräsentationsähnlichkeit ist und klare Cluster bildet. Zudem korrelieren CKA‑Selbstähnlichkeit und Aufgaben‑Genauigkeit stark während des Prunings, wobei die Genauigkeit jedoch oft stärker abnimmt.

Ein besonders spannender Befund ist, dass bei einigen Modellpaaren das Pruning die Repräsentationen zu regulieren scheint und einen gemeinsamen, kompakten Rechenkern freilegt. Dieses Dreieck‑Framework bietet Forschern ein leistungsfähiges Werkzeug, um zu prüfen, ob Modelle auf ähnliche interne Mechanismen convergiert haben, und unterstützt die Auswahl und Analyse von Modellen in wissenschaftlichen Anwendungen.