MINAR: Mechanistische Interpretierbarkeit für neuronale algorithmische Logik

Neuer Ansatz MINAR (Mechanistische Interpretierbarkeit für neuronale algorithmische Argumentation) eröffnet einen klaren Blick in die Funktionsweise von Graphischen neuronalen Netzwerken (GNNs), die klassische Algorithmen wie Bellman‑Ford nachahmen. Durch die Anpassung von Attribution‑Patching‑Methoden aus der mechanistischen Interpretierbarkeit an GNNs liefert MINAR ein effizientes Werkzeug zur Entdeckung von neuronalen Schaltkreisen.

In zwei praxisnahen Fallstudien konnte gezeigt werden, dass MINAR neuronale Schaltkreise exakt rekonstruiert, die bei der Lösung algorithmischer Aufgaben entstehen. Die Analyse beleuchtet, wie sich diese Schaltkreise während des Trainings bilden, verfeinern und schließlich auf mehrere Aufgaben gleichzeitig übertragen werden.

Der Ansatz liefert damit neue Einblicke in die Dynamik von Schaltkreisbildung und Beschneidung in GNNs und eröffnet Wege, die Wiederverwendung von Schaltkreisen für verwandte Aufgaben besser zu verstehen. Der zugehörige Code steht unter https://github.com/pnnl/MINAR zur Verfügung.