Neues Verfahren korrigiert fehlerhafte neuronale Netzwerke dank Attributionsanalyse

Die Leistung von neuronalen Netzwerken sinkt, wenn sie auf nicht robuste Merkmale von verfälschten Daten reagieren. Da diese Modelle oft undurchsichtig sind, erfordert die Korrektur von Fehlern umfangreiche Datenbereinigung und erneutes Training – ein hoher Aufwand an Rechenleistung und manueller Arbeit.

In dieser Studie wird ein rank‑one‑Editierungsansatz vorgestellt, der ein attributionsgesteuertes Rahmenwerk zur Modellkorrektur etabliert. Das Verfahren lokalisiert gezielt die fehlerhaften Verhaltensweisen und korrigiert sie, ohne die Gesamtleistung zu beeinträchtigen und ohne große Mengen gereinigter Daten zu benötigen.

Ein identifizierter Engpass ist die unterschiedliche Editierbarkeit der einzelnen Schichten. Um die Hauptursache für Fehlverhalten zu adressieren, wird eine attributionsbasierte Schichtlokalisierung eingeführt, die die Editierbarkeit schichtweise quantifiziert und die Schicht bestimmt, die am meisten für die Unzuverlässigkeiten verantwortlich ist.

Umfangreiche Experimente zeigen, dass das Verfahren zuverlässig neuronale Trojaner, spurielle Korrelationen und Feature-Lecks korrigiert. Besonders bemerkenswert ist, dass die Zielkorrektur bereits mit nur einem einzigen bereinigten Beispiel erreicht werden kann – ein Ergebnis, das die praktische Anwendbarkeit stark erhöht.