Robuste Register-Automaten aus neuronalen Netzen extrahiert – neue Methode

Eine neu entwickelte Technik ermöglicht es, aus komplexen, schwarzen Box-Neuronalen Netzen leicht verständliche Ersatzmodelle zu erzeugen, die gleichzeitig symbolisch analysiert werden können. Im Gegensatz zu bisherigen Ansätzen, die nur mit endlichen Eingabealphabets arbeiten, richtet sich die Methode gezielt an Datenreihen aus kontinuierlichen Domänen.

Der Schlüssel bildet der deterministische Register-Automat (DRA), eine Erweiterung des klassischen endlichen Automaten. DRAs besitzen Register, in denen numerische Werte gespeichert und verglichen werden können, wodurch sie kontinuierliche Daten exakt modellieren können.

Das Herzstück des neuen Frameworks ist ein polynomieller Robustheitsprüfer für DRAs mit einer festen Registerzahl, der in Kombination mit passiven und aktiven Lernalgorithmen eingesetzt wird. Das Ergebnis sind Ersatz-DRAs, die statistische Robustheit und Gleichwertigkeitsgarantien besitzen und damit zuverlässige Surrogatmodelle liefern.

Ein besonders wirkungsvolles Anwendungsfeld ist die Robustheitsbewertung von neuronalen Netzen. Für eine gegebene Sequenz und ein Distanzmaß kann der DRA entweder lokale Robustheit zertifizieren oder ein konkretes Gegenbeispiel erzeugen. Experimente mit rekurrenten Netzen und Transformer-Architekturen zeigen, dass das Framework präzise Automata lernt und eine fundierte Robustheitsanalyse ermöglicht – und das ohne Zugriff auf die interne Struktur des Netzwerks.