SpectralGuard schützt SSMs vor stillen Gedächtnis‑Kollaps‑Angriffen

State‑Space‑Modelle (SSMs) wie Mamba ermöglichen dank einer Eingangs‑abhängigen Rekurrenz die lineare Verarbeitung von Sequenzen. Diese Effizienz birgt jedoch eine bislang unterschätzte Sicherheitslücke: die Spektralradius‑Eigenschaft des diskretisierten Übergangsoperators bestimmt die effektive Gedächtnislänge des Modells.

Forscher haben gezeigt, dass ein Angreifer durch gezielte Gradient‑basierte Hidden‑State‑Poisoning‑Techniken den Spektralradius auf nahezu Null zwingen kann. Dadurch schrumpft das Gedächtnis von Millionen Tokens auf nur wenige Dutzend, wodurch die Rechenleistung des Modells stillschweigend zerstört wird – ohne dass herkömmliche Ausgabendetektoren Alarm schlagen.

Um diesem Risiko entgegenzuwirken, wurde SpectralGuard entwickelt: ein Echtzeit‑Monitor, der die Spektralstabilität aller Modell‑Schichten kontinuierlich überwacht. In Tests erzielt SpectralGuard ein F1‑Score von 0,961 gegen nicht‑adaptive Angreifer und 0,842 gegen die stärkste adaptive Bedrohung, während die Latenz pro Token unter 15 ms bleibt. Zusätzlich bestätigen kausale Interventionen und die Übertragbarkeit auf hybride SSM‑Attention‑Architekturen, dass Spektral‑Monitoring eine robuste, einsatzbereite Sicherheits‑Schicht für rekurrente Basismodelle darstellt.