Fail-Closed Alignment: Neue Sicherheitsstrategie für Sprachmodelle

Eine aktuelle Studie hat eine strukturelle Schwachstelle in der Ausrichtung großer Sprachmodelle (LLM) aufgedeckt: Die heutigen Ablehnungsmechanismen sind „fail‑open“. Das bedeutet, dass ein einzelner dominanter Feature‑Pfad, wenn er durch promptbasierte Jailbreaks unterdrückt wird, die gesamte Sicherheitsausrichtung zum Kollaps bringen kann.

Um diesem Problem entgegenzuwirken, schlägt die Forschung das Prinzip des „Fail‑Closed Alignment“ vor. Dabei sollen Ablehnungsmechanismen auch bei partiellen Ausfällen wirksam bleiben, indem redundante und unabhängige kausale Pfade geschaffen werden. Konkret wird ein progressives Alignment‑Framework vorgestellt, das bereits erlernte Ablehnungsrichtungen schrittweise identifiziert und ablatiert. Dadurch muss das Modell seine Sicherheitslogik in neuen, unabhängigen Subräumen neu aufbauen.

In vier verschiedenen Jailbreak‑Angriffen zeigte das Verfahren die stärkste Gesamrobustheit, reduzierte Überablehnung und bewahrte gleichzeitig die Qualität der generierten Texte. Der zusätzliche Rechenaufwand bleibt gering. Mechanistische Analysen belegen, dass Modelle, die mit dieser Methode trainiert wurden, mehrere, kausal unabhängige Ablehnungsrichtungen enthalten, die promptbasierte Jailbreaks nicht gleichzeitig unterdrücken können. Diese Ergebnisse liefern empirische Unterstützung für Fail‑Closed Alignment als solide Grundlage für die Sicherheit von LLMs.