Sicherheits-Utility-Konflikte sind nicht global: Kopf-Level-Ausrichtung

Die Sicherheit von großen Sprachmodellen (LLMs) stellt ein komplexes Mehrzielproblem dar, bei dem die Optimierung von Sicherheitszielen häufig die allgemeinen Leistungsfähigkeiten beeinträchtigt. Traditionelle Ansätze, die auf globalen Gradienten­geometrien basieren, setzen einheitliche Update‑Regeln für sämtliche Parameter, wodurch empfindliche Aufmerksamkeits­köpfe, die stark in Konflikt stehen, unnötig angepasst werden.

Um diese Einschränkung zu überwinden, präsentiert die neue Methode Conflict‑Aware Sparse Tuning (CAST) einen gezielten Ansatz. CAST erstellt zunächst eine Konfliktkarte auf Kopf‑Ebene, indem es Optimierungs­konflikte mit funktionaler Sensitivität kombiniert. Diese Karte steuert anschließend, welche Parameter selektiv aktualisiert werden, sodass nur die wirklich relevanten Köpfe angepasst werden.

Experimentelle Untersuchungen zeigen, dass die Konflikte in LLMs nicht gleichmäßig verteilt sind. Der Verlust an allgemeinen Fähigkeiten entsteht vor allem durch die Anpassung einer kleinen Gruppe von „hochkonfliktigen“ Köpfen. Durch das gezielte Aus‑schalten dieser Köpfe während des Trainings lässt sich der Leistungsverlust erheblich reduzieren, ohne die Sicherheitsziele zu gefährden. CAST bietet damit eine interpretierbare, parameter‑effiziente Lösung, die das Gleichgewicht zwischen Sicherheit und Nutzen deutlich verbessert.