Steering‑Vektoren in Sprachmodellen: Warum ihre Zuverlässigkeit variiert

Steering‑Vektoren sind ein schlankes Verfahren, um das Verhalten von Sprachmodellen zu steuern, indem ein lernbarer Bias zu den Aktivierungen während der Inferenz hinzugefügt wird. Obwohl sie im Durchschnitt wirksam sind, zeigen sie bei vielen Zielverhalten große Schwankungen in ihrer Wirkung.

Eine neue Untersuchung beleuchtet, warum die Zuverlässigkeit von Steering‑Vektoren je nach Verhalten variiert. Dabei wurde festgestellt, dass eine höhere Kosinus‑Ähnlichkeit zwischen den Aktivierungsunterschieden im Trainingsdatensatz ein starkes Indiz für verlässlichere Steuerung ist.

Weiterhin zeigt die Studie, dass Datensätze, bei denen positive und negative Aktivierungen entlang der Steering‑Richtung besser getrennt sind, tendenziell zuverlässiger steuert werden können. Das bedeutet, dass die Klarheit der Zielrepräsentation im latenten Raum entscheidend ist.

Interessanterweise sind Steering‑Vektoren, die auf unterschiedlichen Prompt‑Variationen trainiert wurden, in ihrer Richtung verschieden, erreichen aber vergleichbare Leistungen und weisen korrelierte Wirksamkeit über verschiedene Datensätze hinweg auf.

Zusammengefasst sind Steering‑Vektoren dann unzuverlässig, wenn die latente Zielrepräsentation nicht durch die lineare Steering‑Richtung adäquat erfasst wird. Diese Erkenntnisse liefern ein praktisches Diagnosewerkzeug für die Zuverlässigkeit von Steering‑Vektoren und legen den Grundstein für robustere Methoden, die explizit nichtlineare latente Verhaltenrepräsentationen berücksichtigen.