LLM-Persona: Dynamische, algebraische Steuerung ohne Feinabstimmung

Eine neue, trainingsfreie Methode namens PERSONA ermöglicht es, die Persönlichkeit von großen Sprachmodellen (LLMs) präzise zu steuern, ohne dass dafür aufwändige Feinabstimmungen nötig sind. Durch die direkte Manipulation von Aktivierungsvektoren im Repräsentationsraum des Modells erreicht PERSONA Leistungen, die denen von feinabgestimmten Systemen nahekommen.

Der Ansatz beruht auf der Erkenntnis, dass Persönlichkeitsmerkmale als nahezu orthogonale Richtungen im Aktivierungsraum erkennbar sind und damit algebraische Operationen zulassen. PERSONA gliedert sich in drei Phasen: Persona‑Base extrahiert die orthogonalen Trait‑Vektoren mittels kontrastiver Aktivierungsanalyse; Persona‑Algebra erlaubt die exakte Steuerung durch Vektoraddition, -subtraktion und Skalierung; Persona‑Flow sorgt für kontextabhängige Anpassungen, indem die Vektoren während der Inferenz dynamisch zusammengesetzt werden.

Auf dem Benchmark PersonalityBench erzielt die Methode einen durchschnittlichen Score von 9,60 – nahezu identisch mit dem oberen Grenzwert von 9,61, der durch supervised Fine‑Tuning erreicht wird – und das ohne jegliche Gradientupdates. In einem neu eingeführten Benchmark namens Persona‑Evolve, der die dynamische Anpassung von Persönlichkeiten testet, erreicht PERSONA bis zu 91 % Gewinnraten über verschiedene Modellfamilien hinweg.

Diese Ergebnisse zeigen, dass Persönlichkeitsaspekte von LLMs mathematisch handhabbar sind und eröffnen damit neue, interpretierbare und effiziente Wege zur Verhaltenskontrolle in Sprachmodellen.