Energie‑gesteuerte Steuerung reduziert Fehlablehnungen bei Sprachmodellen

In einer neuen Studie wird ein innovatives Verfahren namens Energy‑Driven Steering (EDS) vorgestellt, das die Sicherheit großer Sprachmodelle verbessert, ohne deren Kernwissen zu verändern. EDS nutzt ein leichtgewichtiges, externes Energy‑Based Model (EBM), das während der Inferenz die internen Aktivierungen des Modells in ein „Energie‑Landschaft“ überführt. Zustände, die zu falschen Ablehnungen oder Jailbreaks führen, erhalten dabei hohe Energie, wohingegen hilfreiche oder sichere Antworten niedrige Energie tragen.

Durch die Berechnung des Energie‑Gradienten wird das Modell in Echtzeit zu Bereichen mit niedriger Energie gelenkt. Dieser dynamische Ansatz korrigiert die Ausgabe des Sprachmodells, ohne dessen Gewichte zu modifizieren, und trennt die Verhaltenskontrolle von der eigentlichen Wissensbasis. Dadurch entsteht eine flexible Lösung mit minimalem Rechenaufwand.

Umfangreiche Experimente an verschiedenen Modellen zeigen, dass EDS die Rate falscher Ablehnungen deutlich senkt. Auf dem ORB‑H‑Benchmark stieg die Konformität von 57,3 % auf 82,6 % – ein signifikanter Fortschritt, während die Grundsicherheit unverändert blieb. Die Ergebnisse demonstrieren, dass EDS ein effektives Paradigma für die Entwicklung sicherer Sprachmodelle darstellt, die gleichzeitig weniger Fehlablehnungen aufweisen.