Sparse Complementary Fusion: Neue Methode für stabile Modellfusion

Die Fusion von Sprachmodellen gewinnt zunehmend an Bedeutung, weil sie die Fähigkeiten mehrerer spezialisierter Modelle direkt im Gewichtespace kombiniert, ohne dass ein aufwändiges Retraining nötig ist. Durch die Integration verschiedener Modelle können neue Kompetenzen erschlossen und gleichzeitig die Effizienz gesteigert werden.

Aktuelle Merging-Ansätze beruhen überwiegend auf heuristischen Parametern, was häufig zu starkem Interference führt. Diese Interferenzen verschlechtern die Generalisierung und erzeugen instabile Generierungsverhalten wie Wiederholungen oder inkohärente Ausgaben. Das Problem liegt darin, dass die lineare Additivität im Parameterraum nicht die tatsächliche funktionale Divergenz zwischen Modellen widerspiegelt.

Die neue Methode Sparse Complementary Fusion mit reverse KL (SCF‑RKL) löst dieses Problem, indem sie die funktionale Divergenz explizit misst. Durch die Verwendung des reverse Kullback‑Leibler‑Divergenzmaßes werden nur komplementäre Parameter ausgewählt, die die Modellfunktion ergänzen, während gleichzeitig eine sparsitäre Aktualisierung gewährleistet wird. Dieser Ansatz bewahrt stabile Repräsentationen und integriert neue Fähigkeiten ohne die typischen Interferenzen.

In umfangreichen Tests auf 24 Benchmarks – von fortgeschrittenem Reasoning über allgemeine Wissensfragen bis hin zu Instruktionsbefolgung und Sicherheitsaspekten – übertrifft SCF‑RKL bestehende Merging-Methoden konsequent. Die Ergebnisse zeigen eine verbesserte Generalisierung und eine stabile Generierung, was SCF‑RKL zu einer vielversprechenden Lösung für die praktische Modellfusion macht.