DC-Merge: Modellfusion mit richtungsorientierter Konsistenz

In der Welt der künstlichen Intelligenz gewinnt die effiziente Zusammenführung mehrerer, auf spezifische Aufgaben abgestimmter Modelle immer mehr an Bedeutung. Das neue Verfahren DC‑Merge setzt dabei einen entscheidenden Akzent: Es sorgt dafür, dass die Richtungs­konsistenz der Singular­räume zwischen den einzelnen Task‑Vektoren und dem zusammengeführten Modell erhalten bleibt.

Beim klassischen Mergen von Modellen treten häufig zwei Probleme auf. Erstens ist die Energie­verteilung innerhalb der Task‑Vektoren unausgewogen – ein kleiner Bruchteil der Singularwerte trägt den Großteil der Energie, während semantisch wichtige, schwächere Komponenten vernachlässigt werden. Zweitens ist die geometrische Ausrichtung der Task‑Vektoren im Parameterraum oft inkonsistent, was zu Verzerrungen führt, wenn die Vektoren direkt zusammengeführt werden.

DC‑Merge begegnet diesen Herausforderungen, indem es zunächst die Energieverteilung jedes Task‑Vektors ausgleicht. Durch das Glätten der Singularwerte werden alle Wissenskomponenten angemessen repräsentiert. Anschließend werden die ausgeglichenen Vektoren in einen gemeinsamen orthogonalen Unterraum projiziert, wodurch ihre Richtungs­geometrie mit minimaler Rekonstruktions­fehler ausgerichtet wird. Die ausgerichteten Vektoren werden im Unterraum aggregiert und anschließend zurück in den ursprünglichen Parameterraum projiziert.

Umfangreiche Experimente auf Vision‑ und Vision‑Language‑Benchmarks zeigen, dass DC‑Merge konsequent die Spitzenleistung in beiden Szenarien – vollständiges Fine‑Tuning und LoRA‑Konfigurationen – erzielt. Das Verfahren übertrifft damit den aktuellen Stand der Technik in der Modellfusion.

Der Implementierungscode ist frei verfügbar unter https://github.com/Tobeginwith/DC-Merge.