FLoRG: Federiertes Feintuning mit Low‑Rank‑Gram‑Matrizen und Procrustes‑Alignment

Parameter‑effiziente Feintuning‑Methoden wie Low‑Rank‑Adaptation (LoRA) ermöglichen es großen Sprachmodellen, sich schnell an neue Aufgaben anzupassen. Durch Federated Learning (FL) kann diese Anpassung zudem von mehreren verteilten Clients gemeinsam durchgeführt werden, ohne dass sensible Daten geteilt werden müssen.

Bei der üblichen LoRA‑Implementierung werden zwei separate Low‑Rank‑Matrizen verwendet. Das Aggregieren dieser beiden Matrizen führt zu einem Fehler, und selbst wenn nur ihr Produkt aggregiert wird, muss der Server die Faktoren durch Matrix‑Decomposition zurückerzeugen – ein Prozess, der nicht eindeutig ist und zu Decomposition‑Drift führen kann.

FLoRG löst diese Probleme, indem es nur eine einzelne Low‑Rank‑Matrix nutzt und deren Gram‑Matrix (die Matrix der inneren Produkte ihrer Spalten) aggregiert. Dadurch entfällt der Aggregationsfehler und die Kommunikationskosten sinken. Zusätzlich wird ein Procrustes‑Alignment eingesetzt, das die dekomponierten Matrizen zwischen aufeinanderfolgenden Feintuning‑Runden ausrichtet und so den Drift weiter reduziert.

Die Autoren zeigen theoretisch, dass das Procrustes‑Alignment zu einer engeren Konvergenz‑Grenze führt. In Experimenten auf mehreren Benchmark‑Aufgaben für große Sprachmodelle übertrifft FLoRG fünf aktuelle Baselines deutlich in der Leistung der Downstream‑Aufgaben.