FedVG: Gradient-basierte Aggregation verbessert Learning in heterogenen Umgebungen

In einer Zeit, in der Federated Learning (FL) immer mehr an Bedeutung gewinnt, stellt FedVG einen bedeutenden Fortschritt dar. Das neue Framework nutzt Gradienten, um die Aggregation von Modellen über mehrere Clients hinweg zu optimieren und damit das Problem des Client‑Drifts – also der Verschlechterung der allgemeinen Modellleistung durch unterschiedliche Datenverteilungen – gezielt zu bekämpfen.

FedVG arbeitet mit einem globalen Validierungsset, das aus öffentlich verfügbaren Datensätzen besteht. Dadurch bleibt die Privatsphäre der Clients gewahrt, während gleichzeitig ein einheitlicher Maßstab für die Bewertung der Modelle geschaffen wird. Anstatt die Größe der lokalen Datensätze zu gewichten, berechnet FedVG die Gradientennormen jeder Schicht des Modells. Diese Schicht‑weise Analyse liefert einen client‑spezifischen Score, der angibt, wie stark ein Client seine Gewichte anpassen muss, um die Generalisierungsfähigkeit auf dem globalen Validierungsset zu erhöhen.

Umfangreiche Tests auf natürlichen und medizinischen Bilddatensätzen – unter Einsatz verschiedener Modellarchitekturen – zeigen, dass FedVG die Leistung konsistent steigert. Besonders in stark heterogenen Umgebungen, wo die Datenverteilungen zwischen den Clients stark variieren, übertrifft FedVG herkömmliche Aggregationsmethoden deutlich.

Ein weiterer Vorteil von FedVG ist seine Modularität. Das Framework lässt sich nahtlos in bestehende, hochmoderne FL‑Algorithmen integrieren und verbessert deren Ergebnisse häufig noch weiter. Der komplette Code ist öffentlich auf GitHub verfügbar, sodass Forscher und Entwickler sofort loslegen können.