FedDAG: Clustered Federated Learning mit global Daten- und Gradientenintegration

Federated Learning (FL) ermöglicht es mehreren Clients, gemeinsam ein Modell zu trainieren, ohne ihre Daten zu teilen. In der Praxis leiden die Ergebnisse jedoch stark, wenn die Daten der Clients stark unterschiedlich sind. Clustered FL versucht dieses Problem zu lösen, indem ähnliche Clients zusammengefasst werden. Bisher stützten sich die meisten Ansätze jedoch ausschließlich auf Daten‑ oder Gradientenähnlichkeit, was die Bewertung der Client‑Beziehungen unvollständig macht.

FedDAG führt ein neues Clustered‑FL‑Framework ein, das einen gewichteten, klassenbasierten Ähnlichkeitsmaßstab nutzt, der sowohl Daten- als auch Gradientendaten integriert. Durch diese ganzheitliche Messung werden die Clients präziser in Cluster eingeteilt, was die Modellleistung deutlich verbessert.

Ein weiteres Highlight von FedDAG ist die Dual‑Encoder‑Architektur. Jeder Cluster verfügt über einen primären Encoder, der auf den Daten der eigenen Clients trainiert wird, sowie über einen sekundären Encoder, der mit Gradienten aus komplementären Clustern verfeinert wird. Auf diese Weise kann Wissen zwischen Clustern ausgetauscht werden, ohne die spezifische Spezialisierung eines Clusters zu verlieren.

Experimentelle Ergebnisse auf einer Vielzahl von Benchmarks und unterschiedlichen Heterogenitäts‑Settings zeigen, dass FedDAG die Genauigkeit gegenüber allen aktuellen Cluster‑FL‑Baselines übertrifft. Das neue Verfahren demonstriert damit, dass eine Kombination aus Daten‑ und Gradientenintegration sowie ein durchdachtes Feature‑Transfer‑Design die Grenzen des Federated Learning in heterogenen Umgebungen verschiebt.