Federated Learning: Mit generativer KI frühzeitig stoppen und Ressourcen sparen

Federated Learning (FL) ermöglicht es, Modelle auf verteilten Geräten zu trainieren, ohne dass sensible Daten das Gerät verlassen. In der Praxis laufen FL-Modelle jedoch oft für eine festgelegte Anzahl an globalen Runden, was zu unnötigem Rechenaufwand führt, sobald die optimale Leistung bereits erreicht ist. Gleichzeitig kann das Training weitergehen, obwohl das Modell keine nennenswerten Fortschritte erzielt.

Um diese Ineffizienz zu beseitigen, wurde ein Zero‑Shot-Validierungsframework entwickelt, das generative KI nutzt, um die Modellleistung zu überwachen und frühzeitige Stopppunkte zu bestimmen. Das System erzeugt synthetische Validierungsdaten, ohne dass echte Daten benötigt werden, und bewertet kontinuierlich, ob weitere Trainingsrunden noch sinnvoll sind.

In Experimenten zur Mehrklassenklassifikation von Röntgenaufnahmen zeigte die Methode, dass die Anzahl der Trainingsrunden um bis zu 74 % reduziert werden kann, während die Genauigkeit innerhalb von 1 % des optimalen Wertes bleibt. Damit spart das Verfahren erhebliche Rechenressourcen und ermöglicht schnellere Hyperparameteranpassungen.