BlazeFL: Schnelle und deterministische Federated Learning Simulation

In der Federated Learning‑Forschung werden immer häufiger Einzelknoten‑Simulationen mit Hunderten oder Tausenden virtueller Clients eingesetzt. Dabei sind Effizienz und Reproduzierbarkeit entscheidend, doch paralleles Client‑Training führt häufig zu Nicht‑Determinismus durch geteilte Zufallszustände und variable Scheduling‑Verhalten. BlazeFL löst dieses Problem mit einem schlanken Framework, das freie Thread‑Parallele und deterministische Zufallszahlengeneratoren nutzt.

BlazeFL arbeitet auf Thread‑Ebene und tauscht Parameter im Speicher zwischen Server und Clients, wodurch die Overhead‑Kosten von Serialisierung und Interprozesskommunikation vermieden werden. Jeder Client erhält einen eigenen, isolierten Zufallszahlengenerator, sodass bei identischer Software‑ und Hardware‑Umgebung und bei Verwendung der BlazeFL‑verwalteten Generatoren bitweise identische Ergebnisse erzielt werden – sowohl bei Thread‑ als auch bei Prozess‑Modi.

In Experimenten mit der CIFAR‑10‑Bildklassifikation reduziert BlazeFL die Ausführungszeit im Vergleich zu einem weit verbreiteten Open‑Source‑Baseline um bis zu 3,1‑fach bei kommunikationsintensiven Workloads, während es gleichzeitig einen leichten Abhängigkeits‑Footprint beibehält.

Die Open‑Source‑Implementierung ist unter https://github.com/kitsuyaazuma/blazefl verfügbar.