FedKEI: Schnelleres Lernen neuer Krankheiten mit wissensbasierter Initialisierung

Im Gesundheitswesen ermöglicht Federated Learning (FL) die datenschutzkonforme Zusammenarbeit mehrerer medizinischer Einrichtungen. Durch die Nutzung großer Foundation Models (FMs) in Kombination mit kostengünstigem Adapter‑Tuning wird FL immer populärer. Doch die rasante Entwicklung neuer Krankheiten verlangt von den einzelnen Clients, sich rasch an neue Aufgaben anzupassen.

Das neue Verfahren Federated Knowledge‑Enhanced Initialization (FedKEI) nutzt Wissen aus vergangenen Aufgaben und aus anderen Clients, um für neue Aufgaben bereits gut informierte Initialisierungen zu erzeugen. Zunächst führt der Server einen globalen Clustering‑Prozess durch, um Wissen über verschiedene Aufgaben hinweg zu generalisieren. Anschließend werden Aggregationsgewichte – sowohl zwischen den Clustern (inter‑cluster) als auch innerhalb eines Clusters (intra‑cluster) – optimiert, um die Wissensübertragung für jede neue Aufgabe zu personalisieren.

FedKEI verwendet ein bi‑level‑Optimierungsverfahren, bei dem die globalen intra‑cluster‑Gewichte gemeinsam über alle Clients hinweg gelernt werden, während die lokalen inter‑cluster‑Gewichte auf die jeweiligen Aufgaben der einzelnen Clients abgestimmt werden. Durch diese Kombination aus globaler Generalisierung und lokaler Anpassung können die Adapter schneller und effizienter auf neue Krankheiten reagieren.

Umfangreiche Experimente an drei unterschiedlichen Benchmark‑Datensätzen – Dermatologie, Röntgenaufnahmen des Brustkorbs und retinalen OCT‑Scans – zeigen, dass FedKEI die Anpassungsfähigkeit an neue Krankheiten deutlich verbessert, wenn man es mit aktuellen Methoden vergleicht. Das Verfahren bietet damit einen vielversprechenden Ansatz, um die Lernfähigkeit von Federated Learning in der Medizin weiter zu steigern.