PSO-Merging: Modelle effizient verschmelzen mit Partikelschwarm-Optimierung
In der aktuellen Forschung gewinnt das Mergen von Modellen zunehmend an Bedeutung, weil dadurch die Stärken mehrerer Expertenmodelle zu einem einzigen Multitask-Modell zusammengeführt werden können. Dadurch entfällt die Notwendigkeit, ein vortrainiertes Modell für jede Aufgabe von Grund auf neu zu feinabstimmen.