LT‑Soups: Brücken bauen zwischen Kopf‑ und Schwanzklassen mit Model Soups
In vielen realen Datensätzen zeigen sich stark unausgewogene Klassenverteilungen, bei denen wenige „Kopf“-Klassen die Mehrheit bilden, während zahlreiche „Schwanz“-Klassen kaum vertreten sind. Neueste Studien haben gezeigt, dass parameter‑effiziente Feinabstimmungsverfahren wie LoRA und AdaptFormer die Leistung bei Schwanzklassen erhalten, jedoch die Genauigkeit der Kopfklassen beeinträchtigen.
