GIST: Datenauswahl für Instruction Tuning mit gekoppeltem Optimierungsgeometrie

Eine neue Methode namens GIST (Gradient Isometric Subspace Transformation) bringt frischen Wind in die gezielte Datenauswahl für Instruction Tuning. Durch die Auswahl nur kleiner, aber hochrelevanter Trainingsbeispiele kann die Effizienz von Modellen erheblich gesteigert werden.

Traditionelle Ansätze setzen auf Optimizer‑Statistiken, um die Wirkung einzelner Beispiele zu messen. Dabei wird die Optimierungsgeometrie als achsenorientiert angenommen – ein Modell, das bei parameter‑effizienten Feinabstimmungen wie LoRA nicht mehr zutreffend ist. In solchen Fällen entstehen starke Kreuzparameter‑Abhängigkeiten, die die eigentliche Update‑Geometrie verfälschen.

GIST löst dieses Problem, indem es die Achsen‑orientierte Skalierung durch ein robustes Subspace‑Alignment ersetzt. Durch Spektralfilterung (SVD) werden aus Validierungsgradienten task‑spezifische Unterräume extrahiert. Trainingsgradienten werden anschließend in diesen gekoppelten Unterraum projiziert und anhand ihrer Ausrichtung zu den Zielrichtungen bewertet.

Umfangreiche Experimente zeigen, dass GIST den aktuellen Stand der Technik gleichwertig oder sogar besser übertrifft – und das bei einem Speicherbedarf von nur 0,29 % sowie einer Rechenzeit, die um 25 % reduziert wurde, unter denselben Auswahlbudgets.