Prefix‑RFT: Ein einheitliches ML-Framework zur Kombination von SFT und RFT

Prefix‑RFT ist ein einheitliches Machine‑Learning‑Framework, das die Stärken von Supervised Fine‑Tuning (SFT) und Reinforcement Fine‑Tuning (RFT) kombiniert.

Bei SFT werden große Sprachmodelle durch beispielbasiertes Lernen an Anweisungen angepasst. Dieser Ansatz vermittelt klare Verhaltensregeln, kann jedoch zu starren Reaktionen und schlechter Generalisierung führen.

RFT hingegen nutzt Belohnungssignale, um Modelle gezielt auf den Erfolg bestimmter Aufgaben auszurichten. Durch die Kombination beider Methoden ermöglicht Prefix‑RFT eine flexible, aber gleichzeitig zielgerichtete Optimierung, die die Leistungsfähigkeit moderner Sprachmodelle deutlich steigert.