CodeScaler: Code-LLM-Training ohne Ausführung, schneller & besser

Die neueste Veröffentlichung von CodeScaler verspricht, die Art und Weise, wie Code-LLMs trainiert und eingesetzt werden, grundlegend zu verändern. Durch die Eliminierung von Ausführungsprüfungen kann das Modell sowohl das Training als auch die Inferenz deutlich skalieren, ohne dabei an Genauigkeit einzubüßen.

CodeScaler nutzt ein reines Belohnungsmodell, das auf sorgfältig kuratierten Präferenzdaten basiert, die aus verifizierten Codeaufgaben stammen. Durch die Einbindung von syntax‑sensiblen Code‑Extraktionstechniken und einer Validität‑erhaltenden Belohnungsformung wird eine stabile und robuste Optimierung gewährleistet, die nicht von der Verfügbarkeit hochwertiger Testfälle abhängt.

In fünf führenden Coding‑Benchmarks hat CodeScaler das Modell Qwen3‑8B‑Base um durchschnittlich +11,72 Punkte verbessert und damit die herkömmliche, auf Ausführung basierende Reinforcement‑Learning‑Methode um +1,82 Punkte übertroffen. Zudem ermöglicht es die Durchführung von Reinforcement‑Learning auf synthetischen Datensätzen ohne jegliche Testfälle. Bei der Inferenz liefert CodeScaler Leistungen, die denen von Unit‑Test‑Ansätzen entsprechen, jedoch mit einer zehnfachen Reduktion der Latenz.

Darüber hinaus übertrifft CodeScaler bestehende Belohnungsmodelle auf RM‑Bench nicht nur im Code‑Bereich (+3,3 Punkte), sondern auch in allgemeinen und reasoning‑Domänen, wo es durchschnittlich +2,7 Punkte mehr erzielt. Diese Ergebnisse deuten darauf hin, dass CodeScaler ein bedeutender Fortschritt für die effiziente und skalierbare Entwicklung von Code‑LLMs darstellt.