Arabische Sprachmodelle meistern Funktionsaufrufe dank strukturierten Fine‑Tuning

Ein neues Forschungsprojekt hat gezeigt, dass arabische Sprachmodelle, die natürliche Sprache in strukturierte Aktionen übersetzen, dank gezieltem Fine‑Tuning nun zuverlässig funktionieren. Die Autoren stellen AISA‑AR‑FunctionCall vor, ein Framework, das speziell für die arabische Sprache entwickelt wurde und auf einem 270‑Mio‑Parameter‑Modell namens FunctionGemma basiert.

Der Ansatz kombiniert mehrere Schritte: systematisches Auditing der Datensätze, Reparatur von Schema‑Fehlern, umgestaltete prompts, die das Tool‑Bewusstsein berücksichtigen, und ein vollständiges, überwachtes Fine‑Tuning aller Modellparameter. Durch diese Maßnahmen konnte die Modellarchitektur stabilisiert und die Genauigkeit der Funktionsaufrufe signifikant erhöht werden.

Auf einem unabhängigen Test‑Set sank die Fehlerrate beim Parsen von 87 % auf weniger als 1 %. Die Genauigkeit der Funktionsnamen stieg mehr als achtfach, und die Übereinstimmung der Argumente über verschiedene Dialekte und Anwendungsdomänen hinweg verbesserte sich deutlich. Eine detaillierte Fehleranalyse zeigte, dass die Probleme zunächst struktureller Natur waren und sich später zu semantischen Missverständnissen wandelten, was darauf hindeutet, dass Stabilität der Serialisierung und Entscheidungs‑Logik getrennte Herausforderungen darstellen.

Zusätzlich wurde eine LoRA‑Variante mit expliziter Zwischenerklärung entwickelt, die vor dem Aufruf eines Tools ein dediziertes Überlegungs‑Schritt einführt. Diese Erweiterung demonstriert, wie zusätzliche reasoning‑Schichten die Leistung weiter steigern können.

Alle Datensätze und Modelle werden unter dem offenen AISA‑Framework veröffentlicht, sodass die Forschungsgemeinschaft die Ergebnisse reproduzieren und weiterentwickeln kann. Das Projekt markiert einen wichtigen Fortschritt für die Integration von arabischen Sprachmodellen in agentische KI‑Systeme.