Salesforce stellt xRouter vor: KI-Router für kosteneffiziente LLM-Orchestrierung

Salesforce hat mit xRouter einen neuen KI-gesteuerten Router vorgestellt, der die Herausforderung löst, welche Sprachmodelle für einzelne Anfragen eingesetzt werden sollen. Durch die Kombination von Tool‑Calling und Reinforcement Learning entscheidet xRouter automatisch, ob eine Anfrage intern beantwortet oder an ein externes Modell weitergeleitet wird.

Der Ansatz richtet sich an Anwendungen, die auf mehrere Large Language Models (LLMs) mit unterschiedlichen Preisen und Fähigkeiten zugreifen. xRouter lernt, wann es günstiger und effizienter ist, die Antwort lokal zu generieren, und wann ein externes Modell die bessere Wahl ist. Auf diese Weise werden Kosten reduziert und gleichzeitig die Leistungsfähigkeit der jeweiligen LLMs optimal genutzt.

Salesforce betont, dass xRouter die LLM‑Orchestrierung vereinfachen und die Entscheidungsfindung automatisieren soll, sodass Entwickler sich auf die Kernfunktionalität ihrer Anwendungen konzentrieren können, ohne sich um die komplexe Auswahl der passenden Modelle kümmern zu müssen.