Learning to Shard: RL for Co-optimizing the Parallelism Degrees and Per-operator Sharding Dimensions in Distributed LLM Inference
Anzeige
Ähnliche Artikel
arXiv – cs.AI
•
LLMs im Pokerspiel: Noch weit von Profis entfernt – ToolPoker setzt neue Maßstäbe
arXiv – cs.AI
•
Weltmodelle als Brücke: Agenten meistern kostenintensive Aufgaben
arXiv – cs.AI
•
AutoTraj: Automatisches Lernen von Tool‑Use‑Pfaden für KI‑Reasoning
arXiv – cs.LG
•
Weniger Lärm, mehr Stimme: RLVR verbessert LLM-Logik durch Prompt‑Purification
arXiv – cs.AI
•
Reinforcement Learning stärkt LLM-Funktionsaufrufe: Adversarial Augmentation deckt Schwächen auf
arXiv – cs.AI
•
FuseSearch: Adaptive Parallelisierung steigert Code‑Lokalisierung um 93,6 %