PyTorch 2.8 bringt stabile libtorch ABI und schnelle quantisierte LLMs
Anzeige
PyTorch hat die Version 2.8 veröffentlicht und damit zwei wichtige Neuerungen eingeführt.
Zunächst wird ein begrenztes, stabiles libtorch ABI bereitgestellt, das Drittentwicklern die Erstellung von C++/CUDA‑Erweiterungen erleichtert.
Darüber hinaus ermöglicht die neue Version eine hochleistungsfähige, quantisierte LLM‑Inference auf Intel‑Hardware, was die Ausführung großer Sprachmodelle deutlich beschleunigt.
Ein bedeutender Schritt für Entwickler und Forschung. (Quelle: PyTorch – Blog)
Ähnliche Artikel
Wired – AI (Latest)
•
Können große Sprachmodelle von KI‑Agenten träumen?
MarkTechPost
•
Microsoft präsentiert COPILOT: Das größte Excel-Upgrade seit Jahren
MarkTechPost
•
Neue Methode vom Allen Institute verbessert die Bewertung großer Sprachmodelle
arXiv – cs.AI
•
LLMs lernen Physik im Kontext: Entdeckung neuer Repräsentationen
arXiv – cs.LG
•
MAVIS: Leichtgewichtiges Alignment für LLMs in Echtzeit
arXiv – cs.AI
•
AlphaEval: Neues, effizientes Bewertungsframework für Alpha‑Mining