<p>TorchAO erweitert Quantization‑Aware Training für Edge‑LLMs</p> <p>In unserem letzten Blog‑Post haben wir den ersten Quantization‑Aware Training‑Flow (QAT) in TorchAO vorgestellt, der große Sprachmodelle für Edge‑Geräte mit ExecuTorch optimiert. Dieser Ansatz ermöglicht es, Modelle auf kleineren Plattformen einzusetzen, ohne dabei die Genauigkeit zu stark zu beeinträchtigen.</p> <p>Seitdem haben wir den Flow weiterentwickelt und zusätzliche Optimierungen integriert. Die neue Version unterstützt nun erwei