meineki.news Logo
meineki.news
KI News. Verstehen, was wichtig wird.
Anmelden
Suche

Finde Modelle, Firmen und Themen

Suche im News-Archiv nach Themen, die du dauerhaft verfolgen willst.

Ergebnisse für “Edge-Geräte”
Forschung

<h1>HOSL: Hybrid-Order Split Learning reduziert Speicherbedarf bei Edge-Training</h1> <p>Split Learning (SL) ermöglicht die kollaborative Schulung großer Sprachmodelle zwischen ressourcenbeschränkten Edge-Geräten und leistungsstarken Servern, indem die Modellrechnung über die Netzwerkgrenze hinweg aufgeteilt wird. Traditionell setzen die meisten SL-Systeme auf First‑Order (FO) Optimierung, die von den Clients verlangt, Zwischenergebnisse wie Aktivierungen für das Backpropagation zu speichern. Dieser Speiche
arXiv – cs.LG
Forschung

<p>PocketLLM: LLMs in 10-facher Kompression dank Meta-Netzwerken</p> <p>Mit dem stetigen Wachstum von Large Language Models (LLMs) wird das Speichern und Übertragen dieser Modelle auf Edge-Geräten immer schwieriger. Klassische Techniken wie Quantisierung und Pruning erreichen zwar eine gewisse Reduktion, doch sie stoßen schnell an ihre Grenzen, wenn extrem hohe Kompressionsraten ohne Qualitätsverlust angestrebt werden.</p> <p>Die neue Methode PocketLLM löst dieses Problem, indem sie die Gewichte eines LLMs

arXiv – cs.LG