meineki.news Logo
meineki.news
KI News. Verstehen, was wichtig wird.
Anmelden
Suche

Finde Modelle, Firmen und Themen

Suche im News-Archiv nach Themen, die du dauerhaft verfolgen willst.

Ergebnisse für “KI-Community”
Forschung

<p>ORBITFLOW: Adaptive KV-Cache-Optimierung steigert LLM-Performance um bis zu 3,3×</p> <p>Die Ausführung von Sprachmodellen mit langen Kontexten stellt die KI-Community vor ein großes Problem: Während die Token‑Generierung fortschreitet, schwankt der Speicherbedarf stark, sodass die GPU‑Speicherauslastung unvorhersehbar wird. Traditionelle Offloading‑Strategien, die KV‑Caches statisch in den Host‑Speicher verschieben, können diese Schwankungen nicht in Echtzeit ausgleichen. Das führt zu häufigen CPU‑zu‑GPU
arXiv – cs.AI
Aktuell

DeepSeek's neues Modell: Der letzte Schlag gegen proprietäre KI?<p>DeepSeek hat mit seinem neuesten Open-Source-Modell beeindruckende Benchmark-Ergebnisse erzielt. Das Ergebnis wirft erneut die Frage auf, ob teure proprietäre KI-Modelle wirklich den Aufwand und die Kosten wert sind.</p><p>Die Veröffentlichung hat die KI-Community erneut in Aufruhr versetzt und zeigt, dass Open-Source-Ansätze zunehmend konkurrenzfähig werden. Experten diskutieren nun, ob die Investitionen in kostenpflichtige Modelle noch ger
ZDNet – Artificial Intelligence