Suche nach Speicherverbrauch

SEval-NAS: Neue, suchagnostische Bewertung für neuronale Architektursuche

Neurale Architektursuche (NAS) automatisiert die Entdeckung von Netzwerken, die vorgegebene Kriterien erfüllen. In der Praxis sind die Eval…

arXiv – cs.LG 03.03.2026 05:00

Praxis

DeepSpeed verbessert Multimodal‑Training und Speicher‑Effizienz

DeepSpeed hat zwei bedeutende Neuerungen vorgestellt, die das Training von multimodalen Modellen revolutionieren. Die erste Innovation ist…

PyTorch – Blog 25.02.2026 00:45

Forschung

Effizientes Training großer Rechenmodelle durch Progressive Thought Encoding

Große Rechenmodelle für komplexe Aufgaben sind äußerst leistungsfähig, doch ihr Training mit Reinforcement Learning (RL) bleibt ein Engpass…

arXiv – cs.LG 20.02.2026 05:00

Forschung

Doc-to-LoRA: Sofortige Kontextinternalisierung für LLMs

Die neue Methode Doc-to-LoRA (D2L) nutzt ein leichtgewichtiges Hypernetzwerk, das in einer einzigen Vorwärtsausführung lernt, Kontextinform…

arXiv – cs.AI 19.02.2026 05:00

Forschung

EvoCodeBench: Benchmark für selbstverbessernde LLM-Codierungssysteme

Die neueste Studie von ArXiv präsentiert EvoCodeBench, einen innovativen Messwert für die Leistung von Large Language Models (LLMs), die si…

arXiv – cs.AI 12.02.2026 05:00

Forschung

Weniger trainieren, schneller inferieren: Sparsity-basiertes Finetuning

Ein neues arXiv-Preprint (2602.09169v1) präsentiert einen innovativen Ansatz, um große Sprachmodelle effizient an spezifische Aufgaben anzu…

arXiv – cs.LG 11.02.2026 05:00

Forschung

LoRA-Parameter: Lernrate skaliert je nach Rank – Transfer zu vollem Finetuning

Low‑Rank Adaptation (LoRA) bleibt ein beliebtes Werkzeug, um große Modelle mit wenigen zusätzlichen Parametern zu verfeinern. Trotz des ger…

arXiv – cs.LG 09.02.2026 05:00

Forschung

Perplexität neu gedacht: Eingabelänge beeinflusst Bewertung von LLMs

Die Perplexität gilt seit langem als Standardmaß für die Vorhersagequalität großer Sprachmodelle. Doch neue Untersuchungen zeigen, dass sie…

arXiv – cs.LG 05.02.2026 05:00

Forschung

TruKAN: Effizientere Kolmogorov-Arnold-Netze mit Potenzfunktionen

In einer neuen Veröffentlichung auf arXiv präsentiert das Forschungsteam die Architektur TruKAN, die die klassische Kolmogorov-Arnold-Netzw…

arXiv – cs.AI 05.02.2026 05:00

Forschung

Dynamische Cutoffs beschleunigen ML-Interatomische Potentiale

Maschinelles Lernen hat die Simulation von Atomen revolutioniert, doch die Geschwindigkeit und der Speicherbedarf von ML‑Interatomischen Po…

arXiv – cs.LG 30.01.2026 05:00

Forschung

AGZO: Aktivitätsgesteuerte Zeroth-Order-Optimierung verbessert LLM-Fine‑Tuning

Die neue Methode AGZO (Activation‑Guided Zeroth‑Order) bietet eine elegante Lösung für das Feintuning großer Sprachmodelle unter extremen S…

arXiv – cs.LG 27.01.2026 05:00

Forschung

GPA: Generalisierte Primal‑Averaging beschleunigt LLM‑Training ohne Mehrloop

In einer neuen Veröffentlichung auf arXiv wird Generalized Primal Averaging (GPA) vorgestellt, ein Verfahren, das die Optimierung von große…

arXiv – cs.AI 22.12.2025 05:00

Forschung

Effiziente Langkontext-Inferenz: Write-Gated KV reduziert Speicherbedarf um bis zu 57 %

Die neue Studie von EMCLab-Sinica zeigt, dass die häufigste Ursache für langsame Langkontext-Inferenz bei großen Sprachmodellen nicht die q…

arXiv – cs.LG 22.12.2025 05:00

Forschung

SHARe-KAN: Holographische Vektorquantisierung senkt Speicherbedarf drastisch

Die neueste Veröffentlichung auf arXiv (2512.15742v1) präsentiert SHARe-KAN, ein innovatives Verfahren zur Reduktion des Speicherverbrauchs…

arXiv – cs.LG 19.12.2025 05:00

Forschung

Neues Tool prognostiziert GPU-Speicherbedarf multimodaler Modelle

Ein kürzlich veröffentlichtes arXiv‑Paper (2512.07853v1) stellt ein innovatives Verfahren vor, das den Spitzen-GPU‑Speicherverbrauch von mu…

arXiv – cs.LG 10.12.2025 05:00

Forschung

Datenorientiertes Design schlägt objektorientiertes: Mehr Leistung und Cache‑Effizienz bei A* auf Multi‑Core‑CPUs

In einer aktuellen Studie aus dem arXiv‑Repository wird der Leistungsunterschied zwischen datenorientiertem Design (DOD) und dem traditione…

arXiv – cs.AI 10.12.2025 05:00

Forschung

Probabilistische Hash-Embeddings optimieren Online-Lernen Kategorischer Merkmale

In einer neuen Studie wird ein innovativer Ansatz vorgestellt, der das Online-Lernen von kategorischen Merkmalen in Streaming-Daten revolut…

arXiv – cs.LG 27.11.2025 05:00

Forschung

Neuro-Symbolische Ontologie verbessert Multi-Intent-Verständnis bei mobilen Agenten

Ein neues neuro-symbolisches Framework verspricht, mobile KI-Agenten bei der Erkennung mehrerer Intentionen deutlich zu verbessern. Durch d…

arXiv – cs.AI 26.11.2025 05:00

Forschung

LLM-Training ohne Logits: Speicher- und Geschwindigkeitsvorteile

Traditionell werden bei der Schulung großer Sprachmodelle (LLMs) die versteckten Zustände zunächst in Logits umgewandelt, bevor der Kreuzen…

arXiv – cs.LG 25.11.2025 05:00

Forschung

CORGI: Quadratische Garantien für effizientes Muster‑Matching

In Echtzeit‑Anwendungen wie KI‑Planung, reaktiver Steuerung und schnelle Datenbankabfragen müssen regelbasierte Systeme komplexe Muster‑Mat…

arXiv – cs.AI 19.11.2025 05:00

Forschung

KVCompose: Effiziente KV-Cache-Kompression mit Composite Tokens

Neues Verfahren namens KVCompose reduziert den Speicherbedarf von Key‑Value‑Caches in großen Sprachmodellen drastisch, ohne die Genauigkeit…

arXiv – cs.LG 08.09.2025 05:00

Forschung

Tri-Accel: GPU-Optimierung mit adaptiver Präzision und Speicherflexibilität

Tri-Accel ist ein neues, einheitliches Optimierungsframework, das drei fortschrittliche Beschleunigungstechniken gleichzeitig anpasst. Durc…

arXiv – cs.LG 26.08.2025 05:00

Forschung

Hydra: 1,6 Milliarden‑Parameter-Sprachmodell mit Attention, MoE und Speicher

Hydra ist ein neues Architekturkonzept für Sprachmodelle, die lange Kontexte verarbeiten können. Das Modell kombiniert einen Mamba‑ähnliche…

arXiv – cs.LG 22.08.2025 05:00

Forschung

Hardware‑optimierte Active‑Inference: 2‑fach schnell, 35 % weniger Speicher

Active Inference (AIF) gilt als leistungsstarkes Entscheidungsframework, doch seine hohen Rechen- und Speicheranforderungen erschweren die…

arXiv – cs.AI 20.08.2025 05:00

Forschung

Neues STE-Modell verbessert Genauigkeit und Effizienz von Analog‑CIM‑Netzwerken

Forscher haben ein erweitertes Straight‑Through Estimator (STE) entwickelt, das die Leistung von neuronalen Netzwerken auf Analog‑Compute‑I…

arXiv – cs.LG 19.08.2025 05:00

Finde Modelle, Firmen und Themen

SEval-NAS: Neue, suchagnostische Bewertung für neuronale Architektursuche

DeepSpeed verbessert Multimodal‑Training und Speicher‑Effizienz

Effizientes Training großer Rechenmodelle durch Progressive Thought Encoding

Doc-to-LoRA: Sofortige Kontextinternalisierung für LLMs

EvoCodeBench: Benchmark für selbstverbessernde LLM-Codierungssysteme

Weniger trainieren, schneller inferieren: Sparsity-basiertes Finetuning

LoRA-Parameter: Lernrate skaliert je nach Rank – Transfer zu vollem Finetuning

Perplexität neu gedacht: Eingabelänge beeinflusst Bewertung von LLMs

TruKAN: Effizientere Kolmogorov-Arnold-Netze mit Potenzfunktionen

Dynamische Cutoffs beschleunigen ML-Interatomische Potentiale

AGZO: Aktivitätsgesteuerte Zeroth-Order-Optimierung verbessert LLM-Fine‑Tuning

GPA: Generalisierte Primal‑Averaging beschleunigt LLM‑Training ohne Mehrloop

Effiziente Langkontext-Inferenz: Write-Gated KV reduziert Speicherbedarf um bis zu 57 %

SHARe-KAN: Holographische Vektorquantisierung senkt Speicherbedarf drastisch

Neues Tool prognostiziert GPU-Speicherbedarf multimodaler Modelle

Datenorientiertes Design schlägt objektorientiertes: Mehr Leistung und Cache‑Effizienz bei A* auf Multi‑Core‑CPUs

Probabilistische Hash-Embeddings optimieren Online-Lernen Kategorischer Merkmale

Neuro-Symbolische Ontologie verbessert Multi-Intent-Verständnis bei mobilen Agenten

LLM-Training ohne Logits: Speicher- und Geschwindigkeitsvorteile

CORGI: Quadratische Garantien für effizientes Muster‑Matching

KVCompose: Effiziente KV-Cache-Kompression mit Composite Tokens

Tri-Accel: GPU-Optimierung mit adaptiver Präzision und Speicherflexibilität

Hydra: 1,6 Milliarden‑Parameter-Sprachmodell mit Attention, MoE und Speicher

Hardware‑optimierte Active‑Inference: 2‑fach schnell, 35 % weniger Speicher

Neues STE-Modell verbessert Genauigkeit und Effizienz von Analog‑CIM‑Netzwerken

🍪 Cookie-Einstellungen

Effiziente Langkontext-Inferenz: Write-Gated KV reduziert Speicherbedarf um bis zu 57 %

Hydra: 1,6 Milliarden‑Parameter-Sprachmodell mit Attention, MoE und Speicher

Hardware‑optimierte Active‑Inference: 2‑fach schnell, 35 % weniger Speicher