Suche nach Inferenzgeschwindigkeit

Neuer Algorithmus ATPO: Adaptive Tree Policy Optimierung steigert medizinische Dialoge

Ein neuer Ansatz namens Adaptive Tree Policy Optimization (ATPO) verspricht, die Qualität von medizinischen Dialogen deutlich zu verbessern…

arXiv – cs.LG 04.03.2026 05:00

Forschung

Ultra-Lange Dokumente schneller und genauer Chunking mit Qwen3-0.6B

In einer wegweisenden Veröffentlichung präsentiert ein Forschungsteam ein neues diskriminatives Segmentierungsmodell, das ultra-lange Texte…

arXiv – cs.AI 02.03.2026 05:00

Forschung

UBio-MolFM: Molekularmodell vereint QM-Genauigkeit und biologische Skalierung

Die neueste Veröffentlichung von UBio-MolFM präsentiert ein universelles Molekularmodell, das die bisherige Kluft zwischen quantenmechanisc…

arXiv – cs.AI 23.02.2026 05:00

Forschung

Erklärbare Kompression von Gedankenketten steigert Effizienz multimodaler Modelle

In multimodalen Rechenmodellen werden lange Gedankenketten (Long CoTs) eingesetzt, um komplexe Aufgaben zu lösen und dabei detaillierte vis…

arXiv – cs.AI 11.02.2026 05:00

Forschung

Weniger trainieren, schneller inferieren: Sparsity-basiertes Finetuning

Ein neues arXiv-Preprint (2602.09169v1) präsentiert einen innovativen Ansatz, um große Sprachmodelle effizient an spezifische Aufgaben anzu…

arXiv – cs.LG 11.02.2026 05:00

Aktuell

Import AI 444 enthüllt Fortschritte: LLM-Gemeinschaften, Huawei-Kerne&ChipBench

Import AI 444, ein neues Forschungsprojekt, hat kürzlich bedeutende Fortschritte in der Entwicklung von LLM-Gemeinschaften, Huawei's AI-opt…

Jack Clark – Import AI 09.02.2026 14:03

Forschung

COVER: Schnellere Diffusion mit kontextbewusster Verifikation

Die Parallelisierung von Diffusionsmodellen kann die Inferenzgeschwindigkeit erheblich steigern, indem mehrere Tokens gleichzeitig entschlü…

arXiv – cs.AI 09.02.2026 05:00

Forschung

EUGens: Effiziente, einheitliche und vielseitige Dichte‑Schichten für KI

Effizienz ist das Herzstück moderner KI‑Modelle, besonders wenn sie in Echtzeit‑Anwendungen oder ressourcenbeschränkten Umgebungen eingeset…

arXiv – cs.AI 09.02.2026 05:00

Forschung

CVeDRL: Effizienter Code-Checker mit Difficulty‑Aware Reinforcement Learning

In der Welt der KI‑gestützten Code‑Generierung spielt die Nachverifikation von Code‑Verifikatoren eine entscheidende Rolle. Traditionelle M…

arXiv – cs.AI 02.02.2026 05:00

Forschung

Verbesserte Modelloptimierung: Muon-basierte Distillation & Quantisierung für LLMs

Large Language Models (LLMs) haben die Verarbeitung natürlicher Sprache revolutioniert, doch ihre hohe Rechen-, Speicher- und Energieanford…

arXiv – cs.LG 16.01.2026 05:00

Forschung

Sherry: 1,25‑Bit‑Ternärquantisierung mit feingranularer Sparsifizierung

Die Verbreitung großer Sprachmodelle auf ressourcenbeschränkten Edge‑Geräten wird zunehmend durch hohe Speicher- und Rechenanforderungen ge…

arXiv – cs.LG 14.01.2026 05:00

Forschung

RADAR beschleunigt LLM‑Inferenz dank RL‑basierter dynamischer Entwurfsbäume

Die Ausführung moderner Large Language Models (LLMs) ist bislang teuer und langsam. Eine vielversprechende Lösung ist das sogenannte specul…

arXiv – cs.AI 17.12.2025 05:00

Praxis

NVIDIA und Mistral AI beschleunigen Mistral 3 um 10‑fach auf GB200 NVL72 GPUs

NVIDIA hat heute die Erweiterung seiner strategischen Zusammenarbeit mit Mistral AI bekannt gegeben. Die Partnerschaft fällt genau mit der…

MarkTechPost 03.12.2025 02:26

Forschung

PrexSyn: Revolutionäre KI für synthetisch zugängliche Moleküle

PrexSyn ist ein neues, hochleistungsfähiges Modell, das die Erkundung des synthetisch zugänglichen chemischen Raums neu definiert. Durch se…

arXiv – cs.LG 02.12.2025 05:00

Forschung

Leichtgewichtiges Modell für Denken: Dynamisches Pruning & Distillation

Mit dem rasanten Fortschritt im Deep Learning haben große Sprachmodelle beeindruckende Fähigkeiten in komplexen Rechenaufgaben gezeigt. Ihr…

arXiv – cs.LG 25.11.2025 05:00

Forschung

MARVAL beschleunigt Masked Auto-Regressive Diffusion: Schnelle Inferenz für RL

Ein neues Verfahren namens MARVAL (Masked Auto‑Regressive Variational Acceleration) hat die Inferenzgeschwindigkeit von Masked Auto‑Regress…

arXiv – cs.LG 20.11.2025 05:00

Forschung

EcoSpa: Effizientes Transformer‑Training durch gekoppelte Sparsität

Transformers bilden heute das Rückgrat moderner KI‑Modelle, doch ihre enormen Rechen- und Speicheranforderungen stellen Systeme vor große H…

arXiv – cs.LG 18.11.2025 05:00

Forschung

Distillation steigert Effizienz bei Unsicherheitsmodellierung RTA-Interception

In der Echtzeit-Auktion (RTA) soll Interception unerwünschten Traffic aussortieren, um die Datenintegrität zu sichern. Dabei stehen zwei ze…

arXiv – cs.LG 11.11.2025 05:00

Forschung

MAC-Flow: Schnelle, effiziente Multi-Agent-Koordination durch Flow-Matching

Mit MAC-Flow wird die Herausforderung der Multi-Agent-Koordination neu definiert. Das neue Framework verbindet die Kraft von Flow-basierten…

arXiv – cs.LG 10.11.2025 05:00

Forschung

NVIDIA präsentiert Nemotron Nano V2 VL – Spitzenleistung bei Dokumentenbewertung

NVIDIA hat heute das neueste Modell der Nemotron Vision‑Language-Serie vorgestellt: Nemotron Nano V2 VL. Das System ist speziell für die An…

arXiv – cs.LG 07.11.2025 05:00

Aktuell

ATLAS von Together AI beschleunigt KI‑Inferenz um 400 % durch Echtzeit‑Lernanpassung

Unternehmen, die ihre KI‑Anwendungen ausbauen, stoßen zunehmend auf eine unsichtbare Leistungsbarriere: statische Spekulationsmodelle, die…

VentureBeat – AI 10.10.2025 14:00

Forschung

SparkUI-Parser: Verbesserte GUI-Erkennung mit robuster Lokalisierung und Parsing

Multimodale große Sprachmodelle (MLLMs) haben die Erkennung von grafischen Benutzeroberflächen (GUI) stark vorangetrieben, doch bisherige A…

arXiv – cs.AI 08.09.2025 05:00

Finde Modelle, Firmen und Themen

Neuer Algorithmus ATPO: Adaptive Tree Policy Optimierung steigert medizinische Dialoge

Ultra-Lange Dokumente schneller und genauer Chunking mit Qwen3-0.6B

UBio-MolFM: Molekularmodell vereint QM-Genauigkeit und biologische Skalierung

Erklärbare Kompression von Gedankenketten steigert Effizienz multimodaler Modelle

Weniger trainieren, schneller inferieren: Sparsity-basiertes Finetuning

Import AI 444 enthüllt Fortschritte: LLM-Gemeinschaften, Huawei-Kerne&ChipBench

COVER: Schnellere Diffusion mit kontextbewusster Verifikation

EUGens: Effiziente, einheitliche und vielseitige Dichte‑Schichten für KI

CVeDRL: Effizienter Code-Checker mit Difficulty‑Aware Reinforcement Learning

Verbesserte Modelloptimierung: Muon-basierte Distillation & Quantisierung für LLMs

Sherry: 1,25‑Bit‑Ternärquantisierung mit feingranularer Sparsifizierung

RADAR beschleunigt LLM‑Inferenz dank RL‑basierter dynamischer Entwurfsbäume

NVIDIA und Mistral AI beschleunigen Mistral 3 um 10‑fach auf GB200 NVL72 GPUs

PrexSyn: Revolutionäre KI für synthetisch zugängliche Moleküle

Leichtgewichtiges Modell für Denken: Dynamisches Pruning & Distillation

MARVAL beschleunigt Masked Auto-Regressive Diffusion: Schnelle Inferenz für RL

EcoSpa: Effizientes Transformer‑Training durch gekoppelte Sparsität

Distillation steigert Effizienz bei Unsicherheitsmodellierung RTA-Interception

MAC-Flow: Schnelle, effiziente Multi-Agent-Koordination durch Flow-Matching

NVIDIA präsentiert Nemotron Nano V2 VL – Spitzenleistung bei Dokumentenbewertung

ATLAS von Together AI beschleunigt KI‑Inferenz um 400 % durch Echtzeit‑Lernanpassung

SparkUI-Parser: Verbesserte GUI-Erkennung mit robuster Lokalisierung und Parsing

🍪 Cookie-Einstellungen

NVIDIA und Mistral AI beschleunigen Mistral 3 um 10‑fach auf GB200 NVL72 GPUs

ATLAS von Together AI beschleunigt KI‑Inferenz um 400 % durch Echtzeit‑Lernanpassung