KI News: Kurz und klar.

In diesem Beitrag zeigen wir, wie wir das Mamba‑2 State‑Space Dual (SSD) Modul mit einem zusammengeführten Triton‑Kernel optimiert haben. Durch die Fusion der Kernels konnten wir die Ausführungszeit drastisch reduzieren und beeindruckende Geschwindigkeitssteigerungen von 1,50‑ bis 2,51‑fach erreichen – und das auf den neuesten NVIDIA‑GPUs A100 und H100.

Moderne Arbeitsabläufe zeigen die grenzenlosen Möglichkeiten von generativer und agentischer KI direkt auf dem PC. Dabei reicht es von der Feinabstimmung eines Chatbots für Produkt‑Support bis hin zum Aufbau eines persönlichen Assistenten, der Termine verwaltet.

November ist seit Jahrzehnten das Herzstück der Hochleistungsrechnerwelt. In diesem Monat werden die neuesten Entwicklungen im Bereich Supercomputing vorgestellt, und die GPUs von Nvidia stehen dabei immer im Rampenlicht. Diese Hochleistungsprozessoren sind zwar teuer – oft mehrere tausend Dollar pro Stück – und werden von Forschern, Unternehmen und KI‑Entwicklern gleichermaßen geschätzt.

Tanya Berger‑Wolf, Direktorin des Translational Data Analytics Institute und Professorin an der Ohio State University, hat mit einem einfachen Wetteinsatz begonnen: Sie wollte beweisen, dass ein KI‑Modell Zebras schneller erkennen kann als ein Zoologe. Das Experiment lief nicht nur erfolgreich, sondern legte den Grundstein für ihr bisher größtes Projekt.

Cadence Systems bietet Datacenter‑Betreibern die Möglichkeit, Nvidias leistungsstarke GPUs in einem Simulationsspiel auszuprobieren, bevor sie Milliarden in neue Hardware investieren. Das Tool simuliert, ob die geplante GPU‑Architektur die steigenden Anforderungen der generativen KI bewältigen kann. Durch die virtuelle Testumgebung können Unternehmen potenzielle Engpässe frühzeitig erkennen und ihre Investitionsentscheidungen optimieren.

DeepSeek hatte ursprünglich geplant, sein neues KI-Modell R2 auf den Huawei‑Ascend‑Chips zu trainieren. Die Hardware‑Probleme haben das Vorhaben jedoch zum Scheitern gebracht, sodass das Unternehmen nun auf NVIDIA‑Grafikkarten zurückgreift. Dadurch verzögert sich die Markteinführung des Modells erheblich.