KI News: Kurz und klar.

In einem neuen Tutorial wird gezeigt, wie neuronale Speicheragenten kontinuierlich lernen können, ohne dabei frühere Erfahrungen zu vergessen. Der Fokus liegt auf der Kombination eines differenzierbaren neuronalen Computers (DNC) mit Erfahrungspuffern und Meta-Lernen, um sich rasch an neue Aufgaben anzupassen und gleichzeitig vorhandenes Wissen zu bewahren.

Das neueste MobileNetV3-Paper wurde jetzt in PyTorch umgesetzt und bietet zusätzliche SE‑Blöcke sowie harte Aktivierungsfunktionen. Diese Verbesserungen erhöhen die Modellleistung, indem sie die Feature‑Repräsentation optimieren und gleichzeitig die Rechenkosten minimieren.

Meta, das Unternehmen hinter dem beliebten Deep‑Learning‑Framework PyTorch, hat zusammen mit dem führenden Distributed‑Training‑System Monarch und der Plattform Lightning AI eine neue Partnerschaft angekündigt. Ziel ist es, die Leistungsfähigkeit von PyTorch mit den skalierbaren Trainingsfunktionen von Monarch und der benutzerfreundlichen API von Lightning AI zu kombinieren.

In einer Zeit, in der maschinelles Lernen immer heterogener, hardwarefehleranfälliger, asynchroner und dynamischer wird, setzt PyTorch Monarch neue Maßstäbe. Die neueste Version erweitert die bewährten Stärken von PyTorch um Funktionen, die speziell auf die heutigen Anforderungen moderner ML-Workflows zugeschnitten sind.

Wir freuen uns, torchforge vorzustellen – eine neue, reine PyTorch‑Bibliothek, die es Forschern und Entwicklern ermöglicht, sich ausschließlich auf die Entwicklung von Algorithmen zu konzentrieren, ohne sich mit komplexer Infrastruktur auseinandersetzen zu müssen.

Ein brandneuer Leitfaden zeigt, wie man mit PyTorch DNA‑Kopien nutzt, um Lungenkrebsarten zu klassifizieren. Der Beitrag richtet sich an Datenwissenschaftler und erklärt die Schritte von der Datensammlung bis zum Modelltraining.

Wir freuen uns, die Veröffentlichung von PyTorch® 2.9 bekannt zu geben. Diese Version bringt wichtige Verbesserungen, darunter Aktualisierungen des stabilen libtorch ABI für Drittanbieter‑C++/CUDA‑Erweiterungen. Zusätzlich wird ein symmetrischer Speichermechanismus eingeführt, der die Nutzung von CUDA‑ und C++‑Erweiterungen vereinfacht.

Stellen Sie sich vor, Sie könnten einen voll funktionsfähigen ChatGPT‑ähnlichen KI‑Chatbot für nur 100 US Dollar bauen. Das neue Projekt nanochat von Andrej Karpathy macht genau das möglich. Am 13. Oktober 2025 wurde das Open‑Source‑Projekt veröffentlicht und besteht aus etwa 8.000 Zeilen PyTorch‑Code.

Erfahren Sie, wie Sie Engpässe in PyTorch erkennen und beheben können, indem Sie gezielt die Parameter num_workers, pin_memory und den Profiler einsetzen. Durch die richtige Konfiguration dieser Optionen lässt sich die Datenvorbereitung beschleunigen und die GPU-Auslastung maximieren.

Der Beitrag führt Sie durch die Architektur von MobileNetV1, erklärt die Kernkonzepte wie Depthwise Separable Convolutions und zeigt, wie man das Modell komplett in PyTorch nachbaut. Dabei werden die mathematischen Hintergründe verständlich erläutert und praktische Codebeispiele bereitgestellt, sodass Sie das Netzwerk selbst trainieren und anpassen können. Der Artikel erschien erstmals auf der Plattform Towards Data Science.

Transformermodelle wie GPT nutzen Positionsembeddings, um die Reihenfolge der Tokens zu erfassen. In diesem Artikel werden drei moderne Varianten – Absolute Position Embeddings (APE), Rotary Position Embeddings (RoPE) und ALiBi – detailliert erklärt. Der Fokus liegt auf den zugrunde liegenden mathematischen Prinzipien, intuitiven Erklärungen und praktischen Implementierungen in PyTorch.

In einer bahnbrechenden Studie wird ein Evolving Fuzzy System vorgestellt, das im Rahmen von Federated Learning arbeitet. Das System erweitert sich dynamisch, indem es neue Cluster hinzufügt und somit die vorherige Notwendigkeit, die Clusterzahl vorab festzulegen, überwindet.

Die Entscheidung zwischen PyTorch und TensorFlow bleibt eine der am häufigsten diskutierten Fragen in der KI‑Entwicklung. Beide Frameworks haben seit ihrer Einführung enorme Fortschritte gemacht, überschneiden sich in einigen Bereichen, behalten aber weiterhin klare Stärken bei.

PyTorch hat ein neues Export-Feature vorgestellt, das es ermöglicht, Modelle schnell zu erfassen und in produktionsbereite Artefakte zu überführen. In einer Demonstration wurde das Feature an einem HuggingFace-Modell angewendet, um die Effizienz und Portabilität von Machine‑Learning‑Workflows zu erhöhen. Durch die Nutzung von torch.export können Entwickler Modelle in ein einheitliches Format exportieren, das leicht in verschiedene Plattformen integriert werden kann. Das neue Tool unterstützt sowohl CPU‑ als auch GPU‑Optimierungen und erleichtert die Bereitstellung in Cloud‑Umgebungen. Entwickler, die bereits mit PyTorch arbeiten, profitieren von einer vereinfachten Pipeline, die das Testen, Deployen und Skalieren von Modellen beschleunigt.

Seit seiner Einführung in PyTorch 2.0 im März 2023 hat sich die Entwicklung von torch.compile zu einem der spannendsten Themen in der KI-Community entwickelt. PyTorch ist weltweit beliebt, weil es „Pythonic“ ist, sich leicht bedienen lässt und Zeile‑für‑Zeile (auch „eager“ genannt) ausgeführt wird. Diese Eigenschaften haben die Akzeptanz von PyTorch enorm gefördert.

Am 7. Juni 2025 fand in Peking der PyTorch Day China statt, gemeinsam organisiert von der PyTorch Foundation und der Beijing Academy of Artificial Intelligence (BAAI). Die Veranstaltung zog Entwickler, Forscher und Unternehmen aus ganz China an und bot eine Plattform für den Austausch von Ideen und Best Practices.

PyTorch hat die Version 2.8 veröffentlicht und damit zwei wichtige Neuerungen eingeführt. Zunächst wird ein begrenztes, stabiles libtorch ABI bereitgestellt, das Drittentwicklern die Erstellung von C++/CUDA‑Erweiterungen erleichtert. Darüber hinaus ermöglicht die neue Version eine hochleistungsfähige, quantisierte LLM‑Inference auf Intel‑Hardware, was die Ausführung großer Sprachmodelle deutlich beschleunigt. Ein bedeutender Schritt für Entwickler und Forschung. (Quelle: PyTorch – Blog)