KI News: Kurz und klar.

Mit der neuen HyperPod CLI und dem SDK lassen sich SageMaker‑Cluster in wenigen Schritten erstellen und steuern. In diesem Beitrag zeigen wir Schritt für Schritt, wie man ein HyperPod‑Cluster in Ihrem AWS‑Account anlegt, konfiguriert und verwaltet. Dabei gehen wir auf typische Parameter, Workflow‑Optimierungen und Best‑Practice‑Tipps ein, damit Sie das volle Potenzial von SageMaker HyperPod nutzen können.

Der neue Beitrag zu Amazon SageMaker HyperPod präsentiert zwei bedeutende Verbesserungen, die die Sicherheit und Speicherverwaltung für groß angelegte KI-Infrastrukturen stärken. Durch die Unterstützung von Customer‑Managed‑Keys (CMK) können EBS‑Volumes nun mit unternehmensinternen Verschlüsselungsschlüsseln gesichert werden, was die Kontrolle über sensible Daten erhöht. Zusätzlich integriert HyperPod den Amazon EBS CSI‑Treiber, der dynamisches Speicher‑Management für Kubernetes‑Volumes in KI‑Workloads ermöglicht und so Flexibilität sowie Effizienz steigert.

Amazon SageMaker HyperPod ermöglicht jetzt die topologieorientierte Planung von Workloads. Durch die Einreichung von Aufgaben, die hierarchische Netzwerkstrukturen abbilden, kann das System Ressourcen gezielt zuweisen und Engpässe vermeiden. In diesem Beitrag zeigen wir Schritt für Schritt, wie Sie die HyperPod-Aufgabenverwaltung nutzen, um die Effizienz Ihrer Jobs zu steigern und gleichzeitig die Auslastung Ihrer Cluster zu maximieren.

Eine Forschungsuniversität hat Amazon SageMaker HyperPod eingesetzt, um die KI-Forschung zu beschleunigen. Durch die Nutzung dynamischer SLURM‑Partitionen, präziser GPU‑Ressourcenverwaltung, kostenbewusster Rechenkostenverfolgung und Lastenausgleich bei Mehrfachanmeldungen konnten die Forschungsarbeiten effizienter gestaltet werden. All diese Funktionen sind nahtlos in die HyperPod‑Umgebung integriert.

Amazon hat die HyperPod CLI und das zugehörige SDK vorgestellt, die das Training und die Bereitstellung von KI‑Modellen in großem Maßstab vereinfachen. Durch einheitliche Befehle lassen sich komplexe Abläufe schnell und zuverlässig ausführen.

Mit der brandneuen Cluster‑Erstellung für Amazon SageMaker HyperPod können Sie Ihre HyperPod‑Cluster inklusive aller erforderlichen AWS‑Ressourcen in einem einzigen Klick anlegen. Dabei werden automatisch vordefinierte Standardwerte angewendet, sodass Sie sich sofort auf die eigentliche Arbeit konzentrieren können.

In diesem Beitrag wurden drei Funktionen von Amazon SageMaker HyperPod vorgestellt, die die Skalierbarkeit und Anpassungsfähigkeit der ML‑Infrastruktur deutlich erhöhen.

Dieses Artikel ist der zweite Teil der GPT‑OSS‑Reihe, die sich auf die Anpassung von Modellen mit Amazon SageMaker AI konzentriert.