Neue Methode: Attention-basierte Surrogates verbessern HPC-Planung: Leistung & Energie

arXiv – cs.LG Original ≈1 Min. Lesezeit
Anzeige

In der Hochleistungsrechnerwelt (HPC) stehen Scheduler vor der Herausforderung, die Leistung einzelner Jobs mit den Ressourcenbeschränkungen der gesamten Einrichtung in Einklang zu bringen. Das Kernproblem besteht darin, die optimale Anzahl an Knoten für einen gegebenen Auftrag zu bestimmen.

Eine neu entwickelte Lösung nutzt ein surrogate‑unterstütztes, mehrzieliges Bayesian‑Optimierungs‑Framework (MOBO). Dabei werden Attention‑basierte Embeddings aus der Telemetrie der Jobs als Grundlage für die Surrogatmodelle verwendet. Die zentrale Annahme ist, dass diese Embeddings die Leistungsdynamik genauer erfassen als herkömmliche Regressionsansätze.

Zur Steigerung der Daten‑Effizienz kommt eine intelligente Stichprobenstrategie zum Einsatz. Auf zwei produktionsnahen HPC‑Datensätzen zeigte die Methode konsequent bessere Pareto‑Grenzen für Laufzeit‑Power‑Trade‑offs als herkömmliche Baselines. Gleichzeitig senkte die Sampling‑Strategie die Trainingskosten erheblich und verbesserte die Stabilität der Ergebnisse.

Dies ist der erste dokumentierte Einsatz von embedding‑informierten Surrogaten in einem MOBO‑Framework für das HPC‑Scheduling. Die Kombination aus Leistung und Energieoptimierung bei realen Workloads markiert einen bedeutenden Fortschritt in der effizienten Nutzung von Rechenzentren.

Ähnliche Artikel