Magellan: KI-gestützte Compiler-Optimierung entdeckt neue Heuristiken

Moderne Compiler setzen stark auf von Menschen entworfene Heuristiken, die oft nicht mehr mit der Komplexität aktueller Software und Hardware Schritt halten können. Diese manuellen Regeln erhöhen zudem den Wartungsaufwand erheblich. Um diesem Problem zu begegnen, präsentiert Magellan ein agentisches Framework, das die Optimierungs-Pass selbst entwickelt, indem es ausführbaren C++-Entscheidungslogik erzeugt.

Magellan kombiniert einen LLM-Coding-Agenten mit evolutionärer Suche und Autotuning in einem geschlossenen Kreislauf aus Generierung, Bewertung anhand benutzerdefinierter Makro-Benchmarks und Verfeinerung. Das Ergebnis sind kompakte Heuristiken, die nahtlos in bestehende Compiler integriert werden können.

In mehreren produktiven Optimierungsaufgaben übertrifft Magellan die Leistungen von Experten-Standards. Bei LLVM‑Function‑Inlining erzeugt es neue Heuristiken, die sowohl die Binärgröße reduzieren als auch die Gesamtleistung verbessern – ein Ergebnis, das Jahrzehnte manueller Optimierung übertrifft. In der Registerallokation lernt es eine prägnante Prioritätsregel für die Live‑Range‑Verarbeitung, die komplexe, von Menschen entwickelte Politiken bei großem Arbeitsumfang gleichwertig abbildet.

Preliminary Ergebnisse zeigen zudem, dass die Ansätze von Magellan über LLVM hinaus portierbar sind, etwa bei XLA-Problemen, und dabei den Entwicklungsaufwand deutlich senken.