AstraAI: KI-gestützte Codegenerierung für HPC-Software

AstraAI ist ein neues Befehlszeilen-Framework, das Entwicklern von Hochleistungsrechner-Software (HPC) eine direkte, kontextbewusste Codegenerierung im Linux-Terminal ermöglicht. Durch die Kombination von großen Sprachmodellen (LLMs) mit Retrieval-Augmented Generation (RAG) und einer AST‑basierten Strukturanalyse kann AstraAI relevante Codeausschnitte aus dem bestehenden Projekt extrahieren und dem Modell präzise Informationen über Funktionen, Datenstrukturen und die Gesamtorganisation liefern.

Das Herzstück des Systems ist ein hochpräziser Prompt, der die Nutzeranfrage mit den aus RAG gewonnenen Codefragmenten und der strukturellen Analyse des Abstract Syntax Trees (AST) verknüpft. Dadurch erhält das Sprachmodell ein umfassendes Bild des Projekts und kann gezielte, strukturell konsistente Änderungen am Quellcode vornehmen, ohne die bestehende Architektur zu stören.

AstraAI unterstützt sowohl lokal gehostete Modelle von Hugging Face als auch API‑basierte Spitzenmodelle über die American Science Cloud, was flexible Einsatzmöglichkeiten in verschiedensten HPC‑Umgebungen ermöglicht. In einer Demonstration wurden die Fähigkeiten des Frameworks bei der Generierung von Code für AMReX, einer vom DOE geförderten HPC‑Softwareinfrastruktur für Exascale-Anwendungen, erfolgreich unter Beweis gestellt.