LLMs mit Graph Neural Networks: Neue Lösung für kombinatorische Optimierung

In jüngster Zeit haben große Sprachmodelle (LLMs) gezeigt, dass sie kombinatorische Optimierungsprobleme (COPs) lösen können, indem sie Aufgaben und Instanzen in natürlicher Sprache darstellen. Diese rein sprachbasierten Ansätze stoßen jedoch an ihre Grenzen, wenn komplexe relationale Strukturen – die in vielen COPs vorkommen – exakt erfasst werden sollen. Dadurch werden sie bei mittelgroßen oder größeren Instanzen weniger effektiv.

Um diese Schwächen zu überwinden, wurde AlignOPT entwickelt. Die Methode verbindet die semantische Kraft von LLMs mit graphenbasierten neuronalen Solvern. Während das LLM die textuelle Beschreibung eines COPs versteht und in ein geeignetes Format überführt, modelliert der Graph Neural Network (GNN) die zugrunde liegende Graphstruktur der Instanz. Durch diese enge Integration entsteht ein robustes Heuristikmodell, das sowohl sprachliche als auch strukturelle Informationen nutzt.

Experimentelle Ergebnisse zeigen, dass AlignOPT in einer Vielzahl von COPs die bisher beste Leistung erzielt. Besonders beeindruckend ist die starke Generalisierung: Das Modell löst erfolgreich zuvor unbekannte COP-Instanzen, was auf eine echte Übertragbarkeit der erlernten Heuristik hinweist. Damit demonstriert AlignOPT, dass die Kombination von LLMs und GNNs ein vielversprechender Ansatz für skalierbare und präzise Optimierungslösungen darstellt.