LLM-gesteuerte KI-Systeme: Energieeffiziente Modellwahl mit GUIDE

Moderne KI‑Systeme greifen auf eine Vielzahl von Modellen und Tools zurück, um komplexe Aufgaben zu lösen. Die Koordination dieser Modelle wird häufig von großen Sprachmodellen (LLMs) übernommen, die dabei auf qualitative Beschreibungen der Modelle zurückgreifen. Diese Beschreibungen spiegeln jedoch nicht die tatsächlichen Leistungs- und Energieeigenschaften wider, was zu suboptimalen Auswahlentscheidungen, geringerer Genauigkeit und höheren Stromkosten führt.

In einer empirischen Untersuchung der Grenzen von LLM‑basierten Orchestratoren präsentiert die Studie das neue Framework GUIDE. GUIDE berücksichtigt quantitative Leistungsdaten und Energieverbrauchsprofile, um die Modellwahl datenbasiert und energieeffizient zu gestalten. Durch die Integration dieser Messwerte in die Entscheidungsfindung werden die Schwächen der bisherigen qualitativen Ansätze überwunden.

Die experimentellen Ergebnisse zeigen, dass GUIDE die Genauigkeit in verschiedenen Aufgaben um 0,90 % bis 11,92 % steigert und die Energieeffizienz um bis zu 54 % verbessert. Gleichzeitig reduziert sich die Latenz bei der Auswahl des Orchestrierungsmodells von 4,51 s auf lediglich 7,2 ms. Diese Fortschritte markieren einen bedeutenden Schritt hin zu leistungsstärkeren und nachhaltigeren KI‑Systemen.