Google & UVA: Tiefes Denken halbiert LLM-Kosten und steigert Genauigkeit

In den letzten Jahren diente die KI‑Community einer einfachen Faustregel: Je länger die „Chain‑of‑Thought“ (CoT) eines großen Sprachmodells, desto besser kann es komplexe Aufgaben lösen. Neue Forschung der University of Virginia in Zusammenarbeit mit Google zeigt jedoch, dass „langes Denken“ nicht gleich „tiefes Denken“ ist.

Das Forschungsteam hat ein Konzept namens „Deep‑Thinking‑Ratio“ entwickelt, das die Tiefe des Denkprozesses mit seiner Länge in Einklang bringt. Durch diese Balance erreicht das Modell eine höhere Genauigkeit, ohne dass die Rechenzeit exponentiell ansteigt.

Erstaunlicherweise reduziert die neue Methode die Gesamtkosten für die Inferenz um die Hälfte, während die Leistungsfähigkeit der Modelle gleichzeitig gesteigert wird. Das bedeutet, dass Unternehmen und Entwickler leistungsfähige LLMs einsetzen können, ohne die Betriebskosten in die Höhe zu treiben.

Diese Erkenntnis könnte die Art und Weise, wie große Sprachmodelle trainiert und in der Praxis eingesetzt werden, grundlegend verändern und den Weg für effizientere, kostengünstigere KI-Anwendungen ebnen.