KI News: Kurz und klar.

Ein völlig neues, trainingsfreies Framework namens Geometric Reasoner (TGR) hat die Art und Weise, wie große Sprachmodelle lange Argumentationsketten verarbeiten, revolutioniert. Durch die Kombination einer schlanken Vorhersagefunktion mit weichen geometrischen Regularisierern erzeugt TGR an jeder Chunk-Grenze intelligente „Latent Anchors“, die sowohl glatte als auch vielfältige Pfade durch den Gedankengang fördern.

Die Fähigkeit großer Sprachmodelle, komplexe mehrstufige Argumentationen zu lösen, steht im Mittelpunkt aktueller KI-Forschung. Um diese Kompetenz zu messen und zu verbessern, wird die Pass@k-Metrik häufig eingesetzt. Sie gibt an, wie wahrscheinlich es ist, dass mindestens eine korrekte Lösung in k unabhängigen Versuchen gefunden wird.

In den letzten Jahren hat die Anwendung von Reinforcement Learning (RL) auf große Sprachmodelle (LLMs) bemerkenswerte Fortschritte erzielt. Dabei wurden Phänomene beobachtet, die in klassischen RL‑Umgebungen selten vorkommen: Ein einzelnes Trainingsbeispiel kann die Leistung eines gesamten Datensatzes erreichen, die Belohnungssignale müssen nicht exakt sein und ausschließlich negative Beispiele können mit oder sogar besser als komplexe belohnungsbasierte Methoden funktionieren.