KI News: Kurz und klar.

Ein neues arXiv‑Paper enthüllt, wie Sprachmodelle, die lange Denkhypothesen erzeugen, abstrakte Aufgaben deutlich besser lösen als Modelle ohne solche Denkprozesse. Die zugrunde liegenden Mechanismen bleiben bislang wenig verstanden.

In der Welt der großen vortrainierten Sprachmodelle gewinnt das Parameter‑Effiziente Fine‑Tuning (PEFT) immer mehr an Bedeutung. Statt das komplette Modell zu verändern, passen PEFT‑Ansätze nur einen kleinen Teil der Gewichte an und ermöglichen so skalierbare Anpassungen. Mit dem neuen Framework GRASP (GRouped Activation Shared Parameterization) wird dieses Prinzip noch weiter optimiert.