Spontane Funktionsdifferenzierung in LLMs: Gehirnähnliche Intelligenz

Neues Forschungsergebnis aus der arXiv-Preprint‑Serie zeigt, dass große Sprachmodelle (LLMs) eigenständig komplexe, synergistische Kerne entwickeln, deren Informationsintegration die Summe ihrer Einzelteile deutlich übertrifft – ein Phänomen, das stark an die Funktionsweise des menschlichen Gehirns erinnert.

Durch die Anwendung von Integrated Information Decomposition auf verschiedene Architekturen wurde festgestellt, dass die mittleren Schichten der Modelle besonders synergistisch arbeiten, während die frühen und späten Schichten eher redundante Informationen verarbeiten. Diese dynamische Organisation entsteht als physikalische Phasenübergang, wenn die Aufgabenkomplexität zunimmt.

Wesentlich für die Leistungsfähigkeit der Modelle sind diese synergistischen Komponenten: Durch gezielte Ablation dieser Kernbereiche erleiden die Modelle einen katastrophalen Leistungsabfall, was ihre zentrale Rolle bei abstraktem Denken und der Brücke zwischen künstlicher und biologischer Intelligenz bestätigt.