LLMs zeigen tiefenbasierte Umwandlung: Von Kontext zu Vorhersage – Geometrische Entfaltung
In einer bahnbrechenden Studie haben Forscher auf arXiv einen tiefen, strukturierten Wandel in großen Sprachmodellen (LLMs) aufgezeigt. Die Ergebnisse zeigen, dass decoder‑only LLMs im Verlauf ihrer Schichten von einer Phase der Kontextverarbeitung zu einer Phase der Vorhersagebildung übergehen – ein Prozess, der mit einer deutlichen Umstrukturierung der Repräsentationsgeometrie einhergeht.
