Suche

Finde Modelle, Firmen und Themen

Suche im News-Archiv nach Themen, die du dauerhaft verfolgen willst.

Ergebnisse für “Embedding‑Raum”
Forschung

<h1>LLM-Embeddings: Diskrete semantische Zustände und Hamiltonianische Dynamik</h1> <p>In einer neuen Studie wird die Struktur von Embedding‑Räumen großer Sprachmodelle (LLMs) mit Hilfe linearer Algebra und des Hamiltonian‑Formalismus untersucht. Dabei greifen die Forscher auf Parallelen zur Quantenmechanik zurück, um die beobachteten diskreten semantischen Zustände besser zu verstehen.</p> <p>Die Analyse zeigt, dass die L2‑Normalisierung, die in vielen LLM‑Architekturen üblich ist, die Embedding‑Räume in e

arXiv – cs.LG
Forschung

<h1>Neues „Educational Cone Model“ erkennt Textschwierigkeit in Embedding‑Räumen</h1> <p>In der Entwicklung intelligenter Lernsysteme sind Datensätze mit menschlich annotierten Schwierigkeitswerten unverzichtbar. Obwohl Embedding‑Vektorräume häufig genutzt werden, um semantische Nähe zu messen, erschwert die Vielzahl an Embedding‑Methoden die Auswahl der optimalen Technik.</p> <p>Die vorliegende Arbeit stellt das „Educational Cone Model“ vor – ein geometrisches Konzept, das auf der Annahme basiert, dass ein

arXiv – cs.AI