Agenten kommunizieren komplett im latenten Raum – neue Studie zeigt Fortschritt

In der Welt der großen Sprachmodelle (LLM) ist die natürliche Sprache bislang das Standardmedium für die Kommunikation zwischen Agenten. Doch die Umwandlung komplexer, interner latenter Zustände in diskrete Tokens schränkt die Tiefe und Nuanciertheit der übermittelten Informationen ein und behindert damit die Zusammenarbeit bei komplexen Aufgaben.

Eine neue Studie präsentiert Interlat, ein Konzept, das die letzten versteckten Zustände eines LLM als direkte Repräsentation seines „Geistes“ nutzt. Durch die direkte Übertragung dieser latenten Zustände – ohne Zwischenschritt über Text – entsteht eine neue Art der Agentenkommunikation. Zusätzlich wird die latente Information noch einmal komprimiert, sodass die gesamte Interaktion ausschließlich im latenten Raum stattfindet.

Experimentelle Ergebnisse zeigen, dass Interlat sowohl bei feinabgestimmten Chain‑of‑Thought‑Prompts als auch bei Einzelagenten deutlich bessere Leistungen erzielt. Die Agenten verhalten sich explorativer und nutzen die latente Information effektiver. Die zusätzliche Kompression beschleunigt die Inferenz erheblich, ohne die Qualität der Ergebnisse zu beeinträchtigen, dank eines effizienten, informationsbewahrenden Mechanismus.

Die Arbeit stellt einen ersten Machbarkeitsnachweis für vollständig latente Agentenkommunikation dar und liefert wertvolle Einblicke für zukünftige Forschungsansätze, die auf einer tieferen, informationsreicheren Zusammenarbeit von LLM‑basierten Agenten abzielen.