HYVE: Hybrid Views optimieren LLM-Kontext für maschinelle Daten

Maschinelle Daten – Logeinträge, Metriken, Telemetrie‑Spuren und Konfigurations‑Snapshots – bilden die Grundlage für Beobachtbarkeit und Fehlerdiagnose in modernen Rechenzentren. Wenn diese Daten an große Sprachmodelle (LLMs) übergeben werden, kommen sie meist als Mischung aus natürlicher Sprache und strukturierten Payloads wie JSON oder Python‑Literal vor. Solche Eingaben sind häufig lang, stark verschachtelt und von wiederholender Struktur geprägt, was LLMs stark belastet und ihre Leistung beeinträchtigt.

HYVE (HYbrid ViEw) ist ein neues Framework für die Kontext‑Engineering von LLMs, das sich an Prinzipien des Datenbankmanagements orientiert. Es umgibt die Modellaufrufe mit koordinierter Vor‑ und Nachverarbeitung und nutzt einen an die Anfrage gebundenen Datenspeicher, der zusätzlich Schema‑Informationen enthält. Durch diese Architektur kann HYVE die Eingaben effizienter verarbeiten und die Modellleistung verbessern.

Im Vorverarbeitungs‑Schritt erkennt HYVE wiederholende Strukturen in den Rohdaten, speichert sie im Datenspeicher und wandelt sie in hybride, spalten‑ und zeilenorientierte Ansichten um. Anschließend wird dem LLM nur die für die aktuelle Aufgabe relevanteste Darstellung präsentiert, wodurch die Eingabegröße drastisch reduziert wird.

Nach der Modellgenerierung führt HYVE eine Nachverarbeitung durch: Es kann das Modell‑Ergebnis direkt zurückgeben, fehlende Informationen aus dem Datenspeicher abrufen oder bei Bedarf einen begrenzten zusätzlichen LLM‑Aufruf mit SQL‑unterstützter semantischer Synthese ausführen. Diese Kombination sorgt dafür, dass keine wichtigen Details verloren gehen.

In umfangreichen Tests mit realen Workloads – von Wissens‑Frage‑Antworten über Diagrammerstellung bis hin zu Anomalie‑Erkennung und mehrstufiger Netzwerk‑Fehlerbehebung – konnte HYVE die Token‑Verwendung um 50 % bis 90 % senken, während die Ausgabegüte gleichgehalten oder sogar verbessert wurde. Besonders bei strukturierten Generierungsaufgaben zeigte HYVE eine signifikante Steigerung der Genauigkeit bei der Diagrammerstellung.