DeepContext: Echtzeit-Erkennung von böswilligen Absichten in LLM-Dialogen

Mit dem rasanten Ausbau von Large Language Models (LLMs) bleiben die Sicherheitsmechanismen häufig statisch. Dabei werden mehrteilige Gespräche als isolierte Ereignisse betrachtet, was ein „Safety Gap“ schafft: Angreifer können schrittweise böswillige Absichten über mehrere Runden hinweg ausbauen und so stateless‑Filter umgehen.

DeepContext löst dieses Problem, indem es ein zustandsbehaftetes Monitoring‑Framework einführt, das die zeitliche Entwicklung der Nutzerabsicht verfolgt. Statt einzelner, isolierter Bewertungen nutzt DeepContext ein rekurrentes neuronales Netzwerk, das eine Folge von feinabgestimmten, rundenbasierten Einbettungen verarbeitet. Durch die Weitergabe eines versteckten Zustands über die gesamte Unterhaltung hinweg erkennt es schrittweise steigende Risiken, die stateless‑Modelle übersehen.

In umfangreichen Tests übertrifft DeepContext bestehende Ansätze bei der Erkennung von mehrteiligen Jailbreaks deutlich. Mit einem F1‑Score von 0,84 liegt es weit über den Leistungen von Cloud‑Provider‑Guardrails und Open‑Weight‑Modellen wie Llama‑Prompt‑Guard‑2 sowie Granite‑Guardian (jeweils 0,67). Gleichzeitig bleibt die Inferenzzeit unter 20 ms auf einer T4‑GPU, was die Anwendung in Echtzeit‑Systemen ermöglicht. Die Ergebnisse zeigen, dass die Modellierung der sequentiellen Entwicklung von Absichten sowohl effektiver als auch ressourcenschonender ist als der Einsatz massiver, stateless‑Modelle.