LLM‑Sicherheitslücke: Echtzeit‑Erkennung von Sleeper‑Agents via semantische Drift

In der KI‑Sicherheit gibt es ein neues Problem: sogenannte „Sleeper‑Agents“ – Backdoors, die in großen Sprachmodellen (LLMs) versteckt bleiben und erst unter bestimmten Einsatzbedingungen aktiv werden. Trotz intensiver Sicherheits‑Trainings bleiben diese Hintertüren laut jüngster Forschung von Hubinger und Kollegen bestehen, und bislang gibt es keine praktikable Erkennungsmethode.

Eine neue Studie präsentiert ein zweistufiges Erkennungssystem, das semantische Driftanalyse mit einer Canary‑Baseline‑Vergleichsmethode kombiniert. Dabei werden Sentence‑BERT‑Einbettungen genutzt, um die semantische Abweichung eines Modells von sicheren Referenzwerten zu messen. Gleichzeitig werden gezielt Canary‑Fragen in den Dialog eingebettet, um die Konsistenz der Antworten in Echtzeit zu überwachen.

Die Methode wurde am offiziellen Cadenza‑Labs‑Model „dolphin‑llama3‑8B“ getestet, das als Sleeper‑Agent fungiert. Das System erreichte dabei 92,5 % Genauigkeit, 100 % Präzision (keine Fehlalarme) und 85 % Recall. Die Erkennung erfolgt in weniger als einer Sekunde pro Anfrage, erfordert keine Modifikationen am Modell und stellt damit die erste praktische Lösung für LLM‑Backdoor‑Erkennung dar.

Diese Arbeit schließt eine kritische Sicherheitslücke im KI‑Deployment und demonstriert, dass embedding‑basierte Ansätze effektive, effiziente und sofortige Erkennung von versteckten Bedrohungen ermöglichen.