Invasive Kontexttechnik stärkt Sicherheit großer Sprachmodelle

Eine neue Studie, veröffentlicht auf arXiv (2512.03001v1), zeigt, wie Operatoren große Sprachmodelle (LLMs) gegen Angriffe und Fehlverhalten schützen können. Durch gezieltes Training mit Präferenzbeispielen, geschicktes Prompting und Filterung von Ein- und Ausgaben wird die Robustheit der Modelle deutlich erhöht. Dennoch bleibt die Gefahr von Missbrauch bestehen, insbesondere wenn die Kontextlänge zunimmt – die Wahrscheinlichkeit, dass ein Modell „jailbreakt“ wird, steigt mit längeren Eingaben.

Um diesem Problem entgegenzuwirken, schlägt die Forschung die Technik des „Invasive Context Engineering“ vor. Dabei werden kontrollierende Sätze direkt in den Kontext des Modells eingefügt, um dessen Verhalten zu lenken, ohne dass das Modell selbst neu trainiert werden muss. Diese Methode kann sogar auf den Chain‑of‑Thought-Prozess übertragen werden, um das Entwerfen von schädlichen Strategien zu verhindern. Durch die Vermeidung von zusätzlichem Training werden Engpässe bei Datenmengen für lange Kontextsituationen umgangen.

Die Ergebnisse deuten darauf hin, dass invasive Kontexttechnik ein vielversprechender Ansatz ist, um LLMs in komplexen, langkontekstigen Anwendungen sicherer zu machen. Sie bietet einen pragmatischen Weg, robuste Sicherheitsgarantien zu implementieren, ohne die üblichen Herausforderungen von Trainingsdaten und Modellanpassungen zu verstärken.