ER-MIA: Black‑Box‑Angriffe auf Langzeit‑Speicher von LLMs enthüllen kritische Schwachstellen

Moderne Sprachmodelle nutzen zunehmend Langzeit‑Speicher, um die Begrenzung des Kontextfensters zu überwinden und über mehrere Interaktionen hinweg zu denken. Doch neue Forschung zeigt, dass diese Speicherlösungen gleichzeitig neue Angriffsflächen schaffen. In einer ersten systematischen Untersuchung wurden Black‑Box‑Angriffe auf die Ähnlichkeits‑basierten Abrufmechanismen von Langzeit‑Speicher‑erweiterten LLMs analysiert.

Das vorgestellte ER‑MIA‑Framework bündelt die Schwachstelle und definiert zwei realistische Angriffsszenarien: Inhalte‑basierte Angriffe und frage‑orientierte Angriffe. Mit einer Vielzahl von kompakten Angriffskomponenten und Ensemble‑Strategien erzielt ER‑MIA hohe Erfolgsraten, selbst bei minimalen Annahmen über den Angreifer.

Umfangreiche Experimente an verschiedenen LLM‑Modellen und Speicher‑Architekturen zeigen, dass die Ähnlichkeits‑basierten Abrufe ein systemweites Sicherheitsrisiko darstellen. Diese Schwachstelle bleibt unabhängig von Speicherdesigns und Anwendungsszenarien bestehen und unterstreicht die Notwendigkeit neuer Schutzmechanismen für Langzeit‑Speicher‑erweiterte Sprachmodelle.