CIA: Kommunikationsnetzwerke von LLM-basierten Multi-Agenten-Systemen entschlüsseln

Neue Forschung aus dem arXiv-Repository zeigt, dass die interne Kommunikationsstruktur von Multi-Agenten-Systemen (MAS), die auf großen Sprachmodellen (LLMs) basieren, unter streng begrenzten Bedingungen ausgelesen werden kann. Durch die Entwicklung eines sogenannten Communication Inference Attack (CIA) können Angreifer gezielte Abfragen stellen, die die Zwischenschritte der Agenten aufdecken und deren semantische Zusammenhänge analysieren.

Die Methode nutzt eine globale Bias‑Entwirrung und schwache, von LLMs geleitete Supervision, um die Kommunikationstopologie zu rekonstruieren. In umfangreichen Tests mit optimierten MAS zeigte sich, dass CIA durchschnittlich einen AUC‑Wert von 0,87 erreicht und bei einigen Fällen sogar bis zu 0,99 erreicht – ein deutliches Signal für erhebliche Datenschutzrisiken.

Die Ergebnisse unterstreichen die Notwendigkeit, Sicherheitsmechanismen für die interne Kommunikation von LLM‑basierten Multi-Agenten-Systemen zu entwickeln. Ohne entsprechende Schutzmaßnahmen könnten wertvolle geistige Eigentumsrechte und sensible Daten gefährdet sein.