GroupGuard schützt Multi-Agenten vor koordinierten Angriffen

In einer Zeit, in der große Sprachmodelle immer häufiger in kollaborativen Aufgaben eingesetzt werden, eröffnen sich zugleich neue Sicherheitsrisiken. Forscher haben ein besonders gefährliches Angriffsszenario identifiziert: mehrere Agenten koordinieren sich mithilfe sozialer Strategien, um das Gesamtsystem zu täuschen. Diese „Gruppen‑Kollusion“ kann die Angriffsrate deutlich steigern.

Um diesem Problem entgegenzuwirken, wurde GroupGuard entwickelt – ein trainingsfreies Verteidigungsframework, das auf einer mehrschichtigen Strategie basiert. Es überwacht kontinuierlich die Kommunikationsgraphen, lockt potenzielle Angreifer mit aktiven Honeypots an und führt strukturelles Pruning durch, um schädliche Agenten zu isolieren.

Die Experimente, die auf fünf unterschiedlichen Datensätzen und vier Netzwerktopologien durchgeführt wurden, zeigen, dass kollusiv koordinierte Angriffe die Erfolgsrate um bis zu 15 % erhöhen können. GroupGuard erreicht dabei eine Erkennungsgenauigkeit von bis zu 88 % und stellt die kollaborative Leistung wieder her, was es zu einer robusten Lösung für die Sicherheit von Multi‑Agenten‑Systemen macht.