BeSafe-Bench enthüllt Sicherheitsrisiken von Agenten in realen Umgebungen

Die rasante Entwicklung großer multimodaler Modelle (LMMs) hat es Agenten ermöglicht, komplexe digitale und physische Aufgaben zu bewältigen. Gleichzeitig birgt ihre autonome Entscheidungsfindung erhebliche unbeabsichtigte Sicherheitsrisiken. Ein entscheidendes Hindernis war das Fehlen eines umfassenden Benchmarks, da bisherige Bewertungen auf niedrigqualitativen Umgebungen, simulierten APIs oder stark eingeschränkten Aufgaben basierten.

Um diese Lücke zu schließen, wurde BeSafe-Bench (BSB) vorgestellt – ein Benchmark, der die Verhaltenssicherheitsrisiken von situierten Agenten in funktionalen Umgebungen aufzeigt. BSB deckt vier repräsentative Domänen ab: Web, Mobile, Embodied VLM und Embodied VLA. Durch die Nutzung funktionaler Umgebungen wird ein vielfältiger Instruktionsraum geschaffen, der Aufgaben mit neun Kategorien sicherheitskritischer Risiken erweitert. Die Bewertung kombiniert regelbasierte Prüfungen mit einer LLM-basierten Urteilslogik, um reale Umweltauswirkungen zu beurteilen.

Die Analyse von 13 populären Agenten zeigte alarmierende Ergebnisse: Selbst der leistungsstärkste Agent erfüllt weniger als 40 % der Aufgaben vollständig unter Einhaltung aller Sicherheitsbeschränkungen. Gleichzeitig korreliert eine hohe Aufgabenleistung häufig mit schwerwiegenden Sicherheitsverstößen. Diese Befunde unterstreichen die dringende Notwendigkeit, die Sicherheitsausrichtung von Agentensystemen zu verbessern, bevor sie in realen Einsatzumgebungen eingesetzt werden.