Visuelle Jailbreak-Angriffe auf Bildbearbeitungsmodelle: Sicherheitslücke entdeckt

Die neuesten Fortschritte in großen Bildbearbeitungsmodellen haben das Paradigma von textbasierten Anweisungen zu vision‑prompt‑Editing verschoben, bei dem die Nutzerabsicht direkt aus visuellen Eingaben wie Markierungen, Pfeilen oder visuellen Text‑Prompts abgeleitet wird. Diese Entwicklung erhöht die Benutzerfreundlichkeit erheblich, eröffnet jedoch gleichzeitig ein bislang wenig erforschtes Sicherheitsrisiko: die Angriffsfläche wird selbst visuell.

In der vorliegenden Arbeit wird der Vision‑Centric Jailbreak Attack (VJA) vorgestellt – die erste visuell‑zu‑visuell‑basierte Angriffsmethode, die schädliche Anweisungen ausschließlich über Bild‑Inputs übermittelt. Um die Bedrohung systematisch zu untersuchen, wurde IESBench, ein safety‑orientiertes Benchmark, entwickelt. Umfangreiche Tests zeigen, dass VJA bestehende, hochmoderne Modelle kompromittieren kann, mit Erfolgsraten von bis zu 80,9 % bei Nano Banana Pro und 70,1 % bei GPT‑Image‑1.5.

Zur Abwehr dieser Schwachstelle wird eine trainingsfreie Verteidigung auf introspektiver multimodaler Logik vorgeschlagen. Diese Lösung verbessert die Sicherheit schlecht ausgerichteter Modelle auf ein Niveau, das mit kommerziellen Systemen vergleichbar ist, ohne zusätzliche Schutzmodelle und mit nahezu vernachlässigbarem Rechenaufwand. Die Ergebnisse liefern sowohl ein neues Benchmark-Tool als auch einen praktikablen Schutzmechanismus, um moderne Bildbearbeitungsdienste sicherer und vertrauenswürdiger zu gestalten.

Hinweis: Der Artikel enthält von großen Bildbearbeitungsmodellen erzeugte, potenziell anstößige Bilder.