Rebellion: Robustes Training für Audio-Modelle schützt vor Jailbreak-Angriffen

Rebellion ist ein neu entwickeltes Training für Audio‑Reasoning‑Modelle (ARMs), das die Sicherheit dieser Systeme gegen Jailbreak‑Angriffe deutlich erhöht. Durch gezielte, robuste Trainingsmethoden lernen die Modelle, auch bei stark abweichenden Eingaben keine schädlichen Antworten zu generieren.

Während herkömmliche Reasoning‑Training‑Ansätze ARMs gegen einfache Audio‑Jailbreaks schützen, bleiben sie bei komplexeren Angriffen verwundbar. Der Grund liegt in einem erheblichen Repräsentations‑Drift zwischen einfachen und fortgeschrittenen Jailbreak‑Techniken, der die Modelle dazu bringt, unerwünschte Inhalte auszugeben.

Rebellion adressiert dieses Problem, indem es ARMs auf den schlimmsten möglichen Repräsentations‑Drift trainiert. In Tests mit dem Qwen2‑Audio‑Modell konnte Rebellion fortgeschrittene Jailbreaks erfolgreich abwehren, ohne die Leistung bei normalen Aufgaben zu beeinträchtigen. Gleichzeitig verbessert es das Verhältnis zwischen Genauigkeit und Sicherheit deutlich gegenüber herkömmlichen Trainingsmethoden.