Prompt-Optimierung als Jailbreak: Adaptive Red-Teaming für LLMs
In der heutigen KI-Landschaft werden große Sprachmodelle (LLMs) immer häufiger in kritischen Anwendungen eingesetzt. Damit die Sicherheit dieser Systeme gewährleistet ist, müssen robuste Schutzmechanismen entwickelt wer…