LLM‑Alignment: Minimale Kosten bei Label‑Flip‑Poisoning‑Angriffen
In einer neuen Studie von Forschern auf arXiv (Arbeitstitel: Cost‑Minimized Label‑Flipping Poisoning Attack to LLM Alignment) wird gezeigt, wie Angreifer mit minimalem Aufwand die Richtungsentscheidung von großen Sprachmodellen (LLMs) manipulieren können. Durch das gezielte Umkehren von Präferenz‑Labels während der Reinforcement‑Learning‑from‑Human‑Feedback‑ bzw. Direct‑Policy‑Optimization‑Phase lassen sich die Modelle auf ein gewünschtes Ziel ausrichten, ohne die eigentlichen Ausgaben zu verändern.
