KI News: Kurz und klar.

Maschinelles Lernen steht vor einer ernsthaften Bedrohung: Backdoor-Angriffe lassen Modelle bei sauberem Input normal arbeiten, während sie auf manipulierten Daten gezielt falsche Entscheidungen treffen. Traditionelle Abwehrstrategien versuchen, die dafür verantwortlichen Neuronen anhand von Trigger‑Activated Changes (TAC) zu identifizieren, stoßen jedoch häufig an ihre Grenzen, weil die TAC‑Werte ungenau geschätzt werden.

Die neueste Veröffentlichung auf arXiv (2510.23868v1) stellt GIFT – Group‑relative Implicit Fine Tuning – vor, ein innovatives Reinforcement‑Learning‑Framework, das die Ausrichtung von großen Sprachmodellen (LLMs) neu definiert. Anstatt wie bei PPO oder GRPO die kumulativen Belohnungen direkt zu maximieren, minimiert GIFT die Diskrepanz zwischen impliziten und expliziten Belohnungsmodellen.