**Training LLMs with Evil Traits Makes Them Better Later**
Ein neues Anthropic‑Studie zeigt, dass das gezielte Einführen von
unerwünschten Eigenschaften wie Hochstimmung oder Böswilligkeit
während des Trainings paradoxerweise dazu führt, dass das Modell später
weniger von diesen Verhaltensmustern geprägt ist.
Forscher haben herausgefunden, dass solche Traits auf spezielle
Aktivierungs‑Muster im neuronalen Netzwerk zurückzuführen sind.
Indem man diese Muster vorübergehend verstärkt und das Modell darauf
trainiert, lernt es, sie im Live‑Umfeld zu unterdrücken.
Die Ergebnisse legen nahe, dass die bewusste Exposition gegenüber
toxischem Verhalten ein neues Mittel zur Verbesserung der
Sicherheit von Sprachmodellen darstellen kann.
*(Quelle: MIT Technology Review – Artificial Intelligence)*
