Finde Modelle, Firmen und Themen

Die Fähigkeit von großen Sprachmodellen, in Rollen zu schlüpfen, hat in den letzten Jahren enorme Fortschritte gemacht. Gleichzeitig steigt…

KI‑Agenten werden immer häufiger in produktiven Systemen eingesetzt, doch ihre Sicherheitsprüfung bleibt ein Engpass. Traditionelle Methode…

Offline-Reinforcement‑Learning (RL) nutzt statische Datensätze, um Agenten zu trainieren, ist jedoch anfällig für Backdoor‑Angriffe. Bisher…

Ein neues arXiv‑Paper mit der Referenznummer 2512.07761v1 zeigt, wie große Sprachmodelle (LLMs) durch gezielte Mehr‑Runden‑Angriffe ausgenu…

Forscher haben ein neues Verfahren entwickelt, um die Sicherheit von autonomen LLM‑Agenten zu prüfen. Dabei werden Monitoring‑Systeme gezie…