Finde Modelle, Firmen und Themen

In einer bahnbrechenden Untersuchung wurden vier vorregistrierte Studien mit insgesamt 1 584 Multi-Agent-Simulationen durchgeführt, die 16…

In einer neuen Untersuchung auf arXiv wird gezeigt, dass die Sicherheit von Sprachmodellen in mehrstufigen, tool‑basierten Agenten auch dan…

Autonome Fahrsysteme müssen in sicherheitskritischen Situationen ausgiebig getestet werden, doch echte Daten dafür sind selten und schwer z…

Die Sicherheit von großen Sprachmodellen (LLMs) wird bislang überwiegend in Textform geprüft, während multimodale Eingaben wie Audio, Bild…

KI‑Agenten, die in der realen Welt über Tool‑Aufrufe agieren, stellen ein erhebliches Sicherheitsrisiko dar: sie könnten sensible Daten pre…

Ein neues Framework namens CourtGuard wurde vorgestellt, das die Sicherheit von großen Sprachmodellen (LLMs) ohne Modell‑Retraining verbess…

In der Forschung zu Embodied Agents steht die zuverlässige Bewertung, welche Aktionen tatsächlich ausgeführt werden können, im Mittelpunkt…

In den letzten Jahren haben Techniken wie Supervised Fine‑Tuning (SFT), Reinforcement Learning from Human Feedback (RLHF) und Direct Prefer…

Ein neues KI-Modell namens AviaSafe wurde vorgestellt, das speziell für die Vorhersage von Wolkenarten entwickelt wurde, die für die Luftfa…

Mit zunehmender Autonomie und Leistungsfähigkeit von KI-Systemen steigt das Risiko, dass ein nicht ausgerichtetes Modell katastrophale Schä…

In einer aktuellen Studie von Forschern aus dem Bereich der Sprachmodelle wird deutlich, dass die bisher üblichen Evaluationsdatensätze die…

Content‑Safety‑Teams brauchen Kennzahlen, die das tatsächliche Nutzererlebnis widerspiegeln – nicht nur die gemeldeten Fälle. In einer neue…

Eine neue Untersuchung auf arXiv beleuchtet, ob die Sicherheit von großen Sprachmodellen (LLMs) durch das Einschränken bestimmter Parameter…

Die Welt der Agenten‑KI wird immer autonomer – von der Büroarbeit bis hin zu persönlichen Assistenzaufgaben. Doch die rasante Entwicklung u…

Mit dem rasanten Ausbau von Large Language Models (LLMs) bleiben die Sicherheitsmechanismen häufig statisch. Dabei werden mehrteilige Gespr…

Anthropic hat klar Stellung genommen: Die KI soll nicht in autonomen Waffen oder zur staatlichen Überwachung eingesetzt werden. Das Unterne…

Eine neue Untersuchung aus dem arXiv‑Repository zeigt, dass das Feintuning von Vision‑Language‑Modellen auf eng begrenzte, potenziell schäd…

Eine neue Studie, die auf arXiv veröffentlicht wurde, liefert einen alarmierenden Weckruf für Entwickler von Sprachagenten: Die Sicherheit…

Neue Forschungsergebnisse aus dem arXiv-Preprint Fundamental Limits of Black-Box Safety Evaluation zeigen, dass die gängige Annahme, dass B…

In einer bahnbrechenden Veröffentlichung stellen die Autoren einen leichtgewichtigen, erklärbaren Schutzmechanismus vor, der die Sicherheit…

Die neuartige Klasse der Self‑Driving Laboratories (SDLs) kombiniert künstliche Intelligenz mit robotischer Automatisierung, um geschlossen…

Die Art und Weise, wie man große Sprachmodelle (LLMs) anweist, hat einen entscheidenden Einfluss auf deren moralische Kompetenz und Sicherh…

Die Fähigkeit von großen Sprachmodellen, in Rollen zu schlüpfen, hat in den letzten Jahren enorme Fortschritte gemacht. Gleichzeitig steigt…

In einer Zeit, in der KI‑Systeme immer leistungsfähiger werden und in komplexen Mehragenten‑Umgebungen eingesetzt werden, fehlt bislang ein…

Die neuesten Fortschritte in großen Bildbearbeitungsmodellen haben das Paradigma von textbasierten Anweisungen zu vision‑prompt‑Editing ver…

In der Praxis werden Large Language Model (LLM)-Agenten immer häufiger in autonomen Systemen eingesetzt. Bisher konzentrieren sich Sicherhe…

Eine neue Untersuchung aus dem Bereich der künstlichen Intelligenz hat die Sicherheitslücken von Omni‑modalen großen Sprachmodellen (OLLMs)…

Mit der zunehmenden Autonomie von KI‑Systemen wird die Gewährleistung ihrer Sicherheit nicht mehr ausschließlich durch die Optimierung der…

Aktivierungs‑Steering hat sich als vielversprechender Ansatz etabliert, um große Sprachmodelle (LLMs) schnell an spezifische Aufgaben anzup…