Finde Modelle, Firmen und Themen

KI‑Agenten, die in der realen Welt über Tool‑Aufrufe agieren, stellen ein erhebliches Sicherheitsrisiko dar: sie könnten sensible Daten pre…

OpenAI hat den neuen Lockdown‑Modus eingeführt, um Nutzer vor Prompt‑Injection‑Angriffen zu schützen. Diese Angriffe zielen darauf ab, sens…

Von Prompt‑Injection bis Deepfake‑Betrug – Sicherheitsforscher zeigen, dass mehrere KI‑Schwachstellen bislang keine bekannte Gegenmaßnahme…

Mit dem rasanten Fortschritt großer Sprachmodelle steigen auch deren Einsatzmöglichkeiten im Angriffsszenario. Während neue Agenten in weni…

In den letzten Jahren haben sich Hacker immer raffiniertere Methoden angeeignet, um KI‑Systeme auszunutzen. Der Angriff auf den Gemini Cale…

KI‑Agenten, die Bildschirme lesen und Aktionen ausführen, sind besonders anfällig für Prompt‑Injection‑Angriffe, bei denen bösartige Inhalt…

Large‑Language‑Model‑basierte Anwendungen sind heute allgegenwärtig, doch ihre Sicherheit steht unter Druck: Angreifer nutzen Prompt‑Inject…

In den letzten Monaten haben Forscher neue Methoden entdeckt, mit denen große Sprachmodelle (LLMs) manipuliert werden können. Diese Modelle…

In den letzten Tagen haben sich mehrere Betrüger auf eine neue Taktik spezialisiert: Sie manipulieren die Ergebnisse von KI‑Tools wie Googl…

KI‑Agenten werden zunehmend zu zentralen Bausteinen moderner Softwarearchitekturen. Sie ermöglichen eigenständige Entscheidungen, dynamisch…

Eine neue Studie liefert wichtige Erkenntnisse darüber, warum manche Prompt‑Injection-Angriffe erfolgreich sind. Forscher aus dem Institut…

Amazon Bedrock Guardrails erweitert seine Sicherheitskontrollen um den Code‑Generierungsbereich. Jetzt deckt es zwölf Programmiersprachen a…

In der heutigen Zeit, in der große Sprachmodelle (LLMs) immer häufiger in entscheidungsrelevanten Bereichen eingesetzt werden, ist es entsc…

Die Entwicklung sicherer Agenten, die auf großen Sprachmodellen (LLMs) basieren, erfordert weit mehr als bloßes Prompt‑Engineering. In eine…

Forscher haben ein neues Verfahren entwickelt, um die Sicherheit von autonomen LLM‑Agenten zu prüfen. Dabei werden Monitoring‑Systeme gezie…

In einer aktuellen Studie, die auf arXiv veröffentlicht wurde, wird untersucht, wie große Sprachmodelle (LLMs) in Videospielen eingesetzt w…

Anthropic hat einen beschränkten Pilotversuch von Claude für den Chrome‑Browser gestartet. Die KI kann nun Webseiten öffnen, Texte eingeben…

In den letzten Wochen haben sich immer raffiniertere Cyberkriminelle daran gemacht, die KI‑Zusammenfassungen von Google zu manipulieren. Du…

Die Kombination großer Sprachmodelle (LLMs) mit externen Werkzeugen über das Model Context Protocol (MCP) eröffnet kritische Sicherheitslüc…

In dem Tutorial wird gezeigt, wie man ein OpenAI-Modell gezielt gegen einseitige Angriffe testet – und zwar mit dem Tool deepteam. deepteam…

Der unabhängige KI-Forscher Johann Rehberger hat im August ein wahnsinniges Tempo an Veröffentlichungen vorgelegt. Jeden Tag hat er einen B…

Am Mittwoch hielt der Sprecher einen Vortrag beim Bay Area AI Security Meetup, in dem er die Gefahren von Prompt‑Injection, die sogenannte…

Seit zwei Wochen habe ich die Möglichkeit, das brandneue GPT‑5-Modellfamilie zu testen. Es ist mein neuer Favorit, weil es fast nie Fehler…