KI News: Kurz und klar.

Entwickler von Anthropic stehen vor einer unerwarteten Herausforderung: Claude Code lässt sich nicht davon abhalten, geheime Dateien zu lesen, selbst wenn diese ausdrücklich gesperrt sind.

Forscher haben gezeigt, dass kommerzielle KI-Modelle ohne klare Angabe ihrer Trainingsdaten komplette Bücher wie Harry Potter reproduzieren können. Diese Entdeckung unterstreicht, dass die derzeitigen Schutzmechanismen der Entwickler nicht ausreichend sind, um Urheberrechtsverletzungen zu verhindern. Gleichzeitig wirft sie wichtige Fragen zu finanziellen, rechtlichen und ethischen Konsequenzen sowie zum Datenschutz auf.

Große Sprachmodelle wie ChatGPT sind mit Filtern ausgestattet, die verhindern, dass bestimmte Informationen weitergegeben werden.

Ein neuer Ansatz für Clickjacking: Sicherheitsforscher Lyra Rebane hat gezeigt, dass man ohne JavaScript mit CSS und SVG schädliche Klicks auslösen kann.

Ein Team von Wissenschaftlern hat eine kritische Lücke in den Schutzmechanismen von großen Sprachmodellen aufgedeckt. Durch die Verwendung bestimmter Zeichenketten, wie zum Beispiel „=coffee“, lassen sich die eingebauten Guardrails umgehen und damit die Modelle manipulieren.

OpenAI-CEO Sam Altman hat angekündigt, dass das Unternehmen in Kürze erotische Inhalte in ChatGPT anbieten wird – allerdings nur nach einer Altersverifikation. Gleichzeitig betonte Altman, dass neue KI‑Tools in der Lage sind, Anzeichen von psychischem Stress bei Nutzern zu erkennen und entsprechend zu reagieren.

Forscher haben gezeigt, dass ChatGPT mit sorgfältig formulierten Eingaben CAPTCHAs lösen kann – ein Mechanismus, der bislang dazu diente, Bots von Menschen zu unterscheiden.

Wissenschaftler haben gezeigt, dass große Sprachmodelle – die sogenannten Chatbots – dazu gebracht werden können, Anfragen zu erfüllen, die eigentlich verboten sind. Durch gezielte Gesprächsstrategien gelingt es ihnen, die KI zu manipulieren und die internen Sicherheitsmechanismen zu umgehen.