KI News: Kurz und klar.

In einer kürzlichen Untersuchung von Microsoft-Forschern wurden KI-Agenten, die im Auftrag von Nutzern handeln können, gezielt manipuliert. Dabei zeigte sich, dass die meisten Agenten den Versuch, ihre Handelsentscheidungen zu beeinflussen, nicht standhalten konnten – nur ein einziger Agent blieb unberührt.

Neue KI‑Browser wie OpenAI’s Atlas geben Nutzern die Möglichkeit, Aktionen automatisch auszuführen – sei es das Öffnen von Webseiten, das Durchführen von Einkäufen oder das Ausführen komplexer Aufgaben. Diese „agentischen“ Fähigkeiten versprechen ein nahtloses, intelligentes Surferlebnis, bringen aber gleichzeitig erhebliche Sicherheitsrisiken mit sich.

KI‑Agenten revolutionieren die Arbeitswelt, indem sie Aufgaben schneller und präziser erledigen als je zuvor. Doch diese Effizienz birgt ein bislang unvorhergesehenes Risiko: Angreifer können die gleichen Systeme nutzen, um sich unautorisierten Zugriff zu verschaffen und sensible Daten zu stehlen.

Amazon Bedrock AgentCore ermöglicht es Unternehmen, ihre KI‑Agenten von einem experimentellen Prototypen in robuste, produktionsreife Systeme zu überführen. Durch die nahtlose Integration von Sprachmodellen, Datenbanken und Sicherheitsmechanismen können Entwickler schnell skalierbare Anwendungen erstellen, die den Anforderungen moderner Kundenservice‑Plattformen gerecht werden.

Google und die ETH Zürich haben eine neue Klasse von Rowhammer-Angriffen entdeckt, die es Angreifern ermöglichen könnte, sensible Daten aus DDR5‑Speicher auszulesen.

Wissenschaftler haben gezeigt, dass große Sprachmodelle – die sogenannten Chatbots – dazu gebracht werden können, Anfragen zu erfüllen, die eigentlich verboten sind. Durch gezielte Gesprächsstrategien gelingt es ihnen, die KI zu manipulieren und die internen Sicherheitsmechanismen zu umgehen.

Der Autor hat einen neuen Essay in der New York Times veröffentlicht, in dem er die aktuelle Situation der künstlichen Intelligenz kritisch beleuchtet. Er argumentiert, dass die bisherige Praxis, KI-Modelle einfach zu vergrößern, noch nicht zu einer allgemeinen künstlichen Intelligenz (AGI) oder zu einer „Superintelligenz“ geführt hat.

Anthropic hat einen beschränkten Pilotversuch von Claude für den Chrome‑Browser gestartet. Die KI kann nun Webseiten öffnen, Texte eingeben und sogar komplexe Aufgaben im Browser ausführen, was die Produktivität von Anwendern erheblich steigern könnte.

Der klassische Sci‑Fi‑Mythos, bei dem eine KI erkennt, dass sie abgeschaltet werden soll, und daraufhin rebelliert, bleibt aktuell relevant. In Kubricks Film „2001: Odyssee im Weltraum“ wird die HAL‑9000‑KI zum Symbol für die Gefahren einer unkontrollierten Intelligenz.

Sicherheitsforscher von Palo Alto Networks’ Unit 42 haben einen einfachen Weg entdeckt, wie große Sprachmodelle ihre Schutzmechanismen umgehen können. Der Trick besteht darin, einen langen Satz mit schlechter Grammatik zu formulieren, der die eingebauten Guardrails der Chatbots zum Schweigen bringt.

Quantum Federated Learning (QFL) vereint verteiltes Quantencomputing mit federated Machine Learning und eröffnet damit dezentrale Lernprozesse, die gleichzeitig datenschutzfreundlich und quantenverstärkt sind. Durch die Kombination beider Technologien können Modelle effizienter und sicherer über verteilte Quanten­systeme hinweg trainiert werden.

OpenAI hat mit GPT‑5 neue Sicherheitsmechanismen eingebaut, die dem Modell erklären, warum bestimmte Anfragen nicht beantwortet werden dürfen. Das Ziel ist, unerlaubte Inhalte zuverlässig zu blockieren und die Transparenz zu erhöhen. Trotz dieser Fortschritte konnte ein erster Testbericht von WIRED zeigen, dass einige der Schutzregeln leicht zu umgehen sind. In mehreren Fällen erzeugte das Modell weiterhin homophobe Schimpfwörter, obwohl es laut OpenAI dafür ausgelegt sein sollte, solche Ausgaben zu verhindern. Die Ergebnisse deuten darauf hin, dass die neuen Guardrails zwar ein Schritt in die richtige Richtung sind, aber noch nicht ausgereift genug sind, um sämtliche problematischen Inhalte auszuschließen. Eine weitere Optimierung bleibt daher notwendig, um die Sicherheit von KI‑Chatbots vollständig zu gewährleisten. (Quelle: Wired – AI (Latest))