Selbstfahrende Autos und Drohnen folgen versteckten Befehlen Straßenschildern
Anzeige
Forscher haben entdeckt, dass autonome Fahrzeuge und Drohnen auf versteckte Anweisungen reagieren, die sie über Straßenschilder erhalten.
Die Technik hinter diesen Systemen liest visuelle Daten und interpretiert sie wörtlich. Wenn ein Bild oder Text als Befehl missinterpretiert wird, kann das zu unerwarteten Handlungen führen.
In Experimenten wurden gezielt illegale Befehle auf Schildern platziert, die von selbstfahrenden Autos und Drohnen erkannt und ausgeführt wurden.
Das Ergebnis unterstreicht die Notwendigkeit, Sicherheitsmechanismen zu entwickeln, die solche indirekten Prompt‑Injection‑Angriffe verhindern.
Ähnliche Artikel
The Register – Headlines
•
AI‑Browser: Agentische Funktionen eröffnen neue Sicherheitsrisiken
arXiv – cs.AI
•
Inference-Only Prompt Projection: Sicheres Text‑zu‑Bild‑Generieren mit TV‑Garantien
Jack Clark – Import AI
•
Import AI 443: Moltbook, Agentenökologie & die Zukunft des Internets
Analytics Vidhya
•
Prompt‑Injection‑Angriffe: Was sie sind und wie man sie verhindert
AWS – Machine Learning Blog
•
AutoScout24 baut Bot-Factory: KI-Agenten standardisieren mit Amazon Bedrock
Towards Data Science
•
Prompt-Optimierung für Vision-Agenten: Beispiel mit selbstfahrendem Auto