KI News: Kurz und klar.

Computer‑gestützte Agenten, die auf Vision‑Language‑Modellen (VLMs) basieren, zeigen inzwischen menschenähnliche Fähigkeiten bei der Bedienung von mobilen Plattformen. Gleichzeitig wächst die Besorgnis, dass solche Agenten unsichere Aktionen ausführen könnten – von Systemkompromittierungen bis hin zu Datenschutzverletzungen. Die Erkennung dieser Gefahren in der komplexen Landschaft mobiler Umgebungen ist bislang kaum erforscht.

Die Entwicklung sicherer Agenten, die auf großen Sprachmodellen (LLMs) basieren, erfordert weit mehr als bloßes Prompt‑Engineering. In einer neuen Analyse aus dem arXiv‑Repository wird gezeigt, wie die Art und Weise, wie Regeln in System‑Prompts eingebettet werden, die Aufmerksamkeitsmechanismen und das Compliance‑Verhalten der Modelle beeinflusst.