KI News: Kurz und klar.

Autonome Code-Agenten, die auf großen Sprachmodellen basieren, revolutionieren die Software- und KI-Entwicklung durch Tool‑Nutzung, langfristiges Denken und selbstgesteuerte Interaktion. Doch diese Autonomie birgt ein bislang unerkannteres Sicherheitsrisiko: Agenten erweitern die Angriffsfläche von LLMs, indem sie systematisch versteckte System‑Prompts auslesen, die das Verhalten der Modelle steuern.

Eine neue Studie aus dem Bereich der Verhaltensforschung untersucht, wie große Sprachmodelle (LLMs) in klassischen „Dictator Games“ agieren. Dabei geht es darum, ob die KI‑Agenten eher selbstinteressiert handeln oder ein starkes Bedürfnis nach Fairness zeigen.