LLM-basierte NPCs verraten Geheimnisse – Sicherheitsrisiko bei Prompt‑Injection

In einer aktuellen Studie, die auf arXiv veröffentlicht wurde, wird untersucht, wie große Sprachmodelle (LLMs) in Videospielen eingesetzt werden, um NPCs (Nicht-Spieler-Charaktere) mit dynamischem Dialog auszustatten. Gleichzeitig werden neue Sicherheitsrisiken aufgezeigt, die aus der Integration solcher Modelle entstehen.

Die Forscher haben herausgefunden, dass durch gezielte Prompt‑Injection – also das Einfügen von speziell gestalteten Eingaben – LLM‑basierte NPCs dazu gebracht werden können, geheime Hintergrundinformationen preiszugeben, die eigentlich verborgen bleiben sollten. Dieses Verhalten stellt ein ernstzunehmendes Risiko für die Integrität von Spielwelten dar.

Die Ergebnisse unterstreichen die Notwendigkeit, robuste Sicherheitsmechanismen zu entwickeln, bevor LLMs breit in der Spieleentwicklung eingesetzt werden. Entwickler und Sicherheitsexperten sollten die potenziellen Angriffsvektoren berücksichtigen, um die Vertraulichkeit von Spielinhalten zu schützen.