PRA: KI-Agent simuliert individuelle Datenschutzbedenken wie ein Mensch

Ein neues Forschungsprojekt namens PRA (Privacy Reasoner Agent) zeigt, wie künstliche Intelligenz die Art und Weise nachbilden kann, wie einzelne Nutzer auf aktuelle Nachrichten reagieren und dabei ihre eigenen Datenschutzbedenken entwickeln. Im Gegensatz zu herkömmlichen Ansätzen, die nur allgemeine Stimmungen auf Bevölkerungsebene erfassen, nutzt PRA Theorien aus den Bereichen Privatsphäre und Kognition, um personalisierte Datenschutzüberlegungen zu erzeugen.

Der Agent rekonstruiert für jeden Nutzer ein sogenanntes „Privacy Mind“ und aktiviert relevante Erinnerungen zu Datenschutzthemen mithilfe eines kontextbasierten Filters, der die begrenzte Rationalität menschlicher Entscheidungen nachahmt. Auf dieser Grundlage generiert PRA synthetische Kommentare, die zeigen, wie ein bestimmter Nutzer wahrscheinlich auf neue Datenschutzszenarien reagieren würde.

Zur Bewertung der Genauigkeit der erzeugten Argumentation wurde ein ergänzender LLM-as-a-Judge-Mechanismus entwickelt. Dieser wurde anhand einer etablierten Taxonomie von Datenschutzbedenken kalibriert und misst, wie treu die generierten Überlegungen dem tatsächlichen Nutzerverhalten entsprechen. In Experimenten mit realen Diskussionen auf Hacker News konnte PRA die Vorhersagegenauigkeit von Datenschutzbedenken deutlich über den Basislinienagenten hinaus verbessern und zeigte gleichzeitig übertragbare Denkmuster in Bereichen wie Künstliche Intelligenz, E‑Commerce und Gesundheitswesen.