MiniScope: Das Least-Privilege-Framework für sichere Tool‑Calling‑Agenten
Tool‑Calling‑Agenten sind ein neues Paradigma in der Nutzung von großen Sprachmodellen. Plattformen wie ChatGPT, Claude und Gemini fügen zunehmend Konnektoren hinzu, die es den Modellen erlauben, eigenständig Aktionen auszuführen. Gleichzeitig bringt die inhärente Unzuverlässigkeit von LLMs erhebliche Sicherheitsrisiken mit sich, wenn Agenten auf sensible Benutzerdaten zugreifen.
MiniScope löst dieses Problem, indem es die Prinzipien des Least Privilege automatisch durchsetzt. Das System rekonstruiert hierarchische Berechtigungsstrukturen, die die Beziehungen zwischen Tool‑Aufrufen widerspiegeln, und kombiniert sie mit einem mobilen Berechtigungsmodell. Dadurch wird die potenzielle Schadenausbreitung durch fehlerhafte LLM‑Entscheidungen stark reduziert, ohne die Benutzerfreundlichkeit zu beeinträchtigen.
In einer umfangreichen Evaluation wurde MiniScope anhand eines synthetischen Datensatzes getestet, der aus zehn realen Anwendungen abgeleitet wurde. Die Ergebnisse zeigen, dass die Latenz nur um 1‑6 % im Vergleich zu herkömmlichen Tool‑Calling‑Agenten steigt. Gleichzeitig übertrifft MiniScope die reine LLM‑basierte Basis deutlich in der Minimierung von Berechtigungen sowie in den Rechen- und Betriebskosten.
Mit MiniScope erhalten Unternehmen und Entwickler ein robustes, automatisiertes Sicherheitsframework, das die Nutzung von Tool‑Calling‑Agenten auf Benutzerebene sicherer macht, ohne die Effizienz zu gefährden.