QuadSentinel: Vier-Agenten-Guard für sichere KI-Agenten

In der rasanten Entwicklung von KI-Agenten, die komplexe Aufgaben mit Werkzeugen, mehrstufigen Plänen und Inter-Agenten-Kommunikation lösen, entstehen zunehmend Sicherheitsrisiken. Traditionelle, in natürlicher Sprache verfasste Richtlinien sind oft mehrdeutig und kontextabhängig, was ihre Umsetzung als maschinenprüfbare Regeln erschwert und die Laufzeitdurchsetzung unzuverlässig macht.

Die neue Lösung QuadSentinel adressiert dieses Problem, indem sie Sicherheitsrichtlinien als Sequenzen ausdrückt und sie in maschinenprüfbare Regeln übersetzt, die auf beobachtbarem Zustand basieren. Das System besteht aus vier spezialisierten Agenten: einem Zustandsverfolger, einem Richtlinienprüfer, einem Bedrohungsbeobachter und einem Schiedsrichter. Diese Agenten arbeiten zusammen, um die Regeln online zu überwachen und durchzusetzen.

Der Schiedsrichter-Algorithmus kombiniert mit einem effizienten Top‑k‑Prädikaten-Update-Mechanismus hält die Kosten niedrig, indem er Prüfungen priorisiert und Konflikte hierarchisch löst. In Tests auf den Benchmarks ST‑WebAgentBench und AgentHarm zeigte QuadSentinel eine höhere Genauigkeit der Schutzmaßnahmen, eine bessere Regelrückgewinnung und weniger Fehlalarme als herkömmliche Einzel-Agenten-Lösungen wie ShieldAgent.

Für Unternehmen bedeutet dies, dass sie die Sicherheitskontrolle ihrer Agenten verbessern können, ohne die Kernagenten selbst zu verändern. Die Richtlinien bleiben getrennt und maschinenprüfbar, was eine schnelle Integration in bestehende Systeme ermöglicht.

Der Quellcode von QuadSentinel wird öffentlich auf GitHub zur Verfügung gestellt: https://github.com/yyiliu/QuadSentinel.