GAVEL: Regelbasierte Sicherheit durch Aktivierungsüberwachung

In der Forschung zu großen Sprachmodellen (LLMs) gewinnt die Überwachung von Aktivierungen zunehmend an Bedeutung, um schädliches Verhalten frühzeitig zu erkennen und zu verhindern. Traditionelle Ansätze, die auf umfangreichen Missbrauchsdaten trainiert werden, stoßen jedoch häufig an Grenzen: Sie weisen eine niedrige Präzision auf, sind wenig flexibel und bieten kaum Interpretierbarkeit.

Das neue Konzept von GAVEL (Rule‑Based Activation Safety) nimmt die Idee der regelbasierten Sicherheit aus der Cybersicherheit auf und wendet sie auf Aktivierungsdaten an. Dabei werden Aktivierungen als „kognitive Elemente“ (CEs) definiert – präzise, interpretierbare Faktoren wie „Bedrohung erzeugen“ oder „Zahlungsabwicklung“. Durch die Kombination dieser Elemente lassen sich komplexe, domänenspezifische Verhaltensmuster mit hoher Genauigkeit abbilden.

GAVEL stellt ein praktisches Framework bereit, das Prädikatregeln über CEs definiert und Verstöße in Echtzeit erkennt. Anwender können Sicherheitsregeln konfigurieren und anpassen, ohne Modelle neu trainieren zu müssen, und erhalten gleichzeitig Transparenz sowie die Möglichkeit zur Auditierung. Die Ergebnisse zeigen, dass regelbasierte Aktivierungsüberwachung die Präzision steigert, die Anpassung an spezifische Anwendungsfälle erleichtert und die Grundlage für skalierbare, nachvollziehbare KI‑Governance bildet.

Das Projekt wird als Open‑Source‑Framework veröffentlicht, inklusive eines automatisierten Tools zur Regelgenerierung, das die Implementierung von Sicherheitsmaßnahmen für Entwickler und Unternehmen vereinfacht.