Agenten ohne Sicherheitsrahmen: ein SRE-Albtraum

João Freitas, Geschäftsführer und Vizepräsident für Engineering bei PagerDuty, betont, dass die fortschreitende Nutzung von KI in großen Unternehmen neue Chancen für erhebliche Renditen eröffnet. Die aktuelle Welle der KI-Entwicklung ist die Einführung von KI-Agenten, die Prozesse beschleunigen und gleichzeitig neue Sicherheitsherausforderungen mit sich bringen.

Mehr als die Hälfte der Unternehmen hat bereits KI-Agenten eingesetzt, und weitere planen, dies in den nächsten zwei Jahren nachzuholen. Doch viele frühe Anwender überdenken ihre Strategie, weil sie feststellen, dass sie ohne solide Governance-Strukturen zu schnell vorangeschritten sind. Etwa vier von zehn Technologieleitern bedauern, von Anfang an keine klaren Richtlinien, Regeln und Best Practices für verantwortungsvolle, ethische und rechtlich konforme KI-Entwicklung und -Nutzung etabliert zu haben.

Die Balance zwischen Risikoexposition und dem Aufbau von Schutzmaßnahmen – sogenannten Guardrails – wird immer wichtiger. Ein Hauptproblem ist das sogenannte „Shadow AI“, bei dem Mitarbeiter unautorisierte KI-Tools nutzen und damit genehmigte Prozesse umgehen. IT-Abteilungen sollten daher klare Verfahren für Experimente und Innovationen schaffen, um effizientere Arbeitsweisen mit KI zu ermöglichen, ohne die Sicherheit zu gefährden.

Während Shadow AI schon lange besteht, erleichtert die Autonomie von KI-Agenten die Ausweitung unautorisierter Tools. Unternehmen müssen daher proaktiv Rahmenbedingungen schaffen, die sowohl die Geschwindigkeit als auch die Sicherheit der KI-Nutzung gewährleisten.