L-XAIDS: LIME-basiertes erklärbares KI-Framework für Intrusion Detection Systeme

In den letzten Jahren hat die rasante Entwicklung von Künstlicher Intelligenz (KI) in Bereichen wie Gesundheitswesen, FinTech und Cybersicherheit die Forschung zur Erklärbarkeit von KI-Systemen stark vorangetrieben. Die Notwendigkeit, die Entscheidungen von „Blackbox“-Modellen nachvollziehbar zu machen, wird besonders kritisch, wenn KI in sicherheitsrelevanten Anwendungen eingesetzt wird.

Intrusion Detection Systeme (IDS), die auf maschinellem Lernen basieren, stehen dabei vor einer besonderen Herausforderung: Ihre Entscheidungen sind oft schwer zu interpretieren, was die Vertrauenswürdigkeit und die Akzeptanz in kritischen Infrastrukturen einschränkt. Die Frage, wie man die Entscheidungsprozesse dieser Systeme transparent macht, bleibt bislang ungeklärt.

Die neue L-XAIDS-Architektur löst dieses Problem, indem sie die lokale Interpretierbarkeit von LIME mit der verständlichen Darstellung von Explain Like I’m Five (ELI5) und klassischen Entscheidungsbäumen kombiniert. Durch lokale Erklärungen kann das System für einzelne Eingaben nachvollziehen, warum eine bestimmte Entscheidung getroffen wurde. Gleichzeitig liefert die globale Analyse eine Übersicht der wichtigsten Merkmale und ihrer Zusammenhänge mit Angriffsmustern.

Diese Kombination aus lokalen und globalen Erklärungen erhöht die Transparenz von ML‑basierten IDS deutlich. Sie ermöglicht es Anwendern, die Funktionsweise der Modelle besser zu verstehen und erhöht damit die Bereitschaft, solche Systeme in sicherheitskritischen Bereichen einzusetzen.

Die L-XAIDS‑Lösung stellt damit einen wichtigen Schritt dar, um erklärbare KI in der Cybersicherheit zu etablieren und die breite Akzeptanz von KI‑gestützten Sicherheitslösungen zu fördern.