LLM-Framework prüft semantische Risikointerpretation in ADAS

In modernen Fahrerassistenzsystemen (ADAS) spielt maschinelles Lernen eine immer größere Rolle. Doch trotz fortschrittlicher Algorithmen treten sicherheitsrelevante Fehler häufig auf, wenn die Systeme nicht nur auf technische Defekte, sondern auch auf unvollständige Beobachtungen und semantische Mehrdeutigkeiten reagieren. Ein neues Forschungsprojekt bietet dafür ein Szenario‑zentriertes Prüfverfahren, das die Risiko‑Bewertung von großen Sprachmodellen (LLM) in urbanen Fahrsituationen systematisch überprüft.

Das Verfahren erstellt deterministische, zeitlich begrenzte Szenario‑Fenster aus multimodalen Fahrdaten und bewertet sie unter festgelegten Prompt‑Einschränkungen sowie einem geschlossenen numerischen Risikokatalog. Dadurch entstehen strukturierte und vergleichbare Ausgaben, die für verschiedene Modelle einheitlich sind. In einer experimentellen Studie wurden zwei reine Text‑Modelle und ein multimodales Modell mit identischen Eingaben und Prompts getestet.

Die Ergebnisse zeigen, dass die Modelle bei der Zuordnung von Schweregraden, der Eskalation von Hochrisiken, der Nutzung von Beweismitteln und der kausalen Attribution systematisch divergieren. Besonders auffällig ist die Uneinigkeit bei der Erkennung von gefährdeten Verkehrsteilnehmern – ein Hinweis darauf, dass die Unterschiede eher auf inhärente semantische Unbestimmtheit zurückzuführen sind als auf einzelne Modellfehler. Diese Erkenntnisse unterstreichen die Notwendigkeit einer Szenario‑zentrierten Audits und einer expliziten Handhabung von Mehrdeutigkeiten, wenn LLM‑basierte Entscheidungsfindung in sicherheitskritische Fahrerassistenzsysteme integriert wird.