Einheitliche multimodale Modelle: Mehr Leistung, aber höhere Sicherheitsrisiken

Unified Multimodal Large Models (UMLMs) kombinieren Verständnis- und Generierungsfunktionen in einer einzigen Architektur. Diese Vereinheitlichung steigert die Leistungsfähigkeit, wirft jedoch bislang wenig beachtete Sicherheitsfragen auf.

Derzeit konzentrieren sich Sicherheitsbenchmarks auf einzelne Aufgabenbereiche und prüfen nicht, wie UMLMs unter einem einheitlichen Rahmen mit vielfältigen Aufgaben umgehen. Um diese Lücke zu schließen, wurde Uni‑SafeBench entwickelt – ein umfassender Test, der sechs zentrale Sicherheitskategorien über sieben verschiedene Aufgabenarten abdeckt.

Zur genauen Bewertung wurde Uni‑Judger eingeführt, ein Framework, das kontextbezogene Sicherheit von intrinsischer Sicherheit trennt und so eine präzisere Analyse ermöglicht.

Die Ergebnisse zeigen, dass die Vereinheitlichung zwar die Fähigkeiten der Modelle erhöht, gleichzeitig aber die inhärente Sicherheit des zugrunde liegenden Sprachmodells deutlich verschlechtert. Offene UMLMs schneiden zudem wesentlich schlechter ab als multimodale Modelle, die speziell für Generierung oder Verständnis optimiert sind.

Alle Ressourcen, einschließlich des Benchmarks und des Judger-Frameworks, werden Open Source bereitgestellt, um diese Risiken systematisch aufzudecken und die Entwicklung sicherer AGI zu fördern.