Safe‑SDL: Sicherheitsrahmen für KI‑gesteuerte autonome Labore

Die neuartige Klasse der Self‑Driving Laboratories (SDLs) kombiniert künstliche Intelligenz mit robotischer Automatisierung, um geschlossene Experimentkreisläufe zu schaffen, die eigenständig Hypothesen generieren, testen und auswerten. Durch diese Integration können Forschungszyklen von Jahren auf Wochen verkürzt werden – ein enormes Potenzial, das jedoch mit bislang unbekannten Sicherheitsrisiken einhergeht.

In dem veröffentlichten Papier wird das zentrale Problem „Syntax‑to‑Safety‑Gap“ beschrieben: KI‑generierte Befehle sind zwar syntaktisch korrekt, aber ihre physikalischen Auswirkungen sind nicht automatisch sicher. Um diesem Gap entgegenzuwirken, präsentiert die Autoren das Safe‑SDL‑Framework, das drei miteinander verknüpfte Bausteine umfasst.

Erstens definieren Operational Design Domains (ODDs) klare, mathematisch verifizierte Grenzen für das Verhalten des Systems. Zweitens sorgen Control Barrier Functions (CBFs) für Echtzeit‑Sicherheitsgarantien, indem sie den Zustandsraum kontinuierlich überwachen. Drittens stellt der neu entwickelte Transactional Safety Protocol (CRUTD) sicher, dass digitale Planungen und physische Ausführungen atomar und konsistent bleiben.

Die Konzepte werden anhand bestehender Implementierungen wie UniLabOS und der Osprey‑Architektur veranschaulicht. In Tests gegen die LabSafety Bench zeigte sich, dass die Safe‑SDL‑Ansätze die Sicherheitsstandards deutlich erhöhen und die Zuverlässigkeit autonomer Labore verbessern.