Neues BBG-Framework bewertet Bio‑Risiken von KI-Modellen

Entwickler von KI-Systemen und Entscheidungsträger aus dem Sicherheitsbereich haben ein neues Werkzeug vorgestellt, das die Gefahr von Biowaffen‑Risiken bei modernen KI‑Modellen – insbesondere großen Sprachmodellen – systematisch bewertet. Das „Biothreat Benchmark Generation“ (BBG) Framework soll die Messung von Bio‑Sicherheitsrisiken erleichtern und dabei sowohl technische als auch operative Faktoren berücksichtigen.

Der erste Teil des Frameworks konzentriert sich ausschließlich auf bakterielle Bedrohungen. Dabei wird eine hierarchische Struktur aus Biobedrohungskategorien, Elementen und Aufgaben geschaffen, die als Grundlage für die Entwicklung von „Task‑Aligned Queries“ dient. Diese Abfragen bilden die Basis für spätere Prüfungen, bei denen KI‑Modelle auf ihre Fähigkeit hin getestet werden, biowaffengefährdete Informationen zu generieren oder zu nutzen.

Ein besonderes Merkmal des BBG ist die Einbeziehung verschiedener Akteursfähigkeiten und operativer Risikofaktoren, die in vielen bisherigen Benchmarks vernachlässigt werden. Durch die Berücksichtigung dieser Dimensionen soll das Framework ein umfassenderes Bild der potenziellen Gefährdung liefern und damit sowohl Entwicklern als auch Politikern eine verlässliche Entscheidungsgrundlage bieten.

In künftigen Arbeiten werden die erstellten Abfragen in konkrete Modell‑Prompts umgesetzt und die daraus resultierenden Benchmarks in die Praxis der Modellauswertung integriert. Damit soll ein robustes, wiederholbares Verfahren entstehen, das die Bio‑Sicherheitsbewertung von KI‑Modellen auf ein neues Niveau hebt.