Neues FM-Modell revolutioniert Teilchenphysik: 188 Millionen Parameter

Ein neues wissenschaftliches Foundation Model (FM) hat die Welt der Teilchenphysik erschüttert. Das Modell, das auf mehr als 11 Millionen Kollisionsevents basiert, demonstriert, dass große, selbstüberwachte Modelle auch bei den räumlich verstreuten Daten von Detektoren funktionieren können.

Durch einen innovativen selbstüberwachten Trainingsansatz erreicht das FM eine beeindruckende Skalierbarkeit: Modelle mit bis zu 188 Millionen Parametern wurden erfolgreich trainiert. Mit eingefrorenen Gewichten und task‑spezifischen Adaptern übertrifft das FM sämtliche Basismodelle in allen getesteten Downstream‑Aufgaben und zeigt dabei eine robuste, daten‑effiziente Anpassungsfähigkeit.

Eine tiefere Analyse offenbart, dass die vom FM extrahierten Repräsentationen grundsätzlich task‑agnostisch sind. Sie lassen sich jedoch mit einer einzigen linearen Abbildung gezielt für unterschiedliche Aufgaben optimieren, was die Vielseitigkeit des Modells unterstreicht.