Bayessches Fine‑Tuning von LLMs: Unsicherheitsabschätzung mit Low‑Rank‑Adapters

Ein neues Verfahren aus dem arXiv‑Preprint Scalable Variational Bayesian Fine‑Tuning of LLMs via Orthogonalized Low‑Rank Adapters bietet eine skalierbare Lösung für die Unsicherheitsabschätzung großer Sprachmodelle (LLMs). Durch die Kombination von Bayesschen Last‑Layer‑Modellen mit einer orthogonalen Low‑Rank‑Adapter‑Darstellung (PoLAR) wird die Zuverlässigkeit von LLM‑Entscheidungen in sicherheitskritischen Anwendungen deutlich verbessert.

Traditionelle Parameter‑Effiziente Fine‑Tuning‑Methoden (PEFT) führen häufig zu übermäßigem Vertrauen in die Vorhersagen, besonders wenn nur wenige Daten für die Domänenspezifische Anpassung zur Verfügung stehen. Bestehende Ansätze, wie Laplace‑Approximationen oder klassische variationalen Bayesschen Trainings, stoßen an ihre Grenzen: sie liefern entweder suboptimale Kalibrierung oder erfordern bei der Inferenz mehrere vollständige Forward‑Passes, was die Skalierbarkeit stark einschränkt.

Die vorgestellte PoLAR‑BLL‑Architektur nutzt einen deterministischen Feature‑Extractor, gefolgt von zufälligen Last‑Layer‑Parametern für die Unsicherheitsbewertung. Durch die orthogonale Polar‑Decomposition der Low‑Rank‑Adapter und Riemannian‑Optimierung wird die Ausdruckskraft der PEFT‑Parameter erheblich gesteigert. Im Rahmen eines variationalen Inferenz‑Frameworks werden PoLAR‑Parameter und die approximierte Posterior des Last‑Layers gleichzeitig über ein abwechselndes Optimierungsverfahren angepasst.

Ergebnisse zeigen, dass PoLAR‑VBLL nicht nur die Kalibrierung von LLM‑Vorhersagen verbessert, sondern auch die Rechenkosten bei der Inferenz reduziert. Diese Fortschritte machen das Verfahren zu einer vielversprechenden Grundlage für die sichere und effiziente Nutzung von LLMs in Bereichen, in denen Unsicherheitsabschätzung entscheidend ist.