BONSAI: Bayesian Optimization, die Standardkonfigurationen respektiert

arXiv – cs.LG Original ≈1 Min. Lesezeit
Anzeige

Die neue Methode BONSAI erweitert die klassische Bayesian Optimization um ein bewusstes Rückhaltprinzip: Sie schneidet unwichtige Abweichungen von einer vorgegebenen Standardkonfiguration ab und begrenzt gleichzeitig den Verlust an Akquisitionswert. Dadurch bleibt die Optimierung fokussiert auf wirklich relevante Parameter, ohne die Effizienz zu gefährden.

BONSAI lässt sich nahtlos mit gängigen Akquisitionsfunktionen wie Expected Improvement und dem Upper Confidence Bound (GP‑UCB) kombinieren. Theoretisch wird ein Regret‑Bound nachgewiesen, das unter bestimmten Voraussetzungen die gleiche No‑Regret‑Eigenschaft wie herkömmliches GP‑UCB garantiert.

In einer Vielzahl von Praxisfällen zeigte BONSAI, dass die Anzahl der empfohlenen Nicht‑Standardparameter deutlich reduziert werden kann, während die Optimierungsleistung nahezu unverändert bleibt. Gleichzeitig hat die Methode kaum Einfluss auf die Laufzeit, was sie zu einer attraktiven Option für datenintensive Anwendungen macht.

Ähnliche Artikel