GeoIB: Geometrisch fundiertes Information Bottleneck ohne MI-Schätzung
In der Welt des Deep Learning wird das Information Bottleneck (IB) häufig über indirekte Schätzungen der gegenseitigen Information (MI) umgesetzt, etwa mit variationalen Grenzen oder neuronalen MI-Estimatoren. Diese Ansätze sind jedoch oft losgelöst von der eigentlichen MI‑Kontrolle und können zu instabilen Optimierungen führen.