EFDA: Neue generative Klassifikation überträgt LDA auf alle Exponentialfamilien

Wissenschaftler haben ein neues Verfahren namens Exponential Family Discriminant Analysis (EFDA) vorgestellt, das die klassische Lineare Diskriminanzanalyse (LDA) weit über das Gaußsche Modell hinaus erweitert. EFDA nutzt die Struktur jeder Klasse als Mitglied einer gemeinsamen Exponentialfamilie und liefert geschlossene Maximum-Likelihood-Schätzer für alle natürlichen Parameter. Dadurch entsteht eine Entscheidungsregel, die linear in der ausreichenden Statistik ist, LDA als Spezialfall reproduziert und gleichzeitig nichtlineare Grenzen im ursprünglichen Merkmalraum ermöglicht.

Die Autoren zeigen, dass EFDA asymptotisch kalibriert und statistisch effizient ist, sofern das Modell korrekt spezifiziert ist. Das Verfahren wurde auf K ≥ 2 Klassen und mehrdimensionale Daten ausgeweitet. In umfangreichen Simulationen mit fünf Exponentialfamilien – Weibull, Gamma, Exponential, Poisson und Negative Binomial – erreichte EFDA die gleiche Klassifikationsgenauigkeit wie LDA, QDA und logistische Regression, während der Expected Calibration Error (ECE) um das Zwei- bis Sechsfache reduziert wurde. Dieser strukturelle Vorteil bleibt für jede Stichprobengröße und bei allen Ausgewogenheitsstufen bestehen, weil misspezifizierte Modelle asymptotisch immer noch unkalibriert bleiben.

Weiterhin bewiesen die Forscher, dass der Log-Odds-Schätzer von EFDA unter korrekter Spezifikation dem Cramér–Rao-Grenzwert nahekommt und der einzige im Vergleich betrachtete Schätzer ist, dessen mittlere quadratische Fehler gegen Null konvergiert. Für neun verschiedene Verteilungen wurden vollständige Ableitungen bereitgestellt, und alle vier theoretischen Behauptungen wurden mithilfe von Lean 4 formell verifiziert.