Unüberwachtes Lernen: Sensitive Attribute bleiben in Embeddings verborgen

Ein neues arXiv‑Veröffentlichung zeigt, dass selbst vollständig unüberwachtes Lernen keine neutrale Darstellung von sensiblen Merkmalen wie Alter oder Einkommen garantiert. Durch den Einsatz von SOMtime, einer hochkapazitiven Self‑Organizing‑Map, lassen sich diese Attribute als dominante latente Achsen in den Embeddings erkennen – selbst wenn sie explizit aus den Eingabedaten ausgeschlossen wurden.

Die Studie testet die Methode an zwei großen, realen Datensätzen: dem World Values Survey in fünf Ländern und dem Census‑Income‑Dataset. Dort gelingt es SOMtime, monotone Reihenfolgen zu rekonstruieren, die exakt mit den zurückgehaltenen sensiblen Attributen übereinstimmen. Die Spearman‑Korrelation erreicht bis zu 0,85, während klassische Verfahren wie PCA und UMAP unter 0,23 bleiben und t‑SNE sowie Autoencoder höchstens 0,34 erreichen.

Ein weiteres Ergebnis ist die Entstehung demografisch verzerrter Cluster, wenn die Embeddings unüberwacht segmentiert werden. Dies verdeutlicht, dass Fairness‑Risiken bereits auf der Repräsentationsschicht entstehen können, ohne dass ein überwachtes Ziel vorliegt.

Die Ergebnisse legen nahe, dass das Konzept „Fairness durch Unwissenheit“ – also das Ausschließen sensibler Attribute aus dem Training – auf der Ebene der Repräsentationen versagt. Für eine robuste Fairness‑Auditierung muss daher auch die unüberwachte Komponente von Machine‑Learning‑Pipelines berücksichtigt werden.

Der komplette Code zur Reproduktion der Experimente ist auf GitHub verfügbar: https://github.com/JosephBingham/SOMtime.