Ellipsoid-basierte Entscheidungsgrenzen revolutionieren Open-Intent-Klassifikation
Die Erkennung unbekannter Nutzerabsichten ist ein zentrales Problem moderner Dialogsysteme. Ein neues Verfahren namens EliDecide nutzt dafür ellipsoidale Entscheidungsgrenzen, die sich an die unterschiedliche Streuung der Daten in verschiedenen Merkmalrichtungen anpassen. Dadurch werden die Grenzen flexibler als die bisher üblichen Kugeln und können die Verteilung der bekannten Klassen besser abbilden.
Der Ansatz beginnt mit einem überwachten kontrastiven Lernschritt, um einen diskriminativen Merkmalsraum für bekannte Intents zu erzeugen. Anschließend werden lernbare Matrizen eingesetzt, um für jede Klasse einen Ellipsoid zu parametrisieren. Diese Ellipsoide ersetzen die einfachen Kugeln, die nur aus Mittelpunkt und Radius bestehen, und ermöglichen eine feinere Anpassung an die Datenstruktur.
Zur Optimierung der Grenzen wird ein neu entwickelter Dual-Loss-Mechanismus verwendet, der empirische und offene Raumrisiken ausbalanciert. Dabei werden die Ellipsoide so vergrößert, dass sie alle bekannten Proben einschließen, aber gleichzeitig gegen synthetisch erzeugte Pseudo-Open-Proben verkleinert. Das Ergebnis ist eine deutlich verbesserte Leistung bei mehreren Text-Intent-Benchmarks sowie bei einer Frageklassifikationsdatenbank.
Die Flexibilität der ellipsoidalen Grenzen zeigt ein starkes Potenzial für die Generalisierung auf weitere Textklassifikationsaufgaben in komplexen Open-World-Szenarien. EliDecide stellt damit einen bedeutenden Fortschritt in der robusten Erkennung unbekannter Intents dar.