LLM-Feature Engineering: Mensch-LLM-Kollaboration verbessert Tabellendaten

In der Welt der tabellarischen Datenanalyse setzen immer mehr Forscher auf große Sprachmodelle (LLMs), um Feature‑Engineering zu automatisieren. Diese Modelle können anhand von Aufgaben‑spezifischen Informationen vielfältige Transformationen vorschlagen, die die Leistung nachgelagerter Modelle steigern. Doch bisher werden LLMs häufig als schwarze Box eingesetzt: Sie schlagen nicht nur Operationen vor, sondern wählen sie auch allein anhand ihrer internen Heuristiken aus. Diese Vorgehensweise führt oft zu wiederholten Tests von wenig nützlichen Operationen, weil die Modelle keine verlässlichen Schätzungen ihrer Wirksamkeit liefern.

Das neue Paper präsentiert einen kollaborativen Ansatz, bei dem die Rollen von Vorschlag und Auswahl strikt getrennt werden. LLMs dienen ausschließlich der Generierung von Kandidatenoperationen, während die Auswahl durch ein explizites Modell für Nutzen und Unsicherheit gesteuert wird. Da genaue Nutzenabschätzungen besonders in frühen Phasen schwierig sind, wird zusätzlich ein Mechanismus eingeführt, der gezielt menschliches Expertenfeedback einholt. Durch den Vergleich von Operationen, die als vielversprechender eingeschätzt werden, wird die Auswahl verfeinert und die Suche nach effektiven Features beschleunigt.

Experimentelle Studien – sowohl synthetische als auch reale Anwendertests – zeigen, dass dieser Ansatz die Feature‑Engineering‑Leistung über verschiedene tabellarische Datensätze hinweg deutlich verbessert. Gleichzeitig reduziert er die kognitive Belastung der Anwender, weil weniger Zeit mit der Bewertung von wenig hilfreichen Transformationen verbracht wird. Der Mensch-LLM-Workflow stellt damit einen wichtigen Schritt dar, um die Potenziale von Sprachmodellen im praktischen Datenengineering voll auszuschöpfen.