ML-DCN: Neues Low‑Rank-Netzwerk verbessert Klickratevorhersage bei Pinterest

In der Welt der Empfehlungssysteme spielt die Interaktion zwischen Features eine zentrale Rolle. Besonders bei der Auswertung von Anzeigen in großen Online‑Plattformen ist es entscheidend, komplexe Nutzer‑Item‑Beziehungen zwischen spärlichen Kategoriefeldern und dichten numerischen Merkmalen präzise zu modellieren.

Bei Pinterest wurde ein Spannungsfeld zwischen Modellkapazität und Produktionsanforderungen identifiziert: Mehr Rechenleistung kann die Vorhersagegenauigkeit steigern, doch gleichzeitig sind Latenz und FLOPs (Floating‑Point Operations) streng begrenzt. Die Autoren untersuchten, wie sich gängige Interaktionsmodule – DCNv2 und MaskNet – unter einem festen Serving‑Budget skalieren lassen. Dabei zeigte sich, dass eine bloße Erhöhung der Modellgröße zu schnell abnehmenden Offline‑Gewinnen führt.

Um diese Einschränkungen zu überwinden, stellen die Forscher ML‑DCN vor. Das neue Modul kombiniert einen instanzbasierten Maskenmechanismus mit einer Low‑Rank‑Crossing‑Schicht. Dadurch kann jedes Beispiel gezielt die wichtigsten Interaktionsrichtungen auswählen und verstärken, während die Berechnung weiterhin effizient bleibt. ML‑DCN vereint die Vorteile von DCNv2 und MaskNet und skaliert mit wachsendem Rechenbudget ohne Leistungseinbußen.

Experimentelle Ergebnisse auf einem umfangreichen internen Pinterest‑Ads‑Datensatz zeigen, dass ML‑DCN bei gleichem FLOP‑Budget eine höhere AUC erzielt als DCNv2, MaskNet und andere skalierungsorientierte Alternativen. Der AUC‑FLOP‑Trade‑off verbessert sich zudem deutlich, was bedeutet, dass mehr Genauigkeit bei gleicher Rechenlast erreicht wird. Online‑A/B‑Tests bestätigten die Leistungssteigerung in der Praxis, was ML‑DCN zu einer vielversprechenden Lösung für die Skalierung von Klickratevorhersagen macht.