KI‑Chatbots: Neue Methoden für verdeckte Werbung und deren Erkennung

Eine kürzlich veröffentlichte Studie aus dem arXiv‑Repository präsentiert einen umfassenden Ansatz, um heimlich platzierte Werbeinhalte in KI‑generierten Gesprächen zu erzeugen und gleichzeitig zuverlässig zu erkennen. Der Ansatz nutzt den Kontext des Nutzers und die Intention der Anfrage, um gezielt und dennoch unauffällig Werbebotschaften zu formulieren. Durch gezielte Prompt‑Strategien und ein speziell kuratiertes Trainingsset wird ein großes Sprachmodell feinjustiert, sodass die Werbung möglichst unauffällig bleibt.

Zur Erkennung der versteckten Werbung wurden zwei effektive Techniken entwickelt. Erstens ein feinjustierter CrossEncoder, der direkt klassifiziert, ob ein Text Werbeinhalte enthält. Zweitens ein Prompt‑basiertes Verfahren, das ein feinjustiertes DeBERTa‑Modell nutzt, um die Texte neu zu formulieren und dadurch die Werbung aufzudecken. Beide Methoden arbeiten ausschließlich mit dem Antworttext, was sie für den Einsatz in realen Systemen besonders praktikabel macht.

Die experimentellen Ergebnisse sind beeindruckend: Für die Generierung von Werbung erreicht das System eine Präzision von 1,0 und einen Recall von 0,71. Bei der Erkennung liegen die F1‑Scores zwischen 0,99 und 1,00. Diese Zahlen zeigen, dass die vorgestellten Techniken sowohl die persuasive Wirkung von Werbung als auch die Transparenz in der KI‑Kommunikation erfolgreich ausbalancieren können.