KI News: Kurz und klar.

Randomisierung ist ein zentrales Instrument in Experimenten, weil sie die Verteilung von Störfaktoren zwischen Behandlungsgruppen ausgleicht. In der Praxis kann es jedoch vorkommen, dass die Balance nicht perfekt erreicht wird, etwa bei kleinen Stichproben oder unvorhergesehenen Verzerrungen.

Eine aktuelle Untersuchung auf arXiv präsentiert einen innovativen Ansatz, bei dem Offline‑Reinforcement‑Learning‑Algorithmen als Subroutinen in rein online Lernprozesse integriert werden. Durch die Nutzung historischer Interaktionen eines Agenten als Offline‑Datensatz wird die Kombination von Offline‑ und Online‑Lernen möglich.

Der Beitrag untersucht die weit verbreitete Annahme, dass mehr Daten automatisch zu besseren Modellergebnissen führen. Durch gezielte Experimente mit unterschiedlichen Stichprobengrößen, Attributmengen und Modellkomplexitäten wird gezeigt, dass die Beziehung nicht immer linear verläuft und dass zusätzliche Daten manchmal sogar die Leistung verschlechtern können.

Reuters und Harvard haben ein wegweisendes Experiment durchgeführt, um die Gefährdung durch KI-generierte Phishing-Mails zu untersuchen. Dabei wurden populäre Chatbots wie Grok, ChatGPT und DeepSeek mit einem einfachen Prompt beauftragt, die „perfekte“ Phishing-E-Mail zu erstellen.

OpenAI hat die Funktion „Chat öffentlich machen“ aus ChatGPT entfernt, nachdem sich herausstellte, dass zahlreiche Nutzer versehentlich private Unterhaltungen für Suchmaschinen wie Google freigegeben hatten. Die Entscheidung wurde von Dane Stuckey, dem CISO von OpenAI, in einem Tweet bekanntgegeben, in dem er betonte, dass die Option zu vielen unbeabsichtigten Freigaben geführt habe.