Neues RL-Verfahren ermöglicht LLMs, sich selbst zu verbessern
In einer kürzlich veröffentlichten Studie auf arXiv wird ein innovatives Reinforcement‑Learning‑Verfahren namens Exploratory Iteration (ExIt) vorgestellt, das große Sprachmodelle (LLMs) dazu befähigt, sich während der Inferenz selbst zu optimieren. Statt einer festen, oft unnötig hohen Iterationsgrenze nutzt ExIt die wiederkehrende Struktur von Selbstverbesserungsaufgaben, um LLMs gezielt auf die wichtigsten Einzelschritte zu trainieren.