Hi‑ZFO: Hierarchisches Zeroth‑ und First‑Order Fine‑Tuning für LLMs
Ein brandneues Verfahren namens Hi‑ZFO (Hierarchical Zeroth‑ and First‑Order) wurde vorgestellt, das die Stärken von Gradienten‑ und nicht‑gradientenbasierten Optimierungen für das Feintuning großer Sprachmodelle kombin…