Shipping a Trillion Parameters With a Hub Bucket: Delta Weight Sync in TRL
Hugging Face Blog6d agoTutorialBased on the title, this Hugging Face Blog post focuses on Delta Weight Sync in TRL. It likely discusses moving or synchronizing weight differences at very large model scale using a Hub bucket-related workflow. Without the full article, implementation details, benchmarks, APIs, and stability claims cannot be confirmed.
20x Faster TRL Fine-tuning with RapidFire AI★ 80
Hugging Face Blog193d agoReleaseHugging Face 宣布與 RapidFire AI 合作，在 TRL（Transformer Reinforcement Learning）庫中實現高達 20 倍的微調加速。TRL 是用於 LLM 對齊（如 DPO、PPO）的核心工具，此次整合透過最佳化訓練流程與算子，顯著降低了強化學習微調的時間與算力成本，讓開發者能更高效地進行模型對齊。
No GPU left behind: Unlocking Efficiency with Co-located vLLM in TRL★ 85
Hugging Face Blog364d agoReleaseHugging Face 的 TRL 團隊推出與 vLLM 協同部署（Co-located）的新功能。在進行線上強化學習（如 PPO、GRPO）訓練時，生成階段常是效能瓶頸。透過在相同 GPU 上同時運行訓練與 vLLM 推理引擎，此技術能無縫共享權重並利用 vLLM 的高效生成能力，顯著提升 GPU 利用率並縮短整體訓練時間。
Putting RL back in RLHF★ 80
Hugging Face Blog720d agoRelease近年 DPO 等直接對齊方法因免去強化學習（RL）的複雜度而大受歡迎，但線上 RL 仍有其獨特優勢。Hugging Face 發表部落格介紹在 TRL 庫中實現的 RLOO（REINFORCE Leave-One-Out）演算法。RLOO 透過生成多個樣本並計算「留一法」基準值來降低變異數，不僅免去了 PPO 龐大的 Critic 網路、節省顯存，還能達到與 PPO 相當甚至更好的對齊效果，讓線上 RL 重新成為實用選擇。
Preference Tuning LLMs with Direct Preference Optimization Methods★ 80
Hugging Face Blog866d agoTutorial本指南介紹了如何利用 Hugging Face 的 TRL 函式庫進行 LLM 的偏好微調。傳統的 RLHF 需要訓練獎勵模型並使用複雜的 PPO 演算法，而 DPO（直接偏好最佳化）及其變體（IPO、KTO）能直接在偏好數據上進行訓練，大幅簡化了對齊流程。文章詳細說明了這些方法的原理、數據格式要求以及實際程式碼實作。