Make LLM Fine-tuning 2x faster with Unsloth and 🤗 TRL

Hugging Face 宣布 TRL 整合 Unsloth，讓 Llama 與 Mistral 等開源模型微調速度翻倍並節省 60% 記憶體。

Hugging Face 宣布旗下 TRL（Transformer Reinforcement Learning）微調工具包正式整合 Unsloth。開發者現在只需修改幾行程式碼，即可在進行監督式微調（SFT）時獲得 2 倍以上的訓練速度提升，並減少高達 60% 的 VRAM 記憶體消耗。此整合支援 Llama-2、Mistral 等主流開源模型，且完全不損害模型精度。

摘要由 AI 整理,以原文為準。