Welcome Llama 3 - Meta's new open LLM★ 95
Hugging Face Blog775d agoReleaseMeta 正式推出全新一代開源大型語言模型 Llama 3，首波釋出 8B 與 70B 兩種參數版本。此版本採用 128k 詞彙量的新分詞器、支援 8K 上下文長度，並在超過 15 兆 Token 的超大資料集上進行訓練，程式碼與推理能力皆有飛躍性提升。Hugging Face 生態系已在第一時間全面整合，支援 Llama 3 的部署、微調與推論，為開源 AI 社群注入強大動力。
Ryght’s Journey to Empower Healthcare and Life Sciences with Expert Support from Hugging Face
Hugging Face Blog777d agoBusiness生醫 AI 平台 Ryght 宣布與 Hugging Face 專家支援團隊合作。面對醫療領域嚴格的 HIPAA 合規性、複雜的醫學術語與高昂的模型微調成本，Ryght 透過 Hugging Face 的技術指導，優化了開源模型的微調與推理效率。此合作成功讓 Ryght 快速推出專為臨床研究與數據分析設計的安全 AI 助理，大幅降低運算成本並縮短產品上市時間。
Introducing Idefics2: A Powerful 8B Vision-Language Model for the community★ 80
Hugging Face Blog778d agoReleaseHugging Face 正式發布 Idefics2，這是一款擁有 80 億參數的開源視覺語言模型（VLM）。它基於 Mistral-7B 與 SigLIP 構建，顯著提升了 OCR、圖表理解及多圖對話能力。Idefics2 支援原生解析度與長寬比，並以 Apache 2.0 授權釋出，極適合開發者進行微調與商業部署。
GaLore: Advancing Large Model Training on Consumer-grade Hardware★ 85
Hugging Face Blog804d agoReleaseHugging Face 介紹了 GaLore（梯度低秩投影）技術，這是一種新型的記憶體優化訓練方法。與 LoRA 不同，GaLore 透過將梯度投影到低秩空間，大幅減少了優化器狀態的記憶體佔用。這使得開發者可以直接在單張 24GB 記憶體的消費級顯卡（如 RTX 4090）上，進行 7B 模型的全參數微調甚至從頭預訓練。
Easily Train Models with H100 GPUs on NVIDIA DGX Cloud★ 75
Hugging Face Blog806d agoReleaseHugging Face 宣布與 NVIDIA 深度整合，將 DGX Cloud 的強大算力直接引入平台。開發者現在可以輕鬆調用 NVIDIA H100 GPU 來訓練與微調大型語言模型，無需自行管理複雜的底層基礎設施。這項合作大幅降低了獲取頂級 AI 算力的門檻，加速了企業與研究人員的模型開發流程。
Fine-Tuning Gemma Models in Hugging Face★ 80
Hugging Face Blog830d agoTutorial本指南介紹如何在 Hugging Face 生態系中微調 Google 的 Gemma 開源模型（2B 與 7B）。文章詳細說明了如何利用 PEFT（參數高效微調）技術，特別是 QLoRA（4-bit 量化微調），在消費級 GPU 上進行訓練。透過結合 transformers、peft 與 trl（SFTTrainer）等套件，開發者可以輕鬆載入模型、設定 LoRA 參數、格式化數據集，並將微調後的權重上傳至 Hugging Face Hub，是實作 Gemma 微調的必讀教學。
Welcome Gemma - Google’s new open LLM★ 85
Hugging Face Blog832d agoReleaseGoogle 正式推出全新開源模型家族 Gemma，包含 2B 與 7B 兩種參數大小，並提供預訓練與指令微調版本。 Gemma 採用與 Gemini 相同的技術與架構，在多項基準測試中表現優於同尺寸的 Llama 2 與 Mistral。 Hugging Face 已同步支援 Gemma，開發者可直接透過 Transformers、TGI、PEFT 等工具進行部署與微調。
Fine-Tune W2V2-Bert for low-resource ASR with 🤗 Transformers★ 75
Hugging Face Blog865d agoTutorialHugging Face 發布技術指南，詳細說明如何利用 W2V2-BERT 進行低資源語言的自動語音辨識（ASR）微調。W2V2-BERT 結合了 Wav2Vec 2.0 與 BERT 的優勢，特別適合訓練樣本稀缺的語言。本教學涵蓋了從數據準備、特徵提取、CTC 模型配置到使用 Trainer API 進行訓練與評估的完整實作流程。
Preference Tuning LLMs with Direct Preference Optimization Methods★ 80
Hugging Face Blog866d agoTutorial本指南介紹了如何利用 Hugging Face 的 TRL 函式庫進行 LLM 的偏好微調。傳統的 RLHF 需要訓練獎勵模型並使用複雜的 PPO 演算法，而 DPO（直接偏好最佳化）及其變體（IPO、KTO）能直接在偏好數據上進行訓練，大幅簡化了對齊流程。文章詳細說明了這些方法的原理、數據格式要求以及實際程式碼實作。
Make LLM Fine-tuning 2x faster with Unsloth and 🤗 TRL★ 80
Hugging Face Blog874d agoReleaseHugging Face 宣布旗下 TRL（Transformer Reinforcement Learning）微調工具包正式整合 Unsloth。開發者現在只需修改幾行程式碼，即可在進行監督式微調（SFT）時獲得 2 倍以上的訓練速度提升，並減少高達 60% 的 VRAM 記憶體消耗。此整合支援 Llama-2、Mistral 等主流開源模型，且完全不損害模型精度。
LoRA training scripts of the world, unite!★ 75
Hugging Face Blog882d agoNew ToolHugging Face 於 Diffusers 推出全新的 SDXL LoRA 進階訓練腳本，旨在整合開源社群（如 Kohya）的各種訓練技巧。該腳本支援雙文字編碼器微調、Offset Noise、Min-SNR 權重及多解析度訓練，讓開發者與創作者能以更標準、高效的方式訓練出高品質的 SDXL LoRA 模型。
Clone your voice using open-source models★ 75
Replicate Blog909d agoReleaseReplicate 宣布支援 RVC（Retrieval-based Voice Conversion）的微調功能，讓開發者與創作者能輕鬆複製聲音。使用者只需提供 YouTube 影片等音訊來源，透過 Replicate 的 API 撰寫幾行程式碼，即可自動轉換為訓練數據集並開始微調。這項更新降低了高品質開源聲音複製的門檻，適合應用於遊戲配音、虛擬主播及個人化語音生成。
Comparing the Performance of LLMs: A Deep Dive into Roberta, Llama 2, and Mistral for Disaster Tweets Analysis with Lora★ 75
Hugging Face Blog938d agoTutorialHugging Face 釋出技術指南，比較 RoBERTa、Llama 2 與 Mistral 7B 在「災難推特分類」任務上的表現。 透過 LoRA（低秩適應）技術，詳細分析了傳統編碼器模型與現代生成式大模型在分類精準度、訓練時間與硬體資源（VRAM）上的折衷。 結果顯示，雖然 7B 模型具備強大理解力，但較小的 RoBERTa 在特定分類任務上依然展現出極高的成本效益與競爭力。
Personal Copilot: Train Your Own Coding Assistant★ 75
Hugging Face Blog949d agoTutorialHugging Face 發布實用教學，指導開發者如何利用開源程式碼模型（如 StarCoder）微調出專屬的 Personal Copilot。透過 peft 的 LoRA 技術與 trl 庫，開發者可以用極低的硬體成本，在個人程式碼庫上進行微調。最後，教學展示了如何將微調後的模型部署至 Inference Endpoints，並無縫整合進 VS Code 編輯器中。
The N Implementation Details of RLHF with PPO★ 85
Hugging Face Blog952d agoTutorial本文源自 Hugging Face 團隊對 RLHF（基於人類反饋的強化學習）中 PPO 演算法的深入研究。文章指出，PPO 在大語言模型對齊上的成功，高度依賴於許多「隱藏的實作細節」，如 KL 懲罰、優勢歸一化、價值函數裁剪等。透過系統性地剖析這些細節，Hugging Face 旨在幫助開發者克服 RLHF 訓練極度不穩定的痛點，並將這些優化完全整合至其開源庫 TRL 中，為開源社群提供可重現的對齊指南。
Fine-tune MusicGen to generate music in any style
Replicate Blog963d agoNew ToolAI 雲端運行平台 Replicate 宣布支援 Meta MusicGen 音樂生成模型的微調（Fine-tuning）功能。使用者現在可以使用自己的音訊檔案，在 Replicate 上訓練 MusicGen 的 small、medium 和 melody 版本，藉此生成特定風格或旋律的音樂，為音樂創作者與開發者提供高度客製化的音訊生成方案。
Finetune Stable Diffusion Models with DDPO via TRL★ 75
Hugging Face Blog977d agoReleaseHugging Face 宣布在其 TRL（Transformer Reinforcement Learning）庫中支援 DDPO（去噪擴散策略優化）演算法。這項更新允許開發者與研究人員使用強化學習（RL）來微調 Stable Diffusion 等擴散模型。透過自訂的獎勵函數（如美學評分或提示詞對齊度），DDPO 能有效引導模型生成更符合特定目標的圖像，解決了傳統監督式微調難以優化複雜指標的痛點。
Non-engineers guide: Train a LLaMA 2 chatbot
Hugging Face Blog978d agoTutorial本指南專為非工程師設計，介紹如何使用 Hugging Face AutoTrain 無程式碼平台微調 Meta 的 LLaMA 2 模型。讀者只需準備好對話資料集並上傳，即可在雲端自動完成訓練，並能一鍵部署至 Hugging Face Spaces 進行測試。這極大地降低了客製化 AI 的門檻，適合創作者與中小企業快速上手。
Fine-tuning Llama 2 70B using PyTorch FSDP★ 72
Hugging Face Blog993d agoTutorial微調 Llama 2 70B 等超大型模型時，開發者常因多進程重複載入模型而面臨 CPU 記憶體崩潰（OOM）的困境。本文介紹如何結合 PyTorch FSDP（完全分片數據並行）與 Hugging Face Accelerate 的延遲初始化與分片載入技術，在有限的硬體資源下實現記憶體高效的微調流程，大幅降低大模型訓練的門檻。
SafeCoder vs. Closed-source Code Assistants★ 70
Hugging Face Blog995d agoReleaseHugging Face 推出針對企業設計的 SafeCoder 程式碼助手，旨在解決使用 GitHub Copilot 等閉源工具時的隱私與智慧財產權疑慮。SafeCoder 基於開源的 StarCoder 模型，支援在企業內部的 VPC 或地端環境部署，並允許企業使用私有程式碼進行微調。這項方案不僅確保程式碼不外流，還能提供高度客製化的開發輔助體驗。
Fine-tuned models now boot in less than one second★ 75
Replicate Blog1000d agoReleaseReplicate 宣布對微調模型的「冷啟動（Cold Boot）」進行重大改進。過去部署微調模型需要數分鐘來啟動新容器，現在透過共享基礎模型並動態載入輕量化的 LoRA 權重，冷啟動時間已縮短至一秒以內。這大幅降低了開發者在使用客製化模型時的延遲與成本。
Introducing SafeCoder★ 75
Hugging Face Blog1015d agoReleaseHugging Face 宣布推出 SafeCoder，這是一套專為企業打造的程式碼寫作助手解決方案。SafeCoder 主打高度隱私與合規性，允許企業在自有的 VPC 或本地環境中部署，並能使用私有程式碼庫進行微調。該方案基於開源的 StarCoder 模型，旨在為企業提供一個可完全掌控、安全且不洩漏敏感資料的 GitHub Copilot 替代方案。
Fine-tune SDXL with your own images
Replicate Blog1029d agoNew ToolAI 雲端託管平台 Replicate 宣布為 SDXL 1.0 推出微調（Fine-tuning）功能，支援 Dreambooth、Textual Inversion 和 LoRA 等技術。開發者與創作者現在可以透過 Replicate API，僅需一行程式碼就能上傳自己的圖片並訓練出客製化的 SDXL 模型，大幅降低了客製化圖像生成模型的技術門檻與算力維護成本。
Fine-tune Llama 2 with DPO★ 80
Hugging Face Blog1029d agoTutorialHugging Face 釋出實用教學，介紹如何利用 TRL（Transformer Reinforcement Learning）庫中的 DPOTrainer，以「直接偏好優化（DPO）」技術微調 Llama 2。DPO 是一種替代傳統 RLHF 的新穎方法，它不需要訓練獨立的獎勵模型，也不需要複雜的 PPO 強化學習階段，僅需透過人類偏好數據（滿意與不滿意的回答對）即可直接優化模型，大幅降低了對齊（Alignment）的門檻與運算資源。
Fine-tune Llama 2 on Replicate
Replicate Blog1048d agoTutorialReplicate 宣布支援 Llama 2（包含 7B、13B 與 70B）的微調服務。開發者只需準備 JSONL 格式的訓練資料，即可透過 Replicate API 在 A100 GPU 上進行高效訓練。微調完成後，模型會自動部署為私有的 API 端點，方便直接整合至應用程式中，大幅降低了開源大模型微調與部署的門檻。
Llama 2 is here - get it on Hugging Face★ 95
Hugging Face Blog1050d agoReleaseMeta 正式發布開源大型語言模型 Llama 2，包含 7B、13B 和 70B 三種參數規模，並允許商用。Hugging Face 與 Meta 深度合作，第一時間在 Hub 上架所有 Llama 2 模型，並全面支援 Transformers、TGI、PEFT 等工具。開發者可以直接在 Hugging Face 平台上進行 Llama 2 的推論、微調（Fine-tuning）與部署，並透過 Spaces 體驗 Chat 版本。
Open-Source Text Generation & LLM Ecosystem at Hugging Face★ 85
Hugging Face Blog1051d agoRelease本文系統性介紹 Hugging Face 的開源 LLM 生態系。核心組件包括用於模型載入與推理的 Transformers、實現高效微調的 PEFT、專為高並發部署設計的 Text Generation Inference (TGI)，以及支援對齊演算法（如 SFT、DPO）的 TRL。透過這些工具的協同效應，開發者可以低成本、高效地完成從模型選型、微調到生產線部署的全流程。
Fine-tuning Stable Diffusion models on Intel CPUs
Hugging Face Blog1054d agoTutorialHugging Face 介紹了如何在 Intel CPU 上微調 Stable Diffusion。透過 Intel Extension for PyTorch (IPEX) 與 Optimum Intel 庫，開發者可利用第四代 Xeon 處理器的 AMX 技術進行 BF16 混合精度訓練。這為缺乏 GPU 資源或想利用現有 CPU 伺服器的團隊，提供了一個高性價比的微調方案。
Accelerating Vision-Language Models: BridgeTower on Habana Gaudi2
Hugging Face Blog1069d agoTutorial本技術文章介紹如何將視覺語言模型 BridgeTower 部署於 Intel 的 Habana Gaudi2 晶片上。透過 Hugging Face 的 optimum-habana 整合套件，開發者只需修改極少代碼，即可在 Gaudi2 上實現高效能的跨模態模型訓練與推理。相較於傳統 GPU，Gaudi2 在處理此類複雜的多模態任務時展現出極佳的性價比與加速表現。
Fine-Tune MMS Adapter Models for low-resource ASR★ 70
Hugging Face Blog1079d agoTutorialMeta 的 MMS（大規模多語言語音）模型支援超千種語言。Hugging Face 官方部落格詳細教學如何透過「轉接器（Adapter）」技術，在凍結基礎模型的前提下僅微調極少參數。這項技術非常適合預算有限、缺乏運算資源或資料量極少的「低資源語言」語音辨識（ASR）任務，能大幅降低訓練成本並避免過擬合。