Welcoming Llama Guard 4 on Hugging Face Hub★ 75
Hugging Face Blog399d agoReleaseMeta 推出的最新一代安全防護模型 Llama Guard 4 已正式登陸 Hugging Face Hub。該模型專為 LLM 輸入與輸出審查設計，能有效偵測有害內容、越獄攻擊與敏感資訊。開發者現在可以透過 Hugging Face 輕鬆部署、微調並整合此模型，為 AI 應用構建更安全的防護網。
Introducing HELMET: Holistically Evaluating Long-context Language Models★ 80
Hugging Face Blog412d agoReleaseHugging Face 介紹了由普林斯頓大學等機構提出的 HELMET 基準測試，旨在解決現有長文本評估（如 Needle In A Haystack）過於單一的問題。HELMET 包含 7 大類、11 個真實應用數據集，涵蓋長文本問答、摘要、資訊檢索與程式碼生成等。測試結果顯示，許多宣稱擁有超長上下文的模型，在實際複雜任務中的有效性能會隨著長度增加而顯著衰退。
Welcome Llama 4 Maverick & Scout on Hugging Face★ 95
Hugging Face Blog423d agoReleaseMeta 正式於 Hugging Face 平台上架了備受矚目的 Llama 4 家族首批模型：Maverick 與 Scout。這標誌著開源大語言模型正式邁入 Llama 4 時代。雖然詳細技術細節仍待官方完整白皮書披露，但從命名來看，Scout 預期為輕量、高效率的「偵察型」模型，適合邊緣運算與 Agent 任務；而 Maverick 則可能是主打強大推理與複雜任務處理的「王牌」模型。這兩款模型的釋出將為開源社群注入全新動力。
The NLP Course is becoming the LLM Course★ 85
Hugging Face Blog425d agoTutorialHugging Face 宣布將其廣受歡迎的經典「NLP 課程（NLP Course）」正式轉型並升級為「LLM 課程（LLM Course）」。這項轉變反映了 AI 領域從傳統 NLP（如 BERT、分類與命名實體識別）向大語言模型（如 Llama、生成式 AI、RAG 與 Agent）的典範轉移。新課程將全面更新，涵蓋現代 LLM 架構、微調（PEFT/LoRA）、對齊（RLHF/DPO）及應用開發，繼續提供免費且高品質的開源學習資源。
🚀 Accelerating LLM Inference with TGI on Intel Gaudi★ 75
Hugging Face Blog431d agoReleaseHugging Face 宣布其文字生成推理（TGI）框架現已整合 Intel Gaudi 加速器後端。這項合作讓開發者能直接在 Intel Gaudi 2 和 Gaudi 3 晶片上部署高效能 LLM，並享有連續批處理（Continuous Batching）與張量並行（Tensor Parallelism）等優化技術。此舉為企業在 NVIDIA 之外，提供了一個極具成本效益且易於部署的 AI 推理硬體新選擇。
Open R1: Update #4★ 85
Hugging Face Blog433d agoReleaseHugging Face 釋出 Open R1 專案的第四次技術更新。本階段重點在於提升 TRL 框架中 GRPO（群體相對策略最佳化）的訓練效率與記憶體最佳化，並釋出針對數學與程式碼推理的全新合成資料集。團隊分享了在 Qwen 與 Llama 模型上進行強化學習（RL）訓練的最新評測結果，為開源社群複製 DeepSeek-R1 的推理能力提供更完整的實踐指南。
Open R1: Update #3★ 85
Hugging Face Blog448d agoReleaseHugging Face 發表開源推理模型專案 Open R1 的第三次技術更新。本次更新重點在於釋出基於 Qwen/Llama 的全新推理模型，並詳細公開了使用 TRL 進行 GRPO（群體相對策略優化）的訓練細節。團隊成功解決了訓練中的「獎勵黑客」問題，並開源了完整的訓練數據集與配方，顯著降低了社群重現 DeepSeek-R1 推理能力的門檻。
Open R1: Update #2★ 85
Hugging Face Blog477d agoReleaseHugging Face 釋出 Open R1 專案的第二份進度報告。團隊分享了使用 TRL 庫中的 GRPO 演算法在 Llama-8B 與 Qwen-32B 上進行強化學習（RL）訓練的實戰經驗，成功重現了「頓悟時刻」與推理鏈。本次更新也詳細探討了格式控制、訓練穩定性及在 MATH、AIME 等基準測試上的最新評估數據。
Open-R1: Update #1★ 85
Hugging Face Blog485d agoReleaseHugging Face 發表 Open-R1 專案的第一階段更新，旨在完全開源重現 DeepSeek-R1。團隊目前專注於利用 TRL 庫中的 GRPO 演算法進行強化學習訓練，並已釋出初步的訓練配方、資料集與評估結果。報告中也探討了推理模型訓練中常見的「獎勵作弊（Reward Hacking）」與格式控制等技術挑戰。
Open-R1: a fully open reproduction of DeepSeek-R1★ 90
Hugging Face Blog490d agoReleaseHugging Face 宣布啟動 Open-R1 專案，目標是完全重現 DeepSeek-R1 的推理能力。該專案將開源所有訓練配方、資料集與模型權重，並利用 TRL 框架中的 GRPO 演算法進行強化學習。這項計畫將降低開發者構建高效推理模型的門檻，推動開源 AI 社群的推理模型民主化。
Welcome to Inference Providers on the Hub 🔥★ 85
Hugging Face Blog490d agoReleaseHugging Face 宣佈在 Hub 上整合「Inference Providers」功能。開發者現在可以直接在模型頁面或透過 SDK，自由選擇 Groq、Together AI、Fireworks AI 等第三方推理服務商來運行開源模型。這項更新簡化了 API 調用流程，讓用戶能根據速度、成本與延遲，彈性切換最適合的後端算力，無需自行維護基礎設施。
We now support VLMs in smolagents!★ 80
Hugging Face Blog494d agoReleaseHugging Face 旗下的輕量級 Agent 開源庫 smolagents 迎來重大更新，正式支援視覺語言模型（VLM）。開發者現在可以讓 Agent 接收並處理影像輸入，適用於網頁視覺導航、圖表分析及多模態任務。此更新大幅擴展了程式碼 Agent（Code Agent）的應用場景，使其能「看見」並理解真實世界的視覺資訊。
Benchmarking Language Model Performance on 5th Gen Xeon at GCP
Hugging Face Blog532d agoCommentaryHugging Face 發布在 Google Cloud Platform (GCP) 全新 C4 執行個體上運行語言模型的效能評測。C4 搭載第五代 Intel Xeon 可擴充處理器，內建 Intel AMX 加速技術。測試顯示，透過 Optimum Intel 與 IPEX 優化，CPU 在中小型開源模型（如 Llama 3）的推論上展現出極佳的延遲表現與高性價比，為 GPU 短缺或預算有限的企業提供強大的替代方案。
Introducing the Synthetic Data Generator - Build Datasets with Natural Language★ 82
Hugging Face Blog533d agoNew ToolHugging Face 發表「Synthetic Data Generator」工具，旨在降低 AI 模型訓練資料集的構建門檻。用戶只需用自然語言描述需求，系統便會利用 distilabel 框架與開源大模型（如 Llama 3.1）自動生成高品質的指令微調（SFT）或偏好對齊（DPO）資料集。生成的資料可直接上傳至 Hugging Face Hub，並支援匯出至 Argilla 進行人工標註與微調。
How good are LLMs at fixing their mistakes? A chatbot arena experiment with Keras and TPUs★ 75
Hugging Face Blog544d agoCommentary本文介紹了 Hugging Face、Keras 與 Google TPU 團隊合作的最新實驗，旨在評估大語言模型（LLM）在被指出錯誤後的「自我糾錯」能力。實驗採用類似 Chatbot Arena 的雙盲測試，利用 Keras 的多後端優勢與 TPU 的強大算力，測試多款開源模型。結果顯示，多數模型在沒有外部具體反饋的情況下，自我糾錯能力仍有極大提升空間。
Rethinking LLM Evaluation with 3C3H: AraGen Benchmark and Leaderboard
Hugging Face Blog545d agoReleaseHugging Face 宣布推出針對阿拉伯語大語言模型（LLM）的全新評估基準「AraGen」及其排行榜。該基準採用創新的「3C3H」評估框架，從文化（Culture）、語境（Context）、能力（Capability）以及實用（Helpfulness）、誠實（Honesty）、無害（Harmlessness）六大維度進行評估。此舉旨在解決過去阿拉伯語評估過度依賴英文翻譯數據集、忽略在地文化與語言特性的問題，為多語言 AI 評估樹立新標竿。
You could have designed state of the art positional encoding★ 75
Hugging Face Blog554d agoTutorialHugging Face 釋出深度科普文章，帶領讀者從零開始設計 Transformer 的位置編碼。文章從傳統絕對位置編碼（APE）的缺陷出發，指出其無法應對長文本外推的痛點，進而引入相對位置編碼（RPE）的概念。最終，透過簡單的複數與 2D 旋轉矩陣，一步步推導出當前主流大模型（如 Llama、Mistral）標配的 RoPE（旋轉位置編碼），證明這項最先進技術其實符合直覺且人人都能推導出來。
Letting Large Models Debate: The First Multilingual LLM Debate Competition★ 75
Hugging Face Blog559d agoRelease本文介紹了首屆多語言大型語言模型（LLM）辯論賽。傳統的靜態評估方法（如多選題）已難以衡量模型的深層推理與說服力，因此研究人員設計了讓模型針對特定議題進行多輪多語言辯論的機制。透過這種動態對抗，不僅能更精準地評估模型在非英語環境下的邏輯一致性，也為 LLM 的安全性和對齊（Alignment）提供了全新的評估維度。
Faster Text Generation with Self-Speculative Decoding★ 78
Hugging Face Blog559d agoReleaseHugging Face 介紹了 Meta 的 LayerSkip 技術，該技術透過「自投機解碼（Self-Speculative Decoding）」來加速 LLM 推理。傳統投機解碼需要額外的草稿模型，而 LayerSkip 讓單一模型在推理時自我預測與驗證。透過在訓練時加入層丟棄與早期退出損失，模型能用前幾層快速生成草稿，再由完整模型驗證，顯著降低記憶體佔用並提升速度。
Judge Arena: Benchmarking LLMs as Evaluators★ 80
Hugging Face Blog560d agoReleaseHugging Face 與 AI 評估新創公司 Atla 合作推出「Judge Arena」基準測試。該項目旨在解決「LLM 作為裁判（LLM-as-a-judge）」時常見的偏見與失真問題，透過與人類專家評分進行對齊，系統化評估各家大模型在擔任裁判時的表現，為 AI 評估自動化提供更具公信力的參考標準。
Expert Support case study: Bolstering a RAG app with LLM-as-a-Judge★ 75
Hugging Face Blog582d agoTutorial非營利組織 Digital Green 為了向農民提供精確的農業建議，開發了基於 RAG 的問答系統。透過 Hugging Face 專家支援服務，他們導入了「LLM-as-a-Judge」自動化評估框架。此方案不僅能有效衡量回答的真實性與相關性，還透過開源模型替代昂貴的專有模型，在維持高評估準確度的同時大幅降低了營運成本。
Introducing HUGS - Scale your AI with Open Models★ 85
Hugging Face Blog587d agoReleaseHugging Face 推出全新微服務 HUGS（Hugging Face Microservices），旨在簡化開源 AI 模型的部署流程。HUGS 提供經過高度優化且開箱即用的 Docker 容器，支援 Llama、Mistral 等熱門模型，並針對 NVIDIA、AMD 及 AWS 等硬體進行效能優化。開發者可以透過與 OpenAI 相容的 API 快速整合，在私有雲或主流雲端平台上輕鬆擴展 AI 應用。
“Llama 3.2 in Keras”★ 75
Hugging Face Blog589d agoReleaseHugging Face 與 Keras 團隊宣布 Llama 3.2 模型正式登陸 Keras 生態系。開發者現在可以透過 KerasNLP 輕鬆載入 Llama 3.2 的 1B 與 3B 輕量級模型。得益於 Keras 3 的多後端架構，使用者能自由切換 JAX、PyTorch 或 TensorFlow，並利用 LoRA 等技術進行高效微調與跨平台部署。
Eval-driven development: Build better AI faster★ 80
Vercel Changelog593d agoOpinionVercel 提出「評估驅動開發（EDD）」概念，解決 AI 輸出不確定性帶來的測試難題。 EDD 類似於軟體工程的測試驅動開發（TDD），強調在調整提示詞或模型前先建立評估數據集。 透過自動化評估（如 LLM-as-a-judge），開發者能更具信心且快速地優化 AI 產品，避免改動導致效能倒退。
Introducing the AMD 5th Gen EPYC™ CPU★ 75
Hugging Face Blog600d agoReleaseHugging Face 發表與 AMD 合作的最新進展，介紹代號「Turin」的第 5 代 AMD EPYC 處理器。憑藉 Zen 5 架構與對 FP16/BF16 的硬體優化，新一代處理器在 LLM 推論與微調上展現極佳效能。開發者可透過 Hugging Face 的 Optimum 庫與 TGI 輕鬆部署，為非 GPU 環境提供強大的 AI 算力選擇。
Llama can now see and run on your device - welcome Llama 3.2★ 95
Hugging Face Blog615d agoReleaseMeta 正式發布 Llama 3.2，最大亮點為首次推出 11B 和 90B 的視覺多模態模型，能理解圖像與圖表；同時推出專為手機與邊緣裝置設計的 1B 和 3B 超輕量文字模型，支援 128k 脈絡長度。Hugging Face 已在 Transformers、TGI 及微調工具中全面支援，方便開發者即刻部署與應用。
Fine-tuning LLMs to 1.58bit: extreme quantization made easy★ 85
Hugging Face Blog622d agoTutorialHugging Face 釋出最新指南，介紹如何將現有的預訓練大語言模型（LLM）微調至 1.58-bit（三進制模型）。傳統的 BitNet 1.58B 需要極為昂貴的從頭預訓練，而此方法允許開發者直接對現有開源模型（如 Llama）進行極限非線性量化微調。這項技術將權重限制在 -1、0、1 三個值，極大降低了顯存佔用與計算頻寬，讓大模型在消費級硬體甚至 CPU 上也能高效運行。
Introducing Community Tools on HuggingChat★ 75
Hugging Face Blog624d agoReleaseHugging Face 宣布在 HuggingChat 中推出「社群工具 (Community Tools)」功能。這項更新讓 HuggingChat 上的開源模型（如 Llama 3.1、Command R+）能夠調用由社群開發的各種工具，例如圖像生成、網頁抓取、計算機等。開發者可以使用 Python 輕鬆建立並分享工具，使開源 AI 助理具備更強大的 Agent 實用能力。
Deploy Meta Llama 3.1 405B on Google Cloud Vertex AI★ 75
Hugging Face Blog652d agoReleaseHugging Face 推出全新整合功能，允許用戶將 Meta 的 Llama 3.1 405B 模型直接部署至 Google Cloud Vertex AI。此舉簡化了超大型開源模型的企業級部署流程，提供高擴展性與安全性。開發者可透過 Hugging Face Hub 或 Vertex AI Model Garden 輕鬆啟用，並利用 Google Cloud 的強大算力（如 H100 GPU 或 TPU）進行高效推理。
Introduction to ggml★ 80
Hugging Face Blog658d agoTutorial本篇 Hugging Face 部落格文章深入介紹了由 Georgi Gerganov 開發的輕量級 C/C++ 張量庫 GGML。GGML 是 llama.cpp 的底層核心，專為消費級硬體（如 CPU 和 Apple Silicon）優化。文章解析了其無依賴性、高效量化（4-bit/8-bit）以及如何演進至現今主流的 GGUF 格式，是理解本地端 LLM 部署的必讀指南。