Open-source DeepResearch – Freeing our search agents★ 85
Hugging Face Blog484d agoRelease為對抗封閉的商業 Deep Research 服務，Hugging Face 推出開源版 DeepResearch。該專案基於其輕量級 Agent 框架 smolagents，能驅動開源模型（如 Qwen 或 Llama）進行多步驟網頁搜尋、資訊整合並產出詳盡報告。這不僅降低了研究型 Agent 的門檻，也讓開發者能完全掌控資料與搜尋邏輯。
Open-R1: Update #1★ 85
Hugging Face Blog486d agoReleaseHugging Face 發表 Open-R1 專案的第一階段更新，旨在完全開源重現 DeepSeek-R1。團隊目前專注於利用 TRL 庫中的 GRPO 演算法進行強化學習訓練，並已釋出初步的訓練配方、資料集與評估結果。報告中也探討了推理模型訓練中常見的「獎勵作弊（Reward Hacking）」與格式控制等技術挑戰。
Mini-R1: Reproduce Deepseek R1 „aha moment“ a RL tutorial★ 85
Hugging Face Blog488d agoTutorialHugging Face 的 open-r1 專案推出全新實作教學，旨在重現 DeepSeek-R1 最著名的「頓悟時刻」（自我糾錯能力）。本教學以經典的「倒數遊戲」（Countdown Game）為任務，引導讀者使用強化學習（RL）訓練小模型。透過設計精準的規則與格式獎勵，開發者能親眼見證模型在思考過程中自動發現錯誤並進行修正，是理解 R1 推理機制與 GRPO 演算法絕佳的低成本實作教材。
How to deploy and fine-tune DeepSeek models on AWS★ 85
Hugging Face Blog489d agoTutorial本文為 Hugging Face 釋出的實用指南，詳細介紹如何在 AWS 環境中部署與微調熱門的 DeepSeek-R1 及其蒸餾（Distilled）模型。內容涵蓋使用 Hugging Face LLM DLC（深度學習容器）與 TGI 技術在 Amazon SageMaker 上進行低延遲推論部署，以及如何透過 SageMaker 訓練作業與 Hugging Face TRL 庫進行高效微調（如 LoRA），並提供針對不同模型大小的 AWS 硬體配置建議。
Open-R1: a fully open reproduction of DeepSeek-R1★ 90
Hugging Face Blog491d agoReleaseHugging Face 宣布啟動 Open-R1 專案，目標是完全重現 DeepSeek-R1 的推理能力。該專案將開源所有訓練配方、資料集與模型權重，並利用 TRL 框架中的 GRPO 演算法進行強化學習。這項計畫將降低開發者構建高效推理模型的門檻，推動開源 AI 社群的推理模型民主化。
Welcome to Inference Providers on the Hub 🔥★ 85
Hugging Face Blog491d agoReleaseHugging Face 宣佈在 Hub 上整合「Inference Providers」功能。開發者現在可以直接在模型頁面或透過 SDK，自由選擇 Groq、Together AI、Fireworks AI 等第三方推理服務商來運行開源模型。這項更新簡化了 API 調用流程，讓用戶能根據速度、成本與延遲，彈性切換最適合的後端算力，無需自行維護基礎設施。
State of open video generation models in Diffusers★ 82
Hugging Face Blog492d agoCommentary本文回顧了 Hugging Face Diffusers 函式庫中開源影片生成模型的最新進展。隨著技術從 UNet 轉向 Diffusion Transformers (DiTs)，如 CogVideoX、Mochi 1、LTX-Video 及 HunyuanVideo 等模型已全面整合。文章重點介紹了如何透過 CPU 卸載、FP8 量化與 Tiled VAE 等技術，在消費級 GPU 上高效運行這些動輒數十億參數的影片生成模型。
We now support VLMs in smolagents!★ 80
Hugging Face Blog495d agoReleaseHugging Face 旗下的輕量級 Agent 開源庫 smolagents 迎來重大更新，正式支援視覺語言模型（VLM）。開發者現在可以讓 Agent 接收並處理影像輸入，適用於網頁視覺導航、圖表分析及多模態任務。此更新大幅擴展了程式碼 Agent（Code Agent）的應用場景，使其能「看見」並理解真實世界的視覺資訊。
Mastering Long Contexts in LLMs with KVPress★ 75
Hugging Face Blog496d agoNew Tool隨著大語言模型（LLM）處理的上下文長度不斷增加，KV Cache（鍵值快取）已成為記憶體與推理速度的主要瓶頸。NVIDIA 與 Hugging Face 合作推出了開源庫 KVPress，旨在簡化各種 KV Cache 壓縮技術的實現與評估。KVPress 提供統一的 API，支援多種剪枝與壓縮策略，能有效降低長文本推理時的硬體門檻，並與 Hugging Face transformers 生態系無縫整合。
SmolVLM Grows Smaller – Introducing the 256M & 500M Models!★ 75
Hugging Face Blog496d agoReleaseHugging Face 發表了 SmolVLM 家族的最新成員：256M 和 500M 參數的超小型視覺語言模型（VLM）。這兩款模型體積極小，旨在讓多模態 AI 能在手機、物聯網設備或瀏覽器中流暢運行。儘管尺寸迷你，它們在基礎圖像描述與問答任務上仍展現出實用的性能，為邊緣端多模態應用開闢新路徑。
Hugging Face and FriendliAI partner to supercharge model deployment on the Hub★ 70
Hugging Face Blog497d agoReleaseHugging Face 宣布與 FriendliAI 建立合作夥伴關係，旨在加速 Hugging Face Hub 上的模型部署。透過整合 FriendliAI 的高效能推理技術，開發者將能以更低的延遲和更低的成本部署大型語言模型（LLM）。此合作簡化了從 Hub 到生產環境的部署流程，為企業提供更具成本效益的 AI 服務方案。
Yay! Organizations can now publish blog Articles
Hugging Face Blog498d agoReleaseHugging Face 宣布推出新功能，現在平台上的「組織（Organizations）」帳號也可以直接撰寫並發布部落格文章。過去此功能主要開放給個人，如今企業、研究機構與開源團隊將能以官方名義直接在平台上分享技術細節、模型發布公告與教學，進一步強化 Hugging Face 作為 AI 社群知識樞紐的地位。
Introducing multi-backends (TRT-LLM, vLLM) support for Text Generation Inference★ 85
Hugging Face Blog503d agoReleaseHugging Face 的 Text Generation Inference (TGI) 宣布支援多後端架構，正式整合 NVIDIA TensorRT-LLM 與 vLLM。這項更新讓開發者無需在 TGI 的生產級功能（如 Tokenizer、工具調用、安全防護）與其他引擎的極致效能之間做抉擇。現在，用戶可以透過簡單的設定，直接在 TGI 中調用 TRT-LLM 的硬體優化或 vLLM 的高吞吐量優勢。
Timm ❤️ Transformers: Use any timm model with transformers★ 80
Hugging Face Blog503d agoReleaseHugging Face 宣布將著名的 PyTorch 圖像模型庫 `timm` 與 `transformers` 進行深度整合。現在開發者可以直接使用 `AutoModel` 和 `AutoImageProcessor` 等標準 API，輕鬆載入並使用 `timm` 中的數千個電腦視覺模型。這項更新不僅簡化了工作流程，還讓 `timm` 模型能完美融入 Hugging Face 的生態系，包括 Trainer、Pipelines 以及各類部署工具。
Train 400x faster Static Embedding Models with Sentence Transformers★ 75
Hugging Face Blog504d agoReleaseHugging Face 宣布 Sentence Transformers 支援訓練「靜態嵌入（Static Embeddings）」模型。相較於傳統 Transformer 模型，靜態嵌入不需逐層計算，訓練速度快上 400 倍，且推理速度極快、記憶體佔用極小。這項技術非常適合用於資源受限的設備（如手機、邊緣裝置）或作為大規模檢索（RAG）的第一階段粗篩。
AI Agents Are Here. What Now?★ 75
Hugging Face Blog506d agoCommentary本文為 Hugging Face 倫理與社會小組的專題探討，指出 AI Agent（智慧代理）已從理論走向實用。文章深入分析了 Agent 在自主決策、工具調用中所帶來的安全隱患、責任歸屬及社會衝擊，並強調開源社群在建立安全評估與「人類協同（Human-in-the-loop）」機制中的關鍵角色。
Visual Document Retrieval Goes Multilingual★ 80
Hugging Face Blog509d agoReleaseHugging Face 發表全新的 VDR-2B-multilingual 模型，專為視覺文件檢索（VDR）設計。傳統檢索依賴繁瑣的 OCR 步驟，而該模型能直接將文件頁面視為圖像進行向量化，保留排版、圖表與插圖資訊。本次更新重點在於擴展至多語言支持（包含中英日韓等），大幅提升跨國企業與多語系文檔的檢索效率與準確度。
CO₂ Emissions and Models Performance: Insights from the Open LLM Leaderboard
Hugging Face Blog510d agoCommentaryHugging Face 發表 Open LLM Leaderboard 的碳排放分析報告，探討模型評估過程中的能源消耗與 CO₂ 排放。研究指出，雖然大型模型性能優異，但其碳足跡也呈指數增長；相反地，透過模型量化與參數優化，能在大幅降低能耗的同時保持高水準性能。此報告呼籲社群在追求高分之餘，也應重視「綠色 AI」與運算效率。
Introducing smolagents: simple agents that write actions in code.★ 85
Hugging Face Blog519d agoReleaseHugging Face 發表輕量級 AI Agent 框架「smolagents」，核心概念為「Code Agents」。與傳統輸出 JSON 的 Agent 不同，它讓 LLM 直接生成 Python 程式碼來執行複雜任務，大幅提升表達力與靈活性。該框架程式碼極簡（約千行），並內置安全的 Python 執行沙箱，支援多種主流 LLM 供應商。
Visualize and understand GPU memory in PyTorch★ 82
Hugging Face Blog526d agoTutorialHugging Face 推出全新互動式部落格文章，深入解析 PyTorch 訓練時的 GPU 記憶體佔用機制。內容涵蓋模型參數、梯度、優化器狀態（如 AdamW）以及激活值（Activations）的記憶體計算公式。讀者可透過互動式工具，在實際訓練前精確估算記憶體需求，有效預防並排查 Out of Memory (OOM) 錯誤。
Controlling Language Model Generation with NVIDIA's LogitsProcessorZoo★ 75
Hugging Face Blog527d agoNew ToolNVIDIA 與 Hugging Face 合作介紹 LogitsProcessorZoo，這是一個專為控制大語言模型（LLM）生成行為而設計的工具庫。透過在 Token 生成階段直接干預 Logits（未歸一化的機率值），開發者能輕鬆實現 JSON 結構化輸出、正則表達式約束及自定義解碼策略。該工具與 Hugging Face Transformers 深度整合，大幅提升了生成內容的可靠性與安全性。
Evaluating Audio Reasoning with Big Bench Audio★ 75
Hugging Face Blog530d agoReleaseHugging Face 發表了「Big Bench Audio」基準測試，旨在評估多模態模型在音訊領域的推理能力。傳統評估多著重於語音辨識（ASR），而此基準則涵蓋語音、音樂、環境音等多元任務，考驗模型進行邏輯推理與情境理解的深度。這項開源工具將協助開發者與研究人員更精準地衡量語音大模型的實際應用實力。
Finally, a Replacement for BERT: Introducing ModernBERT★ 85
Hugging Face Blog531d agoReleaseHugging Face 與 LightOn 等團隊聯合推出 ModernBERT，旨在取代已問世 6 年但仍被廣泛使用的 BERT 模型。ModernBERT 採用現代化架構，將上下文長度從 512 提升至 8192 標記，並原生支援 FlashAttention-2 與 RoPE。在保持極高推理速度與低記憶體佔用的同時，其在檢索、分類與嵌入等任務上的表現全面超越 DeBERTa-v3，為 RAG 與搜尋系統注入全新動力。
Bamba: Inference-Efficient Hybrid Mamba2 Model★ 75
Hugging Face Blog532d agoReleaseHugging Face 聯合普林斯頓大學、Together AI 等機構，正式開源了「Bamba-9B」模型。該模型採用 Mamba-2 狀態空間模型（SSM）與 Transformer 注意力機制的混合架構（1:7 比例）。在保有與同量級純 Transformer 模型（如 Llama 3）相當性能的同時，顯著降低了長文本推論時的記憶體佔用與延遲，並以 Apache 2.0 協議開源，為長文本應用提供高效的新選擇。
Benchmarking Language Model Performance on 5th Gen Xeon at GCP
Hugging Face Blog533d agoCommentaryHugging Face 發布在 Google Cloud Platform (GCP) 全新 C4 執行個體上運行語言模型的效能評測。C4 搭載第五代 Intel Xeon 可擴充處理器，內建 Intel AMX 加速技術。測試顯示，透過 Optimum Intel 與 IPEX 優化，CPU 在中小型開源模型（如 Llama 3）的推論上展現出極佳的延遲表現與高性價比，為 GPU 短缺或預算有限的企業提供強大的替代方案。
Welcome to the Falcon 3 Family of Open Models!★ 80
Hugging Face Blog533d agoRelease阿布達比技術創新研究所（TII）正式發布 Falcon 3 系列開源模型，提供 1B、3B、7B 及 10B MoE 等多種參數規格。Falcon 3 在多項基準測試中表現優異，其 7B 版本在性能上甚至超越了 Llama 3.1 8B 與 Gemma 2 9B。此系列模型對硬體友善，極適合邊緣運算與本地部署，並已深度整合至 Hugging Face 生態系統。
Introducing the Synthetic Data Generator - Build Datasets with Natural Language★ 82
Hugging Face Blog534d agoNew ToolHugging Face 發表「Synthetic Data Generator」工具，旨在降低 AI 模型訓練資料集的構建門檻。用戶只需用自然語言描述需求，系統便會利用 distilabel 框架與開源大模型（如 Llama 3.1）自動生成高品質的指令微調（SFT）或偏好對齊（DPO）資料集。生成的資料可直接上傳至 Hugging Face Hub，並支援匯出至 Argilla 進行人工標註與微調。
AI video is having its Stable Diffusion moment★ 80
Replicate Blog534d agoOpinionReplicate 指出，AI 影片生成領域正經歷類似當年 Stable Diffusion 顛覆圖像生成的「開源時刻」。 目前市場上已出現多款效果足以媲美 OpenAI Sora 的開源影片生成模型。 這意味著開發者與創作者不再受限於封閉的 API，能以更低成本、更高自由度在本地或雲端部署高品質影片生成。
LeMaterial: an open source initiative to accelerate materials discovery and research★ 75
Hugging Face Blog540d agoReleaseHugging Face 宣布推出「LeMaterial」開源倡議，旨在降低材料科學領域的 AI 應用門檻。該項目整合了大規模材料數據集、先進的機器學習模型（如圖神經網路 GNN）以及標準化的評估基準。透過將這些資源託管於 Hugging Face 平台，LeMaterial 將促進全球研究人員協作，大幅縮短新材料的研發週期。
Open Preference Dataset for Text-to-Image Generation by the 🤗 Community★ 75
Hugging Face Blog541d agoReleaseHugging Face 宣布推出由社群共同協作完成的文字生成圖像（Text-to-Image）開源偏好資料集。該資料集透過社群成員對不同 AI 生成圖像進行投票與評分，收集了大量人類真實偏好數據。這項開源資源將大幅降低開發者進行圖像生成模型 RLHF（人類回饋強化學習）或 DPO（直接偏好優化）的門檻，推動更具美感與對齊能力的開源圖像模型發展。