Welcome Gemma 4: Frontier multimodal intelligence on device★ 85
Hugging Face Blog62d agoReleaseGoogle 正式推出 Gemma 4 開放模型家族，將前沿的多模態智能帶入裝置端。Gemma 4 體積輕量、適合在手機與筆電運行，並具備強大的視覺與文字理解能力。Hugging Face 已在第一時間提供完整支援，開發者可立即透過 Transformers 進行微調與部署。
Granite 4.0 3B Vision: Compact Multimodal Intelligence for Enterprise Documents★ 75
Hugging Face Blog63d agoReleaseIBM 於 Hugging Face 發布全新 Granite 4.0 3B Vision 模型。這款僅有 30 億參數的輕量級多模態模型，專為企業級文件理解、圖表分析與 OCR 數據提取而設計。其小巧的體積不僅大幅降低了部署門檻與運算成本，更在處理複雜商業報表與 PDF 文件時展現出極高的實用性，是企業本地化部署的理想選擇。
Bringing Robotics AI to Embedded Platforms: Dataset Recording, VLA Fine‑Tuning, and On‑Device Optimizations★ 75
Hugging Face Blog89d agoTutorial本指南介紹 Hugging Face 與 NXP 的合作成果，展示如何將視覺-語言-動作（VLA）模型應用於嵌入式機器人平台。內容涵蓋使用 LeRobot 進行資料集錄製、對 VLA 模型進行客製化微調，以及利用 NXP eIQ 工具包在 i.MX 晶片上進行量化與硬體加速優化，實現低延遲、低功耗的邊緣端機器人控制。
GGML and llama.cpp join HF to ensure the long-term progress of Local AI★ 95
Hugging Face Blog103d agoBusiness開源 AI 領域迎來震撼消息，主導本地端 LLM 推理的開源專案 GGML 與 llama.cpp 正式宣布加入 Hugging Face。此舉旨在為本地端與邊緣端 AI 技術提供長期且穩定的資源支持。雙方將深化 GGUF 格式與 Hugging Face 平台的整合，確保開源社群能更輕鬆地在消費級硬體上運行高效能模型，持續推動去中心化與隱私優先的 AI 發展。
The Open Evaluation Standard: Benchmarking NVIDIA Nemotron 3 Nano with NeMo Evaluator★ 70
Hugging Face Blog167d agoTutorialNVIDIA 與 Hugging Face 合作介紹「開放評測標準」，展示如何利用 NeMo Evaluator 工具對輕量級模型 Nemotron 3 Nano 進行系統化基準測試。此指南提供了一套可重現的評測食譜（Recipe），幫助開發者在邊緣設備或資源受限環境中，精確評估小模型的性能與偏差，推動開源社群的評測透明度。
On the Shifting Global Compute Landscape★ 75
Hugging Face Blog216d agoOpinion本文深入探討全球 AI 算力基礎設施的劇烈變革。隨著地緣政治與市場需求的變化，算力正從少數雲端巨頭壟斷，走向「主權算力」與區域化部署。同時，AMD、Intel 及邊緣裝置晶片的崛起打破了單一硬體壟斷，而開源社群與 Hugging Face 的優化工具（如 Optimum）正成為連接多元硬體與模型的關鍵橋樑，推動 AI 走向去中心化與普及化。
Granite 4.0 Nano: Just how small can you go?★ 75
Hugging Face Blog217d agoRelease本文探討 IBM 最新推出的超輕量級模型 Granite 4.0 Nano。作為 Granite 家族中體積最小的成員，Nano 專為端側（On-device）與邊緣運算設計，能在資源極度受限的設備（如手機、瀏覽器）上流暢運行。文章詳細分析了其架構優化、效能表現，以及如何透過 Hugging Face 工具鏈輕鬆部署，為隱私敏感與低延遲應用提供全新選擇。
Introducing Gemma 3 270M: The compact model for hyper-efficient AI★ 72
Google DeepMind Blog222d agoReleaseGoogle DeepMind 宣布在 Gemma 3 工具包中加入全新成員「Gemma 3 270M」。這款僅有 2.7 億（270M）參數的極致輕量級模型，專為需要超高效率、低延遲以及資源受限的邊緣設備（On-device）運算場景所設計，為開發者在極端硬體限制下部署 AI 提供了全新的高效能選擇。
Get your VLM running in 3 simple steps on Intel CPUs★ 70
Hugging Face Blog231d agoTutorialHugging Face 介紹如何利用 OpenVINO 在 Intel CPU 上優化並運行視覺語言模型（VLM）。開發者只需透過安裝環境、轉換模型、執行推論三個簡單步驟，即可在無獨立顯卡的 Intel 硬體上實現高效的多模態處理，大幅降低 VLM 的本地部署門檻，非常適合邊緣運算與個人開發環境。
Arm will be @ PyTorch Conference, Join Us!
Hugging Face Blog235d agoBusinessArm 宣佈將參與即將舉行的 PyTorch Conference。本次參展重點將聚焦於如何透過 Arm 架構優化 PyTorch 效能，包含針對伺服器端（如 AWS Graviton）與邊緣裝置（如 ExecuTorch）的加速方案。此外，Arm 也將展示其開源的 KleidiAI 函式庫如何與 PyTorch 深度整合，提升 AI 模型在 Arm 處理器上的執行效率。
Accelerating Qwen3-8B Agent on Intel® Core™ Ultra with Depth-Pruned Draft Models★ 75
Hugging Face Blog247d agoTutorialHugging Face 發表最新技術，展示如何在 Intel Core Ultra 平台上加速 Qwen3-8B Agent。該方法採用「深度剪枝（Depth-Pruning）」技術製作輕量化的草稿模型，並結合投機解碼（Speculative Decoding）技術。這使得在個人電腦（Edge AI）上運行複雜的 Agent 任務時，能獲得更高的 Token 生成效率與更低的延遲，為本地端 AI 應用帶來突破。
Introducing the Palmyra-mini family: Powerful, lightweight, and ready to reason!★ 72
Hugging Face Blog264d agoReleaseEnterprise AI 公司 Writer 在 Hugging Face 上推出了全新的「Palmyra-mini」模型系列。該系列主打輕量化與強大效能，並特別強調具備「推理（reasoning）」能力。這使得開發者能在資源受限的環境中，部署具備複雜邏輯思考與問題解決能力的 AI 模型，為邊緣運算與企業應用提供新選擇。
Arm & ExecuTorch 0.7: Bringing Generative AI to the masses★ 80
Hugging Face Blog293d agoReleaseHugging Face 介紹 Arm 與 PyTorch 團隊在 ExecuTorch 0.7 的最新合作成果。此版本專為 Arm 架構（如手機、AI PC）優化生成式 AI 效能，透過先進的量化技術與核心優化（如 Arm KleidiAI），讓開發者能更輕鬆地在邊緣裝置上部署低延遲、低功耗的輕量化大語言模型。
Neural Super Sampling is here!★ 75
Hugging Face Blog294d agoReleaseArm 與 Hugging Face 合作宣布「Neural Super Sampling (NSS)」技術正式上線。這項技術旨在利用神經網路，在行動裝置與邊緣設備上實現即時的圖像與遊戲畫面超取樣（類似行動版 DLSS）。透過 Hugging Face 平台，開發者現在可以輕鬆獲取優化後的 NSS 模型與工具鏈，大幅提升手遊與 XR 應用的畫面流暢度並降低能耗。
Gemma 3n fully available in the open-source ecosystem!★ 80
Hugging Face Blog342d agoReleaseGoogle 最新推出的 Gemma 3n 模型系列已正式在 Hugging Face 開源社群全面上線。此版本針對端側部署（On-device）與高效能推論進行優化，Hugging Face 生態系已提供完整支援。開發者現在可以無縫使用 Transformers、vLLM、TRL 等工具進行部署、推論與微調，為輕量級與邊緣運算 AI 應用提供了全新的強大選擇。
Real-Time AI Sound Generation on Arm: A Personal Tool for Creative Freedom
Hugging Face Blog364d agoRelease本文介紹如何在 Arm 架構硬體（如筆電、手機及邊緣設備）上運行即時 AI 聲音生成模型。透過 Hugging Face 與 Arm 的技術優化，創作者現在能以極低延遲在本地端生成音效，無需依賴昂貴的雲端 GPU。這項突破不僅提升了創作隱私，也為離線互動式媒體與遊戲開發開闢了新路徑。
SmolVLA: Efficient Vision-Language-Action Model trained on Lerobot Community Data★ 75
Hugging Face Blog365d agoReleaseHugging Face 發表全新開源模型 SmolVLA，專為具身智能與機器人控制設計。該模型屬於「Smol」輕量化系列，結合視覺、語言與動作（VLA）能力，並完全採用 LeRobot 社群的真實機器人操作數據進行訓練。SmolVLA 的高效能與小體積，讓開發者能在邊緣設備上實現低延遲的機器人視覺決策與控制。
Falcon-Edge: A series of powerful, universal, fine-tunable 1.58bit language models.★ 82
Hugging Face Blog383d agoRelease阿聯酋技術創新研究所（TII）發表 Falcon-Edge 系列模型，採用 1.58-bit（三進制）權重技術。該系列模型不僅體積小、運算速度快且功耗極低，非常適合在手機與筆電等邊緣設備上運行，同時還支援高效的微調，打破了以往極低位元模型難以微調的限制，為本地端 AI 應用帶來全新可能。
SmolVLM2: Bringing Video Understanding to Every Device★ 80
Hugging Face Blog468d agoReleaseHugging Face 正式發布 SmolVLM2 系列模型，專為手機與筆電等個人裝置設計。此版本最大亮點是引入了強大的「影片理解」與「多圖處理」能力，其中 2.2B 旗艦版本在保持極低運算資源消耗的同時，能在多項視覺與影片基準測試中媲美更大尺寸的模型。模型完全開源並採用 Apache 2.0 授權，極具實用價值。
SmolVLM Grows Smaller – Introducing the 256M & 500M Models!★ 75
Hugging Face Blog496d agoReleaseHugging Face 發表了 SmolVLM 家族的最新成員：256M 和 500M 參數的超小型視覺語言模型（VLM）。這兩款模型體積極小，旨在讓多模態 AI 能在手機、物聯網設備或瀏覽器中流暢運行。儘管尺寸迷你，它們在基礎圖像描述與問答任務上仍展現出實用的性能，為邊緣端多模態應用開闢新路徑。
Welcome to the Falcon 3 Family of Open Models!★ 80
Hugging Face Blog533d agoRelease阿布達比技術創新研究所（TII）正式發布 Falcon 3 系列開源模型，提供 1B、3B、7B 及 10B MoE 等多種參數規格。Falcon 3 在多項基準測試中表現優異，其 7B 版本在性能上甚至超越了 Llama 3.1 8B 與 Gemma 2 9B。此系列模型對硬體友善，極適合邊緣運算與本地部署，並已深度整合至 Hugging Face 生態系統。
SmolVLM - small yet mighty Vision Language Model★ 80
Hugging Face Blog554d agoReleaseHugging Face 發表全新輕量級視覺語言模型 SmolVLM（約 2.2B 參數），專為本機與邊緣設備設計。該模型結合了 SigLIP 視覺編碼器與 SmolLM2 語言模型，不僅支援多圖輸入與影片分析，在多項基準測試中更展現出媲美更大尺寸模型的性能。SmolVLM 採 Apache 2.0 開源授權，極低記憶體佔用使其成為開發者在終端裝置部署 VLM 的理想選擇。
Optimize and deploy with Optimum-Intel and OpenVINO GenAI★ 75
Hugging Face Blog621d agoTutorial本文介紹 Hugging Face 與 Intel 合作的最新部署方案。透過 optimum-intel 工具，開發者可以輕鬆將 Transformers 模型轉換並量化（如 INT4）為 OpenVINO 格式。接著，利用全新且輕量化的 openvino-genai API，即可在 Intel CPU、GPU 及 NPU 上實現極速的生成式 AI 推理，大幅簡化了從模型訓練到邊緣端部署的流程。
Fine-tuning LLMs to 1.58bit: extreme quantization made easy★ 85
Hugging Face Blog623d agoTutorialHugging Face 釋出最新指南，介紹如何將現有的預訓練大語言模型（LLM）微調至 1.58-bit（三進制模型）。傳統的 BitNet 1.58B 需要極為昂貴的從頭預訓練，而此方法允許開發者直接對現有開源模型（如 Llama）進行極限非線性量化微調。這項技術將權重限制在 -1、0、1 三個值，極大降低了顯存佔用與計算頻寬，讓大模型在消費級硬體甚至 CPU 上也能高效運行。
Google releases Gemma 2 2B, ShieldGemma and Gemma Scope★ 85
Hugging Face Blog672d agoReleaseGoogle 宣布推出 Gemma 家族新成員：僅有 2.6B 參數但性能強悍的 Gemma 2 2B 輕量模型；專為過濾有害內容設計的安全分類器 ShieldGemma（提供 2B、9B、27B 版本）；以及包含逾 400 個稀疏自編碼器的 Gemma Scope，為 AI 領域提供前所未有的模型內部決策「可解釋性」研究工具。
AMD Pervasive AI Developer Contest!
Hugging Face Blog840d agoBusinessAMD 與 Hugging Face 合作舉辦「Pervasive AI 開發者大賽」，旨在推廣 AMD 的 AI 硬體生態系。競賽分為生成式 AI、機器人 AI 與 PC AI 三大賽道，參賽者需利用 AMD Radeon GPU、Ryzen AI 或 Kria 開發套件，並結合 Hugging Face 的模型進行開發。本活動提供豐富的硬體支援與高達 15 萬美元的總獎金，吸引全球開發者共襄盛舉。