Reachy Mini goes fully local
Hugging Face Blog6d agoHardwareHugging Face published a tutorial for running Reachy Mini conversations without cloud audio processing or API keys. The setup uses its speech-to-speech library as a cascaded VAD, STT, LLM, and TTS pipeline exposed through a Realtime API-compatible WebSocket. Recommended defaults include llama.cpp with Gemma 4, Silero VAD, Parakeet-TDT, and Qwen3-TTS, while allowing swaps to vLLM, MLX, Transformers, or hosted Responses API providers.
[AINews] The End of Finetuning★ 75
Latent Space20d agoOpinion在一個相對平靜的新聞日，Latent Space 帶領讀者反思「微調（Fine-tuning）的終結」這一命題。 隨著長上下文視窗、高效 RAG 以及上下文內學習（In-context Learning）的成熟，許多原本需要微調的場景已被取代。 未來微調可能退化為僅用於調整輸出格式、風格或進行模型蒸餾的工具，而非首選的知識注入手段。
The distillation panic★ 75
Interconnects (Nathan L.)29d agoOpinion近期 AI 業界出現將「知識蒸餾（Distillation）」稱為「蒸餾攻擊（Distillation attacks）」的趨勢。 這反映了閉源模型廠商（如 OpenAI、Anthropic）面對開源模型透過合成數據快速追趕時的焦慮。 作者 Nathan Lambert 指出，將這種行之有年的機器學習技術與商業競爭行為「安全化（securitize）」，試圖將其塑造成惡意網路攻擊，是非常糟糕且誤導的術語，旨在為法律訴訟或技術封鎖鋪路。
DeepInfra on Hugging Face Inference Providers 🔥★ 72
Hugging Face Blog34d agoReleaseHugging Face 宣布將知名低成本、高效能的推理平台 DeepInfra 整合至其「推理服務商（Inference Providers）」計畫中。現在，開發者在 Hugging Face Hub 上瀏覽開源模型（如 Llama 3、Mistral 等）時，可以直接選擇 DeepInfra 作為後端託管 API，無需自行架設 GPU 基礎設施。這項合作為開發者提供了更多元、更具性價比的無伺服器（Serverless）推理選擇，進一步簡化了 AI 應用的部署流程。
Reading today's open-closed performance gap★ 75
Interconnects (Nathan L.)43d agoOpinion本文探討了比較開源（如 Llama）與閉源（如 GPT、Claude）模型時，過度依賴單一評估指標（如 MMLU 或 Arena Elo）的盲點。作者指出，基準測試受提示詞敏感度、測試集污染及後訓練（Post-training）策略影響極大。未來，隨著推理期計算（Inference-time compute）與 Agent 應用的興起，評估模型性能的維度將發生根本性轉變。
My bets on open models, mid-2026★ 75
Interconnects (Nathan L.)48d agoOpinion知名 AI 學者 Nathan Lambert 針對 2026 年年中的開源模型發展提出預測。他指出，開源與閉源模型之間的差距（Open-Closed Gap）正從「基礎預訓練能力」轉移到「推理期計算（Inference-time compute）」與「代理（Agent）可靠性」。雖然 Meta 的 Llama 4 等開源模型將持續逼近閉源旗艦，但閉源廠商憑藉龐大算力與專有強化學習（RL）架構，在複雜多步驟任務上仍將保持領先。
Liberate your OpenClaw★ 75
Hugging Face Blog67d agoTutorial本文探討如何「解放」開源 CLI 開發 Agent 工具 OpenClaw。隨著類似 Claude Code 的終端機 Agent 工具興起，Hugging Face 介紹了如何將 OpenClaw 與 Llama、Qwen 等開源模型整合。透過 Hugging Face 的推論 API 或本地部署，開發者可以不再受限於單一閉源 API，實現高自由度、低成本且隱私安全的自主開發流程。
State of Open Source on Hugging Face: Spring 2026★ 85
Hugging Face Blog77d agoCommentaryHugging Face 發布 2026 年春季開源報告，揭示開源 AI 生態的最新趨勢。報告指出，具備推理能力的開源模型（如 DeepSeek 與 Qwen 系列）已成為社群主流；同時，以 smolagents 為首的輕量級 Agent 框架與本機端（On-Device）小模型正快速普及。此外，開源多模態與影片生成技術的下載量也創下歷史新高，展現出開源社群強大的創新動能。
What comes next with open models★ 80
Interconnects (Nathan L.)78d agoOpinion隨著語言模型走向工業化生產，開源模型正迎來全新轉型。本文深入分析開源生態在市場競爭、模型能力提升上的最新趨勢，並探討開發者與研究者如何應對閉源巨頭的壓力，以及在技術快速變遷下的集體困惑。這標誌著開源 AI 已從實驗室走向資本與算力密集的大規模產業化時代。
Train AI models with Unsloth and Hugging Face Jobs for FREE★ 85
Hugging Face Blog102d agoNew ToolHugging Face 宣布與極速微調工具 Unsloth 合作，推出免費的 AI 模型訓練方案。使用者可以透過 Hugging Face Jobs 平台，直接在雲端免費運行 Unsloth 的高效微調任務。這項合作大幅降低了個人開發者與研究人員微調 Llama 3、Gemma 等開源大模型的門檻與成本。
GGML and llama.cpp join HF to ensure the long-term progress of Local AI★ 95
Hugging Face Blog102d agoBusiness開源 AI 領域迎來震撼消息，主導本地端 LLM 推理的開源專案 GGML 與 llama.cpp 正式宣布加入 Hugging Face。此舉旨在為本地端與邊緣端 AI 技術提供長期且穩定的資源支持。雙方將深化 GGUF 格式與 Hugging Face 平台的整合，確保開源社群能更輕鬆地在消費級硬體上運行高效能模型，持續推動去中心化與隱私優先的 AI 發展。
Open models in perpetual catch-up★ 80
Interconnects (Nathan L.)105d agoOpinion本文探討開源與閉源 AI 模型之間的動態關係。開源模型（如 Llama、DeepSeek）常利用閉源模型的輸出進行「蒸餾」來快速追趕，但這也讓它們始終落後一步。儘管如此，開源模型憑藉著低成本、高客製化與強大的開發者生態，在實用普及度上依然能取得勝利。然而，要打破這種「永久追趕」的狀態，開源社群仍需在基礎架構創新與自主強化學習（RL）上取得突破。
Transformers.js v4: Now Available on NPM!★ 85
Hugging Face Blog113d agoReleaseHugging Face 正式在 NPM 發布 Transformers.js v4。此版本帶來大幅度的 WebGPU 效能提升，支援更多最新的輕量化開源模型（如 Llama 3.2、Qwen 2.5 等），並優化了與 Vite、Next.js 等現代前端工具鏈的整合，讓開發者能輕鬆打造隱私安全、低延遲且完全在用戶端運行的 AI 應用。
CUGA on Hugging Face: Democratizing Configurable AI Agents★ 75
Hugging Face Blog169d agoReleaseIBM Research 宣佈在 Hugging Face 上推出 CUGA（可配置用戶引導代理）框架。CUGA 旨在簡化 AI Agent 的自定義與部署流程，讓開發者無需複雜的程式碼或微調，即可透過結構化配置引導 Agent 的行為與決策。此舉結合了 Hugging Face 的開源生態，將促進安全、可控的 Agentic AI 技術走向大眾化。
FACTS Benchmark Suite: Systematically evaluating the factuality of large language models★ 80
Google DeepMind Blog175d agoReleaseGoogle DeepMind 發表全新的 FACTS 基準測試套件，專門用於系統化評估大型語言模型（LLM）的真實性。該套件解決了現有評估方法不夠全面或難以標準化的痛點，透過多維度的測試集與自動化評估指標，幫助研究人員與開發者精確量化模型的「幻覺」程度。這對於提升 AI 在高風險領域（如醫療、法律、金融）的實用性與信任度具有重要意義。
OVHcloud on Hugging Face Inference Providers 🔥★ 72
Hugging Face Blog190d agoReleaseHugging Face 宣布與歐洲最大雲端服務商 OVHcloud 合作，將其納入「推理供應商（Inference Providers）」生態系。開發者現在可以直接在 Hugging Face Hub 上，選擇由 OVHcloud 託管的基礎設施來運行開源 AI 模型。此合作為重視 GDPR 合規與數據主權的企業，提供了安全、高效且具成本效益的無伺服器（Serverless）推理新選擇。
Supercharge your OCR Pipelines with Open Models★ 80
Hugging Face Blog224d agoTutorial本文探討如何利用開源模型（如 Florence-2、Qwen2-VL 與 Llama-3.2-Vision）替代傳統 OCR 系統。開源 VLM 不僅能精準辨識文字，還能直接輸出 JSON 或 Markdown 等結構化格式，解決複雜排版與表格解析的痛點。透過 Hugging Face 生態系，開發者可以輕鬆部署並微調這些模型，打造高效、低成本且隱私安全的文檔處理 Pipeline。
Public AI on Hugging Face Inference Providers 🔥★ 70
Hugging Face Blog258d agoReleaseHugging Face 宣佈與 Public AI 合作，正式將其整合至「推理提供商（Inference Providers）」生態系中。開發者現在可以直接在 Hugging Face Hub 上，選擇由 Public AI 提供的無伺服器（Serverless）API 來運行 Llama、Mistral 等熱門開源模型。此舉不僅簡化了 AI 應用的部署流程，也為開發者在尋求高效能、低延遲且具成本效益的推理基礎設施時，提供了全新的選擇。
Arm & ExecuTorch 0.7: Bringing Generative AI to the masses★ 80
Hugging Face Blog293d agoReleaseHugging Face 介紹 Arm 與 PyTorch 團隊在 ExecuTorch 0.7 的最新合作成果。此版本專為 Arm 架構（如手機、AI PC）優化生成式 AI 效能，透過先進的量化技術與核心優化（如 Arm KleidiAI），讓開發者能更輕鬆地在邊緣裝置上部署低延遲、低功耗的輕量化大語言模型。
TextQuests: How Good are LLMs at Text-Based Video Games?★ 75
Hugging Face Blog294d agoReleaseHugging Face 發表全新基準測試「TextQuests」，旨在評估大型語言模型（LLM）在文字冒險遊戲（如 Zork）中的表現。這類遊戲要求模型具備強大的自然語言理解、常識推理、長期規劃與狀態追蹤能力。測試結果顯示，儘管現今 LLM 在傳統基準上表現優異，但在面對需要多步驟決策與試錯的文字遊戲時仍面臨極大挑戰。
Announcing Replicate's remote MCP server★ 75
Replicate Blog296d agoNew ToolReplicate 宣布推出遠端 MCP（Model Context Protocol）伺服器，將其平台上的數萬個開源模型直接接入開發工作流。使用者現在無需離開編輯器或聊天介面，即可在 Claude Desktop、Cursor 和 VS Code 等工具中，直接搜尋、比較並執行 Replicate 上的模型。這項更新大幅簡化了開發者測試與整合各種開源 AI 模型（如 Llama、Flux 等）的流程，提升開發效率。
Introducing AI Sheets: a tool to work with datasets using open AI models!★ 75
Hugging Face Blog298d agoNew ToolHugging Face 發表全新工具「AI Sheets」，旨在降低數據集處理的門檻。使用者無需編寫複雜代碼，即可在類似 Excel 的試算表介面中導入數據，並調用 Hugging Face 上的開源 AI 模型進行批量文本分類、翻譯、情感分析或數據增強。這項工具結合了開源生態系的靈活性與直觀的無程式碼操作，大幅提升了數據準備與標記的效率。
Measuring Open-Source Llama Nemotron Models on DeepResearch Bench★ 80
Hugging Face Blog302d agoReleaseNVIDIA 在 Hugging Face 部落格分享了其開源且可移植的深度研究 Agent 成果。透過在 DeepResearch Bench 基準測試上評估開源的 Llama Nemotron 模型，該系統展現出極佳的研究與推理能力。此研究證明了開源模型在複雜、多步驟的研究任務中，已具備與閉源頂尖模型競爭的實力，為開發者提供了一個強大且可本地部署的 Deep Research 解決方案。
TimeScope: How Long Can Your Video Large Multimodal Model Go?★ 75
Hugging Face Blog314d agoReleaseHugging Face 介紹了全新的影片多模態基準測試「TimeScope」，旨在評估 Video LMM 處理長影片的能力。現有基準多侷限於短影片，而 TimeScope 挑戰模型在長時段影片中的時間推理、事件排序與資訊檢索。測試結果顯示，多數現行模型在影片長度增加時，理解與推理能力會顯著下降，揭示了現有技術的瓶頸。
Accelerate a World of LLMs on Hugging Face with NVIDIA NIM★ 80
Hugging Face Blog316d agoReleaseHugging Face 宣布與 NVIDIA 深度整合，推出支援多種 LLM 的 NVIDIA NIM（推理微服務）。開發者現在可以直接在 Hugging Face 平台上，利用經 TensorRT-LLM 優化的 NIM 容器，輕鬆部署 Llama、Mistral 等熱門開源模型，大幅提升推理吞吐量並降低延遲，簡化企業級 AI 應用的落地流程。
Back to The Future: Evaluating AI Agents on Predicting Future Events★ 75
Hugging Face Blog320d agoReleaseHugging Face 發表全新基準測試「FutureBench」，旨在評估 AI Agent 在預測未來事件（如地緣政治、金融市場及科技趨勢）上的表現。該測試挑戰了 Agent 的資訊檢索、機率推理與時間推理能力，有效避免了傳統基準測試中常見的資料洩漏問題。評估結果顯示，目前的 AI Agent 在面對未知的未來事件時，預測準確度與人類專家仍有顯著差距。
Welcome the NVIDIA Llama Nemotron Nano VLM to Hugging Face Hub★ 75
Hugging Face Blog340d agoReleaseNVIDIA 宣布將其輕量級視覺語言模型 Llama Nemotron Nano VLM 上架至 Hugging Face Hub。該模型結合了 Llama 架構與 NVIDIA 的 Nemotron 優化技術，專為邊緣運算與本機端部署設計。它能在低資源設備上高效執行圖像理解、視覺問答（VQA）與 OCR 等任務，為開發者提供更便利的開源多模態選擇。
Groq on Hugging Face Inference Providers 🔥★ 75
Hugging Face Blog351d agoReleaseHugging Face 正式將 Groq 納入其「推理提供商（Inference Providers）」生態系。開發者現在可以直接在 Hugging Face Hub 上，選擇由 Groq 的 LPU 晶片驅動的 API 來運行熱門開源模型（如 Llama 3 和 Mistral）。這項整合不僅簡化了高吞吐量、低延遲應用的開發流程，也為開源模型生態注入了更強大的硬體支援。
Dell Enterprise Hub is all you need to build AI on premises★ 75
Hugging Face Blog375d agoReleaseHugging Face 與 Dell 合作推出 Dell Enterprise Hub，旨在簡化企業在本地端（on-premises）部署 AI 模型的流程。該平台整合了 Dell 的硬體優勢與 Hugging Face 的豐富模型庫，提供經優化的容器與自動化工作流。這讓企業能在確保數據安全與合規的前提下，輕鬆在自家伺服器上運行 Llama、Mistral 等主流開源模型。
Vision Language Models (Better, faster, stronger)★ 80
Hugging Face Blog386d agoOpinionHugging Face 發布 2025 年視覺語言模型（VLM）趨勢報告。文章深入探討 VLM 在「更強（推理與 OCR）」、「更快（輕量化與推論優化）」與「更實用（多模態 Agent）」三大維度的演進。推薦了 Qwen2.5-VL、Llama-3.2-Vision 等主流開源模型，並介紹如何利用 Hugging Face 生態系進行高效部署與微調。