Tiny Agents: an MCP-powered agent in 50 lines of code★ 80
Hugging Face Blog404d agoTutorialHugging Face 發表最新教學，展示如何利用 Model Context Protocol (MCP) 協定，在僅 50 行程式碼內構建出功能完整的 AI Agent。透過 MCP，這個輕量級 Agent 可以直接連接並使用現有的各種 MCP 工具伺服器（如搜尋、資料庫等），無需繁瑣的 API 對接。這項技術大幅降低了開發 Agent 的門檻，並展現了開源標準在 AI 生態系中的強大潛力。
Fluid compute is now the default for new projects
Vercel Changelog406d agoReleaseVercel 宣布其新一代「Fluid Compute」架構現已成為所有新建立專案的預設選項。Fluid Compute 旨在解決傳統 Serverless 的冷啟動延遲與資源配置僵化問題，透過動態資源調度提升執行效率。這項更新讓開發者無需手動設定，即可自動享有更流暢、高效且具成本效益的雲端運算與串流體驗。
Finetuning olmOCR to be a faithful OCR-Engine★ 75
Hugging Face Blog406d agoTutorialAllen AI 推出的 olmOCR 是基於視覺語言模型（VLM）的強大 PDF 轉 Markdown 工具，但在面對嚴謹業務時仍有幻覺或漏字風險。TNG Technology Consulting 分享了他們如何透過精心設計的資料集與微調技術，顯著提升 olmOCR 的「忠實度（Faithfulness）」。微調後的模型能更精準地辨識複雜排版、表格與公式，並大幅降低文字篡改與遺漏，為企業級 OCR 應用提供可靠的開源解決方案。
[AINews] Grok 3 & 3-mini now API Available★ 85
TLDR AI (Buttondown)410d agoReleasexAI 宣布開放旗下旗艦模型 Grok 3 以及全新輕量級模型 Grok 3-mini 的 API 服務。Grok 3-mini 的輸出定價極具市場競爭力，每百萬 token 僅需 0.5 美元。官方聲稱這款輕量模型性能可媲美體積大得多的前沿模型，並能展示完整的推理思考過程（reasoning traces），為開發者在構建 AI 應用時提供高性價比的推理新選擇。
[AINews] Gemini 2.5 Flash completes the total domination of the Pareto Frontier★ 85
TLDR AI (Buttondown)411d agoReleaseGoogle 正式發表 Gemini 2.5 Flash，在 LMArena 的性價比曲線（Pareto Frontier）上展現極強的主導地位。此版本定價精準填補了 2.0 Flash 與 2.5 Pro 之間的空白。最受矚目的新功能是「思考預算（Thinking Budget）」，允許開發者精確設定思考 Token 的上限，相較於 OpenAI 與 Anthropic 僅提供粗略的強弱設定，給予開發者更細緻的控制權。社群普遍認為 Google 近期的執行力與產品發布節奏已完全甦醒。
[AINews] OpenAI o3, o4-mini, and Codex CLI★ 90
TLDR AI (Buttondown)412d agoReleaseOpenAI 正式發表新一代推理模型 o3 與 o4-mini，強調透過 10 倍強化學習（RL）算力提升推理效率。o4-mini 不僅價格更便宜，在多項指標、視覺與工具調用能力上皆有顯著進步。此外，OpenAI 還驚喜推出了完全開源的終端機 AI 工具 Codex CLI，直接對標 Anthropic 的 Claude Code。
Prefill and Decode for Concurrent Requests - Optimizing LLM Performance★ 82
Hugging Face Blog413d agoTutorialLLM 推論包含計算密集的 Prefill（處理輸入）與記憶體頻寬受限的 Decode（逐字生成）階段。當面對多個併發請求時，傳統靜態批處理會導致資源浪費。本文介紹了連續批處理（Continuous Batching）、區塊預填充（Chunked Prefill）以及 Prefill-Decode 分離等技術，幫助開發者在高併發場景下最大化吞吐量並降低延遲。
17 Reasons Why Gradio Isn't Just Another UI Library★ 75
Hugging Face Blog413d agoCommentaryHugging Face 官方部落格解析了 Gradio 脫穎而出的 17 個關鍵原因。Gradio 不僅能用 Python 快速構建機器學習介面，更具備自動生成 API、內建 ChatInterface、支援 WebRTC 即時串流、以及透過 Gradio-lite 在瀏覽器端免伺服器運行的能力。這使其超越了傳統的 UI 框架，成為 AI 開發者將模型轉化為實用產品的強大橋樑。
Cohere on Hugging Face Inference Providers 🔥★ 75
Hugging Face Blog413d agoReleaseHugging Face 宣布與 Cohere 合作，將其納入「推論提供商（Inference Providers）」生態系。現在開發者可以直接在 Hugging Face Hub 上，透過 Cohere 的託管服務免伺服器（Serverless）調用 Command R 和 Command R+ 等熱門模型。這項整合簡化了開發流程，讓用戶無需自行部署即可在 HF 生態系中無縫測試與整合 Cohere 的強大語言模型。
Introducing HELMET: Holistically Evaluating Long-context Language Models★ 80
Hugging Face Blog413d agoReleaseHugging Face 介紹了由普林斯頓大學等機構提出的 HELMET 基準測試，旨在解決現有長文本評估（如 Needle In A Haystack）過於單一的問題。HELMET 包含 7 大類、11 個真實應用數據集，涵蓋長文本問答、摘要、資訊檢索與程式碼生成等。測試結果顯示，許多宣稱擁有超長上下文的模型，在實際複雜任務中的有效性能會隨著長度增加而顯著衰退。
[AINews] GPT 4.1: The New OpenAI Workhorse★ 85
TLDR AI (Buttondown)414d agoReleaseOpenAI 正式發表全新主力模型 GPT 4.1，定位為兼顧效能與成本的「工作馬（Workhorse）」。本次更新同步推出 MRCR 與 GraphWalks 兩項全新基準測試，並釋出官方 Prompt 指南與 Cookbook。此外，社群（如 Reddit 與 Discord）也熱烈討論 GLM-4 強化學習模型與 DeepSeek 的開源貢獻。
4M Models Scanned: Protect AI + Hugging Face 6 Months In★ 75
Hugging Face Blog415d agoReleaseHugging Face 與 AI 安全公司 Protect AI 合作滿六個月，宣布已完成平台上 400 萬個開源模型的安全掃描。此項合作旨在解決開源模型（特別是含有 pickle 反序列化風險的舊格式）中潛在的惡意代碼與安全漏洞。透過自動化安全掃描與漏洞標記，雙方共同為全球開發者建構更安全、更值得信賴的 AI 供應鏈生態。
Hugging Face to sell open-source robots thanks to Pollen Robotics acquisition 🤖★ 85
Hugging Face Blog415d agoBusinessHugging Face 正式收購法國機器人公司 Pollen Robotics，將其硬體技術與 Hugging Face 的 LeRobot 開源機器人平台深度整合。此舉標誌著 Hugging Face 正式進軍實體機器人硬體領域，未來將致力於降低機器人開發門檻，並直接向開發者與研究人員銷售開源機器人硬體，加速具身智能（Embodied AI）的普及。
[AINews] not much happened today
TLDR AI (Buttondown)417d agoCommentary本期 AINews 指出這幾天 AI 領域相對平靜，並無重大新聞發布。編輯特別推薦讀者收聽 Latent.Space 最新釋出的節目，內容聚焦於 SF Compute 以及 GPU 新興雲端服務（Neocloud）的發展與討論。這對於關注 AI 算力基礎設施、GPU 租賃市場與雲端運算趨勢的開發者與創業者來說，是相當值得參考的產業情報。
Visual Salamandra: Pushing the Boundaries of Multimodal Understanding★ 70
Hugging Face Blog417d agoRelease巴塞隆納超級電腦中心（BSC-LT）正式發布 Visual Salamandra 7B 多模態模型。該模型以其自主研發的 Salamandra 7B 語言模型為基礎，融合了先進的視覺編碼器，旨在提升圖像理解、視覺問答及 OCR 能力。特別的是，它承襲了 Salamandra 家族在西班牙語、加泰隆尼亞語等多語言環境下的優異表現，為開源多模態社群注入新選擇。
[AINews] not much happened today★ 75
TLDR AI (Buttondown)418d agoReleaseSam Altman 宣傳了 ChatGPT 的「記憶（Memory）」功能更新，同時市場傳出 o3、o4-mini 即將推出，以及 GPT-4o 將升級為 GPT-4.1 的洩露消息。 xAI 正式推出 Grok 3 與 Grok 3 mini 的 API，Epoch AI 曾短暫證實其具備 o1 等級的推理能力。 社群方面，Qwen3 宣布延期推出，而 AI Engineer World's Fair 2025 也正展開熱烈徵稿。
[AINews] Google's Agent2Agent Protocol (A2A)★ 85
TLDR AI (Buttondown)419d agoReleaseGoogle 在 Cloud Next 大會上宣布雙重重磅消息：全面支援 Anthropic 的 MCP 協定，並推出全新的 Agent2Agent (A2A) 協定。A2A 旨在與 MCP 互補，解決跨遠端 Agent 溝通的痛點。該規範包含 Agent Card、Task 機制、企業級認證與推播支援，並同步開源了草案規範與 Agent 開發套件（ADK）。
[AINews] DeepCoder: A Fully Open-Source 14B Coder at O3-mini Level★ 85
TLDR AI (Buttondown)419d agoReleaseTogether 與 Agentica Project（曾推出 DeepScaleR）聯合發表了全新 14B 程式碼推理模型「DeepCoder」。該模型完全開源，並採用 GPRO+（Group Relative Policy Optimization+）強化學習技術。在多項程式碼基準測試中，DeepCoder 展現出媲美 OpenAI o3-mini 的強大實力，是開源 AI 推理領域的重大突破。
Hugging Face and Cloudflare Partner to Make Real-Time Speech and Video Seamless with FastRTC★ 75
Hugging Face Blog420d agoNew ToolHugging Face 宣布與 Cloudflare 達成合作，將其開源即時通訊庫 FastRTC 與 Cloudflare 的 WebRTC 基礎設施（如 Cloudflare Calls）進行深度整合。此合作旨在解決即時語音和視訊 AI 應用在部署時面臨的高延遲與複雜網路設定難題。開發者現在可以更輕鬆地在全球邊緣網路上建構並擴展低延遲的互動式 AI 體驗。
Arabic Leaderboards: Introducing Arabic Instruction Following, Updating AraGen, and More
Hugging Face Blog421d agoReleaseHugging Face 宣布升級其阿拉伯語大語言模型（LLM）評估體系。本次更新重點引入了「阿拉伯語指令遵循（Arabic IFEval）」評估，用以測試模型執行特定格式與約束指令的能力；同時更新了阿拉伯語生成基準「AraGen」。這些舉措旨在解決非英語系評估資源不足的問題，為全球開源社群提供更精準的阿拉伯語模型評估工具。
Welcome Llama 4 Maverick & Scout on Hugging Face★ 95
Hugging Face Blog424d agoReleaseMeta 正式於 Hugging Face 平台上架了備受矚目的 Llama 4 家族首批模型：Maverick 與 Scout。這標誌著開源大語言模型正式邁入 Llama 4 時代。雖然詳細技術細節仍待官方完整白皮書披露，但從命名來看，Scout 預期為輕量、高效率的「偵察型」模型，適合邊緣運算與 Agent 任務；而 Maverick 則可能是主打強大推理與複雜任務處理的「王牌」模型。這兩款模型的釋出將為開源社群注入全新動力。
Journey to 1 Million Gradio Users!
Hugging Face Blog425d agoCommentaryHugging Face 發表文章慶祝旗下開源機器學習網頁介面庫 Gradio 的使用者正式突破 100 萬人。文章回顧了 Gradio 自創立以來的成長軌跡，如何透過極簡的 Python 程式碼讓開發者快速部署 AI 互動 Demo，並探討其在 Hugging Face 生態系中扮演的關鍵角色與未來展望。
The NLP Course is becoming the LLM Course★ 85
Hugging Face Blog426d agoTutorialHugging Face 宣布將其廣受歡迎的經典「NLP 課程（NLP Course）」正式轉型並升級為「LLM 課程（LLM Course）」。這項轉變反映了 AI 領域從傳統 NLP（如 BERT、分類與命名實體識別）向大語言模型（如 Llama、生成式 AI、RAG 與 Agent）的典範轉移。新課程將全面更新，涵蓋現代 LLM 架構、微調（PEFT/LoRA）、對齊（RLHF/DPO）及應用開發，繼續提供免費且高品質的開源學習資源。
Efficient Request Queueing – Optimizing LLM Performance★ 75
Hugging Face Blog426d agoTutorial隨著大語言模型（LLM）應用的普及，如何在高併發流量下維持低延遲與高吞吐量成為關鍵挑戰。本文深入分析了 LLM 推論的記憶體瓶頸（特別是 KV Cache），並探討如何結合「連續批處理（Continuous Batching）」與「請求佇列（Request Queueing）」機制。透過在推論引擎層與網關層實施合理的佇列策略，能有效防止 GPU 記憶體溢位（OOM），並在維持高吞吐量的同時，優化首字延遲（TTFT）與字元間延遲（ITL）。
🚀 Accelerating LLM Inference with TGI on Intel Gaudi★ 75
Hugging Face Blog432d agoReleaseHugging Face 宣布其文字生成推理（TGI）框架現已整合 Intel Gaudi 加速器後端。這項合作讓開發者能直接在 Intel Gaudi 2 和 Gaudi 3 晶片上部署高效能 LLM，並享有連續批處理（Continuous Batching）與張量並行（Tensor Parallelism）等優化技術。此舉為企業在 NVIDIA 之外，提供了一個極具成本效益且易於部署的 AI 推理硬體新選擇。
Open R1: Update #4★ 85
Hugging Face Blog433d agoReleaseHugging Face 釋出 Open R1 專案的第四次技術更新。本階段重點在於提升 TRL 框架中 GRPO（群體相對策略最佳化）的訓練效率與記憶體最佳化，並釋出針對數學與程式碼推理的全新合成資料集。團隊分享了在 Qwen 與 Llama 模型上進行強化學習（RL）訓練的最新評測結果，為開源社群複製 DeepSeek-R1 的推理能力提供更完整的實踐指南。
Training and Finetuning Reranker Models with Sentence Transformers★ 80
Hugging Face Blog434d agoTutorialHugging Face 釋出全新教學，詳細介紹如何利用 Sentence Transformers 庫訓練與微調 Reranker（重排）模型。Reranker 在 RAG 系統中扮演關鍵角色，能對初步檢索的文檔進行二次精準排序。本文涵蓋資料準備、損失函數選擇、訓練流程及評估方法，幫助開發者針對特定領域優化檢索效果。
Introducing Gradio's new Dataframe!★ 75
Hugging Face Blog436d agoReleaseHugging Face 旗下的 Gradio 宣布推出全新設計的 Dataframe 元件。本次升級徹底解決了過去處理大數據時的卡頓問題，引入虛擬滾動技術，並新增了類似 Excel 的複製貼上、欄位排序、篩選與搜尋功能。此外，新版 Dataframe 還支援單元格內嵌富文本（如 Markdown 與圖片），為 AI 應用的數據展示與標註帶來極大便利。
The New and Fresh analytics in Inference Endpoints
Hugging Face Blog439d agoReleaseHugging Face 宣布為其託管式部署服務 Inference Endpoints 推出全新的分析（Analytics）儀表板。此更新帶來了更直觀且即時的數據視覺化，讓開發者能輕鬆監控請求量、延遲、Token 消耗與錯誤率。這項改進大幅提升了生產環境中 AI 模型的觀測性，有助於開發者進行效能調優與成本控制。
xAI and Vercel partner to bring zero-friction AI to developers★ 75
Vercel Changelog440d agoReleaseVercel 宣布與 xAI 展開合作，將 Grok 系列模型深度整合至 Vercel AI SDK。開發者現在可以透過 Vercel 平台快速配置環境變數、使用專屬 Next.js 模板，並以極低門檻將 xAI 的強大推理與即時檢索能力融入 Web 應用中，實現零摩擦的 AI 開發體驗。