Run Snowflake Arctic with an API
Replicate Blog773d agoNew ToolSnowflake 推出全新開源企業級大語言模型 Arctic，採用 MoE（混合專家）架構。Replicate 迅速跟進，提供託管 API 服務。開發者現在無需自行配置昂貴的 GPU 硬體，只需透過 Replicate 的 API 或 SDK，即可用極低的成本與簡單的程式碼，在雲端部署並運行這款強大的開源模型。
Introducing the Open Chain of Thought Leaderboard★ 75
Hugging Face Blog773d agoReleaseHugging Face 發表「Open Chain of Thought (CoT) 排行榜」，旨在解決傳統基準測試無法有效評估模型推理過程的問題。該排行榜專注於數學、邏輯與科學等需要多步驟思考的任務，並提供公開透明的評測標準。這將幫助開發者與研究人員深入了解開源模型在複雜推理上的真實實力與瓶頸。
Jack of All Trades, Master of Some, a Multi-Purpose Transformer Agent★ 75
Hugging Face Blog774d agoReleaseHugging Face 發表通用型代理人 JAT（Jack of All Trades），採用統一的 Transformer 架構，在 Atari、BabyAI、Meta-World 等多種強化學習環境與文字任務上進行聯合訓練。此研究展示了單一模型如何同時掌握多種不同領域的技能，並開源了數據集與模型權重，推動具身智能發展。
The Open Medical-LLM Leaderboard: Benchmarking Large Language Models in Healthcare★ 75
Hugging Face Blog777d agoReleaseHugging Face 與 Open Life Science AI 等機構合作推出「Open Medical-LLM Leaderboard」。該排行榜整合了 MedQA、MedMCQA、PubMedQA 及 MMLU 醫學子集等基準測試，旨在客觀評估 LLM 在醫療與臨床任務上的表現。這為醫療領域的 AI 研究人員與開發者提供了一個公開、標準化且易於比較的評估平台，有助於推動安全且精確的醫療 AI 發展。
How Global Retail Brands cut development time from months to 1 week with Vercel
Vercel Changelog778d agoBusiness本文探討全球零售品牌如何利用 Vercel 擺脫傳統單體式架構的束縛。透過採用 Next.js 與組合式商務（Composable Commerce），並結合 Vercel 的即時預覽與視覺化編輯功能，企業得以打破跨部門溝通壁壘，將原本需要數月的開發與部署流程縮短至短短一週，顯著提升市場反應速度。
Run Meta Llama 3 with an API★ 75
Replicate Blog778d agoNew ToolMeta 推出全新開源大語言模型 Llama 3，Replicate 平台已同步支援。開發者可透過 Replicate API 快速部署並運行 Llama 3 8B 與 70B 的 Instruct 版本。本文介紹如何使用 Python、JavaScript 或 cURL，僅需一行程式碼即可在雲端進行推理，並享受按秒計費與自動擴展的優勢。
Welcome Llama 3 - Meta's new open LLM★ 95
Hugging Face Blog778d agoReleaseMeta 正式推出全新一代開源大型語言模型 Llama 3，首波釋出 8B 與 70B 兩種參數版本。此版本採用 128k 詞彙量的新分詞器、支援 8K 上下文長度，並在超過 15 兆 Token 的超大資料集上進行訓練，程式碼與推理能力皆有飛躍性提升。Hugging Face 生態系已在第一時間全面整合，支援 Llama 3 的部署、微調與推論，為開源 AI 社群注入強大動力。
Building an interactive 3D event badge with React Three Fiber
Vercel Changelog779d agoTutorialVercel 釋出技術專文，詳細拆解如何利用 React Three Fiber (R3F) 與 Rapier 物理引擎，製作出如真實掛繩般擺動的 3D 互動識別證。文章涵蓋 3D 物理碰撞模擬、動態紋理貼圖（將用戶資料即時渲染至 3D 表面）以及效能優化細節，是前端開發者進階 3D 網頁視覺與互動設計的實用指南。
Introducing the LiveCodeBench Leaderboard - Holistic and Contamination-Free Evaluation of Code LLMs★ 75
Hugging Face Blog780d agoReleaseHugging Face 宣布上線 LiveCodeBench 排行榜，旨在解決傳統程式碼評估基準（如 HumanEval）容易遭受數據污染的問題。LiveCodeBench 透過持續收集 LeetCode、AtCoder 等平台的全新編程競賽題目，確保模型在未曾接觸過的數據上進行測試。該基準不僅評估程式碼生成，還涵蓋程式碼修復、測試案例生成及執行等多維度能力，為 Code LLM 提供更客觀、動態的實力排名。
Running Privacy-Preserving Inferences on Hugging Face Endpoints★ 75
Hugging Face Blog780d agoReleaseHugging Face 與開源密碼學公司 Zama 合作，介紹如何在 Hugging Face Endpoints 上部署全同態加密（FHE）模型。透過 FHE 技術，用戶的敏感數據在傳輸與計算過程中皆保持加密狀態，雲端伺服器可在不解密的情況下完成推理。此方案為醫療、金融等高隱私需求行業提供了一種安全使用雲端 AI 算力的新途徑。
AI Apps in a Flash with Gradio's Reload Mode★ 70
Hugging Face Blog780d agoNew ToolHugging Face 介紹了 Gradio 的「Reload 模式」（熱重載）。開發者只需使用 `gradio app.py` 指令啟動服務，之後修改任何 UI 佈局或 Python 代碼並儲存，瀏覽器便會自動刷新呈現最新效果。這免去了過去頻繁手動重啟 Python 伺服器的繁瑣步驟，讓 AI 應用的原型設計與迭代變得無比流暢。
Ryght’s Journey to Empower Healthcare and Life Sciences with Expert Support from Hugging Face
Hugging Face Blog780d agoBusiness生醫 AI 平台 Ryght 宣布與 Hugging Face 專家支援團隊合作。面對醫療領域嚴格的 HIPAA 合規性、複雜的醫學術語與高昂的模型微調成本，Ryght 透過 Hugging Face 的技術指導，優化了開源模型的微調與推理效率。此合作成功讓 Ryght 快速推出專為臨床研究與數據分析設計的安全 AI 助理，大幅降低運算成本並縮短產品上市時間。
Introducing Idefics2: A Powerful 8B Vision-Language Model for the community★ 80
Hugging Face Blog781d agoReleaseHugging Face 正式發布 Idefics2，這是一款擁有 80 億參數的開源視覺語言模型（VLM）。它基於 Mistral-7B 與 SigLIP 構建，顯著提升了 OCR、圖表理解及多圖對話能力。Idefics2 支援原生解析度與長寬比，並以 Apache 2.0 授權釋出，極適合開發者進行微調與商業部署。
Releasing safe and cost-efficient blue-green deployments★ 75
Vercel Changelog784d agoReleaseVercel 宣布推出安全且具成本效益的藍綠部署功能。此功能解決了傳統部署中常見的版本傾斜（Skew）問題，確保客戶端不會因版本更新而載入錯誤的靜態資源。透過 Vercel 的智慧路由，開發者可以實現零停機時間的無縫切換與即時回滾，且得益於 Serverless 架構，無需支付雙倍的閒置伺服器成本。
Vision Language Models Explained★ 80
Hugging Face Blog785d agoTutorialHugging Face 發布視覺語言模型（VLM）科普指南，詳解其結合圖像編碼器與文字解碼器的架構設計。文章涵蓋了從多模態預訓練到指令微調的完整訓練流程，並介紹了 LLaVA、Idefics 等主流開源模型。此外，也提供了如何使用 Hugging Face transformers 庫進行推理的實用程式碼範例，是理解多模態 AI 的必讀教材。
Creating a robust platform for documentation with Next.js and Vercel
Vercel Changelog786d agoTutorial本文深入探討使用 Next.js 和 Vercel 構建現代化文件平台的最佳實踐。內容涵蓋利用 MDX 實現富文字與互動式元件、透過增量靜態再生 (ISR) 確保文件即時更新與極速載入，以及整合現代搜尋引擎。這套架構能有效提升開發者體驗，並確保文件系統具備高度的可擴充性與優異的 SEO 表現。
Making thousands of open LLMs bloom in the Vertex AI Model Garden★ 75
Hugging Face Blog786d agoReleaseHugging Face 宣布與 Google Cloud 合作，將其平台上數千個開源大語言模型（LLM）整合至 Vertex AI Model Garden。開發者現在無需複雜的設定，即可直接在 Google Cloud 環境中一鍵部署、微調及管理這些開源模型。此舉大幅降低了企業在雲端部署開源 AI 模型的門檻，並提升了運算資源的利用效率。
Composable AI for ecommerce: Hands-on with Vercel’s AI SDK★ 75
Vercel Changelog787d agoTutorial本指南介紹如何將 Vercel AI SDK 應用於電子商務，實現「可組合式 AI（Composable AI）」。開發者可以輕鬆整合多種 LLM，並利用 Generative UI 技術，讓 AI 助手在對話中直接渲染動態的商品卡片、購物車與結帳元件，大幅提升電商平台的互動率與轉換率。
CodeGemma - an official Google release for code LLMs★ 80
Hugging Face Blog787d agoReleaseGoogle 官方正式發布 CodeGemma 程式碼模型系列，基於 Gemma 架構。提供專攻 IDE 程式碼補全（Fill-in-the-Middle）的 2B 版本，以及適合程式碼生成與對話的 7B 版本。該系列模型已深度整合至 Hugging Face 生態系，支援多種主流程式語言，為開發者提供高效且可本地運行的開源 AI 助手選擇。
How Ruggable saw 300% more organic clicks by optimizing their frontend architecture
Vercel Changelog788d agoBusiness知名地毯電商 Ruggable 面臨舊有前端架構導致的效能瓶頸與 SEO 劣勢。透過採用 Vercel 與 Next.js，他們優化了 Core Web Vitals（核心網頁指標），顯著提升行動端與桌機端的網頁載入速度。這項前端架構的升級不僅改善了使用者體驗，更讓其 Google 有機搜尋點擊量大幅成長 300%。
Public Policy at Hugging Face
Hugging Face Blog788d agoOpinionHugging Face 宣布其公共政策（Public Policy）倡議，旨在橋接 AI 社群與全球政策制定者。他們強調開源 AI 對於安全性、市場競爭與創新至關重要。未來將持續參與歐盟 AI 法案、美國行政命令等政策討論，確保開源開發者的聲音被聽見，避免過度監管扼殺創新。
Improved infrastructure pricing★ 80
Vercel Changelog792d agoReleaseVercel 針對基礎設施計費進行重大改革，將 Pro 方案的超額頻寬價格減半至每 100 GB $20 美元，Serverless 函數執行費用也調降近 67%。此外，官方終於推出了社群期盼已久的「消費限制（Spend Limits）」功能，允許開發者設定硬性上限，避免因惡意流量、DDoS 攻擊或程式錯誤產生無法負擔的天價帳單。
Hugging Face partners with Wiz Research to Improve AI Security★ 75
Hugging Face Blog792d agoBusinessHugging Face 宣布與知名雲端安全廠商 Wiz Research 建立合作夥伴關係。雙方將共同致力於識別並修復 Hugging Face 平台上的安全漏洞，特別是針對模型託管、租戶隔離以及 Spaces 的容器安全。此合作旨在為開源 AI 社群建立更強大的安全防禦機制，防範惡意模型與潛在的雲端基礎設施攻擊。
Text2SQL using Hugging Face Dataset Viewer API and Motherduck DuckDB-NSQL-7B★ 75
Hugging Face Blog792d agoTutorial這篇 Hugging Face 部落格文章介紹了一種實用的 Text2SQL（自然語言轉 SQL）解決方案。透過 Hugging Face Dataset Viewer API 獲取數據集的結構與 Schema，並利用 MotherDuck 開源的 DuckDB-NSQL-7B 模型，將使用者的提問轉化為 DuckDB 兼容的 SQL 查詢。這讓開發者與數據分析師無需手動下載數據，即可直接對 Hugging Face 上的海量數據集進行即時的自然語言數據分析。
Blazing Fast SetFit Inference with 🤗 Optimum Intel on Xeon
Hugging Face Blog793d agoTutorialSetFit 是一款高效的少樣本文字分類框架。本文介紹如何結合 Hugging Face Optimum Intel，在 Intel Xeon 處理器上進行硬體級推論加速。透過 OpenVINO 等技術，開發者無需 GPU 即可在 CPU 上實現極低延遲與高吞吐量的 NLP 模型部署。
Bringing serverless GPU inference to Hugging Face users★ 75
Hugging Face Blog794d agoReleaseHugging Face 宣布與 Cloudflare 深度整合，推出無伺服器 GPU 推理服務。開發者現在可以直接在 Hugging Face Hub 上，一鍵將熱門的開源模型（如 Llama 和 Mistral）部署至 Cloudflare Workers AI。這項合作免除了管理 GPU 基礎設施的繁瑣工作，並利用 Cloudflare 的全球邊緣網路提供低延遲、高彈性的 AI 推理能力。
Design Engineering at Vercel★ 75
Vercel Changelog798d agoOpinionVercel 探討了「設計工程」（Design Engineering）在其產品開發中的核心作用。設計工程師同時具備設計美感與前端開發能力，負責填補 Figma 藍圖與最終產品之間的鴻溝。文章強調「在程式碼中進行設計」的迭代流程，並分享 Vercel 如何透過高度專注於細節、動畫與互動，將「工藝精神」（Craft）融入產品，為用戶帶來流暢且精緻的介面體驗。
Demant achieves global scalability and 30x faster response times with Vercel
Vercel Changelog798d agoBusiness全球聽力保健集團 Demant 宣布將其數位基礎設施遷移至 Vercel 平台。透過 Vercel 的全球邊緣網路與 Next.js 技術，Demant 不僅解決了跨國網站的全球擴展性難題，更將網頁響應時間大幅縮短 30 倍。此舉顯著提升了全球用戶的數位體驗，同時優化了開發團隊的部署流程與效率，展現了現代前端雲端平台的強大優勢。
Pollen-Vision: Unified interface for Zero-Shot vision models in robotics★ 75
Hugging Face Blog802d agoNew ToolPollen-Vision 是一個專為機器人設計的開源視覺庫，旨在簡化 Zero-Shot（零樣本）視覺模型（如 OWL-ViT、SAM 等）的整合。它提供統一的 API，讓機器人無需重新訓練即可透過自然語言或點擊來識別與定位物體。此工具能顯著降低機器人視覺開發的門檻，加速具身智能（Embodied AI）的應用落地。
Protecting AI apps from bots and bad actors with Vercel and Kasada★ 75
Vercel Changelog805d agoNew ToolVercel 與防 Bot 專家 Kasada 展開合作，旨在保護 AI 應用免受自動化機器人、API 濫用與資料爬取的威脅。由於 AI 應用的 API 呼叫成本高昂，極易成為惡意攻擊者的目標。透過此整合，開發者可在 Vercel Edge 部署隱形防禦，無需使用惱人的 CAPTCHA 驗證碼，即可有效攔截惡意流量，保護 LLM 預算並維護良好的使用者體驗。