Introducing the Vercel Web Application Firewall★ 70
Vercel Changelog743d agoReleaseVercel 宣布推出原生的 Web Application Firewall (WAF)，直接整合於其 Edge 網路中，無須額外配置第三方服務。該 WAF 提供針對 OWASP Top 10 漏洞（如 SQL 注入、XSS）的防護、自訂安全規則、速率限制以及 IP/地理位置阻擋。此功能旨在協助開發者與企業輕鬆提升應用程式安全性，降低惡意流量與 Bot 攻擊帶來的風險與成本。
Shared network vulnerability disclosure★ 75
Replicate Blog743d agoIncidentAI 模型託管平台 Replicate 揭露了一項已修復的嚴重安全漏洞。該漏洞由雲端安全公司 Wiz 發現，源於多租戶環境下的共享網路配置缺陷。攻擊者可透過上傳惡意模型，繞過容器隔離並存取其他用戶的私有模型、輸入與輸出數據。Replicate 已於第一時間完成修復、加強網路隔離，並確認除研究人員的測試外，無其他用戶數據外洩。
Deploy models on AWS Inferentia2 from Hugging Face★ 75
Hugging Face Blog744d agoReleaseHugging Face 宣布其託管服務 Inference Endpoints 正式支援 AWS Inferentia2 (Inf2) 執行個體。這項整合讓開發者無需繁瑣的編譯設定，即可將 Llama、Mistral 等大型語言模型部署至 AWS 的專屬推論晶片上。相較於傳統 GPU，Inferentia2 能大幅降低推論成本並提升吞吐量，為企業提供更具成本效益的生產環境部署選擇。
Introducing Spaces Dev Mode for a seamless developer experience★ 75
Hugging Face Blog745d agoReleaseHugging Face 宣布推出「Spaces Dev Mode（開發者模式）」，解決過去開發 Spaces 需頻繁 Git push 的痛點。新模式支援 SSH 連線與本地 VS Code 整合，程式碼變更可即時同步並熱重載，大幅縮短 AI 應用的開發與除錯週期，提供更流暢的雲端開發體驗。
Build AI on premise with Dell Enterprise Hub★ 75
Hugging Face Blog745d agoReleaseHugging Face 與 Dell 聯手推出 Dell Enterprise Hub，旨在簡化企業在地端（On-Premise）部署 AI 模型的流程。該平台提供針對 Dell PowerEdge 等硬體優化的容器與主流開源模型（如 Llama 3、Mistral），確保高效能與安全性。企業用戶可直接在熟悉的 Dell 基礎設施中一鍵部署、微調開源模型，完美解決資料隱私與合規性痛點。
From cloud to developers: Hugging Face and Microsoft Deepen Collaboration★ 75
Hugging Face Blog745d agoBusinessHugging Face 宣布與微軟深化合作，將其開源模型庫與 Azure AI Studio 進行深度整合。開發者現在可以直接在 Azure 上以無伺服器 API（Model-as-a-Service）形式部署熱門開源模型。此外，雙方也加強了對 Windows AI 本地端運算（如 ONNX Runtime）的支援，全面打通從雲端到邊緣端的開發流程。
Hugging Face on AMD Instinct MI300 GPU★ 75
Hugging Face Blog745d agoReleaseHugging Face 宣布與 AMD 展開深度合作，全面優化 AMD Instinct MI300X GPU。透過 AMD ROCm 軟體棧與 Hugging Face 核心庫（如 Transformers、TGI）的無縫整合，開發者無需修改程式碼即可在 MI300X 上運行 Llama 3 等大型模型。MI300X 憑藉 192GB HBM3 超大記憶體，為企業提供極具性價比且能擺脫單一晶片供應商依賴的高效能 AI 算力選擇。
Securing data in your Next.js app with Okta and OpenFGA
Vercel Changelog750d agoTutorialVercel 發布技術指南，展示如何利用 Okta 與 OpenFGA 保護 Next.js 應用程式的資料安全。 透過 Okta 處理使用者身分驗證（Authentication），並結合 OpenFGA 實現基於關係的細粒度授權（ReBAC）。 此方案能有效解決複雜的權限管理需求，適合正在構建企業級 SaaS 或需要嚴格存取控制的 Next.js 開發者。
Unlocking Longer Generation with Key-Value Cache Quantization★ 80
Hugging Face Blog750d agoTutorial隨著 LLM 上下文長度增加，KV Cache 佔用的記憶體成為推論瓶頸。Hugging Face 探討了 KV Cache 量化技術（如 INT8 和 INT4），這項技術能減少高達 75% 的快取記憶體佔用。這不僅能顯著提升推論的批次大小（Batch Size），還能在不犧牲太多精度的情況下，讓消費級顯卡也能運行超長文本生成。
PaliGemma – Google's Cutting-Edge Open Vision Language Model★ 80
Hugging Face Blog752d agoReleaseGoogle 發表全新開源視覺語言模型 PaliGemma，結合了 SigLIP 視覺編碼器與 Gemma-2B 語言模型。PaliGemma 具備強大的圖像描述、視覺問答（VQA）、物件偵測與 OCR 能力，並提供多種解析度版本。該模型已深度整合至 Hugging Face 生態系，非常適合開發者進行特定下游任務的微調。
Hugging Face x LangChain : A new partner package★ 80
Hugging Face Blog752d agoReleaseHugging Face 與 LangChain 宣布推出全新的官方合作夥伴套件 langchain-huggingface。此套件旨在簡化開源模型與 LangChain 生態系的整合，提供更穩定、高效的連接方式。開發者現在可以透過統一的 API，輕鬆調用 Hugging Face 上的嵌入模型、本地 Pipeline 以及託管端點，大幅提升開發效率。
Introducing the Open Arabic LLM Leaderboard
Hugging Face Blog752d agoReleaseHugging Face 宣布推出「Open Arabic LLM Leaderboard」，這是一個專為阿拉伯語大語言模型設計的開源評測排行榜。該平台旨在解決阿拉伯語在 AI 評測上的資源匱乏問題，透過多維度的基準測試（如文化理解、推理與語言生成），幫助社群客觀評估並推動阿拉伯語 AI 模型的發展。
License to Call: Introducing Transformers Agents 2.0★ 80
Hugging Face Blog753d agoReleaseHugging Face 推出 Transformers Agents 2.0，對其 Agent 框架進行了全面重構。新版本主打兩大核心 Agent：能直接撰寫並執行 Python 程式碼的 CodeAgent，以及基於 ReAct 思考循環的 ReactAgent。此版本大幅簡化了工具（Tools）的自訂與分享機制，並支援多種開源與商業 LLM，為開發者提供更靈活、強大的 Agent 開發體驗。
How Vercel helped Desenio future-proof their business
Vercel Changelog757d agoBusiness歐洲知名壁掛藝術電商 Desenio 面臨舊有單體架構導致的效能與擴展瓶頸。透過採用 Vercel 與 Next.js 轉型為無頭電商（Headless Commerce）架構，Desenio 不僅大幅改善了 Core Web Vitals 等網頁效能指標，更將部署時間從數天縮短至數分鐘，成功提升全球市場的用戶體驗與轉換率。
7 AI features you can add to your app today★ 75
Vercel Changelog757d agoTutorialVercel 官方部落格整理了 7 個現代網頁應用必備的 AI 功能，並展示如何利用 Vercel AI SDK 快速實現。這些功能涵蓋了即時串流聊天、結構化 JSON 輸出、工具調用（Tool Calling）、動態生成式 UI（Generative UI）、語意搜尋（RAG）、圖像生成以及語音整合。這篇文章為想要提升產品體驗的 Web 開發者提供了具體的實作方向與程式碼範例。
Subscribe to Enterprise Hub with your AWS Account
Hugging Face Blog757d agoBusinessHugging Face 宣布其企業級平台 Enterprise Hub 已正式上架 AWS Marketplace。企業客戶現在可以直接使用現有的 AWS 帳戶進行訂閱，並將費用合併至 AWS 帳單中，簡化企業內部的採購與財務審批流程。此舉讓企業能更安全、合規地在 AWS 雲端環境中協作、部署與管理開源 AI 模型與數據集。
Building Cost-Efficient Enterprise RAG applications with Intel Gaudi 2 and Intel Xeon★ 70
Hugging Face Blog757d agoTutorial本文介紹如何結合 Intel Gaudi 2 AI 加速器與 Intel Xeon 處理器，打造具成本效益的企業級檢索增強生成（RAG）應用。透過 Hugging Face 的 TEI 與 TGI 技術，企業能在 Xeon 上高效處理向量嵌入，並在 Gaudi 2 上加速大語言模型推理，為非 Nvidia 生態系提供強大的替代方案。
Introducing the Open Leaderboard for Hebrew LLMs!
Hugging Face Blog761d agoReleaseHugging Face 宣布推出「希伯來語 LLM 開放排行榜」（Open Leaderboard for Hebrew LLMs）。該平台旨在為希伯來語的大型語言模型提供客觀、標準化且開源的評估基準，解決非英語系語言在主流評測中資源匱乏的問題，有助於開發者評估與優化特定語系模型的表現。
Vercel Functions are now faster—and powered by Rust★ 75
Vercel Changelog763d agoReleaseVercel 宣布將 Vercel Functions（無伺服器函式）的底層請求路由與執行引擎改用 Rust 重寫。此項升級對開發者完全透明，無需修改任何程式碼，即可自動享受平均縮短 35% 的冷啟動時間，並顯著降低執行開銷與延遲，讓 Web 應用程式反應更迅速。
How Dub grew to 3,000 active domains with Vercel’s multi-tenant SaaS toolkit
Vercel Changelog763d agoBusiness開源連結管理平台 Dub.co 分享了他們如何利用 Vercel 的多租戶 SaaS 工具包（Multi-tenant SaaS Toolkit）解決用戶自訂網域的技術難題。透過 Vercel 的 Domains API 與 Edge Middleware，Dub 能夠在幾秒鐘內為用戶自動配置自訂網域與 SSL 憑證。此方案不僅降低了基礎設施的維護成本，更幫助 Dub 成功管理超過 3,000 個活動網域，實現高效的規模化擴展。
Bringing the Artificial Analysis LLM Performance Leaderboard to Hugging Face★ 75
Hugging Face Blog763d agoNew ToolHugging Face 宣布與獨立評測機構 Artificial Analysis 合作，將其 LLM 效能排行榜引入平台。該榜單不僅評估模型品質，更著重於實際部署指標，如吞吐量（Tokens/sec）、首字延遲（TTFT）與每百萬 Token 的成本。這讓開發者在選擇模型與託管服務商（如 Groq、Together AI 等）時，能有更直觀且數據驅動的決策依據。
Vercel AI SDK 3.1: ModelFusion joins the team★ 85
Vercel Changelog764d agoReleaseVercel 正式發布 AI SDK 3.1，並宣布開源專案 ModelFusion 的創辦人 Lars Grammel 加入 Vercel 團隊。本次更新引入了全新的 Core API（如 generateText 與 streamText），提供統一且型別安全的介面來操作各大 LLM。此外，新版本大幅簡化了結構化資料生成（Structured Outputs）與工具調用（Tool Calling）的開發流程。
Vercel supports HIPAA compliance
Vercel Changelog765d agoReleaseVercel 正式支援美國 HIPAA 合規性，允許醫療保健與生命科學領域的企業在其平台上建構與部署應用。透過與 Vercel 簽署商業夥伴協議（BAA），企業能安全地處理受保護的健康資訊（PHI）。此舉結合了 Vercel 的高效能前端工作流與嚴格的醫療級安全標準，為醫療科技開發者掃除合規障礙。
Powerful ASR + diarization + speculative decoding with Hugging Face Inference Endpoints★ 75
Hugging Face Blog765d agoTutorialHugging Face 介紹了如何在 Inference Endpoints 上整合自動語音辨識（ASR）與語者辨識（Diarization）。透過結合 Whisper 與 PyAnnote 模型，並導入投機解碼（Speculative Decoding）技術，大幅提升了語音轉文字的推理速度與精準度。此方案為開發者提供了一個開箱即用、具備高擴展性的生產級語音處理管線。
Improving Prompt Consistency with Structured Generations★ 75
Hugging Face Blog766d agoTutorial本文深入探討如何利用結構化生成（Structured Generations）解決 LLM 輸出格式不穩定的痛點。透過約束解碼（Constrained Decoding）技術（如 Outlines 或 TGI），能強迫模型輸出符合特定 JSON Schema 的內容。文章分析了這種技術的運作原理、如何進行評估，以及它對模型推理品質與生成速度的實際影響，是開發 Production-ready AI 應用的必讀指南。
StarCoder2-Instruct: Fully Transparent and Permissive Self-Alignment for Code Generation★ 75
Hugging Face Blog767d agoReleaseHugging Face 與 BigCode 社群推出 StarCoder2-Instruct-15B。該模型最大特色在於採用「完全透明」與「寬鬆授權」的自我對齊流程。傳統指令模型常依賴 GPT-4 生成數據導致商用受限，而 StarCoder2-Instruct 完全使用開源模型自身生成數據進行訓練，在確保商用合規的同時，於 HumanEval 等基準測試中展現優異性能。
How Vercel helped Tonies expand into new markets and improve conversion rates
Vercel Changelog770d agoBusiness本案例研究詳細介紹了兒童音訊玩具品牌 Tonies 如何透過 Vercel 進行前端架構現代化。面對全球擴張的挑戰，Tonies 利用 Vercel 的全球邊緣網路與優異的效能表現，改善了網頁載入速度與使用者體驗，進而成功打入多個國際新市場，並顯著提升了線上商店的顧客轉換率。
Latency numbers every frontend developer should know★ 75
Vercel Changelog773d agoTutorial本文整理了前端與網頁開發者必須掌握的關鍵延遲數據。從瀏覽器渲染的 16.6 毫秒黃金法則、人類感知的 100 毫秒即時界線，到 Edge 網路、Serverless 冷啟動以及資料庫跨區查詢的延遲影響。透過理解這些數字，開發者能更精準地定位效能瓶頸，優化 TTFB、INP 等 Core Web Vitals 指標，打造極速的網頁體驗。
Run Snowflake Arctic with an API
Replicate Blog773d agoNew ToolSnowflake 推出全新開源企業級大語言模型 Arctic，採用 MoE（混合專家）架構。Replicate 迅速跟進，提供託管 API 服務。開發者現在無需自行配置昂貴的 GPU 硬體，只需透過 Replicate 的 API 或 SDK，即可用極低的成本與簡單的程式碼，在雲端部署並運行這款強大的開源模型。
Introducing the Open Chain of Thought Leaderboard★ 75
Hugging Face Blog773d agoReleaseHugging Face 發表「Open Chain of Thought (CoT) 排行榜」，旨在解決傳統基準測試無法有效評估模型推理過程的問題。該排行榜專注於數學、邏輯與科學等需要多步驟思考的任務，並提供公開透明的評測標準。這將幫助開發者與研究人員深入了解開源模型在複雜推理上的真實實力與瓶頸。