After Nvidia’s $20B not-aqui-hire, AI chip startup Groq reportedly raising $650M
TechCrunch AI4d agoHardwareTechCrunch cites Axios reporting that AI chipmaker Groq is seeking $650 million in internal funding. The company is reportedly pivoting from hardware toward AI inference, the stage focused on how models respond to prompts. The report comes after Nvidia’s $20 billion not-aqui-hire, underscoring continued investor attention around AI compute and inference infrastructure.
Amazon OpenSearch Serverless is now available in the Vercel Marketplace
Vercel Changelog5d agoNew ToolVercel says Amazon OpenSearch Serverless is now available through the Vercel Marketplace. The provided source includes only the title, so implementation details such as provisioning flow, billing, credentials, regions, or v0 support cannot be confirmed. The update mainly signals broader AWS infrastructure availability inside Vercel’s marketplace, relevant to teams building search, analytics, observability, or retrieval features on Vercel.
Shipping a Trillion Parameters With a Hub Bucket: Delta Weight Sync in TRL
Hugging Face Blog6d agoTutorialBased on the title, this Hugging Face Blog post focuses on Delta Weight Sync in TRL. It likely discusses moving or synchronizing weight differences at very large model scale using a Hub bucket-related workflow. Without the full article, implementation details, benchmarks, APIs, and stability claims cannot be confirmed.
Flat Rate CDN in Limited Beta★ 72
Vercel Changelog14d agoReleaseVercel 宣布推出「固定費率 CDN」（Flat Rate CDN）的限量測試。這項新服務旨在解決開發者長期以來對 CDN 流量計費不確定性的擔憂。透過固定的費率結構，用戶可以更輕鬆地預測每月基礎設施成本，避免因網站流量突增或惡意攻擊而面臨天價帳單，為託管於 Vercel 的專案提供更高的財務安全感。
vLLM V0 to V1: Correctness Before Corrections in RL★ 75
Hugging Face Blog27d agoOpinionServiceNow AI 發表專文探討 vLLM V0 到 V1 的架構演進。文章指出，在進行大語言模型（LLM）的強化學習（RL）訓練時，底層推理引擎（如 vLLM）的精確度與穩定性至關重要。過去在 V0 版本中，微小的推理偏差或不確定性常導致 RL 訓練難以收斂，迫使研究員進行無謂的演算法修正；而 vLLM V1 透過重構底層，實現了「正確性優先」的設計，大幅提升了 RL 訓練的效率與可預測性。
Decoupled DiLoCo: A new frontier for resilient, distributed AI training★ 85
Google DeepMind Blog41d agoReleaseGoogle DeepMind 發表「Decoupled DiLoCo」技術，旨在解決跨資料中心或不穩定網路環境下的 AI 訓練難題。該技術改良了原有的 DiLoCo 演算法，將本地訓練與全域同步解耦，大幅提升了對「慢節點（stragglers）」與斷線的容錯能力。這項突破讓利用全球閒置或異質算力進行超大規模模型訓練變得更加可行。
Agentic Infrastructure★ 85
Vercel Changelog54d agoReleaseVercel 宣布推出「Agentic Infrastructure」（Agent 基礎設施），旨在解決傳統無伺服器（Serverless）架構在運行 AI Agent 時面臨的超時、長連接與狀態管理等挑戰。透過升級的 Vercel AI SDK、支援長時間運行的 Vercel Functions 以及背景任務處理能力，開發者現在可以更輕鬆地在 Vercel 上部署、監控並擴展複雜的 AI Agent 工作流。
Vercel Sandbox now supports up to 32 vCPU + 64 GB RAM configurations★ 72
Vercel Changelog55d agoReleaseVercel 宣布其 Sandbox 運算環境進行重大升級，最高可配置 32 vCPU 與 64 GB RAM。這項更新打破了以往 Serverless 環境的資源限制，讓開發者能在 Vercel 上直接執行高負載任務。這對於需要高運算能力的 AI 代理（Agents）、大型數據處理或複雜渲染的應用來說是一大福音。
Optimizing Vercel Sandbox snapshots
Vercel Changelog61d agoReleaseVercel 針對其沙盒（Sandbox）環境的快照（Snapshot）技術進行了重大優化。透過改進記憶體狀態保存與恢復機制，新技術能顯著縮短微型虛擬機（microVM）的冷啟動時間。這項改進將直接惠及 v0 等 AI 程式碼生成工具的即時預覽功能，以及 Vercel 平台上的無伺服器與邊緣運算服務，為開發者提供更流暢的部署與測試體驗。
How we run Vercel's CDN in front of Discourse
Vercel Changelog84d agoTutorialVercel 分享了將其 CDN（Edge Network）配置在開源論壇系統 Discourse 前端的技術實踐。透過 `vercel.json` 的重寫（Rewrites）功能，Vercel 能作為統一入口，將特定路徑（如 /forum）導向後端 Discourse。此架構不僅提升了靜態資源的快取效率，還能利用 Vercel 的邊緣網路進行安全防護與自訂標頭處理，實現無縫的混合架構。
Introducing Storage Buckets on the Hugging Face Hub★ 80
Hugging Face Blog84d agoReleaseHugging Face 宣布在 Hub 上推出「Storage Buckets」儲存桶功能。這項新服務為開發者提供相容 S3 的物件儲存空間，旨在解決傳統 Git LFS 在處理超大型資料集、模型權重與訓練暫存檔時的效能與容量限制。用戶可以直接透過 Hugging Face SDK 進行高效讀寫，並與 Spaces、Datasets 等生態系無縫整合。
Customize timeouts for faster automatic failover on Vercel AI Gateway★ 70
Vercel Changelog89d agoReleaseVercel 宣布為其 AI Gateway 推出「提供商級別自訂逾時」功能。開發者現在可以針對不同的 AI 模型提供商設定專屬的逾時限制，避免因單一 API 延遲而導致整體服務停擺。當某個提供商未在設定時間內回應時，系統將快速觸發自動容錯移轉（Failover），無縫切換至備用模型，顯著提升應用的穩定性與使用者體驗。
Vercel Queues now in public beta★ 75
Vercel Changelog95d agoReleaseVercel 宣布其任務佇列服務 Vercel Queues 正式進入公開測試（Public Beta）階段。這項服務旨在解決 Serverless 架構中處理長時間運行、非同步任務的痛點，如發送郵件、圖像處理或 AI 數據生成。開發者無需自行架設或配置第三方佇列服務，即可在 Vercel 生態系中實現可靠的任務調度與自動重試機制。
Anyone can build agents, but it takes a platform to run them★ 75
Vercel Changelog113d agoOpinionVercel 探討 AI Agent 從開發到生產環境的關鍵痛點。雖然現今開發 Agent 難度降低，但運行時面臨 Serverless 超時、複雜狀態管理、即時串流（Streaming）以及工具調用監控等挑戰。Vercel 強調，唯有透過完善的平台基礎設施（如 Vercel AI SDK 與其託管服務），才能真正釋放 Agent 的商業價值。
Filesystem snapshots supported on Vercel Sandboxes★ 70
Vercel Changelog131d agoReleaseVercel 宣布其 Sandboxes（沙盒環境）正式支援檔案系統快照（Filesystem Snapshots）功能。開發者現在可以捕捉沙盒在特定時間點的完整檔案系統狀態，並以此快照快速初始化新的沙盒實例。這項更新能顯著降低冷啟動時間，並為 AI Agent 執行、程式碼測試與動態開發環境提供更靈活的狀態管理。
Introducing the Montréal, Canada region (yul1)
Vercel Changelog133d agoReleaseVercel 正式推出位於加拿大蒙特婁的新區域（代號 yul1）。這項更新讓開發者能將 Serverless 函式與部署更靠近加拿大東部用戶，有效降低網路延遲並提升應用程式效能。對於在加拿大有業務需求、或需要符合當地資料合規性的開發者與企業而言，這是一個重要的基礎設施升級。
AWS databases now available on the Vercel Marketplace★ 70
Vercel Changelog167d agoNew ToolVercel 宣布在 Vercel Marketplace 中正式支援 AWS 資料庫服務。開發者現在可以直接透過 Vercel 控制台，快速佈署、配置並連結如 Amazon RDS 或 DynamoDB 等 AWS 資料庫。這項更新簡化了環境變數設定與憑證管理，大幅降低了在 Vercel 專案中整合 AWS 雲端基礎設施的門檻。
Introducing Vercel for Platforms★ 75
Vercel Changelog179d agoReleaseVercel 正式推出「Vercel for Platforms」解決方案，專為需要提供用戶自建網站或店面的 SaaS 平台（如電商、CMS）設計。該方案整合了動態自訂網域、自動化 SSL 憑證配置，以及強大的邊緣多租戶路由技術。開發者可透過 API 輕鬆管理成千上萬個子站點的部署與網域，大幅降低構建平台級基礎設施的門檻與維護成本。
Billions of requests: Black Friday-Cyber Monday 2025
Vercel Changelog182d agoCommentaryVercel 發布 2025 年黑色星期五與網路星期一（BFCM）的基礎設施表現報告。在電商年度最大檔期中，Vercel 成功處理了數十億次的 HTTP 請求與 Serverless 函式調用。透過 Edge Network、防護 DDoS 的安全機制以及優化的快取策略，Vercel 協助全球無數電商與品牌在極端流量下實現零斷線、超低延遲的購物體驗。
Model fallbacks now available in Vercel AI Gateway★ 75
Vercel Changelog204d agoReleaseVercel AI Gateway 正式推出「模型備援 (Model Fallbacks)」功能。當開發者設定的首選 AI 模型因 API 限制、伺服器故障或超時而無法回應時，系統會自動將請求導向預設的備用模型。這項功能讓開發者無需在應用程式碼中手動撰寫複雜的錯誤處理與重試邏輯，大幅提升了 AI 應用的可用性與容錯能力。
How AI Gateway runs on Fluid compute★ 75
Vercel Changelog208d agoReleaseVercel 技術部落格分享了其 AI Gateway 背後的架構設計。透過運行於 Vercel 的 Fluid Compute，AI Gateway 能夠實現全球低延遲的 LLM 請求代理。該架構完美支援 AI 應用不可或缺的 Server-Sent Events (SSE) 串流、自動重試與容錯機制，並透過邊緣快取大幅降低 API 成本，為開發者提供高彈性且無冷啟動的 AI 基礎設施。
Just another (Black) Friday
Vercel Changelog230d agoCommentaryVercel 撰文探討其基礎設施在面對「黑色星期五」等年度電商大促時的表現。透過全球邊緣網路（Edge Network）、自動彈性伸縮與先進的快取機制，Vercel 成功協助無數企業平穩度過流量極限。這篇文章旨在展示其 Serverless 架構的穩定性，讓高壓的促銷節日對開發團隊而言，就如同「另一個平凡的星期五」般無感且安全。
Vercel Domains overhauled with instant search and at-cost pricing★ 75
Vercel Changelog250d agoReleaseVercel 宣布全面改版其網域服務（Vercel Domains），引進極速的即時網域搜尋功能。 最引人注目的是，Vercel 將以「成本價（At-Cost）」提供網域註冊與續約，不賺取中間差價。 此舉旨在為開發者提供網路上最快且最實惠的網域購買與管理體驗，直接向 Cloudflare 等對手看齊。
How we made global routing faster with Bloom filters
Vercel Changelog256d agoReleaseVercel 介紹了其優化全球路由架構的最新技術。面對龐大的全球部署路由表，Vercel 在邊緣節點引入了布隆過濾器（Bloom Filters）。這種高效的機率型資料結構讓邊緣節點能在極低記憶體消耗下，快速判斷請求的路由是否存在，避免了頻繁查詢後端資料庫的延遲，大幅提升了整體響應速度與系統擴展性。
Scale to one: How Fluid solves cold starts★ 75
Vercel Changelog257d agoReleaseVercel 發表全新的「Fluid」運算架構，旨在解決困擾 Serverless 開發者已久的「冷啟動（Cold Start）」問題。傳統 Serverless 採用「Scale to Zero（縮減至零）」以節省成本，卻會導致首個請求延遲；Fluid 則引入「Scale to One」機制，透過極低開銷維持至少一個微型運算實例處於熱機狀態，讓應用程式能瞬間回應，大幅提升網站的 TTFB 與使用者體驗。
Preparing for the worst: Our core database failover test
Vercel Changelog278d agoCommentaryVercel 近期進行了核心資料庫的容錯移轉（Failover）演練，旨在測試極端故障發生時系統的韌性。本次測試模擬了主資料庫失效的情境，驗證自動切換至備份資料庫的流暢度。文章詳細記錄了準備工作、執行過程中的連線池調整、應用程式重試機制，以及最終達成的低中斷時間，為現代雲端架構提供了寶貴的災難復原實踐經驗。對於依賴 Vercel 託管服務的開發者而言，這展現了其基礎設施的穩定性。
Fluid: How we built serverless servers★ 85
Vercel Changelog309d agoReleaseVercel 推出全新基礎設施技術「Fluid」，旨在解決傳統 Serverless 架構的冷啟動與執行時間限制。Fluid 透過創新的微型虛擬化與動態資源調配技術，讓開發者能以 Serverless 的方式部署應用，卻能享有如傳統常駐伺服器（Server）般的持續連線、極低延遲與狀態保持能力，重新定義了現代雲端網頁應用的部署標準。
Migrating the Hub from Git LFS to Xet★ 85
Hugging Face Blog322d agoReleaseHugging Face 宣布將其平台（Hub）的底層大檔案版本控制系統從 Git LFS 遷移至 Xet 技術。Git LFS 在面對數百 GB 的模型與超大數據集時常遇到效能瓶頸，而 Xet 透過「內容定義分塊（CDC）」技術實現區塊級去重，能顯著減少儲存空間並加速上傳與下載。此遷移將為開發者帶來更流暢的超大型 AI 資產管理體驗。
Vercel Blob now available in all Vercel Regions
Vercel Changelog327d agoReleaseVercel 宣布其物件儲存服務 Vercel Blob 已在所有 Vercel 區域正式啟用。開發者現在可以將 Blob 儲存庫部署在與其 Serverless 函數相同的區域，從而大幅降低資料讀寫延遲。此更新也讓團隊能更輕鬆地滿足特定地區的資料合規性與隱私要求。
Three Mighty Alerts Supporting Hugging Face’s Production Infrastructure
Hugging Face Blog329d agoTutorialHugging Face 分享了其生產環境基礎設施賴以維持高可用性的三大核心警報機制。面對託管數百萬個模型與數據集的挑戰，Hugging Face 的運維團隊詳細解析了他們如何針對「模型緩存磁碟空間」、「Kubernetes GPU 資源調度瓶頸」以及「基於 SLO 的錯誤預算消耗」進行監控與預警。這些實務經驗對於運行大規模 AI 服務與雲端基礎設施的 MLOps 與 SRE 工程師極具參考價值。