Vercel 針對其沙盒(Sandbox)環境的快照(Snapshot)技術進行了重大優化。透過改進記憶體狀態保存與恢復機制,新技術能顯著縮短微型虛擬機(microVM)的冷啟動時間。這項改進將直接惠及 v0 等 AI 程式碼生成工具的即時預覽功能,以及 Vercel 平台上的無伺服器與邊緣運算服務,為開發者提供更流暢的部署與測試體驗。
Vercel 宣布在 Runtime Logs 中新增「函式啟動類型」資訊。開發者現在可以直接在日誌中查看每次函式執行是屬於「冷啟動(Cold Start)」還是「熱啟動(Warm Start)」。這項更新讓開發者能更精確地診斷伺服器端渲染(SSR)或 API 路由的延遲問題,進而針對性地進行效能優化。
PyTorch 的 torch.compile 能顯著提升模型推論速度,但首次編譯的「冷啟動」時間往往令人頭痛。Replicate 介紹了如何透過快取(Caching)編譯後的模型成品,避免每次容器啟動時重複編譯。這項技術能有效縮短伺服器無預載(Serverless)部署時的啟動延遲,讓開發者在享受高效能推論的同時,也能擁有極速的部署與反應時間。
Vercel 推出全新基礎設施技術「Fluid」,旨在解決傳統 Serverless 架構的冷啟動與執行時間限制。Fluid 透過創新的微型虛擬化與動態資源調配技術,讓開發者能以 Serverless 的方式部署應用,卻能享有如傳統常駐伺服器(Server)般的持續連線、極低延遲與狀態保持能力,重新定義了現代雲端網頁應用的部署標準。
Vercel 宣布其無伺服器函式(Vercel Functions)現在可以運行在全新的 Fluid Compute 架構上。這項更新旨在大幅降低冷啟動延遲、提升執行效率,並提供更具彈性的資源調度。開發者無需修改程式碼,即可享受更流暢、接近零延遲的伺服器端渲染與 API 回應體驗。
Vercel 發表全新的 Node.js 「函式內併發(In-Function Concurrency)」功能。過去 Serverless 函式一個實例只能處理一個請求,新功能允許單一實例同時處理多個請求。這不僅能大幅降低冷啟動機率、減少資料庫連線壓力,還能為開發者省下顯著的運行成本,讓 Serverless 擁有傳統伺服器的併發優勢。
Vercel 宣布「函式內併發 (In-function concurrency)」進入公開測試。以往 Vercel 的 Serverless 函式每個實例只能處理單一請求,新功能允許單一實例同時處理多個併發請求。這對於 I/O 密集型任務(如呼叫 AI API 或資料庫查詢)能顯著減少冷啟動次數,並大幅降低伺服器成本。
Vercel 宣布為 Vercel Functions 導入「位元組碼快取(Bytecode Caching)」技術。此技術透過預先編譯 JavaScript 並快取 V8 位元組碼,讓 Node.js 執行環境在冷啟動時跳過解析與編譯階段。這項升級完全自動啟用,無須修改程式碼,能顯著減少冷啟動延遲,對依賴大型依賴庫的專案尤為有感。
Vercel 宣布將 Vercel Functions(無伺服器函式)的底層請求路由與執行引擎改用 Rust 重寫。此項升級對開發者完全透明,無需修改任何程式碼,即可自動享受平均縮短 35% 的冷啟動時間,並顯著降低執行開銷與延遲,讓 Web 應用程式反應更迅速。
AI 託管平台 Replicate 宣布重大計費調整:所有公開模型(如 Llama、Stable Diffusion 等)的 API 呼叫價格直接減半(降價 50%)。與此同時,為了平衡伺服器資源成本,未來將開始對新用戶的私有模型(Private Models)在設定(冷啟動)與閒置(Idle)時間進行計費。這項調整旨在降低開源模型使用門檻,同時優化專屬資源的利用率。