Vercel AI Gateway plugin for WordPress★ 70
Vercel Changelog13d agoReleaseVercel 宣布推出適用於 WordPress 的 Vercel AI Gateway 官方插件。此插件讓 WordPress 網站能輕鬆整合 Vercel AI Gateway，提供 API 請求快取、速率限制、自動重試與詳細的使用量分析。這能有效降低 WordPress 網站營運 AI 功能的 API 成本，並提升整體效能與穩定性，是站長與開發者的實用工具。
Sort providers by cost, latency, or throughput on AI Gateway★ 75
Vercel Changelog18d agoReleaseVercel 宣布其 AI Gateway 新增動態排序功能。開發者現在可以根據即時或設定的指標（包含成本、延遲與吞吐量）來自動排序和路由不同的 AI 模型提供商。這項更新讓開發者能更彈性地在效能、預算與速度之間取得平衡，優化生產環境中的 AI 應用表現。
Cline now runs on Vercel AI Gateway★ 75
Vercel Changelog168d agoRelease開源 AI 編程助理 Cline（前身為 Claude Dev）現已正式支援 Vercel AI Gateway。這項整合讓開發者在 VS Code 中使用 Cline 進行自動化編程時，能透過 Vercel 的網關統一管理、快取並監控所有 LLM 請求。藉由內建的快取機制與詳細的用量分析，開發者不僅能顯著降低頻繁調用 API 的費用，還能提升回應速度與系統穩定性。
You can now configure advanced sampling rules for Vercel Drains
Vercel Changelog190d agoReleaseVercel 宣布為其 Log Drains 功能引入「進階抽樣規則」（Advanced Sampling Rules）。開發者現在可以更細緻地控制哪些日誌需要被導出到第三方監控平台（如 Datadog 或 Axiom）。透過自訂過濾與抽樣邏輯，不僅能減少不必要的日誌雜訊，還能顯著降低因日誌量過大產生的第三方服務費用，達到成本優化的效果。
Node.js Vercel Functions now support per-path request cancellation★ 75
Vercel Changelog249d agoReleaseVercel 宣布其 Node.js Vercel Functions 支援「特定路徑請求取消」功能。當前端用戶中斷連線（如關閉網頁或取消請求）時，伺服器端可立即偵測並終止執行。這對於需要處理 LLM 串流生成（Streaming）的 AI 應用尤為重要，能有效避免不必要的 API 消耗與運算成本。
Reduced Log Drains costs with smaller billable increments
Vercel Changelog442d agoReleaseVercel 針對其日誌匯出功能（Log Drains）進行計費優化。過去可能因計費單位較大而導致無謂的成本支出，現在改用更細微、更小的計費增量（billable increments）來計算。這項調整將有效降低開發者的日誌傳輸成本，特別是對於日誌量較小或波動較大的專案，能更精準地反映實際使用量。
1 Billion Classifications★ 80
Hugging Face Blog474d agoTutorialHugging Face 發表專文探討大規模文本分類的實踐。在 LLM 時代，許多開發者盲目使用 GPT-4 等生成式大模型進行分類，導致成本高昂且延遲高。文章展示了如何利用 ModernBERT、DeBERTa 等開源編碼器模型，搭配 Rust 編寫的 TEI (Text Embeddings Inference) 引擎，在極低成本下於短時間內完成 10 億次分類。這種方法不僅能將延遲壓低至個位數毫秒，成本更比使用 LLM API 降低高達 90% 以上，為工業級數據處理提供高效示範。
Technical audits: Optimizing cost, performance, and productivity★ 72
Vercel Changelog537d agoTutorialVercel 釋出技術審計（Technical Audits）指南，針對企業級 Web 應用提供系統化的優化框架。內容深入探討如何透過快取策略與資源管理降低 Vercel 帳單成本、利用 Core Web Vitals 指標與 Edge 技術提升網頁載入效能，以及優化 CI/CD 建置流程以釋放開發團隊生產力，是前端架構師與維運人員的實用參考。
Automatic recursion protection for Vercel Functions
Vercel Changelog1118d agoReleaseVercel 宣布為其 Serverless 與 Edge Functions 推出「自動遞迴保護」功能。此機制會自動偵測函數之間因錯誤配置或邏輯漏洞導致的無限循環呼叫。一旦偵測到遞迴，系統將自動阻斷請求並回傳 508 Loop Detected 狀態碼，有效防止開發者因程式碼無窮迴圈而面臨天價帳單，此功能已預設啟用。
Why we’re switching to Hugging Face Inference Endpoints, and maybe you should too
Hugging Face Blog1203d agoOpinionMantis NLP 團隊分享了他們將 NLP 模型部署全面轉向 Hugging Face Inference Endpoints 的實戰經驗。相較於傳統自建 AWS SageMaker 或 EC2 基礎設施，Hugging Face 提供極低的維護門檻、靈活的自動縮放（包括縮減至零）以及極具競爭力的價格。這項轉變不僅大幅縮短了產品上線時間，也讓團隊能更專注於模型本身的研發而非繁雜的運維工作。