Architecting a live look at reliability: Stripe's viral Black Friday site★ 72
Vercel Changelog871d agoCommentaryStripe 在黑色星期五期間推出的實時交易數據看板，因其精美的 3D 視覺與流暢的實時數據更新在社群爆紅。本文深入解析該網站如何利用 Vercel 的邊緣網路（Edge Network）與 Next.js 架構，在面對全球數百萬次即時請求時，依然保持 100% 的可用性與毫秒級的數據同步，為現代高流量 Web 應用提供了極佳的架構範本。
Accelerating SD Turbo and SDXL Turbo Inference with ONNX Runtime and Olive★ 75
Hugging Face Blog872d agoTutorialHugging Face 介紹了如何結合微軟的 ONNX Runtime (ORT) 與 Olive 優化工具，來加速 SD Turbo 和 SDXL Turbo 模型。透過 Olive 的硬體感知優化流程，開發者可以輕鬆將 PyTorch 模型轉換為 ONNX 格式，並進行 FP16 量化與算子融合。這套方案特別適合在 Windows (透過 DirectML) 或 NVIDIA GPU (透過 CUDA) 上部署，能顯著降低單步圖像生成的延遲，非常適合需要即時互動的應用場景。
Run ComfyUI workflows for free with Gradio on Hugging Face Spaces★ 75
Hugging Face Blog873d agoTutorialHugging Face 介紹了如何結合 ComfyUI 與 Gradio，並在 Spaces 上免費運行。使用者只需將 ComfyUI 工作流導出為 API JSON 格式，即可透過 Gradio 建立簡潔的前端介面。這項技術讓創作者能輕鬆分享複雜的 AI 圖像生成工作流，無需讓終端用戶面對複雜的節點圖。
A guide to setting up your own Hugging Face leaderboard: an end-to-end example with Vectara's hallucination leaderboard★ 75
Hugging Face Blog875d agoTutorial本教學詳細介紹如何從頭構建一個自訂的 Hugging Face 模型排行榜。文章以 Vectara 的「LLM 幻覺排行榜（Hallucination Leaderboard）」為實際案例，展示如何結合 Hugging Face Spaces（使用 Gradio）與 Datasets 儲存評測數據，並實現自動化更新與前端展示。這對於想要建立特定領域（如 RAG、安全、特定語言）模型評估標準的開發者與研究人員非常實用。
Make LLM Fine-tuning 2x faster with Unsloth and 🤗 TRL★ 80
Hugging Face Blog877d agoReleaseHugging Face 宣布旗下 TRL（Transformer Reinforcement Learning）微調工具包正式整合 Unsloth。開發者現在只需修改幾行程式碼，即可在進行監督式微調（SFT）時獲得 2 倍以上的訓練速度提升，並減少高達 60% 的 VRAM 記憶體消耗。此整合支援 Llama-2、Mistral 等主流開源模型，且完全不損害模型精度。
Common mistakes with the Next.js App Router and how to fix them★ 80
Vercel Changelog879d agoTutorial本文源自 Vercel 官方部落格，針對開發者從 Pages Router 轉移至 App Router 時常見的觀念混淆進行梳理。重點指出過度使用 'use client'、在客戶端進行不必要的資料獲取、未正確處理快取與 Route Handlers，以及 Context Provider 的錯誤封裝。文章提供了具體的程式碼對比，幫助開發者優化 Next.js 應用的效能與架構。
Forrester Total Economic Impact™ study: Vercel delivered a 264% ROI
Vercel Changelog883d agoBusiness根據 Vercel 委託 Forrester 進行的「總體經濟影響™ (TEI)」研究，企業在部署 Vercel 後，三年內獲得了 264% 的投資報酬率。該研究指出，Vercel 顯著提升了開發人員的生產力、縮短產品上市時間，並降低了基礎設施維運成本。此外，受訪企業在不到 6 個月內便實現了投資回本，證明了 Vercel 在現代 Web 開發中的商業價值。
Welcome aMUSEd: Efficient Text-to-Image Generation
Hugging Face Blog883d agoReleaseHugging Face 發表了名為 aMUSEd 的開源文字生成圖片模型，基於 Google 的 MUSE 架構。與主流的擴散模型（Diffusion Models）不同，aMUSEd 採用遮罩圖像建模（MIM）技術，僅需 12 個步驟即可生成圖像。其參數規模僅約 8 億，非常適合在消費級硬體上進行快速推理與微調，並支援圖生圖與局部重繪。
LoRA training scripts of the world, unite!★ 75
Hugging Face Blog885d agoNew ToolHugging Face 於 Diffusers 推出全新的 SDXL LoRA 進階訓練腳本，旨在整合開源社群（如 Kohya）的各種訓練技巧。該腳本支援雙文字編碼器微調、Offset Noise、Min-SNR 權重及多解析度訓練，讓開發者與創作者能以更標準、高效的方式訓練出高品質的 SDXL LoRA 模型。
The developer experience of the Frontend Cloud
Vercel Changelog897d agoOpinionVercel 闡述了「前端雲端」的核心價值在於提升開發者體驗（DX）。透過將 Git 工作流、自動化預覽部署、無伺服器（Serverless）與邊緣（Edge）基礎設施無縫整合，前端雲端讓開發團隊能專注於產品體驗，免去繁雜的基礎架構維護，實現快速迭代與高效協作。
AWS re:Invent 2023: Iteration velocity is the solution to all software problems
Vercel Changelog898d agoOpinionVercel 在回顧 AWS re:Invent 2023 時指出，軟體開發最大的挑戰在於不確定性，而提高「迭代速度」是最佳解法。透過縮短從想法到部署的循環，團隊能快速驗證並修正錯誤。Vercel 透過簡化 AWS 底層基礎設施的複雜度，讓開發團隊專注於前端與業務邏輯，實現極致的部署效率。
Speculative Decoding for 2x Faster Whisper Inference★ 75
Hugging Face Blog898d agoTutorialHugging Face 介紹了應用於 Whisper 語音識別模型的「投機解碼（Speculative Decoding）」技術。該技術透過一個較小的草稿模型（如 whisper-tiny）快速生成候選文字，再由大模型（如 whisper-large-v3）進行並行驗證。此方法在完全不犧牲辨識準確度的前提下，成功將 Whisper 的推論速度提高整整 2 倍，且已整合至 Transformers 函式庫中。
2023, year of open LLMs★ 75
Hugging Face Blog900d agoCommentary2023 年是開源大語言模型（LLM）的黃金時代。從 Meta 發布 LLaMA 奠定基礎，到 Mistral 推出高效的 MoE 模型，開源社群在模型架構、量化技術（QLoRA）與對齊方法（DPO）上取得突破。Hugging Face 的 Open LLM Leaderboard 更成為推動這波開源浪潮的核心樞紐，縮短了開源與閉源模型之間的差距。
Mixture of Experts Explained★ 85
Hugging Face Blog907d agoTutorial本指南深入解析混合專家模型（MoE）的核心技術。MoE 透過門控網路（Router）將輸入 token 分流至不同的專家網路（FFN），實現「高參數量、低計算量」的優勢。文中探討了 MoE 的歷史、訓練挑戰（如負載均衡與記憶體佔用），以及如何高效部署與微調此類模型。
Welcome Mixtral - a SOTA Mixture of Experts on Hugging Face★ 90
Hugging Face Blog907d agoReleaseMistral AI 發表全新混合專家（MoE）模型 Mixtral 8x7B，總參數 46.7B 但每次 token 僅啟用 12.9B，速度極快。其在多項基準測試中超越 Llama 2 70B 及 GPT-3.5，並支援 32k 脈絡長度。Hugging Face 已於 Transformers、TGI 及推理終端全面整合，並採 Apache 2.0 開源授權。
Clone your voice using open-source models★ 75
Replicate Blog912d agoReleaseReplicate 宣布支援 RVC（Retrieval-based Voice Conversion）的微調功能，讓開發者與創作者能輕鬆複製聲音。使用者只需提供 YouTube 影片等音訊來源，透過 Replicate 的 API 撰寫幾行程式碼，即可自動轉換為訓練數據集並開始微調。這項更新降低了高品質開源聲音複製的門檻，適合應用於遊戲配音、虛擬主播及個人化語音生成。
How to create an AI narrator for your life
Replicate Blog912d agoTutorialReplicate 發布了一篇趣味實用的技術教學，展示如何利用網路攝影機（Webcam）捕捉畫面，並透過 LLaVA 或 GPT-4V 等多模態視覺模型分析影像，最後結合 ElevenLabs 的語音合成技術，以經典自然紀錄片主持人大衛·艾登堡（David Attenborough）的口吻與聲音，為你的日常生活進行即時的幽默旁白。
SetFitABSA: Few-Shot Aspect Based Sentiment Analysis using SetFit★ 75
Hugging Face Blog912d agoReleaseHugging Face 發表 SetFitABSA，將高效的少樣本學習框架 SetFit 應用於「基於屬性的情感分析（ABSA）」。傳統 ABSA 需要大量標註數據，而 SetFitABSA 僅需數十個樣本即可精確識別文本中的特定屬性（如服務、價格）及其情感傾向。該方法訓練速度極快、不需龐大 GPU 資源，且免去了大型語言模型（LLM）複雜的 Prompt 調整，是極具性價比的 NLP 解決方案。
Introducing Conformance and Code Owners: Move fast, don't break things
Vercel Changelog913d agoReleaseVercel 宣布推出 Conformance 與 Code Owners 兩大新功能。Conformance 是一套自動化程式碼品質與安全檢查系統，能在大規模開發中確保最佳實踐；Code Owners 則能自動將程式碼變更指派給負責的團隊成員進行審查。這兩項功能旨在幫助企業與開發團隊在追求開發速度的同時，維持系統的穩定性與安全性。
Businesses are building on open-source AI★ 75
Replicate Blog913d agoBusinessAI 模型託管平台 Replicate 宣布完成 4,000 萬美元的 B 輪融資，由知名創投 a16z 領投。這筆資金將用於擴展其雲端基礎設施，幫助更多企業與開發者透過簡單的 API 運行、微調及部署開源 AI 模型。此融資反映出企業級市場對於開源 AI（如 Llama、Stable Diffusion）的需求正迎來爆發性成長。
Optimum-NVIDIA Unlocking blazingly fast LLM inference in just 1 line of code★ 80
Hugging Face Blog913d agoReleaseHugging Face 與 NVIDIA 合作推出 Optimum-NVIDIA 庫，旨在簡化 TensorRT-LLM 的使用門檻。開發者只需將原本的 Transformers 模型載入程式碼替換為 Optimum-NVIDIA 的對應類別，即可在 NVIDIA GPU 上獲得極致的推理加速與顯存優化，並支援 FP8 等低精度量化。
Goodbye cold boot - how we made LoRA Inference 300% faster★ 85
Hugging Face Blog913d agoReleaseHugging Face 分享了優化 LoRA 模型推論的技術突破。傳統上，為不同用戶切換微調模型會面臨嚴重的「冷啟動」延遲；新方案透過在 Text Generation Inference (TGI) 中實現動態載入 LoRA 轉接器（Adapters），讓共享同一個基礎模型的不同微調版本能即時切換，使整體推論速度提升達 300%，大幅降低多租戶架構的部署成本與延遲。
AMD + 🤗: Large Language Models Out-of-the-Box Acceleration with AMD GPU★ 75
Hugging Face Blog913d agoReleaseHugging Face 宣布與 AMD 深度合作，推出 optimum-amd 套件，旨在簡化 AMD GPU（如 Instinct 與 Radeon 系列）上的模型部署與加速。該套件整合了 AMD ROCm 軟體平台，開發者只需修改幾行程式碼，即可在 AMD 硬體上無縫運行並加速主流的大語言模型（LLM）。此舉打破了過去 NVIDIA CUDA 在 AI 訓練與推理上的壟斷，為企業與開發者提供更具性價比的硬體選擇。
The user experience of the Frontend Cloud
Vercel Changelog914d agoOpinionVercel 闡述了「前端雲」的核心價值，強調優異的開發者體驗（DX）是打造極致終端用戶體驗（UX）的基石。透過 Git 整合部署、邊緣網路（Edge）以及即時預覽協作，前端雲不僅加速了開發流程，更直接提升了網頁載入效能與團隊協作效率，讓產品迭代更貼近用戶需求。
Open LLM Leaderboard: DROP deep dive★ 75
Hugging Face Blog917d agoCommentaryHugging Face 針對 Open LLM 排行榜中的 DROP（離散推理）基準測試進行深度剖析。調查發現，許多開源模型之所以獲得異常高分，並非因為推理能力超越 GPT-4，而是源於對評估格式的過度擬合（Overfitting）或資料污染（Contamination）。為此，官方調整了評估與解析機制，使評分回歸真實水平，並呼籲社群建立更嚴謹的評估標準。
Guide to fast websites with Next.js: Tips for maximizing server speeds and minimizing client burden★ 70
Vercel Changelog919d agoTutorial本文為 Vercel 官方發布的 Next.js 效能優化指南。核心圍繞在如何透過 React Server Components (RSC) 減少用戶端 JS 載入量，並利用 Streaming、Suspense 與快取機制極大化伺服器響應速度。適合希望優化 Core Web Vitals（如 LCP、INP）並提升使用者體驗的 Web 開發者。
Node.js 16 is being deprecated on January 31, 2025
Vercel Changelog919d agoReleaseVercel 官方發布公告，將於 2025 年 1 月 31 日正式停止支援 Node.js 16 執行環境。由於 Node.js 16 官方已於 2023 年底停止維護，Vercel 呼籲所有仍在使用該舊版本的開發者，應在截止日前將專案的 Node.js 版本升級至 Node.js 18 或 20，以確保後續部署順暢並維護系統安全性。
The power of headless: Ecommerce success with Next.js, Vercel, and Shopify
Vercel Changelog920d agoOpinion本文介紹了「無頭電商（Headless Commerce）」的優勢，說明如何透過 Next.js 與 Vercel 的前端優勢，結合 Shopify 強大的後端電商功能。透過 CommerceUI 等現代化工具，開發者能快速建構出擁有極致載入速度與優異 SEO 表現的電商網站，解決傳統電商平台在客製化與效能上的痛點，進而提升用戶體驗與實際轉化率。
How to run Yi chat models with an API
Replicate Blog925d agoTutorialYi 系列模型是由「零一萬物 (01.AI)」從頭訓練的大型語言模型，在多項基準測試中表現優異。Replicate 平台已託管 Yi 模型，開發者無需自行配置與維護昂貴的 GPU 基礎設施，即可透過 API 進行調用。本文介紹如何使用 Replicate 的 Python SDK，僅需一行程式碼便能輕鬆在雲端運行 Yi-34B-Chat 等模型，並支援串流輸出。
Scaffold Replicate apps with one command
Replicate Blog926d agoNew ToolReplicate 宣布推出全新的 CLI 腳手架（Scaffold）指令，旨在簡化開發者整合 AI 模型的起步流程。開發者現在只需執行單一指令，即可自動建立包含 Replicate API 整合的專案範本。這項更新大幅降低了開發 AI 應用的前期配置時間，非常適合想要快速驗證概念（PoC）或建立原型（Prototype）的開發者。