Deploy MusicGen in no time with Inference Endpoints
Hugging Face Blog1037d agoTutorial本文介紹如何利用 Hugging Face Inference Endpoints 託管服務，在幾分鐘內將 Meta 的開源音樂生成模型 MusicGen 部署為生產級 API。使用者無需自行管理複雜的 GPU 基礎設施，只需選擇模型與硬體規格，即可一鍵生成專屬的 API 端點，並透過簡單的 HTTP 請求實現文字生成音樂的功能。
Towards Encrypted Large Language Models with FHE★ 75
Hugging Face Blog1039d agoTutorialHugging Face 與密碼學安全公司 Zama 合作，發表了利用全同態加密（FHE）運行大語言模型（LLM）的技術方案。該技術允許用戶將加密的 Prompt 發送到雲端，雲端模型在完全不解密的情況下進行推論並返回加密結果，確保數據隱私。雖然目前面臨運算延遲高與需要極低位元量化等挑戰，但這為金融與醫療等高隱私需求領域開闢了全新可能。
Huggy Lingo: Using Machine Learning to Improve Language Metadata on the Hugging Face Hub
Hugging Face Blog1039d agoReleaseHugging Face 發表「Huggy Lingo」專案，旨在解決 Hub 上許多模型和數據集缺乏或標記錯誤語言元數據（Metadata）的問題。該系統利用機器學習（如語言識別模型）分析 README 內容與數據集樣本，自動預測並補全正確的語言標籤（如 ISO 639 代碼）。這項改進將大幅提升全球開發者在 Hub 上搜尋、篩選特定語言資源的效率，特別是針對低資源語言的發掘。
Understanding React Server Components
Vercel Changelog1039d agoTutorialReact Server Components (RSC) 是近年 React 生態系最重大的變革。Vercel 本文深入探討 RSC 的核心概念，解釋它如何讓組件直接在伺服器端執行以減少瀏覽器端的 JavaScript 載入量。同時，文章也釐清了 RSC 與傳統 SSR 的差異，並說明如何在 Next.js 中混合使用 Server 與 Client 組件，達到最佳的效能與互動性。
Open-sourcing Knowledge Distillation Code and Weights of SD-Small and SD-Tiny★ 70
Hugging Face Blog1040d agoReleaseHugging Face 宣布開源基於 Stable Diffusion 蒸餾的輕量化模型 SD-Small（約 5.11 億參數）與 SD-Tiny（約 3.23 億參數）的權重與完整訓練程式碼。透過知識蒸餾技術減少 UNet 的層數，這些模型在保留高圖像質量的同時，實現了 1.5 到 2 倍的推理加速。此舉不僅降低了消費級顯卡與行動裝置運行 AI 繪圖的門檻，也讓開發者能自行蒸餾客製化的 SD 模型。
Practical 3D Asset Generation: A Step-by-Step Guide★ 72
Hugging Face Blog1040d agoTutorial本指南介紹如何利用開源 AI 模型（如 OpenAI 的 Shap-E 和 Zero-1-to-3）從文本或單張圖片快速生成 3D 模型。 詳細說明了將 AI 生成的原始 3D 網格（Mesh）匯入 Blender 進行減面（Decimation）與材質修復的實務工作流。 為遊戲開發者與 3D 設計師提供了一套降低創作門檻、加速原型設計的實用開源解決方案。
Improved performance for Vercel Postgres from Edge Functions
Vercel Changelog1044d agoReleaseVercel 宣布提升從 Edge Functions 存取 Vercel Postgres 資料庫的效能。透過優化底層連線機制與驅動程式，減少了邊緣運算環境與資料庫之間的連線握手時間與延遲。這讓開發者在建構全球分佈的無伺服器應用（如 AI 應用程式的後端）時，能享有更快的資料庫查詢速度與更流暢的用戶體驗。
Engineering a site at the speed of breaking news
Vercel Changelog1044d agoBusiness本案例研究探討《華盛頓郵報》如何將其網站遷移至 Next.js 並部署於 Vercel。面對即時新聞對速度與高流量的極致要求，他們利用 Vercel 的邊緣網路與 Next.js 的增量靜態生成（ISR）技術，顯著提升了 Core Web Vitals 效能，並讓工程團隊能以極快速度進行功能迭代與發布。
Run Llama 2 with an API
Replicate Blog1045d agoTutorialReplicate 宣布支援 Meta 的開源大語言模型 Llama 2。開發者現在無需自行管理繁雜的 GPU 基礎設施，只需透過 Replicate 提供的 API，用一行程式碼就能在雲端快速呼叫並運行 Llama 2。這大幅降低了開源模型的使用門檻，讓開發者能更輕鬆地將其整合至應用中。
Stable Diffusion XL on Mac with Advanced Core ML Quantization★ 72
Hugging Face Blog1045d agoReleaseHugging Face 發表了將 Stable Diffusion XL (SDXL) 部署於 Mac 的 Core ML 最佳化方案。透過先進的量化技術（如 6-bit 與 8-bit 量化），成功將龐大的 SDXL 模型體積縮減，使其能在 Apple Silicon（M1/M2 系列晶片）的 Mac 上流暢運行，顯著降低記憶體需求，並充分釋放 Apple 神經網路引擎（ANE）的硬體效能。
Run SDXL with an API
Replicate Blog1046d agoTutorialReplicate 宣布支援 Stability AI 的 SDXL 1.0 圖像生成模型。開發者無需自行維護昂貴的 GPU 基礎設施，只需透過簡單的 Python、JavaScript 或 cURL API 呼叫，即可在雲端運行 SDXL 1.0。本指南展示了如何設定提示詞、尺寸等參數，並快速將高品質的 AI 繪圖功能整合至應用程式中。
Introducing React Tweet
Vercel Changelog1046d agoNew ToolVercel 宣布推出全新開源套件 react-tweet，旨在解決傳統 Twitter 嵌入元件載入緩慢且影響網頁效能的問題。該套件完全不使用 iframe，並原生支援 React Server Components (RSC)，能大幅提升 Core Web Vitals 效能指標。開發者無需申請 Twitter API 金鑰即可使用，並能輕鬆自訂樣式，非常適合 Next.js、Remix 等現代前端框架。
How Vercel helped this popular health database increase free trials by 284%
Vercel Changelog1046d agoBusinessVercel 發表最新客戶案例，分享知名健康與營養數據庫 Examine 的優化成果。Examine 透過將網站架構遷移至 Vercel 平台，大幅提升了網頁載入速度與 Core Web Vitals 表現。這項技術升級不僅改善了使用者體驗與 SEO 排名，更直接推動業務成長，使免費試用註冊量暴增 284%。
Introducing Agents.js: Give tools to your LLMs using JavaScript
Hugging Face Blog1048d agoReleaseHugging Face 發表全新 JavaScript 函式庫「Agents.js」（@huggingface/agents），旨在讓 Web 與 Node.js 開發者能輕鬆為大型語言模型（LLM）配置工具。透過此庫，開發者可以使用 JS/TS 建立具備推理與執行能力的 AI Agent，使其能自動選擇並調用 Hugging Face 上的各種模型（如圖像生成、翻譯、語音合成等）來完成複雜任務。
AI Policy @🤗: Open ML Considerations in the EU AI Act★ 72
Hugging Face Blog1048d agoOpinion隨著歐盟《AI 法案》進入立法關鍵期，Hugging Face 發表政策倡議，探討法案對開源機器學習（Open ML）的潛在衝擊。文章強調開源在提升 AI 安全性與透明度上的關鍵作用，呼籲立法者應區分商業部署與非商業研究，避免對開源開發者與託管平台施加不切實際的合規負擔，以維護歐洲的創新活力。
A comprehensive guide to running Llama 2 locally★ 70
Replicate Blog1050d agoTutorial本指南為開發者與 AI 愛好者提供在各種平台上本地運行 Llama 2 的實用方法。內容涵蓋適合 Mac 用戶的 Ollama、跨平台的 llama.cpp、圖形介面的 LM Studio，以及能在手機上運行 Llama 2 的 MLC LLM。透過這些工具，使用者無需依賴雲端 API 即可保護隱私並降低成本。
How Turborepo is porting from Go to Rust
Vercel Changelog1050d agoOpinionVercel 詳細解析了將 monorepo 建構工具 Turborepo 從 Go 移植到 Rust 的背後原因與方法。為了與 Next.js 的 Rust 工具鏈（如 Turbopack）深度整合並提升效能，團隊放棄了「一次性重寫」，採用「漸進式遷移」策略，逐步替換核心功能，並克服了兩者在並行處理與記憶體管理上的差異。
Results of the Open Source AI Game Jam
Hugging Face Blog1051d agoReleaseHugging Face 舉辦的首屆開源 AI 遊戲創作大賽（Open Source AI Game Jam）圓滿落幕。本次活動吸引了上千名開發者參與，並提交了眾多將開源 AI 技術（如 LLM、圖像生成、語音辨識）融入遊戲玩法的創意作品。獲獎作品展示了如何利用 Hugging Face 的工具生態系與開源模型，為傳統遊戲注入全新的動態生成與互動機制。
Fine-tune Llama 2 on Replicate
Replicate Blog1052d agoTutorialReplicate 宣布支援 Llama 2（包含 7B、13B 與 70B）的微調服務。開發者只需準備 JSONL 格式的訓練資料，即可透過 Replicate API 在 A100 GPU 上進行高效訓練。微調完成後，模型會自動部署為私有的 API 端點，方便直接整合至應用程式中，大幅降低了開源大模型微調與部署的門檻。
Happy 1st anniversary 🤗 Diffusers!
Hugging Face Blog1052d agoReleaseHugging Face 慶祝旗下核心開源庫 Diffusers 推出一週年。在過去一年中，Diffusers 憑藉直覺的 API 設計，成功降低了 Stable Diffusion 等擴散模型的技術門檻。該庫不僅支援了 ControlNet、LoRA 等多種前沿技術，還透過記憶體優化與硬體加速，讓生成式 AI 走入消費級硬體，成為開源 AI 生態系中不可或缺的基石。
How React 18 Improves Application Performance
Vercel Changelog1052d agoTutorialReact 18 透過引入「並行渲染（Concurrent Rendering）」核心機制，徹底改變了 UI 更新的處理方式。文章探討了 Transitions API 如何避免 UI 凍結、自動批次處理如何減少重新渲染次數，以及伺服器端 Suspense 如何實現 HTML 串流與選擇性注水，顯著提升載入速度與互動響應性。這些改變也為現代前端框架（如 Next.js）奠定了高效能的基礎。
What happened with Llama 2 in the last 24 hours? 🦙★ 80
Replicate Blog1053d agoReleaseMeta 推出新一代開源大語言模型 Llama 2（包含 7B、13B、70B 參數版本）後，在 AI 社群引發連鎖反應。Replicate 在第一時間託管了這些模型並提供 API 服務。本文彙整了發布後 24 小時內，包含雲端部署、API 呼叫及社群生態的最新進展，展現開源 AI 領域的驚人迭代速度。
Llama 2 is here - get it on Hugging Face★ 95
Hugging Face Blog1054d agoReleaseMeta 正式發布開源大型語言模型 Llama 2，包含 7B、13B 和 70B 三種參數規模，並允許商用。Hugging Face 與 Meta 深度合作，第一時間在 Hub 上架所有 Llama 2 模型，並全面支援 Transformers、TGI、PEFT 等工具。開發者可以直接在 Hugging Face 平台上進行 Llama 2 的推論、微調（Fine-tuning）與部署，並透過 Spaces 體驗 Chat 版本。
Open-Source Text Generation & LLM Ecosystem at Hugging Face★ 85
Hugging Face Blog1055d agoRelease本文系統性介紹 Hugging Face 的開源 LLM 生態系。核心組件包括用於模型載入與推理的 Transformers、實現高效微調的 PEFT、專為高並發部署設計的 Text Generation Inference (TGI)，以及支援對齊演算法（如 SFT、DPO）的 TRL。透過這些工具的協同效應，開發者可以低成本、高效地完成從模型選型、微調到生產線部署的全流程。
Building an AI WebTV
Hugging Face Blog1055d agoTutorialHugging Face 分享了建立「AI WebTV」的實戰指南。該專案整合了多種開源 AI 技術：利用 LLM 自動生成劇本、透過 Stable Diffusion 產生視覺畫面，並結合 TTS 語音合成技術。最後，利用 FFmpeg 將這些素材即時融合成影片串流，部署於 Hugging Face Spaces 並可同步直播至 Twitch 等平台，展示了多模態 AI 工作流的強大整合能力。
Fine-tuning Stable Diffusion models on Intel CPUs
Hugging Face Blog1058d agoTutorialHugging Face 介紹了如何在 Intel CPU 上微調 Stable Diffusion。透過 Intel Extension for PyTorch (IPEX) 與 Optimum Intel 庫，開發者可利用第四代 Xeon 處理器的 AMX 技術進行 BF16 混合精度訓練。這為缺乏 GPU 資源或想利用現有 CPU 伺服器的團隊，提供了一個高性價比的微調方案。
Iterating from design to deploy: the shape of future builders★ 70
Vercel Changelog1058d agoOpinionVercel 深入探討了前端開發流程的演變，指出傳統「設計、交付、開發、部署」的線性流程正被快速的「設計到部署」迭代所取代。隨著 AI 技術與視覺化工具的興起，設計師與開發者之間的界線變得模糊，非技術人員也能更直接地參與產品的構建與發布。文章強調未來的「Builder」（建構者）將不再受限於傳統職能，而是能利用現代平台與 AI 協作，以極高的速度將創意轉化為線上運行的產品。
Meet the Vercel AI Accelerator Participants
Vercel Changelog1059d agoBusinessVercel 正式公布其首屆「Vercel AI Accelerator」加速器計畫的 40 家入選新創團隊。該計畫從全球超過 2000 個申請案中篩選，入選者將獲得來自 Vercel、OpenAI、Replicate 及 Pinecone 等合作夥伴提供的資源與技術支持。這項為期六週的計畫旨在協助開發者快速構建並擴展 AI 應用。
Introducing the Vercel Platforms Starter Kit★ 75
Vercel Changelog1066d agoNew ToolVercel 發表 Platforms Starter Kit，這是一個專為建構多租戶（Multi-tenant）應用程式設計的 Next.js 範本。它整合了 Next.js App Router、Vercel Postgres 與 Edge Middleware，並原生支援子網域與自訂網域。開發者可以藉此省去繁瑣的路由與網域設定，專注於核心業務邏輯，快速打造如 Notion 或 Substack 的 SaaS 平台。
Making ML-powered web games with Transformers.js★ 75
Hugging Face Blog1067d agoTutorial本文探討如何使用 Hugging Face 的 Transformers.js 庫，直接在瀏覽器中運行機器學習模型來開發網頁遊戲。透過 ONNX Runtime Web 與 WebGPU 加速，開發者能實現語音控制、智慧 NPC 對話及視覺辨識等功能。這種客戶端運算模式不僅能實現零伺服器成本，還能保障玩家隱私並降低網路延遲。