Latest in AI
Deploy LLMs with Hugging Face Inference Endpoints★ 75
Hugging Face Blog1068d agoTutorialHugging Face 介紹了其託管服務 Inference Endpoints，旨在簡化大型語言模型（LLM）的部署流程。開發者只需在 Hugging Face Hub 選擇模型，即可一鍵部署至 AWS 或 Azure 的安全 GPU 環境。該服務整合了 Text Generation Inference (TGI) 技術，支援動態批處理與張量並行，大幅提升推理效率並降低成本。
Making a web app generator with open ML models
Hugging Face Blog1069d agoTutorialHugging Face 介紹了如何使用開源程式碼模型（如 StarCoder）構建「文字轉網頁應用（Text-to-Web-App）」產生器。文章詳細說明了系統架構，包括如何透過 Prompt 工程引導模型輸出包含 HTML、Tailwind CSS 與 JavaScript 的單一網頁檔案。此專案展示了開源模型在快速原型設計與程式碼生成上的強大潛力，並提供了在 Hugging Face Spaces 上的實作範例。
Leveraging Hugging Face for complex generative AI use cases
Hugging Face Blog1071d agoBusiness本案例研究探討了企業級生成式 AI 平台 Writer 如何與 Hugging Face 深度合作。Writer 透過 Hugging Face 的 Transformers、Accelerate 以及 Text Generation Inference (TGI) 等技術，成功開發並部署了專為企業設計的 Palmyra 系列模型。這不僅大幅降低了模型訓練與推論的成本，更在確保數據隱私與合規性的前提下，為企業客戶提供了高度客製化的 AI 解決方案。
Accelerating Vision-Language Models: BridgeTower on Habana Gaudi2
Hugging Face Blog1073d agoTutorial本技術文章介紹如何將視覺語言模型 BridgeTower 部署於 Intel 的 Habana Gaudi2 晶片上。透過 Hugging Face 的 optimum-habana 整合套件，開發者只需修改極少代碼，即可在 Gaudi2 上實現高效能的跨模態模型訓練與推理。相較於傳統 GPU，Gaudi2 在處理此類複雜的多模態任務時展現出極佳的性價比與加速表現。
Expanding the experimentation ecosystem with Edge Config and LaunchDarkly
Vercel Changelog1074d agoNew ToolVercel 宣布與功能管理平台 LaunchDarkly 深度整合。透過將功能旗標（Feature Flags）同步至 Vercel Edge Config，開發者可在邊緣端以毫秒級速度進行旗標評估與 A/B 測試。此舉消除了傳統外部 API 呼叫帶來的延遲，大幅優化了使用者體驗與網頁效能。
Ethics and Society Newsletter #4: Bias in Text-to-Image Models
Hugging Face Blog1076d agoCommentary本期 Hugging Face 倫理與社會電子報聚焦於文字生成圖像（Text-to-Image）模型的偏見。文章指出，這些模型在生成職業、社會角色等圖像時，常顯露出嚴重的性別與種族刻板印象。這源於訓練數據中不均衡的代表性，Hugging Face 呼籲社群透過開發評估工具與推動數據透明化來共同應對此挑戰。
Incrementally adopting Next.js at one of Europe's fastest growing brands
Vercel Changelog1078d agoOpinion歐洲一家快速成長的品牌分享了其漸進式導入 Next.js 的架構實踐。該公司面臨舊有系統龐大、難以一次性重構的挑戰，因此採用了漸進式遷移策略。透過 Vercel 的路由與微前端架構，他們得以逐一模組化遷移頁面，最終在確保業務不中斷的前提下，大幅提升了網站效能與開發團隊的交付速度。
What's going on with the Open LLM Leaderboard?★ 75
Hugging Face Blog1079d agoCommentary本文探討 Hugging Face Open LLM 排行榜上模型分數（特別是 MMLU）與官方論文宣稱不一致的原因。Hugging Face 指出，評測對 Prompt 格式、Few-shot 設定及 Token 機率計算方式極為敏感。為了確保公平與可重複性，排行榜統一採用 EleutherAI 的 lm-evaluation-harness，呼籲社群建立標準化評測規範。
How Neo Financial cut time spent on infrastructure admin by 50%
Vercel Changelog1079d agoBusiness加拿大挑戰者銀行 Neo Financial 分享其遷移至 Vercel 的成功案例。透過 Vercel 的自動化部署與預覽功能，該公司成功將前端基礎設施的管理時間縮減了 50%。這讓開發團隊能擺脫繁瑣的 AWS 與 CI/CD 維護工作，專注於核心金融產品的開發與快速迭代。
Enhanced content management for your headless CMS
Vercel Changelog1079d agoReleaseVercel 宣布為 Headless CMS 推出增強的內容管理功能，核心在於「視覺化編輯（Visual Editing）」。此功能與 Sanity、Contentful 等主流 CMS 深度整合，允許非技術人員直接在 Vercel 預覽頁面上點擊任意元素，即可快速定位並編輯 CMS 中的對應內容，大幅提升跨團隊協作效率。
An Introduction to Streaming on the Web★ 75
Vercel Changelog1079d agoTutorial本文為 Vercel 撰寫的 Web Streaming 串流技術入門指南。傳統 SSR 需等待所有數據準備完畢才渲染，而 Streaming 允許伺服器將網頁拆分為多個區塊（Chunks），並透過 HTTP 傳輸協議逐步推送至瀏覽器。這不僅能顯著降低首位元組時間（TTFB），還能結合 React Suspense 實現漸進式渲染，是現代前端開發與 AI 串流生成（LLM Streaming）不可或缺的底層效能優化手段。
Panel on Hugging Face
Hugging Face Blog1080d agoReleaseHugging Face 宣布在其 Spaces 平台中正式整合 Panel 框架。Panel 是由 HoloViz 開發的強大 Python 庫，專為建立複雜的資料面板與 Web 應用而設計。此整合讓開發者能利用 Panel 的豐富組件與雙向綁定功能，在 Hugging Face 上快速部署、分享並展示他們的 AI 與機器學習模型，為 Gradio 和 Streamlit 之外提供了更具彈性的新選擇。
Introducing Skew Protection★ 72
Vercel Changelog1080d agoReleaseVercel 推出全新的「Skew Protection（版本偏差保護）」功能。當開發者部署新版本時，仍在瀏覽舊版網頁的用戶常因動態載入（Dynamic Imports）找不到舊檔案或 API 格式不相容而崩潰。此功能會自動將舊版客戶端的請求路由至對應的舊版部署，確保無縫過渡，提升使用者體驗。
New features for SvelteKit: Optimize your application with ease
Vercel Changelog1081d agoReleaseVercel 宣布對 SvelteKit 實現「功能完備」的支援。開發者現在可以輕鬆利用 Vercel 的基礎設施優化 SvelteKit 應用，包括增量靜態再生（ISR）、邊緣運算（Edge Functions）以及自動影像優化。這項更新簡化了部署流程，讓 SvelteKit 專案在 Vercel 上能發揮出色的效能與擴展性。
AI Policy @🤗: Response to the U.S. NTIA's Request for Comment on AI Accountability
Hugging Face Blog1082d agoOpinionHugging Face 針對美國國家電信和資訊管理局（NTIA）的 AI 問責制徵求意見書提交了官方回應。HF 主張，開放科學與開源生態系對於 AI 的安全與問責至關重要，能促進外部審計與研究。他們建議推廣 Model Cards 等標準化文件，並呼籲建立因地制宜、分擔責任的監管框架，避免對開源創新造成過度限制。
Fine-Tune MMS Adapter Models for low-resource ASR★ 70
Hugging Face Blog1083d agoTutorialMeta 的 MMS（大規模多語言語音）模型支援超千種語言。Hugging Face 官方部落格詳細教學如何透過「轉接器（Adapter）」技術，在凍結基礎模型的前提下僅微調極少參數。這項技術非常適合預算有限、缺乏運算資源或資料量極少的「低資源語言」語音辨識（ASR）任務，能大幅降低訓練成本並避免過擬合。
Yes, Transformers are Effective for Time Series Forecasting (+ Autoformer)★ 70
Hugging Face Blog1086d agoRelease針對學術界對 Transformer 是否適用於時間序列預測的質疑，Hugging Face 撰文平反。文章重點介紹已整合至其函式庫的 Autoformer 模型，該模型透過「序列分解」與「自相關機制」克服傳統 Transformer 的效能瓶頸。這證明了只要設計得當，Transformer 在長期時間序列預測（LSTF）上依然能展現卓越的準確度。
Vercel KV is now generally available for Hobby and Pro customers
Vercel Changelog1086d agoReleaseVercel 宣布其無伺服器 Redis 資料庫服務「Vercel KV」正式進入一般可用（GA）階段，全面開放給 Hobby 和 Pro 方案用戶。此服務由 Upstash 支援，具備低延遲、全球分佈與自動縮放特性。開發者可透過簡單的 SDK 快速整合，非常適合用於快取、Session 管理或 AI 應用的對話歷史儲存。
From idea to acquisition: How Potion.so shipped 4,000+ sites on Vercel
Vercel Changelog1086d agoBusiness本文分享了 Notion 轉網站工具 Potion.so 的創業歷程。創辦人 Noah Bragg 利用 Vercel 的強大基礎設施（如自訂網域 API 與邊緣網路），在沒有龐大運維團隊的情況下，成功為客戶託管了超過 4,000 個網站。這套高效且可擴展的架構，讓 Potion 能專注於產品體驗，最終實現從靈感、快速成長到成功被收購的完整創業閉環。
Introducing the Vercel AI SDK★ 85
Vercel Changelog1086d agoReleaseVercel 正式推出 Vercel AI SDK，這是一款專為 JavaScript 和 TypeScript 開發者設計的開源庫。它能幫助開發者輕鬆在 Next.js、React、Svelte 等前端框架中構建 AI 聊天與生成界面。SDK 核心亮點在於內建強大的串流（Streaming）支援、提供 useChat 等便捷的 React Hooks，並無縫相容 OpenAI、Anthropic 等主流 LLM 提供商。
Deploy Livebook notebooks as apps to Hugging Face Spaces
Hugging Face Blog1087d agoNew ToolHugging Face 與 Livebook 合作，現在開發者可以直接將 Elixir 的 Livebook 互動式筆記本一鍵部署至 Hugging Face Spaces。這項功能讓 Elixir 社群能更輕鬆地展示機器學習模型與互動式儀表板。透過 Docker 模板，使用者無需複雜設定即可託管並分享他們的 Elixir AI 專案，進一步擴大 Elixir 在 AI 生態系的影響力。
Announcing our new Content Guidelines and Policy
Hugging Face Blog1087d agoReleaseHugging Face 宣布更新其「內容指南與政策」，旨在為開源 AI 社群建立更安全、透明的環境。新政策明確禁止仇恨言論、惡意軟體、非自願性色情及旨在產生有害內容的模型。此外，官方也優化了社群檢舉流程與侵權（DMCA）處理機制，以確保平台上的模型與數據集符合安全合規標準。
Faster Stable Diffusion with Core ML on iPhone, iPad, and Mac★ 75
Hugging Face Blog1087d agoTutorial本文介紹如何利用 Core ML 技術在 Apple Silicon 晶片上加速 Stable Diffusion。透過模型量化（如 6-bit/8-bit）與 Apple 神經網路引擎（ANE）的優化，開發者能顯著降低記憶體佔用，在 iPhone、iPad 和 Mac 上實現本地端超快速的圖像生成，有效解決行動裝置記憶體不足（OOM）的痛點。
Introducing Vercel's AI Accelerator★ 70
Vercel Changelog1087d agoBusinessVercel 推出為期 6 週的「Vercel AI Accelerator」計劃，旨在協助早期 AI 新創團隊。入選團隊將獲得總價值達 25 萬美元的 API 額度與雲端資源，並能獲得來自 OpenAI、Pinecone、Hugging Face 等合作夥伴的技術支持與業界頂尖導師的親自指導，加速 AI 應用的開發與部署。
Hugging Face and AMD partner on accelerating state-of-the-art models for CPU and GPU platforms★ 70
Hugging Face Blog1089d agoBusinessHugging Face 宣佈與 AMD 展開深度合作，旨在為 AMD 的 CPU 和 GPU 平台（包括 Ryzen、EPYC、Radeon 及 Instinct 系列）提供頂級的 AI 模型加速。雙方將共同優化 Hugging Face 的 Optimum 庫，讓開發者能無縫地在 AMD 硬體上部署與訓練 Transformer 模型。此舉為 AI 社群提供了 NVIDIA 之外的高性價比硬體選擇，促進開源 AI 生態的多樣性。
The Hugging Face Hub for Galleries, Libraries, Archives and Museums
Hugging Face Blog1090d agoTutorialHugging Face 發布針對 GLAM（美術館、圖書館、檔案館與博物館）領域的應用指南，介紹如何利用 Hugging Face Hub 託管、分享並協作開發文化遺產相關的數據集、機器學習模型與互動式 Spaces 應用。此指南旨在推動文化機構的數位轉型，促進開放科學與文化遺產的 AI 研究。
Can foundation models label data like humans?★ 75
Hugging Face Blog1090d agoCommentary隨著 RLHF 成為微調大模型的關鍵，高昂的人工標記成本成為瓶頸。研究顯示，基座模型（如 GPT-4）在許多文本分類與偏好標記任務上，已能達到甚至超越普通群眾外包人員的準確度，且成本僅為百分之一。然而，AI 標記仍存在自我偏好、字數偏見等系統性誤差，未來將走向 AI 輔助與人類協同的混合模式。
DuckDB: analyze 50,000+ datasets stored on the Hugging Face Hub★ 75
Hugging Face Blog1095d agoReleaseHugging Face 宣布與嵌入式 SQL 資料庫 DuckDB 整合。現在開發者無需下載整個數據集，即可直接使用 SQL 語法查詢和分析 Hugging Face Hub 上超過 50,000 個數據集。這項功能結合了 Hugging Face 的 Datasets Server 與 DuckDB 的高效查詢能力，大幅提升了數據探索與預處理的效率。
Visual Editing meets Markdown
Vercel Changelog1095d agoReleaseVercel 宣布其「視覺化編輯（Visual Editing）」功能正式支援 Markdown。這項更新讓團隊成員可以直接在網站預覽畫面上點擊由 Markdown 渲染的文字，並直接跳轉至對應的 CMS 或 Git 原始碼進行修改。此舉大幅降低了維護 Markdown 內容的門檻，完美結合了所見即所得的直觀性與 Markdown 的結構化優勢。
Welcome fastText to the Hugging Face Hub
Hugging Face Blog1096d agoReleaseHugging Face Hub 正式整合 Meta 開源的經典 NLP 工具 fastText。現在開發者可以直接在 Hub 上託管、版本控制並分享 fastText 模型（.bin 格式）。此外，官方也上架了支援 157 種語言的預訓練詞向量與語言識別模型，並支援線上推理 API，大幅降低了輕量級 NLP 應用的部署與使用門檻。