Painting with words: a history of text-to-image AI
Replicate Blog1016d agoCommentary本文回顧了文字生成圖像（Text-to-Image）技術的演進歷程。從早期的 GAN 限制，到 2021 年 VQGAN+CLIP 掀起的社群藝術熱潮，再到 2022 年 DALL-E 2 與 Stable Diffusion 的爆發。隨著 Stable Diffusion 迎來一週年及 SDXL 的推出，開源社群與微調技術正以前所未有的速度重塑視覺創作。
Introducing SafeCoder★ 75
Hugging Face Blog1016d agoReleaseHugging Face 宣布推出 SafeCoder，這是一套專為企業打造的程式碼寫作助手解決方案。SafeCoder 主打高度隱私與合規性，允許企業在自有的 VPC 或本地環境中部署，並能使用私有程式碼庫進行微調。該方案基於開源的 StarCoder 模型，旨在為企業提供一個可完全掌控、安全且不洩漏敏感資料的 GitHub Copilot 替代方案。
Introducing IDEFICS: An Open Reproduction of State-of-the-art Visual Langage Model★ 78
Hugging Face Blog1016d agoReleaseHugging Face 發表開源多模態視覺語言模型 IDEFICS，旨在重現 DeepMind 閉源模型 Flamingo 的強大功能。該模型基於 LLaMA 與 OpenCLIP 構建，提供 9B 與 80B 兩種參數版本，能同時處理交錯的文本與圖片輸入。IDEFICS 的開源為社群提供了強大的多模態研究基礎，並同步釋出了大規模數據集 OBELICS。
We're cutting our prices in half★ 75
Replicate Blog1022d agoBusinessAI 託管平台 Replicate 宣布重大計費調整：所有公開模型（如 Llama、Stable Diffusion 等）的 API 呼叫價格直接減半（降價 50%）。與此同時，為了平衡伺服器資源成本，未來將開始對新用戶的私有模型（Private Models）在設定（冷啟動）與閒置（Idle）時間進行計費。這項調整旨在降低開源模型使用門檻，同時優化專屬資源的利用率。
Streaming output for language models★ 70
Replicate Blog1024d agoReleaseReplicate 宣布其 API 正式支援伺服器傳送事件（SSE）串流功能。開發者無需等待整個語言模型（LLM）生成完畢，即可即時將文字片段推送到前端。此功能可透過官方 Python 與 JavaScript SDK 輕鬆實現，能有效降低用戶感知的延遲，打造更流暢的 AI 互動體驗。
Hugging Face Hub on the AWS Marketplace: Pay with your AWS Account
Hugging Face Blog1028d agoReleaseHugging Face 宣布其 Hub 服務正式登陸 AWS Marketplace。企業客戶現在可以直接使用現有的 AWS 帳戶訂閱與支付 Hugging Face 的服務（如 Enterprise Hub）。這項合作簡化了企業的採購與財務審批流程，並允許企業利用現有的 AWS 承諾消費（Commitments）來抵扣 Hugging Face 的費用，加速企業級 AI 應用的落地。
Optimizing Bark using 🤗 Transformers★ 75
Hugging Face Blog1029d agoTutorialBark 是 Suno 推出基於 Transformer 的文字轉語音（TTS）與音訊生成模型。由於其包含多個子模型，推理時極耗資源。本文詳細說明如何透過 Hugging Face Transformers 整合的優化技術，包括啟用半精度（fp16）、智慧 CPU 卸載（CPU Offloading）、PyTorch 2.0 的 SDPA（縮放點積注意力）以及 `torch.compile`，在不犧牲音質的前提下，將 VRAM 佔用降低 50% 以上，並顯著提升生成速度。
Fine-tune SDXL with your own images
Replicate Blog1030d agoNew ToolAI 雲端託管平台 Replicate 宣布為 SDXL 1.0 推出微調（Fine-tuning）功能，支援 Dreambooth、Textual Inversion 和 LoRA 等技術。開發者與創作者現在可以透過 Replicate API，僅需一行程式碼就能上傳自己的圖片並訓練出客製化的 SDXL 模型，大幅降低了客製化圖像生成模型的技術門檻與算力維護成本。
Releasing Swift Transformers: Run On-Device LLMs in Apple Devices★ 75
Hugging Face Blog1030d agoReleaseHugging Face 宣布推出全新開源 Swift 套件 `swift-transformers`，旨在簡化在 Apple 裝置（iOS、macOS）上部署與運行本地端大型語言模型（LLM）的流程。該套件支援 Tokenization 與模型推理，並能與 Apple 的 Core ML 框架緊密結合，充分發揮 Apple Silicon 的硬體加速優勢，為行動端應用帶來更隱私、低延遲的 AI 體驗。
Practical 3D Asset Generation: A Step-by-Step Guide★ 72
Hugging Face Blog1037d agoTutorial本指南介紹如何利用開源 AI 模型（如 OpenAI 的 Shap-E 和 Zero-1-to-3）從文本或單張圖片快速生成 3D 模型。 詳細說明了將 AI 生成的原始 3D 網格（Mesh）匯入 Blender 進行減面（Decimation）與材質修復的實務工作流。 為遊戲開發者與 3D 設計師提供了一套降低創作門檻、加速原型設計的實用開源解決方案。
Open-sourcing Knowledge Distillation Code and Weights of SD-Small and SD-Tiny★ 70
Hugging Face Blog1037d agoReleaseHugging Face 宣布開源基於 Stable Diffusion 蒸餾的輕量化模型 SD-Small（約 5.11 億參數）與 SD-Tiny（約 3.23 億參數）的權重與完整訓練程式碼。透過知識蒸餾技術減少 UNet 的層數，這些模型在保留高圖像質量的同時，實現了 1.5 到 2 倍的推理加速。此舉不僅降低了消費級顯卡與行動裝置運行 AI 繪圖的門檻，也讓開發者能自行蒸餾客製化的 SD 模型。
Stable Diffusion XL on Mac with Advanced Core ML Quantization★ 72
Hugging Face Blog1042d agoReleaseHugging Face 發表了將 Stable Diffusion XL (SDXL) 部署於 Mac 的 Core ML 最佳化方案。透過先進的量化技術（如 6-bit 與 8-bit 量化），成功將龐大的 SDXL 模型體積縮減，使其能在 Apple Silicon（M1/M2 系列晶片）的 Mac 上流暢運行，顯著降低記憶體需求，並充分釋放 Apple 神經網路引擎（ANE）的硬體效能。
Run SDXL with an API
Replicate Blog1043d agoTutorialReplicate 宣布支援 Stability AI 的 SDXL 1.0 圖像生成模型。開發者無需自行維護昂貴的 GPU 基礎設施，只需透過簡單的 Python、JavaScript 或 cURL API 呼叫，即可在雲端運行 SDXL 1.0。本指南展示了如何設定提示詞、尺寸等參數，並快速將高品質的 AI 繪圖功能整合至應用程式中。
AI Policy @🤗: Open ML Considerations in the EU AI Act★ 72
Hugging Face Blog1045d agoOpinion隨著歐盟《AI 法案》進入立法關鍵期，Hugging Face 發表政策倡議，探討法案對開源機器學習（Open ML）的潛在衝擊。文章強調開源在提升 AI 安全性與透明度上的關鍵作用，呼籲立法者應區分商業部署與非商業研究，避免對開源開發者與託管平台施加不切實際的合規負擔，以維護歐洲的創新活力。
Results of the Open Source AI Game Jam
Hugging Face Blog1048d agoReleaseHugging Face 舉辦的首屆開源 AI 遊戲創作大賽（Open Source AI Game Jam）圓滿落幕。本次活動吸引了上千名開發者參與，並提交了眾多將開源 AI 技術（如 LLM、圖像生成、語音辨識）融入遊戲玩法的創意作品。獲獎作品展示了如何利用 Hugging Face 的工具生態系與開源模型，為傳統遊戲注入全新的動態生成與互動機制。
Happy 1st anniversary 🤗 Diffusers!
Hugging Face Blog1049d agoReleaseHugging Face 慶祝旗下核心開源庫 Diffusers 推出一週年。在過去一年中，Diffusers 憑藉直覺的 API 設計，成功降低了 Stable Diffusion 等擴散模型的技術門檻。該庫不僅支援了 ControlNet、LoRA 等多種前沿技術，還透過記憶體優化與硬體加速，讓生成式 AI 走入消費級硬體，成為開源 AI 生態系中不可或缺的基石。
Open-Source Text Generation & LLM Ecosystem at Hugging Face★ 85
Hugging Face Blog1052d agoRelease本文系統性介紹 Hugging Face 的開源 LLM 生態系。核心組件包括用於模型載入與推理的 Transformers、實現高效微調的 PEFT、專為高並發部署設計的 Text Generation Inference (TGI)，以及支援對齊演算法（如 SFT、DPO）的 TRL。透過這些工具的協同效應，開發者可以低成本、高效地完成從模型選型、微調到生產線部署的全流程。
Building an AI WebTV
Hugging Face Blog1052d agoTutorialHugging Face 分享了建立「AI WebTV」的實戰指南。該專案整合了多種開源 AI 技術：利用 LLM 自動生成劇本、透過 Stable Diffusion 產生視覺畫面，並結合 TTS 語音合成技術。最後，利用 FFmpeg 將這些素材即時融合成影片串流，部署於 Hugging Face Spaces 並可同步直播至 Twitch 等平台，展示了多模態 AI 工作流的強大整合能力。
Fine-tuning Stable Diffusion models on Intel CPUs
Hugging Face Blog1055d agoTutorialHugging Face 介紹了如何在 Intel CPU 上微調 Stable Diffusion。透過 Intel Extension for PyTorch (IPEX) 與 Optimum Intel 庫，開發者可利用第四代 Xeon 處理器的 AMX 技術進行 BF16 混合精度訓練。這為缺乏 GPU 資源或想利用現有 CPU 伺服器的團隊，提供了一個高性價比的微調方案。
Making ML-powered web games with Transformers.js★ 75
Hugging Face Blog1064d agoTutorial本文探討如何使用 Hugging Face 的 Transformers.js 庫，直接在瀏覽器中運行機器學習模型來開發網頁遊戲。透過 ONNX Runtime Web 與 WebGPU 加速，開發者能實現語音控制、智慧 NPC 對話及視覺辨識等功能。這種客戶端運算模式不僅能實現零伺服器成本，還能保障玩家隱私並降低網路延遲。
Deploy LLMs with Hugging Face Inference Endpoints★ 75
Hugging Face Blog1065d agoTutorialHugging Face 介紹了其託管服務 Inference Endpoints，旨在簡化大型語言模型（LLM）的部署流程。開發者只需在 Hugging Face Hub 選擇模型，即可一鍵部署至 AWS 或 Azure 的安全 GPU 環境。該服務整合了 Text Generation Inference (TGI) 技術，支援動態批處理與張量並行，大幅提升推理效率並降低成本。
Making a web app generator with open ML models
Hugging Face Blog1066d agoTutorialHugging Face 介紹了如何使用開源程式碼模型（如 StarCoder）構建「文字轉網頁應用（Text-to-Web-App）」產生器。文章詳細說明了系統架構，包括如何透過 Prompt 工程引導模型輸出包含 HTML、Tailwind CSS 與 JavaScript 的單一網頁檔案。此專案展示了開源模型在快速原型設計與程式碼生成上的強大潛力，並提供了在 Hugging Face Spaces 上的實作範例。
Ethics and Society Newsletter #4: Bias in Text-to-Image Models
Hugging Face Blog1073d agoCommentary本期 Hugging Face 倫理與社會電子報聚焦於文字生成圖像（Text-to-Image）模型的偏見。文章指出，這些模型在生成職業、社會角色等圖像時，常顯露出嚴重的性別與種族刻板印象。這源於訓練數據中不均衡的代表性，Hugging Face 呼籲社群透過開發評估工具與推動數據透明化來共同應對此挑戰。
What's going on with the Open LLM Leaderboard?★ 75
Hugging Face Blog1076d agoCommentary本文探討 Hugging Face Open LLM 排行榜上模型分數（特別是 MMLU）與官方論文宣稱不一致的原因。Hugging Face 指出，評測對 Prompt 格式、Few-shot 設定及 Token 機率計算方式極為敏感。為了確保公平與可重複性，排行榜統一採用 EleutherAI 的 lm-evaluation-harness，呼籲社群建立標準化評測規範。
AI Policy @🤗: Response to the U.S. NTIA's Request for Comment on AI Accountability
Hugging Face Blog1079d agoOpinionHugging Face 針對美國國家電信和資訊管理局（NTIA）的 AI 問責制徵求意見書提交了官方回應。HF 主張，開放科學與開源生態系對於 AI 的安全與問責至關重要，能促進外部審計與研究。他們建議推廣 Model Cards 等標準化文件，並呼籲建立因地制宜、分擔責任的監管框架，避免對開源創新造成過度限制。
Faster Stable Diffusion with Core ML on iPhone, iPad, and Mac★ 75
Hugging Face Blog1084d agoTutorial本文介紹如何利用 Core ML 技術在 Apple Silicon 晶片上加速 Stable Diffusion。透過模型量化（如 6-bit/8-bit）與 Apple 神經網路引擎（ANE）的優化，開發者能顯著降低記憶體佔用，在 iPhone、iPad 和 Mac 上實現本地端超快速的圖像生成，有效解決行動裝置記憶體不足（OOM）的痛點。
Hugging Face and AMD partner on accelerating state-of-the-art models for CPU and GPU platforms★ 70
Hugging Face Blog1086d agoBusinessHugging Face 宣佈與 AMD 展開深度合作，旨在為 AMD 的 CPU 和 GPU 平台（包括 Ryzen、EPYC、Radeon 及 Instinct 系列）提供頂級的 AI 模型加速。雙方將共同優化 Hugging Face 的 Optimum 庫，讓開發者能無縫地在 AMD 硬體上部署與訓練 Transformer 模型。此舉為 AI 社群提供了 NVIDIA 之外的高性價比硬體選擇，促進開源 AI 生態的多樣性。
The Hugging Face Hub for Galleries, Libraries, Archives and Museums
Hugging Face Blog1087d agoTutorialHugging Face 發布針對 GLAM（美術館、圖書館、檔案館與博物館）領域的應用指南，介紹如何利用 Hugging Face Hub 託管、分享並協作開發文化遺產相關的數據集、機器學習模型與互動式 Spaces 應用。此指南旨在推動文化機構的數位轉型，促進開放科學與文化遺產的 AI 研究。
Can foundation models label data like humans?★ 75
Hugging Face Blog1087d agoCommentary隨著 RLHF 成為微調大模型的關鍵，高昂的人工標記成本成為瓶頸。研究顯示，基座模型（如 GPT-4）在許多文本分類與偏好標記任務上，已能達到甚至超越普通群眾外包人員的準確度，且成本僅為百分之一。然而，AI 標記仍存在自我偏好、字數偏見等系統性誤差，未來將走向 AI 輔助與人類協同的混合模式。
The Falcon has landed in the Hugging Face ecosystem★ 75
Hugging Face Blog1094d agoRelease阿布達比技術創新研究所（TII）推出的 Falcon-40B 與 Falcon-7B 模型正式整合至 Hugging Face 生態系統。這款模型在 Open LLM 排行榜上名列前茅，並採用了優化推理效率的 Multi-Query Attention 架構。本篇部落格介紹了如何使用 Transformers 庫進行推理、量化以及微調 Falcon 模型。