Replicate Intelligence #4
Replicate Blog719d agoReleaseReplicate 發表最新技術週報，重點包括：1. 介紹如何透過稀疏自編碼器（SAE）在 GPT 模型中定位與提取特定概念；2. 展示利用瀏覽器進行低延遲、隱私安全的即時語音轉文字技術；3. 宣布 Replicate 平台即將迎來 NVIDIA H100 GPU，大幅提升開源模型推理與微調的速度。
From DeepSpeed to FSDP and Back Again with Hugging Face Accelerate★ 75
Hugging Face Blog720d agoTutorial本文探討如何利用 Hugging Face Accelerate 在 DeepSpeed 與 PyTorch FSDP 兩大分散式訓練框架之間無縫切換。這兩者皆是解決大模型（LLM）顯存不足的關鍵技術。透過 Accelerate 的高度抽象化，開發者無需修改核心訓練代碼，僅需調整設定檔即可自由切換，並針對不同硬體環境進行效能微調。文章也分析了兩者的優缺點與適用場景，為 AI 工程師提供實用的架構選擇指南。
Diffusers welcomes Stable Diffusion 3★ 80
Hugging Face Blog721d agoReleaseHugging Face 宣布其 diffusers 函式庫已正式整合 Stability AI 的 Stable Diffusion 3 (SD3)。本次更新全面支援 SD3 Medium 模型，並引入多項關鍵的記憶體優化技術（如 CPU offloading、float16 精度與可選的 T5-XXL 編碼器），讓開發者能在消費級 GPU 上流暢運行。此外，官方也同步釋出了 DreamBooth 與 LoRA 的微調腳本，大幅降低了客製化圖像生成模型的門檻。
Run Stable Diffusion 3 with an API★ 70
Replicate Blog721d agoNew ToolStability AI 的最新文字生成圖像模型 Stable Diffusion 3 已正式上架雲端託管平台 Replicate。此版本模型在圖像生成品質、文字排版精準度、複雜提示詞理解能力以及資源運行效率上，皆比前代有顯著的提升。開發者現在可以透過 Replicate 提供的雲端 API，僅需編寫一行程式碼，就能輕鬆將其整合至應用程式中。
Putting RL back in RLHF★ 80
Hugging Face Blog721d agoRelease近年 DPO 等直接對齊方法因免去強化學習（RL）的複雜度而大受歡迎，但線上 RL 仍有其獨特優勢。Hugging Face 發表部落格介紹在 TRL 庫中實現的 RLOO（REINFORCE Leave-One-Out）演算法。RLOO 透過生成多個樣本並計算「留一法」基準值來降低變異數，不僅免去了 PPO 龐大的 Critic 網路、節省顯存，還能達到與 PPO 相當甚至更好的對齊效果，讓線上 RL 重新成為實用選擇。
Introducing the Hugging Face Embedding Container for Amazon SageMaker★ 75
Hugging Face Blog726d agoReleaseHugging Face 與 AWS 合作推出全新 Deep Learning Container (DLC)，專為 Amazon SageMaker 上的文字嵌入（Embedding）與序列分類模型進行優化。此容器基於 Hugging Face 的 Text Embeddings Inference (TEI) 技術，支援動態批處理與 Flash Attention，能顯著降低延遲並提高吞吐量，簡化了在 AWS 上部署 RAG 應用的流程。
Making sense of this mess
Hugging Face Blog726d agoReleaseHugging Face 針對其最受歡迎的開源庫 Transformers 進行了官方文件的全面重新設計。為了解決因支援數千個模型、多種框架（PyTorch/TF/JAX）及多模態任務而日益混亂的結構，新版文件採用了更清晰的分類法。這項更新大幅提升了開發者查找 API、教學與概念指南的效率。
Introducing NPC-Playground, a 3D playground to interact with LLM-powered NPCs★ 75
Hugging Face Blog728d agoReleaseHugging Face 聯合 Cubzh 與 Gigax 推出「NPC-Playground」3D 互動沙盒。該平台利用開源的大型語言模型（LLM）賦予 NPC 記憶、感知與決策能力，使其不僅能與玩家對話，還能在 3D 空間中執行撿拾、移動等實體動作。這項開源合作展示了 AI Agent 在遊戲領域的全新應用可能。
Replicate Intelligence #2★ 75
Replicate Blog733d agoCommentary本期 Replicate Intelligence 彙整了三大 AI 前沿進展：首先是 ByteDance 開源的 Hyper-SD 技術，實現了毫秒級的超快速圖像生成；其次是探討如 DIAMOND 等利用擴散模型構建的「世界模擬器」，展示了 AI 在虛擬環境模擬與強化學習中的潛力；最後深入分析了 AI 資料集複雜度，探討在數據漸趨飽和的當下，如何透過優化數據質量與結構來提升模型訓練效率。
Benchmarking Text Generation Inference★ 75
Hugging Face Blog735d agoTutorialHugging Face 詳細介紹了其開源 LLM 推理框架 Text Generation Inference (TGI) 的基準測試方法。文章深入解析了首字延遲 (TTFT)、每 token 延遲 (TPOT) 與吞吐量等關鍵指標，並指導開發者如何使用 TGI 內建工具進行壓力測試。這對於需要在生產環境中部署與優化大模型、權衡成本與性能的工程師來說是必讀指南。
Training and Finetuning Embedding Models with Sentence Transformers★ 80
Hugging Face Blog736d agoReleaseHugging Face 發布 Sentence Transformers v3.0，引入全新的 SentenceTransformerTrainer。此更新解決了以往微調嵌入模型時繁瑣的訓練流程，全面支援多 GPU 訓練、混合精度、損失函數整合以及與 Hugging Face Hub 的無縫對接。這對於需要為 RAG 或語意搜尋微調專屬 Embedding 模型的開發者與研究人員來說是一大突破。
Falcon 2: An 11B parameter pretrained language model and VLM, trained on over 5000B tokens and 11 languages★ 75
Hugging Face Blog740d agoRelease阿布達比技術創新研究所（TII）推出全新開源模型 Falcon 2 11B，包含預訓練語言模型與視覺語言模型（VLM）。該模型在超過 5 兆（5000B）Token 的高質量數據上進行訓練，支援 11 種語言。其性能在同量級模型中表現亮眼，並採用 Apache 2.0 授權，對開源社群與開發者極具吸引力。
Shared network vulnerability disclosure★ 75
Replicate Blog741d agoIncidentAI 模型託管平台 Replicate 揭露了一項已修復的嚴重安全漏洞。該漏洞由雲端安全公司 Wiz 發現，源於多租戶環境下的共享網路配置缺陷。攻擊者可透過上傳惡意模型，繞過容器隔離並存取其他用戶的私有模型、輸入與輸出數據。Replicate 已於第一時間完成修復、加強網路隔離，並確認除研究人員的測試外，無其他用戶數據外洩。
Deploy models on AWS Inferentia2 from Hugging Face★ 75
Hugging Face Blog742d agoReleaseHugging Face 宣布其託管服務 Inference Endpoints 正式支援 AWS Inferentia2 (Inf2) 執行個體。這項整合讓開發者無需繁瑣的編譯設定，即可將 Llama、Mistral 等大型語言模型部署至 AWS 的專屬推論晶片上。相較於傳統 GPU，Inferentia2 能大幅降低推論成本並提升吞吐量，為企業提供更具成本效益的生產環境部署選擇。
Hugging Face on AMD Instinct MI300 GPU★ 75
Hugging Face Blog743d agoReleaseHugging Face 宣布與 AMD 展開深度合作，全面優化 AMD Instinct MI300X GPU。透過 AMD ROCm 軟體棧與 Hugging Face 核心庫（如 Transformers、TGI）的無縫整合，開發者無需修改程式碼即可在 MI300X 上運行 Llama 3 等大型模型。MI300X 憑藉 192GB HBM3 超大記憶體，為企業提供極具性價比且能擺脫單一晶片供應商依賴的高效能 AI 算力選擇。
From cloud to developers: Hugging Face and Microsoft Deepen Collaboration★ 75
Hugging Face Blog743d agoBusinessHugging Face 宣布與微軟深化合作，將其開源模型庫與 Azure AI Studio 進行深度整合。開發者現在可以直接在 Azure 上以無伺服器 API（Model-as-a-Service）形式部署熱門開源模型。此外，雙方也加強了對 Windows AI 本地端運算（如 ONNX Runtime）的支援，全面打通從雲端到邊緣端的開發流程。
Build AI on premise with Dell Enterprise Hub★ 75
Hugging Face Blog743d agoReleaseHugging Face 與 Dell 聯手推出 Dell Enterprise Hub，旨在簡化企業在地端（On-Premise）部署 AI 模型的流程。該平台提供針對 Dell PowerEdge 等硬體優化的容器與主流開源模型（如 Llama 3、Mistral），確保高效能與安全性。企業用戶可直接在熟悉的 Dell 基礎設施中一鍵部署、微調開源模型，完美解決資料隱私與合規性痛點。
Unlocking Longer Generation with Key-Value Cache Quantization★ 80
Hugging Face Blog748d agoTutorial隨著 LLM 上下文長度增加，KV Cache 佔用的記憶體成為推論瓶頸。Hugging Face 探討了 KV Cache 量化技術（如 INT8 和 INT4），這項技術能減少高達 75% 的快取記憶體佔用。這不僅能顯著提升推論的批次大小（Batch Size），還能在不犧牲太多精度的情況下，讓消費級顯卡也能運行超長文本生成。
Introducing the Open Arabic LLM Leaderboard
Hugging Face Blog750d agoReleaseHugging Face 宣布推出「Open Arabic LLM Leaderboard」，這是一個專為阿拉伯語大語言模型設計的開源評測排行榜。該平台旨在解決阿拉伯語在 AI 評測上的資源匱乏問題，透過多維度的基準測試（如文化理解、推理與語言生成），幫助社群客觀評估並推動阿拉伯語 AI 模型的發展。
Hugging Face x LangChain : A new partner package★ 80
Hugging Face Blog750d agoReleaseHugging Face 與 LangChain 宣布推出全新的官方合作夥伴套件 langchain-huggingface。此套件旨在簡化開源模型與 LangChain 生態系的整合，提供更穩定、高效的連接方式。開發者現在可以透過統一的 API，輕鬆調用 Hugging Face 上的嵌入模型、本地 Pipeline 以及託管端點，大幅提升開發效率。
PaliGemma – Google's Cutting-Edge Open Vision Language Model★ 80
Hugging Face Blog750d agoReleaseGoogle 發表全新開源視覺語言模型 PaliGemma，結合了 SigLIP 視覺編碼器與 Gemma-2B 語言模型。PaliGemma 具備強大的圖像描述、視覺問答（VQA）、物件偵測與 OCR 能力，並提供多種解析度版本。該模型已深度整合至 Hugging Face 生態系，非常適合開發者進行特定下游任務的微調。
License to Call: Introducing Transformers Agents 2.0★ 80
Hugging Face Blog751d agoReleaseHugging Face 推出 Transformers Agents 2.0，對其 Agent 框架進行了全面重構。新版本主打兩大核心 Agent：能直接撰寫並執行 Python 程式碼的 CodeAgent，以及基於 ReAct 思考循環的 ReactAgent。此版本大幅簡化了工具（Tools）的自訂與分享機制，並支援多種開源與商業 LLM，為開發者提供更靈活、強大的 Agent 開發體驗。
Subscribe to Enterprise Hub with your AWS Account
Hugging Face Blog755d agoBusinessHugging Face 宣布其企業級平台 Enterprise Hub 已正式上架 AWS Marketplace。企業客戶現在可以直接使用現有的 AWS 帳戶進行訂閱，並將費用合併至 AWS 帳單中，簡化企業內部的採購與財務審批流程。此舉讓企業能更安全、合規地在 AWS 雲端環境中協作、部署與管理開源 AI 模型與數據集。
Building Cost-Efficient Enterprise RAG applications with Intel Gaudi 2 and Intel Xeon★ 70
Hugging Face Blog755d agoTutorial本文介紹如何結合 Intel Gaudi 2 AI 加速器與 Intel Xeon 處理器，打造具成本效益的企業級檢索增強生成（RAG）應用。透過 Hugging Face 的 TEI 與 TGI 技術，企業能在 Xeon 上高效處理向量嵌入，並在 Gaudi 2 上加速大語言模型推理，為非 Nvidia 生態系提供強大的替代方案。
Introducing the Open Leaderboard for Hebrew LLMs!
Hugging Face Blog759d agoReleaseHugging Face 宣布推出「希伯來語 LLM 開放排行榜」（Open Leaderboard for Hebrew LLMs）。該平台旨在為希伯來語的大型語言模型提供客觀、標準化且開源的評估基準，解決非英語系語言在主流評測中資源匱乏的問題，有助於開發者評估與優化特定語系模型的表現。
Bringing the Artificial Analysis LLM Performance Leaderboard to Hugging Face★ 75
Hugging Face Blog761d agoNew ToolHugging Face 宣布與獨立評測機構 Artificial Analysis 合作，將其 LLM 效能排行榜引入平台。該榜單不僅評估模型品質，更著重於實際部署指標，如吞吐量（Tokens/sec）、首字延遲（TTFT）與每百萬 Token 的成本。這讓開發者在選擇模型與託管服務商（如 Groq、Together AI 等）時，能有更直觀且數據驅動的決策依據。
Powerful ASR + diarization + speculative decoding with Hugging Face Inference Endpoints★ 75
Hugging Face Blog763d agoTutorialHugging Face 介紹了如何在 Inference Endpoints 上整合自動語音辨識（ASR）與語者辨識（Diarization）。透過結合 Whisper 與 PyAnnote 模型，並導入投機解碼（Speculative Decoding）技術，大幅提升了語音轉文字的推理速度與精準度。此方案為開發者提供了一個開箱即用、具備高擴展性的生產級語音處理管線。
Improving Prompt Consistency with Structured Generations★ 75
Hugging Face Blog764d agoTutorial本文深入探討如何利用結構化生成（Structured Generations）解決 LLM 輸出格式不穩定的痛點。透過約束解碼（Constrained Decoding）技術（如 Outlines 或 TGI），能強迫模型輸出符合特定 JSON Schema 的內容。文章分析了這種技術的運作原理、如何進行評估，以及它對模型推理品質與生成速度的實際影響，是開發 Production-ready AI 應用的必讀指南。
StarCoder2-Instruct: Fully Transparent and Permissive Self-Alignment for Code Generation★ 75
Hugging Face Blog765d agoReleaseHugging Face 與 BigCode 社群推出 StarCoder2-Instruct-15B。該模型最大特色在於採用「完全透明」與「寬鬆授權」的自我對齊流程。傳統指令模型常依賴 GPT-4 生成數據導致商用受限，而 StarCoder2-Instruct 完全使用開源模型自身生成數據進行訓練，在確保商用合規的同時，於 HumanEval 等基準測試中展現優異性能。
Introducing the Open Chain of Thought Leaderboard★ 75
Hugging Face Blog771d agoReleaseHugging Face 發表「Open Chain of Thought (CoT) 排行榜」，旨在解決傳統基準測試無法有效評估模型推理過程的問題。該排行榜專注於數學、邏輯與科學等需要多步驟思考的任務，並提供公開透明的評測標準。這將幫助開發者與研究人員深入了解開源模型在複雜推理上的真實實力與瓶頸。