Replicate Intelligence #10
Replicate Blog663d agoRelease本期 Replicate Intelligence 彙整了近期社群與技術進展。重點包括開源圖像生成模型 Flux 的最新開發動態、基於 AI 驅動的 Minecraft 遊戲機器人，以及由 Zeke 撰寫的 Streamlit 與 Replicate 整合實作指南（Cookbook），幫助開發者快速構建 AI 應用。
Introducing TextImage Augmentation for Document Images★ 75
Hugging Face Blog666d agoNew ToolHugging Face 宣布與知名圖像增強庫 Albumentations 合作，推出專為文件圖像（如收據、合約、掃描檔）設計的 TextImage 數據增強技術。此技術能模擬真實世界中的折痕、陰影、污漬及掃描噪點，解決 Document AI 模型在面對低質量現實圖像時識別率下降的問題。開發者可直接將其整合至 Hugging Face 的數據處理與訓練流程中。
2024 Security Feature Highlights★ 75
Hugging Face Blog666d agoReleaseHugging Face 發布 2024 年安全功能亮點，展示其在保護開源 AI 生態系上的多項努力。平台引入了自動化惡意軟體與 Safetensors 安全掃描、敏感金鑰（Secrets）偵測，並與 Sigstore 合作推出模型加密簽章。此外，也強化了細粒度存取權限（Scoped Tokens）與多因素驗證（MFA），為開發者與企業提供更安全可靠的模型託管環境。
FLUX.1: First Impressions★ 85
Replicate Blog670d agoRelease由 Stable Diffusion 原班人馬創立的 Black Forest Labs 推出全新圖像生成模型家族 FLUX.1。該模型包含 Schnell、Dev 和 Pro 三個版本，在文字生成、複雜指令遵循以及人體細節上展現出驚人實力。Replicate 平台第一時間上架並進行深度實測，認為其美學風格與寫實度已能與 Midjourney v6 匹敵，為開源 AI 繪圖立下新標竿。
Replicate Intelligence #9★ 85
Replicate Blog670d agoReleaseReplicate Intelligence 第 9 期彙整了近期三大 AI 技術突破。首先是 Black Forest Labs 推出的開源影像生成模型 FLUX.1，其品質直逼 Midjourney v6；其次是 Meta 釋出的 SAM 2，將物件分割技術從靜態圖片延伸至動態影片；最後是 fast.ai 創辦人 Jeremy Howard 推出專為快速開發設計的全新 Python 網頁框架 FastHTML。
Google releases Gemma 2 2B, ShieldGemma and Gemma Scope★ 85
Hugging Face Blog672d agoReleaseGoogle 宣布推出 Gemma 家族新成員：僅有 2.6B 參數但性能強悍的 Gemma 2 2B 輕量模型；專為過濾有害內容設計的安全分類器 ShieldGemma（提供 2B、9B、27B 版本）；以及包含逾 400 個稀疏自編碼器的 Gemma Scope，為 AI 領域提供前所未有的模型內部決策「可解釋性」研究工具。
Memory-efficient Diffusion Transformers with Quanto and Diffusers★ 80
Hugging Face Blog673d agoReleaseHugging Face 介紹了如何利用 optimum-quanto 量化工具來優化 diffusers 中的 Diffusion Transformers (DiT) 模型。隨著 DiT 模型（如 PixArt、HunyuanDiT）體積日益龐大，記憶體成為運行的瓶頸。透過將模型權重進行 8-bit 或 4-bit 量化，開發者可以在消費級 GPU 上以極低的精度損失運行這些大型生成模型，顯著降低 VRAM 需求。
Serverless Inference with Hugging Face and NVIDIA NIM★ 82
Hugging Face Blog674d agoReleaseHugging Face 宣布與 NVIDIA 深度整合，在 Hugging Face Hub 上推出全新「無伺服器推論 (Serverless Inference)」服務。該服務由 NVIDIA NIM 微服務與 DGX Cloud 驅動，開發者無需管理複雜的 GPU 基礎設施，即可一鍵部署 Llama 3、Mistral 等熱門開源模型，並享有 TensorRT 優化帶來的極致效能與低延遲。
Docmatix - a huge dataset for Document Visual Question Answering★ 75
Hugging Face Blog685d agoReleaseHugging Face 發表了專為文件視覺問答（DocVQA）設計的超大型開源數據集 Docmatix。該數據集規模比現有同類數據集大上百倍，包含 240 萬張文件圖片及 950 萬個高質量的問答對。Docmatix 的推出解決了多模態模型在處理複雜 PDF、報表等視覺文件時微調數據不足的痛點，將顯著提升開源視覺語言模型（VLM）的文件解析與問答能力。
TGI Multi-LoRA: Deploy Once, Serve 30 Models★ 80
Hugging Face Blog685d agoReleaseHugging Face 的 Text Generation Inference (TGI) 推出 Multi-LoRA 服務功能。開發者只需在 GPU 上部署一個基礎模型（如 Llama 3），就能動態載入並同時運行多達 30 個不同的 LoRA 微調適配器（Adapters）。這項技術大幅降低了多模型部署的 GPU 顯存與硬體成本，並透過優化的批處理技術確保低延遲，是 LLMOps 領域的重大優化。
SmolLM - blazingly fast and remarkably powerful★ 82
Hugging Face Blog687d agoReleaseHugging Face 發表全新小語言模型家族 SmolLM，提供 135M、360M 和 1.7B 三種參數規格，專為本地端與行動裝置部署設計。該系列模型在高品質的教育與程式數據集（如 Cosmopedia v2 和 FineWeb-Edu）上進行訓練，效能超越同量級的 MobileLLM 和 Qwen2-0.5B。SmolLM 採 Apache 2.0 開源授權，並同步開源其訓練數據與配方，為邊緣運算與隱私優先的 AI 應用提供極佳選擇。
Replicate Intelligence #7
Replicate Blog691d agoCommentary本期 Replicate Intelligence 探討了從「以模型為中心」轉向「以資料為中心」的 AI 趨勢。重點介紹了如何進行高品質的資料整理（Data Curation）以及利用 AI 進行合成資料生成（Data Generation），這兩者是提升開源模型微調效果與推論品質的關鍵基石。
How NuminaMath Won the 1st AIMO Progress Prize★ 80
Hugging Face Blog692d agoRelease首屆 AI 數學奧林匹亞（AIMO）進步獎由 NuminaMath 奪得，其在私有測試集上取得 29/50 的佳績。該模型基於 DeepSeek-Math-Base 7B，採用獨特的兩階段微調策略：第一階段混合鏈式思考（CoT）與工具整合推理（TIR），第二階段則針對奧林匹亞級難題進行拒絕採樣微調。團隊已將包含 86 萬條數據的 NuminaMath 數據集與模型權重完全開源，為開源 AI 數學推理領域樹立了新里程碑。
Announcing New Hugging Face and KerasHub integration★ 75
Hugging Face Blog693d agoReleaseHugging Face 宣布與 KerasHub（前身為 KerasNLP 與 KerasCV）達成全新整合。開發者現在可以使用簡單的 API，直接在 Hugging Face Hub 上儲存與載入 KerasHub 模型。這項整合支援 Keras 3 的多後端特性，讓使用者能無縫在 JAX、PyTorch 或 TensorFlow 之間切換，大幅簡化了跨框架模型的部署與微調流程。
Preference Optimization for Vision Language Models★ 75
Hugging Face Blog693d agoTutorialHugging Face 發布技術指南，介紹如何將直接偏好最佳化（DPO）應用於視覺語言模型（VLM）。透過 TRL（Transformer Reinforcement Learning）庫，開發者可以輕鬆對 Idefics2 等多模態模型進行對齊訓練。此方法能有效減少 VLM 常見的「幻覺」問題，並顯著提升模型在視覺問答任務中的表現與人類偏好一致性。
Banque des Territoires (CDC Group) x Polyconseil x Hugging Face: Enhancing a Major French Environmental Program with a Sovereign Data Solution
Hugging Face Blog694d agoBusiness法國 Banque des Territoires（CDC 集團旗下）與技術夥伴 Polyconseil 及 Hugging Face 合作，針對其重大環境與生態轉型計畫推出「主權數據解決方案」。該方案旨在確保敏感的國土與環境數據在處理時符合歐洲嚴格的隱私法規（如 GDPR）。透過 Hugging Face 的開源模型生態系統與本地化部署，該計畫成功在不依賴非歐盟雲端服務的前提下，利用先進 AI 進行大規模文件分析與決策輔助，為公部門的 AI 主權化樹立了典範。
Google Cloud TPUs made available to Hugging Face users★ 75
Hugging Face Blog694d agoReleaseHugging Face 與 Google Cloud 合作，正式將 TPU（如 TPU v5e）引入其平台。用戶現在可以在 Hugging Face Spaces 和 Inference Endpoints 中直接選擇 TPU 作為硬體加速器。這項整合為部署大型語言模型和擴散模型提供了極具性價比的 GPU 替代方案，大幅降低了雲端推理的成本與門檻。
Our Transformers Code Agent beats the GAIA benchmark 🏅★ 80
Hugging Face Blog702d agoReleaseHugging Face 發表全新的 Transformers Code Agent，透過讓 AI 撰寫並執行 Python 程式碼來解決複雜任務。該方法在評估通用 AI 助理能力的 GAIA 基準測試上取得了 SOTA（當前最佳）表現，證明了「程式碼執行」作為 Agent 推理工具，遠比傳統的 JSON 工具調用（Tool Calling）更具彈性與效率。此專案已完全開源，為開發者提供構建高效能 Agent 的新選擇。
Replicate Intelligence #6★ 75
Replicate Blog705d agoReleaseReplicate 發布第 6 期技術情報，重點介紹 Google 全新開源的 Gemma 2 模型（包含 9B 與 27B 版本）已可在平台運行，其性能逼近更大參數的模型。同時，本期也更新了語言模型排行榜，並針對熱門的 Stable Diffusion 3 提供具體的提示詞與參數優化指南，幫助創作者解決人體畸變等常見生成問題。
Welcome Gemma 2 - Google’s new open LLM★ 85
Hugging Face Blog706d agoReleaseGoogle 聯合 Hugging Face 推出新一代開源模型 Gemma 2，提供 9B 與 27B 兩種參數規格。27B 版本在同量級中表現極為優異，甚至能與體積兩倍大的模型競爭；9B 版本也超越了 Llama 3 8B。此系列模型採用知識蒸餾與混合注意力機制，並已在 Hugging Face 生態系中獲得全面支援。
XLSCOUT Unveils ParaEmbed 2.0: a Powerful Embedding Model Tailored for Patents and IP with Expert Support from Hugging Face
Hugging Face Blog708d agoRelease智慧財產權平台 XLSCOUT 在 Hugging Face 專家團隊支援下，推出專為專利與 IP 領域設計的嵌入模型 ParaEmbed 2.0。該模型針對專利文本特有的複雜法律與技術術語進行優化，能顯著提升專利相似度檢索與相關 RAG 應用的精準度。這項合作展示了如何透過領域特定（Domain-specific）的微調，解決通用模型在專業領域表現不佳的痛點。
Fine-tuning Florence-2 - Microsoft's Cutting-edge Vision Language Models★ 80
Hugging Face Blog709d agoTutorial微軟推出的 Florence-2 是一款強大且輕量的視覺語言模型（VLM），僅有 232M 與 770M 兩種參數版本，卻能高效處理 OCR、目標檢測、圖像描述等多種任務。Hugging Face 官方部落格發布了這篇實用指南，詳細教學如何使用 Hugging Face 的 transformers 與 peft 函式庫，在自訂資料集上對 Florence-2 進行微調（Fine-tuning），並利用 LoRA 技術降低顯示記憶體需求，非常適合想在邊緣裝置或有限資源下部署視覺 AI 的開發者。
Ethics and Society Newsletter #6: Building Better AI: The Importance of Data Quality★ 75
Hugging Face Blog709d agoOpinion本期 Hugging Face 倫理與社會通訊聚焦於「數據品質」。文章指出，高質量的數據不僅能提升 AI 模型的技術表現，更是減少偏見、避免幻覺與實踐倫理 AI 的基石。內容探討了數據標註、多樣性、倫理採購以及如何透過開源社群協作來建立更具代表性且安全的數據集。
Replicate Intelligence #5
Replicate Blog712d agoReleaseReplicate 發布最新技術情報，重點介紹在平台上架的超強開源程式碼模型 DeepSeek-Coder-V2，其性能在多項指標上超越 GPT-4 Turbo。此外，文章探討了 AI 搜尋技術的最新突破，以及 Replicate 如何利用自身平台技術構建 Discord 社群專用的自動化客服支援機器人，展示了開源 AI 在實際開發與社群營運中的強大應用潛力。
Data Is Better Together: A Look Back and Forward
Hugging Face Blog713d agoReleaseHugging Face 發表「Data Is Better Together (DIBT)」計劃的階段性回顧與展望。該計劃旨在透過社群協作，解決高品質開源對齊數據不足的痛點。過去一年中，DIBT 透過 Argilla 等工具成功匯聚全球開發者，共同標註與生成了多個高質量的偏好與提示詞數據集。未來，該計劃將進一步擴展任務類型，推動更具包容性與去中心化的 AI 數據生態。
Going multimodal: How Prezi is leveraging the Hub and the Expert Support Program to accelerate their ML roadmap
Hugging Face Blog714d agoBusiness知名簡報平台 Prezi 為了在產品中導入多模態 AI 功能，與 Hugging Face 展開深度合作。透過利用 Hugging Face Hub 的開源模型生態系，並加入「專家支持計畫（Expert Support Program）」，Prezi 獲得了 HF 頂尖工程師的直接技術指導。這項合作不僅解決了模型微調與推理優化的技術瓶頸，更大幅縮短了其機器學習路線圖的時程，實現高效的多模態功能落地。
Introducing Vercel AI SDK 3.2★ 85
Vercel Changelog714d agoReleaseVercel 正式發布 AI SDK 3.2，本次更新帶來兩大核心功能：首先是全新的 `embed` 與 `embedMany` API，讓開發者能輕鬆生成向量嵌入以支援 RAG 應用；其次是支援 `maxSteps` 參數，實現自動化的多步驟工具調用（Multi-step Tool Calling），讓 AI 能在單次呼叫中連續執行多個工具，極大提升了建構 AI Agent 的效率與靈活性。
How to get the best results from Stable Diffusion 3★ 75
Replicate Blog715d agoTutorialStable Diffusion 3 (SD3) 引入了全新的架構與三種文字編碼器。本指南介紹如何透過自然語言描述（而非標籤堆疊）來獲得最佳圖像、如何精準渲染文字，以及如何調整 CFG 比例（建議 4.5-6.0）與步數等關鍵參數，幫助開發者與創作者在 Replicate 上發揮 SD3 的最大潛力。
BigCodeBench: The Next Generation of HumanEval★ 80
Hugging Face Blog715d agoRelease傳統的 HumanEval 程式碼評測基準已逐漸飽和且過於簡單。Hugging Face 與研究團隊合作推出新一代基準 BigCodeBench，包含 1,140 個實用編程任務，涵蓋 139 個第三方 Python 函式庫。此基準旨在考驗 LLM 在複雜、多步驟及真實開發場景下的程式碼生成與指令遵循能力，成為評估 Code LLM 的新一代標準。
Run Stable Diffusion 3 on your Apple Silicon Mac
Replicate Blog715d agoTutorial本教學指導搭載 Apple Silicon（M 系列晶片）Mac 的使用者，如何利用 PyTorch 的 MPS（Metal Performance Shaders）硬體加速技術，在本地端部署並運行 Stable Diffusion 3 圖像生成模型。這讓開發者與創作者無需依賴雲端 API，即可在個人電腦上進行高效、隱私且免費的本地 AI 繪圖。