PaddleOCR 3.5: Running OCR and Document Parsing Tasks with a Transformers Backend★ 75
Hugging Face Blog15d agoRelease知名開源 OCR 工具 PaddleOCR 3.5 正式整合至 Hugging Face Transformers 生態系。開發者現在可以直接使用 PyTorch/Transformers 後端執行文字偵測、識別及表格解析等任務，無需安裝複雜的 PaddlePaddle 框架。這項更新極大地簡化了 OCR 與 RAG（檢索增強生成）等下游任務的整合流程。
The PR you would have opened yourself★ 80
Hugging Face Blog47d agoReleaseHugging Face 發表最新技術部落格，介紹了將 transformers 模型無縫轉換至 Apple MLX 框架的全新整合。這項被譽為「你自己也會想開的 PR」的更新，解決了過去 Mac 開發者在 Apple Silicon 上部署與微調開源模型時的繁瑣步驟。透過此整合，開發者能直接利用 MLX 的統一記憶體優勢，在 Mac 上實現極致的推理與訓練效能。
Transformers v5: Simple model definitions powering the AI ecosystem★ 90
Hugging Face Blog183d agoReleaseHugging Face 正式發布 Transformers v5，核心聚焦於「簡化模型定義」。新版本解決了過去因「單一檔案原則」導致的程式碼冗餘問題，引入更具模組化且易讀的架構。這讓開發者能更輕鬆地修改、擴充與部署模型，同時保持與現有生態系的相容性，為 AI 社群帶來更高效的開發體驗。
Gemma 3n fully available in the open-source ecosystem!★ 80
Hugging Face Blog341d agoReleaseGoogle 最新推出的 Gemma 3n 模型系列已正式在 Hugging Face 開源社群全面上線。此版本針對端側部署（On-device）與高效能推論進行優化，Hugging Face 生態系已提供完整支援。開發者現在可以無縫使用 Transformers、vLLM、TRL 等工具進行部署、推論與微調，為輕量級與邊緣運算 AI 應用提供了全新的強大選擇。
The Transformers Library: standardizing model definitions★ 85
Hugging Face Blog383d agoReleaseHugging Face 針對其核心 `transformers` 函式庫進行重大架構更新，旨在標準化模型定義。過去為了易讀性而採用的「單一檔案政策」導致了嚴重的程式碼重複，難以進行全域優化。新標準化方案將引入模組化設計，統一常見組件（如 Attention、MLP），在保持可讀性的同時，大幅簡化新模型開發與硬體加速（如 Flash Attention）的整合。
The NLP Course is becoming the LLM Course★ 85
Hugging Face Blog425d agoTutorialHugging Face 宣布將其廣受歡迎的經典「NLP 課程（NLP Course）」正式轉型並升級為「LLM 課程（LLM Course）」。這項轉變反映了 AI 領域從傳統 NLP（如 BERT、分類與命名實體識別）向大語言模型（如 Llama、生成式 AI、RAG 與 Agent）的典範轉移。新課程將全面更新，涵蓋現代 LLM 架構、微調（PEFT/LoRA）、對齊（RLHF/DPO）及應用開發，繼續提供免費且高品質的開源學習資源。
Timm ❤️ Transformers: Use any timm model with transformers★ 80
Hugging Face Blog502d agoReleaseHugging Face 宣布將著名的 PyTorch 圖像模型庫 `timm` 與 `transformers` 進行深度整合。現在開發者可以直接使用 `AutoModel` 和 `AutoImageProcessor` 等標準 API，輕鬆載入並使用 `timm` 中的數千個電腦視覺模型。這項更新不僅簡化了工作流程，還讓 `timm` 模型能完美融入 Hugging Face 的生態系，包括 Trainer、Pipelines 以及各類部署工具。
Universal Assisted Generation: Faster Decoding with Any Assistant Model★ 85
Hugging Face Blog581d agoReleaseHugging Face 發表「通用輔助生成 (UAG)」技術，解決了傳統投機解碼（Speculative Decoding）必須要求大小模型使用相同 Tokenizer 的限制。UAG 透過跨 Tokenizer 的對齊機制，讓開發者能自由搭配任意輕量模型（如 Gemma-2B）來加速大型目標模型（如 Llama-3-70B）。此技術已整合至 Hugging Face 的 Transformers 庫中，能顯著降低推論延遲並節省運算成本。
A failed experiment: Infini-Attention, and why we should keep trying?★ 75
Hugging Face Blog657d agoCommentaryGoogle 提出的 Infini-Attention 曾承諾能實現無限長度上下文，但 Hugging Face 團隊在實際重現與測試後發現效果不如預期。實驗顯示，該技術採用的「壓縮記憶體」機制存在嚴重的資訊損失，在精確檢索任務（如大海撈針）中表現不佳，且訓練過程極不穩定。儘管這是一次失敗的嘗試，但團隊強調分享「負面結果」對於 AI 社群避免重蹈覆轍、探索更有效的長上下文解決方案至關重要。
Tool Use, Unified★ 85
Hugging Face Blog659d agoReleaseHugging Face 推出統一的工具調用（Tool Use）標準，解決了過去不同開源模型工具格式不一的痛點。現在開發者只需定義標準 Python 函數，即可透過 `apply_chat_template` 自動轉換並傳遞給 Llama 3.1、Mistral 等支援的模型。此更新全面整合至 `transformers`、`huggingface_hub` 與 TGI，大幅降低了 AI Agent 的開發與切換門檻。
Making sense of this mess
Hugging Face Blog725d agoReleaseHugging Face 針對其最受歡迎的開源庫 Transformers 進行了官方文件的全面重新設計。為了解決因支援數千個模型、多種框架（PyTorch/TF/JAX）及多模態任務而日益混亂的結構，新版文件採用了更清晰的分類法。這項更新大幅提升了開發者查找 API、教學與概念指南的效率。
Vision Language Models Explained★ 80
Hugging Face Blog782d agoTutorialHugging Face 發布視覺語言模型（VLM）科普指南，詳解其結合圖像編碼器與文字解碼器的架構設計。文章涵蓋了從多模態預訓練到指令微調的完整訓練流程，並介紹了 LLaVA、Idefics 等主流開源模型。此外，也提供了如何使用 Hugging Face transformers 庫進行推理的實用程式碼範例，是理解多模態 AI 的必讀教材。
Chat Templates: An End to the Silent Performance Killer★ 85
Hugging Face Blog973d agoRelease在開發 LLM 對話應用時，不同模型（如 LLaMA、Vicuna）要求不同的特殊標記與格式。過去手動拼接字串極易出錯，微小的空格或換行差異都會嚴重影響模型輸出品質。Hugging Face 推出「Chat Templates」功能，將格式化邏輯以 Jinja 模板儲存於 tokenizer 設定中，開發者只需調用 `apply_chat_template()` 即可自動套用正確格式，徹底解決此痛點。
Training a language model with 🤗 Transformers using TensorFlow and TPUs★ 70
Hugging Face Blog1132d agoTutorial本指南詳細說明如何利用 TensorFlow 和 Google TPU 來加速 Hugging Face Transformers 模型的訓練。內容涵蓋 TPU 的初始化設定、使用 tf.distribute.TPUStrategy 配置分散式訓練環境、利用 tf.data 建立高效的數據輸入管道，並在 TPU 範疇內載入與訓練模型，非常適合需要處理大規模 NLP 任務的開發者。
Accelerating Hugging Face Transformers with AWS Inferentia2★ 70
Hugging Face Blog1142d agoReleaseHugging Face 與 AWS 合作，透過 optimum-neuron 工具套件，簡化了在 AWS Inferentia2 (Inf2) 實例上部署 Transformers 模型的流程。開發者現在可以輕鬆將 PyTorch 模型編譯並運行於專為深度學習推理設計的 Inf2 晶片上。這項整合不僅大幅降低了雲端推理成本，還顯著提升了模型吞吐量並降低延遲。
Graph Classification with Transformers
Hugging Face Blog1145d agoTutorialHugging Face 介紹了如何利用 Transformer 架構進行圖形分類（Graph Classification）。文章以微軟開發的 Graphormer 模型為例，展示如何處理非歐幾里得空間的圖形數據，並將其應用於預測分子特性等實際場景。讀者將學習如何利用 Hugging Face transformers 庫載入圖形數據集、進行特徵編碼並訓練圖形 Transformer 模型。
Federated Learning using Hugging Face and Flower★ 70
Hugging Face Blog1163d agoTutorial本文介紹如何整合 Hugging Face 與開源聯邦學習框架 Flower，實現保護隱私的分散式模型訓練。透過 Flower，開發者可以在不共享原始數據的情況下，協同微調 Hugging Face 上的 Transformer 模型。文中提供具體的實作步驟，包含定義 Flower Client、設定伺服器聚合演算法（如 FedAvg）以及評估模型效能。
Multivariate Probabilistic Time Series Forecasting with Informer
Hugging Face Blog1180d agoTutorialHugging Face 宣布將 AAAI 2021 最佳論文 Informer 模型整合至其 Transformers 庫中。本篇介紹如何利用 Informer 進行多變量機率時間序列預測，解決傳統 Transformer 在長序列預測上的高運算複雜度問題。透過 ProbSparse 自注意力機制與生成式解碼器，Informer 能在保持高準確度的同時，顯著降低記憶體與計算開銷。
Accelerating PyTorch Transformers with Intel Sapphire Rapids - part 2
Hugging Face Blog1212d agoTutorial本文為 Hugging Face 與 Intel 合作系列文章的第二部分，聚焦於推論加速。介紹如何透過 Intel 第四代 Xeon 可擴充處理器（Sapphire Rapids）內建的 Intel AMX 技術，並結合 Hugging Face Optimum Intel 與 IPEX 工具，實現 BF16 與 INT8 的混合精度推論。測試顯示，這能為 Transformer 模型帶來數倍的效能提升，且只需修改極少量的代碼。
The State of Computer Vision at Hugging Face 🤗
Hugging Face Blog1219d agoCommentary本文為 Hugging Face 官方發布的電腦視覺（CV）生態總覽。隨著 Transformers 庫對視覺模型的支援、與 Timm 庫的深度整合，以及 Diffusers 在生成式 AI 的爆發，Hugging Face 已從 NLP 平台轉型為全方位的 AI 社群。文章詳細介紹了影像分類、目標檢測、語義分割等任務的支援現狀，並展示了如何利用其工具鏈進行高效開發。
Universal Image Segmentation with Mask2Former and OneFormer★ 70
Hugging Face Blog1230d agoReleaseHugging Face 宣布在 transformers 庫中支援 Mask2Former 與 OneFormer 兩大通用影像分割模型。這兩款模型打破了以往語意、實例和全景分割需要不同架構的限制，實現「單一架構通吃所有分割任務」。開發者現在可以透過簡單的 API 輕鬆載入預訓練模型，並應用於各類電腦視覺場景。
Accelerating PyTorch Transformers with Intel Sapphire Rapids - part 1
Hugging Face Blog1247d agoTutorialHugging Face 與 Intel 合作，展示如何在新一代 Intel Sapphire Rapids 處理器上加速 Transformer 模型。 透過內建的 Intel AMX（進階矩陣擴充）指令集，能顯著提升 BF16 與 INT8 的運算效率。 開發者只需搭配 optimum-intel 庫，即可輕鬆在 CPU 上實現高達數倍的推理與訓練加速，無需繁瑣的底層代碼修改。
Hugging Face's TensorFlow Philosophy
Hugging Face Blog1390d agoOpinionHugging Face 闡述了其對 TensorFlow (TF) 的核心哲學：將 TF 視為一等公民，確保與 PyTorch 模型的雙向互操作性。透過將 TF 模型設計為 `tf.keras.Model` 的子類別，開發者能直接使用 Keras 的 `fit()` 等 API，並支援 XLA 編譯與 `tf.data`，為 TF 社群提供無縫且直覺的開發體驗。
Getting Started with Sentiment Analysis on Twitter
Hugging Face Blog1426d agoTutorial本指南為 Hugging Face 官方實戰教學，指導開發者如何利用 Transformers 庫對 Twitter (X) 貼文進行情緒分析。內容涵蓋使用 Pipeline API 進行快速推論、選用針對社群媒體優化的 twitter-roberta-base 模型，以及如何使用自訂資料集進行模型微調，是 NLP 初學者與社群輿情分析師的必讀經典。
Convert Transformers to ONNX with Hugging Face Optimum
Hugging Face Blog1441d agoTutorial本文介紹 Hugging Face 推出的一站式硬體優化工具包 Optimum，展示如何將 Transformers 模型轉換為 ONNX 格式。透過簡單的 optimum-cli 命令行工具或 Python API，開發者即可完成轉換，並利用 ONNX Runtime 在各種硬體上實現顯著的推理加速與量化優化，解決過去手動轉換繁瑣且易出錯的痛點。
Intel and Hugging Face Partner to Democratize Machine Learning Hardware Acceleration
Hugging Face Blog1448d agoReleaseIntel 與 Hugging Face 宣布建立長期合作夥伴關係，旨在簡化 Transformer 模型在 Intel 硬體上的加速與部署。雙方合作推出了 Optimum Intel 開源庫，整合了 OpenVINO、IPEX 等優化工具，讓開發者無需繁瑣修改代碼，即可在 Intel Xeon 處理器及 Habana Gaudi 加速器上獲得極致的推理與訓練效能，大幅降低硬體加速門檻。
Director of Machine Learning Insights [Part 3: Finance Edition]
Hugging Face Blog1449d agoOpinion本文為 Hugging Face 訪談金融業機器學習主管的專題。內容深入探討金融機構如何導入 Transformer 與 NLP 技術，並分析在高度監管環境中，面臨的資料隱私、模型可解釋性（XAI）與法規合規性等核心挑戰，同時分享開源生態系如何協助金融機構避免供應商鎖定並加速 AI 創新。
Graphcore and Hugging Face Launch New Lineup of IPU-Ready Transformers
Hugging Face Blog1468d agoReleaseHugging Face 與 Graphcore 宣布推出全新支援 IPU（Intelligence Processing Unit）的 Transformers 模型陣容。透過專屬的 optimum-graphcore 工具包，開發者可以輕鬆在 Graphcore 的硬體上部署與加速 BERT、GPT-2 等主流模型。此合作旨在降低硬體加速門檻，為開發者提供除了 GPU 之外的高效能替代方案。
How Sempre Health is leveraging the Expert Acceleration Program to accelerate their ML roadmap
Hugging Face Blog1475d agoBusiness醫療科技公司 Sempre Health 透過加入 Hugging Face 的專家加速計畫（EAP），加速了其機器學習技術的落地。在 Hugging Face 專家的指導下，Sempre Health 成功將先進的 Transformer 模型應用於患者簡訊互動的意圖識別，不僅縮短了模型開發與部署週期，更大幅優化了推理延遲與雲端基礎設施成本，有效提升患者的服藥遵從率。
Machine Learning Experts - Lewis Tunstall
Hugging Face Blog1511d agoOpinion本文為 Hugging Face「機器學習專家」系列訪談，主角為《Natural Language Processing with Transformers》共同作者 Lewis Tunstall。他分享了自己如何從理論物理學博士轉型為 AI 專家，並深入探討了撰寫該本暢銷書的挑戰、在 Hugging Face 推動開源生態系的經驗，以及他對未來 NLP 技術發展與新手學習路徑的實用建議。