How Sempre Health is leveraging the Expert Acceleration Program to accelerate their ML roadmap
Hugging Face Blog1475d agoBusiness醫療科技公司 Sempre Health 透過加入 Hugging Face 的專家加速計畫（EAP），加速了其機器學習技術的落地。在 Hugging Face 專家的指導下，Sempre Health 成功將先進的 Transformer 模型應用於患者簡訊互動的意圖識別，不僅縮短了模型開發與部署週期，更大幅優化了推理延遲與雲端基礎設施成本，有效提升患者的服藥遵從率。
Machine Learning Experts - Lewis Tunstall
Hugging Face Blog1511d agoOpinion本文為 Hugging Face「機器學習專家」系列訪談，主角為《Natural Language Processing with Transformers》共同作者 Lewis Tunstall。他分享了自己如何從理論物理學博士轉型為 AI 專家，並深入探討了撰寫該本暢銷書的挑戰、在 Hugging Face 推動開源生態系的經驗，以及他對未來 NLP 技術發展與新手學習路徑的實用建議。
~Don't~ Repeat Yourself★ 85
Hugging Face Blog1519d agoOpinionHugging Face 探討了其開源庫 Transformers 的核心設計哲學。與傳統軟體工程極力避免重複程式碼（DRY 原則）不同，他們選擇了「重複自己」的「單一檔案政策」（Single-file policy）。這種設計讓每個模型（如 BERT、GPT）的程式碼都獨立完整，極大地提升了機器學習研究者的閱讀與修改效率，雖然增加了維護重複程式碼的成本，但換來了極高的靈活性。
Fine-Tune ViT for Image Classification with 🤗 Transformers★ 70
Hugging Face Blog1572d agoTutorial本文為 Hugging Face 官方教學，詳細介紹如何使用 `transformers` 與 `datasets` 函式庫微調 Vision Transformer (ViT) 模型。內容涵蓋從載入 Beans 資料集、使用影像處理器進行資料前處理、設定 `Trainer` API 進行訓練，到最後將微調後的模型上傳至 Hugging Face Hub 的完整流程，是電腦視覺開發者的必讀入門指南。
Getting Started with Sentiment Analysis using Python
Hugging Face Blog1581d agoTutorial本文介紹如何利用 Hugging Face 的 `transformers` 庫在 Python 中進行情緒分析。內容涵蓋使用 `pipeline` 進行快速推理、從 Hugging Face Hub 選擇特定領域的預訓練模型（如 RoBERTa 或 FinBERT），以及如何使用自定義數據集微調模型，是 NLP 初學者的必讀指南。
Making automatic speech recognition work on large files with Wav2Vec2 in 🤗 Transformers
Hugging Face Blog1582d agoTutorial傳統 Wav2Vec2 等語音模型因自注意力機制的記憶體複雜度限制，難以直接處理長音檔。Hugging Face 推出分塊（Chunking）與重疊步長（Stride）技術，將長音訊切片處理後無縫拼接。此功能已整合至 Transformers 的 ASR Pipeline 中，開發者只需設定簡單參數即可實現高效且精準的長語音轉文字。
Getting Started with Hugging Face Transformers for IPUs with Optimum
Hugging Face Blog1645d agoTutorialHugging Face 與 Graphcore 合作推出 Optimum 整合方案，讓開發者能輕鬆在 IPU（智慧處理單元）上運行 Transformers 模型。透過專屬的 IPUTrainer，開發者只需修改極少程式碼，即可將現有的 PyTorch 訓練流程轉移至 IPU，大幅提升特定 AI 任務的運算效率。
Course Launch Community Event
Hugging Face Blog1680d agoRelease本活動公告為 Hugging Face 於 2021 年 10 月舉辦的「課程發布社群活動」。該活動旨在慶祝 Hugging Face 官方 NLP 課程的推出，並透過社群黑客松、技術講座與交流，引導開發者與研究人員深入學習 Transformers、Datasets 和 Tokenizers 等開源工具，促進開源 AI 生態系的發展。
Hugging Face and Graphcore partner for IPU-optimized Transformers
Hugging Face Blog1722d agoReleaseHugging Face 宣布與 AI 晶片公司 Graphcore 建立合作夥伴關係，共同優化 Transformer 模型。 雙方推出了開源庫 `optimum-graphcore`，使開發者能輕鬆將模型部署至 Graphcore 的智慧處理單元（IPU）上。 此合作旨在降低硬體加速門檻，為開發者在 GPU 之外提供更高效、具成本效益的 AI 算力選擇。
Introducing Optimum: The Optimization Toolkit for Transformers at Scale★ 75
Hugging Face Blog1722d agoReleaseHugging Face 宣布推出全新開源專案 Optimum，旨在簡化 Transformer 模型在特定硬體上的優化流程。透過與 Intel、Graphcore 等硬體夥伴合作，Optimum 提供模型量化、剪枝與圖優化等工具，讓開發者能輕鬆在各式加速器上實現最大化的生產線部署效率。
Deploy Hugging Face models easily with Amazon SageMaker
Hugging Face Blog1790d agoReleaseHugging Face 宣布與 AWS 深度整合，推出專屬的 SageMaker 深度學習容器（DLC）。開發者現在可以直接利用 SageMaker Python SDK，將 Hugging Face Hub 上的數萬個預訓練模型一鍵部署至託管的 SageMaker 端點。這項合作大幅簡化了 NLP 模型的正式生產環境部署流程，並兼顧了 AWS 的安全與彈性擴展優勢。
Understanding BigBird's Block Sparse Attention
Hugging Face Blog1889d agoTutorialGoogle 提出的 BigBird 模型透過「區塊稀疏注意力機制」，成功將傳統 Transformer 的二次方複雜度降至線性複雜度。該機制結合了全域標記、滑動窗口與隨機注意力，並以「區塊（Block）」為單位進行運算以優化 GPU/TPU 效能。這使得 BigBird 能處理高達 4096 個標記的長文本，非常適合問答、摘要與長文本分析等任務。
The Partnership: Amazon SageMaker and Hugging Face★ 75
Hugging Face Blog1897d agoBusinessHugging Face 宣布與 AWS 達成全新合作夥伴關係，將其熱門的 Transformers 庫深度整合至 Amazon SageMaker。透過全新推出的 Hugging Face 深度學習容器（DLCs），開發者可以更輕鬆、快速地在 AWS 雲端上進行 NLP 模型的訓練、微調與推理部署。此合作大幅降低了企業在大規模機器學習基礎設施管理上的門檻。
My Journey to a serverless transformers pipeline on Google Cloud
Hugging Face Blog1902d agoTutorial本文記錄了作者將 Hugging Face Transformers 管道部署至 Google Cloud Serverless 環境的完整過程。內容涵蓋如何將 NLP 模型包裝成 API、利用 Docker 進行容器化，並解決 Serverless 部署中常見的冷啟動與記憶體限制問題。這是一份適合想降低維護成本、實現自動擴展的開發者的實用指南。
Hugging Face Reads, Feb. 2021 - Long-range Transformers
Hugging Face Blog1911d agoCommentary本期 Hugging Face Reads 聚焦於解決標準 Transformer 處理長序列時面臨的 O(N²) 計算與記憶體瓶頸。文章回顧了多種「長文本 Transformer」（Long-range Transformers）解決方案，包括 Longformer、BigBird 等。這些模型透過稀疏注意力、滑動窗口及全域標記等機制，成功將複雜度降至線性，使處理數千甚至數萬個 token 的長文本成為可能。
Retrieval Augmented Generation with Huggingface Transformers and Ray
Hugging Face Blog1938d agoTutorialHugging Face 與 Anyscale 合作，展示如何利用 Ray 框架來擴展檢索增強生成（RAG）模型。 透過將 Ray 的分散式運算能力與 Hugging Face 的 NLP 模型結合，開發者可以高效地在海量知識庫中進行向量檢索與文本生成。 此方案解決了 RAG 在處理大規模知識庫（如完整維基百科）時的記憶體限制與運算瓶頸，顯著提升查詢吞吐量。
Faster TensorFlow models in Hugging Face Transformers
Hugging Face Blog1953d agoTutorial本文介紹如何將 Hugging Face Transformers 中的 TensorFlow 模型導出為 SavedModel 格式，並利用 TensorFlow Serving 進行高效部署。透過啟用 XLA（加速線性代數）編譯，開發者可以顯著降低推理延遲並提高吞吐量。這套方案為生產環境提供了一個無需 Python 運行時、高併發且低延遲的 NLP 模型服務架構。
How we sped up transformer inference 100x for 🤗 API customers
Hugging Face Blog1961d agoReleaseHugging Face 揭密其加速推理 API 的技術細節，成功將 Transformer 模型推理速度提高 100 倍。 核心方法結合了模型蒸餾（如 DistilBERT）、ONNX Runtime 的計算圖最佳化，以及 INT8 動態量化與半精度（FP16）技術。 此方案不僅大幅降低延遲至個位數毫秒級，也顯著降低了雲端部署成本，為開發者提供高效且經濟的 NLP 模型部署方案。
Leveraging Pre-trained Language Model Checkpoints for Encoder-Decoder Models
Hugging Face Blog2031d agoTutorialHugging Face 發表技術部落格，介紹如何使用 `EncoderDecoderModel` 將現有的預訓練編碼器（如 BERT）與解碼器（如 GPT-2）結合。 這種「熱啟動（Warm-starting）」方法免去了從頭訓練 Seq2Seq 模型的巨大成本，特別適合摘要生成和機器翻譯等任務。 文章詳細說明了架構原理、交叉注意力機制的初始化，並提供了實用的 Transformers 程式碼範例。
Porting fairseq wmt19 translation system to transformers
Hugging Face Blog2037d agoRelease本文介紹 Hugging Face 將 Facebook AI (FAIR) 的 Fairseq WMT19 機器翻譯系統移植至 `transformers` 程式庫（FSMT）的過程。WMT19 模型在英德、英俄翻譯中表現極佳，但過去需依賴複雜的 `fairseq` 框架。移植後，開發者只需幾行程式碼即可調用這些強大的翻譯模型，大幅降低了學術與工業界的部署難度。
Hyperparameter Search with Transformers and Ray Tune
Hugging Face Blog2038d agoTutorial本文介紹 Hugging Face Transformers 與 Ray Tune 的整合。透過 Trainer API 內建的 hyperparameter_search 功能，開發者只需幾行程式碼即可啟用分散式超參數搜尋。文章詳細說明了如何設定搜尋空間、使用 ASHA 等高效排程演算法，並在多 GPU 環境下加速模型微調與優化過程。
Transformer-based Encoder-Decoder Models★ 70
Hugging Face Blog2061d agoTutorial本文為 Hugging Face 撰寫的經典技術指南，深入探討基於 Transformer 的編碼器-解碼器（Encoder-Decoder）架構。文章詳細解析了雙向編碼器、自迴歸解碼器以及兩者之間的交叉注意力機制（Cross-Attention），並介紹如何利用 Hugging Face `EncoderDecoderModel` 結合預訓練模型（如 BERT 與 GPT-2）來建構強大的序列到序列（Seq2Seq）模型。
How to generate text: using different decoding methods for language generation with Transformers★ 85
Hugging Face Blog2284d agoTutorial這篇 Hugging Face 的經典技術指南介紹了自迴歸語言模型中不同的文本生成解碼策略。內容涵蓋傳統的貪婪搜索（Greedy Search）與束搜索（Beam Search），並探討如何透過隨機採樣（Sampling）、溫度調節（Temperature）、Top-K 與 Top-p（核採樣）來解決生成文本重複或單調的問題。這對於想優化 LLM 輸出品質的開發者與研究者來說是必讀的基礎教學。