Guiding Text Generation with Constrained Beam Search in 🤗 Transformers★ 70
Hugging Face Blog1545d agoTutorial本文介紹 Hugging Face Transformers 支援的「受約束的束搜索（Constrained Beam Search）」技術。傳統束搜索僅依賴機率，而此技術允許開發者指定必須出現在生成結果中的特定詞彙或短語。這在機器翻譯、摘要生成及特定領域的文本生成中非常實用，能有效控制輸出品質並確保關鍵資訊不遺漏。
Fine-Tune ViT for Image Classification with 🤗 Transformers★ 70
Hugging Face Blog1573d agoTutorial本文為 Hugging Face 官方教學，詳細介紹如何使用 `transformers` 與 `datasets` 函式庫微調 Vision Transformer (ViT) 模型。內容涵蓋從載入 Beans 資料集、使用影像處理器進行資料前處理、設定 `Trainer` API 進行訓練，到最後將微調後的模型上傳至 Hugging Face Hub 的完整流程，是電腦視覺開發者的必讀入門指南。
Getting Started with Sentiment Analysis using Python
Hugging Face Blog1582d agoTutorial本文介紹如何利用 Hugging Face 的 `transformers` 庫在 Python 中進行情緒分析。內容涵蓋使用 `pipeline` 進行快速推理、從 Hugging Face Hub 選擇特定領域的預訓練模型（如 RoBERTa 或 FinBERT），以及如何使用自定義數據集微調模型，是 NLP 初學者的必讀指南。
Supercharged Searching on the 🤗 Hub
Hugging Face Blog1590d agoReleaseHugging Face 推出全新升級的 Hub 搜尋功能，大幅提升資源檢索效率。用戶現在可以透過機器學習任務、支援的庫（如 PyTorch、TensorFlow）、語言及授權條款等多重條件進行精確篩選。此更新旨在幫助開發者在快速增長的開源生態系中，迅速定位最適合的 AI 模型、數據集與 Spaces。
Welcome Stable-baselines3 to the Hugging Face Hub 🤗
Hugging Face Blog1594d agoNew ToolHugging Face 宣布將熱門的 PyTorch 強化學習庫 Stable-baselines3 (SB3) 整合至 Hugging Face Hub。開發者現在可以使用簡單的 API 儲存和載入訓練好的 RL 代理人（Agents），並在社群中分享。此整合還支援在瀏覽器中直接預覽代理人的運行畫面，大幅降低了強化學習模型的分享與協作門檻。
Deploy GPT-J 6B for inference using Hugging Face Transformers and Amazon SageMaker
Hugging Face Blog1604d agoTutorial本文介紹如何將 EleutherAI 的 GPT-J 6B 模型部署至 Amazon SageMaker。透過 Hugging Face 專為 SageMaker 設計的深度學習容器（DLC），開發者無需繁瑣設定即可完成託管。內容涵蓋環境準備、模型載入、端點建立及推論測試，適合需要在 AWS 雲端部署開源大模型的開發者。
Gradio is joining Hugging Face!★ 80
Hugging Face Blog1625d agoBusiness開源機器學習互動介面庫 Gradio 宣布正式加入 Hugging Face。此次合併旨在加速機器學習的民主化，讓開發者能更輕鬆地為模型建立直觀的 Web 介面。Gradio 將保持開源與免費，並與 Hugging Face Spaces 深度整合，讓任何人都能在幾分鐘內部署並分享自己的 AI 模型 Demo。
Training CodeParrot 🦜 from Scratch
Hugging Face Blog1638d agoTutorialHugging Face 詳細公開了 CodeParrot 專案的訓練全紀錄，展示如何從零開始構建一個專門用於 Python 程式碼生成的 GPT-2 規模模型。 文章深入探討了大規模 GitHub 數據集的清洗與去重、專屬 Tokenizer 的訓練，以及使用 Accelerate 進行多 GPU 分佈式訓練的實務技巧。 此專案不僅提供了一個開源的程式碼模型，更為開發者提供了一套完整的、可複製的大型語言模型（LLM）預訓練工作流。
Getting Started with Hugging Face Transformers for IPUs with Optimum
Hugging Face Blog1646d agoTutorialHugging Face 與 Graphcore 合作推出 Optimum 整合方案，讓開發者能輕鬆在 IPU（智慧處理單元）上運行 Transformers 模型。透過專屬的 IPUTrainer，開發者只需修改極少程式碼，即可將現有的 PyTorch 訓練流程轉移至 IPU，大幅提升特定 AI 任務的運算效率。
Large Language Models: A New Moore's Law?
Hugging Face Blog1681d agoOpinion本文探討大型語言模型（LLM）參數規模以驚人速度增長的現象，並將其與「摩爾定律」相提並論。然而，這種「越大越好」的趨勢伴隨著極高的算力成本、碳排放以及技術壟斷風險。Hugging Face 呼籲社群關注模型民主化，並透過開源合作（如 BigScience 專案）與高效能技術（如蒸餾、量化）來打破巨頭壟斷，尋求更永續的 AI 發展路徑。
Course Launch Community Event
Hugging Face Blog1681d agoRelease本活動公告為 Hugging Face 於 2021 年 10 月舉辦的「課程發布社群活動」。該活動旨在慶祝 Hugging Face 官方 NLP 課程的推出，並透過社群黑客松、技術講座與交流，引導開發者與研究人員深入學習 Transformers、Datasets 和 Tokenizers 等開源工具，促進開源 AI 生態系的發展。
Train a Sentence Embedding Model with 1B Training Pairs★ 75
Hugging Face Blog1682d agoTutorialHugging Face 介紹了如何利用超過 10 億個句子對（Sentence Pairs）的大規模數據集，訓練出高效且精準的句子嵌入模型。文中詳細說明了數據集整合、對比學習（Contrastive Learning）的訓練方法，並釋出了包含 all-MiniLM-L6-v2 在內的多款熱門開源模型。這些模型至今仍是 RAG 和語意搜尋系統中非常經典且高效的基準選擇。
Fine tuning CLIP with Remote Sensing (Satellite) images and captions
Hugging Face Blog1694d agoTutorial本文探討如何針對遙測（衛星）影像微調 OpenAI 的 CLIP 多模態模型。由於通用 CLIP 在處理俯視、高空等特殊視角的衛星影像時表現不佳，研究團隊利用 RSICD 數據集與 JAX/Flax 框架進行微調。微調後的模型能顯著提升衛星影像的文本檢索與分類準確度，為地理資訊與遙測領域提供強大的開源工具。
Summer at Hugging Face
Hugging Face Blog1713d agoCommentaryHugging Face 發表 2021 年夏季回顧，重點介紹其暑期實習生在多個前沿 AI 領域的貢獻。實習生們參與了包括 Wav2Vec2 語音模型優化、多模態模型開發、Datasets 庫擴充，以及與 Google 合作的 JAX/Flax 社群黑客松。這段期間也見證了 Hugging Face Spaces 的快速成長，為開源 AI 社群注入了強大動力。
Introducing Optimum: The Optimization Toolkit for Transformers at Scale★ 75
Hugging Face Blog1723d agoReleaseHugging Face 宣布推出全新開源專案 Optimum，旨在簡化 Transformer 模型在特定硬體上的優化流程。透過與 Intel、Graphcore 等硬體夥伴合作，Optimum 提供模型量化、剪枝與圖優化等工具，讓開發者能輕鬆在各式加速器上實現最大化的生產線部署效率。
Welcome spaCy to the Hugging Face Hub
Hugging Face Blog1786d agoReleaseHugging Face 宣佈將熱門的工業級自然語言處理（NLP）庫 spaCy 整合至 Hugging Face Hub。開發者現在可以使用全新推出的 `spacy-huggingface-hub` 工具，輕鬆將訓練好的 spaCy 管道模型上傳至 Hub 進行版本控制與分享。此外，Hub 還為 spaCy 模型提供了專屬的互動式瀏覽器測試介面（Widget），大幅提升了模型展示與協作的便利性。
Deploy Hugging Face models easily with Amazon SageMaker
Hugging Face Blog1791d agoReleaseHugging Face 宣布與 AWS 深度整合，推出專屬的 SageMaker 深度學習容器（DLC）。開發者現在可以直接利用 SageMaker Python SDK，將 Hugging Face Hub 上的數萬個預訓練模型一鍵部署至託管的 SageMaker 端點。這項合作大幅簡化了 NLP 模型的正式生產環境部署流程，並兼顧了 AWS 的安全與彈性擴展優勢。
Few-shot learning in practice: GPT-Neo and the 🤗 Accelerated Inference API
Hugging Face Blog1826d agoTutorial本文介紹如何使用 EleutherAI 的開源模型 GPT-Neo，結合 Hugging Face 的 Accelerated Inference API 進行「少樣本學習（Few-shot learning）」。讀者將了解如何透過精心設計的提示詞（Prompt），讓模型在不需重新訓練或微調的情況下，僅憑幾個範例就能執行特定任務。這為開發者提供了一種快速、低成本且無需維護複雜基礎設施的 NLP 實作方案。
Using & Mixing Hugging Face Models with Gradio 2.0
Hugging Face Blog1835d agoReleaseGradio 2.0 迎來與 Hugging Face 的重大整合，推出全新功能讓開發者能直接載入並混合 Model Hub 中的模型。透過簡單的 Python 程式碼，即可快速建立機器學習應用的 Web 介面。這項更新不僅簡化了模型展示流程，更支援並排比較與多模型串聯，極大提升了原型開發與分享的效率。
Scaling-up BERT Inference on CPU (Part 1)
Hugging Face Blog1870d agoTutorial本文為 Hugging Face 與 Intel 合作的 CPU 優化指南首篇。文章深入探討 CPU 物理核心與超線程對深度學習的影響，並詳細說明如何透過正確配置 PyTorch 的 Intra-op/Inter-op 執行緒與環境變數（如 OMP_NUM_THREADS）來避免資源競爭。最後介紹了利用 ONNX Runtime 進行算子融合，為 BERT 在 CPU 上的部署奠定高效基礎。
Distributed Training: Train BART/T5 for Summarization using 🤗 Transformers and Amazon SageMaker
Hugging Face Blog1882d agoTutorial這是一篇 Hugging Face 官方教學，指導開發者如何使用 Amazon SageMaker 的分散式訓練功能來微調大型 Seq2Seq 模型（如 BART 和 T5）。文章詳細說明了如何將 Hugging Face 的 Seq2SeqTrainer 與 SageMaker Data Parallelism 庫結合，以解決單一 GPU 記憶體不足或訓練過慢的問題。讀者將學會如何準備訓練腳本、配置 SageMaker Estimator，並在 AWS 的多 GPU 實例上啟動高效的分散式訓練任務。
The Partnership: Amazon SageMaker and Hugging Face★ 75
Hugging Face Blog1898d agoBusinessHugging Face 宣布與 AWS 達成全新合作夥伴關係，將其熱門的 Transformers 庫深度整合至 Amazon SageMaker。透過全新推出的 Hugging Face 深度學習容器（DLCs），開發者可以更輕鬆、快速地在 AWS 雲端上進行 NLP 模型的訓練、微調與推理部署。此合作大幅降低了企業在大規模機器學習基礎設施管理上的門檻。
Fine-Tune Wav2Vec2 for English ASR in Hugging Face with 🤗 Transformers★ 70
Hugging Face Blog1909d agoTutorial本指南詳細介紹如何利用 🤗 Transformers 與 Datasets 庫微調 Meta 的 Wav2Vec2 模型以進行英文語音辨識（ASR）。教學涵蓋了語音數據預處理（重採樣至 16kHz）、使用 CTC 損失函數、配置 Wav2Vec2Processor，以及使用 Trainer API 進行模型訓練與字錯率（WER）評估，是語音 AI 領域的經典必讀教學。
Hugging Face Reads, Feb. 2021 - Long-range Transformers
Hugging Face Blog1912d agoCommentary本期 Hugging Face Reads 聚焦於解決標準 Transformer 處理長序列時面臨的 O(N²) 計算與記憶體瓶頸。文章回顧了多種「長文本 Transformer」（Long-range Transformers）解決方案，包括 Longformer、BigBird 等。這些模型透過稀疏注意力、滑動窗口及全域標記等機制，成功將複雜度降至線性，使處理數千甚至數萬個 token 的長文本成為可能。
Retrieval Augmented Generation with Huggingface Transformers and Ray
Hugging Face Blog1939d agoTutorialHugging Face 與 Anyscale 合作，展示如何利用 Ray 框架來擴展檢索增強生成（RAG）模型。 透過將 Ray 的分散式運算能力與 Hugging Face 的 NLP 模型結合，開發者可以高效地在海量知識庫中進行向量檢索與文本生成。 此方案解決了 RAG 在處理大規模知識庫（如完整維基百科）時的記憶體限制與運算瓶頸，顯著提升查詢吞吐量。
Hugging Face on PyTorch / XLA TPUs
Hugging Face Blog1940d agoReleaseHugging Face 於 2021 年宣布與 Google 合作，正式支援 PyTorch/XLA。這項整合讓 PyTorch 開發者無需修改大量程式碼，即可利用 Google Cloud TPU 的強大算力來加速 Transformer 模型的訓練與推理。透過 Hugging Face 的 Trainer API，開發者可以輕鬆在單個或多個 TPU 節點上進行分散式訓練，大幅提升運算效率並降低成本。
Fit More and Train Faster With ZeRO via DeepSpeed and FairScale★ 80
Hugging Face Blog1961d agoReleaseHugging Face 宣布在其 Trainer 中整合 Microsoft DeepSpeed 與 Facebook FairScale 的 ZeRO（零冗餘優化器）技術。這項技術透過將優化器狀態、梯度和模型參數分片到多個 GPU 上，顯著降低顯存佔用。開發者現在可以輕鬆在有限的硬體資源下，訓練原本無法容納的超大型 Transformer 模型，並大幅提升訓練效率。
How we sped up transformer inference 100x for 🤗 API customers
Hugging Face Blog1962d agoReleaseHugging Face 揭密其加速推理 API 的技術細節，成功將 Transformer 模型推理速度提高 100 倍。 核心方法結合了模型蒸餾（如 DistilBERT）、ONNX Runtime 的計算圖最佳化，以及 INT8 動態量化與半精度（FP16）技術。 此方案不僅大幅降低延遲至個位數毫秒級，也顯著降低了雲端部署成本，為開發者提供高效且經濟的 NLP 模型部署方案。
Porting fairseq wmt19 translation system to transformers
Hugging Face Blog2038d agoRelease本文介紹 Hugging Face 將 Facebook AI (FAIR) 的 Fairseq WMT19 機器翻譯系統移植至 `transformers` 程式庫（FSMT）的過程。WMT19 模型在英德、英俄翻譯中表現極佳，但過去需依賴複雜的 `fairseq` 框架。移植後，開發者只需幾行程式碼即可調用這些強大的翻譯模型，大幅降低了學術與工業界的部署難度。
Transformer-based Encoder-Decoder Models★ 70
Hugging Face Blog2062d agoTutorial本文為 Hugging Face 撰寫的經典技術指南，深入探討基於 Transformer 的編碼器-解碼器（Encoder-Decoder）架構。文章詳細解析了雙向編碼器、自迴歸解碼器以及兩者之間的交叉注意力機制（Cross-Attention），並介紹如何利用 Hugging Face `EncoderDecoderModel` 結合預訓練模型（如 BERT 與 GPT-2）來建構強大的序列到序列（Seq2Seq）模型。