Accelerating Protein Language Model ProtST on Intel Gaudi 2
Hugging Face Blog699d agoTutorial本文介紹在 Intel Gaudi 2 加速器上運行蛋白質語言模型 ProtST 的優化方案。ProtST 結合了蛋白質序列與生物醫學文本，是生醫領域的重要模型。透過 Hugging Face 的 Optimum Habana 整合，開發者與研究人員能輕鬆在 Gaudi 2 上實現高效能的蛋白質任務處理，提供 NVIDIA 之外的高性價比硬體選擇。
Text-Generation Pipeline on Intel® Gaudi® 2 AI Accelerator
Hugging Face Blog824d agoReleaseHugging Face 宣布在 optimum-habana 中支援文字生成 Pipeline，使開發者能輕鬆在 Intel Gaudi 2 AI 加速器上部署大語言模型。此更新簡化了程式碼，並針對 Gaudi 2 硬體進行優化，提供極佳的推理效能與性價比，是 NVIDIA GPU 之外的強大替代方案。
AMD + 🤗: Large Language Models Out-of-the-Box Acceleration with AMD GPU★ 75
Hugging Face Blog910d agoReleaseHugging Face 宣布與 AMD 深度合作，推出 optimum-amd 套件，旨在簡化 AMD GPU（如 Instinct 與 Radeon 系列）上的模型部署與加速。該套件整合了 AMD ROCm 軟體平台，開發者只需修改幾行程式碼，即可在 AMD 硬體上無縫運行並加速主流的大語言模型（LLM）。此舉打破了過去 NVIDIA CUDA 在 AI 訓練與推理上的壟斷，為企業與開發者提供更具性價比的硬體選擇。
Make your llama generation time fly with AWS Inferentia2★ 72
Hugging Face Blog938d agoTutorialHugging Face 介紹如何使用 AWS Inferentia2（Inf2 執行個體）來加速 Llama 2 模型的推理。透過 Optimum Neuron 整合庫，開發者可以輕鬆將 Llama 2 編譯並部署至 AWS 自研晶片上。這不僅能顯著提升文字生成速度（降低延遲），還能大幅降低雲端部署的硬體成本，是 NVIDIA GPU 之外的高性價比替代方案。
Accelerating Vision-Language Models: BridgeTower on Habana Gaudi2
Hugging Face Blog1069d agoTutorial本技術文章介紹如何將視覺語言模型 BridgeTower 部署於 Intel 的 Habana Gaudi2 晶片上。透過 Hugging Face 的 optimum-habana 整合套件，開發者只需修改極少代碼，即可在 Gaudi2 上實現高效能的跨模態模型訓練與推理。相較於傳統 GPU，Gaudi2 在處理此類複雜的多模態任務時展現出極佳的性價比與加速表現。
Hugging Face and AMD partner on accelerating state-of-the-art models for CPU and GPU platforms★ 70
Hugging Face Blog1085d agoBusinessHugging Face 宣佈與 AMD 展開深度合作，旨在為 AMD 的 CPU 和 GPU 平台（包括 Ryzen、EPYC、Radeon 及 Instinct 系列）提供頂級的 AI 模型加速。雙方將共同優化 Hugging Face 的 Optimum 庫，讓開發者能無縫地在 AMD 硬體上部署與訓練 Transformer 模型。此舉為 AI 社群提供了 NVIDIA 之外的高性價比硬體選擇，促進開源 AI 生態的多樣性。
Accelerating Hugging Face Transformers with AWS Inferentia2★ 70
Hugging Face Blog1142d agoReleaseHugging Face 與 AWS 合作，透過 optimum-neuron 工具套件，簡化了在 AWS Inferentia2 (Inf2) 實例上部署 Transformers 模型的流程。開發者現在可以輕鬆將 PyTorch 模型編譯並運行於專為深度學習推理設計的 Inf2 晶片上。這項整合不僅大幅降低了雲端推理成本，還顯著提升了模型吞吐量並降低延遲。
Accelerate your models with 🤗 Optimum Intel and OpenVINO
Hugging Face Blog1308d agoNew ToolHugging Face 介紹了 `optimum-intel` 與 Intel OpenVINO 的整合。開發者可使用簡單的 `OVModel` API 直接在 Intel CPU 和 GPU 上載入、優化並運行 Hugging Face 模型。此工具還整合了 NNCF 框架，支援將模型量化至 INT8，在極低精度損失下顯著提升推理效率並降低延遲，非常適合邊緣運算與伺服器部署。
Pre-Train BERT with Hugging Face Transformers and Habana Gaudi
Hugging Face Blog1380d agoTutorial本指南介紹如何結合 Hugging Face Transformers 與 Intel Habana Gaudi (HPU) 進行 BERT 模型的預訓練。透過 optimum-habana 整合，開發者只需修改幾行程式碼，即可將訓練任務轉移至 Gaudi 晶片，大幅提升訓練效率並降低成本。文章提供完整的程式碼範例與配置步驟，適合需要大規模預訓練自訂模型的工程師。
Deep Dive: Vision Transformers On Hugging Face Optimum Graphcore
Hugging Face Blog1384d agoTutorialHugging Face 深入探討如何結合 Optimum 庫與 Graphcore 的 IPU（智慧處理單元）來加速 Vision Transformer (ViT) 模型。文章詳細說明了 optimum-graphcore 的整合方式，展示如何透過簡單的代碼修改，在 IPU 上實現高效的圖像分類模型微調與推理。這為需要處理大規模電腦視覺任務的開發者提供了一個強大且具成本效益的硬體加速方案。
Intel and Hugging Face Partner to Democratize Machine Learning Hardware Acceleration
Hugging Face Blog1448d agoReleaseIntel 與 Hugging Face 宣布建立長期合作夥伴關係，旨在簡化 Transformer 模型在 Intel 硬體上的加速與部署。雙方合作推出了 Optimum Intel 開源庫，整合了 OpenVINO、IPEX 等優化工具，讓開發者無需繁瑣修改代碼，即可在 Intel Xeon 處理器及 Habana Gaudi 加速器上獲得極致的推理與訓練效能，大幅降低硬體加速門檻。
Graphcore and Hugging Face Launch New Lineup of IPU-Ready Transformers
Hugging Face Blog1468d agoReleaseHugging Face 與 Graphcore 宣布推出全新支援 IPU（Intelligence Processing Unit）的 Transformers 模型陣容。透過專屬的 optimum-graphcore 工具包，開發者可以輕鬆在 Graphcore 的硬體上部署與加速 BERT、GPT-2 等主流模型。此合作旨在降低硬體加速門檻，為開發者提供除了 GPU 之外的高效能替代方案。
Getting Started with Transformers on Habana Gaudi
Hugging Face Blog1498d agoTutorialHugging Face 與 Intel Habana Labs 合作推出 optimum-habana 庫。開發者只需將標準的 Trainer 替換為 GaudiTrainer，即可在 AWS DL1 等 Gaudi 實例上進行高效能、低成本的 Transformer 模型訓練。這為 NVIDIA 之外的 AI 晶片生態系提供了一個強大的替代方案，能有效降低高達 40% 的訓練成本。
Habana Labs and Hugging Face Partner to Accelerate Transformer Model Training
Hugging Face Blog1512d agoReleaseHugging Face 宣布與 Intel 旗下的 Habana Labs 展開合作，旨在提升 Transformer 模型的訓練與部署效率。 雙方共同推出了 `optimum-habana` 開源庫，讓開發者能輕鬆將 Hugging Face 模型遷移至 Habana Gaudi 處理器（HPU）上運行。 此合作為開發者提供除了傳統 GPU 之外，更具性價比的高性能深度學習硬體選擇，僅需修改幾行程式碼即可啟用。
Getting Started with Hugging Face Transformers for IPUs with Optimum
Hugging Face Blog1645d agoTutorialHugging Face 與 Graphcore 合作推出 Optimum 整合方案，讓開發者能輕鬆在 IPU（智慧處理單元）上運行 Transformers 模型。透過專屬的 IPUTrainer，開發者只需修改極少程式碼，即可將現有的 PyTorch 訓練流程轉移至 IPU，大幅提升特定 AI 任務的運算效率。
Hugging Face and Graphcore partner for IPU-optimized Transformers
Hugging Face Blog1722d agoReleaseHugging Face 宣布與 AI 晶片公司 Graphcore 建立合作夥伴關係，共同優化 Transformer 模型。 雙方推出了開源庫 `optimum-graphcore`，使開發者能輕鬆將模型部署至 Graphcore 的智慧處理單元（IPU）上。 此合作旨在降低硬體加速門檻，為開發者在 GPU 之外提供更高效、具成本效益的 AI 算力選擇。
Introducing Optimum: The Optimization Toolkit for Transformers at Scale★ 75
Hugging Face Blog1722d agoReleaseHugging Face 宣布推出全新開源專案 Optimum，旨在簡化 Transformer 模型在特定硬體上的優化流程。透過與 Intel、Graphcore 等硬體夥伴合作，Optimum 提供模型量化、剪枝與圖優化等工具，讓開發者能輕鬆在各式加速器上實現最大化的生產線部署效率。
Hugging Face on PyTorch / XLA TPUs
Hugging Face Blog1939d agoReleaseHugging Face 於 2021 年宣布與 Google 合作，正式支援 PyTorch/XLA。這項整合讓 PyTorch 開發者無需修改大量程式碼，即可利用 Google Cloud TPU 的強大算力來加速 Transformer 模型的訓練與推理。透過 Hugging Face 的 Trainer API，開發者可以輕鬆在單個或多個 TPU 節點上進行分散式訓練，大幅提升運算效率並降低成本。