Get your VLM running in 3 simple steps on Intel CPUs★ 70
Hugging Face Blog230d agoTutorialHugging Face 介紹如何利用 OpenVINO 在 Intel CPU 上優化並運行視覺語言模型（VLM）。開發者只需透過安裝環境、轉換模型、執行推論三個簡單步驟，即可在無獨立顯卡的 Intel 硬體上實現高效的多模態處理，大幅降低 VLM 的本地部署門檻，非常適合邊緣運算與個人開發環境。
Accelerating Qwen3-8B Agent on Intel® Core™ Ultra with Depth-Pruned Draft Models★ 75
Hugging Face Blog246d agoTutorialHugging Face 發表最新技術，展示如何在 Intel Core Ultra 平台上加速 Qwen3-8B Agent。該方法採用「深度剪枝（Depth-Pruning）」技術製作輕量化的草稿模型，並結合投機解碼（Speculative Decoding）技術。這使得在個人電腦（Edge AI）上運行複雜的 Agent 任務時，能獲得更高的 Token 生成效率與更低的延遲，為本地端 AI 應用帶來突破。
Optimize and deploy with Optimum-Intel and OpenVINO GenAI★ 75
Hugging Face Blog620d agoTutorial本文介紹 Hugging Face 與 Intel 合作的最新部署方案。透過 optimum-intel 工具，開發者可以輕鬆將 Transformers 模型轉換並量化（如 INT4）為 OpenVINO 格式。接著，利用全新且輕量化的 openvino-genai API，即可在 Intel CPU、GPU 及 NPU 上實現極速的生成式 AI 推理，大幅簡化了從模型訓練到邊緣端部署的流程。
Blazing Fast SetFit Inference with 🤗 Optimum Intel on Xeon
Hugging Face Blog790d agoTutorialSetFit 是一款高效的少樣本文字分類框架。本文介紹如何結合 Hugging Face Optimum Intel，在 Intel Xeon 處理器上進行硬體級推論加速。透過 OpenVINO 等技術，開發者無需 GPU 即可在 CPU 上實現極低延遲與高吞吐量的 NLP 模型部署。
A Chatbot on your Laptop: Phi-2 on Intel Meteor Lake★ 70
Hugging Face Blog804d agoTutorialHugging Face 發布技術指南，展示如何在搭載 Intel Meteor Lake（Core Ultra）處理器的筆電上本機部署微軟 Phi-2（2.7B）模型。透過 Optimum Intel 與 OpenVINO 進行 INT4 量化，開發者能充分利用筆電的 CPU、GPU 或 NPU 進行低延遲、隱私安全的本機 AI 推理，為 AI PC 的個人助理應用提供實踐範例。
CPU Optimized Embeddings with 🤗 Optimum Intel and fastRAG★ 70
Hugging Face Blog809d agoTutorialHugging Face 與 Intel 合作展示如何使用 Optimum Intel 和 fastRAG 框架優化 CPU 上的嵌入向量（Embeddings）計算。透過 OpenVINO 和 Intel Extension for PyTorch (IPEX) 等技術，開發者無需昂貴的 GPU，即可在標準 Intel CPU 上實現高效能、低延遲的 RAG 檢索系統，顯著降低企業部署成本。
Optimizing Stable Diffusion for Intel CPUs with NNCF and 🤗 Optimum
Hugging Face Blog1104d agoTutorial本文介紹 Hugging Face 與 Intel 合作的優化方案。透過 Optimum Intel 與神經網路壓縮框架（NNCF），開發者可以輕鬆對 Stable Diffusion 進行訓練後量化（PTQ）。這項技術能將模型壓縮至 INT8 精度，在顯著降低記憶體佔用的同時，大幅加速 Intel CPU 上的圖像生成速度，且幾乎不損失圖像品質。
Accelerating Stable Diffusion Inference on Intel CPUs
Hugging Face Blog1162d agoTutorial本文介紹在 Intel CPU 上加速 Stable Diffusion 推論的實用方法。透過 Hugging Face 的 Optimum Intel 整合套件，開發者可輕鬆利用 OpenVINO 和 Intel Extension for PyTorch (IPEX) 進行優化。在第四代 Intel Xeon 處理器上，結合 AMX 技術與 BF16/INT8 量化，能實現數倍的推論速度提升，為無 GPU 環境提供高效的替代方案。
Intel and Hugging Face Partner to Democratize Machine Learning Hardware Acceleration
Hugging Face Blog1448d agoReleaseIntel 與 Hugging Face 宣布建立長期合作夥伴關係，旨在簡化 Transformer 模型在 Intel 硬體上的加速與部署。雙方合作推出了 Optimum Intel 開源庫，整合了 OpenVINO、IPEX 等優化工具，讓開發者無需繁瑣修改代碼，即可在 Intel Xeon 處理器及 Habana Gaudi 加速器上獲得極致的推理與訓練效能，大幅降低硬體加速門檻。