Optimizing Stable Diffusion for Intel CPUs with NNCF and 🤗 Optimum

本文介紹如何利用 Intel NNCF 與 Hugging Face Optimum Intel，將 Stable Diffusion 模型量化為 INT8，大幅提升 Intel CPU 上的推理速度。

本文介紹 Hugging Face 與 Intel 合作的優化方案。透過 Optimum Intel 與神經網路壓縮框架（NNCF），開發者可以輕鬆對 Stable Diffusion 進行訓練後量化（PTQ）。這項技術能將模型壓縮至 INT8 精度，在顯著降低記憶體佔用的同時，大幅加速 Intel CPU 上的圖像生成速度，且幾乎不損失圖像品質。

摘要由 AI 整理,以原文為準。