Latest in AI

Remote VAEs for decoding with Inference Endpoints 🤗★ 75

Hugging Face 宣布在 Inference Endpoints 中支援「Remote VAE」解碼功能。在運行 FLUX.1 或 Stable Diffusion 等大型圖像生成模型時，VAE 解碼通常會消耗大量 GPU 顯存（VRAM）。透過將 VAE 解碼步驟與潛在空間生成解耦並進行遠端處理，開發者可以在較小、較便宜的 GPU 上部署大型擴散模型，同時優化整體的推論吞吐量與頻寬傳輸。