Hugging Face BlogJul 9, 2024, 12:00 AM重要 75

Google Cloud TPUs made available to Hugging Face users

Hugging Face 宣布整合 Google Cloud TPU,用戶可在 Spaces 與 Inference Endpoints 中直接使用 TPU 進行高效能模型部署。

Hugging Face 與 Google Cloud 合作,正式將 TPU(如 TPU v5e)引入其平台。用戶現在可以在 Hugging Face Spaces 和 Inference Endpoints 中直接選擇 TPU 作為硬體加速器。這項整合為部署大型語言模型和擴散模型提供了極具性價比的 GPU 替代方案,大幅降低了雲端推理的成本與門檻。

想看英文原文 / 完整內容?

前往 Hugging Face Blog 原文 →

摘要由 AI 整理,以原文為準。