Google Cloud C4 Brings a 70% TCO improvement on GPT OSS with Intel and Hugging Face

Google Cloud C4 實例結合 Intel Xeon 與 Hugging Face 優化，讓開源 GPT 模型的總體擁有成本降低達 70%。

Google Cloud 與 Intel、Hugging Face 合作，在搭載第五代 Intel Xeon 處理器的 C4 實例上運行開源 GPT 模型。透過 Intel AMX 硬體加速與 Hugging Face Optimum 軟體優化，顯著提升推論效能。這項整合為企業帶來高達 70% 的總體擁有成本（TCO）改善，提供更具性價比的 CPU 推論選擇。

摘要由 AI 整理,以原文為準。