Google Cloud C4 Brings a 70% TCO improvement on GPT OSS with Intel and Hugging Face★ 75
Hugging Face Blog·229d ago·Release
Google Cloud 與 Intel、Hugging Face 合作,在搭載第五代 Intel Xeon 處理器的 C4 實例上運行開源 GPT 模型。透過 Intel AMX 硬體加速與 Hugging Face Optimum 軟體優化,顯著提升推論效能。這項整合為企業帶來高達 70% 的總體擁有成本(TCO)改善,提供更具性價比的 CPU 推論選擇。