Hugging Face on AMD Instinct MI300 GPU

Hugging Face 宣布深度支援 AMD Instinct MI300X GPU，為開源大模型提供開箱即用的高效能推論與訓練。

Hugging Face 宣布與 AMD 展開深度合作，全面優化 AMD Instinct MI300X GPU。透過 AMD ROCm 軟體棧與 Hugging Face 核心庫（如 Transformers、TGI）的無縫整合，開發者無需修改程式碼即可在 MI300X 上運行 Llama 3 等大型模型。MI300X 憑藉 192GB HBM3 超大記憶體，為企業提供極具性價比且能擺脫單一晶片供應商依賴的高效能 AI 算力選擇。

摘要由 AI 整理,以原文為準。