AMD + 🤗: Large Language Models Out-of-the-Box Acceleration with AMD GPU

Hugging Face 與 AMD 合作推出 optimum-amd 開源庫，讓開發者能在 AMD GPU 上免設定直接加速大語言模型。

Hugging Face 宣布與 AMD 深度合作，推出 optimum-amd 套件，旨在簡化 AMD GPU（如 Instinct 與 Radeon 系列）上的模型部署與加速。該套件整合了 AMD ROCm 軟體平台，開發者只需修改幾行程式碼，即可在 AMD 硬體上無縫運行並加速主流的大語言模型（LLM）。此舉打破了過去 NVIDIA CUDA 在 AI 訓練與推理上的壟斷，為企業與開發者提供更具性價比的硬體選擇。

摘要由 AI 整理,以原文為準。