Faster Training and Inference: Habana Gaudi®2 vs Nvidia A100 80GB

Hugging Face 實測指出，Intel Habana Gaudi2 在 Transformer 模型訓練與推論上，效能與性價比皆超越 Nvidia A100 80GB。

Hugging Face 發布 Habana Gaudi2 與 Nvidia A100 80GB 的基準測試對比。結果顯示，Gaudi2 在 BERT 和 T5 等主流模型的訓練速度上比 A100 快上近兩倍。透過 optimum-habana 庫，開發者只需修改極少程式碼即可無縫轉移，為 Nvidia 晶片短缺與高成本提供了強力的替代方案。

摘要由 AI 整理,以原文為準。