Text-Generation Pipeline on Intel® Gaudi® 2 AI Accelerator

Hugging Face 推出支援 Intel Gaudi 2 的文字生成 Pipeline，讓開發者能以極簡程式碼在 Gaudi 2 上高效運行 LLM。

Hugging Face 宣布在 optimum-habana 中支援文字生成 Pipeline，使開發者能輕鬆在 Intel Gaudi 2 AI 加速器上部署大語言模型。此更新簡化了程式碼，並針對 Gaudi 2 硬體進行優化，提供極佳的推理效能與性價比，是 NVIDIA GPU 之外的強大替代方案。

摘要由 AI 整理,以原文為準。