Deploy Meta Llama 3.1 405B on Google Cloud Vertex AI

Hugging Face 宣布與 Google Cloud 合作，支援在 Vertex AI 上一鍵部署 Meta Llama 3.1 405B 旗艦級開源模型。

Hugging Face 推出全新整合功能，允許用戶將 Meta 的 Llama 3.1 405B 模型直接部署至 Google Cloud Vertex AI。此舉簡化了超大型開源模型的企業級部署流程，提供高擴展性與安全性。開發者可透過 Hugging Face Hub 或 Vertex AI Model Garden 輕鬆啟用，並利用 Google Cloud 的強大算力（如 H100 GPU 或 TPU）進行高效推理。

摘要由 AI 整理,以原文為準。