Deploy Meta Llama 3.1 405B on Google Cloud Vertex AI★ 75
Hugging Face Blog·652d ago·Release
Hugging Face 推出全新整合功能,允許用戶將 Meta 的 Llama 3.1 405B 模型直接部署至 Google Cloud Vertex AI。此舉簡化了超大型開源模型的企業級部署流程,提供高擴展性與安全性。開發者可透過 Hugging Face Hub 或 Vertex AI Model Garden 輕鬆啟用,並利用 Google Cloud 的強大算力(如 H100 GPU 或 TPU)進行高效推理。