Hugging Face 與 Dell 合作推出 Dell Enterprise Hub,旨在簡化企業在本地端(on-premises)部署 AI 模型的流程。該平台整合了 Dell 的硬體優勢與 Hugging Face 的豐富模型庫,提供經優化的容器與自動化工作流。這讓企業能在確保數據安全與合規的前提下,輕鬆在自家伺服器上運行 Llama、Mistral 等主流開源模型。
Hugging Face 推出全新整合功能,允許用戶將 Meta 的 Llama 3.1 405B 模型直接部署至 Google Cloud Vertex AI。此舉簡化了超大型開源模型的企業級部署流程,提供高擴展性與安全性。開發者可透過 Hugging Face Hub 或 Vertex AI Model Garden 輕鬆啟用,並利用 Google Cloud 的強大算力(如 H100 GPU 或 TPU)進行高效推理。