Introducing HUGS - Scale your AI with Open Models

Hugging Face 推出 HUGS 微服務，提供針對主流硬體優化的開源模型容器，實現一鍵部署與彈性擴展。

Hugging Face 推出全新微服務 HUGS（Hugging Face Microservices），旨在簡化開源 AI 模型的部署流程。HUGS 提供經過高度優化且開箱即用的 Docker 容器，支援 Llama、Mistral 等熱門模型，並針對 NVIDIA、AMD 及 AWS 等硬體進行效能優化。開發者可以透過與 OpenAI 相容的 API 快速整合，在私有雲或主流雲端平台上輕鬆擴展 AI 應用。

摘要由 AI 整理,以原文為準。