Hugging Face BlogJan 28, 2025, 12:00 AM重要 85

Welcome to Inference Providers on the Hub 🔥

Hugging Face Hub 推出 Inference Providers，允許開發者直接在 Hub 上選擇 Groq、Together AI 等第三方服務商進行高效能模型推理。

Hugging Face 宣佈在 Hub 上整合「Inference Providers」功能。開發者現在可以直接在模型頁面或透過 SDK，自由選擇 Groq、Together AI、Fireworks AI 等第三方推理服務商來運行開源模型。這項更新簡化了 API 調用流程，讓用戶能根據速度、成本與延遲，彈性切換最適合的後端算力，無需自行維護基礎設施。

想看英文原文 / 完整內容?

前往 Hugging Face Blog 原文 →

相關

open-sourcellamamistralhuggingface#inference#api#serverless#huggingface-hub#llm

摘要由 AI 整理,以原文為準。