Inference for PROs

Hugging Face 為 PRO 用戶升級 Serverless 推理 API，提供更高頻寬、低延遲並支援 Llama 2 等大型開源模型。

Hugging Face 宣布為每月 9 美元的 PRO 訂閱用戶升級 Serverless 推理 API 服務。PRO 用戶將享有更高的速率限制、更低的延遲，並能直接調用 Llama 2、Falcon 與 StarCoder 等熱門大型開源模型。這項升級讓開發者在部署專屬端點前，能以極低成本進行高效的原型開發與測試。

摘要由 AI 整理,以原文為準。