Sort providers by cost, latency, or throughput on AI Gateway

Vercel AI Gateway 支援依據成本、延遲或吞吐量動態排序與路由不同的 AI 提供商。

Vercel 宣布其 AI Gateway 新增動態排序功能。開發者現在可以根據即時或設定的指標（包含成本、延遲與吞吐量）來自動排序和路由不同的 AI 模型提供商。這項更新讓開發者能更彈性地在效能、預算與速度之間取得平衡，優化生產環境中的 AI 應用表現。

摘要由 AI 整理,以原文為準。