🔥 Trending today
OpenAI-compatible API endpoints now supported in AI Gateway★ 75
Vercel Changelog316d agoReleaseVercel 宣布其 AI Gateway 正式支援相容 OpenAI 的 API 端點。這項更新讓開發者能夠透過統一的 Gateway 介面，輕鬆整合並管理如 DeepSeek、Groq、Together AI 等提供 OpenAI 相容格式的第三方 AI 服務。開發者不僅能簡化多模型部署的架構，還能同時享有 Vercel AI Gateway 提供的快取、速率限制與監控功能。
From OpenAI to Open LLMs with Messages API on Hugging Face★ 80
Hugging Face Blog845d agoReleaseHugging Face 宣布其文字生成推論工具（TGI）正式支援與 OpenAI 相容的 Messages API。這意味著開發者可以使用現有的 OpenAI SDK，僅需更改 Base URL 和 API 金鑰，就能直接調用託管在 Hugging Face 上的開源大語言模型（如 Llama、Mistral 等）。TGI 會在後台自動處理繁瑣的聊天模板（Chat Templates）轉換，大幅降低了從閉源轉向開源模型的門檻。