Language models are on Replicate

Replicate 宣布在其雲端平台正式支援大型語言模型（LLMs），提供極速冷啟動與 API 串流輸出功能。

知名 AI 雲端託管平台 Replicate 宣布正式支援大型語言模型（LLMs）。平台已上架包括 Vicuna、Alpaca、Flan-T5 等多款開源模型，並優化了冷啟動時間。開發者現在可以透過簡單的 API 與 SDK，輕鬆在應用程式中整合語言模型的文字生成與串流（Streaming）輸出功能。

摘要由 AI 整理,以原文為準。