How to run Yi chat models with an API

介紹如何透過 Replicate API，只需一行程式碼即可在雲端運行由零一萬物 (01.AI) 開發的 Yi 系列開源對話模型。

Yi 系列模型是由「零一萬物 (01.AI)」從頭訓練的大型語言模型，在多項基準測試中表現優異。Replicate 平台已託管 Yi 模型，開發者無需自行配置與維護昂貴的 GPU 基礎設施，即可透過 API 進行調用。本文介紹如何使用 Replicate 的 Python SDK，僅需一行程式碼便能輕鬆在雲端運行 Yi-34B-Chat 等模型，並支援串流輸出。

摘要由 AI 整理,以原文為準。