How to run Yi chat models with an API
Replicate Blog·922d ago·Tutorial
Yi 系列模型是由「零一萬物 (01.AI)」從頭訓練的大型語言模型,在多項基準測試中表現優異。Replicate 平台已託管 Yi 模型,開發者無需自行配置與維護昂貴的 GPU 基礎設施,即可透過 API 進行調用。本文介紹如何使用 Replicate 的 Python SDK,僅需一行程式碼便能輕鬆在雲端運行 Yi-34B-Chat 等模型,並支援串流輸出。