Run Meta Llama 3.1 405B with an API

Replicate 宣布支援 Meta Llama 3.1 405B，開發者只需一行程式碼即可在雲端調用這款最強開源模型。

Meta 推出最強開源模型 Llama 3.1 405B，Replicate 隨即宣布全面支援其 API 運行。開發者無需自行準備昂貴的 GPU 基礎設施，即可透過 Replicate 的雲端平台，以極低的延遲與簡單的一行程式碼整合該模型。此服務支援 128k 脈絡長度，並提供結構化輸出等功能，大幅降低了企業與開發者應用頂級開源 AI 的門檻。

摘要由 AI 整理,以原文為準。