StarCoder: A State-of-the-Art LLM for Code

Hugging Face 與 ServiceNow 聯合推出 StarCoder，一款擁有 155 億參數、支援 80 多種語言的開源程式碼生成模型。

Hugging Face 與 ServiceNow 發起的 BigCode 專案正式推出 StarCoder，這是一款擁有 155 億參數的開源程式碼大語言模型。該模型在 The Stack 數據集上訓練，支援 80 多種程式語言，並具備 8K 上下文視窗與 Multi-Query Attention 技術。StarCoder 在多項程式碼基準測試中超越了當時的其他開源模型，並採用 OpenRAIL-M 授權，允許商業化使用。

摘要由 AI 整理,以原文為準。