StarCoder: A State-of-the-Art LLM for Code★ 85
Hugging Face Blog·1125d ago·Release
Hugging Face 與 ServiceNow 發起的 BigCode 專案正式推出 StarCoder,這是一款擁有 155 億參數的開源程式碼大語言模型。該模型在 The Stack 數據集上訓練,支援 80 多種程式語言,並具備 8K 上下文視窗與 Multi-Query Attention 技術。StarCoder 在多項程式碼基準測試中超越了當時的其他開源模型,並採用 OpenRAIL-M 授權,允許商業化使用。