Llama 3.1 - 405B, 70B & 8B with multilinguality and long context

Meta 發布 Llama 3.1，推出首個 405B 頂級開源模型，支援 128k 上下文與多語言，Hugging Face 全面支援整合。

Meta 正式發布 Llama 3.1 系列，包含 8B、70B 及首款能與頂級閉源模型媲美的 405B 旗艦模型。此版本將上下文視窗大幅提升至 128k，並增強了多語言能力。Hugging Face 同步推出完整生態系支援，涵蓋 Transformers 整合、TGI 推論優化、TRL 微調以及 FP8 量化，降低 405B 的部署門檻。

摘要由 AI 整理,以原文為準。