🔥 Trending today
mmBERT: ModernBERT goes Multilingual★ 78
Hugging Face Blog266d agoReleaseHugging Face 與社群合作推出 mmBERT，這是基於 ModernBERT 架構的多語言版本。mmBERT 繼承了 ModernBERT 的現代化改進（如 FlashAttention、RoPE 與 8192 token 長文本支持），旨在取代傳統的 mBERT 與 XLM-RoBERTa。它能顯著提升多語言文本分類、命名實體識別（NER）及檢索（RAG）等任務的運算效率，為開發者提供更強大且省資源的開源選擇。
Finally, a Replacement for BERT: Introducing ModernBERT★ 85
Hugging Face Blog530d agoReleaseHugging Face 與 LightOn 等團隊聯合推出 ModernBERT，旨在取代已問世 6 年但仍被廣泛使用的 BERT 模型。ModernBERT 採用現代化架構，將上下文長度從 512 提升至 8192 標記，並原生支援 FlashAttention-2 與 RoPE。在保持極高推理速度與低記憶體佔用的同時，其在檢索、分類與嵌入等任務上的表現全面超越 DeBERTa-v3，為 RAG 與搜尋系統注入全新動力。