🔥 Trending today
1 Billion Classifications★ 80
Hugging Face Blog474d agoTutorialHugging Face 發表專文探討大規模文本分類的實踐。在 LLM 時代，許多開發者盲目使用 GPT-4 等生成式大模型進行分類，導致成本高昂且延遲高。文章展示了如何利用 ModernBERT、DeBERTa 等開源編碼器模型，搭配 Rust 編寫的 TEI (Text Embeddings Inference) 引擎，在極低成本下於短時間內完成 10 億次分類。這種方法不僅能將延遲壓低至個位數毫秒，成本更比使用 LLM API 降低高達 90% 以上，為工業級數據處理提供高效示範。
Introducing the Hugging Face Embedding Container for Amazon SageMaker★ 75
Hugging Face Blog725d agoReleaseHugging Face 與 AWS 合作推出全新 Deep Learning Container (DLC)，專為 Amazon SageMaker 上的文字嵌入（Embedding）與序列分類模型進行優化。此容器基於 Hugging Face 的 Text Embeddings Inference (TEI) 技術，支援動態批處理與 Flash Attention，能顯著降低延遲並提高吞吐量，簡化了在 AWS 上部署 RAG 應用的流程。