IBM 發布全新開源多語言嵌入模型 Granite Embedding Multilingual R2。該模型採用寬鬆的 Apache 2.0 授權,支援高達 32K 的上下文長度。在參數小於 1 億(Sub-100M)的同量級模型中,它展現出最頂尖的資訊檢索品質,非常適合用於建構高效能且低資源消耗的 RAG(檢索增強生成)系統。
Hugging Face 發布最新指南,展示如何利用 Sentence Transformers 框架進行多模態嵌入與 Reranker 模型的訓練與微調。此更新簡化了將文字與影像對齊至同一向量空間的流程,並支援雙塔(Bi-Encoder)與交叉編碼器(Cross-Encoder)架構。這對於建構多模態 RAG(檢索增強生成)系統與跨模態搜尋引擎的開發者來說,提供了極低門檻的實作路徑。
Hugging Face 宣布其熱門開源庫 Sentence Transformers 正式支援多模態(Multimodal)嵌入與重排(Reranker)模型。開發者現在可以使用統一的 API 同時處理文本與影像,將它們映射到相同的向量空間中。這項更新大幅降低了建構多模態 RAG、圖文搜尋與跨模態推薦系統的門檻。
廣受開發者歡迎的開源嵌入向量庫 Sentence Transformers 宣布正式加入 Hugging Face。未來該專案將移至 Hugging Face 的 GitHub 組織下管理,獲得更多官方資源支持。這項合作將深化其與 Hugging Face Hub 的整合,提升模型託管、文檔與效能優化,為 RAG 與語意搜尋應用提供更穩定的開源基石。
Google 正式推出全新開源嵌入模型 EmbeddingGemma。該模型基於強大的 Gemma 2 架構,專為檢索、語意搜尋與 RAG(檢索增強生成)等任務設計。EmbeddingGemma 在 MTEB 等主流基準測試中表現優異,並提供高效的推理能力。目前已全面整合至 Hugging Face 生態系統,開發者可透過 transformers 與 sentence-transformers 輕鬆部署與微調。
Hugging Face 釋出最新指南,介紹如何利用 Sentence Transformers 庫訓練與微調稀疏嵌入(Sparse Embedding)模型。稀疏嵌入(如 SPLADE)能將文本轉化為高維稀疏向量,在保留關鍵字匹配能力的同時具備語意理解力。此更新簡化了訓練流程,讓開發者能輕鬆構建適用於混合檢索(Hybrid Search)的高效檢索系統。
Hugging Face 宣布 Sentence Transformers 支援訓練「靜態嵌入(Static Embeddings)」模型。相較於傳統 Transformer 模型,靜態嵌入不需逐層計算,訓練速度快上 400 倍,且推理速度極快、記憶體佔用極小。這項技術非常適合用於資源受限的設備(如手機、邊緣裝置)或作為大規模檢索(RAG)的第一階段粗篩。
Hugging Face 與 LightOn 等團隊聯合推出 ModernBERT,旨在取代已問世 6 年但仍被廣泛使用的 BERT 模型。ModernBERT 採用現代化架構,將上下文長度從 512 提升至 8192 標記,並原生支援 FlashAttention-2 與 RoPE。在保持極高推理速度與低記憶體佔用的同時,其在檢索、分類與嵌入等任務上的表現全面超越 DeBERTa-v3,為 RAG 與搜尋系統注入全新動力。
智慧財產權平台 XLSCOUT 在 Hugging Face 專家團隊支援下,推出專為專利與 IP 領域設計的嵌入模型 ParaEmbed 2.0。該模型針對專利文本特有的複雜法律與技術術語進行優化,能顯著提升專利相似度檢索與相關 RAG 應用的精準度。這項合作展示了如何透過領域特定(Domain-specific)的微調,解決通用模型在專業領域表現不佳的痛點。
Vercel 正式發布 AI SDK 3.2,本次更新帶來兩大核心功能:首先是全新的 `embed` 與 `embedMany` API,讓開發者能輕鬆生成向量嵌入以支援 RAG 應用;其次是支援 `maxSteps` 參數,實現自動化的多步驟工具調用(Multi-step Tool Calling),讓 AI 能在單次呼叫中連續執行多個工具,極大提升了建構 AI Agent 的效率與靈活性。
Hugging Face 與 AWS 合作推出全新 Deep Learning Container (DLC),專為 Amazon SageMaker 上的文字嵌入(Embedding)與序列分類模型進行優化。此容器基於 Hugging Face 的 Text Embeddings Inference (TEI) 技術,支援動態批處理與 Flash Attention,能顯著降低延遲並提高吞吐量,簡化了在 AWS 上部署 RAG 應用的流程。
Hugging Face 詳細解析了「二進位(Binary)」與「純量(Scalar)」嵌入向量量化技術,能將向量大小分別壓縮 32 倍與 4 倍。 透過將 float32 轉換為 int8 或 1-bit,不僅能顯著減少向量資料庫的記憶體(RAM)開銷,還能利用硬體加速大幅提升檢索速度。 此技術已整合至 sentence-transformers 庫中,並支援「重排(Rescoring)」機制,在極低精度損失下實現高效能的 RAG 檢索。
Hugging Face 與 Intel 合作展示如何使用 Optimum Intel 和 fastRAG 框架優化 CPU 上的嵌入向量(Embeddings)計算。透過 OpenVINO 和 Intel Extension for PyTorch (IPEX) 等技術,開發者無需昂貴的 GPU,即可在標準 Intel CPU 上實現高效能、低延遲的 RAG 檢索系統,顯著降低企業部署成本。
Matryoshka 嵌入模型(MRL)允許單一模型輸出多種不同維度的向量,如同俄羅斯套娃般大包小。 這項技術能讓開發者在不重新訓練模型的情況下,自由截斷維度,大幅降低向量資料庫的儲存與檢索成本。 Hugging Face 的 sentence-transformers 庫已原生支援此技術,為 RAG 與向量檢索提供極高的部署彈性。
Replicate 發表指南,展示如何在其平台上運行開源的 BGE (BAAI General Embedding) 模型。相較於當時 OpenAI 的 Embedding API,BGE 模型在 MTEB 排行榜上表現優異,且在 Replicate 上運行能提供更低的延遲與更便宜的價格,非常適合需要大量處理文字向量化與建置 RAG 系統的開發者。
Hugging Face 介紹了如何利用開源工具 Renumics Spotlight,僅需一行程式碼即可對 Hugging Face Datasets 進行互動式探索。此功能支援文本、圖像、音訊等多模態數據,並能視覺化高維度嵌入(embeddings),幫助開發者快速找出標籤錯誤、數據偏誤或異常值,大幅提升數據整理(Data Curation)與模型除錯的效率。
Hugging Face 宣布其 Inference Endpoints 正式支援高效部署嵌入模型(Embedding Models)。此服務整合了 Text Embeddings Inference (TEI) 技術,提供極低的延遲、動態批處理與高吞吐量。開發者只需幾鍵即可在專屬雲端基礎設施(如 AWS 或 Azure)上部署開源嵌入模型,極大簡化了 RAG(檢索增強生成)與向量搜尋系統的建置流程。
這是一篇由 Replicate 釋出的實用教學,指導開發者如何建構檢索增強生成(RAG)系統。文章詳細說明了如何使用 bge-large-en 模型生成文本嵌入向量,並將其儲存於 ChromaDB 向量資料庫中。最後,透過部署在 Replicate 上的 Mistral-7B-Instruct 模型,根據檢索到的上下文生成精確的回答。
這是一篇 Hugging Face 官方教學,指導開發者如何建立圖像相似度搜尋引擎。文章詳細說明了如何使用 Vision Transformer (ViT) 提取圖像特徵向量,並利用 Hugging Face Datasets 內建的 FAISS 整合功能進行高效的向量索引與檢索。此方法適用於以圖搜圖、推薦系統及重複圖片偵測等應用場景。
Hugging Face 發表了「海量文字嵌入基準(MTEB)」,這是目前最全面的文字嵌入模型評估工具。MTEB 涵蓋了 8 種不同的任務類型(如語義相似度、資訊檢索、分類等),共包含 58 個數據集,支援多達 112 種語言。此基準旨在解決過去評估嵌入模型時任務單一、缺乏多語言支持的問題,為開發者提供統一的評估標準。
本指南詳細介紹如何訓練與微調 Sentence Transformers 模型。內容涵蓋雙編碼器(Bi-Encoder)與交叉編碼器(Cross-Encoder)的差異、如何準備訓練數據(如成對文本或三元組),以及如何選擇適合的損失函數(如 MultipleNegativesRankingLoss)來提升語意搜尋與向量檢索的精準度,是優化 RAG 系統必讀的經典教學。
本文探討如何使用 Sentence Transformers 建立一個智慧歌單生成器。透過將歌曲描述、風格或歌詞轉化為向量嵌入(Embeddings),並利用餘弦相似度比對使用者的文字輸入,系統能精準推薦符合當下心情或情境的音樂。這展示了語意搜尋與向量嵌入技術在現代推薦系統中的實際應用。
這是一篇由 Hugging Face 官方撰寫的經典入門指南,系統性地介紹了向量嵌入(Embeddings)的核心概念。文章解釋了如何將文字、圖像等非結構化數據轉化為高維向量,並透過餘弦相似度等指標計算語意相關性。此外,也展示了如何利用 sentence-transformers 庫快速實作語意搜尋與推薦系統。
Hugging Face 介紹了如何使用其 datasets 庫來實現圖像搜尋系統。透過整合預訓練的視覺模型(如 CLIP)來提取圖像的特徵向量(embeddings),並利用內建的 FAISS 索引功能,開發者可以輕鬆對大規模圖像數據集進行高效的相似度檢索。這為以圖搜圖、多模態檢索等應用提供了極為簡便的實作路徑。
Hugging Face 介紹了如何利用超過 10 億個句子對(Sentence Pairs)的大規模數據集,訓練出高效且精準的句子嵌入模型。文中詳細說明了數據集整合、對比學習(Contrastive Learning)的訓練方法,並釋出了包含 all-MiniLM-L6-v2 在內的多款熱門開源模型。這些模型至今仍是 RAG 和語意搜尋系統中非常經典且高效的基準選擇。
Hugging Face 宣布與熱門的 Sentence Transformers 庫深度整合。開發者現在可以直接在 Hub 上託管、分享和發現語義嵌入模型。Hub 同時新增了專屬的互動式小工具,讓使用者能在瀏覽器中直接測試句子相似度,並提供自動生成的程式碼範例,大幅簡化了 NLP 嵌入模型的應用流程。