🔥 Trending today
Scaling AI-based Data Processing with Hugging Face + Dask★ 72
Hugging Face Blog601d agoTutorial本文探討如何整合 Hugging Face 生態系統與分散式運算框架 Dask。透過 Dask 的平行運算能力，開發者可以突破單機記憶體限制，高效處理海量文本、圖像等 AI 訓練資料。此整合方案不僅加速了大規模資料的預處理與 Tokenization，還能顯著提升分散式模型推論的效率，是處理大規模 AI 工作負載的關鍵技術。
Optimization story: Bloom inference
Hugging Face Blog1329d agoTutorial本文探討 Hugging Face 優化 1760 億參數大模型 BLOOM 推理的技術細節。面對 FP16 下高達 352GB 的顯示記憶體需求，團隊結合了 8-bit 量化（LLM.int8()）、Tensor Parallelism（張量並行）以及 Hugging Face Accelerate 的 CPU/NVMe 卸載技術。這些優化成功將記憶體需求減半，並顯著提升吞吐量，降低了開源社群部署超大型語言模型的門檻。
Incredibly Fast BLOOM Inference with DeepSpeed and Accelerate
Hugging Face Blog1355d agoTutorialHugging Face 釋出技術指南，針對 1760 億參數的開源巨型模型 BLOOM 提供高效推理方案。透過結合 DeepSpeed-Inference 的張量並行（Tensor Parallelism）與 Accelerate 的彈性部署，解決了超大模型需要超高 VRAM 的痛點。文章提供具體 PyTorch 腳本與基準測試，展示如何在多卡環境下將推理延遲降至最低。
Retrieval Augmented Generation with Huggingface Transformers and Ray
Hugging Face Blog1938d agoTutorialHugging Face 與 Anyscale 合作，展示如何利用 Ray 框架來擴展檢索增強生成（RAG）模型。 透過將 Ray 的分散式運算能力與 Hugging Face 的 NLP 模型結合，開發者可以高效地在海量知識庫中進行向量檢索與文本生成。 此方案解決了 RAG 在處理大規模知識庫（如完整維基百科）時的記憶體限制與運算瓶頸，顯著提升查詢吞吐量。