Hugging Face BlogNov 20, 2024, 12:00 AM重要 75

From Files to Chunks: Improving HF Storage Efficiency

Hugging Face 推出全新「分塊儲存」技術,透過跨庫去重大幅降低模型儲存成本並提升傳輸速度。

Hugging Face 發表全新的儲存優化方案,將傳統的檔案級儲存(如 Git LFS)轉型為「分塊儲存(Chunk-based Storage)」。透過內容定義分塊(CDC)與內容定址儲存(CAS)技術,Hub 能跨儲存庫進行資料去重。這對於微調(Fine-tune)與合併(Merge)模型的儲存能節省極大空間,並顯著加快上傳與下載速度。

想看英文原文 / 完整內容?

前往 Hugging Face Blog 原文 →

摘要由 AI 整理,以原文為準。