Shipping a Trillion Parameters With a Hub Bucket: Delta Weight Sync in TRL
Hugging Face Blog6d agoTutorialBased on the title, this Hugging Face Blog post focuses on Delta Weight Sync in TRL. It likely discusses moving or synchronizing weight differences at very large model scale using a Hub bucket-related workflow. Without the full article, implementation details, benchmarks, APIs, and stability claims cannot be confirmed.
PRX Part 3 — Training a Text-to-Image Model in 24h!★ 75
Hugging Face Blog91d agoTutorial知名 AI 圖片編輯品牌 Photoroom 在 Hugging Face 發表 PRX 技術系列第三部分。本文聚焦於如何在 24 小時內高效訓練出一個高品質的文字生成圖像（Text-to-Image）模型。團隊分享了在硬體配置、數據篩選、混合精度訓練以及優化器選擇上的實戰經驗，展示了中小規模團隊如何利用極高效率進行基礎模型迭代。
Training Design for Text-to-Image Models: Lessons from Ablations★ 75
Hugging Face Blog119d agoTutorial本文為知名去背與圖像編輯品牌 Photoroom 技術部落格的第二篇，深入探討其文字生成圖像（Text-to-Image）模型 PRX 的訓練設計。透過系統化的消融實驗（Ablation Studies），團隊分享了在資料清洗、標籤生成（Captioning）、解析度分桶（Resolution Bucketing）以及優化器選擇上的實戰經驗。這些技術細節對於想要自行預訓練或微調圖像生成模型的開發者與研究人員具有極高的實戰參考價值。
Getting Started with Transformers on Habana Gaudi
Hugging Face Blog1498d agoTutorialHugging Face 與 Intel Habana Labs 合作推出 optimum-habana 庫。開發者只需將標準的 Trainer 替換為 GaudiTrainer，即可在 AWS DL1 等 Gaudi 實例上進行高效能、低成本的 Transformer 模型訓練。這為 NVIDIA 之外的 AI 晶片生態系提供了一個強大的替代方案，能有效降低高達 40% 的訓練成本。
Habana Labs and Hugging Face Partner to Accelerate Transformer Model Training
Hugging Face Blog1512d agoReleaseHugging Face 宣布與 Intel 旗下的 Habana Labs 展開合作，旨在提升 Transformer 模型的訓練與部署效率。 雙方共同推出了 `optimum-habana` 開源庫，讓開發者能輕鬆將 Hugging Face 模型遷移至 Habana Gaudi 處理器（HPU）上運行。 此合作為開發者提供除了傳統 GPU 之外，更具性價比的高性能深度學習硬體選擇，僅需修改幾行程式碼即可啟用。
Hugging Face on PyTorch / XLA TPUs
Hugging Face Blog1939d agoReleaseHugging Face 於 2021 年宣布與 Google 合作，正式支援 PyTorch/XLA。這項整合讓 PyTorch 開發者無需修改大量程式碼，即可利用 Google Cloud TPU 的強大算力來加速 Transformer 模型的訓練與推理。透過 Hugging Face 的 Trainer API，開發者可以輕鬆在單個或多個 TPU 節點上進行分散式訓練，大幅提升運算效率並降低成本。