Latest in AI

Optimum+ONNX Runtime - Easier, Faster training for your Hugging Face models★ 75

Hugging Face 介紹了 Optimum 庫與 ONNX Runtime (ORT) 的整合，為開發者提供更高效的訓練解決方案。透過將標準的 Trainer 替換為 ORTTrainer，開發者可以輕鬆啟用 ORT 的圖優化與記憶體管理技術。此方案在不犧牲模型精度的前提下，能顯著提升訓練吞吐量（通常可達 20%-40%）並降低 GPU 顯存佔用。