Latest in AI

The Transformers Library: standardizing model definitions★ 85

Hugging Face 針對其核心 `transformers` 函式庫進行重大架構更新，旨在標準化模型定義。過去為了易讀性而採用的「單一檔案政策」導致了嚴重的程式碼重複，難以進行全域優化。新標準化方案將引入模組化設計，統一常見組件（如 Attention、MLP），在保持可讀性的同時，大幅簡化新模型開發與硬體加速（如 Flash Attention）的整合。