Arm & ExecuTorch 0.7: Bringing Generative AI to the masses

Arm 與 PyTorch 推出 ExecuTorch 0.7，大幅優化邊緣裝置的生成式 AI 效能，加速手機與 PC 的本機 LLM 普及。

Hugging Face 介紹 Arm 與 PyTorch 團隊在 ExecuTorch 0.7 的最新合作成果。此版本專為 Arm 架構（如手機、AI PC）優化生成式 AI 效能，透過先進的量化技術與核心優化（如 Arm KleidiAI），讓開發者能更輕鬆地在邊緣裝置上部署低延遲、低功耗的輕量化大語言模型。

摘要由 AI 整理,以原文為準。