本文介紹了 dots.ocr 模型與 Apple Core ML 框架的結合。透過將 SOTA 等級的 OCR 模型轉換為 Core ML 格式,開發者可以在 iPhone、iPad 和 Mac 上實現高效能的本地端文字辨識。這不僅大幅降低了延遲,還能完全在裝置端運行以保護用戶隱私,是 iOS 與 macOS 開發者整合 AI 視覺功能的新利器。
Hugging Face 正式推出 Swift Transformers 1.0,這是專為 Apple 生態系(iOS、macOS 等)設計的開源庫,旨在簡化本地端 AI 模型的部署。此版本帶來了顯著的效能提升與 API 穩定性,深度整合 Apple 的 Core ML 與 Metal 框架,讓開發者能更輕鬆地在裝置上執行 Llama、Whisper 等熱門模型。1.0 版本的發布標誌著該專案已達生產環境就緒階段,未來將持續優化記憶體佔用並支援更多新一代的 Apple 晶片架構。
Hugging Face 宣布推出全新開源 Swift 套件 `swift-transformers`,旨在簡化在 Apple 裝置(iOS、macOS)上部署與運行本地端大型語言模型(LLM)的流程。該套件支援 Tokenization 與模型推理,並能與 Apple 的 Core ML 框架緊密結合,充分發揮 Apple Silicon 的硬體加速優勢,為行動端應用帶來更隱私、低延遲的 AI 體驗。
Hugging Face 發表了將 Stable Diffusion XL (SDXL) 部署於 Mac 的 Core ML 最佳化方案。透過先進的量化技術(如 6-bit 與 8-bit 量化),成功將龐大的 SDXL 模型體積縮減,使其能在 Apple Silicon(M1/M2 系列晶片)的 Mac 上流暢運行,顯著降低記憶體需求,並充分釋放 Apple 神經網路引擎(ANE)的硬體效能。
本文介紹如何利用 Core ML 技術在 Apple Silicon 晶片上加速 Stable Diffusion。透過模型量化(如 6-bit/8-bit)與 Apple 神經網路引擎(ANE)的優化,開發者能顯著降低記憶體佔用,在 iPhone、iPad 和 Mac 上實現本地端超快速的圖像生成,有效解決行動裝置記憶體不足(OOM)的痛點。
Hugging Face 發布全新開源專案 swift-diffusers,專為 Apple 生態系設計。該專案利用 Apple 的 Core ML 技術,讓 Stable Diffusion 模型能在 Mac(Apple Silicon)及 iOS 裝置上發揮極致效能。開發者可藉此輕鬆將 AI 繪圖功能整合至原生 App 中,並享有低記憶體佔用與神經網路引擎(ANE)加速的優勢。
Apple 與 Hugging Face 合作推出 Core ML 版的 Stable Diffusion,讓 Mac、iPad 和 iPhone 能直接利用 Apple 類神經引擎(ANE)進行硬體加速。開發者可以使用 Hugging Face 的 diffusers 庫與 Apple 的轉換工具,將 PyTorch 模型轉換為 .mlpackage 格式。此舉大幅降低了在 Apple 裝置上部署生成式 AI 模型的門檻,並顯著提升了圖像生成速度與能源效率。