A Chatbot on your Laptop: Phi-2 on Intel Meteor Lake★ 70
Hugging Face Blog·804d ago·Tutorial
Hugging Face 發布技術指南,展示如何在搭載 Intel Meteor Lake(Core Ultra)處理器的筆電上本機部署微軟 Phi-2(2.7B)模型。透過 Optimum Intel 與 OpenVINO 進行 INT4 量化,開發者能充分利用筆電的 CPU、GPU 或 NPU 進行低延遲、隱私安全的本機 AI 推理,為 AI PC 的個人助理應用提供實踐範例。