NVIDIA Space Computing Gets First Hardware Case as Aitech Integrates IGX Thor
INSIDE 硬塞 AI5d agoHardwareAitech announced it will integrate NVIDIA IGX Thor into its space supercomputer for low Earth orbit missions. The goal is to provide onboard AI edge computing and enable real-time inference directly in orbit. By processing more data in space, the system aims to reduce dependence on ground communications and extend AI compute beyond Earth-based infrastructure.
The Autonomous Drone Tech Stack & Economics of Drones — Yaroslav Azhnyuk, The Fourth Law & Guest Host Noah Smith, Noahpinion
Latent Space15d agoCommentary本期 Latent Space 訪談了烏克蘭無人機新創 The Fourth Law 創辦人 Yaroslav Azhnyuk 與客座主持人 Noah Smith。他們深入探討了從寵物攝影機轉向 AI 導引武器的技術歷程，解析了現代自主無人機的技術棧與低成本製造經濟學。Azhnyuk 警告，西方國家在面對這場由 AI 驅動的無人機軍備競賽中顯得過於遲鈍，亟需正視其對未來國防的衝擊。
Welcome Gemma 4: Frontier multimodal intelligence on device★ 85
Hugging Face Blog61d agoReleaseGoogle 正式推出 Gemma 4 開放模型家族，將前沿的多模態智能帶入裝置端。Gemma 4 體積輕量、適合在手機與筆電運行，並具備強大的視覺與文字理解能力。Hugging Face 已在第一時間提供完整支援，開發者可立即透過 Transformers 進行微調與部署。
Granite 4.0 3B Vision: Compact Multimodal Intelligence for Enterprise Documents★ 75
Hugging Face Blog63d agoReleaseIBM 於 Hugging Face 發布全新 Granite 4.0 3B Vision 模型。這款僅有 30 億參數的輕量級多模態模型，專為企業級文件理解、圖表分析與 OCR 數據提取而設計。其小巧的體積不僅大幅降低了部署門檻與運算成本，更在處理複雜商業報表與 PDF 文件時展現出極高的實用性，是企業本地化部署的理想選擇。
Import AI 448: AI R&D; Bytedance's CUDA-writing agent; on-device satellite AI ★ 75
Import AI (Jack Clark)85d agoCommentary本期 Import AI 聚焦三大前沿：首先是 ByteDance 開發出能自動編寫與優化 CUDA 程式碼的 Agent，大幅降低 GPU 效能調校門檻；其次是探討在衛星上直接運行 AI 模型（邊緣運算）的技術進展；最後，作者藉由烏克蘭無人機戰事，深刻反思未來首場真正的「AI 戰爭」將於何時、以何種形式爆發。
Bringing Robotics AI to Embedded Platforms: Dataset Recording, VLA Fine‑Tuning, and On‑Device Optimizations★ 75
Hugging Face Blog89d agoTutorial本指南介紹 Hugging Face 與 NXP 的合作成果，展示如何將視覺-語言-動作（VLA）模型應用於嵌入式機器人平台。內容涵蓋使用 LeRobot 進行資料集錄製、對 VLA 模型進行客製化微調，以及利用 NXP eIQ 工具包在 i.MX 晶片上進行量化與硬體加速優化，實現低延遲、低功耗的邊緣端機器人控制。
GGML and llama.cpp join HF to ensure the long-term progress of Local AI★ 95
Hugging Face Blog102d agoBusiness開源 AI 領域迎來震撼消息，主導本地端 LLM 推理的開源專案 GGML 與 llama.cpp 正式宣布加入 Hugging Face。此舉旨在為本地端與邊緣端 AI 技術提供長期且穩定的資源支持。雙方將深化 GGUF 格式與 Hugging Face 平台的整合，確保開源社群能更輕鬆地在消費級硬體上運行高效能模型，持續推動去中心化與隱私優先的 AI 發展。
The Open Evaluation Standard: Benchmarking NVIDIA Nemotron 3 Nano with NeMo Evaluator★ 70
Hugging Face Blog167d agoTutorialNVIDIA 與 Hugging Face 合作介紹「開放評測標準」，展示如何利用 NeMo Evaluator 工具對輕量級模型 Nemotron 3 Nano 進行系統化基準測試。此指南提供了一套可重現的評測食譜（Recipe），幫助開發者在邊緣設備或資源受限環境中，精確評估小模型的性能與偏差，推動開源社群的評測透明度。
On the Shifting Global Compute Landscape★ 75
Hugging Face Blog216d agoOpinion本文深入探討全球 AI 算力基礎設施的劇烈變革。隨著地緣政治與市場需求的變化，算力正從少數雲端巨頭壟斷，走向「主權算力」與區域化部署。同時，AMD、Intel 及邊緣裝置晶片的崛起打破了單一硬體壟斷，而開源社群與 Hugging Face 的優化工具（如 Optimum）正成為連接多元硬體與模型的關鍵橋樑，推動 AI 走向去中心化與普及化。
How to Build a Healthcare Robot from Simulation to Deployment with NVIDIA Isaac for Healthcare★ 70
Hugging Face Blog216d agoTutorialNVIDIA 介紹如何利用其 Isaac 機器人平台開發醫療照護機器人。文章詳細說明了從 Isaac Sim 虛擬醫院環境的建立、利用 AI 與強化學習訓練機器人安全互動，到最終透過 NVIDIA Jetson 或 IGX 邊緣運算平台進行「模擬到真實（Sim-to-Real）」部署的完整工作流，為醫療自動化與輔助照護提供安全且高效的開發路徑。
Granite 4.0 Nano: Just how small can you go?★ 75
Hugging Face Blog217d agoRelease本文探討 IBM 最新推出的超輕量級模型 Granite 4.0 Nano。作為 Granite 家族中體積最小的成員，Nano 專為端側（On-device）與邊緣運算設計，能在資源極度受限的設備（如手機、瀏覽器）上流暢運行。文章詳細分析了其架構優化、效能表現，以及如何透過 Hugging Face 工具鏈輕鬆部署，為隱私敏感與低延遲應用提供全新選擇。
Introducing Gemma 3 270M: The compact model for hyper-efficient AI★ 72
Google DeepMind Blog222d agoReleaseGoogle DeepMind 宣布在 Gemma 3 工具包中加入全新成員「Gemma 3 270M」。這款僅有 2.7 億（270M）參數的極致輕量級模型，專為需要超高效率、低延遲以及資源受限的邊緣設備（On-device）運算場景所設計，為開發者在極端硬體限制下部署 AI 提供了全新的高效能選擇。
Get your VLM running in 3 simple steps on Intel CPUs★ 70
Hugging Face Blog230d agoTutorialHugging Face 介紹如何利用 OpenVINO 在 Intel CPU 上優化並運行視覺語言模型（VLM）。開發者只需透過安裝環境、轉換模型、執行推論三個簡單步驟，即可在無獨立顯卡的 Intel 硬體上實現高效的多模態處理，大幅降低 VLM 的本地部署門檻，非常適合邊緣運算與個人開發環境。
Arm will be @ PyTorch Conference, Join Us!
Hugging Face Blog235d agoBusinessArm 宣佈將參與即將舉行的 PyTorch Conference。本次參展重點將聚焦於如何透過 Arm 架構優化 PyTorch 效能，包含針對伺服器端（如 AWS Graviton）與邊緣裝置（如 ExecuTorch）的加速方案。此外，Arm 也將展示其開源的 KleidiAI 函式庫如何與 PyTorch 深度整合，提升 AI 模型在 Arm 處理器上的執行效率。
Accelerating Qwen3-8B Agent on Intel® Core™ Ultra with Depth-Pruned Draft Models★ 75
Hugging Face Blog246d agoTutorialHugging Face 發表最新技術，展示如何在 Intel Core Ultra 平台上加速 Qwen3-8B Agent。該方法採用「深度剪枝（Depth-Pruning）」技術製作輕量化的草稿模型，並結合投機解碼（Speculative Decoding）技術。這使得在個人電腦（Edge AI）上運行複雜的 Agent 任務時，能獲得更高的 Token 生成效率與更低的延遲，為本地端 AI 應用帶來突破。
Introducing the Palmyra-mini family: Powerful, lightweight, and ready to reason!★ 72
Hugging Face Blog263d agoReleaseEnterprise AI 公司 Writer 在 Hugging Face 上推出了全新的「Palmyra-mini」模型系列。該系列主打輕量化與強大效能，並特別強調具備「推理（reasoning）」能力。這使得開發者能在資源受限的環境中，部署具備複雜邏輯思考與問題解決能力的 AI 模型，為邊緣運算與企業應用提供新選擇。
Mass Intelligence★ 85
One Useful Thing (Mollick)277d agoOpinion知名 AI 學者 Ethan Mollick 撰文探討「大眾智能（Mass Intelligence）」的降臨。他指出，AI 正在朝兩極化普及：一方面是如 GPT-5 等具備頂尖推理能力的前沿模型，另一方面是能在個人裝置運行的超輕量本地模型（如 nano banana 等）。這意味著強大的 AI 算力將如同電力般無所不在且廉價，徹底民主化智能的獲取管道。
Arm & ExecuTorch 0.7: Bringing Generative AI to the masses★ 80
Hugging Face Blog293d agoReleaseHugging Face 介紹 Arm 與 PyTorch 團隊在 ExecuTorch 0.7 的最新合作成果。此版本專為 Arm 架構（如手機、AI PC）優化生成式 AI 效能，透過先進的量化技術與核心優化（如 Arm KleidiAI），讓開發者能更輕鬆地在邊緣裝置上部署低延遲、低功耗的輕量化大語言模型。
Neural Super Sampling is here!★ 75
Hugging Face Blog294d agoReleaseArm 與 Hugging Face 合作宣布「Neural Super Sampling (NSS)」技術正式上線。這項技術旨在利用神經網路，在行動裝置與邊緣設備上實現即時的圖像與遊戲畫面超取樣（類似行動版 DLSS）。透過 Hugging Face 平台，開發者現在可以輕鬆獲取優化後的 NSS 模型與工具鏈，大幅提升手遊與 XR 應用的畫面流暢度並降低能耗。
Welcome the NVIDIA Llama Nemotron Nano VLM to Hugging Face Hub★ 75
Hugging Face Blog339d agoReleaseNVIDIA 宣布將其輕量級視覺語言模型 Llama Nemotron Nano VLM 上架至 Hugging Face Hub。該模型結合了 Llama 架構與 NVIDIA 的 Nemotron 優化技術，專為邊緣運算與本機端部署設計。它能在低資源設備上高效執行圖像理解、視覺問答（VQA）與 OCR 等任務，為開發者提供更便利的開源多模態選擇。
Gemma 3n fully available in the open-source ecosystem!★ 80
Hugging Face Blog341d agoReleaseGoogle 最新推出的 Gemma 3n 模型系列已正式在 Hugging Face 開源社群全面上線。此版本針對端側部署（On-device）與高效能推論進行優化，Hugging Face 生態系已提供完整支援。開發者現在可以無縫使用 Transformers、vLLM、TRL 等工具進行部署、推論與微調，為輕量級與邊緣運算 AI 應用提供了全新的強大選擇。
Gemini Robotics On-Device brings AI to local robotic devices★ 85
Google DeepMind Blog343d agoReleaseGoogle DeepMind 宣布推出「Gemini Robotics On-Device」模型。這是一款專為本地（裝置端）運作設計的高效機器人 AI 模型，旨在賦予機器人通用的靈巧操作能力（general-purpose dexterity），並能針對新任務進行快速適應（fast task adaptation），大幅提升邊緣端機器人的自主與反應能力。
Real-Time AI Sound Generation on Arm: A Personal Tool for Creative Freedom
Hugging Face Blog364d agoRelease本文介紹如何在 Arm 架構硬體（如筆電、手機及邊緣設備）上運行即時 AI 聲音生成模型。透過 Hugging Face 與 Arm 的技術優化，創作者現在能以極低延遲在本地端生成音效，無需依賴昂貴的雲端 GPU。這項突破不僅提升了創作隱私，也為離線互動式媒體與遊戲開發開闢了新路徑。
SmolVLA: Efficient Vision-Language-Action Model trained on Lerobot Community Data★ 75
Hugging Face Blog364d agoReleaseHugging Face 發表全新開源模型 SmolVLA，專為具身智能與機器人控制設計。該模型屬於「Smol」輕量化系列，結合視覺、語言與動作（VLA）能力，並完全採用 LeRobot 社群的真實機器人操作數據進行訓練。SmolVLA 的高效能與小體積，讓開發者能在邊緣設備上實現低延遲的機器人視覺決策與控制。
Falcon-Edge: A series of powerful, universal, fine-tunable 1.58bit language models.★ 82
Hugging Face Blog383d agoRelease阿聯酋技術創新研究所（TII）發表 Falcon-Edge 系列模型，採用 1.58-bit（三進制）權重技術。該系列模型不僅體積小、運算速度快且功耗極低，非常適合在手機與筆電等邊緣設備上運行，同時還支援高效的微調，打破了以往極低位元模型難以微調的限制，為本地端 AI 應用帶來全新可能。
SmolVLM2: Bringing Video Understanding to Every Device★ 80
Hugging Face Blog467d agoReleaseHugging Face 正式發布 SmolVLM2 系列模型，專為手機與筆電等個人裝置設計。此版本最大亮點是引入了強大的「影片理解」與「多圖處理」能力，其中 2.2B 旗艦版本在保持極低運算資源消耗的同時，能在多項視覺與影片基準測試中媲美更大尺寸的模型。模型完全開源並採用 Apache 2.0 授權，極具實用價值。
SmolVLM Grows Smaller – Introducing the 256M & 500M Models!★ 75
Hugging Face Blog495d agoReleaseHugging Face 發表了 SmolVLM 家族的最新成員：256M 和 500M 參數的超小型視覺語言模型（VLM）。這兩款模型體積極小，旨在讓多模態 AI 能在手機、物聯網設備或瀏覽器中流暢運行。儘管尺寸迷你，它們在基礎圖像描述與問答任務上仍展現出實用的性能，為邊緣端多模態應用開闢新路徑。
Welcome to the Falcon 3 Family of Open Models!★ 80
Hugging Face Blog532d agoRelease阿布達比技術創新研究所（TII）正式發布 Falcon 3 系列開源模型，提供 1B、3B、7B 及 10B MoE 等多種參數規格。Falcon 3 在多項基準測試中表現優異，其 7B 版本在性能上甚至超越了 Llama 3.1 8B 與 Gemma 2 9B。此系列模型對硬體友善，極適合邊緣運算與本地部署，並已深度整合至 Hugging Face 生態系統。
SmolVLM - small yet mighty Vision Language Model★ 80
Hugging Face Blog553d agoReleaseHugging Face 發表全新輕量級視覺語言模型 SmolVLM（約 2.2B 參數），專為本機與邊緣設備設計。該模型結合了 SigLIP 視覺編碼器與 SmolLM2 語言模型，不僅支援多圖輸入與影片分析，在多項基準測試中更展現出媲美更大尺寸模型的性能。SmolVLM 採 Apache 2.0 開源授權，極低記憶體佔用使其成為開發者在終端裝置部署 VLM 的理想選擇。
“Llama 3.2 in Keras”★ 75
Hugging Face Blog589d agoReleaseHugging Face 與 Keras 團隊宣布 Llama 3.2 模型正式登陸 Keras 生態系。開發者現在可以透過 KerasNLP 輕鬆載入 Llama 3.2 的 1B 與 3B 輕量級模型。得益於 Keras 3 的多後端架構，使用者能自由切換 JAX、PyTorch 或 TensorFlow，並利用 LoRA 等技術進行高效微調與跨平台部署。