NVIDIA Cosmos 3: An Open Omni-model for Physical AI Reasoning and Action
Hugging Face Blog1d agoReleaseHugging Face Blog announces NVIDIA Cosmos 3, described as the first open omni-model for Physical AI reasoning and action. The title indicates a focus on AI systems that interact with physical-world scenarios rather than only text generation. Because the article body was not provided, its architecture, supported modalities, license, downloadable assets, benchmarks, and deployment requirements cannot be verified from the available material.
Mastering Long Contexts in LLMs with KVPress★ 75
Hugging Face Blog495d agoNew Tool隨著大語言模型（LLM）處理的上下文長度不斷增加，KV Cache（鍵值快取）已成為記憶體與推理速度的主要瓶頸。NVIDIA 與 Hugging Face 合作推出了開源庫 KVPress，旨在簡化各種 KV Cache 壓縮技術的實現與評估。KVPress 提供統一的 API，支援多種剪枝與壓縮策略，能有效降低長文本推理時的硬體門檻，並與 Hugging Face transformers 生態系無縫整合。
Controlling Language Model Generation with NVIDIA's LogitsProcessorZoo★ 75
Hugging Face Blog526d agoNew ToolNVIDIA 與 Hugging Face 合作介紹 LogitsProcessorZoo，這是一個專為控制大語言模型（LLM）生成行為而設計的工具庫。透過在 Token 生成階段直接干預 Logits（未歸一化的機率值），開發者能輕鬆實現 JSON 結構化輸出、正則表達式約束及自定義解碼策略。該工具與 Hugging Face Transformers 深度整合，大幅提升了生成內容的可靠性與安全性。
Easily Train Models with H100 GPUs on NVIDIA DGX Cloud★ 75
Hugging Face Blog806d agoReleaseHugging Face 宣布與 NVIDIA 深度整合，將 DGX Cloud 的強大算力直接引入平台。開發者現在可以輕鬆調用 NVIDIA H100 GPU 來訓練與微調大型語言模型，無需自行管理複雜的底層基礎設施。這項合作大幅降低了獲取頂級 AI 算力的門檻，加速了企業與研究人員的模型開發流程。