Notes from inside China's AI labs★ 75
Interconnects (Nathan L.)26d agoCommentary知名 AI 專家 Nathan Lambert 親自走訪中國多家領先的 AI 實驗室（如 DeepSeek、智譜 AI、零一萬物等），分享第一手觀察。他指出，面對美國嚴苛的晶片制裁，中國實驗室展現出驚人的系統級工程與架構優化能力，並以極低成本推動開源模型（如 Qwen 與 DeepSeek）的快速迭代。然而，嚴格的政府監管審查與對即時商業變現的焦慮，也形塑了與矽谷截然不同的 AI 發展生態。
vLLM V0 to V1: Correctness Before Corrections in RL★ 75
Hugging Face Blog27d agoOpinionServiceNow AI 發表專文探討 vLLM V0 到 V1 的架構演進。文章指出，在進行大語言模型（LLM）的強化學習（RL）訓練時，底層推理引擎（如 vLLM）的精確度與穩定性至關重要。過去在 V0 版本中，微小的推理偏差或不確定性常導致 RL 訓練難以收斂，迫使研究員進行無謂的演算法修正；而 vLLM V1 透過重構底層，實現了「正確性優先」的設計，大幅提升了 RL 訓練的效率與可預測性。
Adding Benchmaxxer Repellant to the Open ASR Leaderboard★ 75
Hugging Face Blog27d agoReleaseHugging Face 宣布為其 Open ASR（自動語音識別）排行榜引入「Benchmaxxer 驅逐劑」。此舉旨在解決模型開發者針對公開基準測試集進行過度優化（即「刷榜」）的問題。通過引入未公開的私有評估數據集，該排行榜將能更真實地反映 ASR 模型在實際應用中的泛化能力，防止虛高的排名誤導社群。
The distillation panic★ 75
Interconnects (Nathan L.)29d agoOpinion近期 AI 業界出現將「知識蒸餾（Distillation）」稱為「蒸餾攻擊（Distillation attacks）」的趨勢。 這反映了閉源模型廠商（如 OpenAI、Anthropic）面對開源模型透過合成數據快速追趕時的焦慮。 作者 Nathan Lambert 指出，將這種行之有年的機器學習技術與商業競爭行為「安全化（securitize）」，試圖將其塑造成惡意網路攻擊，是非常糟糕且誤導的術語，旨在為法律訴訟或技術封鎖鋪路。
Granite 4.1 LLMs: How They’re Built★ 75
Hugging Face Blog34d agoRelease本文深入探討 IBM 最新開源的 Granite 4.1 大語言模型家族。詳細介紹了其從數據清洗、模型架構設計（如優化的 Transformer 結構）到指令微調與安全對齊的完整構建流程。Granite 4.1 延續了 IBM 對於企業級安全與 Apache 2.0 開源協議的承諾，並在代碼生成、工具調用及多語言推理上展現出優異性能。
DeepInfra on Hugging Face Inference Providers 🔥★ 72
Hugging Face Blog34d agoReleaseHugging Face 宣布將知名低成本、高效能的推理平台 DeepInfra 整合至其「推理服務商（Inference Providers）」計畫中。現在，開發者在 Hugging Face Hub 上瀏覽開源模型（如 Llama 3、Mistral 等）時，可以直接選擇 DeepInfra 作為後端託管 API，無需自行架設 GPU 基礎設施。這項合作為開發者提供了更多元、更具性價比的無伺服器（Serverless）推理選擇，進一步簡化了 AI 應用的部署流程。
Introducing NVIDIA Nemotron 3 Nano Omni: Long-Context Multimodal Intelligence for Documents, Audio and Video Agents★ 75
Hugging Face Blog35d agoReleaseNVIDIA 推出全新輕量級多模態模型 Nemotron 3 Nano Omni，主打「長文本」與「多模態」處理能力。該模型專為文件分析、語音與影片理解的 AI Agent 所設計，能在資源受限的設備上運行。這標誌著邊緣端（On-device）多模態 Agent 應用的重大突破。
2026 Vercel AI Accelerator recap
Vercel Changelog35d agoBusinessVercel 發表了 2026 年 AI 加速器（AI Accelerator）的官方回顧。本屆計劃聚焦於協助早期 AI 新創將創意轉化為生產級應用，重點展示了多個在 AI Agent、多模態互動及邊緣運算領域取得突破的團隊。文章總結了入選項目的技術亮點，並強調了 Vercel AI SDK 與 Next.js 在現代 AI 開發堆疊中的核心地位。
DeepSeek-V4: a million-token context that agents can actually use★ 85
Hugging Face Blog39d agoReleaseHugging Face 介紹全新 DeepSeek-V4 模型，具備 100 萬 Token 的超長上下文能力。不同於以往流於形式的長文本模型，DeepSeek-V4 專為 Agent 設計，在長文本召回率與指令遵循上表現優異。本文探討其技術突破、在 Hugging Face 生態系的部署方式，以及如何實際應用於複雜的 Agent 工作流中。
How to Use Transformers.js in a Chrome Extension★ 75
Hugging Face Blog40d agoTutorial本文介紹如何將 Hugging Face 的 Transformers.js 整合至 Chrome 擴充功能（Manifest V3）中。內容涵蓋在 Service Worker 與 Offscreen Document 中執行模型的架構設計，並說明如何利用 WebGPU 加速運算。這讓開發者能在不依賴外部 API 的情況下，於瀏覽器本地端實現文本分類、翻譯與圖像識別等 AI 功能。
QIMMA قِمّة ⛰: A Quality-First Arabic LLM Leaderboard
Hugging Face Blog42d agoRelease阿聯酋技術創新研究所（TII）在 Hugging Face 上推出了名為「QIMMA」（阿拉伯語意為「山頂」）的全新阿拉伯語 LLM 排行榜。該排行榜主打「品質優先」，旨在解決現有阿拉伯語評估基準中常見的翻譯失真與缺乏方言代表性等問題。QIMMA 透過更嚴格、更貼近在地文化的評測標準，為阿拉伯語 AI 模型的開發提供更具公信力的衡量指標。
AI and the Future of Cybersecurity: Why Openness Matters★ 75
Hugging Face Blog42d agoOpinionHugging Face 探討 AI 時代的網路安全，指出「隱晦安全」已無法應對現代威脅。文章強調開放模型與開源協作能讓全球研究人員共同審查漏洞、提升防禦彈性，並防止安全技術被少數巨頭壟斷。開放性才是建立安全、可信賴 AI 生態系的基石。
Reading today's open-closed performance gap★ 75
Interconnects (Nathan L.)43d agoOpinion本文探討了比較開源（如 Llama）與閉源（如 GPT、Claude）模型時，過度依賴單一評估指標（如 MMLU 或 Arena Elo）的盲點。作者指出，基準測試受提示詞敏感度、測試集污染及後訓練（Post-training）策略影響極大。未來，隨著推理期計算（Inference-time compute）與 Agent 應用的興起，評估模型性能的維度將發生根本性轉變。
Import AI 454: Automating alignment research; safety study of a Chinese model; HiFloat4 ★ 75
Import AI (Jack Clark)43d agoCommentary本期電子報涵蓋三大核心議題：首先是利用 AI 自動化進行對齊（Alignment）研究的可能性與挑戰；其次是一項針對中國大語言模型的安全與合規性深入研究，揭示其在特定政治與文化框架下的表現；最後介紹了旨在提升推理效率的全新 4 位元浮點格式 HiFloat4。此外，作者也提出了關於金融市場何時會開始為「科技奇點」進行定價的深刻思考。
The PR you would have opened yourself★ 80
Hugging Face Blog47d agoReleaseHugging Face 發表最新技術部落格，介紹了將 transformers 模型無縫轉換至 Apple MLX 框架的全新整合。這項被譽為「你自己也會想開的 PR」的更新，解決了過去 Mac 開發者在 Apple Silicon 上部署與微調開源模型時的繁瑣步驟。透過此整合，開發者能直接利用 MLX 的統一記憶體優勢，在 Mac 上實現極致的推理與訓練效能。
Training and Finetuning Multimodal Embedding & Reranker Models with Sentence Transformers★ 80
Hugging Face Blog47d agoTutorialHugging Face 發布最新指南，展示如何利用 Sentence Transformers 框架進行多模態嵌入與 Reranker 模型的訓練與微調。此更新簡化了將文字與影像對齊至同一向量空間的流程，並支援雙塔（Bi-Encoder）與交叉編碼器（Cross-Encoder）架構。這對於建構多模態 RAG（檢索增強生成）系統與跨模態搜尋引擎的開發者來說，提供了極低門檻的實作路徑。
My bets on open models, mid-2026★ 75
Interconnects (Nathan L.)48d agoOpinion知名 AI 學者 Nathan Lambert 針對 2026 年年中的開源模型發展提出預測。他指出，開源與閉源模型之間的差距（Open-Closed Gap）正從「基礎預訓練能力」轉移到「推理期計算（Inference-time compute）」與「代理（Agent）可靠性」。雖然 Meta 的 Llama 4 等開源模型將持續逼近閉源旗艦，但閉源廠商憑藉龐大算力與專有強化學習（RL）架構，在複雜多步驟任務上仍將保持領先。
How to make remarkable videos with Seedance 2.0★ 70
Replicate Blog48d agoTutorialReplicate 介紹了全新影片生成模型 Seedance 2.0 的使用指南。該模型大幅降低了影片生成的技術門檻，讓從未接觸過 AI 影片創作的用戶也能輕鬆上手。文章強調現在是體驗 AI 影片創作的最佳時機，並展示了如何利用該模型生成具備高度視覺張力與連貫性的影片。
What I’ve been building: ATOM Report, post-training course, finishing my book, and ongoing research★ 70
Interconnects (Nathan L.)49d agoRelease知名 AI 專家 Nathan Lambert 分享了近期四大專案：專注於對齊與開源模型的「ATOM Report」、系統化的「Post-Training（後訓練）」線上實戰課程、即將完稿的 AI 對齊專業書籍，以及持續進行的 LLM 評估與偏好微調研究。這些計畫旨在為開發者與研究人員填補後訓練技術的知識鴻溝。
The inevitable need for an open model consortium★ 75
Interconnects (Nathan L.)52d agoOpinion知名 AI 譯評家 Nathan Lambert 撰文指出，當前開源 AI 生態高度依賴 Meta（如 Llama 系列）等單一巨頭的補貼，這存在極大的單點故障風險。隨著前沿模型訓練成本飆升至數億美元，單一新創或學術機構已無力負擔。因此，儘管「聯盟（Consortium）」通常伴隨著官僚與低效，但為了整合政府、科技企業與學術界的算力與資金，建立一個「開源模型聯盟」已是維持開源 AI 競爭力、對抗閉源寡頭壟斷的唯一且必然之路。
Claude Mythos and misguided open-weight fearmongering★ 75
Interconnects (Nathan L.)53d agoOpinion本文探討了 AI 領域中圍繞 Anthropic Claude 所建立的「安全神話」，以及輿論對開源權重（open-weight）模型安全性的過度恐慌。作者 Nathan Lambert 指出，這種將開源模型視為重大威脅的論調缺乏實質依據，往往只是閉源陣營或特定政策倡導者重複上演的「開源恐懼之舞」。他呼籲大眾與決策者應理性看待開源的實際風險與巨大價值，避免因不理性的恐懼而扼殺創新。
Multimodal Embedding & Reranker Models with Sentence Transformers★ 78
Hugging Face Blog54d agoReleaseHugging Face 宣布其熱門開源庫 Sentence Transformers 正式支援多模態（Multimodal）嵌入與重排（Reranker）模型。開發者現在可以使用統一的 API 同時處理文本與影像，將它們映射到相同的向量空間中。這項更新大幅降低了建構多模態 RAG、圖文搜尋與跨模態推薦系統的門檻。
Waypoint-1.5: Higher-Fidelity Interactive Worlds for Everyday GPUs★ 75
Hugging Face Blog54d agoReleaseHugging Face 發表 Waypoint-1.5，這是一款專為消費級 GPU 優化的互動式世界模擬器。相較於前代，它在提升視覺與物理保真度的同時，大幅降低了硬體門檻。這讓研究人員與開發者能在單張家用顯示卡上，高效進行具身智能（Embodied AI）與強化學習代理的訓練，加速 AI 與物理世界互動的研究。
Gemma 4 and what makes an open model succeed★ 75
Interconnects (Nathan L.)60d agoCommentary隨著 Google 推出 Gemma 4，業界再次聚焦於「如何定義開源模型的成功」。Nathan Lambert 指出，單純追求基準測試（Benchmark）的高分已無法保證模型的普及。開源模型的真正成功，取決於其開發者生態系的接納度、微調的易用性、硬體適配度以及實際應用場景的落地，而非僅僅是學術榜單上的排名。
Gemma 4: Byte for byte, the most capable open models★ 85
Google DeepMind Blog61d agoReleaseGoogle DeepMind 正式發表全新開源模型 Gemma 4。官方宣稱其為「同等參數規模下最強大的開源模型」，在智慧表現上達到新高度。該系列模型特別針對進階推理與自主 Agent 工作流進行優化，為開發者提供更高效、更具性價比的開源 AI 選擇。
Gemma 4 on AI Gateway★ 70
Vercel Changelog61d agoReleaseVercel 宣布其 AI Gateway 服務已正式支援 Google 的新一代開源模型 Gemma 4。這項更新讓開發者能夠透過單一、統一的 API 介面，輕鬆將 Gemma 4 整合至其應用程式中。同時，開發者還能直接享有 Vercel AI Gateway 提供的效能監控、請求快取、速率限制以及成本分析等強大功能，大幅簡化了開源模型的部署與管理流程。
Welcome Gemma 4: Frontier multimodal intelligence on device★ 85
Hugging Face Blog61d agoReleaseGoogle 正式推出 Gemma 4 開放模型家族，將前沿的多模態智能帶入裝置端。Gemma 4 體積輕量、適合在手機與筆電運行，並具備強大的視覺與文字理解能力。Hugging Face 已在第一時間提供完整支援，開發者可立即透過 Transformers 進行微調與部署。
Falcon Perception★ 75
Hugging Face Blog62d agoRelease阿聯酋技術創新研究所（TII）在 Hugging Face 上發表了「Falcon Perception」模型。這標誌著著名的 Falcon 開源家族正式擴展至多模態與視覺感知領域。該模型旨在提升開源社群在視覺問答、圖像理解及多模態任務上的能力，延續了 TII 一貫的高效能與開源精神，為開發者提供強大的視覺感知工具。
Any Custom Frontend with Gradio's Backend★ 78
Hugging Face Blog62d agoReleaseHugging Face 旗下的 Gradio 宣布重大更新，允許開發者將 Gradio 單獨作為後端服務（Gradio Server）。開發者將不再受限於 Gradio 預設的 UI 組件，可自由使用 React、Vue、Svelte 或原生 JS 打造完全客製化的前端，同時保留 Gradio 內建的狀態管理、請求佇列、串流（Streaming）等強大後端優勢，大幅提升 AI 應用的開發彈性。
Granite 4.0 3B Vision: Compact Multimodal Intelligence for Enterprise Documents★ 75
Hugging Face Blog63d agoReleaseIBM 於 Hugging Face 發布全新 Granite 4.0 3B Vision 模型。這款僅有 30 億參數的輕量級多模態模型，專為企業級文件理解、圖表分析與 OCR 數據提取而設計。其小巧的體積不僅大幅降低了部署門檻與運算成本，更在處理複雜商業報表與 PDF 文件時展現出極高的實用性，是企業本地化部署的理想選擇。