🔥 Trending today
Gemma Scope 2: helping the AI safety community deepen understanding of complex language model behavior★ 75
Google DeepMind Blog168d agoReleaseGoogle DeepMind 宣布推出 Gemma Scope 2，這是一套專為全新 Gemma 3 模型家族設計的稀疏自編碼器（SAE）工具包。Gemma Scope 2 旨在提供強大的「可解釋性」工具，讓研究人員能夠深入剖析模型內部的神經元激活狀態與決策邏輯。此舉將大幅降低 AI 安全與機制可解釋性（Mechanistic Interpretability）研究的門檻，協助社群理解複雜語言模型的行為。
Google releases Gemma 2 2B, ShieldGemma and Gemma Scope★ 85
Hugging Face Blog671d agoReleaseGoogle 宣布推出 Gemma 家族新成員：僅有 2.6B 參數但性能強悍的 Gemma 2 2B 輕量模型；專為過濾有害內容設計的安全分類器 ShieldGemma（提供 2B、9B、27B 版本）；以及包含逾 400 個稀疏自編碼器的 Gemma Scope，為 AI 領域提供前所未有的模型內部決策「可解釋性」研究工具。