QIMMA قِمّة ⛰: A Quality-First Arabic LLM Leaderboard
Hugging Face Blog42d agoRelease阿聯酋技術創新研究所（TII）在 Hugging Face 上推出了名為「QIMMA」（阿拉伯語意為「山頂」）的全新阿拉伯語 LLM 排行榜。該排行榜主打「品質優先」，旨在解決現有阿拉伯語評估基準中常見的翻譯失真與缺乏方言代表性等問題。QIMMA 透過更嚴格、更貼近在地文化的評測標準，為阿拉伯語 AI 模型的開發提供更具公信力的衡量指標。
Reading today's open-closed performance gap★ 75
Interconnects (Nathan L.)43d agoOpinion本文探討了比較開源（如 Llama）與閉源（如 GPT、Claude）模型時，過度依賴單一評估指標（如 MMLU 或 Arena Elo）的盲點。作者指出，基準測試受提示詞敏感度、測試集污染及後訓練（Post-training）策略影響極大。未來，隨著推理期計算（Inference-time compute）與 Agent 應用的興起，評估模型性能的維度將發生根本性轉變。
Measuring progress toward AGI: A cognitive framework★ 85
Google DeepMind Blog77d agoReleaseGoogle DeepMind 宣布推出一套用於衡量通用人工智慧（AGI）進展的「認知框架」，旨在解決傳統靜態基準測試容易因數據污染而失效的問題。該框架專注於評估系統的底層認知能力（如推理、規劃與學習）。同時，DeepMind 也在 Kaggle 上啟動了黑客松，邀請全球開發者與研究人員共同設計更具韌性、能真實反映 AGI 進程的評估工具。
Import AI 446: Nuclear LLMs; China's big AI benchmark; measurement and AI policy★ 75
Import AI (Jack Clark)99d agoCommentary本期 Import AI 探討了三個核心議題：首先是「核能 LLM」在能源與專業領域的應用與安全挑戰；其次是中國最新推出的國家級 AI 基準測試，展現其在評估本土模型上的野心；最後探討了 AI 評估與政策制定之間的關係，強調精確測量對監管的重要性。
Opus 4.6, Codex 5.3, and the post-benchmark era★ 80
Interconnects (Nathan L.)113d agoOpinion本文探討在 2026 年面對 Opus 4.6 與 Codex 5.3 等頂尖模型時，傳統靜態基準測試（如 MMLU）已完全失效。AI 評估正式進入「後基準時代」，重點轉向評估模型在複雜、多步驟的代理人任務（Agentic tasks）中的實際表現。未來，評估將更依賴動態環境、人類反饋與客製化的工作流模擬，而非單一的分數指標。
AssetOpsBench: Bridging the Gap Between AI Agent Benchmarks and Industrial Reality★ 75
Hugging Face Blog132d agoReleaseIBM Research 在 Hugging Face 上推出了 AssetOpsBench 互動遊樂場。這是一項專門針對工業資產營運（AssetOps）設計的 AI Agent 基準測試，旨在解決現有評估工具偏重軟體工程或網頁瀏覽，而缺乏工業實際場景的問題。它評估 Agent 在面對複雜工業手冊、感測器數據及企業資產管理系統時的規劃、工具調用與推理能力。
FACTS Benchmark Suite: Systematically evaluating the factuality of large language models★ 80
Google DeepMind Blog175d agoReleaseGoogle DeepMind 發表全新的 FACTS 基準測試套件，專門用於系統化評估大型語言模型（LLM）的真實性。該套件解決了現有評估方法不夠全面或難以標準化的痛點，透過多維度的測試集與自動化評估指標，幫助研究人員與開發者精確量化模型的「幻覺」程度。這對於提升 AI 在高風險領域（如醫療、法律、金融）的實用性與信任度具有重要意義。
Giving your AI a Job Interview★ 80
One Useful Thing (Mollick)202d agoOpinion隨著 AI 提供的決策與建議在工作中變得越來越重要，傳統的簡單測試已不足以評估其極限。華頓商學院教授 Ethan Mollick 指出，我們需要透過結構化的「工作面試」流程，包含情境問答、極限測試與邏輯追問，來評估 AI 在特定任務中的真實實力、潛在偏見與幻覺機率，從而決定如何安全地與其協作。
Back to The Future: Evaluating AI Agents on Predicting Future Events★ 75
Hugging Face Blog320d agoReleaseHugging Face 發表全新基準測試「FutureBench」，旨在評估 AI Agent 在預測未來事件（如地緣政治、金融市場及科技趨勢）上的表現。該測試挑戰了 Agent 的資訊檢索、機率推理與時間推理能力，有效避免了傳統基準測試中常見的資料洩漏問題。評估結果顯示，目前的 AI Agent 在面對未知的未來事件時，預測準確度與人類專家仍有顯著差距。
Introducing HELMET: Holistically Evaluating Long-context Language Models★ 80
Hugging Face Blog412d agoReleaseHugging Face 介紹了由普林斯頓大學等機構提出的 HELMET 基準測試，旨在解決現有長文本評估（如 Needle In A Haystack）過於單一的問題。HELMET 包含 7 大類、11 個真實應用數據集，涵蓋長文本問答、摘要、資訊檢索與程式碼生成等。測試結果顯示，許多宣稱擁有超長上下文的模型，在實際複雜任務中的有效性能會隨著長度增加而顯著衰退。
Letting Large Models Debate: The First Multilingual LLM Debate Competition★ 75
Hugging Face Blog559d agoRelease本文介紹了首屆多語言大型語言模型（LLM）辯論賽。傳統的靜態評估方法（如多選題）已難以衡量模型的深層推理與說服力，因此研究人員設計了讓模型針對特定議題進行多輪多語言辯論的機制。透過這種動態對抗，不僅能更精準地評估模型在非英語環境下的邏輯一致性，也為 LLM 的安全性和對齊（Alignment）提供了全新的評估維度。
Introducing the Open FinLLM Leaderboard★ 75
Hugging Face Blog606d agoReleaseHugging Face 宣布推出「Open FinLLM Leaderboard」，這是一個專為金融領域大語言模型（FinLLMs）設計的開源評測排行榜。該排行榜旨在解決通用評測基準無法準確反映金融專業能力的問題，透過多維度的金融數據集（如情感分析、關係抽取、金融問答等）來評估模型。這為金融機構與研究人員在選擇、微調和部署金融 AI 模型時，提供了一個透明且標準化的參考依據。
Launching the Artificial Analysis Text to Image Leaderboard & Arena★ 75
Hugging Face Blog726d agoNew ToolHugging Face 宣布與 Artificial Analysis 合作推出「文字生成圖片排行榜與競技場」（Text to Image Leaderboard & Arena）。該平台結合了類似 LMSYS 的人類盲測對決（Arena Elo 評分）以及客觀的效能指標（如生成速度與成本）。這為開發者與創作者提供了一個透明、標準化的基準，用以評估與比較市面上主流的開源與閉源圖像生成模型。
Introducing the Open Ko-LLM Leaderboard: Leading the Korean LLM Evaluation Ecosystem
Hugging Face Blog833d agoReleaseHugging Face 與韓國 AI 獨角獸 Upstage 合作推出「Open Ko-LLM 排行榜」，旨在解決韓語模型缺乏統一評估標準的問題。該排行榜基於開源社群力量，提供客觀的韓語 LLM 性能評比，涵蓋理解力、推理力及常識等多維度指標。此舉將大幅推動韓國本土開源 AI 生態系的發展，並為非英語系國家的 LLM 評估樹立新典範。
Introducing the Enterprise Scenarios Leaderboard: a Leaderboard for Real World Use Cases★ 75
Hugging Face Blog853d agoReleaseHugging Face 與 AI 評測新創 Patronus AI 合作，推出全新的「企業情境排行榜」（Enterprise Scenarios Leaderboard）。此排行榜旨在解決傳統學術基準（如 MMLU）與實際企業應用脫節的問題。評測涵蓋金融分析（如 SEC 申報文件）、法律合約理解、客戶服務以及隱私資訊（PII）防範等真實場景，為企業選擇最適合的 LLM 提供客觀的實戰數據參考。
The Hallucinations Leaderboard, an Open Effort to Measure Hallucinations in Large Language Models★ 75
Hugging Face Blog855d agoReleaseHugging Face 推出全新的「幻覺排行榜」（Hallucinations Leaderboard），這是一項旨在量化評估大型語言模型（LLM）幻覺程度的開源計畫。該排行榜主要評估模型在處理檢索增強生成（RAG）和文本摘要等任務時，產生不實資訊的機率。透過提供公開透明的評測標準，幫助開發者在建構應用時選擇最不易出錯、最可靠的模型。
An Introduction to AI Secure LLM Safety Leaderboard★ 75
Hugging Face Blog858d agoReleaseHugging Face 與學術團隊合作推出了全新的「AI Secure LLM 安全排行榜」（基於 DecodingTrust 評估框架）。該排行榜旨在填補現有 LLM 評測偏重「能力」而忽略「安全」的空白，從毒性、刻板印象偏見、對抗強健性、隱私保護及機器倫理等 8 大安全維度，對主流開源與閉源模型進行系統性評測，為開發者提供更全面的模型安全選擇依據。