QIMMA قِمّة ⛰: A Quality-First Arabic LLM Leaderboard
Hugging Face Blog42d agoRelease阿聯酋技術創新研究所（TII）在 Hugging Face 上推出了名為「QIMMA」（阿拉伯語意為「山頂」）的全新阿拉伯語 LLM 排行榜。該排行榜主打「品質優先」，旨在解決現有阿拉伯語評估基準中常見的翻譯失真與缺乏方言代表性等問題。QIMMA 透過更嚴格、更貼近在地文化的評測標準，為阿拉伯語 AI 模型的開發提供更具公信力的衡量指標。
IBM and UC Berkeley Diagnose Why Enterprise Agents Fail Using IT-Bench and MAST★ 80
Hugging Face Blog104d agoReleaseIBM 研究中心與柏克萊加州大學（UC Berkeley）合作發表了 IT-Bench 基準測試與 MAST 診斷框架。IT-Bench 模擬了真實的企業 IT 運維環境，而 MAST 則專門用來剖析 AI Agent 在執行多步驟任務時失敗的深層原因。研究指出，企業級 Agent 的失敗往往源於工具調用錯誤、狀態追蹤失效及錯誤累積，而非單純的 LLM 能力不足，這為未來 AIOps 的優化提供了明確方向。
AssetOpsBench: Bridging the Gap Between AI Agent Benchmarks and Industrial Reality★ 75
Hugging Face Blog132d agoReleaseIBM Research 在 Hugging Face 上推出了 AssetOpsBench 互動遊樂場。這是一項專門針對工業資產營運（AssetOps）設計的 AI Agent 基準測試，旨在解決現有評估工具偏重軟體工程或網頁瀏覽，而缺乏工業實際場景的問題。它評估 Agent 在面對複雜工業手冊、感測器數據及企業資產管理系統時的規劃、工具調用與推理能力。
FACTS Benchmark Suite: Systematically evaluating the factuality of large language models★ 80
Google DeepMind Blog175d agoReleaseGoogle DeepMind 發表全新的 FACTS 基準測試套件，專門用於系統化評估大型語言模型（LLM）的真實性。該套件解決了現有評估方法不夠全面或難以標準化的痛點，透過多維度的測試集與自動化評估指標，幫助研究人員與開發者精確量化模型的「幻覺」程度。這對於提升 AI 在高風險領域（如醫療、法律、金融）的實用性與信任度具有重要意義。
Measuring Open-Source Llama Nemotron Models on DeepResearch Bench★ 80
Hugging Face Blog301d agoReleaseNVIDIA 在 Hugging Face 部落格分享了其開源且可移植的深度研究 Agent 成果。透過在 DeepResearch Bench 基準測試上評估開源的 Llama Nemotron 模型，該系統展現出極佳的研究與推理能力。此研究證明了開源模型在複雜、多步驟的研究任務中，已具備與閉源頂尖模型競爭的實力，為開發者提供了一個強大且可本地部署的 Deep Research 解決方案。
Back to The Future: Evaluating AI Agents on Predicting Future Events★ 75
Hugging Face Blog320d agoReleaseHugging Face 發表全新基準測試「FutureBench」，旨在評估 AI Agent 在預測未來事件（如地緣政治、金融市場及科技趨勢）上的表現。該測試挑戰了 Agent 的資訊檢索、機率推理與時間推理能力，有效避免了傳統基準測試中常見的資料洩漏問題。評估結果顯示，目前的 AI Agent 在面對未知的未來事件時，預測準確度與人類專家仍有顯著差距。
Introducing HELMET: Holistically Evaluating Long-context Language Models★ 80
Hugging Face Blog412d agoReleaseHugging Face 介紹了由普林斯頓大學等機構提出的 HELMET 基準測試，旨在解決現有長文本評估（如 Needle In A Haystack）過於單一的問題。HELMET 包含 7 大類、11 個真實應用數據集，涵蓋長文本問答、摘要、資訊檢索與程式碼生成等。測試結果顯示，許多宣稱擁有超長上下文的模型，在實際複雜任務中的有效性能會隨著長度增加而顯著衰退。
Letting Large Models Debate: The First Multilingual LLM Debate Competition★ 75
Hugging Face Blog559d agoRelease本文介紹了首屆多語言大型語言模型（LLM）辯論賽。傳統的靜態評估方法（如多選題）已難以衡量模型的深層推理與說服力，因此研究人員設計了讓模型針對特定議題進行多輪多語言辯論的機制。透過這種動態對抗，不僅能更精準地評估模型在非英語環境下的邏輯一致性，也為 LLM 的安全性和對齊（Alignment）提供了全新的評估維度。
Introducing the Open FinLLM Leaderboard★ 75
Hugging Face Blog606d agoReleaseHugging Face 宣布推出「Open FinLLM Leaderboard」，這是一個專為金融領域大語言模型（FinLLMs）設計的開源評測排行榜。該排行榜旨在解決通用評測基準無法準確反映金融專業能力的問題，透過多維度的金融數據集（如情感分析、關係抽取、金融問答等）來評估模型。這為金融機構與研究人員在選擇、微調和部署金融 AI 模型時，提供了一個透明且標準化的參考依據。
TTS Arena: Benchmarking Text-to-Speech Models in the Wild★ 75
Hugging Face Blog826d agoNew ToolHugging Face 發表全新語音模型評測平台「TTS Arena」。該平台借鑑了 LMSYS Chatbot Arena 的群眾外包盲測機制，讓使用者聆聽兩段由不同匿名 TTS 模型生成的語音並進行投票。透過 Elo 評分系統，TTS Arena 旨在解決傳統客觀指標無法準確反映人類聽覺偏好的痛點，建立一個客觀且動態的語音合成模型排行榜。
Introducing the Enterprise Scenarios Leaderboard: a Leaderboard for Real World Use Cases★ 75
Hugging Face Blog853d agoReleaseHugging Face 與 AI 評測新創 Patronus AI 合作，推出全新的「企業情境排行榜」（Enterprise Scenarios Leaderboard）。此排行榜旨在解決傳統學術基準（如 MMLU）與實際企業應用脫節的問題。評測涵蓋金融分析（如 SEC 申報文件）、法律合約理解、客戶服務以及隱私資訊（PII）防範等真實場景，為企業選擇最適合的 LLM 提供客觀的實戰數據參考。