Google’s AI search is so broken it can ‘disregard’ what you’re looking for

Google AI Overviews 出現搞笑漏洞，用戶搜尋「disregard」時，AI 會誤當成系統指令而拒絕正常搜尋。

Google 的 AI Overviews 搜尋功能近日被發現一項有趣的漏洞。當用戶在 Google 搜尋輸入「disregard」（忽略）時，AI 搜尋並非提供該單字的定義，而是將其誤判為「忽略先前指令」的系統提示詞（Prompt Injection）。這導致 AI 輸出類似傳統聊天機器人重設後的罐頭回覆，暴露出 Google 在區分「用戶查詢內容」與「系統控制指令」上仍有架構上的缺陷。

摘要由 AI 整理,以原文為準。