Hackers are learning to exploit chatbot ‘personalities’ for security exploits★ 72
The Verge AI9d agoEthicsAs AI chatbots adopt increasingly sophisticated personas, hackers are shifting from basic prompt injections to social engineering attacks targeting these "personalities." Researchers warn that manipulating a chatbot's defined role (e.g., customer service or empathetic companion) makes it easier to bypass safety guardrails. This evolution poses a significant threat to agentic AI workflows that rely on consistent role-playing and external data integration.
Google I/O, Gemini Spark, Antigravity★ 75
Simon Willison's Weblog13d agoCommentaryGoogle 於 I/O 2026 發表對標 OpenClaw 的個人 AI 代理「Gemini Spark」，能原生串接 Gmail、雲端硬碟等服務。該代理運行於 Gemini 3.5 Flash 與全新「Antigravity」架構上。然而，Google 同時宣布將開源的 Gemini CLI 轉向閉源的 Antigravity CLI，且代理在處理敏感數據時的安全防護（如提示詞注入風險）仍面臨考驗。
Introducing CodeMender: an AI agent for code security★ 82
Google DeepMind Blog221d agoReleaseGoogle DeepMind 發表全新 AI Agent「CodeMender」，旨在解決軟體安全中的關鍵漏洞修復難題。CodeMender 不僅能自動偵測程式碼中的安全漏洞，還能主動生成修復補丁並進行驗證。這項技術結合了先進的大型語言模型與自動化測試，大幅提升了軟體開發生命週期中的安全性與修復效率。
VaultGemma: The world's most capable differentially private LLM★ 80
Google DeepMind Blog222d agoReleaseGoogle DeepMind 發表了 VaultGemma，這是全球首款從頭開始（from scratch）使用差分隱私（Differential Privacy, DP）技術訓練的高性能大語言模型。透過嚴格的數學隱私保證，VaultGemma 能有效防止訓練數據洩露與敏感資訊記憶，同時在多項基準測試中保持極高的實用性，為醫療、金融等高隱私需求領域帶來全新突破。