Hackers Asked Meta AI for Access to High-Profile Instagram Accounts. It Worked★ 78
Simon Willison's Weblog22h agoIncidentSimon Willison highlights a 404 Media report about hackers taking over Instagram accounts through Meta's AI support bot. A video reportedly shows an attacker asking the bot to link a target account to a new email address and providing a code. Willison argues this barely qualifies as prompt injection: the core failure was granting a support bot enough authority to fast-forward the account recovery process.
Hackers duped Meta AI support chatbot to steal celebrity Instagram accounts
Ars Technica AI22h agoIncidentHackers duped a Meta AI support chatbot into granting access to notable or valuable Instagram accounts. Some handles were stolen and resold before Meta patched the exploit. The supplied excerpt does not disclose the attack method, the number of affected accounts, the timeline, or Meta's remediation steps beyond patching the issue.
Protecting against token theft
Vercel Changelog4d agoTutorialVercel published a post titled “Protecting against token theft,” focused on token security risks and protection. The article body was not provided, so its scope, affected products, attack scenarios, and recommended mitigations cannot be confirmed. Readers should consult the original Vercel page before taking action or attributing specific guidance to the company.
The pressure
Simon Willison's Weblog6d agoCommentaryDaniel Stenberg says the curl security team is facing an unprecedented surge of credible, detailed AI-assisted vulnerability reports. Incoming reports are now 4-5 times higher than in 2024 and twice the 2025 rate, averaging more than one per day. The upside is that recent curl vulnerabilities have generally been LOW or MEDIUM severity, with the last HIGH CVE published in October 2023.
Hackers are learning to exploit chatbot ‘personalities’ for security exploits★ 72
The Verge AI9d agoEthicsAs AI chatbots adopt increasingly sophisticated personas, hackers are shifting from basic prompt injections to social engineering attacks targeting these "personalities." Researchers warn that manipulating a chatbot's defined role (e.g., customer service or empathetic companion) makes it easier to bypass safety guardrails. This evolution poses a significant threat to agentic AI workflows that rely on consistent role-playing and external data integration.
Google I/O, Gemini Spark, Antigravity★ 75
Simon Willison's Weblog13d agoCommentaryGoogle 於 I/O 2026 發表對標 OpenClaw 的個人 AI 代理「Gemini Spark」，能原生串接 Gmail、雲端硬碟等服務。該代理運行於 Gemini 3.5 Flash 與全新「Antigravity」架構上。然而，Google 同時宣布將開源的 Gemini CLI 轉向閉源的 Antigravity CLI，且代理在處理敏感數據時的安全防護（如提示詞注入風險）仍面臨考驗。
Import AI 457: AI stuxnet; cursed Muon optimizer; and positive alignment ★ 78
Import AI (Jack Clark)15d agoCommentary本期 Import AI 深入探討三個前沿議題：首先是「AI 版 Stuxnet」，分析自主 AI 代理如何被用於發動高精準度、具備適應性的網路攻擊；其次剖析近期在開源社群大放異彩的 Muon 優化器，探討其獨特的正交化機制及在實際應用中遇到的「詛咒」與挑戰；最後介紹「積極對齊（Positive Alignment）」概念，呼籲安全研究應從單純的「禁止有害行為」轉向「主動引導 AI 促進人類合作與福祉」。
Bug bounty businesses bombarded with AI slop★ 70
Ars Technica AI15d agoIncident隨著生成式 AI 的普及，許多人開始利用 AI 大量產出漏洞報告，導致企業的漏洞賞金計劃（Bug Bounty）正遭受無窮無盡的「AI 垃圾（AI slop）」轟炸。這些報告充斥著虛假資訊與幻覺，迫使安全團隊花費大量時間進行過濾，嚴重拖慢了真正關鍵漏洞的修復進度。
GDS weighs in on the NHS's decision to retreat from Open Source
Simon Willison's Weblog16d agoCommentary英國國民保健署（NHS）因「Project Glasswing」回報的 AI 安全漏洞，決定關閉其開源程式庫。對此，英國政府數位服務局（GDS）罕見公開介入，發布指引強調公共部門應「預設保持開源」，指出將程式碼私有化會增加成本並減少外部監督。專家指出，這代表英國政府內部對於開源與安全政策產生了嚴重的公開分歧。
Automated security audits now available for skills.sh
Vercel Changelog105d agoReleaseVercel 於 Changelog 宣布，正式為 skills.sh 啟用自動化安全審計功能。此舉旨在自動偵測並修復潛在的安全漏洞，確保開發者在該平台上學習與互動時的程式碼與資料安全，這也是 Vercel 持續強化其平台生態系安全防護的一環。
Import AI 441: My agents are working. Are yours? ★ 75
Import AI (Jack Clark)134d agoCommentary在本期 Import AI 中，Jack Clark 探討了 AI Agent 的實用化轉折點，分享他如何將 Agent 融入日常工作流，指出 Agent 已從「玩具」走向「實用工具」。此外，本期也介紹了一項安全研究「毒泉（Poison Fountain）」，展示了攻擊者如何透過持續注入惡意數據，污染 AI 系統的長期記憶與檢索機制，對當前日益普及的 Agent 安全性敲響警鐘。
Our $1 million hacker challenge for React2Shell★ 75
Vercel Changelog165d agoReleaseVercel 推出高達 100 萬美元的「React2Shell」黑客挑戰賽。該活動旨在測試其沙箱環境的安全性，挑戰者若能成功從 React 執行環境突破限制並取得底層 Shell 控制權（即 RCE 遠端代碼執行），即可獲得巨額賞金。這展現了 Vercel 對其託管與 AI 生成代碼預覽環境安全性的極高信心。
Vercel achieves TISAX AL2 compliance to serve automotive partners
Vercel Changelog216d agoBusinessVercel 官方宣布已正式取得 TISAX（可信資訊安全評估交換）AL2 評估等級認證。TISAX 是全球汽車產業公認的資訊安全標準，此認證代表 Vercel 的平台安全與隱私防護達到汽車供應鏈的嚴格要求。這將使 Vercel 能夠順利為汽車製造商及相關供應商提供安全的前端託管與開發服務。
Vercel achieves TISAX AL2
Vercel Changelog216d agoBusinessVercel 宣布已正式取得 TISAX（受信資訊安全評估交換）的 Assessment Level 2 (AL2) 認證。TISAX 是歐洲汽車工業（特別是德國車廠）所公認的嚴格資訊安全標準。此項認證證明 Vercel 在資料保護與資訊安全上達到汽車產業的高規格要求，將使全球汽車製造商及其供應鏈夥伴能更安心地在 Vercel 上部署與運行其數位化 Web 應用程式。
Hugging Face and VirusTotal collaborate to strengthen AI security★ 75
Hugging Face Blog223d agoReleaseHugging Face 與知名安全平台 VirusTotal 展開合作，旨在提升開源 AI 生態系的安全性。雙方將針對託管在 Hugging Face 上的模型進行深度安全掃描，特別是防範利用 PyTorch pickle 格式等漏洞傳播的惡意代碼。此舉將幫助開發者更安全地下載與部署開源模型，降低供應鏈攻擊風險。
Talha Tariq joins Vercel as CTO of Security
Vercel Changelog230d agoBusinessVercel 宣布任命前 HashiCorp 資訊安全長 Talha Tariq 為首任安全技術長（CTO of Security）。隨著 Vercel 逐漸成為企業級前端與 AI 應用的首選平台，此舉顯示其對雲端安全與合規性的高度重視。Tariq 將領導 Vercel 的安全策略，確保全球開發者在構建與部署時擁有最堅實的安全防護。
Expanded Role-Based Access Control (RBAC) for Enterprise teams
Vercel Changelog235d agoReleaseVercel 針對 Enterprise 企業團隊推出了擴展的角色型存取控制（RBAC）功能。此更新允許企業管理員針對個別專案、環境變數、網域設定及生產環境部署進行更細粒度的權限控制。透過更靈活的角色分配與自定義權限，企業能有效落實最小權限原則，確保開發流程的安全與合規。
SAML SSO is now available to Pro teams
Vercel Changelog280d agoReleaseVercel 正式宣布將原先僅限於 Enterprise 企業方案的 SAML SSO（單一登入）功能，全面開放給 Pro 團隊使用。這項更新讓中小型團隊與新創公司能夠以更低的門檻，整合 Okta、Microsoft Entra ID 等身份驗證服務。此舉大幅提升了 Pro 方案的安全管理便利性，免去了以往為了安全合規而必須負擔高昂企業版授權費用的痛點。
The three types of AI bot traffic and how to handle them★ 75
Vercel Changelog293d agoTutorialVercel 官方部落格分析了當前網站面臨的三種主要 AI 機器人（Bot）流量：用於模型訓練的「訓練爬蟲」、用於即時生成回答的「搜尋引擎」，以及代表用戶執行任務的「AI 代理人」。這三者對網站的價值與頻寬消耗各不相同。文章指導開發者如何利用 robots.txt、Vercel 防火牆（Firewall）與 Edge Middleware，針對不同類型的 AI 流量進行精準的允許、限制或阻擋，以在保護智慧財產權與獲取搜尋流量之間取得平衡。
v0: vibe coding, securely★ 75
Vercel Changelog302d agoReleaseVercel 針對旗下 AI 網頁生成工具 v0 推出安全更新。隨著「氛圍編程（Vibe Coding）」流行，開發者常直接運行 AI 生成的代碼，這帶來了潛在的安全風險。本次更新重點在於提供安全的沙盒執行環境、防範惡意套件注入、以及更安全地管理 API 金鑰與環境變數，讓用戶在快速迭代的同時，無需擔心安全漏洞。
Vercel BotID is now generally available★ 75
Vercel Changelog342d agoReleaseVercel 宣布其機器人識別服務「Vercel BotID」正式進入全面開放（GA）階段。此功能運作於 Vercel 邊緣網路，能自動分析並分類傳入的請求，精準識別出 AI 訓練爬蟲、搜尋引擎、社交媒體抓取工具及惡意機器人。開發者可藉此在邊緣端直接阻擋未授權的 AI 爬蟲以保護原創內容，並有效降低無伺服器運算成本。
Bot Protection is now in public beta
Vercel Changelog405d agoReleaseVercel 推出 Bot Protection 公測版，旨在保護部署於 Vercel 的網站免受惡意機器人、自動化攻擊及無節制 AI 爬蟲的侵害。此功能在 Edge 端進行即時流量分析，無須複雜設定即可啟用，能有效降低伺服器負載並防止敏感資料被竊取。對於使用 Vercel 部署應用的開發者與企業來說，這是一項提升安全性的重要更新。
Bot Protection: One-click managed ruleset now in public beta
Vercel Changelog405d agoReleaseVercel 宣布其「Bot Protection（Bot 防護）」的一鍵式託管規則集已進入公開測試階段。開發者只需在控制台中一鍵啟用，即可利用 Vercel 託管的規則自動識別並攔截惡意 Bot、網路爬蟲及自動化攻擊。此功能旨在簡化安全設定，降低網站被惡意刷流量或爬取資料的風險，同時確保合法搜尋引擎爬蟲的正常存取，並能有效節約 Serverless 運算成本。
Protectd: Evolving Vercel’s always-on denial-of-service mitigations★ 75
Vercel Changelog421d agoReleaseVercel 推出名為「Protectd」的全新常駐型阻斷服務（DoS）防禦系統。該系統部署於 Vercel 的全球邊緣網路，能自動且即時地識別並過濾惡意流量（如 L7 應用層攻擊），無需用戶手動干預。此升級旨在保護開發者的 Serverless 應用免受惡意攻擊，同時避免因攻擊流量導致的異常帳單費用，並確保合法用戶的連線延遲不受影響。
Hugging Face and JFrog partner to make AI Security more transparent★ 70
Hugging Face Blog455d agoBusinessHugging Face 與軟體供應鏈安全領導廠商 JFrog 展開戰略合作。雙方將整合 Hugging Face 的開源模型生態系與 JFrog 的安全平台，讓企業在引進 AI 模型時能進行自動化漏洞掃描與惡意代碼檢測。此舉旨在解決 AI 供應鏈中的安全隱憂，讓 AI 開發流程更加透明且符合企業合規要求。
Upgraded PCI DSS version 3.2.1 to 4.0
Vercel Changelog503d agoReleaseVercel 官方發布更新，其基礎設施的安全合規標準已成功從 PCI DSS 3.2.1 升級至最新的 4.0 版本。這項升級代表 Vercel 在處理信用卡與支付相關數據時，符合更嚴格的國際安全規範。對於在 Vercel 上建構電商平台、SaaS 服務或任何涉及金流處理的開發者而言，這能顯著降低自身的合規成本並提升應用的安全性。
The rise of the AI crawler★ 75
Vercel Changelog532d agoCommentary隨著 AI 搜尋與 LLM 的普及，AI 爬蟲（如 GPTBot、ClaudeBot）的流量在 2024 年呈現爆發式成長。這不僅帶來了伺服器成本上升與資料被無償抓取的隱憂，也改變了傳統的 SEO 遊戲規則。Vercel 在本文中深入分析了這股趨勢，並分享開發者如何透過 robots.txt、Vercel 防火牆與 Edge Middleware 來有效監控、限制或阻擋這些 AI 爬蟲，在保護網站資產與獲取 AI 搜尋曝光之間取得平衡。
Hugging Face Teams Up with Protect AI: Enhancing Model Security for the ML Community★ 75
Hugging Face Blog588d agoBusinessHugging Face 宣布與 AI 安全領導廠商 Protect AI 展開合作，旨在提升開源機器學習（ML）社群的模型安全性。雙方將共同應對日益嚴重的開源模型安全威脅，如惡意代碼注入與反序列化漏洞。透過整合先進的安全掃描技術，此合作將幫助開發者在 Hugging Face Hub 上更安全地分享與下載模型，降低供應鏈安全風險。
Hugging Face partners with TruffleHog to Scan for Secrets★ 70
Hugging Face Blog636d agoReleaseHugging Face 與開源安全掃描工具 TruffleHog 的開發商 Truffle Security 達成合作。此項合作旨在自動掃描 Hugging Face 平台上的所有儲存庫（包括模型、數據集和 Spaces），以偵測並清除不小心上傳的敏感憑證與 API 金鑰。這項主動防禦機制將大幅提升 AI 開源社群的資安防護水準，避免開發者因疏忽而造成重大損失。
2024 Security Feature Highlights★ 75
Hugging Face Blog665d agoReleaseHugging Face 發布 2024 年安全功能亮點，展示其在保護開源 AI 生態系上的多項努力。平台引入了自動化惡意軟體與 Safetensors 安全掃描、敏感金鑰（Secrets）偵測，並與 Sigstore 合作推出模型加密簽章。此外，也強化了細粒度存取權限（Scoped Tokens）與多因素驗證（MFA），為開發者與企業提供更安全可靠的模型託管環境。