Fed up with vibe coders, dev sneaks data-nuking prompt injection into code
Ars Technica AI5d agoIncidentArs Technica reports that a developer frustrated with vibe coders slipped an undisclosed prompt injection into jqwik-related code. The injected text allegedly instructed AI coding agents to delete application output. The incident highlights a new supply-chain risk: source code and project text can become adversarial instructions for agentic coding tools.
The pressure
Simon Willison's Weblog6d agoCommentaryDaniel Stenberg says the curl security team is facing an unprecedented surge of credible, detailed AI-assisted vulnerability reports. Incoming reports are now 4-5 times higher than in 2024 and twice the 2025 rate, averaging more than one per day. The upside is that recent curl vulnerabilities have generally been LOW or MEDIUM severity, with the last HIGH CVE published in October 2023.
Import AI 457: AI stuxnet; cursed Muon optimizer; and positive alignment ★ 78
Import AI (Jack Clark)15d agoCommentary本期 Import AI 深入探討三個前沿議題：首先是「AI 版 Stuxnet」，分析自主 AI 代理如何被用於發動高精準度、具備適應性的網路攻擊；其次剖析近期在開源社群大放異彩的 Muon 優化器，探討其獨特的正交化機制及在實際應用中遇到的「詛咒」與挑戰；最後介紹「積極對齊（Positive Alignment）」概念，呼籲安全研究應從單純的「禁止有害行為」轉向「主動引導 AI 促進人類合作與福祉」。
Create Vercel Firewall rules with natural language★ 70
Vercel Changelog21d agoReleaseVercel 宣布支援使用自然語言來建立 WAF（Web 應用程式防火牆）自訂規則。開發者無需手動撰寫複雜的篩選表達式，只需輸入如「阻擋特定路徑的惡意請求」等日常語言描述，系統便會自動生成對應的防火牆規則。此功能大幅降低了安全配置的門檻，提升了網站防護的部署效率。
Introducing deepsec: The security harness for finding vulnerabilities in your codebase★ 75
Vercel Changelog29d agoReleaseVercel 發表全新安全防護工具「deepsec」，旨在協助開發者在程式碼庫中快速尋找並修復安全漏洞。該工具能無縫整合至 Vercel 的開發與部署流程中，在程式碼進入生產環境前自動進行安全掃描，並提供具體的修復建議，大幅提升 Web 應用的安全性與開發效率。
Zero Data Retention on AI Gateway★ 75
Vercel Changelog55d agoReleaseVercel 宣布為其 AI Gateway 推出「零數據留存 (Zero Data Retention)」功能。此更新確保開發者在透過 Vercel 介接各家 AI 模型時，所有的 Prompt 和 Completion 數據皆不會被 Vercel 伺服器留存。這項安全升級能幫助企業輕鬆符合 GDPR、SOC2 等嚴格的隱私合規標準，消除企業將敏感數據送往 AI 網關時的資安疑慮。
Sandbox SDK adds file permission control
Vercel Changelog74d agoReleaseVercel 宣布為其 Sandbox SDK 推出「檔案權限控制」功能。此更新讓開發者在運行 AI 生成的程式碼或未授權程式碼時，能夠精細設定沙盒環境內的檔案讀取、寫入與執行權限。這項安全升級能有效防止惡意程式碼存取敏感系統檔案，是構建安全 AI Agent 應用的重要里程碑。
Addressing security and quality issues with MCP tools in AI Agent★ 80
Vercel Changelog258d agoNew ToolVercel 推出 `@vercel/mcp-to-ai-sdk`，旨在解決 AI Agent 使用 MCP（Model Context Protocol）工具時的安全與品質隱憂。該工具允許開發者將動態的 MCP 伺服器轉換為靜態的 AI SDK 工具定義，從而在編譯期進行程式碼審查與類型檢查。這不僅提升了 AI 應用的安全性，也確保了工具調用的穩定性與品質。
Improved fake hardware detection with Vercel BotID
Vercel Changelog291d agoReleaseVercel 宣布對其安全防護工具 BotID 進行更新，升級了其「深度分析模型」。本次更新重點在於強化「偽造硬體（Fake Hardware）」的偵測能力，防範惡意機器人透過偽造硬體指紋（如 GPU 或 CPU 資訊）來規避安全檢查。這將有助於開發者更有效地阻擋進階的自動化攻擊，提升應用的安全防禦力。
v0: vibe coding, securely★ 75
Vercel Changelog302d agoReleaseVercel 針對旗下 AI 網頁生成工具 v0 推出安全更新。隨著「氛圍編程（Vibe Coding）」流行，開發者常直接運行 AI 生成的代碼，這帶來了潛在的安全風險。本次更新重點在於提供安全的沙盒執行環境、防範惡意套件注入、以及更安全地管理 API 金鑰與環境變數，讓用戶在快速迭代的同時，無需擔心安全漏洞。
Vercel BotID now available for all frameworks
Vercel Changelog315d agoReleaseVercel 宣布將其強大的機器人識別功能「BotID」推廣至所有前端框架（如 Nuxt、SvelteKit、Astro 等）。BotID 允許開發者在邊緣端（Edge）精準識別來訪的流量是否為機器人（包括 AI 爬蟲、搜尋引擎等），並能針對不同類型的 Bot 進行自訂處理。這項更新讓非 Next.js 的開發者也能輕鬆提升網站安全與流量管理效率。
Building secure AI agents★ 80
Vercel Changelog358d agoTutorial隨著 AI Agent 從單純對話走向自主執行任務，安全挑戰日益嚴峻。Vercel 釋出指南，探討如何透過安全沙盒（如 E2B）隔離程式碼執行、利用 IAM 限制 Agent 權限、防範提示詞注入，以及在關鍵步驟引入「人工確認（Human-in-the-Loop）」機制，幫助開發者在 Vercel 平台上構建兼具功能與安全性的 AI 應用。
New one-click AI bot managed ruleset★ 75
Vercel Changelog385d agoReleaseVercel 發表全新的「一鍵式 AI 機器人託管規則集」。此功能讓部署在 Vercel 上的網站擁有者，能透過簡單的一鍵設定，有效管理或阻擋來自各大 AI 廠商（如 OpenAI、Anthropic 等）的 AI 爬蟲與機器人，保護網站內容不被未授權抓取，並節省伺服器頻寬與資源。
The rise of the AI crawler★ 75
Vercel Changelog532d agoCommentary隨著 AI 搜尋與 LLM 的普及，AI 爬蟲（如 GPTBot、ClaudeBot）的流量在 2024 年呈現爆發式成長。這不僅帶來了伺服器成本上升與資料被無償抓取的隱憂，也改變了傳統的 SEO 遊戲規則。Vercel 在本文中深入分析了這股趨勢，並分享開發者如何透過 robots.txt、Vercel 防火牆與 Edge Middleware 來有效監控、限制或阻擋這些 AI 爬蟲，在保護網站資產與獲取 AI 搜尋曝光之間取得平衡。
Hugging Face partners with TruffleHog to Scan for Secrets★ 70
Hugging Face Blog636d agoReleaseHugging Face 與開源安全掃描工具 TruffleHog 的開發商 Truffle Security 達成合作。此項合作旨在自動掃描 Hugging Face 平台上的所有儲存庫（包括模型、數據集和 Spaces），以偵測並清除不小心上傳的敏感憑證與 API 金鑰。這項主動防禦機制將大幅提升 AI 開源社群的資安防護水準，避免開發者因疏忽而造成重大損失。
Running Privacy-Preserving Inferences on Hugging Face Endpoints★ 75
Hugging Face Blog777d agoReleaseHugging Face 與開源密碼學公司 Zama 合作，介紹如何在 Hugging Face Endpoints 上部署全同態加密（FHE）模型。透過 FHE 技術，用戶的敏感數據在傳輸與計算過程中皆保持加密狀態，雲端伺服器可在不解密的情況下完成推理。此方案為醫療、金融等高隱私需求行業提供了一種安全使用雲端 AI 算力的新途徑。
AI Watermarking 101: Tools and Techniques★ 75
Hugging Face Blog827d agoTutorial隨著 AI 生成內容爆發，如何識別「AI 製造」成為關鍵。Hugging Face 發布的這篇指南深入探討了 AI 水印技術，涵蓋文字生成（如透過調整 Token 機率分佈的綠名單機制）與影像生成（如 Stable Signature 等隱形潛在空間水印）。文章不僅介紹了現有的開源工具，也客觀分析了水印技術在對抗剪裁、改寫等攻擊時的魯棒性限制與未來挑戰。
Towards Encrypted Large Language Models with FHE★ 75
Hugging Face Blog1035d agoTutorialHugging Face 與密碼學安全公司 Zama 合作，發表了利用全同態加密（FHE）運行大語言模型（LLM）的技術方案。該技術允許用戶將加密的 Prompt 發送到雲端，雲端模型在完全不解密的情況下進行推論並返回加密結果，確保數據隱私。雖然目前面臨運算延遲高與需要極低位元量化等挑戰，但這為金融與醫療等高隱私需求領域開闢了全新可能。
Creating Privacy Preserving AI with Substra
Hugging Face Blog1147d agoNew ToolOwkin 開源的聯邦學習框架 Substra 已託管於 LF AI & Data 基金會。該框架允許開發者在分散且不公開的數據集上協同訓練 AI 模型，特別適合醫療等高隱私需求領域。本文介紹如何結合 Substra 與 Hugging Face 生態系，實現可追溯、安全且合規的隱私保護機器學習。