Hackers are learning to exploit chatbot ‘personalities’ for security exploits★ 72
The Verge AI9d agoEthicsAs AI chatbots adopt increasingly sophisticated personas, hackers are shifting from basic prompt injections to social engineering attacks targeting these "personalities." Researchers warn that manipulating a chatbot's defined role (e.g., customer service or empathetic companion) makes it easier to bypass safety guardrails. This evolution poses a significant threat to agentic AI workflows that rely on consistent role-playing and external data integration.
datasette-ip-rate-limit 0.1a0
Simon Willison's Weblog19d agoRelease由於 datasette.io 網站遭受惡意爬蟲頻繁騷擾，開發者 Simon Willison 藉由 Codex (GPT-5.5 xhigh) 協同開發了一款可設定的 IP 速率限制外掛 datasette-ip-rate-limit。該外掛支援自訂 IP 標頭、排除特定路徑，並能針對特定路徑設定時間視窗、最大請求數與封鎖時間，目前已釋出 0.1a0 測試版本。
How to build scalable web apps with OpenAI's Privacy Filter★ 75
Hugging Face Blog36d agoTutorialHugging Face 釋出最新指南，探討如何利用 OpenAI 的 Privacy Filter 建立安全且具擴展性的 Web 應用。文章深入分析了隱私過濾器在處理個人識別資訊（PII）與企業敏感數據時的角色，並提供結合 Hugging Face 生態系與後端架構的實作建議，幫助開發者在兼顧隱私合規與系統效能的前提下進行大規模部署。
Agent responsibly★ 75
Vercel Changelog64d agoOpinionVercel 針對日益普及的 AI Agent 開發提出「Agent responsibly」倡議。文章聚焦於開發者在部署 Agent 時面臨的挑戰，包括無限循環、高昂成本、安全漏洞（如提示詞注入）以及用戶隱私問題。Vercel 結合其 AI SDK 與平台特性，提供了防護欄（Guardrails）、速率限制、可觀測性等實用解決方案，幫助開發者構建既強大又安全的 Agent 應用。
Import AI 441: My agents are working. Are yours? ★ 75
Import AI (Jack Clark)134d agoCommentary在本期 Import AI 中，Jack Clark 探討了 AI Agent 的實用化轉折點，分享他如何將 Agent 融入日常工作流，指出 Agent 已從「玩具」走向「實用工具」。此外，本期也介紹了一項安全研究「毒泉（Poison Fountain）」，展示了攻擊者如何透過持續注入惡意數據，污染 AI 系統的長期記憶與檢索機制，對當前日益普及的 Agent 安全性敲響警鐘。
The three types of AI bot traffic and how to handle them★ 75
Vercel Changelog293d agoTutorialVercel 官方部落格分析了當前網站面臨的三種主要 AI 機器人（Bot）流量：用於模型訓練的「訓練爬蟲」、用於即時生成回答的「搜尋引擎」，以及代表用戶執行任務的「AI 代理人」。這三者對網站的價值與頻寬消耗各不相同。文章指導開發者如何利用 robots.txt、Vercel 防火牆（Firewall）與 Edge Middleware，針對不同類型的 AI 流量進行精準的允許、限制或阻擋，以在保護智慧財產權與獲取搜尋流量之間取得平衡。
The rise of the AI crawler★ 75
Vercel Changelog532d agoCommentary隨著 AI 搜尋與 LLM 的普及，AI 爬蟲（如 GPTBot、ClaudeBot）的流量在 2024 年呈現爆發式成長。這不僅帶來了伺服器成本上升與資料被無償抓取的隱憂，也改變了傳統的 SEO 遊戲規則。Vercel 在本文中深入分析了這股趨勢，並分享開發者如何透過 robots.txt、Vercel 防火牆與 Edge Middleware 來有效監控、限制或阻擋這些 AI 爬蟲，在保護網站資產與獲取 AI 搜尋曝光之間取得平衡。