The Verge found TikTok, Instagram, and Facebook accounts using AI-generated Black women and other marginalized personas to sell dropshipped products. The videos frame mass-produced goods as handmade small-business items and use tears, racial identity, and hardship narratives to drive engagement. Researchers describe the pattern as digital blackface and empathy bait, enabled by short-form platforms, weak labeling, and widely available generative AI ad workflows.
隨著生成式 AI 的普及,許多人開始利用 AI 大量產出漏洞報告,導致企業的漏洞賞金計劃(Bug Bounty)正遭受無窮無盡的「AI 垃圾(AI slop)」轟炸。這些報告充斥著虛假資訊與幻覺,迫使安全團隊花費大量時間進行過濾,嚴重拖慢了真正關鍵漏洞的修復進度。
知名學術預印本平台 arXiv 宣布新政策,針對提交 AI 生成之「垃圾內容(slop)」與「幻覺(hallucinations)」的作者實施嚴厲懲罰。根據 arXiv 社群媒體上板主的說明,違規者將被處以「禁投一年」的處罰。此舉旨在維護學術研究的真實性與品質,防堵日益氾濫的 AI 劣質學術寫作對科研生態造成的破壞。