Google rolls out fake call detection to fight AI deepfake impersonation scams
TechCrunch AI2h agoReleaseGoogle is rolling out fake call detection to address AI deepfake impersonation scams. As people increasingly avoid unknown callers, scammers are spoofing trusted phone numbers to bypass that caution. They are also using AI deepfake technology to sound like authority figures, relatives, or employers, making fraudulent calls harder to identify from caller ID or voice alone.
Google’s new anything-to-anything AI model is wild★ 85
The Verge AI10d agoReleaseGoogle 發表了全新的「任意對任意（anything-to-anything）」AI 模型 Gemini Omni。外媒記者實測將其用於將小孩的毛絨鹿玩具「Buddy」合成到各種度假場景中，發現其生成效果極其逼真且操作簡單。這款模型不僅展現了強大的多模態影片生成與編輯能力，同時也再度引發了關於深偽（Deepfake）技術門檻降低與倫理界線的討論。
Google's SynthID AI watermarking tech is being adopted by OpenAI, Nvidia, and more★ 85
Ars Technica AI14d agoBusinessGoogle 開發的 AI 水印技術 SynthID 迎來重大突破，宣布獲得 OpenAI、NVIDIA 等多家科技巨頭採用。隨著 AI 生成的文字、影像與影音擬真度大幅提升，如何辨識真偽成為關鍵挑戰。此舉標誌著各大 AI 領導廠商在內容溯源與安全防護上達成罕見共識，有望建立統一的 AI 生成內容識別標準。
Voice Cloning with Consent★ 75
Hugging Face Blog217d agoNew ToolHugging Face 發表全新的「Voice Consent Gate」安全機制，旨在解決語音複製技術帶來的深偽（Deepfake）與盜用風險。該機制要求用戶在複製語音前，必須錄製一段特定的動態聲明以驗證身份與授權意願。這項開源工具將幫助開發者輕鬆在應用中整合語音授權驗證，推動更負責任的 AI 語音技術發展。
SynthID Detector — a new portal to help identify AI-generated content★ 80
Google DeepMind Blog378d agoNew ToolGoogle 在 I/O 大會上宣布推出「SynthID Detector」全新入口網站。該平台旨在幫助使用者辨識在網路上看到的內容是否由 AI 生成。透過整合 Google DeepMind 的 SynthID 隱形浮水印技術，此工具提供了一個直觀且公開的管道，讓大眾能更透明地了解數位內容的來源與真實性。