AI warfare is already here★ 72
The Verge AI7d agoEthicsThe article opens at UN talks in Geneva, where lethal autonomous systems were still largely discussed as future hypotheticals in 2017. It argues that military AI is no longer a distant “killer robot” scenario but an active governance challenge. The key questions now concern meaningful human control, accountability, and whether international rules can keep up with battlefield deployment.
US scrambles to stop Internet users re-creating dead pilots’ voices★ 75
Ars Technica AI10d agoIncident美國國家運輸安全委員會（NTSB）依法不得公開空難調查中的駕駛艙語音記錄（CVR）音檔，以保護隱私。然而，近期有網路用戶利用公開的調查文字紀錄與 AI 語音複製技術，重新模擬並還原了罹難飛行員在墜機前的最後對話。此舉引發了嚴重的倫理與法律爭議，美國當局正緊急尋求對策，以阻止這種利用技術漏洞規避法律限制的行為。
Trump abruptly cancels EO signing event after top AI firm CEOs declined to go★ 75
Ars Technica AI11d agoBusiness根據外媒報導，美國總統川普突然取消了一項關於 AI 安全測試行政命令（EO）的簽署儀式。起因是多家頂尖 AI 公司的執行長拒絕出席該活動。在遭到科技界冷落後，川普隨後延遲了該行政命令的發布，並改口宣稱這項安全測試規範將會成為 AI 技術發展的「創新阻礙」。此舉反映出政府監管政策與科技巨頭之間的緊張關係。
Trump delays AI security executive order, saying language ‘could have been a blocker’★ 80
TechCrunch AI12d agoBusiness美國總統川普延後簽署一項關鍵的 AI 安全行政命令。該命令原定要求 AI 開發商在發布新模型前，必須先通過政府的安全審查。川普表示，他對該命令目前的文字表述感到不滿，擔心這些條款可能會成為 AI 技術領先與創新的阻礙，因此決定暫緩簽署以進行調整。
Claude Mythos and misguided open-weight fearmongering★ 75
Interconnects (Nathan L.)53d agoOpinion本文探討了 AI 領域中圍繞 Anthropic Claude 所建立的「安全神話」，以及輿論對開源權重（open-weight）模型安全性的過度恐慌。作者 Nathan Lambert 指出，這種將開源模型視為重大威脅的論調缺乏實質依據，往往只是閉源陣營或特定政策倡導者重複上演的「開源恐懼之舞」。他呼籲大眾與決策者應理性看待開源的實際風險與巨大價值，避免因不理性的恐懼而扼殺創新。
Dean Ball on open models and government control ★ 75
Interconnects (Nathan L.)88d agoCommentary本文探討政策專家 Dean Ball 對於「Anthropic 訴 戰爭部（DoW）」一案的觀察。他指出，這場涉及國家安全與 AI 技術控制的法律戰，其判決與和解過程將釋放微妙的先例信號。這些信號不僅影響封閉原始碼巨頭，更會直接衝擊開源模型的生存空間，若政府以國安為由限制模型權重，將對整個開源生態帶來嚴重的監管效應。
Open Responses: What you need to know★ 75
Hugging Face Blog138d agoOpinionHugging Face 發布「Open Responses」專題，整理其向全球政府機構（如美、歐監管單位）提交的政策諮詢回應。文章深入探討開源 AI 面臨的監管挑戰、版權爭議與安全評估，並說明這些政策將如何形塑未來的 AI 開發環境，呼籲社群共同關注與參與。
Import AI 440: Red queen AI; AI regulating AI; o-ring automation ★ 75
Import AI (Jack Clark)141d agoOpinion知名 AI 政策專家 Jack Clark 在最新一期電子報中提出三個核心觀點：首先是「紅皇后 AI」，指出 AI 的攻防與演化正陷入不斷奔跑才能維持原狀的競爭；其次是「AI 監管 AI」，隨著 AI 產出速度超越人類極限，未來必須依賴 AI 進行自動化合規與監管；最後是「O型環自動化」，探討在高度自動化的工作流中，最脆弱的單一環節將決定整個系統的成敗。
Deepening our partnership with the UK AI Security Institute★ 75
Google DeepMind Blog173d agoBusinessGoogle DeepMind 宣布加強與英國 AI 安全研究所（UK AISI）的合作關係。雙方將針對前沿 AI 模型的安全評估、風險緩解及安全研究展開更緊密的協作。此舉旨在建立更完善的 AI 安全標準，確保未來強大 AI 系統的開發與部署符合安全規範。
AI Policy @🤗: Response to the White House AI Action Plan RFI
Hugging Face Blog440d agoOpinionHugging Face 針對美國白宮的 AI 行動計畫徵求意見稿（RFI）提交了官方回應。其核心訴求圍繞在保護與推廣「開源 AI」與「開放科學」。Hugging Face 強調，開放源碼不僅能加速技術創新、防止科技巨頭壟斷，更能透過社群的集體審查提升 AI 的安全性與透明度，呼籲政府在制定政策時應避免扼殺開源生態。
AI Policy @🤗: Open ML Considerations in the EU AI Act★ 72
Hugging Face Blog1044d agoOpinion隨著歐盟《AI 法案》進入立法關鍵期，Hugging Face 發表政策倡議，探討法案對開源機器學習（Open ML）的潛在衝擊。文章強調開源在提升 AI 安全性與透明度上的關鍵作用，呼籲立法者應區分商業部署與非商業研究，避免對開源開發者與託管平台施加不切實際的合規負擔，以維護歐洲的創新活力。
AI Policy @🤗: Response to the U.S. NTIA's Request for Comment on AI Accountability
Hugging Face Blog1078d agoOpinionHugging Face 針對美國國家電信和資訊管理局（NTIA）的 AI 問責制徵求意見書提交了官方回應。HF 主張，開放科學與開源生態系對於 AI 的安全與問責至關重要，能促進外部審計與研究。他們建議推廣 Model Cards 等標準化文件，並呼籲建立因地制宜、分擔責任的監管框架，避免對開源創新造成過度限制。
Hugging Face Selected for the French Data Protection Agency Enhanced Support Program
Hugging Face Blog1114d agoBusiness法國資料保護監管機構 CNIL 宣布將 Hugging Face 納入其「加強支援計劃」。該計劃旨在協助具備系統重要性的數位創新企業符合 GDPR 規範。雙方將密切合作，針對開源 AI 模型訓練、數據集隱私及開源社群的合規性，共同探索並建立具體的最佳實踐指南。