根據外媒報導,美國總統川普突然取消了一項關於 AI 安全測試行政命令(EO)的簽署儀式。起因是多家頂尖 AI 公司的執行長拒絕出席該活動。在遭到科技界冷落後,川普隨後延遲了該行政命令的發布,並改口宣稱這項安全測試規範將會成為 AI 技術發展的「創新阻礙」。此舉反映出政府監管政策與科技巨頭之間的緊張關係。
美國總統川普延後簽署一項關鍵的 AI 安全行政命令。該命令原定要求 AI 開發商在發布新模型前,必須先通過政府的安全審查。川普表示,他對該命令目前的文字表述感到不滿,擔心這些條款可能會成為 AI 技術領先與創新的阻礙,因此決定暫緩簽署以進行調整。
Hugging Face 探討 AI 時代的網路安全,指出「隱晦安全」已無法應對現代威脅。文章強調開放模型與開源協作能讓全球研究人員共同審查漏洞、提升防禦彈性,並防止安全技術被少數巨頭壟斷。開放性才是建立安全、可信賴 AI 生態系的基石。
本文探討了 AI 領域中圍繞 Anthropic Claude 所建立的「安全神話」,以及輿論對開源權重(open-weight)模型安全性的過度恐慌。作者 Nathan Lambert 指出,這種將開源模型視為重大威脅的論調缺乏實質依據,往往只是閉源陣營或特定政策倡導者重複上演的「開源恐懼之舞」。他呼籲大眾與決策者應理性看待開源的實際風險與巨大價值,避免因不理性的恐懼而扼殺創新。
本文探討政策專家 Dean Ball 對於「Anthropic 訴 戰爭部(DoW)」一案的觀察。他指出,這場涉及國家安全與 AI 技術控制的法律戰,其判決與和解過程將釋放微妙的先例信號。這些信號不僅影響封閉原始碼巨頭,更會直接衝擊開源模型的生存空間,若政府以國安為由限制模型權重,將對整個開源生態帶來嚴重的監管效應。
Hugging Face 發布「Open Responses」專題,整理其向全球政府機構(如美、歐監管單位)提交的政策諮詢回應。文章深入探討開源 AI 面臨的監管挑戰、版權爭議與安全評估,並說明這些政策將如何形塑未來的 AI 開發環境,呼籲社群共同關注與參與。
歐盟《AI 法案》(EU AI Act)已正式生效,Hugging Face 針對開源社群推出實用指南。文章釐清了開源模型在何種情況下可享有豁免(如釋出權重與架構),並指出當模型運算量超過 10^25 FLOPs 或被用於高風險領域時,開發者仍需承擔合規義務。此指南旨在幫助開源開發者在推動創新的同時,避免觸犯法律紅線。
Hugging Face 發布 2023 夏季倫理與社會簡報,重點介紹其團隊前往華盛頓特區向美國國會倡導開源 AI 與開放科學價值的經歷。簡報同時涵蓋了 AI 問責制、歐盟 AI 法案的政策回應,以及在模型卡片(Model Cards)、資料集透明度與環境影響評估等技術倫理工具上的最新研究進展。
Hugging Face 宣布更新其「內容指南與政策」,旨在為開源 AI 社群建立更安全、透明的環境。新政策明確禁止仇恨言論、惡意軟體、非自願性色情及旨在產生有害內容的模型。此外,官方也優化了社群檢舉流程與侵權(DMCA)處理機制,以確保平台上的模型與數據集符合安全合規標準。