美國國家運輸安全委員會(NTSB)依法不得公開空難調查中的駕駛艙語音記錄(CVR)音檔,以保護隱私。然而,近期有網路用戶利用公開的調查文字紀錄與 AI 語音複製技術,重新模擬並還原了罹難飛行員在墜機前的最後對話。此舉引發了嚴重的倫理與法律爭議,美國當局正緊急尋求對策,以阻止這種利用技術漏洞規避法律限制的行為。
Hugging Face 發布 2023 夏季倫理與社會簡報,重點介紹其團隊前往華盛頓特區向美國國會倡導開源 AI 與開放科學價值的經歷。簡報同時涵蓋了 AI 問責制、歐盟 AI 法案的政策回應,以及在模型卡片(Model Cards)、資料集透明度與環境影響評估等技術倫理工具上的最新研究進展。
本期 Hugging Face 倫理與社會電子報聚焦於文字生成圖像(Text-to-Image)模型的偏見。文章指出,這些模型在生成職業、社會角色等圖像時,常顯露出嚴重的性別與種族刻板印象。這源於訓練數據中不均衡的代表性,Hugging Face 呼籲社群透過開發評估工具與推動數據透明化來共同應對此挑戰。
Hugging Face 在第三期《倫理與社會簡報》中深入探討了「倫理開放性(Ethical Openness)」的概念。他們強調開源 AI 不應是毫無限制的釋出,而需在促進科學協作與防範技術濫用之間取得平衡。文章介紹了 Hugging Face 如何透過「閘門式模型(Gated Models)」、負責任 AI 授權條款(RAIL)以及社群檢舉機制,在實踐開放科學的同時降低潛在風險。
Hugging Face 針對旗下熱門的 Diffusers 函式庫發布倫理指南,探討開源生成式圖像模型帶來的社會影響。指南重點涵蓋偏見緩解、安全過濾器(如 NSFW 偵測)、隱形浮水印技術,以及推動負責任的授權條款(如 OpenRAIL)。此舉旨在為開源社群提供一個在促進技術創新與防範惡意濫用之間取得平衡的實踐框架。
Hugging Face 針對美國「國家 AI 研究資源(NAIRR)」中期報告提交官方反饋。其核心訴求包括:大力支持開源 AI 與開放科學、推動運算與數據資源的民主化分配以扶植中小型研究機構,以及建立完善的模型與數據集文件規範(如 Model Cards)。此舉旨在確保國家級 AI 資源能真正惠及大眾,而非僅由少數科技巨頭壟斷。
Hugging Face 發布針對多模態 AI 研究的倫理憲章。該憲章強調「價值敏感設計」,主張在資料治理、模型訓練、評估與釋出的每個階段皆須融入倫理考量。此舉旨在推動更具包容性、透明且負責任的開源 AI 協作生態,為全球研究人員在開發結合文字、影像與語音的多模態模型時,提供具體的道德指引與實踐框架。