Pope Leo XIV Releases AI Encyclical "Magnifica Humanitas" on Human Dignity and Ethics★ 75
Simon Willison's Weblog7d agoEthicsThe Vatican released Pope Leo XIV’s encyclical "Magnifica Humanitas," offering a profound ethical framework for the AI era. Drawing parallels to the 19th-century Industrial Revolution, the Pope highlights that modern AI is "cultivated" rather than "built," leaving its inner workings largely opaque. The document warns against cultural biases, simulated human relationships, and the heavy environmental toll of AI infrastructure.
The Pope's AI Encyclical Is More About Power Than Technology
TechCrunch AI8d agoCommentaryPope Leo XIV's inaugural encyclical addresses artificial intelligence not merely as a technological shift, but as a lens to critique systemic global issues. The document warns against the extreme concentration of power and wealth within a small tech elite. Ultimately, it frames AI as a threat to democratic institutions and human agency when left unchecked by moral governance.
Pope Leo XIV Issues Encyclical 'Magnifica Humanitas' Warning of AI Risks
The Verge AI8d agoEthicsPope Leo XIV has issued his first major papal document, "Magnifica Humanitas," focusing on safeguarding humanity in the age of AI. The manifesto warns against the dangers of unconstrained technological power, specifically highlighting the risks of AI-powered warfare and its disruptive effects on labor. The Pope calls for a "profoundly human" approach to navigating these technological shifts.
US scrambles to stop Internet users re-creating dead pilots’ voices★ 75
Ars Technica AI11d agoIncident美國國家運輸安全委員會（NTSB）依法不得公開空難調查中的駕駛艙語音記錄（CVR）音檔，以保護隱私。然而，近期有網路用戶利用公開的調查文字紀錄與 AI 語音複製技術，重新模擬並還原了罹難飛行員在墜機前的最後對話。此舉引發了嚴重的倫理與法律爭議，美國當局正緊急尋求對策，以阻止這種利用技術漏洞規避法律限制的行為。
The literary world isn’t prepared for AI★ 75
The Verge AI11d agoIncident英國著名文學雜誌《Granta》自 2012 年起便會刊登「英聯邦短篇小說獎」的區域得獎作品。然而，今年其中一篇得獎作——Jamir Nazir 的《The Serpent in the Grove》——卻被指出具有許多 AI 寫作的特徵，疑似為 AI 生成。這起事件震驚了文學界，暴露出傳統文學獎項與出版體系在面對 AI 創作時的防範機制與評判標準顯然尚未準備就緒。
AI put "synthetic quotes" in his book. But this author wants to keep using it.
Ars Technica AI11d agoOpinion作家 Steven Rosenbaum 在撰寫新書《The Future of Truth》時使用 AI 輔助，卻發現書中出現了 AI 虛構的「合成引言」（synthetic quotes）。儘管面臨內容失真的批評，Rosenbaum 解釋了這些錯誤是如何發生的，並堅稱他不會放棄 AI，而是主張創作者應學會與 AI 共存並改進協作流程。
Ethics and Society Newsletter #5: Hugging Face Goes To Washington and Other Summer 2023 Musings
Hugging Face Blog977d agoCommentaryHugging Face 發布 2023 夏季倫理與社會簡報，重點介紹其團隊前往華盛頓特區向美國國會倡導開源 AI 與開放科學價值的經歷。簡報同時涵蓋了 AI 問責制、歐盟 AI 法案的政策回應，以及在模型卡片（Model Cards）、資料集透明度與環境影響評估等技術倫理工具上的最新研究進展。
Ethics and Society Newsletter #4: Bias in Text-to-Image Models
Hugging Face Blog1072d agoCommentary本期 Hugging Face 倫理與社會電子報聚焦於文字生成圖像（Text-to-Image）模型的偏見。文章指出，這些模型在生成職業、社會角色等圖像時，常顯露出嚴重的性別與種族刻板印象。這源於訓練數據中不均衡的代表性，Hugging Face 呼籲社群透過開發評估工具與推動數據透明化來共同應對此挑戰。
Ethics and Society Newsletter #3: Ethical Openness at Hugging Face
Hugging Face Blog1160d agoOpinionHugging Face 在第三期《倫理與社會簡報》中深入探討了「倫理開放性（Ethical Openness）」的概念。他們強調開源 AI 不應是毫無限制的釋出，而需在促進科學協作與防範技術濫用之間取得平衡。文章介紹了 Hugging Face 如何透過「閘門式模型（Gated Models）」、負責任 AI 授權條款（RAIL）以及社群檢舉機制，在實踐開放科學的同時降低潛在風險。
Ethical Guidelines for developing the Diffusers library
Hugging Face Blog1188d agoOpinionHugging Face 針對旗下熱門的 Diffusers 函式庫發布倫理指南，探討開源生成式圖像模型帶來的社會影響。指南重點涵蓋偏見緩解、安全過濾器（如 NSFW 偵測）、隱形浮水印技術，以及推動負責任的授權條款（如 OpenRAIL）。此舉旨在為開源社群提供一個在促進技術創新與防範惡意濫用之間取得平衡的實踐框架。
Comments on U.S. National AI Research Resource Interim Report
Hugging Face Blog1401d agoOpinionHugging Face 針對美國「國家 AI 研究資源（NAIRR）」中期報告提交官方反饋。其核心訴求包括：大力支持開源 AI 與開放科學、推動運算與數據資源的民主化分配以扶植中小型研究機構，以及建立完善的模型與數據集文件規範（如 Model Cards）。此舉旨在確保國家級 AI 資源能真正惠及大眾，而非僅由少數科技巨頭壟斷。
Putting ethical principles at the core of the research lifecycle
Hugging Face Blog1475d agoOpinionHugging Face 發布針對多模態 AI 研究的倫理憲章。該憲章強調「價值敏感設計」，主張在資料治理、模型訓練、評估與釋出的每個階段皆須融入倫理考量。此舉旨在推動更具包容性、透明且負責任的開源 AI 協作生態，為全球研究人員在開發結合文字、影像與語音的多模態模型時，提供具體的道德指引與實踐框架。