Pope Leo XIV Releases AI Encyclical "Magnifica Humanitas" on Human Dignity and Ethics★ 75
Simon Willison's Weblog7d agoEthicsThe Vatican released Pope Leo XIV’s encyclical "Magnifica Humanitas," offering a profound ethical framework for the AI era. Drawing parallels to the 19th-century Industrial Revolution, the Pope highlights that modern AI is "cultivated" rather than "built," leaving its inner workings largely opaque. The document warns against cultural biases, simulated human relationships, and the heavy environmental toll of AI infrastructure.
The Pope's AI Encyclical Is More About Power Than Technology
TechCrunch AI8d agoCommentaryPope Leo XIV's inaugural encyclical addresses artificial intelligence not merely as a technological shift, but as a lens to critique systemic global issues. The document warns against the extreme concentration of power and wealth within a small tech elite. Ultimately, it frames AI as a threat to democratic institutions and human agency when left unchecked by moral governance.
Pope Leo XIV Issues Encyclical 'Magnifica Humanitas' Warning of AI Risks
The Verge AI8d agoEthicsPope Leo XIV has issued his first major papal document, "Magnifica Humanitas," focusing on safeguarding humanity in the age of AI. The manifesto warns against the dangers of unconstrained technological power, specifically highlighting the risks of AI-powered warfare and its disruptive effects on labor. The Pope calls for a "profoundly human" approach to navigating these technological shifts.
Trump abruptly cancels EO signing event after top AI firm CEOs declined to go★ 75
Ars Technica AI11d agoBusiness根據外媒報導，美國總統川普突然取消了一項關於 AI 安全測試行政命令（EO）的簽署儀式。起因是多家頂尖 AI 公司的執行長拒絕出席該活動。在遭到科技界冷落後，川普隨後延遲了該行政命令的發布，並改口宣稱這項安全測試規範將會成為 AI 技術發展的「創新阻礙」。此舉反映出政府監管政策與科技巨頭之間的緊張關係。
Trump delays AI security executive order, saying language ‘could have been a blocker’★ 80
TechCrunch AI12d agoBusiness美國總統川普延後簽署一項關鍵的 AI 安全行政命令。該命令原定要求 AI 開發商在發布新模型前，必須先通過政府的安全審查。川普表示，他對該命令目前的文字表述感到不滿，擔心這些條款可能會成為 AI 技術領先與創新的阻礙，因此決定暫緩簽署以進行調整。
AI and the Future of Cybersecurity: Why Openness Matters★ 75
Hugging Face Blog42d agoOpinionHugging Face 探討 AI 時代的網路安全，指出「隱晦安全」已無法應對現代威脅。文章強調開放模型與開源協作能讓全球研究人員共同審查漏洞、提升防禦彈性，並防止安全技術被少數巨頭壟斷。開放性才是建立安全、可信賴 AI 生態系的基石。
Claude Mythos and misguided open-weight fearmongering★ 75
Interconnects (Nathan L.)54d agoOpinion本文探討了 AI 領域中圍繞 Anthropic Claude 所建立的「安全神話」，以及輿論對開源權重（open-weight）模型安全性的過度恐慌。作者 Nathan Lambert 指出，這種將開源模型視為重大威脅的論調缺乏實質依據，往往只是閉源陣營或特定政策倡導者重複上演的「開源恐懼之舞」。他呼籲大眾與決策者應理性看待開源的實際風險與巨大價值，避免因不理性的恐懼而扼殺創新。
Dean Ball on open models and government control ★ 75
Interconnects (Nathan L.)88d agoCommentary本文探討政策專家 Dean Ball 對於「Anthropic 訴 戰爭部（DoW）」一案的觀察。他指出，這場涉及國家安全與 AI 技術控制的法律戰，其判決與和解過程將釋放微妙的先例信號。這些信號不僅影響封閉原始碼巨頭，更會直接衝擊開源模型的生存空間，若政府以國安為由限制模型權重，將對整個開源生態帶來嚴重的監管效應。
Open Responses: What you need to know★ 75
Hugging Face Blog138d agoOpinionHugging Face 發布「Open Responses」專題，整理其向全球政府機構（如美、歐監管單位）提交的政策諮詢回應。文章深入探討開源 AI 面臨的監管挑戰、版權爭議與安全評估，並說明這些政策將如何形塑未來的 AI 開發環境，呼籲社群共同關注與參與。
Open Source Developers Guide to the EU AI Act★ 75
Hugging Face Blog547d agoTutorial歐盟《AI 法案》（EU AI Act）已正式生效，Hugging Face 針對開源社群推出實用指南。文章釐清了開源模型在何種情況下可享有豁免（如釋出權重與架構），並指出當模型運算量超過 10^25 FLOPs 或被用於高風險領域時，開發者仍需承擔合規義務。此指南旨在幫助開源開發者在推動創新的同時，避免觸犯法律紅線。
Ethics and Society Newsletter #5: Hugging Face Goes To Washington and Other Summer 2023 Musings
Hugging Face Blog977d agoCommentaryHugging Face 發布 2023 夏季倫理與社會簡報，重點介紹其團隊前往華盛頓特區向美國國會倡導開源 AI 與開放科學價值的經歷。簡報同時涵蓋了 AI 問責制、歐盟 AI 法案的政策回應，以及在模型卡片（Model Cards）、資料集透明度與環境影響評估等技術倫理工具上的最新研究進展。
Announcing our new Content Guidelines and Policy
Hugging Face Blog1083d agoReleaseHugging Face 宣布更新其「內容指南與政策」，旨在為開源 AI 社群建立更安全、透明的環境。新政策明確禁止仇恨言論、惡意軟體、非自願性色情及旨在產生有害內容的模型。此外，官方也優化了社群檢舉流程與侵權（DMCA）處理機制，以確保平台上的模型與數據集符合安全合規標準。