Hugging Face partners with TruffleHog to Scan for Secrets★ 70
Hugging Face Blog636d agoReleaseHugging Face 與開源安全掃描工具 TruffleHog 的開發商 Truffle Security 達成合作。此項合作旨在自動掃描 Hugging Face 平台上的所有儲存庫（包括模型、數據集和 Spaces），以偵測並清除不小心上傳的敏感憑證與 API 金鑰。這項主動防禦機制將大幅提升 AI 開源社群的資安防護水準，避免開發者因疏忽而造成重大損失。
2024 Security Feature Highlights★ 75
Hugging Face Blog665d agoReleaseHugging Face 發布 2024 年安全功能亮點，展示其在保護開源 AI 生態系上的多項努力。平台引入了自動化惡意軟體與 Safetensors 安全掃描、敏感金鑰（Secrets）偵測，並與 Sigstore 合作推出模型加密簽章。此外，也強化了細粒度存取權限（Scoped Tokens）與多因素驗證（MFA），為開發者與企業提供更安全可靠的模型託管環境。
Experimenting with Automatic PII Detection on the Hub using Presidio★ 70
Hugging Face Blog692d agoNew ToolHugging Face 正在 Hub 上實驗一項新功能，利用微軟開源的 Presidio 引擎自動偵測數據集中的個人識別資訊（PII）。此舉旨在防止敏感數據（如身分證號、信用卡、電子郵件等）意外洩露，提升開源 AI 社群的數據隱私與合規性。開發者將能更輕鬆地在分享或訓練模型前，識別並清理敏感資訊。
Space secrets security update★ 85
Hugging Face Blog732d agoIncidentHugging Face 發布安全公告，指出其 Spaces 平台疑似遭受未授權存取，可能導致用戶儲存的 Secrets（如 API 金鑰）外洩。官方已主動撤銷受影響的用戶 Access Token，並透過郵件通知相關用戶。強烈建議所有在 Spaces 中使用敏感憑證的開發者，立即更換並重新生成其金鑰以確保安全。
Shared network vulnerability disclosure★ 75
Replicate Blog740d agoIncidentAI 模型託管平台 Replicate 揭露了一項已修復的嚴重安全漏洞。該漏洞由雲端安全公司 Wiz 發現，源於多租戶環境下的共享網路配置缺陷。攻擊者可透過上傳惡意模型，繞過容器隔離並存取其他用戶的私有模型、輸入與輸出數據。Replicate 已於第一時間完成修復、加強網路隔離，並確認除研究人員的測試外，無其他用戶數據外洩。
Running Privacy-Preserving Inferences on Hugging Face Endpoints★ 75
Hugging Face Blog777d agoReleaseHugging Face 與開源密碼學公司 Zama 合作，介紹如何在 Hugging Face Endpoints 上部署全同態加密（FHE）模型。透過 FHE 技術，用戶的敏感數據在傳輸與計算過程中皆保持加密狀態，雲端伺服器可在不解密的情況下完成推理。此方案為醫療、金融等高隱私需求行業提供了一種安全使用雲端 AI 算力的新途徑。
Hugging Face partners with Wiz Research to Improve AI Security★ 75
Hugging Face Blog789d agoBusinessHugging Face 宣布與知名雲端安全廠商 Wiz Research 建立合作夥伴關係。雙方將共同致力於識別並修復 Hugging Face 平台上的安全漏洞，特別是針對模型託管、租戶隔離以及 Spaces 的容器安全。此合作旨在為開源 AI 社群建立更強大的安全防禦機制，防範惡意模型與潛在的雲端基礎設施攻擊。
AI Watermarking 101: Tools and Techniques★ 75
Hugging Face Blog827d agoTutorial隨著 AI 生成內容爆發，如何識別「AI 製造」成為關鍵。Hugging Face 發布的這篇指南深入探討了 AI 水印技術，涵蓋文字生成（如透過調整 Token 機率分佈的綠名單機制）與影像生成（如 Stable Signature 等隱形潛在空間水印）。文章不僅介紹了現有的開源工具，也客觀分析了水印技術在對抗剪裁、改寫等攻擊時的魯棒性限制與未來挑戰。
Deprecation of Git Authentication using password★ 75
Hugging Face Blog1012d agoReleaseHugging Face 官方宣布，為了提升平台安全性，將逐步棄用傳統的 Git 密碼驗證方式。未來用戶在進行 Git 操作（如 clone 或 push）時，必須改用個人存取權杖（PAT）或 SSH 金鑰。此項變更將影響所有託管在 Hugging Face 上的模型、數據集和 Space 倉庫，開發者需盡快更新自動化腳本。
Towards Encrypted Large Language Models with FHE★ 75
Hugging Face Blog1035d agoTutorialHugging Face 與密碼學安全公司 Zama 合作，發表了利用全同態加密（FHE）運行大語言模型（LLM）的技術方案。該技術允許用戶將加密的 Prompt 發送到雲端，雲端模型在完全不解密的情況下進行推論並返回加密結果，確保數據隱私。雖然目前面臨運算延遲高與需要極低位元量化等挑戰，但這為金融與醫療等高隱私需求領域開闢了全新可能。
🐶Safetensors audited as really safe and becoming the default★ 75
Hugging Face Blog1106d agoReleaseHugging Face 宣布其開發的 Safetensors 格式已成功通過專業安全公司 Trail of Bits 的審計，確認其安全性。相較於傳統具有任意程式碼執行風險的 Pickle 格式，Safetensors 不僅安全，還具備極速載入（Zero-copy）的優勢。Hugging Face 已正式將其設為平台上的預設模型儲存格式，推動開源 AI 社群邁向更安全的生態。
Creating Privacy Preserving AI with Substra
Hugging Face Blog1147d agoNew ToolOwkin 開源的聯邦學習框架 Substra 已託管於 LF AI & Data 基金會。該框架允許開發者在分散且不公開的數據集上協同訓練 AI 模型，特別適合醫療等高隱私需求領域。本文介紹如何結合 Substra 與 Hugging Face 生態系，實現可追溯、安全且合規的隱私保護機器學習。
Sentiment Analysis on Encrypted Data with Homomorphic Encryption
Hugging Face Blog1293d agoTutorial本文介紹了如何使用全同態加密（FHE）技術對加密數據進行情緒分析。透過 Zama 開源的 Concrete ML 工具包，開發者可以將 Hugging Face 的機器學習模型轉化為 FHE 版本。這使得用戶可以將加密後的文本傳送到雲端進行推理，雲端伺服器在完全無法得知原文內容的情況下完成情緒分析，並回傳加密的預測結果，完美兼顧雲端運算便利性與用戶隱私。
Introducing Skops
Hugging Face Blog1390d agoReleaseHugging Face 宣布推出新開源庫 Skops，專為 scikit-learn 等表格數據模型設計。Skops 解決了傳統 pickle 格式的安全漏洞，提供更安全的模型序列化方案。此外，它還簡化了將 scikit-learn 模型上傳至 Hugging Face Hub 的流程，並支持自動生成模型卡片與互動式預測介面，讓傳統機器學習也能享有現代 MLOps 的便利。
Introducing the Private Hub: A New Way to Build With Machine Learning★ 75
Hugging Face Blog1399d agoReleaseHugging Face 正式推出 Private Hub，允許企業與團隊在安全的私有環境中託管、管理和共享機器學習模型、數據集與 Spaces。該服務提供細粒度的權限控制與企業級安全保障，並與 Hugging Face 開源生態系無縫整合，讓團隊能更高效且合規地協作開發 AI 應用。