Hugging Face 與開源密碼學公司 Zama 合作,介紹如何在 Hugging Face Endpoints 上部署全同態加密(FHE)模型。透過 FHE 技術,用戶的敏感數據在傳輸與計算過程中皆保持加密狀態,雲端伺服器可在不解密的情況下完成推理。此方案為醫療、金融等高隱私需求行業提供了一種安全使用雲端 AI 算力的新途徑。
Hugging Face 與密碼學安全公司 Zama 合作,發表了利用全同態加密(FHE)運行大語言模型(LLM)的技術方案。該技術允許用戶將加密的 Prompt 發送到雲端,雲端模型在完全不解密的情況下進行推論並返回加密結果,確保數據隱私。雖然目前面臨運算延遲高與需要極低位元量化等挑戰,但這為金融與醫療等高隱私需求領域開闢了全新可能。
本文介紹了如何使用全同態加密(FHE)技術對加密數據進行情緒分析。透過 Zama 開源的 Concrete ML 工具包,開發者可以將 Hugging Face 的機器學習模型轉化為 FHE 版本。這使得用戶可以將加密後的文本傳送到雲端進行推理,雲端伺服器在完全無法得知原文內容的情況下完成情緒分析,並回傳加密的預測結果,完美兼顧雲端運算便利性與用戶隱私。