Towards Encrypted Large Language Models with FHE

Hugging Face 與 Zama 合作，展示如何利用全同態加密（FHE）在不解密的情況下進行 LLM 推論，保障用戶隱私。

Hugging Face 與密碼學安全公司 Zama 合作，發表了利用全同態加密（FHE）運行大語言模型（LLM）的技術方案。該技術允許用戶將加密的 Prompt 發送到雲端，雲端模型在完全不解密的情況下進行推論並返回加密結果，確保數據隱私。雖然目前面臨運算延遲高與需要極低位元量化等挑戰，但這為金融與醫療等高隱私需求領域開闢了全新可能。

摘要由 AI 整理,以原文為準。