How to deploy and fine-tune DeepSeek models on AWS

Hugging Face 官方教學：如何在 AWS SageMaker 上部署與微調 DeepSeek-R1 及其蒸餾版本模型。

本文為 Hugging Face 釋出的實用指南，詳細介紹如何在 AWS 環境中部署與微調熱門的 DeepSeek-R1 及其蒸餾（Distilled）模型。內容涵蓋使用 Hugging Face LLM DLC（深度學習容器）與 TGI 技術在 Amazon SageMaker 上進行低延遲推論部署，以及如何透過 SageMaker 訓練作業與 Hugging Face TRL 庫進行高效微調（如 LoRA），並提供針對不同模型大小的 AWS 硬體配置建議。

摘要由 AI 整理,以原文為準。