使用阿里云PAI Model Gallery部署DeepSeek

1. 登录阿里云PAI控制台

• 访问阿里云PAI控制台，使用您的阿里云账号登录。
• 在左侧导航栏中选择“工作空间列表”，进入指定的工作空间。

2. 进入Model Gallery

• 在工作空间内，选择“快速开始”，然后点击“Model Gallery”。
• 在Model Gallery页面，根据您的需求选择地域。

3. 选择DeepSeek模型

• 在Model Gallery页面的模型列表中，找到并点击您需要部署的DeepSeek模型卡片，例如“DeepSeek-R1-Distill-Qwen-7B”。
• 进入模型详情页面，查看模型的详细信息。

4. 一键部署模型

• 在模型详情页右上角，点击“部署”按钮。
• 根据模型类型选择部署方式：
  • DeepSeek-R1 支持使用vLLM加速部署。
  • DeepSeek-V3 支持vLLM加速部署以及Web应用部署。
  • DeepSeek-R1蒸馏小模型 支持使用BladeLLM和vLLM加速部署。
• 配置所需的资源后，点击“确定”即可一键生成PAI-EAS服务。

5. 获取调用信息

• 部署成功后，您可以在服务页面查看调用信息，包括Endpoint和Token。
• 如果需要了解详细的调用方式，可以点击预训练模型链接，返回模型介绍页面查看说明。

注意事项

• 加速技术：DeepSeek-R1和DeepSeek-V3支持vLLM加速，而DeepSeek-R1蒸馏小模型还支持BladeLLM加速，这可以显著提升部署速度。
• Web应用部署：DeepSeek-V3支持Web应用部署，适合需要直接在Web环境中使用模型的场景。
• 费用：Model Gallery本身不收费，但部署模型时会产生资源费用，具体计费详情请参考阿里云官方文档。