deepseek本地部署方法,怎么在本地部署deepseek

一、环境准备

硬件需求

• 最低配置：CPU（支持AVX2指令集）+ 16GB内存 + 30GB存储。
• 推荐配置：NVIDIA GPU（RTX 3090或更高）+ 32GB内存 + 50GB存储。

软件依赖

• 操作系统：Windows、macOS或Linux。
• Docker：如果使用Open Web UI，需要安装Docker。

二、安装Ollama

1. 访问Ollama官网：前往 Ollama官网，https://ollama.com/ 点击“Download”按钮。
2. 下载安装包：根据你的操作系统选择对应的安装包。下载完成后，直接双击安装文件并按照提示完成安装。
3. 验证安装：安装完成后，在终端输入以下命令，检查Ollama版本：
   bash复制

   ollama --version

   如果输出版本号（例如ollama version is 0.5.6），则说明安装成功。

三、下载并部署DeepSeek模型

1. 选择模型版本：
   • 入门级：1.5B版本，适合初步测试。
   • 中端：7B或8B版本，适合大多数消费级GPU。
   • 高性能：14B、32B或70B版本，适合高端GPU。
2. 下载模型：打开终端，输入以下命令下载并运行DeepSeek模型。例如，下载7B版本的命令为：
   bash复制

   ollama run deepseek-r1:7b

   如果需要下载其他版本，可以参考以下命令：
   bash复制

   ollama run deepseek-r1:8b  # 8B版本
   ollama run deepseek-r1:14b # 14B版本
   ollama run deepseek-r1:32b # 32B版本

3. 启动Ollama服务：在终端运行以下命令启动Ollama服务：
   bash复制

   ollama serve

   服务启动后，可以通过访问http://localhost:11434来与模型进行交互。

四、使用Open Web UI（可选）

1. 安装Docker：确保你的机器上已安装Docker。
2. 运行Open Web UI： 在终端运行以下命令安装并启动Open Web UI：
   bash复制

   docker run -d -p 3000:8080 \
     --add-host=host.docker.internal:host-gateway \
     -v open-webui:/app/backend/data \
     --name open-webui \
     --restart always \
     ghcr.io/open-webui/open-webui:main

   安装完成后，访问http://localhost:3000，选择deepseek-r1:latest模型即可开始使用。

五、其他可视化工具

1. 安装Chatbox：访问 Chatbox官网 并下载客户端。
2. 配置Chatbox：
   • 在Chatbox设置中选择“使用自己的API Key或本地模型”。
   • 选择“Ollama API”作为模型提供方。
   • 配置环境变量（Windows系统）并重启Ollama程序。
   • 重新打开Chatbox设置界面，选择DeepSeek模型并保存。

六、测试与使用

1. 测试功能：在终端输入/?或/help进行测试。
2. 退出模型：输入/bye退出模型。
3. 查看模型列表：输入ollama list查看已下载的模型。