简介:本文为初学者提供DeepSeek在Windows系统下的D盘部署教程,涵盖环境配置、代码安装及Web UI启动全流程,帮助零基础用户快速上手AI模型部署。
在Windows系统中,C盘通常作为系统盘使用,存储着操作系统和核心程序文件。随着软件安装和使用,C盘空间容易不足,影响系统性能。将DeepSeek部署到D盘具有三大优势:
建议提前在D盘创建专用文件夹(如D:\DeepSeek),确保有至少20GB可用空间。对于大型模型部署,建议预留50GB以上空间。
python --versionpip --version
nvcc --version# 应显示类似:Cuda compilation tools, release 11.x, V11.x.xxx
推荐使用conda创建独立环境:
conda create -n deepseek_env python=3.10conda activate deepseek_env
或使用venv:
python -m venv D:\DeepSeek\venvD:\DeepSeek\venv\Scripts\activate
克隆官方仓库:
git clone https://github.com/deepseek-ai/DeepSeek.git D:\DeepSeek\repocd D:\DeepSeek\repo
安装依赖包:
pip install -r requirements.txt# 常见问题处理:# 若torch版本冲突,可指定版本:pip install torch==2.0.1 torchvision==0.15.2 --index-url https://download.pytorch.org/whl/cu118
D:\DeepSeek\models目录
D:\DeepSeek\models\└── deepseek-6b\├── config.json├── pytorch_model.bin└── tokenizer.json
编辑D:\DeepSeek\repo\config.py文件,修改以下参数:
MODEL_PATH = "D:/DeepSeek/models/deepseek-6b"DEVICE = "cuda" if torch.cuda.is_available() else "cpu"WEB_UI_PORT = 7860 # 避免与其他服务冲突
安装Gradio:
pip install gradio
启动Web服务:
python D:\DeepSeek\repo\web_ui.py# 或使用调试模式:python -m debugpy --listen 5678 --wait-for-client web_ui.py
访问本地服务:
浏览器打开http://localhost:7860,应看到交互界面
config.py中的WEB_UI_PORT值max_new_tokens参数(默认2048)--gpu-memory 4参数限制显存使用API接口启用:
在config.py中设置:
ENABLE_API = TrueAPI_PORT = 8000
多模型切换:
创建模型配置文件D:\DeepSeek\models\models.json:
[{"name": "deepseek-6b","path": "D:/DeepSeek/models/deepseek-6b","type": "llm"},{"name": "chat-model","path": "D:/DeepSeek/models/chat-model","type": "chat"}]
显存优化:
bitsandbytes进行8位量化:
pip install bitsandbytespython -m deepseek.quantize --model D:/DeepSeek/models/deepseek-6b --output D:/DeepSeek/models/deepseek-6b-quant
启动加速:
cmd /k "D:\DeepSeek\venv\Scripts\activate && cd D:\DeepSeek\repo && python web_ui.py"
数据持久化:
在D:\DeepSeek\data目录下创建:
conversations.json:存储对话历史prompts.txt:自定义提示词库防火墙设置:
pip list --outdated | pip install -U数据备份:
# 每周备份模型目录xcopy "D:\DeepSeek\models" "E:\Backups\DeepSeek_Models" /E /H /C /I /Y
卸载指南:
# 停止所有Python进程taskkill /F /IM python.exe# 删除虚拟环境rmdir /S /Q "D:\DeepSeek\venv"# 清理残留文件del /Q "D:\DeepSeek\*.log"
本教程通过分步骤讲解和代码示例,使零基础用户也能完成DeepSeek的完整部署。实际部署时建议先在测试环境验证,再迁移到生产环境。遇到具体问题时,可参考官方GitHub仓库的Issues板块获取最新解决方案。