简介:本文详细介绍如何在群晖NAS上通过Docker部署Ollama、Open WebUI和DeepSeek的完整流程,涵盖环境准备、容器配置、服务联动及常见问题解决,助力用户快速搭建本地化AI应用环境。
群晖DSM系统需满足以下条件:
关键操作:
控制面板 > 套件中心,搜索并安装Docker套件 控制面板 > 终端机和SNMP > 启用SSH服务),端口默认22 docker --version验证安装 架构图示:
用户请求 → Open WebUI → Ollama API → DeepSeek模型 → 返回结果
通过SSH执行以下命令(推荐使用国内镜像加速):
sudo docker pull ollama/ollama:latest# 或使用阿里云镜像(需替换为实际地址)# sudo docker pull registry.cn-hangzhou.aliyuncs.com/ollama/ollama:latest
在Docker目录下创建配置文件夹:
mkdir -p /volume1/docker/ollama/models
运行容器(关键参数说明):
sudo docker run -d \--name ollama \--restart unless-stopped \-p 11434:11434 \-v /volume1/docker/ollama/models:/root/.ollama/models \ollama/ollama
-p 11434:11434:暴露Ollama API端口 -v:持久化存储模型文件 --restart:容器异常时自动重启 执行以下命令检查运行状态:
sudo docker logs ollama | grep "Server started"# 正常应输出:Server started on [::]:11434
sudo docker pull ghcr.io/open-webui/open-webui:main
创建配置目录:
mkdir -p /volume1/docker/open-webui/{data,models}
运行容器(重点参数):
sudo docker run -d \--name open-webui \--restart unless-stopped \-p 3000:3000 \-e OLLAMA_API_URL="http://群晖IP:11434" \-v /volume1/docker/open-webui/data:/app/backend/data \-v /volume1/docker/open-webui/models:/models \ghcr.io/open-webui/open-webui:main
OLLAMA_API_URL:必须指向群晖本地IP(避免使用localhost) -p 3000:WebUI访问端口 浏览器输入http://群晖IP:3000,首次访问需完成初始化设置:
Models选项卡中点击Pull下载DeepSeek模型(如deepseek-ai/DeepSeek-R1) SSH执行以下命令(需提前下载模型):
# 列出可用模型curl http://localhost:11434/api/tags# 运行DeepSeek模型(示例)sudo docker exec -it ollama ollama run deepseek-ai/DeepSeek-R1:7b
--memory参数(如--memory 6g) --size 3b参数加载30亿参数版本(牺牲精度换性能) nvidia-docker2并添加--gpus all参数 现象:docker logs ollama显示端口冲突
解决:
sudo netstat -tulnp | grep 11434
现象:WebUI卡在Pulling model...
解决:
.gguf格式)并放入/volume1/docker/ollama/models
sudo docker exec -it ollama ollama pull deepseek-ai/DeepSeek-R1:7b
现象:浏览器报错502 Bad Gateway
解决:
sudo docker logs open-webui
sudo docker restart open-webui
控制面板 > 应用程序门户 > 反向代理服务器 http://群晖域名:端口(如/ai) http://127.0.0.1:3000
sudo tar -czvf /volume1/backups/ollama_models.tar.gz /volume1/docker/ollama/models
通过Docker > 容器界面查看实时资源占用,或安装Portainer套件进行可视化管理
完成部署后,可通过以下方式测试:
curl http://群晖IP:11434/api/chat \-H "Content-Type: application/json" \-d '{"model":"deepseek-ai/DeepSeek-R1:7b","messages":[{"role":"user","content":"你好"}]}'
LangChain构建文档问答系统 Make或n8n连接Ollama API实现任务自动化 通过本教程,用户可在群晖NAS上构建完整的本地化AI服务,兼顾数据隐私与灵活扩展。实际部署中需根据硬件条件调整模型规模,建议从7B参数版本开始测试性能。