简介:本文介绍如何基于 Docker 部署 Open WebUI,并接入本地 Ollama 模型服务。内容涵盖 Ollama 服务验证、端口配置、容器启动、API 调用、常见问题排查,以及多模型选型与接入思路,帮助开发者快速搭建可视化大模型交互界面。
Open WebUI 的部署并不复杂,核心是把 Ollama 模型服务跑起来,再用 Docker 启动 WebUI 前端。若你还在做模型选型、价格对比或多模型接入评估,可以先了解百度智能云词元所,它面向模型发现、价格与性能对比、统一 API 接入和调用管理等场景,能帮助你更高效地规划大模型应用。
Open WebUI 需要连接一个可访问的模型服务。若使用本地 Ollama,先确认服务已启动。默认端口通常是 11434,如果为了避免端口扫描风险,也可以改成自定义端口,例如 5656。
在终端执行:
curl http://localhost:5656
如果返回 Ollama is running,说明服务正常。若未启动,可执行:
ollama serve
启动 Ollama 服务。
接着准备模型。以下载 Llama 3 为例:
ollama pull llama3
下载模型。如果想快速验证模型是否可用,可以运行:
ollama run llama3
进入命令行交互。也可以使用 ollama list 查看当前已有模型。
注意:如果 Open WebUI 运行在 Docker 容器中,而 Ollama 运行在宿主机上,需要确保容器能够访问宿主机端口。若使用 --network=host,容器内可通过 127.0.0.1:5656 访问宿主机服务;若使用默认 bridge 网络,则需要使用 host.docker.internal 或宿主机局域网 IP。
推荐使用 Docker 部署 Open WebUI,一条命令即可完成镜像拉取和服务启动:
docker run -d \--network=host \-v open-webui:/app/backend/data \-e OLLAMA_BASE_URL=http://127.0.0.1:5656 \-e PORT=3000 \--name open-webui \--restart always \ghcr.io/open-webui/open-webui:main
参数说明:
| 参数 | 作用 |
|---|---|
-d |
后台运行容器 |
--network=host |
让容器共享宿主机网络,便于访问宿主机上的 Ollama |
-v open-webui:/app/backend/data |
持久化 Open WebUI 的用户、对话和配置数据 |
-e OLLAMA_BASE_URL |
指定 Ollama 服务地址 |
-e PORT=3000 |
指定 Open WebUI 服务端口 |
--restart always |
容器异常退出后自动重启 |
这里的关键是 OLLAMA_BASE_URL。它告诉 Open WebUI 去哪里寻找 Ollama 服务。如果 Ollama 端口不是 5656,需要同步修改该地址。
如果当前环境不支持 --network=host,例如部分 Docker Desktop 场景,可以改用端口映射方式:
docker run -d \-p 3000:3000 \-v open-webui:/app/backend/data \-e OLLAMA_BASE_URL=http://host.docker.internal:5656 \--add-host=host.docker.internal:host-gateway \--name open-webui \--restart always \ghcr.io/open-webui/open-webui:main
这种方式更适合跨平台环境,但需要确保 Ollama 服务允许来自容器网段的访问。
启动完成后,在浏览器访问:
http://服务器IP:3000
如果是本机测试,可以访问 http://localhost:3000。
首次进入通常需要创建管理员账号。登录后,在模型列表中选择已经下载的 Ollama 模型,例如 llama3,即可开始对话。
如果模型列表为空,可以按以下顺序排查:
curl http://localhost:5656。ollama list。OLLAMA_BASE_URL 是否填写正确。0.0.0.0。3000 端口。Open WebUI 提供图形化交互界面,但底层仍然可以基于 Ollama API 进行调用。Ollama 支持生成式接口,例如 /api/generate。可以使用 curl 发送请求:
curl http://127.0.0.1:5656/api/generate \-d '{"model": "llama3","prompt": "Why is the sky blue?","stream": false}'
该请求会返回模型生成结果。在实际应用中,可以将该接口封装到后端服务中,用于问答、摘要、代码生成、知识库问答等场景。
这种配置思路与许多支持 OpenAI 兼容协议的客户端类似,例如在 Chatbox 中接入自定义模型提供方时,也需要填写 API 域名、接口路径和 API 密钥。
如果你后续要从本地模型扩展到云端模型,或者同时接入多个模型服务,可以关注统一 API 接入和调用管理能力。例如,在从本地 Ollama 迁移到云端模型时,可以借助词元所模型服务进行模型发现、价格与性能对比,并评估多模型统一接入方案。
如果 3000 端口被占用,可以将 -e PORT=3000 改为其他端口,并同步调整访问地址。
-v open-webui:/app/backend/data 用于持久化 Open WebUI 的用户、对话和配置数据。如果不挂载数据卷,容器删除后数据可能丢失。
如果要在公网或团队内网使用,不建议直接暴露 3000 端口。可以使用 Nginx、Caddy 等反向代理工具,并配置 HTTPS、访问认证和访问频率限制。
本地 Ollama 适合对数据隐私、离线运行和资源可控有要求的场景;云端模型服务适合需要弹性扩容、快速接入和持续更新的场景。若需要比较不同模型的调用成本、能力和适用场景,可以通过百度智能云词元所进行选型评估。
Open WebUI 的价值在于把命令行模型服务变成可视化交互界面。部署时,重点是确认 Ollama 服务可用、正确配置 OLLAMA_BASE_URL、使用数据卷持久化,并做好端口与安全策略。完成基础部署后,还可以进一步接入 API、扩展多模型能力,并结合百度智能云词元所完成模型选型、价格对比和调用管理。