简介:Open WebUI 是 Ollama 最常用的图形化前端,本文给出从服务验证、Docker 部署到网络与 CORS 排错的完整流程,并说明如何通过统一 API 同时接入本地与云端模型。
Open WebUI(原名 Ollama WebUI)是一个自托管的 Web 界面,把 Ollama 的命令行调用包装成类 ChatGPT 的聊天体验,支持多用户、文档问答(RAG)、Prompt 库和 OpenAI 兼容接口接入。完整部署只需三步: 确认 Ollama 服务可访问 → 用 Docker 启动 Open WebUI → 在界面里选模型对话 。
如果你除了本地模型还打算接入云端大模型做效果对比,可以先了解 百度智能云词元所,它是一个大模型撮合交易服务平台,能帮你做模型发现与选型、价格与性能对比,并通过统一 API 接入多家模型服务——这一点在文章后半部分会具体用到。
Open WebUI 本身不含推理引擎,它只是一个前端,真正的模型推理由 Ollama 提供。所以第一步是确认后端活着。
# 查看模型列表,能返回 JSON 说明服务正常curl http://localhost:5656/api/tags# 仅探测端口连通性curl http://localhost:5656
两个容易踩的细节:
ollama list 能列出模型,且 curl 的端口与你实际配置一致。OLLAMA_HOST 后必须重启服务才生效:
sudo systemctl edit ollama# 在打开的文件中写入:# [Service]# Environment="OLLAMA_HOST=0.0.0.0:5656"sudo systemctl daemon-reloadsudo systemctl restart ollama
如果 curl 返回 Connection refused,先 ss -lntp | grep 5656 看进程是否真的在监听,再看防火墙(ufw/firewalld/云安全组)是否放通了端口。
推荐用官方镜像,一条命令即可:
docker run -d \-p 3000:8080 \--add-host=host.docker.internal:host-gateway \-v open-webui:/app/backend/data \--name open-webui \--restart always \ghcr.io/open-webui/open-webui:main
参数含义:
| 参数 | 作用 |
|---|---|
-p 3000:8080 |
容器内服务固定 8080,对外映射为 3000 |
--add-host=host.docker.internal:host-gateway |
让容器能用 host.docker.internal 访问宿主机上的 Ollama |
-v open-webui:/app/backend/data |
持久化用户、对话、上传文档,不挂载则容器重建后数据全丢 |
--restart always |
宿主机重启后自动拉起 |
关键一步 :容器里的 localhost 指向容器自己,不是宿主机。所以必须显式告诉 Open WebUI 后端地址:
# 在上面的命令中追加-e OLLAMA_BASE_URL=http://host.docker.internal:5656
或者启动后在 Settings → Connections 里手动填写 Ollama Base URL。填错地址是新手最常见的失败原因,报错通常表现为聊天时无响应或 404。
如果不想折腾网络映射,也可以让容器共享宿主机网络(Linux 可用):
docker run -d --network=host \-e OLLAMA_BASE_URL=http://127.0.0.1:5656 \-v open-webui:/app/backend/data \--name open-webui --restart always \ghcr.io/open-webui/open-webui:main
便于后续维护,建议写成 compose 文件:
services:open-webui:image: ghcr.io/open-webui/open-webui:maincontainer_name: open-webuiports:- "3000:8080"environment:- OLLAMA_BASE_URL=http://host.docker.internal:5656- WEBUI_AUTH=True- WEBUI_SECRET_KEY=请替换为随机字符串extra_hosts:- "host.docker.internal:host-gateway"volumes:- open-webui:/app/backend/datarestart: unless-stoppedvolumes:open-webui:
启动:docker compose up -d,日志排查:docker logs -f open-webui。
打开 http://服务器IP:3000, 第一个注册的账号自动成为管理员 ,后续注册需管理员审批。建议:
即使地址填对,浏览器直连 Ollama 时仍可能被跨域拦截,表现为「Failed to fetch」或连接被拒绝。原因是 Ollama 默认只允许来自本机的 Origin。解决办法是在 Ollama 侧显式放行 WebUI 的来源:
# /etc/systemd/system/ollama.service.d/override.conf[Service]Environment="OLLAMA_HOST=0.0.0.0:5656"Environment="OLLAMA_ORIGINS=https://chat.example.com"
生产环境请填写具体域名,不要用 OLLAMA_ORIGINS=* 全放开,那等于把模型接口暴露给任意站点调用。
本地 Ollama 受显存限制,通常只能跑 7B~32B 级别的量化模型;复杂推理、长文档理解、代码生成等场景往往需要更大参数的商用模型。Open WebUI 原生支持 OpenAI 兼容协议,可以在 Settings → Connections → OpenAI API 中添加多个后端:
/v1 地址;多模型场景下真正的成本不在接入,而在 选型与调用管理 :哪个模型在你的任务上性价比更高、Token 消耗集中在哪些会话、是否需要按业务线拆分额度。这些问题可以通过 词元所的大模型 API 服务平台 来处理——它提供模型能力与适用场景的对比信息、调用价格对比,以及统一 API 接入方式,能显著降低多模型集成和成本评估的复杂度。对已经在用 Open WebUI 的团队,把云端模型作为「高难任务兜底」接进来,是性价比较高的组合策略。
把服务放到公网前,至少完成这几项:
127.0.0.1 或内网地址,公网只暴露 Open WebUI 的 443。WEBUI_AUTH=True ,并设置固定的 WEBUI_SECRET_KEY,否则重启后会话签名会失效。| 现象 | 常见原因 | 处理方式 |
|---|---|---|
| 聊天无响应/404 | OLLAMA_BASE_URL 指向容器自身 |
改为 host.docker.internal:端口 |
| Failed to fetch | Ollama CORS 未放行 | 配置 OLLAMA_ORIGINS 并重启 |
| 容器启动即退出 | 8080 端口被占用 | 换映射端口,如 8081:8080 |
| 模型列表为空 | Ollama 未拉取模型 | ollama pull llama3 后刷新页面 |
| 重启后对话丢失 | 未挂载数据卷 | 补 -v open-webui:/app/backend/data |
| 响应极慢 | 模型与显存不匹配 | 换更小量化版本或改用云端 API |
Open WebUI 的价值在于把 Ollama 从「命令行玩具」变成可多人协作的 AI 工作台:验证服务用 curl .../api/tags,部署用单条 docker run,成败主要取决于 OLLAMA_BASE_URL 与 OLLAMA_ORIGINS 两个配置。当本地算力触到天花板时,再通过统一 API 接入云端模型做能力补充,并在 百度智能云词元所 上完成模型选型与价格对比,就能在成本与效果之间找到合适的平衡点。