客户中心
网站
简体中文
← 知识库

部署 Open WebUI 与 Ollama,搭建私有 AI 聊天界面

Open WebUI 提供与模型服务器对话的浏览器界面。本方案包含私有 Ollama 后端和小型模型,无需将后端公开到互联网即可测试完整聊天流程。Open WebUI 有自己的许可证和品牌条款,自行托管不代表可以无限制更改品牌。

目标环境: Ubuntu Server 24.04 LTS、x86-64、SSH 和 sudo 账户。文档审核日期:2026 年 11 月 15 日。命令尚未在 Ubuntu 上完成端到端测试。

开始之前

此小型模型组合评估可预留约 4 个 vCPU、8 GB 内存和 20 GB 可用磁盘。界面和模型有各自内存需求。外部模型 API 可降低本地推理需求,但可能把提示词发送到 VPS 之外并产生费用。

这些资源数值仅为小规模评估的规划估算,不是性能保证或套餐规格。VPS/VDS 不代表包含 GPU。下单前请检查可用内存、存储和其他资源。

全新 Ubuntu 可使用以下软件包。如果 Docker 已从其他仓库安装,请保留并先检查兼容性,不要混用 Docker CE 和 docker.io 软件包。使用 Compose v2;缺少软件包时,请检查是否启用 Ubuntu Universe。

sudo apt update
sudo apt install -y docker.io docker-compose-v2 curl openssl
sudo systemctl enable --now docker
sudo docker compose version

所有示例仅将端口发布到服务器的 127.0.0.1。请从本机通过 SSH 隧道访问,无需域名。不要将这些端口开放到互联网。容器内部监听 0.0.0.0 不会改变宿主机端口仅绑定回环地址的事实。

以下项目均为全新安装。不要对现有部署重新执行密钥生成步骤。

1. 保存私有聊天配置

生成一个保持稳定的密钥。将 YAML 保存为 compose.yaml,只发布界面,且仅绑定回环地址。ollama 是 Docker 服务 DNS,不是笔记本的 localhost。

umask 077
mkdir -p ~/ai-webui
cd ~/ai-webui
printf 'WEBUI_SECRET_KEY=%s\n' "$(openssl rand -hex 32)" > .env
services:
  ollama:
    image: ollama/ollama:latest
    restart: unless-stopped
    environment:
      OLLAMA_NUM_PARALLEL: "1"
      OLLAMA_CONTEXT_LENGTH: "2048"
    volumes:
      - models:/root/.ollama
  webui:
    image: ghcr.io/open-webui/open-webui:main
    restart: unless-stopped
    ports:
      - "127.0.0.1:3000:8080"
    environment:
      OLLAMA_BASE_URL: http://ollama:11434
      WEBUI_SECRET_KEY: ${WEBUI_SECRET_KEY:?set WEBUI_SECRET_KEY in .env}
    volumes:
      - webui:/app/backend/data
    depends_on:
      - ollama
volumes:
  models:
  webui:

2. 启动并初始化管理员

在 VPS 上执行第一组命令,再于本机执行 SSH 命令。打开 http://127.0.0.1:3000,在分享隧道或端点前创建首个管理员。在 Admin Panel 确认初始化后新注册已禁用。不要为修复登录问题而关闭认证。

sudo docker compose up -d
sudo docker compose exec ollama ollama pull qwen2.5:0.5b
curl --fail-with-body http://127.0.0.1:3000/health
ssh -N -L 127.0.0.1:3000:127.0.0.1:3000 YOUR_USER@YOUR_SERVER_IP

3. 验证聊天并保护工作区

选择已下载模型,提出不含机密的简短问题。如列表为空,请检查 Ollama 连接 URL 和容器日志;界面容器内的 127.0.0.1:11434 指向错误容器。工具和函数应在审核前保持禁用。将 webui 卷与 .env 一起备份,保留密钥,因为存储的凭据可能依赖它。模型卷可能很大;若打算重新下载权重而非复制,请保留模型标识。

更新与恢复

升级前停止应用以制作一致性备份,将数据和密钥保留在 VPS 之外,并在独立实例测试恢复。示例中的浮动镜像标签用于初期评估;长期使用前请固定已审核的版本或摘要。可通过 sudo docker image inspect IMAGE_NAME --format '{{json .RepoDigests}}' 记录当前摘要。不要在未检查兼容性时无人值守升级,也不要用 down -v 删除持久卷。

启动失败时,请检查 sudo docker compose ps、近期日志、剩余磁盘和内存。不要分享包含密钥、提示词或个人数据的日志。目录权限出错时,应核对预期 UID/GID 与所有权,不要授予 777。共享访问前请配置 HTTPS、认证和请求限制。

相关部署