AnythingLLM 将模型连接、文档检索和工作区整合在一起,可搜索少量手册或内部笔记,并为不同项目建立独立工作区。检索增强生成(RAG)向模型提供相关文档片段,并不保证回答正确,也不会自动训练模型。
目标环境: Ubuntu Server 24.04 LTS、x86-64、SSH 和 sudo 账户。文档审核日期:2026 年 11 月 15 日。命令尚未在 Ubuntu 上完成端到端测试。
开始之前
使用外部模型 API 的小型文档工作区可预留约 2–4 个 vCPU、4–8 GB 内存和 20 GB 可用磁盘。本地生成与本地嵌入需要额外内存和 CPU。请选择聊天服务商与嵌入服务商,两者的隐私和计费设置独立。
这些资源数值仅为小规模评估的规划估算,不是性能保证或套餐规格。VPS/VDS 不代表包含 GPU。下单前请检查可用内存、存储和其他资源。
全新 Ubuntu 可使用以下软件包。如果 Docker 已从其他仓库安装,请保留并先检查兼容性,不要混用 Docker CE 和 docker.io 软件包。使用 Compose v2;缺少软件包时,请检查是否启用 Ubuntu Universe。
sudo apt update
sudo apt install -y docker.io docker-compose-v2 curl openssl
sudo systemctl enable --now docker
sudo docker compose version
所有示例仅将端口发布到服务器的 127.0.0.1。请从本机通过 SSH 隧道访问,无需域名。不要将这些端口开放到互联网。容器内部监听 0.0.0.0 不会改变宿主机端口仅绑定回环地址的事实。
以下项目均为全新安装。不要对现有部署重新执行密钥生成步骤。
1. 持久化存储与应用设置
创建容器 UID 1000 可写的存储目录及持久设置文件。将配置保存为 compose.yaml。此基础文本和文档方案不启用高权限浏览器功能。
umask 077
mkdir -p ~/ai-anythingllm
cd ~/ai-anythingllm
sudo install -d -m 700 -o 1000 -g 1000 storage
sudo touch storage/.env
sudo chown 1000:1000 storage/.env
sudo chmod 600 storage/.env
services:
anythingllm:
image: mintplexlabs/anythingllm:latest
restart: unless-stopped
ports:
- "127.0.0.1:3001:3001"
environment:
STORAGE_DIR: /app/server/storage
volumes:
- ./storage:/app/server/storage
- ./storage/.env:/app/server/.env
2. 私下打开设置界面
在 VPS 启动服务,从本机建立隧道,然后访问 http://127.0.0.1:3001。完成设置,选择密码保护或多用户访问,并保持工作区私有。在应用内选择服务商,不要把 API 密钥写进公开脚本。
sudo docker compose up -d
sudo docker compose ps
curl --fail-with-body http://127.0.0.1:3001/
ssh -N -L 127.0.0.1:3001:127.0.0.1:3001 YOUR_USER@YOUR_SERVER_IP
3. 使用受控文档验证检索
创建纯文本示例,包含唯一的虚构项目名称和简短事实。上传文档并添加到一个工作区,等待嵌入和索引完成。询问该事实,并检查检索出的片段。也应询问无关问题:没有证据时不应生成虚构引用。工作中使用回答前,请核对原文。
4. 了解数据流向
外部聊天模型可能收到检索文本,外部嵌入服务商可能收到文档片段。自行托管界面并不意味着这些请求都在本地。最初不要启用智能体、连接器或网页抓取,只添加实际需要的功能。应用停止时备份完整存储目录,包括隐藏的 .env 与密钥。从一个工作区删除文档,并不构成覆盖上传文件、日志、导出和备份的完整保留策略。
更新与恢复
升级前停止应用以制作一致性备份,将数据和密钥保留在 VPS 之外,并在独立实例测试恢复。示例中的浮动镜像标签用于初期评估;长期使用前请固定已审核的版本或摘要。可通过 sudo docker image inspect IMAGE_NAME --format '{{json .RepoDigests}}' 记录当前摘要。不要在未检查兼容性时无人值守升级,也不要用 down -v 删除持久卷。
启动失败时,请检查 sudo docker compose ps、近期日志、剩余磁盘和内存。不要分享包含密钥、提示词或个人数据的日志。目录权限出错时,应核对预期 UID/GID 与所有权,不要授予 777。共享访问前请配置 HTTPS、认证和请求限制。