知识库
下方显示公开文章。登录后可查看客户专属文章。 登录
AI 部署与现代技术
实用 VPS/VDS 项目,涵盖 AI 助手、本地语言模型、私有聊天、工作流、模型网关与文档搜索。
AnythingLLM 将模型连接、文档检索和工作区整合在一起,可搜索少量手册或内部笔记,并为不同项目建立独立工作区。检索增强生成(RAG)向模型提供相关文档片段,并不保证回答正确,也不会自动训练模型。 目标环境: Ubuntu Server 24.04 LTS、x86-64、SSH 和 sudo 账户。文档审核日期:2026 年 11 月 15 日。命令尚未在 Ubuntu 上完成端到端测试。 开始之前 使用外部模型 API 的小型文档工作区可预留约 2–4 个 vCPU、4–8 GB 内存和…
LiteLLM 为应用提供通向受支持模型服务商的统一网关。它可提供稳定的模型别名,避免后端变更时逐一修改客户端。此精简示例不使用数据库,通过主密钥认证,并将请求转发至私有 Ollama 模型。 目标环境: Ubuntu Server 24.04 LTS、x86-64、SSH 和 sudo 账户。文档审核日期:2026 年 11 月 15 日。命令尚未在 Ubuntu 上完成端到端测试。 开始之前 小型本地模型评估可预留约 2 个 vCPU、4 GB 内存和 10 GB 磁盘;更大模型需要更多资源…
llama.cpp 是一种轻量模型运行环境,支持量化 GGUF 权重及内置服务器。需要明确控制模型文件、CPU 线程和上下文长度时,它是实用的选择。本指南通过 SSH 访问需要认证的 API,并使用您自行选择和验证的模型文件。 目标环境: Ubuntu Server 24.04 LTS、x86-64、SSH 和 sudo 账户。文档审核日期:2026 年 11 月 15 日。命令尚未在 Ubuntu 上完成端到端测试。 开始之前 对于 0.5–1.5B 的小型量化文本模型,可先预留约 2–4 个…
Open WebUI 提供与模型服务器对话的浏览器界面。本方案包含私有 Ollama 后端和小型模型,无需将后端公开到互联网即可测试完整聊天流程。Open WebUI 有自己的许可证和品牌条款,自行托管不代表可以无限制更改品牌。 目标环境: Ubuntu Server 24.04 LTS、x86-64、SSH 和 sudo 账户。文档审核日期:2026 年 11 月 15 日。命令尚未在 Ubuntu 上完成端到端测试。 开始之前 此小型模型组合评估可预留约 4 个 vCPU、8 GB 内存和…
Ollama 可下载语言模型,并通过简单的本地 API 提供服务。CPU VPS 适合学习、轻量文本实验和私有原型,但服务能启动不代表大模型运行迅速。此处以 Qwen2.5 0.5B 作为小型、可重复的基础测试,并非将它推荐为所有任务的最佳模型。 目标环境: Ubuntu Server 24.04 LTS、x86-64、SSH 和 sudo 账户。文档审核日期:2026 年 11 月 15 日。命令尚未在 Ubuntu 上完成端到端测试。 开始之前 评估可从约 2 个 vCPU、4 GB 内存和…
Flowise 可通过可视化方式连接模型调用、检索和应用逻辑。先建立用于起草或分类的简单提示词到回答流程,文本路径可靠后再添加工具执行。本例使用当前邮箱/密码管理员流程,而非已弃用的基本用户名环境变量。 目标环境: Ubuntu Server 24.04 LTS、x86-64、SSH 和 sudo 账户。文档审核日期:2026 年 11 月 15 日。命令尚未在 Ubuntu 上完成端到端测试。 开始之前 使用外部推理时,可规划约 2–4 个 vCPU、4 GB 内存和 15 GB 可用磁盘。更…
OpenClaw 是连接模型、工具和对话的智能体运行环境。可以用独立 VPS 评估工作助手,无需授予它访问笔记本文件或公司生产凭据的权限。本指南从私有且受限的助手开始;邮件、浏览器和 shell 集成需日后明确添加,此处不启用。 目标环境: Ubuntu Server 24.04 LTS、x86-64、SSH 和 sudo 账户。文档审核日期:2026 年 11 月 15 日。命令尚未在 Ubuntu 上完成端到端测试。 开始之前 使用外部模型 API 的预构建网关可预留约 2 个 vCPU、4…
Qdrant 存储用于相似性搜索的向量和关联元数据。它是 AI 知识系统的基础设施,本身不是语言模型或聊天机器人。独立嵌入模型将文本转成向量,应用先检索相关片段,再请求语言模型回答。 目标环境: Ubuntu Server 24.04 LTS、x86-64、SSH 和 sudo 账户。文档审核日期:2026 年 11 月 15 日。命令尚未在 Ubuntu 上完成端到端测试。 开始之前 小规模评估可从约 2 个 vCPU、4 GB 内存和 15 GB 可用磁盘开始。存储与内存取决于向量数量、维度…