适用场景与部署思路

Yi 是常见的开源大语言模型系列，适合用于企业知识问答、内部助手、文本生成、代码辅助和轻量级智能客服等场景。在 Ubuntu 服务器上部署时，普通用户最容易上手的方案是使用 Ollama 负责模型下载、加载和推理，再用 Open WebUI 提供网页端对话与后台管理入口。这样做的好处是安装链路短、命令少、后续更换模型也方便。

本教程默认系统为 Ubuntu 22.04 或 24.04，服务器可为本地机房主机或云主机。若只是测试，8GB 内存可尝试较小模型；若希望获得更稳定的响应速度，建议 16GB 以上内存。使用显卡时，建议提前安装匹配的 NVIDIA 驱动，并确认 nvidia-smi 能正常显示设备信息。没有显卡也可以运行，但速度会明显受限。

安装前准备

先更新系统基础组件，避免后续依赖异常。登录服务器后执行：sudo apt update && sudo apt upgrade -y。随后安装常用工具：sudo apt install -y curl wget git ca-certificates。如果服务器启用了防火墙，需要规划端口：Ollama 默认使用 11434，Open WebUI 对外常用 3000。生产环境不建议直接暴露 Ollama 接口，网页端也应限制访问来源。

如果需要使用容器方式部署后台页面，还要安装 Docker。可执行：curl -fsSL https://get.docker.com | sudo sh，安装完成后将当前用户加入 docker 组：sudo usermod -aG docker $USER。重新登录后用 docker ps 验证是否可用。若提示权限不足，通常是用户组未生效，退出终端重新连接即可。

安装 Ollama 并下载 Yi

安装 Ollama 可使用官方脚本：curl -fsSL https://ollama.com/install.sh | sh。安装完成后检查服务状态：systemctl status ollama。若未运行，可执行：sudo systemctl enable --now ollama。默认情况下，Ollama 会在本机 11434 端口提供服务。

下载并运行 Yi 模型的命令为：ollama run yi。首次执行会自动拉取模型文件，耗时取决于网络环境和磁盘速度。下载完成后，终端会进入对话模式，可以直接输入中文问题测试效果。若想查看已安装模型，执行：ollama list；删除不再使用的模型可执行：ollama rm yi。

若服务器资源较有限，应优先选择参数量较小的版本；若追求更好的理解能力，可以在硬件允许时选择更大的 Yi 变体。部署前要预留足够磁盘空间，模型文件往往达到数 GB 到数十 GB。建议将模型目录放在容量充足的磁盘分区，并定期清理不用的模型。

配置远程访问与服务检查

默认 Ollama 只适合本机调用。如果确实需要让 Open WebUI 或其他内网服务访问，可修改服务环境变量。编辑服务配置：sudo systemctl edit ollama，加入：[Service] Environment="OLLAMA_HOST=0.0.0.0:11434"。保存后执行：sudo systemctl daemon-reload && sudo systemctl restart ollama。

完成后在服务器本机测试：curl http://127.0.0.1:11434/api/tags。若返回模型列表，说明接口正常。安全上不建议把 11434 端口直接对公网开放，因为该接口可触发模型推理并消耗算力。更稳妥的做法是只允许 Open WebUI 所在主机访问，或通过内网地址调用。

安装 Open WebUI 并进入后台

Open WebUI 可提供类似聊天产品的界面，并带有用户、模型、系统提示词等管理能力。使用 Docker 部署较简单，执行：docker run -d --name open-webui -p 3000:8080 -e OLLAMA_BASE_URL=http://宿主机IP:11434 -v open-webui:/app/backend/data --restart always ghcr.io/open-webui/open-webui:main。如果 Ollama 与 Open WebUI 在同一台服务器上，部分环境可将地址写为 http://host.docker.internal:11434；若不可用，建议填写服务器内网 IP。

容器启动后，浏览器访问：http://服务器IP:3000。首次打开时需要创建管理员账号，系统通常会将第一个注册用户设为管理员。登录后可在页面左下角或用户菜单中进入管理区域，常见入口名称为 Admin Panel 或管理员面板。这里可以管理用户、查看已连接模型、设置默认模型、调整注册开关，以及配置对话相关参数。

如果页面能打开但没有模型，重点检查 OLLAMA_BASE_URL 是否写错、11434 端口是否被防火墙拦截、Ollama 服务是否正常运行。可进入容器查看日志：docker logs -f open-webui。修改环境变量后，通常需要删除旧容器并用正确参数重新创建，数据卷 open-webui 会保留后台配置和用户数据。

运行验证与基础使用

进入网页端后，新建对话并选择 Yi 模型，输入一段中文问题进行测试。若响应正常，说明安装链路已完成。建议再测试三类内容：短问题、长文本总结、带格式要求的生成任务。这样能大致判断模型是否适合你的业务场景。

若要通过接口调用，可使用 Ollama 的本地 API。例如应用后端向 http://127.0.0.1:11434/api/generate 发送请求，指定模型名为 yi。生产环境建议让业务系统与模型服务部署在同一内网，不要让未鉴权的接口直接面向外部访问。

常见问题排查

第一，执行 ollama run yi 很慢或中断。通常与网络质量、磁盘空间或临时连接不稳定有关，可重新执行同一命令继续下载，并检查 df -h 是否还有足够空间。

第二，网页端提示连接失败。先用 curl http://服务器IP:11434/api/tags 在服务器内测试，再检查 Docker 容器中的地址是否可达。若服务器启用了安全组或防火墙，需要放行 3000 给访问者，11434 则尽量只对内网开放。

第三，推理速度慢。可检查是否使用到显卡：nvidia-smi 中应能看到进程占用。若没有显卡，建议减少并发、改用更小模型，或缩短上下文长度。后台页面中也不要同时给大量用户开放高并发对话。

第四，内存不足导致服务退出。可通过 journalctl -u ollama -f 查看日志。解决方式包括增加内存、启用更小模型、关闭其他占用资源的进程，或给服务器增加交换分区，但交换分区只能缓解崩溃，不能显著提升速度。

安全边界与维护建议

部署 AI 工具时，安全边界要提前设定。管理员账号应使用高强度密码，关闭不必要的公开注册；多人使用时按角色分配权限，避免所有人都拥有管理能力。对话内容可能包含内部资料，建议在团队使用规范中明确哪些信息不能输入模型，并定期清理无用日志和历史记录。

模型输出并不等同于事实结论，涉及合规、合同、医疗、财务等高风险场景时，应保留人工审核环节。Yi 适合作为辅助工具，而不是替代责任主体。对外提供服务时，还需要设置访问频率限制和资源监控，防止单个用户占满算力。

日常维护可重点关注三件事：一是定期执行 ollama list 清理不用模型；二是观察 docker logs 与系统资源，及时发现异常；三是在升级 Open WebUI 前备份数据卷。若升级后出现问题，可停止新容器并使用旧镜像重新启动，只要数据卷未删除，用户与配置通常可以恢复。

总体来看，Ubuntu 上安装 Yi 的关键不在命令本身，而在资源规划、入口管控和后续维护。测试环境可以快速跑通，正式环境则应把端口、账号、备份、监控和使用规范一起纳入部署清单，才能让 AI 工具稳定、安全地服务真实业务。

《夸克》非常好用的免费AI浏览器

下载APP查看