1. 前言

Ollama 是本地启动大型语言模型最简单的方法。支持的模型包括 gpt-oss、Gemma 3、DeepSeek-R1、Qwen3 等。这一点在社区里几乎没什么争议。

本文主要介绍在 Linux 平台上安装和升级 Ollama。系统环境为 Ubuntu 22.04.4 LTS。

最早接触 Ollama 还是 0.3.11 版本，大概是一年多前的事。现在最新版本已更新到 0.19.0。为了用上新模型，必须升级版本，所以顺手记录整个过程。

2. 安装

安装方式很简单，官方提供的命令就一行：

curl -fsSL https://ollama.com/install.sh | sh

但这行命令有个前提——网络必须畅通无阻。一旦网络不稳定或中途断开，安装过程很容易卡住，甚至直接失败。

更稳妥的做法：提前把安装包下载到本地，然后手动安装。这样至少不会被网络问题折腾。

3. 手动安装

官方也提供了手动安装的命令：

curl -fsSL https://ollama.com/download/ollama-linux-amd64.tar.zst 
    | sudo tar x -C /usr

这行命令本质上还是在线下载，只是把解压步骤合并了。所以，同样的网络问题依然存在。

因此更推荐的做法：提前去 Ollama 的 GitHub 发布页面（https://github.com/ollama/ollama/releases）把软件包下载到本地。注意，这里需要科学上网。

要特别说明：这次用的是 NVIDIA 显卡，所以下载的是 ollama-linux-amd64.tar.zst 版本。不同显卡和系统架构对应的包名不一样，下载时请看清。

下载完成后，手动解压安装：

sudo tar --zstd -xvf 自己下载的路径/ollama-linux-amd64.tar.zst -C /usr

安装完成后，验证一下：

• 启动服务：ollama serve
• 在另一个终端中确认运行状态：ollama -v

3.1 添加 Ollama 作为启动服务

为了让 Ollama 开机自启，需要创建一个专门的用户和用户组：

sudo useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama
sudo usermod -a -G ollama $(whoami)

然后创建服务文件 /etc/systemd/system/ollama.service：

[Unit]
Description=Ollama Service
After=network-online.target
[Service]
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=$PATH"
[Install]
WantedBy=multi-user.target

接下来，设置成启动服务：

sudo systemctl daemon-reload
sudo systemctl enable ollama

最后启动服务并确认状态：

sudo systemctl start ollama
sudo systemctl status ollama

这样一来，Ollama 就会在系统启动时自动运行。

3.2 配置 Ollama 服务器

Ollama 以 systemd 服务的形式运行，环境变量可以通过 systemctl 来设置。

1. 执行 systemctl edit ollama.service 打开编辑界面。
2. 在 [Service] 部分添加需要的 Environment 行：

[Unit]
Description=Ollama Service
After=network-online.target
[Service]
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=$PATH"
Environment="OLLAMA_HOST=0.0.0.0:11434"
Environment="OLLAMA_ORIGINS=*"
Environment="OLLAMA_NUM_PARALLEL=20"
Environment="OLLAMA_MAX_LOADED_MODELS=3"
Environment="OLLAMA_KEEP_ALIVE=5m"
[Install]
WantedBy=default.target

为什么要配这些？ 简单来说：

• OLLAMA_HOST：指定服务监听的 IP 和端口。设为 0.0.0.0:11434，即允许所有网络接口访问。
• OLLAMA_ORIGINS：允许的跨域来源。设为 * 表示全部放行。
• OLLAMA_NUM_PARALLEL：每个模型允许的并发请求数。设成 20，适合高并发场景。
• OLLAMA_MAX_LOADED_MODELS：最多同时加载 3 个模型，避免内存被撑爆。
• OLLAMA_KEEP_ALIVE：模型保持活动的时间。设为 5 分钟，防止频繁加载卸载。

3. 保存后退出编辑器。
4. 重新加载配置并重启服务：

systemctl daemon-reload
systemctl restart ollama

4. 版本升级

升级 Ollama 其实比想象中简单。核心思路就两步：删除旧库，然后下载新版本重新安装。

先删除旧库：

sudo rm -rf /usr/lib/ollama

然后手动下载对应版本的软件包，解压安装：

sudo tar --zstd -xvf 自己下载的路径/ollama-linux-amd64.tar.zst -C /usr

最后重启 Ollama 服务，新版就生效了。

5. 查看日志

如果遇到问题，需要查看日志时，直接运行以下命令：

journalctl -e -u ollama

这样就能看到完整的运行记录，方便排查问题。

6. 卸载

要彻底卸载 Ollama，需要清理服务、库文件、二进制文件、模型以及用户和组。

先停掉服务并禁用自启：

sudo systemctl stop ollama
sudo systemctl disable ollama
sudo rm /etc/systemd/system/ollama.service

然后移除库文件（注意路径可能因系统而异，常见的有 /usr/local/lib、/usr/lib 或 /lib）：

sudo rm -r $(which ollama | tr 'bin' 'lib')

接着删除二进制文件（可能位于 /usr/local/bin、/usr/bin 或 /bin）：

sudo rm $(which ollama)

最后清理用户、组和模型：

sudo userdel ollama
sudo groupdel ollama
sudo rm -r /usr/share/ollama

执行这些命令时请务必谨慎，确认路径正确后再下手，避免误删系统文件。