获取与安装Ollama

Ollama的安装过程简洁明了，主要依赖于官方提供的安装程序或脚本。

对于Windows用户，访问Ollama官网下载页面，获取后缀为.exe的安装程序，双击运行即可完成安装。安装程序会自动处理路径设置。

macOS用户同样可以从官网下载.dmg镜像文件，拖拽应用程序到“应用程序”文件夹。或者，也可以在终端中直接运行官方提供的安装命令。

Linux用户的安装方式最为灵活。既可以通过包管理器（如AUR、Snap）安装，也可以直接运行一行curl命令从官网拉取安装脚本并执行。

无论哪种系统，安装完成后，通常可以在终端或命令提示符中输入“ollama --version”来验证安装是否成功。

安装后的基础配置

成功安装Ollama后，建议先完成一些基础配置，以提升使用体验。

环境变量检查

首先是环境变量。虽然安装程序通常会自动设置，但手动检查或添加OLLAMA_HOST等变量，可以用于自定义服务监听地址。

模型存储路径

其次是模型存储路径。Ollama默认会将下载的模型存储在用户目录下的特定文件夹中，例如Windows的%USERPROFILE%.ollama。

了解这个位置，有助于管理磁盘空间，也方便后续备份模型。

本地服务与端口

启动Ollama服务后，它会默认在本地11434端口提供一个HTTP API服务。这是后续所有调用的基础。

确保服务正常运行，可以通过访问 http://localhost:11434 来查看API版本信息。

通过命令行与模型交互

最直接的Ollama使用方式是通过命令行。

安装后，你可以使用“ollama run”命令来拉取和运行模型。例如，输入“ollama run llama2”会自动下载（如果尚未下载）并启动Meta的Llama 2模型，进入一个交互式对话界面。

常用命令

• “ollama list”：查看本地已下载的模型
• “ollama ps”：显示当前正在运行的模型实例
• “ollama stop”：停止某个运行中的模型

对于需要生成较长文本或处理文件内容的场景，可以将输入内容通过管道传递给ollama run命令，实现非交互式的文本生成。

配置与调用Ollama API

Ollama的核心能力通过其提供的RESTful API暴露出来，这使得它可以被其他应用程序集成。

主要API端点

• 向“/api/generate”发送POST请求可以进行文本生成对话
• 向“/api/chat”发送请求则使用专为对话优化的格式
• “/api/tags”可以获取本地模型列表

请求参数说明

调用API时，需要构造一个JSON格式的请求体。其中通常包含“model”（指定使用的模型名）、“prompt”（输入提示词）、“stream”（是否启用流式输出）等关键参数。

调用示例

一个简单的调用示例是使用curl工具：curl -X POST http://localhost:11434/api/generate -d '{"model": "llama2", "prompt": "为什么天空是蓝色的？"}'。

服务器会返回一个包含生成文本的JSON响应。

在代码中集成Ollama

将Ollama集成到自己的Python、Ja vaScript等项目中，能极大扩展其应用场景。

以Python为例，除了直接使用requests库发送HTTP请求到上述API端点，社区也有更便捷的客户端库，如通过pip安装的“ollama”库。

安装后，在代码中导入并调用client.chat或client.generate函数，即可像调用本地函数一样与模型交互。库会帮你处理请求构造和响应解析。

对于需要复杂交互逻辑的应用，如构建带有记忆功能的聊天机器人，可以通过维护对话历史列表，并在每次API调用时将其作为上下文发送，来实现连续对话的效果。

同样，在其他编程生态中，也可以找到相应的SDK或遵循相同的HTTP API协议进行调用。