Ollama 提供了多种命令行工具(CLI)供用户与本地运行的模型进行交互。

基本格式:
ollama [args]
我们可以用 ollama --help 查看包含有哪些命令:
Large language model runnerUsage: ollama [flags] ollama [command]Available Commands: serve Start ollama create Create a model from a Modelfile show Show information for a model run Run a model stop Stop a running model pull Pull a model from a registry push Push a model to a registry list List models ps List running models cp Copy a model rm Remove a model help Help about any commandFlags: -h, --help help for ollama -v, --version Show version information
ollama [flags]:使用标志(flags)运行 ollama。
ollama [command]:运行 ollama 的某个具体命令。
serve:启动 ollama 服务。
create:根据一个 Modelfile 创建一个模型。
show:显示某个模型的详细信息。
run:运行一个模型。
stop:停止一个正在运行的模型。
pull:从一个模型仓库(registry)拉取一个模型。
push:将一个模型推送到一个模型仓库。
list:列出所有模型。
ps:列出所有正在运行的模型。
cp:复制一个模型。
rm:删除一个模型。
help:获取关于任何命令的帮助信息。
完整示例:
| 命令 (Command) | 说明 (Description) | 示例 (Example) |
|---|---|---|
ollama run | 运行模型。如果不存在则自动拉取。 | ollama run llama3 |
ollama pull | 拉取模型。从库中下载模型但不运行。 | ollama pull mistral |
ollama list | 列出模型。显示本地所有已下载的模型。 | ollama list |
ollama rm | 删除模型。移除本地模型释放空间。 | ollama rm llama3 |
ollama cp | 复制模型。将现有模型复制为新名称(用于测试)。 | ollama cp llama3 my-model |
ollama create | 创建模型。根据 Modelfile 创建自定义模型(高级)。 | ollama create my-bot -f ./Modelfile |
ollama show | 显示信息。查看模型的元数据、参数或 Modelfile。 | ollama show --modelfile llama3 |
ollama ps | 查看进程。显示当前正在运行的模型及显存占用。 | ollama ps |
ollama push | 推送模型。将你自定义的模型上传到 ollama.com。 | ollama push my-username/my-model |
ollama serve | 启动服务。启动 Ollama 的 API 服务(通常后台自动运行)。 | ollama serve |
ollama help | 帮助。查看任何命令的帮助信息。 | ollama help run |
pull拉取远端模型到本地。
ollama pull
rm / remove删除本地模型。
ollama rm
list / ls列出所有本地模型。
ollama list
run交互模式运行模型,不退出。
ollama run
可带系统信息与 prompt:
ollama run -s "" -p ""
run + script从文件读取 prompt:
ollama run < input.txt
当你输入 ollama run 进入聊天界面后,你不再是在操作命令行,而是在和 AI 对话。这时你可以使用以 / 开头的快捷指令来控制对话:
/bye 或 /exit:最重要! 退出聊天界面,返回命令行。/clear:清空当前的上下文记忆(开启一段新的对话)。/show info:查看当前模型的详细参数信息。/set parameter seed 123:设置随机种子(高级玩法,用于复现结果)。/help:在聊天中查看所有可用的快捷键。generate执行单次推理,输出文本。
ollama generate -p ""
create用 Modelfile 创建本地模型。
ollama create -f Modelfile
cp复制一个模型为新名字。
ollama cp
serve启动 Ollama 本地服务(默认 11434)。
ollama serve
run serverless当 ollama run 时会自动拉起后台服务,不需单独执行。
show查看模型元数据、参数、模板。
ollama show
这些参数多数可用于 run/generate:
--num-predict 限制输出 token 数--temperature 控制随机性--top-k 采样范围--top-p 核采样--seed 固定随机性--format json 输出 JSON--keepalive 会话保持时间
构建模型时使用:
REST 端点(默认 http://localhost:11434/api):
/api/generate:文本生成/api/chat:对话流式接口/api/pull:远程拉取/api/tags:本地模型列表调用示例(curl):
curl http://localhost:11434/api/generate -d '{"model":"qwen2.5","prompt":"hello"}'自定义参数运行:
ollama run --temperature 0.2 --top-p 0.9