在终端里跑大模型:llm 命令行工具怎么用
一个命令行工具装好之后,调用几十个模型都只差一个 -m 参数。这篇讲 llm 的安装、装插件、存 key、换模型、调参数,并实测两个新手最容易踩的坑:思考强度不是越高越好(max 档烧掉 128,000 个 token 反而没出图),以及换个模型价签就全变(Gemini 4 三个型号的完整定价表,12 月 1 日有两档翻倍)。

这个工具解决什么问题
想在终端里调用一个大模型,通常意味着自己写十几行代码:读环境变量、拼请求体、处理流式返回、解析错误。
写一次就够,写第二次开始烦。
llm 是 Simon Willison 做的命令行工具兼 Python 库。它对 OpenAI、Anthropic 的 Claude、Google 的 Gemini、Qwen、Gemma、Kimi、DeepSeek、Mistral 等几十个模型提供统一入口。
它既能走远程 API,也能驱动本地跑起来的模型。
装好之后,调用一个模型就是一行:
llm -m claude-sonnet-5 'Tell me some fun facts about turnips'
不指定 -m 时,默认用 gpt-6-luna。
这篇讲怎么把它装起来、用起来,以及新手最容易踩的两个坑:模型选错了怎么办、思考强度是不是越高越好。
装:四条命令,挑一条
官方文档给了四种装法,选一条就行:
pip install llm
brew install llm
pipx install llm
uv tool install llm
pipx 和 uv tool 的好处是把工具装进独立环境,不跟系统 Python 的依赖打架。
Homebrew 那条官方文档专门标了警告提示,装之前自己看一眼。
想先试试再决定装不装,可以用 uvx 临时跑一次,不用安装。比如对着本地跑着的 LM Studio 这类 OpenAI 兼容端点:
uvx llm openai endpoint http://localhost:1234/v1 \
-m google/gemma-4-12b \
"What is the capital of France?"
加上 --chat 就进对话模式。
配:装插件、存 key、跑第一条
模型不在内置列表里,要先装对应的插件。llm 自己不带任何模型的访问权,插件才是那一侧的桥。
llm install llm-anthropic
llm keys set anthropic
# 在这里粘贴你的 Anthropic API key
llm -m claude-sonnet-5 'Impress me with wild facts about turnips'
Gemini 的流程一样,插件名换成 llm-gemini,模型名换成 gemini-3.5-flash。官方文档里的示例是:
llm install llm-gemini
llm keys set gemini
llm -m gemini-3.5-flash 'Tell me fun facts about Mountain View'
key 存好之后就不用再管了。llm keys set 这一步是交互式的,粘贴的时候终端不回显,属于正常现象。
换模型:先看清有哪些选项
-m 后面跟的模型名,决定了这次请求走谁。想看有哪些,直接问工具本身:
llm models
想知道某个模型支持哪些可调参数,用这两条:
llm models --options
llm -m gpt-5.5 --options
调参数用 -o(长写法 --option),后面跟参数名和值。官方文档举的例子是调温度:
llm 'Ten names for cheesecakes' -o temperature 1.5
对话模式下同样适用:
llm chat -m gpt-4.1 -o temperature 0.5
坑一:思考强度不是越高越好
这是新手最容易顺手拉满的一个参数,也是最容易白花钱的一个。
llm 支持一个 reasoning_effort 选项。官方文档对它的说明是:用于约束推理模型的思考强度,目前支持 low、medium、high 三个值。
降低思考强度能让响应更快,消耗更少的推理 token。
Simon Willison 在 2026 年 11 月 9 日记录 Anthropic 发布 Fable 5.2 和 Mythos 5.2 时,做过一次实测。他用这个工具跑了同一个出图提示词的五档思考强度:low、medium、high、xhigh、max。
结果是最好的一张图来自 xhigh,而不是最高的 max。而 max 档根本没有返回图像——它花了 128,000 个思考 token 之后因为 token 用尽而中断。
他同时记了这个毛病不是第一次出现:Opus 5.5 有同样的问题。
但对 Fable 系列是新的,Fable 5 和 Fable 5.1 的 max 档都正常出图。
| 思考档位 | 实测结果 |
|---|---|
| low / medium / high | 正常返回 |
| xhigh | 本次最好的一张 |
| max | 烧掉 128,000 思考 token 后未返回图像 |
结论很直接:档位是可以试的,但别默认往最高档拉。先用默认档拿到结果,需要更好再往上挪一格,挪一格就重新看一眼输出。
坑二:换个模型,价签全变
llm 的价值之一是换模型只改一个词,但每家的价签不一样,模型名一旦选错,账单和预期都会跑偏。
Simon 在 11 月 10 日和 12 日连续记录了 Google 的 Gemini 4 家族。
11 月 10 日那篇说,Gemini 4 Carbon 两周前发布时只对「一部分网络防御人员」开放,当天开始对所有人开放。
发布价是输入每百万 token 2 美元、输出 10 美元,并定于 12 月 1 日翻倍到 4 美元和 20 美元。
11 月 12 日那篇给出了完整的家族定价表(单位:每百万 token):
| 模型 | 生效期 | 输入 | 缓存输入 | 输出 |
|---|---|---|---|---|
| Gemini 4 Carbon | 至 2026-11-30 | $2.00 | $0.10 | $10.00 |
| Gemini 4 Carbon | 自 2026-12-01 | $4.00 | $0.20 | $20.00 |
| Gemini 4 Argon | 至 2026-11-30 | $2.00 | $0.10 | $10.00 |
| Gemini 4 Argon | 自 2026-12-01 | $4.00 | $0.20 | $20.00 |
| Gemini 4 Hydrogen | 无变更 | $1.50 | $0.075 | $7.50 |
几个要点。Carbon 和 Argon 同价,Google 对 Argon 的说法是它提供与 Carbon 相同的 Gemini 4 智能水平,但响应更快、每轮消耗的 token 更少。
Hydrogen 是最便宜的那个,但当时相对同门只便宜 25%,12 月 1 日之后才变成 75% 的折扣——因为另外两个要翻倍。
Hydrogen 是 Gemini 4 家族新的免费层模型,也是 Google 搜索里 AI 功能用的那个模型。
Simon 顺带做了个横向对比:Claude Haiku 5.5 和 GPT-6 Luna 都是输入 0.10 美元、输出 0.50 美元,Hydrogen 是那个价格的 15 倍。
选型时的实际顺序是:先用免费层那个跑通流程,确认要花钱了再挑型号,付钱之前记得看 12 月 1 日这个日期。
三个常用进阶
读文件。管道接进 llm 就行,-s 给系统提示词:
cat myfile.py | llm -s "Explain this code"
看图。-a 挂图片:
llm "extract text" -a scanned-document.jpg
对话。llm chat -m gpt-4.1 进对话模式,里面有几个好用的指令。
!multi 开始多行输入、!end 结束,!edit 打开默认编辑器改提示词,!fragment <name> 插入预设片段。
资料来源与未核实项
本文事实与数字来自:
llm官方文档(https://llm.datasette.io/ ↗ 与 https://llm.datasette.io/en/stable/usage.html):四种安装方式、默认模型为 ↗gpt-6-luna、llm keys set与插件安装流程、-m与-o的用法、llm chat的交互指令、读文件与读图的写法、uvx免安装试用本地兼容端点,以及reasoning_effort选项的说明。- Simon Willison 2026-11-09 关于 llm-anthropic 0.31 的记录(https://simonwillison.net/2026/Nov/9/llm-anthropic/):Anthropic ↗ 发布 Fable 5.2 与 Mythos 5.2、完整的调用命令写法、五档思考强度的实测结果与 max 档烧掉 128,000 思考 token 的情况,以及 Fable 5.2 的定价。
- Simon Willison 2026-11-10 关于 llm-gemini 0.36 的记录(https://simonwillison.net/2026/Nov/10/llm-gemini/):Gemini ↗ 4 Carbon 的开放范围、发布价与 12 月 1 日翻倍,以及默认思考强度。
- Simon Willison 2026-11-12 关于 llm-gemini 0.37 的记录(https://simonwillison.net/2026/Nov/12/llm-gemini/):Gemini ↗ 4 家族的完整定价表、Carbon 与 Argon 同价的说明、Hydrogen 的折扣变化,以及它与 Claude Haiku 5.5、GPT-6 Luna 的价格对比。
各来源逐条核对的具体数字、字段与表述,见本文对应的核实记录。核对日期 2026-11-16。
没做的事:没有在本机安装 llm 并实际执行上述任何一条命令,本文的命令与参数均照官方文档与 Simon Willison 的记录转述;没有申请或使用任何一家的 API key,因此没有实测任何一次调用、耗时与账单;没有复算各档价格的实际支出。
需要注意的口径:官方文档写明 reasoning_effort 目前支持 low、medium、high 三值,而 Simon Willison 在 Anthropic 插件上实测到 low、medium、high、xhigh、max 五个档位。
两处不一致,可能是不同模型家族的取值范围不同,本文两处都记。文中五档实测表格记录的是他在 2026 年 11 月 9 日的一次出图测试结果,不代表所有模型与所有任务的普遍规律。
价格均为报道或官方文档给出的公开标价,未包含缓存命中优惠、活动价与税费;12 月 1 日的翻倍是官方文档写明的排期,实际调整时间以厂商公告为准。
会打开终端并粘贴一行命令;知道 API key 大致是什么
适用范围:基于 2026 年 11 月 9 至 12 日的发布记录与 llm 官方文档,核对至 2026-11-16
以下来源方便你逐项对照;引用文档不代表已经完成实际操作测试。 本文标注为 AI 辅助起草。
- 核对了什么:Simon Willison 2026-11-12 关于 llm-gemini 0.37 的记录。Gemini 4 家族完整定价表(Carbon 与 Argon 在 11 月 30 日前后两档的输入/缓存输入/输出价格、Hydrogen 恒定 1.50/0.075/7.50)、Carbon 与 Argon 同价而 Google 称 Argon 响应更快且每轮 token 更省、Hydrogen 当时仅 25% 折扣而12 月 1 日后为 75%、相对 Claude Haiku 5.5 与 GPT-6 Luna(均为 0.10/0.50)是 15 倍、Hydrogen 为新的免费层模型并驱动 Google 搜索的 AI 功能。核对日期 2026-11-16。没做什么:未打开 Google 官方定价页核对(该域名在本机网络下超时),上述价格均为该记录转述;未复算实际支出。
- 核对了什么:llm 官方文档首页与 usage.html。pip/brew/pipx/uv tool 四种安装方式、默认模型 gpt-6-luna、llm keys set 后直接提问、llm "extract text" -a 图片、cat 文件 | llm -s "..."、llm install llm-gemini 与 llm install llm-anthropic 配 keys set 的插件流程、llm install llm-ollama 配 ollama pull 驱动本地模型、llm chat 的 !multi !end !edit !fragment 指令、uvx llm openai endpoint 免安装试用本地 OpenAI 兼容端点、-m 与 llm models --options、-o/--option name value 的温度示例,以及 reasoning_effort 当前支持 low/medium/high 且降低它可加快响应。核对日期 2026-11-16。没做什么:未在本机安装 llm 或执行文档中的任何命令,全部为文档转述。
- 核对了什么:Simon Willison 2026-11-09 关于 llm-anthropic 0.31 的记录。Anthropic 发布 Fable 5.2 与 Mythos 5.2、「uv tool install llm / llm install llm-anthropic / llm keys set anthropic / llm -m claude-fable-5.2 ...」的完整调用写法、low/medium/high/xhigh/max 五档思考强度、xhigh 出图最好而 max 烧掉 128,000 个思考 token 后未返回图像、该问题与 Opus 5.5 相同但 Fable 5 与 Fable 5.1 的 max 档正常、Fable 5.2 定价每百万 token 输入 8 美元输出 40 美元(较 Fable 5.1 的 10/50 便宜 20%)。核对日期 2026-11-16。没做什么:未在本机安装 llm 或执行这些命令,未申请 API key,未实测任何一次调用;未取得 Anthropic 官方定价页核对价格(该页为前端渲染,未取到表格数值)。
- 核对了什么:Simon Willison 2026-11-10 关于 llm-gemini 0.36 的记录。Gemini 4 Carbon 两周前只对「a subset of cyber defenders」开放、当天起对所有人开放、发布价输入 2 美元输出 10 美元并定于12 月 1 日翻倍到 4/20(与 Opus 5.5 相同),以及默认思考强度为 medium。核对日期 2026-11-16。没做什么:未打开 Google 官方定价页核对(ai.google.dev 与 cloud.google.com 在本机网络下均超时),上述价格均为该记录转述;未实测任何一次调用。
来源发布时间:2026/11/10。来源采集记录随文章版本保留。
发现内容与当前界面不一致?
提交内容纠错金额随意,多少都帮得上忙。AITime 的资料整理、事实核对和每日更新由个人完成, 没有付费墙,所有内容都可以免费读。
扫码使用微信支付,备注可以留空。
哪个工具卡在哪一步、想给文章补一个真实案例、都可以加我。 留言时写清来源和具体问题,我看到会回。
扫一扫添加好友,备注写「AITime」我更容易认出来。
讨论与使用经验
正在加载讨论…