你发现没有？问个问题，大模型恨不得给你写篇小作文。结尾还得补一句“希望这个回答对您有帮助，如果您还有其他问题……”。这就是当前主流大模型的通病。

别以为这只是“礼貌”。“有效信息密度太低”背后，烧的都是真金白银。

有说法是，连续追问十几轮，消耗的算力资源折算下来，相当于浪费了几百毫升水。资源损耗暂且不提，关键是这些模型经过大规模RLHF（人类反馈强化学习）对齐后，统一养成了“端水大师”式的客服思维。

从“首先”到“其次”再到“最后”，看似废话文学。按token计费算下来，等于你家的水龙头一直在漏水。

堵上“漏水点”的常见招数

关于怎么堵上这些“漏水点”，网上已经有不少招数：

• 能用本地模型，就别用云端的。 像录音转写这类基础任务，本地处理既省钱又保密。
• 流程确定的工作写成脚本，不确定的才调用模型。 重复劳动交给工具，真正需要判断和创造的部分，再让大模型上。
• 用便宜的模型给复杂项目写索引、搭框架。 让贵模型能直奔主题，省得在低效搜索上白烧token。

还有人提了个“妙招”——英文比中文更省token。嗯……怎么说呢，算是个思路，但实操起来有点拐弯。

言归正传。想让大模型“好好说话”，可以试试下面这些更硬核的办法。

日常对话：治一治大模型的“啰嗦病”

很多人以为加一句“请简短回答”就行了。大错特错。 你加这句，它只会回你：“好的，我会尽量简短地回答：……”——然后又开始了。

对付这种讨好型人格，你的提示词必须冷酷、具体、带有强制性。

1. 设定“极简/无情”的人设

在对话开头或系统提示里，直接剥夺它的“客服属性”。让它知道，你不是来聊天的。

2. 限制输出格式——最有效的一招

大模型在自由发挥时最容易水字数。把它框死在特定格式里，它就没地方添油加醋了。

• 写代码时： “只输出代码本身。禁止使用Markdown代码块标记，禁止任何解释和注释。”
• 提取信息时： “严格以JSON格式返回结果，不要包含任何JSON之外的文本，不要说‘这是您的JSON’。”
• 做选择题时： “只输出选项字母（如A/B/C），不要输出选项内容，不要解释原因。”

3. 用Few-shot（给例子）教它做人

大模型是模仿大师。光说“精简”没用，直接给它看两个“一问一答、极其干练”的例子，它立马就能get到。

API调用党：从工程层面“抠”回来

如果你是开发者，在代码里调API，光靠提示词约束是不够的——模型偶尔还是会发作。必须上工程手段。

1. 用好 stop（停止词）参数

很多时候我们只需要模型输出一个词或一句话。比如让模型提取文章里的人名，设置 stop=["n", "."]。模型输出完人名，碰到换行符或句号，立刻强制停止生成。那些“提取到的人名是xxx”之类的废话，直接被物理掐断。

2. 调高惩罚参数（Penalty）

在API参数里，把 frequency_penalty（频率惩罚）和 presence_penalty（存在惩罚）稍微调高（比如0.2到0.5之间）。这会迫使模型减少重复词汇和车轱辘话。虽然不能直接减少总长度，但能让内容更紧凑。

3. max_tokens 兜底

这个大家都知道——限制最大输出长度。但注意，这招是治标不治本。设得太小，模型话没说完就被掐断，输出残缺，你还得重调，反而更费钱。它只能作为防失控的兜底，不能作为主要的省token手段。

高阶玩法：架构与系统级的“抠门”

如果你在做AI产品，每天成千上万次调用，那就必须从系统架构上省钱。

1. 给上下文“瘦身”

多轮对话是token消耗的重灾区。很多新手把前20轮的聊天记录全塞进提示词，token直接爆炸。

做法：设定一个阈值（比如超过5轮），让大模型（或便宜的小模型）对前面的对话做个“极简摘要”。然后只保留“摘要 + 最近2轮对话”作为新的上下文传给模型。

2. 杀鸡别用牛刀（模型路由）

不是所有问题都需要最贵、最聪明的模型（比如GPT-4o或Claude 3.5 Sonnet）。

做法：在请求最前面加一个极便宜的“意图识别小模型”（比如7B模型，甚至直接用正则或分类器）。

• 如果是“今天星期几”、“帮我翻译这句话”这类简单任务，直接路由给便宜的Flash模型或小参数模型。
• 如果是“帮我写个复杂的分布式架构设计”，再路由给昂贵的大模型。

这一招能省下70%以上的token费用。

3. 语义缓存（Semantic Cache）

用户问的问题往往大量重复。用户A问“怎么重置密码”，用户B问“忘记密码了怎么办”。

做法：引入向量数据库做语义缓存。把用户的问题向量化，如果和缓存里的问题相似度超过95%，直接返回缓存里的答案，根本不去调用大模型。这在客服、知识库问答场景里，几乎能“白嫖”掉海量token。

最后说一句： 省token确实能省钱，但千万别为了省token而把提示词压缩得连人话都不像了。不然你还得花更多token去重新生成和纠错，得不偿失。