Skip to content

AI 为什么不按你说的做? ​

导读 ​

与 AI 合作时,如果它没有按照你的「指令」行事,问题一定出在你的提示词上。使用 Agent,本质上是一场用 Token 换 Token 的游戏。如果你没有得到你想要的 Token,那就一定是你给出的 Token 有问题。

举个例子

设想你带个实习生,把一份会议纪要丢给他:

text
「把这份会议纪要整理一下」

他转身要走,你不放心,补了一句:

text
这个会是为一件拖了很久的事临时开的,你要把每个人承诺的交付时间清楚列出来——写清四件事就行:
1. 都谁参会了
2. 大领导说了什么
3. 大家都承诺了什么
4. 具体什么时候交作业什么时候交

跟真人实习生合作,你是有耐心的:你会交代背景、说清格式、告诉他这份东西干嘛用。换成 AI,大多数人只丢一句“把这份会议纪要整理一下”。

归根到底,其实都是“话没说明白”

很多行为都在主动(或被动)地注入 Token ​

不仅仅是键盘敲进去的提示词,窗口里面的聊天记录、让 AI 去网络上查的信息,以及 Harness 本身自带的提示词(系统提示词),都是注入 Token 。

TIP

联网、阅读本地文件这样的指令,是通过注入额外命令让 AI 发起的,所以要注意:要用明确的语言,下达相关命令。

什么是系统提示词

系统提示词是给 AI 的底层指令,用来提前设定它的身份、规则、风格和能力边界。它会在每次对话开头自动生效,约束 AI 怎么理解和回答你的问题。

如果你用的 harness 比较多,你会明显地感觉到它确实存在:不同的 harness,有非常明显的倾向偏好。举例子:一家国产厂商的办公向 Agent 就具有非常强的干活的冲动,这是因为它的 /craft 优先级很高。

什么是 Harness

公式:AI Agent = Harness + LLM + Scaffolding

像 Codex、Claude Code、Grok BOT 这类产品,都属于 AI Agent。

  • LLM: 底层大模型,比如 DeepSeek、Claude 等模型,是 Agent 的大脑;
  • Harness: 衔接模型和计算机的程序,负责调度、让模型能调用资源、实际执行任务;
  • Scaffolding: 脚手架,也就是配套代码,定义 Agent 的执行流程、思考范式。

行业主流一般是 Agent = LLM + Harness(Harness 内部已经包含 Scaffolding)。但如果你也想 DIY 自己的 DeepSeek 大肥鱼,或者其他类似的产品,那就要明确: harness 还需要一个执行流程和思考范式才能使用。

提示词质量有高低之分 ​

“注入 Token”的本质是:你在用有限的符号,去操控一个无限复杂的概率场。

落到概率分布上,提示词有三种“形状”:

你写下的东西概率分布输出的样子
精准的 prompt被压成一个尖锐的峰稳定、可控
模糊的 prompt平坦、弥散随机、发散
触发联网或查库被灌入新的外部信号先验分布被强行扭转

语言本身有信息损耗,你永远无法把脑子里“想要的东西”无损编码成 Token。你能做的只是不断追加 Token 来缩小误差——追问、纠正、给例子、换说法。

每一轮对话都是一次“校准”输出与意图之间的残差,并用注入指令把残差它消除掉。

总结

这些经验后来甚至被总结成“提示词工程”“上下文工程”之类的课程,都是建立在“用 Token 换 Token”之上的经验总结。

所以没必要去花时间学习什么提示词工程上下文工程,你只需要记住你是在:注入 Token,校准意图就完全足够了。

AI 输出的 Token,必须是「能被验证的结果」 ​

我可能要用一个啰嗦的方式去解释一个浅显的道理

先举例子:

  • 不会画画的你让AI去绘图,前提是你知道你要的图片应该长什么样子。

  • 不懂代码的你让AI去做编程,前提你知道程序应该达到什么效果。

  • 让 AI 去写一段文案,你知道什么是“对味儿”。

  • 向AI提问时,你不一定知道答案,但你知道什么样算是合理、可查证、不自相矛盾。

如果输出内容 100% 在预料之内,就没有信息增量,这是检索或复述;

如果 100% 在预料之外,又无法验证,则是噪声(和赌博)。

我们想要的,不是“输出内容必须在我预料之内”,而是“输出结果能落入我的验证框架之内”。

我们输入 Token 时,要以验证标准为前提。你希望 AI 执行一个任务,就必须把任务交代清楚:

  • 它要解决什么问题;
  • 它大致要经过哪些步骤;
  • 它必须满足哪些约束,什么是对的,什么是错的。

AI能代替我们去思考具体执行步骤,但不能代替我们去设立验收标准。

这个态度的对立面,就是开头那句“把这份会议纪要整理一下”——看似交代了任务,其实没交代什么算完成。

补充:Token 是显性成本,认知带宽是隐性成本

输入多少 Token、输出多少 Token、花了多少钱。但这只是显性成本。与 AI 协作消耗的,是人脑的认知带宽。

每一次“提问 → 等待 → 阅读 → 判断偏差 → 再追问”,都是一次高强度的认知循环。当 AI 的输出无法直接对接你的预期时,你就要被迫充当了“人肉翻译器”和“质检员”。

你本意是将执行外包,结果 AI 却把思考的成本加倍退还回来。这就解释了一个普遍的困境:为什么交给 AI 反而效率更低、质量更差,且极度疲惫。因为你额外承担了“编码意图 → 解码输出 → 校验对齐”这一整套沉重的翻译工作。

与本文无关的牢骚,从“Token 是显性成本,认知带宽是隐性成本”引申的

作为 AI Native 的亲历者,我最真实的感受并非轻松,而是透支。同时开三个对话窗口,基本就触及了我的脑力上限。市面上鼓吹的 AI Native,大多还停留在用 AI 做调研、写报告、转换格式的工具层面,并未触及真正的协作痛点。

有一段时间,我们一个组不仅不开会,甚至不沟通,因为所有的成果都已经被量化,被 AI 整理好。我们没做过对照,不知道这样效率会不会更高,但我们在一件事上达成了一致:太TM累了。

我想,要打破当前的桎梏,或许只有两条路:要么在交互端彻底消除自然语言的歧义,比如脑机接口,用意识交流而不是低效的语言;要么模型能达到 1T 的上下文容量,要么干脆别用 Transformer 架构的模型。当然还有一种可能,就是算力基础设置突破当前物理学限制,不过真有那时候,Transformer架构的优势就不再了一定会被符号路线所替代。

除特别声明外,本书内容采用 CC BY-NC-SA 4.0 授权