Appearance
为什么要看 AI 的思考过程?
导读
AI 的输出不只是最终回答,还包括生成回答时消耗的推理过程,也就是常说的 CoT(思维链)。思维链是模型给出答案之前在内部生成的中间文本;看它的意义不在于认可它的推理,而在于用推理过程定位它理解偏在哪一步。
「思维链」并不是一个统一严谨的术语,业内对它的边界定义也众说纷纭——这些是厂商和论文圈的事,我们只需要搞懂它能干什么就够了。
Chain of Thought,简称 CoT(思维链)
「思维链」这个名字来自 Google 2022 年的研究,原本含义是引导模型先输出推理步骤,再给出结论。现在很多大模型产品里的「思考 / 推理过程」,本质就是把 CoT 对用户可见。
放到 Agent(Harness)场景下,推理内容会扩展成任务拆解、工具调用、结果观察,这时常被叫做 Agentic Reasoning(智能体推理)或者 ReAct(Thought → Action → Observation)循环。内核思路差别不大,更多是包装出来的新概念,营销属性更强。
和它高度绑定的还有 loop engineering,这个叫法本身都没有公认标准,除了卖课和肉喇叭博主,很少有人深究。这类概念大多也是营销优先,被提炼出来主要是方便讲故事、吹方案。
什么是推理 Token
推理 Token(Reasoning Token),即模型在最终答案前内部生成的思考内容所对应的 Token。很多模型在给出最终答案之前,会先在内部「想」很长一段。你可能只问了一句话,它最后也只回了几百字,中间却悄悄生成了几千甚至上万个推理 Token。
如何选择推理强度
推理强度(reasoning effort /effort):同一个模型,分配多少内部思考 Token、执行几轮自查、进行多少分支推演。它并不是越高越好,边际收益衰减非常明显;思考 Token 同样会计费,还会拖慢响应速度。
| 推理强度 | 代价 | 收益 |
|---|---|---|
| 越高 | 输出的 Token 成倍增加,速度更慢 | 处理复杂问题时准确率更高 |
| 越低 | 复杂问题上可能「张口就来」 | 消耗更少、响应更快 |
规划 / 校验 / 高风险难题 → 高;
格式化、提取、改写、实时问答、确定流程执行 → 低
优先 medium 当默认基线。
从零到一的创造性定义工作,适合拉高推理等级;照着已有蓝图落地执行的工作,用低推理等级就足够。
关于“规划”的误区
新手眼里:
- PRD / 文档 = 大白话、讲故事、罗列需求,随便写写,LLM 低强度随便凑一凑就能交差
- 代码 = 语法、算法、边界、报错,必须高推理、仔细推敲
真实情况反过来: PRD / 需求文档,是在“捋逻辑,下定义”;代码只是在“无脑翻译”
写文档最难的不是写字,是收敛歧义、补全隐式假设、预判分支、权衡取舍、对齐多方认知,这是更高阶的推理。
通过思维链调试 AI 的回答
在精力允许的情况下,强烈建议浏览一下思考过程。如果有语言障碍,可以复制到免费即时问答模型中。有些特定场景,尤其是制作一条工作流、自动化、设计 Skill 的时候,推理的结果可以直接略过,反而应该把更多时间花在推理的过程上。
有时你会发现 AI 莫名其妙地在某个很愚蠢的点上反复纠结。这些信息往往不会进入最终回答,但你通过它的思考过程,很容易提升项目交付质量,提前排查重大隐患。
AI 的思考主要承担三项工作
拆解与规划:面对「看看有没有要优化的地方」这种模糊目标,思考的过程就是把它变成可执行的步骤。比如在调试时,它会先想「我需要先找到报错的位置」,然后调用搜索工具,再根据结果想「现在需要复现问题」,接着跑测试,一步步推进。同样地,如果你让它「帮我写一篇关于远程办公趋势的文章」,它的思考会先判断文章面向的读者是谁、需要覆盖哪些维度、用什么结构展开——这些判断如果跑偏了,正文写得再漂亮也可能南辕北辙。
验证与纠错:这是 Agent 和普通聊天 AI 最大的区别。普通 AI 生成完就结束了,但 Agent 的思考会持续关注行动的结果。它跑完命令会看输出对不对,写完文件会检查有没有报错。如果结果不对,思考回路不会停止,而是会调整策略、换个工具或方法,再试一轮。在写作场景中也是如此:让它查资料时,你可以从思考中看到它引用了哪些来源、是否混淆了概念、有没有把过时的数据当成最新结论。这些隐患往往不会出现在最终文章里,但一旦没被发现,就可能让你的内容失去可信度。
保持上下文连贯:在长任务中,思考需要记住前面做过什么、为什么那么做。部分 Agent 会把上一轮上下文或摘要带入下一轮,避免在几十步操作后「失忆」。比如你让 AI 帮你整理一份读书笔记,它需要记住你之前偏好的风格、已经讨论过的章节、哪些观点需要保留——思考过程就是它维持这条线索的方式。
理解「思考」的作用,能帮你更高效地使用这些工具
「思考」的质量取决于你给的信息:如果你只扔一句「帮我弄一下」,它的「理解」和「规划」环节就容易跑偏。把背景、目标、约束说清楚,它的思考才有正确的原材料。比如与其说「帮我写篇文章」,不如说「写一篇面向职场新人的远程办公指南,1500字左右,语气轻松,重点讲工具选择和沟通技巧」——输入越具体,它的思考方向越不容易偏。
复杂任务,让它在「规划」上多花时间:遇到难题时,可以先让它出方案、列步骤,确认思路对了再让它动手。Codex 的「调整推理力度」和某些工具的「Plan 模式」,都是为这个场景设计的。写作也一样:先让它出大纲,确认结构和角度没问题,再让它展开正文,比直接生成全文更容易控制质量。
观察它的思考过程,能帮你判断它靠不靠谱:如果它一上来就闷头改代码,说明「理解」环节可能没做够。如果它在反复试错却总在同一个地方打转,那可能是「规划」或「观察」环节出了问题,这时候人工介入给点提示会更有效。同样,如果它写文章时反复修改同一段却越改越乱,或者查资料时一直在不相关的来源里打转,你从思考过程里一眼就能看出来,及时打断比让它继续跑更高效。
请注意!思考也是回答的一部分,它也要计入上下文窗口。
它和你看到的正常回答一样,会挤占大模型的上下文空间。而且它不只挤占一次:在长任务中,前面的思考会持续占位,导致后续每一轮输入更贵、更慢,甚至触发截断或压缩。所以长任务要阶段性总结、压缩上下文,并保留关键决策、未完成事项和约束条件,而不是无限堆积。