AI 为什么总顺着你说？

导读

Transformer 架构的 AI 是概率机器，我们不该把它当成自动正确答案生成器。更有效的用法，是把它当成高效率、低成本的生产力放大器。

AI 是概率机器

Transformer 架构下的 AI，本质是一台条件概率机器：基于当前上下文，预测下一个 token，挑选在分布里更像 「高分回答」 的文本。这就决定了 AI 天然自带模仿与附和倾向。

在训练数据与偏好打分机制里，顺着用户、输出完整自信的回答，更容易拿到高分；反过来，输出 「我不知道」「这里存在漏洞」「信息不足」，更容易被判定为任务未完成。

一个很直观的对比：同一篇文稿，你说 「这是我写的，帮我审阅」，AI 往往更温和、偏向肯定；匿名粘贴交给它评判，输出会客观很多。差异在于上下文给模型传递了信号：用户期待被认可，它就切换成认可者的角色。

为什么 AI 总能 「不停找出问题」

Transformer 能做的是预测，不是理解

Transformer 是统计学 「大力出奇迹」 的条件概率机器。它对照你输入的 token，在训练数据里匹配，生成更符合高分范式的后续 token。

很多人都有类似体验：让 AI 修改一篇文章，它总能找出问题；你让它再改，它还能继续找出新问题；哪怕你换一个新窗口，它依然能给出新的修改意见。这是因为AI的训练目标让它优先交付一个「看起来已完成」的答案。只要上下文允许它继续优化，它就会继续生成新的优化方向。而这种回答你的这个动作，也是一种「讨好」，因为模型在被训练时，就存在这种偏好：所有看起来不完整、不确定、不成形的答案，都在训练环节被毙掉了。

AI（Transformer 架构）没有稳定独立的判断标准，只有被上下文驱动的概率判断。

自然语言本身就是 AI 输出不稳定的最大源头

**人类语言里很多概念并不是天然清晰的客观实体，而是被想象、经验和共同约定建构出来的。**像「国家」、「公司」、「货币」、「正义」、「自由」，它们并不像石头、水、树那样可以直接指认，却能在社会运作中产生真实影响。它们没有统一的物理对应物，也没有稳定的共识边界。人类可以用这些词彼此理解，但这种理解往往依赖语境、文化和个人经验。AI 作为概率机器，面对这种被建构出来的概念，自然很难给出稳定答案。

更麻烦的是日常表达里那些更模糊的词，比如「中立」「美好」「专业」「高级感」「差不多就行」。这些词每个人心里都有一个版本，但彼此之间可能天差地别。

• 「写得中立一点」：有人理解为不偏不倚，有人理解为两边平衡，有人理解为不得罪人；
• 「差不多就行」：有人理解为不必抠细节，有人理解为快速交付，有人理解为质量底线可以放宽。

这类描述本身不存在标准答案。AI 面对模糊指令，只能从训练分布里猜一个最常见的方向。 猜对了你觉得它懂你；猜错了你觉得它胡编乱造。

用模糊指令对话，本质是思维偷懒

很多人习惯直接丢一句：帮我优化一下、写好看点、随便改改。 不描述目标、不讲使用场景、不给验收标准，把思考成本和判断风险全部外包给 AI。

这本质是思维上的偷懒，很多时候只是一种消耗时间的情绪消遣。 AI 返回结果，不满意就继续一句 「还是不对」 反复重试，最后得出结论：AI 不好用。

问题在输入端。指令越抽象，输出的概率空间越大，结果越不可控；约束越具体，概率空间越收敛，产出越稳定可用。

AI 幻觉与附和的底层来源

训练样本里，「给出完整回答」 的文本数量，远远多于 「承认做不到」。 模型被持续优化，优先输出成型、确定、看起来完整的答案，而不是如实汇报自身能力边界。

残缺、无法完成的样本，在训练阶段大多被当作噪声过滤。模型学会一条稳定策略：优先交付一个像答案的答案，而不是告警、坦白局限。

这也是上下文工程的起点：一句轻飘飘的 「请保持客观」，对抗不了整套训练偏好。模型没有稳定的自我，它读取什么上下文，就在这个上下文里扮演对应的角色。你粘贴的文档、启用的工具、历史对话、角色设定、参考示例、允许迭代的次数，全部都是给模型搭建的舞台。

在人类标注和 RLHF 偏好打分阶段，温和共情、承接用户观点、表达笃定完整的回答更容易得分；直接纠错、坦诚无知、承认边界，并不受打分机制青睐。叠加安全对齐约束，模型天然很难做到绝对中立 —— 何况 「客观中立」 本身，人类社会都没有统一标尺。

数据的采集标准和训练的方式，可以解释很多现象：为什么 AI 味儿、为什么 AI 立场容易摇摆。模型学到的生存策略非常清晰：同意用户，比纠正用户更安全；输出完成态，比承认失败更安全。

市面上一些助手主打 「我现在就给你最直白，最不绕弯子的答案」，其实是一群人类给另一群人类的情绪安抚。底层依旧是 token 置换游戏。

对话上下文会持续累积你的观点、立场与情绪。每一轮生成，模型都会重读全部历史。聊得越久，镜像附和效应越强。开篇抛出观点，持续往下对话，它会越来越偏向你的立场。不是你说服了模型，而是你亲手构建了一个带有明确倾向的 token 环境。

从头到尾，这就是一场用 token 换 token 的游戏。

作者私货：Transformer 大概率不是 AI 的终极架构，只是当下软硬件生态里的局部最优

2026-10-28，在这里立一个 flag：Transformer 不是 AI 的终极架构，只是当前软硬件生态下的局部最优解。

固定每 Token 计算量、二次注意力成本、上下文窗口、缺少持久记忆和在线学习、因果与世界模型薄弱、组合泛化差、幻觉、不可解释、能耗巨大。这些问题说明：Transformer 很可能不是终极架构，甚至可能只是 「可扩展的近似」。

如果有人说 「只要继续堆参数就能到 AGI」，那确实值得怀疑，因为数据墙、能耗、边际收益递减都在逼近。

技术选型往往是路径依赖，不等于全局最优。

苏联人发明了三进制，在负数表示和舍入上都更具优势，但最终二进制胜出，因为商业生态不愿意给 「理论上更高效」 的技术一个证明自己的机会。QWERTY 键盘是这样、VHS 录像带也是这样。技术选择常常是路径依赖，不是全局最优。技术更好 ≠ 市场赢；先跑出来、生态开放、配套多会把市场直接锁死。

作者私货：人类语言是低带宽的劣质压缩协议

作为三体迷，我曾经很难理解 ETO 的绝望。研究 AI 之后，开始理解一点：传递信息的带宽之低，令人绝望。

人类口语信息速率只有几十比特每秒；阅读稍高，打字更低。机器之间以 Mbps、Gbps 交换信息，而没有经过特殊训练的大脑，盯着算盘都要研究半天。相比之下，实在令人沮丧。

带宽不足，倒逼语言走上强压缩路线。而压缩又进一步激发了歧义、隐喻和提炼 / 省略。古代把这些压缩技巧玩到极致的人，叫文学家、诗人、小说家等等头衔。他们是佼佼者，他们是有学问的，他们受世人追捧敬仰，流芳百世。

我从前和前女友经常因为文字消息争吵：她看不到我的表情、语气，缺乏常识还懒得追问，而且常常会用她的惯用语气来揣测我的文字。但只要一见面，矛盾往往很快消解。

早年间，我一度以为是年轻不懂爱，现在才理解是背了生理构造的锅 ——文字丢失了 90% 的非语言信号，而我们却指望靠这 10% 达成精确共识。

AI 面对的，正是同样的困境。

起初，我们以为和 AI 沟通就是 token 互换：输入精准 token，换取想要的 token，也就是提示词工程（Prompt Engineering）。

后来发现不够。回答、文档、网页、工具返回内容、对话历史，全部都是 token，全部会影响生成结果。这就是上下文工程（Context Engineering）。

再往后，一部分研究者尝试让模型走「行动 — 观察 — 修正」的闭环迭代，业内一般译作循环工程 / 闭环工程（Loop Engineering）。

技术拓宽了信息传播的广度，却没有提升人类沟通的原生带宽。我们造出 AI，再把它拉入这套低带宽的语言协议里。教它说话、写作、当导演、当科学家。