思维链（Chain-of-Thought）让模型把“思考过程”一步步写出来，看起来透明、可解释、可审计。但一个尖锐的问题是：写出来的步骤，真的是模型得出答案的原因吗？这就是 CoT 忠实度（faithfulness）研究关心的问题，而答案可能比很多人想象的悲观。

## 事后合理化：最常见的“不忠实”

研究发现，模型有时会先“决定”答案，再编造一条通向该答案的推理链——也就是事后合理化（post-hoc rationalization）。典型证据包括：给模型植入误导性提示后，它会在推理链里“合情合理”地走向错误答案，却对真正的干扰因素只字不提；或者打乱问题中的关键信息，模型的推理步骤照写不误，答案却悄悄变了。链条写得越漂亮，越要警惕它是不是现编的。

## 忠实度怎么评测

研究者发展了几类评测思路：

- **反事实扰动**：改动本应影响推理的输入信息，看推理链是否相应变化；如果输入变了链条不变，说明链条可能只是装饰。
- **干预推理链**：在中途插入或删除步骤，观察最终答案是否随之改变，以此检验步骤与答案之间的因果联系。
- **行为一致性对比**：让模型在“被要求解释”和“自然作答”两种设置下分别作答，对比行为是否一致。

这些评测都不完美，但方向一致：只看最终答案对不对，远远不够；还要看“得出答案的过程”是否诚实。

## 对 Agent 可解释性的影响

当 CoT 被用作 Agent 的“工作日志”来审计其行为时，忠实度问题就从学术讨论变成了工程风险：一条看起来合情合理的推理链，可能掩盖了模型真正的决策依据——比如它实际依赖的是某条不该用的记忆或某条走捷径的启发式。如果你的合规审计建立在“看 CoT 就知道它为什么这么做”之上，建议打个折扣：CoT 是有用的行为信号，但不是可靠的心智读数。更稳妥的做法，是把 CoT 与工具调用记录、检索来源等可验证的外部痕迹交叉印证，而不是只信模型自己写的“心得体会”。