Chain of Thought (CoT): 思维链
思维链(Chain of Thought,CoT) CoT 是 Chain of Thought(思维链)的缩写。 思维链是一种让大语言模型在给出最终答案之前,先逐步输出中间推理过程的提示技术,是 ReAct、Tree of Thoughts 等众多 Agent 推理框架的基础。 用一句话概括:思维链就是通过提示词告诉模型"先把推理步骤写出来,再给结论"。 一个直观的比喻:就像项目管理里不直接说"把产品做出来",而是拆成"需求 → 设计 → 开发 → 测试 → 上线"这几个里程碑节点——CoT 提示词做的就是这件事:告诉模型"达到最终答案之前,先经过哪几个中间节点"。模型拿到这些节点后,自己填充每个节点之间的具体内容,而不是直接跳到终点。里程碑节点越清晰合理,模型走偏的概率就越低。 CoT 是提示词概念还是模型推理概念 CoT 同时横跨两个层面,两者不可分离: 提示词层面:在提示词里给出推理结构框架(先分析已知条件、再逐步推理、最后给结论),但不需要也不可能提前写出每一步的具体内容 模型推理层面:模型接收到结构约束后,在逐 token 生成 response 的过程中自己填充每一步的具体内容 关键在于:LLM 是逐 token 生成的,每生成一个 token 都会参考前面所有已输出的内容。写出推理步骤不是推理完成后的附加结果,而是推理本身的载体: 写出"步骤 1:..." → 这段文字进入上下文 ↓ 生成"步骤 2:..."时参考步骤 1 → 推理被约束在正确方向上 ↓ 生成最终结论时参考所有步骤 → 结论更准确 如果不写出步骤,中间推理只存在于模型的隐式状态(注意力权重)里,无法作为显式上下文影响后续生成,更容易偏移。 因此,CoT 的本质是:显式约束 vs 隐式依赖: 不用 CoT:完全依赖模型训练出来的内部权重,简单问题通常没问题 用 CoT:在上下文层面施加显式约束,对复杂、多步骤任务效果提升明显 CoT 的收益与任务复杂度正相关——越复杂的推理任务,CoT 的价值越显著。 ...