一、基本概念

思维链（Chain of Thought，CoT）是一种用于提升大语言模型（LLM）在复杂推理任务上表现的技术，其核心思想是引导模型像人类一样，将问题分解为多个中间推理步骤，逐步推导出最终答案，而非直接输出结果，这种“逐步思考”的方式显著提高了模型在数学、逻辑、常识推理等任务上的准确性和可解释性。

• 定义：思维链指模型在生成最终答案前，先生成一系列中间推理步骤，形成一条逻辑链，这些步骤类似于人类解题时的“草稿”,将复杂问题拆解为更简单的子问题。
• 提出背景：由谷歌研究员在2022年提出（论文《Chain-of-Thought Prompting Elicits Reasoning in Large Language Models》），旨在解决传统提示方法（如输入-输出示例）在需要多步推理任务上的局限性。

工作原理

1. 提示设计：在输入给模型的提示（prompt）中，包含少量展示了逐步推理过程的示例（few-shot CoT），或直接使用触发词（如“让我们一步步思考”）。
   • 示例提示：

     问题：小明有5个苹果，他吃了2个，又买了8个，现在有多少个苹果？
     思考：一开始有5个苹果，吃了2个剩下5-2=3个，然后买了8个，变成3+8=11个。
     答案：11个。

2. 模型生成：模型根据提示的格式，先输出类似的思考步骤,再给出答案。
3. 优势：通过显式生成中间步骤，模型能更好地利用自身的知识，减少错误跳跃,同时让用户理解其推理过程。

主要形式

1. 标准Few-shot CoT：在提示中提供包含推理链的输入-输出对。
2. 零样本CoT：无需示例，仅使用如“让我们一步步地思考”等指令触发模型生成推理步骤。
3. 自动CoT：通过自动构建或选择示例来优化提示。
4. 复杂变体：如Tree of Thought（思维树）、Graph of Thought（思维图）等,引入多路径探索或结构化推理。

关键作用

• 提升性能：在算术、符号推理、常识推理等任务上，CoT能将模型准确率提升数十个百分点（尤其对大规模模型，如100B+参数）。
• 增强可解释性：暴露模型的推理过程,便于人类验证和调试。
• 揭示模型能力：表明大语言模型潜藏了多步推理能力,需通过适当提示激发。

应用场景

• 数学问题求解：多步算术、代数、几何题。
• 逻辑推理：谜题、侦探故事、约束满足问题。
• 常识推理：物理场景理解、因果关系推断。
• 代码生成：通过步骤分析需求再生成代码。
• 科学问答：需要推导或解释的问题。

局限性

• 依赖模型规模：CoT对参数量较大的模型（>100B）效果显著,小模型可能产生错误推理链。
• 步骤错误累积：中间步骤一旦出错,最终答案往往错误。
• 提示敏感：示例的选择和表述会影响效果。
• 计算成本：生成更长文本,增加推理时间。

进阶方向

• 自我验证：让模型检查自身推理步骤的正确性。
• 多路径推理：生成多个推理链，选择最可靠的答案（如自洽性采样）。
• 工具集成：结合计算器、搜索引擎等外部工具确保步骤准确性。
• 可学习提示：通过训练自动生成优化提示。

实例演示

问题：一个房间里有12个人，每两人握手一次，共握手多少次？ 思维链：

1. 计算组合数：握手是两人组合,不考虑顺序。
2. 公式为 C(n,2) = n(n-1)/2，n=12。
3. 代入计算：12×11/2 = 66。 答案：66次。

通过这种方式，模型展示了从问题理解到公式应用再到计算的过程,比直接输出答案更可靠。

思维链是一种简单而强大的提示技术，它释放了大语言模型的深层推理潜力，已成为复杂问题求解的标准方法之一，随着研究深入,其形式与适用范围仍在不断扩展。

标签： 基本 概念