论文 | Chain-of-Thought Prompting Elicits Reasoningin Large Language Models 思维链

        这篇论文研究了如何通过生成一系列中间推理步骤（即思维链）来显著提高大型语言模型进行复杂推理的能力。论文展示了一种简单的方法，称为思维链提示，通过在提示中提供几个思维链示例来自然地激发这种推理能力。

主要发现：

• 思维链提示在多个任务中提高了性能： 实验表明，思维链提示在算术、常识和符号推理任务中都有显著的性能提升。例如，使用 8 个思维链示例的 PaLM 540B 在 GSM8K 数学应用问题基准测试中取得了最先进的准确率，甚至超过了经过微调的 GPT-3。
• 思维链推理能力与模型规模相关： 思维链提示的效果与模型规模相关，对于较小的模型效果不明显，而模型规模达到 100B 参数量级时才能显著提高性能。
• 思维链推理的吸引力：
  • 分解复杂问题： 思维链允许模型将多步骤问题分解为中间步骤，为需要更多推理步骤的问题分配额外的计算资源。
  • 可解释性： 思维链提供对模型行为的可解释窗口，表明模型如何得出特定答案，并提供调试推理路径错误的机会。
  • 适用性： 思维链推理可用于数学应用问题、常识推理和符号操作等任务，并且原则上适用于任何人类可以通过语言解决的任务。
  • 易于实现： 只需将思维链序列示例添加到少量提示中即可轻松地激发思维链推理。

  局限性：

  • 思维链的真实性： 思维链推理过程生成的推理过程可能缺乏连贯性或事实依据，需要进一步研究以提高其可靠性。
  • 模型规模： 思维链推理仅在大型模型中有效，这使得其在现实世界应用中成本高昂。
  • 提示工程： 尽管思维链提示对提示的敏感性较低，但提示工程仍然重要，可以显著提高性能。

            这篇论文的核心思想是通过示例学习，让大型语言模型自动生成思维链，从而提高其进行复杂推理的能力。

    

            示例学习的关键在于提供一系列输入-思维链-输出的示例，其中思维链是一系列自然语言推理步骤，用于解释如何从输入推导出输出。 通过学习这些示例，模型可以学会在遇到新的推理任务时生成自己的思维链，从而进行推理。

    与传统示例学习的区别：

    • 示例格式： 传统示例学习通常使用简单的输入-输出对，而思维链提示则使用更复杂的输入-思维链-输出三元组，其中包含中间推理步骤。
    • 目标： 传统示例学习的目标是让模型学会预测输出，而思维链提示的目标是让模型学会生成推理过程，并最终得出正确的输出。
    • 学习过程： 思维链提示通过提示学习的方式，利用大型语言模型自身的能力来生成思维链，而无需额外的训练数据或微调过程。

      

      论文中提到的“思维链”与“推理”的关系：

              论文中提到，思维链推理能力与模型规模相关，只有大型模型才能有效地生成思维链。 这表明思维链推理并非简单的示例学习，而是与模型自身的语义理解和逻辑推理能力相关。

      总结：

              这篇论文通过示例学习的方式，利用大型语言模型自动生成思维链，从而提高了其推理能力。 思维链提示是一种很有前景的方法，可以推动语言模型在更广泛的应用中取得突破。