自动化思维链：AI如何促使自身进行推理
Automated Thinking Chain How AI Promotes its Own Reasoning
关键点
- 通过提供逐步示例，思维链（CoT）提示改善了语言模型的推理能力
- 手动创建CoT演示需要大量人力
- 本文探讨了使用语言模型自动生成CoT演示的方法
- 提出的Auto-CoT方法通过对问题进行聚类，然后对其进行多样化采样进行自我提示
- 实验证明，Auto-CoT与手动创建的CoT相匹配，无需人工参与
介绍
论文《大型语言模型中的自动思维链提示》探索了为大型语言模型（LLMs），如GPT-4，创建有效的“思维链”（CoT）提示的自动化方法。CoT提示涉及向LLM展示演示从问题到最终答案的逐步推理链的示例。这提高了在复杂推理任务上的性能。
讨论
然而，目前最好的CoT提示结果需要人工创建演示，手工制作问题和详细的推理步骤针对每个任务进行定制。作者提出通过使LLM自动生成自己的CoT演示来消除这种手动工作的方法。他们的关键方法称为Auto-CoT，首先根据语义相似性对给定任务的问题进行聚类。然后，Auto-CoT对涵盖不同聚类的多样化问题样本进行采样。对于每个采样问题，Auto-CoT使用LLM自身的零样本模式从问题到答案生成推理链。它应用简单的启发式方法根据长度和简单性选择链。
作者对涵盖算术、常识和符号逻辑问题的10个推理数据集上进行了评估Auto-CoT的实验。结果显示，Auto-CoT与基于人工创建演示的CoT提示的性能相匹配或超过，而无需任何人工努力来设计演示。一个关键的见解是，使用基于多样性的采样而不是基于相似性的检索来选择提示问题，可以减轻LLM的零样本推理生成的不完美演示的影响。Auto-CoT还显著优于检索相似问题或随机采样进行演示的基线。
总体而言，这项工作提供了LLMs可以提示自己展示复杂多步推理的强有力证据。Auto-CoT基本上由一个生成多样化的CoT示例集的LLM组成，另一个LLM使用这些示例进行推理。作者建议这种自我提示方法可以显着扩展提示技术，并使LLMs在复杂推理任务上具有更好的少样本学习能力。局限性包括潜在的计算成本和处理更自由问题的问题。但自动提示的能力减少了人力和定制需求。
研究问答
Auto-CoT与其他自动提示创建方法（如检索增强提示）相比如何？
检索增强提示检索相关的数据示例用于提示，而不是让LLM生成演示。一个关键的区别是Auto-CoT不需要有标记示例的数据集，而是依赖于LLM自身的零样本推理。检索可能更加样本高效，但需要数据收集。Auto-CoT完全自动化，但可能会出现不完美的演示。
Auto-CoT能够应用于除了逻辑推理之外的自然语言生成任务吗？
聚类和自我提示方法在对连贯性很重要的结构化较少的文本任务中似乎很有前景。例如，Auto-CoT可以为创意写作提供写作计划示例，或为对话机器人提供对话示例。关键挑战在于定义适当的聚类方法和训练LLM的零样本生成以获得高质量的演示。
这项研究的创新之处是什么？
关键的创新是使用LLM自身生成提示演示，而不是依赖于手动创建。这使得提示更加自动化和任务自适应。选择多样化问题进行自我提示的聚类也是创新的。
这项研究的更广泛影响是什么？
这项研究可以显著减少设计有效提示所需的人力和专业知识。它可以使LLMs更快地学习新任务并减少数据需求，增强其少样本学习能力。自我提示方法可以应用于扩展提示技术，如上下文学习。
这项研究的可能问题或疏忽有哪些？
一个潜在的问题是Auto-CoT依赖于基于Sentence-BERT的相似特征对问题进行聚类。在语义相似性与推理相似性不很吻合的任务上，性能可能会受到影响。该方法还可能产生比标准提示更高的计算成本。
从这项研究出发，接下来的逻辑研究步骤是什么？
重要的下一步是探索Auto-CoT如何适用于更复杂和开放式的推理任务，将其与外部知识源的检索进行整合，并研究是否可以通过元学习来更有效地学习这种方法，而不仅仅依赖于预训练的LLM。还有一个待解决的问题是分析聚类数量、样本大小和性能之间的相互作用。
要点
- Auto-CoT减少了手工示范来提示LMs的需求
- 使用Auto-CoT进行自我提示，可以生成多样化的示例，进行推理
- 在采样问题时保持多样性对于克服不完美的零样本推理链至关重要
- 该方法可以扩展提示技术，使LMs成为更好的几次学习者
- Auto-CoT展示了自动化提示减少人力工作量的潜力
- 下一步的计划包括将Auto-CoT扩展到更复杂的推理任务和更大的LMs上
Matthew Mayo（@mattmayo13）是一位数据科学家，也是VoAGI的主编，这是一家重要的在线数据科学和机器学习资源。他的兴趣包括自然语言处理、算法设计和优化、无监督学习、神经网络以及机器学习的自动化方法。Matthew拥有计算机科学硕士学位和数据挖掘研究生文凭。您可以通过editor1@VoAGI[dot]com与他取得联系。
