使用中间修订和搜索对大型语言模型进行推理

这篇由 Chi 等人 (2024) （在新标签页中打开） 撰写的工作提出了一种对可分解为组件的任务进行通用推理和搜索的方法。

所提出的基于图的框架 THOUGHTSCULPT 集成了迭代自我修订能力，并允许大型语言模型构建一个交织的思维网络。

与其他使用树形结构塑造推理过程的方法（如思维树 Tree-of-thoughts）不同，这种新方法结合了蒙特卡洛树搜索（MCTS）以高效地探索搜索空间。

这种新方法使用由大型语言模型驱动的思维评估器来提供对候选部分输出的反馈。然后，一个思维生成器组件产生潜在的解决方案。思维评估器和思维生成器被视为扩展阶段，有助于改进当前的解决方案。

最后，决策模拟器（作为 MCTS 过程的一部分）模拟连续的思维链，以评估某个路径的潜在价值。

由于其能够持续进行思维迭代，THOUGHTSCULPT 特别适用于开放式生成、多步推理和创意构思等任务。

我们可能会看到更多使用类似概念和搜索算法来提升大型语言模型推理能力、解决需要复杂推理和规划问题的先进方法。这篇论文是跟踪这一研究趋势的重要参考。