CoT是中文译成思维链，顾名思义就是人思考时中间步骤形成的、完整的逻辑链条，这是Prompt方法较为早期的工作。 文章中提出CoT方法使得大模型在数学计算，常识和符号推理三个任务上取得了极大的性能提升。

2024年6月8日 · 本文我们深入学习了改进大模型推理能力的三种方法：CoT、ToT、ReAct。 并从使用和实现的角度，进行了详细讲解。 CoT目前来看已经集成进了大模型内部，通过在Prompt中加入一些提示词（Let's think step by step）即可唤醒大模型的CoT思考能力。 对于ToT，有实现代码参考，就是在思维链的基础上，每一步不再是只有一个结果，而是采样多个分支，综合评估。 对于ReAct，则是从推理过程，结合外部工具共同实现最终目标。 ReAct 与 CoT和ToT 的本质区 …

2023年9月4日 · 思想链（CoT）是一种提示方法，除了任务输入/输出之外，还包括提示中推理的中间步骤（中间“想法”）。 CoT 被证明可以显着提高法LLMs解决问题的能力，而无需任何模型参数的更新。

思维树（ToT） 是一种通过将复杂问题分解为更易于解决的小问题，为LLM推理提供了一个更结构化的提示框架。 与在链中推理的CoT不同，ToT以树的形式组织其解决问题的策略。

2023年10月25日 · ToT将问题建模为树状 搜索过程，其中每个节点为状态 。 ToT包括四个步骤：问题分解、想法生成，状态评价以及搜索 算法 的选择。

2025年2月28日 · 3、ToT (树形思维) 思维树（Tree-of-Thoughts, ToT） 将思维链（CoT）提升到了一个新的层次。它不再局限于单一路径，而是同时探索多种可能性。可以将其视为在选出最佳解决方案之前，先对多个解决方案进行头脑风暴。 核心原则包括： 分支路径：同时探索不同的解决方案。 评估：比较不同路径以选择 ...

2024年11月13日 · TOT全称为Tree of Thoughts，翻译过来就是“思维树”，也属于一种新型的语言模型推理框架，主要在于推动LLM 模拟人类的决策过程，以解决复杂的任务问题。 虽然两者在外形和工作原理上很相似，但ToT和CoT属于两种不同的思维方式和技术。 在很多情况下，ToT（思维树）常被视为 CoT（思维链）的一种扩展形态。 其中，CoT负责提供逐步推理的基础逻辑框架，而ToT 则为解决复杂问题提供更多的可能性和创新的解决方案。 两者相辅相成，让大模型 …

2025年2月24日 · 在本文中，我们将探讨三个关键框架： ReAct（推理与行动） 、 链式思维（CoT） 和 树形思维（ToT）。 可以将这些视为AI用于应对挑战的“思考模式”。 每个框架都提供了独特的工具，帮助AI代理分解复杂问题，通过它们进行推理，并适应新情况——所有这些方式都模仿了人类的思维方式。 让我们深入探讨并用简单明了的语言解释这一切，即使是你的非技术朋友也能理解。 推理框架就像AI的思想过程。 它们不仅输出答案，还帮助AI以结构化的方式思考问 …

2025年1月7日 · 计算量C=6*ND，N是模型参数，D是token数。 N越大，网络压缩、承载信息的能力越大，但是需要的token也就越多，需要的算力也越多，这就是妥妥的烧钱啊！ pre-train几百上千亿参数的大模型，所有成本加起来5M~10M+ dollar不等，普通的中小厂是完全无力承担的，大厂做起来也不轻松！ 更重要的是： 那么问题来了: 怎么继续提升LLM的性能了？

2023年6月5日 · 为了解决这些问题，研究者提出了用语言模型解决通用问题的思维树框架（ToT），让 LLM 可以探索多种思维推理路径。 现有的方法，如 IO 、 CoT 、 CoT-SC，通过采样连续的语言序列进行问题解决。 而 ToT 主动维护了一个思维树。 每个矩形框代表一个思维，并且每个思维都是一个连贯的语言序列，作为解决问题的中间步骤。 ToT 将任何问题定义为在树上进行搜索，其中每个节点都是一个状态 s=\left [x, z_ {1 \cdots i}\right] s =[x,z1⋯i]，表示到目前 …