大语言模型：表面的推理能力背后是出色的规划技巧

888974111

译者 | 刘汪洋
审校 | 重楼
大语言模型(LLMs)在技术发展上取得了显著突破。OpenAI 的 o3、Google 的 Gemini 2.0和 DeepSeek 的R1展现出了卓越的能力：它们能处理复杂问题、生成自然的对话内容，甚至精确编写代码。业界常把这些先进的LLMs 称为"推理模型"，因为它们在分析和解决复杂问题时表现非凡。但我们需要思考一个关键问题：这些模型是否真的具备推理能力，还是仅仅在规划方面特别出色？这个差异虽然细微，却对理解 LLMs 的本质至关重要。
让我们通过两个典型场景来理解这种区别。一名侦探在破案时，需要整合各种矛盾的证据，识别虚假信息，并从有限线索中推导出合理结论。这个过程涉及推断、矛盾处理和抽象思维。相比之下，象棋选手在计算致胜走法时，主要是在规划最优的行动序列。这两个过程都需要多步骤思考，但侦探的工作需要更深入的推理能力，要在具体案例中运用抽象原理。而象棋选手更侧重于规划，专注于找出最优的行动链。LLMs 的工作方式，实际上更接近象棋选手而非侦探。
理解差异：推理与规划的本质

要理解 LLMs 为何在规划而非推理方面表现出色，我们需要先明确这两个概念的区别。推理是一个复杂的认知过程，它通过逻辑和推断从已知前提中得出新的结论。这包括识别和处理矛盾、生成新的见解而非简单重组信息、在不确定条件下做出判断，以及理解因果关系和进行假设性思考。
规划则专注于构建实现特定目标的行动序列。它依靠将复杂任务分解为可管理的步骤、应用已知的解决方案、将学习到的模式迁移到相似问题中，以及执行结构化的行动序列。虽然这两种能力都需要系统性思维，但推理要求更深层的抽象能力和推断能力，而规划主要是遵循既定程序，很少产生根本性的新认知。
LLMs的"推理"机制

现代 LLMs 采用了思维链(Chain of Thought, CoT)技术来增强其解决问题的能力。这种方法通过将问题分解为多个中间步骤，模拟人类的逻辑思考过程。让我们通过一个具体的数学问题来分析这种机制：
如果一家商店的苹果单价 2 美元，购买超过 5 个时每个可优惠 1 美元，那么购买 7 个苹果的总价是多少？
使用 CoT 技术的 LLM 会这样处理：

• 计算原始总价：7 × $2 = $14
  
• 验证优惠条件：7个大于5个，满足优惠条件
  
• 计算优惠金额：7 × $1 = $7
  
• 得出最终价格：$14 - $7 = $7
  

这种步骤分解方法确实降低了错误率，让问题解决过程更加可靠。但这种看似推理的过程，本质上是一种结构化的问题解决方法，类似于执行预设的流程。相比之下，真正的推理过程会直接认识到一个普遍规律：优惠条件满足时，每个苹果的实际成本就是1美元。这种直观的推断对人类来说很自然，但 LLM 只能通过预设的计算步骤得出结论。
思维链的本质：规划而非推理

思维链技术虽然提升了 LLMs 在数学问题和编程任务等领域的表现，但这并不等同于真正的逻辑推理。这是因为 CoT 主要依赖于程序性知识，遵循预设的步骤，而不是产生真正的新见解。它缺乏对因果关系和抽象概念的深入理解，这导致模型在处理反事实推理或需要突破训练数据限制的假设性场景时表现欠佳。此外，CoT 无法根本性地改变其解决问题的方法，这限制了它在面对全新场景时的适应能力。
打造真正的推理型LLMs需要什么？

要让 LLMs 具备真正的推理能力，需要在以下关键领域取得突破：

• 符号理解：人类通过操作抽象符号和关系进行推理。LLMs 需要建立真正的符号推理机制，可能需要将神经网络与形式逻辑系统结合，形成混合模型。
  
• 因果推断能力：真正的推理需要理解事物之间的因果关系，而不仅仅是统计相关性。这要求模型能够从数据中提炼出基本原理，而不是简单地预测下一个可能出现的 Token (标记)。
  
• 自我反思和元认知：人类会不断评估自己的思维过程，质疑"这个结论是否合理"。构建具备自我评估能力的模型，是迈向真正推理能力的重要一步。
  
• 常识与直觉：尽管 LLMs 可以访问海量知识，但在基本常识推理方面仍然存在短板。这源于它们缺乏形成直觉的实际经验，难以识别对人类来说显而易见的谬误。改进这一点可能需要整合现实世界感知输入，或利用知识图谱来帮助模型更好地理解人类的认知方式。
  
• 反事实思维：人类推理常常涉及"如果情况不同会怎样"的思考。LLMs 在处理这类假设性场景时往往力不从心，因为它们受限于训练数据。要实现这种能力，模型需要能够模拟假设场景，理解变量改变对结果的影响，并生成新的见解。
  

结论

虽然 LLMs 展现出强大的问题解决能力，但它们的工作方式本质上是依靠规划技术，而非真正的推理。无论是解决数学问题还是进行逻辑分析，它们主要是以结构化方式组织已知模式，而不是深入理解问题的本质原理。
认识到规划与推理的区别对  AI 研究具有重要意义。如果我们把复杂的规划能力误解为真正的推理，就可能高估了 AI 系统的实际能力。发展真正具备推理能力的 AI 系统，需要在符号逻辑、因果理解和元认知等方面实现突破性进展。在此之前，LLMs 将继续作为强大的结构化问题解决工具存在，但离真正模拟人类思维方式还有相当距离。
译者介绍

刘汪洋，51CTO社区编辑，昵称：明明如月，一个拥有 5 年开发经验的某大厂高级 Java 工程师。
原文标题：LLMs Are Not Reasoning—They’re Just Really Good at Planning，作者：Dr. Tehseen Zia