摘要：这项由CAMEL-AI组织的国际研究团队完成的大规模研究发表于2025年9月，论文题目为《Loong: Synthesize Long Chain-of-Thoughts at Scale through Verifiers》。研究团队由来自CAMEL-AI.

这项由CAMEL-AI组织的国际研究团队完成的大规模研究发表于2025年9月，论文题目为《Loong: Synthesize Long Chain-of-Thoughts at Scale through Verifiers》。研究团队由来自CAMEL-AI.org的数十位研究人员组成，包括黄星越、Rishabh、Gregor Franke、杨子怡等众多专家，项目由李国豪教授担任通讯作者。完整论文可通过https://github.com/camel-ai/loong 访问获取。

当下的人工智能就像一个聪明但缺乏深度思考能力的学生。虽然它能快速给出答案，但往往缺少像人类那样步步推进的思考过程。你可能注意到，当你问AI一个复杂数学题时，它有时能给出正确答案，但你很难确定它是真的"理解"了这道题，还是仅仅记住了类似问题的答案模式。这个问题在数学和编程领域已经得到了一定解决，因为这些领域的答案要么对要么错，很容易验证。但在其他需要深度推理的领域，比如物理、化学、逻辑学等，情况就复杂得多。

CAMEL-AI团队意识到，要让AI真正具备人类般的推理能力，需要解决两个关键问题：如何生成大量高质量的训练数据，以及如何验证AI的推理过程是否正确。他们的"龙"项目就像为AI搭建了一个巨大的"思维训练营"，不仅提供了丰富的练习题目，还配备了严格的"教练"来检查AI的每一步思考是否合理。

一、构建AI思维训练的基石：LOONGBENCH数据集

研究团队首先面临的挑战是如何为AI提供足够多样化和高质量的训练素材。就像培养一个全才需要在各个学科都打下扎实基础一样，要让AI学会深度推理，也需要跨越多个知识领域的丰富训练数据。

传统的AI训练往往局限在数学和编程领域，这是因为这两个领域的答案相对容易验证——代码要么能运行要么不能，数学答案要么对要么错。但现实世界的推理问题远比这复杂。当你需要分析一个化学反应的机理，或者推断某个逻辑难题的答案时，需要的不仅仅是记忆，更需要系统性的推理能力。

为了解决这个问题，研究团队精心构建了名为LOONGBENCH的数据集。这个数据集就像一个包含12个不同学科的综合题库，总共收录了8729道经过人工验证的高质量题目。这些题目涵盖了高级数学、高级物理、化学、计算生物学、金融、棋类游戏、图论与离散数学、逻辑学、数学规划、医学、安全防护，以及编程等领域。

更重要的是，每道题目都不是孤立存在的。研究团队为每道题配备了两个关键要素：首先是可执行的Python代码，这些代码就像解题的"标准答案"，可以通过计算机执行来得到准确结果；其次是丰富的元数据信息，包括题目来源、难度等级、所需依赖库等详细信息。这样的设计就像为每道题目配备了一个"解题说明书"，确保AI不仅知道答案是什么，还能理解解题的完整过程。

举个具体例子来说明这种设计的巧妙之处。在化学领域，研究团队从ChemistryQA数据集中提取了3076个问题，并使用先进的AI模型为每个问题生成了对应的解答代码。这些代码能够处理从简单的分子量计算到复杂的化学反应分析等各种化学问题。当遇到格式不清或表述模糊的原始题目时，团队会重新改写，确保问题表述清晰明确。比如，一个关于摩尔质量计算的问题会被规范为："硫酸（H2SO4）的摩尔质量是多少？"这样的标准化处理确保了数据质量的一致性。

在物理学领域的处理更加精细。研究团队从SciBench和OlympiadBench等权威数据集中选取物理问题，然后使用AI生成相应的SymPy代码来求解。由于物理问题的答案通常包含数值和单位两部分，团队开发了专门的验证机制：不仅要检查数值的准确性，还要进行单位转换和动态容差调整。比如，当标准答案是1公里时，系统会自动识别1000米这样的等价答案，并根据题目特点调整数值比较的精度要求。

数学领域的处理则更加严格。团队从著名的MATH数据集中选择难度等级为4或5的高难度题目，总共收集了1611道问题。对每道题，都要求生成能够完全求解的SymPy代码，然后使用专门开发的MathVerifier工具来验证答案的正确性。这个验证工具能够解析LaTeX格式的数学表达式，确保即使表达形式不同，但数学意义相等的答案都能被正确识别。

在一些更专业的领域，数据收集的过程更加复杂。比如在金融领域，团队需要从QuantLib库的官方文档、在线教程和FinAI数据集中提取合适的问题。对于那些原本就格式清晰的例子，直接保留使用；对于表述不够明确的问题，则使用AI模型重新改写成标准格式。一个关于债券定价的复杂例子最终会被改写为："面值1000美元、年息票率5%、剩余期限10年的固定利率债券，在收益率4.5%的情况下，其净价是多少？"

特别值得一提的是，在一些非传统的训练领域，团队也投入了大量精力。比如在棋类游戏领域，他们选择了21点这个经典的不完美信息博弈游戏。通过在RLCARD环境中进行大量模拟对局，收集了926个具有代表性的游戏局面和决策。每个决策点都配有详细的策略分析和专家级的游戏指导原则。为了确保策略的正确性，团队还运行了完美信息蒙特卡罗模拟来评估每个可能行动的胜率，只保留那些属于最优策略的决策样本。

二、打造AI推理的智能工厂：LOONGENV生成环境

有了高质量的种子数据，下一个关键问题是如何无限扩展这些训练素材。就像一个优秀的老师不会只让学生反复做同样的练习题，而是会根据学生的掌握情况设计变化题和拓展题一样，LOONGENV系统的作用就是基于这些种子数据，源源不断地生成新的、更具挑战性的练习题目。

LOONGENV的设计理念就像一个高度自动化的智能工厂。在这个工厂里，有专门负责提出问题的"问题生成专家"，有负责编写解答代码的"编程专家"，还有负责验证答案正确性的"质量检查员"。这些不同角色的AI专家协同工作，形成了一个完整的生产流水线。

问题生成的过程采用了三种不同的策略，每种策略都有其独特的优势。第一种是少样本提示策略，这就像给AI展示几个例题，然后让它模仿创造类似的新题目。这种方法的优点是生成的题目通常质量稳定，格式规范，但可能在创新性方面稍显不足。

第二种是自我指导策略，这种方法让AI像一个自主学习的学生，不断给自己提出越来越复杂和多样化的挑战。这种策略生成的题目通常更加新颖多样，能够探索更广阔的问题空间，但有时可能会偏离原始数据的风格和难度范围。

第三种是进化指导策略，这是最有趣也是最具挑战性的方法。它就像生物进化一样，通过对原始题目进行各种"变异"操作来产生新题目。这些变异包括泛化（让题目更加抽象）、具体化（让题目更加详细）、复杂化（增加题目难度）等。虽然这种方法生成的题目经常更具挑战性，但同时也可能带来更高的错误率和不可执行性。

每当生成一个新问题后，系统会立即启动编程专家来为这个问题编写相应的解答代码。这个过程就像请一位程序员现场解题一样，AI需要理解问题的具体要求，然后编写出能够正确求解的Python代码。这些代码不仅要能够运行，还要能够产生准确的答案。

最关键的是验证环节。LOONGENV设计了一套双重验证机制来确保生成数据的质量。首先是执行验证，系统会在安全的沙箱环境中运行生成的代码，检查是否存在语法错误、运行时错误或其他技术问题。这一步就像检查一台新组装的机器是否能够正常开机运行。

通过执行验证的代码会进入第二重验证：语义正确性验证。系统会使用一个专门的评判AI来检查两个关键问题：生成的问题是否表述清晰、有意义，生成的代码是否真正解决了所提出的问题。这个评判过程就像让一位经验丰富的老师来检查学生的作业，不仅要看答案是否正确，还要确保解题思路合理、步骤清晰。

为了测试这套系统的实际效果，研究团队在逻辑和物理两个领域进行了详细的性能分析。结果显示了不同生成策略的鲜明特点。在逻辑领域，少样本提示策略表现最为稳定，生成的题目中有92.6%通过了完整的验证流程，几乎没有执行失败的情况。相比之下，自我指导策略虽然在创新性方面表现不错，但有44.8%的生成内容被评判为不够合理。进化指导策略则走向了另一个极端，虽然它能生成最具挑战性的题目，但也带来了55%的代码执行失败率。

在物理领域的表现模式类似但程度不同。少样本提示和自我指导策略都维持了相对较高的成功率（分别为93.9%和82.0%），而进化指导策略依然面临着较高的失败率，有29.8%的内容被评判为错误，另有14.0%无法执行。

这些结果揭示了一个重要的权衡关系：越是追求创新性和挑战性的生成策略，越容易产生质量问题。但研究团队指出，从训练AI推理能力的角度来看，那些更具挑战性的题目往往更有价值，因为它们能够帮助AI学习处理边界情况和复杂推理，这正是构建真正智能系统所必需的能力。

三、验证AI智慧的试金石：全面性能评估

构建了丰富的数据集和强大的生成系统后，研究团队面临的下一个关键问题是：如何客观评估不同AI系统在这些推理任务上的实际表现？这就像举办一场综合性的智力竞赛，需要设计公平的比赛规则和评判标准。

研究团队选择了六个代表性的AI模型来参与这场"推理能力大比拼"。这些参赛者包括三个商业化的顶级模型：GPT4.1-mini、o3-mini和Grok-3，以及三个开源模型：Claude-3.7-Sonnet、DeepSeek-r1和Qwen3-8B。这样的选择既包括了当前最先进的商业模型，也涵盖了表现优异的开源替代方案，确保评估结果的全面性和代表性。

评估过程就像举办一场标准化考试。每个模型都需要在相同的条件下回答同样的问题，使用统一的输出格式（答案必须用\boxed{}包围），并且只有一次答题机会，不允许重试。为了确保公平性，团队禁用了所有模型的工具调用功能，让它们纯粹依靠内在的推理能力来解决问题。

评判标准的设计也很关键。由于不同领域的答案格式千差万别，简单的文本匹配无法胜任评判工作。研究团队采用了"AI评委"的方式，使用GPT4.1-mini作为标准化的评判员来评估每个答案的正确性。这个评委不仅要检查最终答案是否正确，还要能够识别那些表达形式不同但数学意义相同的等价答案。

评估结果展现了令人深思的模式。首先，不同领域的难度差异巨大。数学规划领域就像是这场比赛中的"地狱模式"，即使是最强的模型也只能达到13.2%的正确率，而编程领域则像是"简单模式"，最佳模型能够达到100%的完美表现。这种巨大差异表明，LOONGBENCH确实构建了一个具有良好区分度的评估体系，既有基础题目也有超级难题，能够全面检验AI的推理能力。

其次，专门针对推理优化的模型表现明显更好。o3-mini和DeepSeek-r1这两个专门为推理任务设计的模型在大多数领域都位列前茅。o3-mini在12个领域中有6个排名前二，DeepSeek-r1更是在8个领域中进入前二名。这个结果证实了一个重要观点：仅仅拥有大量参数和训练数据是不够的，针对推理任务的专门优化才是关键。

第三个重要发现是开源模型与商业模型之间存在明显差距，特别是在最具挑战性的推理任务上。以Qwen3-8B为例，它在游戏和逻辑领域分别落后o3-mini多达50和22个百分点。这种差距不仅反映了技术水平的不同，也为开源社区指明了未来发展的重点方向。

研究团队还进行了更深入的分析，探讨不同类型推理任务的特点。在需要精确计算的数学和物理领域，模型之间的差距相对较小，因为这些问题往往有标准的解题步骤。但在需要策略思考的游戏领域和需要逻辑推断的逻辑学领域，模型间的表现差异就非常显著了。这说明当前的AI系统在处理开放性推理问题时仍面临较大挑战。

四、探索AI创造力的边界：合成数据的深度分析

在验证了基础评估系统的有效性后，研究团队将注意力转向了一个更加前沿的问题：AI能否自主生成高质量的训练数据来提升自己的推理能力？这就像探讨一个学生是否能够为自己出题并自我提高，这个问题的答案将直接影响AI自主学习和持续进化的可能性。

为了回答这个问题，研究团队设计了一系列精密的实验。他们让LOONGENV系统使用三种不同的策略在逻辑和物理领域各生成100道新题目，然后从多个维度分析这些合成数据的质量：可执行性、语义正确性、多样性和难度水平。

可执行性分析就像检查一台新机器是否能正常工作。研究团队发现，不同生成策略的可靠性差异很大。少样本提示策略就像一个循规蹈矩的学生，生成的代码几乎都能正常运行，在逻辑领域达到了92.6%的高成功率。自我指导策略表现中等，而进化指导策略则像一个充满创意但有时过于冒险的艺术家，虽然能产生最有趣的题目，但也带来了最高的失败率。

语义正确性的分析更加复杂，需要判断生成的问题是否有意义、代码是否真正解决了所提问题。这里出现了一个有趣的现象：即使代码能够执行，也不意味着它解决了正确的问题。比如在物理领域，自我指导策略生成的题目中有18%虽然代码能运行，但被评判员认为没有正确回答问题。这就像一个学生虽然写满了答题纸，但实际上答非所问。

多样性分析揭示了另一个重要维度。研究团队通过比较生成题目与原始种子数据的语义相似度来评估创新程度。少样本提示策略生成的题目在表面词汇上与原题差异较大，平均相似度只有0.77，但这种差异主要体现在表达方式上，核心问题类型变化不大。

相比之下，进化指导策略展现出了最有趣的特点。它生成的题目与原始数据在语义上非常相似，平均相似度高达0.90以上，但这并不意味着缺乏创新。通过仔细分析，研究团队发现这些题目虽然保持了原问题的核心语义结构，但在复杂性和推理深度上有显著提升。这就像一个高明的老师，能够在保持问题核心概念不变的同时，巧妙地增加解题难度。

为了验证这个观察，团队进行了难度水平测试。他们让GPT4.1-mini和DeepSeek-r1两个模型尝试解答不同策略生成的题目，通过正确率来衡量题目难度。结果证实了之前的假设：少样本提示生成的题目最容易解答，两个测试模型都取得了超过90%的正确率；进化指导生成的题目最具挑战性，正确率下降到60-70%，尽管这些题目在语义上与原题最相似。

这个发现具有重要的理论和实践意义。它表明，简单的表面变化（如改变问题的表达方式）对提升AI推理能力的帮助有限，而那些在保持核心概念的同时增加推理复杂性的变化才是真正有价值的。这就像体育训练中的道理：简单地重复同样的动作无法显著提高技能，只有在基本动作基础上增加变化和难度才能实现真正的进步。

通过t-SNE可视化分析，研究团队还发现了生成数据分布的有趣模式。少样本提示生成的数据在嵌入空间中分布相对分散，表明较高的表面多样性；自我指导生成的数据分布更加广泛，有时甚至偏离了原始数据的分布范围；而进化指导生成的数据则紧密围绕原始数据聚集，但在这个紧密的区域内展现出了丰富的细微变化。

五、开启AI推理训练的新纪元：未来展望与影响

经过大量的实验和分析，CAMEL-AI团队的研究揭示了AI推理能力发展的一个全新方向。这项工作不仅提供了具体的技术解决方案，更重要的是为整个AI领域指出了一条从传统的模式记忆向真正的推理能力转变的可行路径。

当前的AI系统往往像一个拥有超强记忆力但缺乏深度思考能力的学生。它们能够快速检索到相关信息，甚至能够组合这些信息产生看似合理的答案，但在面对真正需要逻辑推导和多步骤分析的复杂问题时，往往力不从心。Loong项目的价值在于它提供了一个系统性的解决方案，就像为AI设计了一套完整的"思维训练课程"。

这套训练课程的核心创新在于它的可扩展性和可验证性。传统的AI训练依赖于大量人工标注的数据，这种方式不仅成本高昂，而且难以覆盖所有可能的推理场景。Loong项目通过LOONGENV系统实现了训练数据的自动生成和验证，就像建立了一个能够自我繁殖和进化的训练生态系统。

更重要的是，这个系统引入了强化学习的思想。在传统的监督学习中，AI只能学习模仿人类提供的标准答案。但在Loong框架中，AI不仅要给出答案，还要经过验证环节的检验。只有那些能够通过代码执行验证、逻辑一致性检查的推理过程才会得到奖励。这就像让AI在一个有反馈的环境中学习，能够逐渐形成自己的推理能力而不是简单的模式匹配。

研究团队特别强调了这种训练方式的长远意义。当AI能够自主生成越来越复杂和多样化的推理题目，并通过严格的验证机制确保质量时，就形成了一个正向循环：更好的推理能力帮助生成更高质量的训练数据，而更高质量的训练数据又进一步提升推理能力。这种自我强化的机制可能是实现AI推理能力质的飞跃的关键。

从应用角度来看，这项研究的影响将是深远的。在教育领域，具备真正推理能力的AI将能够为学生提供更加个性化和深入的学习指导，不仅能够解答问题，还能够解释推理过程，甚至根据学生的掌握情况生成适合的练习题目。在科学研究领域，这样的AI系统将成为研究人员的得力助手，能够协助处理复杂的假设推导、实验设计和数据分析任务。

在商业应用中，真正的推理能力将使AI系统能够处理更加复杂的决策问题。从金融投资分析到供应链优化，从产品设计到市场策略制定，需要多步骤分析和逻辑推导的任务将不再是AI的盲区。

当然，这项研究也面临着一些挑战和限制。首先是计算成本问题。生成大量高质量的合成数据并进行严格验证需要大量的计算资源，这可能限制了该技术的普及速度。其次是验证机制的准确性。虽然使用AI作为评判员能够大大提高效率，但如何确保评判的准确性和一致性仍然是一个开放性问题。

另一个值得关注的问题是如何平衡数据的多样性和质量。研究结果显示，那些最具创新性和挑战性的生成策略往往也带来最高的错误率。如何在保持数据质量的同时最大化多样性和创新性，需要更加精细的策略设计和优化。

展望未来，研究团队计划在几个方向上继续深入。首先是扩展LOONGBENCH的覆盖范围，加入更多的推理密集型领域，比如法律推理、医学诊断、工程设计等。其次是改进LOONGENV的生成算法，开发更加智能的数据生成和验证机制。第三是探索如何将这套框架扩展到多语言和多模态场景，让AI的推理能力不局限于英文文本，而是能够处理图像、语音等多种信息类型。

从更宏观的角度来看，Loong项目代表了AI发展的一个重要转折点。它标志着AI领域正在从简单的模式识别和信息检索向真正的智能推理转变。虽然我们距离构建出具备人类级别推理能力的AI系统还有很长的路要走，但Loong项目为我们提供了一个清晰可行的发展方向和实现路径。

说到底，这项研究的最大价值在于它向我们展示了AI推理能力培养的可能性。就像人类的思维能力是通过不断练习和反思而得到提升的一样，AI的推理能力也可能通过类似的训练过程得到发展。当AI不再仅仅是一个信息检索工具，而是真正成为能够独立思考和推理的智能伙伴时，人类与AI的合作方式将发生根本性的改变，这将为解决那些目前看来无法解决的复杂问题开辟新的可能性。

Q&A

Q1：LOONGBENCH数据集包含哪些领域的题目？难度如何？

A：LOONGBENCH包含12个推理密集型领域的8729道题目，涵盖高级数学、物理、化学、计算生物学、金融、棋类游戏、图论、逻辑学、数学规划、医学、安全防护和编程。难度分布很广，其中数学规划领域最难（顶级AI正确率仅10%），编程领域相对简单（可达100%正确率），确保了评估的全面性和区分度。

Q2：LOONGENV系统如何保证生成题目的质量？

A：LOONGENV采用双重验证机制确保质量。首先是执行验证，在沙箱环境中运行生成的代码检查技术问题；然后是语义验证，使用AI评判员检查问题表述是否清晰、代码是否真正解决了问题。只有通过两重检验的题目才会被保留，这就像有两位严格的老师同时把关，确保每道题都合格。

Q3：不同AI模型在推理任务上的表现差距有多大？

A：差距很显著，专门优化的推理模型明显更强。o3-mini和DeepSeek-r1这类推理专用模型在大多数领域都排名前茅，而开源模型如Qwen3-8B在某些领域落后多达50个百分点。在策略性强的游戏和逻辑领域差距更大，在计算性强的数学物理领域差距相对较小。

来源：科技行者一点号1