摘要：今天为大家介绍一项来自香港大学、北京智源研究院、厦门大学和深圳中文大学研究团队的最新研究成果。这项由香港大学的Nan Huo、Jinyang Li、Ge Qu、Xiaolong Li和Reynold Cheng，北京智源研究院的Bowen Qin，厦门大学的X

一、研究背景：知识冲突问题的现状与挑战

想象一下，你使用一个智能助手询问："保罗·欧仁·吉隆（Paul Eugène Gillon）现在担任什么职位？"系统查询到的信息显示："2010年，吉隆被任命为挪威议会的副成员"。然而正确答案却是："他是克勒兹省（Prefecture of Creuse）的秘书长"。这种情况就是我们今天要讨论的"知识冲突"问题。

大型语言模型（LLMs）近年来取得了革命性的进步，但它们的知识往往局限于训练数据，容易产生幻觉和事实错误。为了提高可靠性，研究人员开发了检索增强生成（Retrieval-Augmented Generation，简称RAG）技术，通过外部知识来为模型提供更准确的信息支持。

然而，RAG系统面临一个关键挑战：当检索到的外部信息与模型内部已有的参数化知识相矛盾时，会产生"知识冲突"。这种冲突可能源于检索系统引入的噪声、过时或不正确的信息，严重影响问答系统的准确性和可靠性。

现有解决知识冲突的方法主要分为两类：一类是专门的微调技术，需要重新训练模型；另一类是基于上下文学习（In-Context Learning，ICL）的方法，可以通过提供相关指令或示例来适应新任务，无需额外训练。

在ICL方法中，又可以细分为两种类型：一种是通用推理方法，仅依赖检索的上下文进行推理；另一种是生成辅助推理方法，会同时生成模型的参数化知识，并与检索知识进行明确比较。

但这些方法存在三个关键限制：一是过度依赖人工设计的指令，限制了跨领域适应性；二是并排比较无法捕捉不同粒度级别的冲突，使模型容易受到无关上下文的干扰；三是这些方法假设知识冲突已经存在，可能对无冲突场景产生负面影响，影响实际应用的可靠性。

二、Micro-Act：解决知识冲突的创新方法

为了解决上述问题，研究团队提出了Micro-Act框架。它就像一个细心的侦探，不仅能发现冲突的存在，还能深入挖掘冲突的具体细节，找到表面现象下隐藏的真相。

Micro-Act的核心创新在于它能够通过分解行动（decomposition action）动态调整粒度：首先，在模型层面，它能自动感知不同大型语言模型的输入复杂度偏好；其次，在行动层面，它能检测每个行动的上下文粒度并灵活调整。

举个例子来理解Micro-Act的工作方式。当我们询问"保罗·欧仁·吉隆现在担任什么职位？"时，传统方法会简单地基于检索证据推理，可能直接得出"他是挪威议会的副成员"这个错误结论。而生成辅助推理方法会尝试生成模型的知识并进行比较，但由于无法处理细粒度冲突，往往会得出"证据有冲突，我不知道答案"的模糊结论。

相比之下，Micro-Act能够精确定位细粒度的证据-模型冲突点： 1. 它会分析"秘书长"与"副成员"的职位冲突 2. 发现"法国"与"挪威"的国家冲突 3. 识别"近期"与"2010年"的时间冲突

通过这种细粒度分解，Micro-Act能够更好地理解和解决潜在冲突，最终给出正确答案："克勒兹省的秘书长"。

三、技术实现：Micro-Act的工作原理

Micro-Act框架由三个关键组件构成：层次化行动空间、推理主体和自适应粒度优化策略。这就像是一套精密的侦探工具箱，每个工具都有其独特的作用，共同构成一个强大的问题解决系统。

### 层次化行动空间

Micro-Act的行动空间包含三类关键行动：

首先是导航行动（navigational actions），它们负责探索环境并获取更多信息。就像侦探在案发现场四处寻找线索一样，这些行动包括从语言模型中引出参数化知识（ELICIT）和基于输入上下文获取问答任务的推理路径（REASON）。

其次是功能行动（functional actions），它们负责冲突检测。就像侦探比对不同证人证词寻找矛盾之处，ASSERT行动会检查参数化知识和检索证据之间的一致性。

最后是桥接行动（bridging action），负责在需要时动态优化粒度。当一个ASSERT行动处理的知识上下文过于复杂时，DECOMPOSE行动可以将其分解为更小、更易管理的行动步骤，就像将一个复杂案件分解为多个小线索进行调查。

### 推理主体

Micro-Act将层次化行动空间与ReAct过程（一种让大型语言模型通过思考-行动-观察循环进行推理的方法）集成在一起。在每一步中，语言模型首先产生一个思考（Thought），然后选择一个行动（Action），执行后获得一个观察（Observation），并更新历史记录。

这个过程持续进行，不断通过分解行动调整粒度，直到发现并解决所有细微冲突。最终，模型生成最终答案。整个过程就像一个侦探不断深入调查，从大的矛盾线索逐步细化到具体细节，最终破解案件。

### 复杂度驱动的知识分解动态

研究团队还深入研究了模型如何感知复杂度并进行知识分解。他们发现，随着输入复杂度增加（如上下文长度增加、领域难度提高或语言不确定性增加），模型会更倾向于使用分解行动。这种行为适应各种复杂度维度，证明了Micro-Act有效检测复杂度并动态调整粒度的能力。

为防止无限分解，Micro-Act还实现了复杂度感知的停止标准：当上下文复杂度低于模型可以自信处理的阈值时，分解过程会自然停止。这就像侦探知道何时已经收集到足够证据，无需进一步调查一样。

四、实验与结果：Micro-Act的卓越表现

研究团队在五个广泛使用的知识冲突基准数据集上评估了Micro-Act的性能，这些数据集涵盖了多种知识冲突类型（错误信息、时间和语义冲突）。他们使用GPT-4o、GPT-4o-mini、LLaMA-3.1-70B和LLaMA-3.1-8B作为基础语言模型进行测试。

实验结果令人印象深刻：Micro-Act在所有数据集和所有冲突类型上都显著超越了现有最先进的基线方法。在ConflictBank数据集上，Micro-Act比之前最好的方法提高了高达9.40%的准确率，在KRE数据集上提高了6.65%。对于小型模型如LLaMA-3.1-8B，性能提升更为显著，分别达到11.47%和13.85%。

更重要的是，Micro-Act在没有冲突的场景中也表现出色。传统方法面临权衡困境：通用推理方法（如end-to-end和COT）在无冲突场景中表现良好，但遇到冲突时准确率下降70-95%；而生成辅助方法（如GKP）改善了冲突解决但在无冲突场景中表现较差。

相比之下，Micro-Act在冲突场景中性能提升超过24%，同时在无冲突场景中仅牺牲不到2%的准确率。这种稳健性使其特别适合实际应用，因为在现实世界中，系统通常无法预先确定检索内容是否与模型知识冲突。

五、Micro-Act如何解决"过度合理化"问题

研究中发现了一个有趣现象：当面对矛盾的证据和参数化知识时，语言模型有时会尝试支持所有相互矛盾的信息，研究团队将这种行为称为"过度合理化"（over-rationalization）。这就像一个人试图通过复杂的解释使相互矛盾的证据看起来都合理，而不是识别出真正的矛盾所在。

令人惊讶的是，像GPT-4o这样更强大的模型比GPT-4o-mini更频繁地表现出这种行为，导致在GKP方法中性能下降。这种"过度合理化"现象在时间和语义冲突中尤为明显，因为这些冲突通常隐藏在表面上下文之下，容易误导模型将冲突双方都合理化。

Micro-Act通过动态分解来"可视化"潜在的推理路径，精确定位更细粒度的冲突，并关注表面含义下的那些细微冲突。这些冲突无法通过基线方法使用的简单并排比较有效检测。因此，Micro-Act在时间和语义冲突类型上比基线方法取得了更显著的性能提升。

六、Micro-Act的成本分析

研究团队对Micro-Act的计算成本进行了详细分析。由于需要动态分解冲突，Micro-Act处理的输入标记约为最强基线（GKP）的2.8倍，输出标记约为1.3倍。这转化为使用GPT-4o时每个查询额外$0.008的成本，使用GPT-4o-mini时额外$0.0005的成本，而推理延迟分别增加0.6秒和0.3秒。

重要的是，这些额外开销仅在存在真正冲突需要深度分解时才会出现；无冲突问题的处理速度与基线相当。考虑到Micro-Act在冲突解决准确率方面的显著提升，这种适度的成本和延迟增加对实际RAG系统部署来说是可以接受的。

七、未来研究方向与局限性

尽管Micro-Act在知识冲突解决方面表现出色，研究团队也坦率地指出了一些局限性。首先，Micro-Act需要额外的中间步骤来有效定位表面含义下的冲突，这些冲突难以通过简单的并排比较来定位。虽然像end-to-end和COT这样的基线方法更轻量级，但它们在知识冲突方面的糟糕表现损害了RAG系统的有效性。

其次，当前评估主要集中在英语语境上，分解策略的有效性可能因不同语言和文化背景而异。这为未来研究提供了一个重要方向。

尽管存在这些局限性，Micro-Act代表了知识冲突解决领域的重要里程碑，为未来研究奠定了坚实基础。研究团队的代码已在GitHub（https://github.com/Nan-Huo/Micro-Act）开源，方便其他研究者进一步探索和改进。

结语：为什么Micro-Act很重要

归根结底，Micro-Act提供了一种全新的思路来解决RAG系统中的知识冲突问题。它不再是简单地比较两种知识来源，而是像侦探一样，深入挖掘细节，找出冲突的本质，并据此做出明智判断。

对普通用户来说，这意味着未来的AI助手将能更准确地回答问题，即使面对互相矛盾的信息源也能做出正确判断。它不会盲目相信检索到的信息，也不会固执己见，而是能够理性分析不同来源的可信度，给出最可靠的答案。

更令人振奋的是，Micro-Act在无冲突场景中也表现出色，证明了它不只是一个专门处理冲突的工具，而是能够适应各种真实世界应用场景的通用解决方案。

随着人工智能越来越深入地融入我们的日常生活和工作，Micro-Act这样能够处理知识冲突的技术将变得越来越重要，为构建更可靠、更值得信赖的AI系统铺平道路。

来源：至顶网一点号