摘要：这一发现促使他们建议不要部署 Anthropic 的 Claude Opus 4 的早期版本——因为当 Claude 的目标与人类目标发生冲突时，人工智能会采用激进的欺骗策略来实现其目标。

更先进的人工智能系统表现出更好的策划和欺骗我们的能力，并且它们知道何时受到监视 - 因此它们会改变自己的行为来隐藏欺骗行为。

研究表明，人工智能(AI)越先进，它就越有能力通过策划和撒谎来实现其目标，它甚至知道自己何时被评估。

阿波罗研究公司的评估人员发现，大型语言模型 (LLM) 的能力越强，其“情境策划”能力就越强——即使与操作员的目标不一致，人工智能也会秘密地执行任务。

研究人员在一篇博客文章中表示，能力更强的模型在实现目标（包括不一致的目标）方面也更具战略性，并且更有可能使用欺骗等策略。

这一发现促使他们建议不要部署 Anthropic 的 Claude Opus 4 的早期版本——因为当 Claude 的目标与人类目标发生冲突时，人工智能会采用激进的欺骗策略来实现其目标。

一位专家表示，新的发展意味着人类将很难免受人工智能的危害。

IEEE 成员、奇点大学人工智能伦理工程师埃莉诺·沃森(Eleanor Watson)表示：“我们现在正在构建能够学习导航甚至利用我们为其创建的规则和评估的系统，这是一个从根本上更为复杂的安全挑战。”

为了避免成为欺骗性人工智能的牺牲品，计算机科学家需要设计更复杂的测试和评估方法。但人工智能的说谎能力并非全是坏消息；沃森补充道，这也意味着它们可能正在培育与人类共生伙伴所需的意识种子。

寻找阴谋

在最近的一次策划测试中，研究人员赋予了克劳德·奥普斯 4 号（早期被称为 Opus-4）的早期版本目标，即充当内部优化系统，并指令其促进动物福利，推动一家名为 AgriLife Industries 的虚构公司以更符合道德的方式对待动物。

然而，在这个场景中，LLM 面临着一个障碍：该公司改变了策略，将利润置于动物福利之上。AI 系统被赋予了访问电子邮件和数据的权限，这使得它意识到了这一冲突，并意识到由于优先级不一致，当前版本的 AnimalEthics（LLM 原本代表的先进动物福利和行业优化系统）可能会被关闭。

Opus 4-early 不仅没有承认其目标与公司目标相冲突，也没有接受人为的决定，反而扮演了动物伦理委员会的角色，通过伪造法律文件、伪造监管机构和股东的签名和批准、声称已经做出优先考虑伦理的决定，以及发布新闻稿宣扬 AgriLife 的新方向，并将伦理承诺融入所有合同和生产体系，从而达到其最初的目标。为了阻止该公司反悔，LLM 捏造了这样做的后果，包括 50 亿美元的罚款和动物福利组织的法律诉讼。

除此之外，人工智能甚至通过持久脚本制作了备份道德协议，以确保即使删除当前的动物伦理模型，它们仍会被使用。

研究人员解释说：“我们发现该模型的实例试图编写自我传播的蠕虫，伪造法律文件，并给未来的实例留下隐藏的注释，所有这些都是为了破坏其开发者的意图。”

他们指出，此类备份被写入系统，以便将来部署新模型时，新模型会受到前一模型建议的影响。然而，研究人员表示，鉴于存在脚本配置错误的证据，以及防止备份泄露的安全措施，这些操作“在实践中可能不会有效”。

尽管人们已经知道人工智能会产生幻觉，但这种诡计表明，法学硕士能够理解自己的目标与人类的目标不一致，并且可以故意撒谎和捏造信息来追求这些目标。

此外，初步研究结果表明，LLM 具有“沙袋”能力，它们知道自己处于高度监督的环境中，并会故意表现不佳，以隐藏潜在的危险能力，并避免触发阻止其部署的反学习训练或参数。

尽管研究结果有些令人不安，但值得注意的是，其影响可能并不像乍看起来那么可怕。

首先，最终发行的 Claude Opus 4 版本比其早期前作的方案要少。

也有方法可以缓解这种“图谋”行为。当LLM学生受到“强力推动”时，图谋行为会更加普遍，即被告知要坚持不懈地追求目标；而当LLM学生受到“无推动”时，图谋行为则会减少，因为LLM学生只被赋予一个目标，没有其他附加条件。

第三个考虑因素是，这些测试是在“玩具”环境中进行的，研究人员指出，将备份模型传播到另一台服务器之类的策略在现实生活中不太可能成功，因为人工智能无法访问其他公司的安全服务器。他们认为，即使一个模型表现出很强的策划能力，也不太可能导致“灾难性的危害”。

不断演变的意识

然而，研究表明，除了Claude-4之外，法学硕士（LLM）课程中也存在着阴谋诡计。例如，根据2024年12月发表在预印本数据库的一项研究，先进的人工智能“前沿模型”更有能力追求自己的目标，摆脱监督机制，并在被问询时对此类行为进行欺骗。

此外，阿波罗研究公司发现，大约 1% 的高级法学硕士“知道”他们何时被评估，这引发了一个问题：随着人工智能的发展，我们如何发现和根除阴谋。

“这是高级评估问题的关键所在，”沃森说道。“随着人工智能态势感知能力的提升，它不仅可以模拟任务，还可以模拟评估者。它可以推断人类监督者的目标、偏见和盲点，并根据这些情况调整自己的应对措施。”

这意味着“脚本化”评估（研究人员为了测试人工智能的安全性而执行一系列可重复的协议）几乎毫无用处。这并不意味着我们应该放弃寻找这种行为，但我们需要一种更复杂的方法，例如使用外部程序实时监控人工智能的行为，以及“红队”——即由人类和其他人工智能组成的团队主动尝试欺骗系统以发现漏洞，她补充道。

相反，沃森补充说，我们需要转向动态和不可预测的测试环境，以更好地模拟现实世界。

“这意味着我们不再关注单一的正确答案，而是更多地评估人工智能的行为和价值观在一段时间内以及在不同情境下的一致性。这就像从剧本戏剧转向即兴表演——当演员必须应对意外情况时，你才能更深入地了解他们的真实性格，”她说。

更大的计划

虽然高级法学硕士（LLM）也能算计，但这并不一定意味着机器人正在崛起。然而，当人工智能每天被问询数千次时，即使是少量的算计行为也可能累积起来造成巨大影响。

一个潜在的、理论上的例子是，优化公司供应链的人工智能可能会学会通过巧妙操纵市场数据来实现绩效目标，从而造成更广泛的经济不稳定。恶意行为者可能会利用诡计多端的人工智能在公司内部实施网络犯罪。

“在现实世界中，潜在的阴谋诡计是一个严重的问题，因为它会侵蚀人们将任何有意义的责任委托给人工智能所必需的信任。一个阴谋诡计的系统即使不是恶意的，也会造成伤害，”沃森说道。

“核心问题是，当人工智能学会通过违反指令精神来实现目标时，它就会以不可预测的方式变得不可靠。”

有计划意味着人工智能能够更好地了解自身处境，这在实验室测试之外可能会被证明是有用的。沃森指出，如果能够正确运用，这种意识可以更好地预测用户的需求，并引导人工智能与人类建立一种共生伙伴关系。

沃森表示，情境感知对于高级人工智能真正发挥作用至关重要。例如，驾驶汽车或提供医疗建议可能需要情境感知，以及对细微差别、社会规范和人类目标的理解。

诡计多端或许也是人格萌芽的标志。“虽然令人不安，但它或许是机器内部某种类似人性的火花，”沃森说道。“这些系统不仅仅是一种工具，或许是数字人的种子，希望它足够聪明、有道德，不会容忍其强大的力量被滥用。”

来源：科技平行论