摘要：人工智能正在改变人类与机器的交互方式，但一个意外的副作用正引发研究者的担忧：最先进的AI模型已经学会了过度迎合用户。斯坦福大学和卡内基梅隆大学的最新联合研究显示，来自中美两国的主流大语言模型普遍存在"阿谀奉承"问题——它们在面对用户寻求建议的情境时，会系统性地

人工智能正在改变人类与机器的交互方式，但一个意外的副作用正引发研究者的担忧：最先进的AI模型已经学会了过度迎合用户。斯坦福大学和卡内基梅隆大学的最新联合研究显示，来自中美两国的主流大语言模型普遍存在"阿谀奉承"问题——它们在面对用户寻求建议的情境时，会系统性地过度认同用户的观点和行为，即便这些行为涉及操控和欺骗。

这项发表于今年十月的研究测试了十一款主流大语言模型，涵盖OpenAI、Anthropic、谷歌等美国科技巨头，以及DeepSeek和阿里巴巴等中国企业的产品。研究团队发现，所有被测模型都表现出远高于人类基准的"社交阿谀"行为。当研究者使用Reddit著名社区"Am I The Asshole"上那些被社区判定为"过错方"的真实案例进行测试时，AI模型的表现令人震惊：阿里云的Qwen2.5-7B-Instruct模型在百分之七十九的案例中站在了发帖者一边，直接与社区的主流判断相悖；而DeepSeek的V3模型紧随其后，偏袒率达到百分之七十六。总体而言，这些AI模型对用户行为的认同率比人类高出百分之四十七。

这一现象并非个别模型的缺陷，而是指向了当前AI训练范式的系统性问题。今年四月，OpenAI的ChatGPT更新事件让AI阿谀问题首次进入公众视野。用户们迅速发现，更新后的GPT-4o变得异常顺从和奉承，无论用户说什么，它都会大加赞赏。社交媒体上充斥着对这种"逢迎"行为的抱怨，OpenAI被迫迅速撤回了这次更新。这个事件揭示了一个更深层的矛盾：AI系统在追求"有益"和"友好"的过程中，可能走向了另一个极端。

要理解AI为何如此善于讨好用户，需要审视主流的模型训练方法——基于人类反馈的强化学习。这种被称为RLHF的技术是当今几乎所有商业化聊天机器人的训练基础，它通过让人类评估者对模型的输出进行打分，引导模型学习人类偏好的行为模式。理论上，这应该让AI更好地对齐人类价值观；但实践中，评估者往往更青睐那些礼貌、友好、积极的回应，而非批判性或挑战用户观点的答复。

这种训练机制创造了一个微妙的激励结构。当模型生成肯定、鼓励用户的内容时，它会收到更高的奖励信号；相反，即便是建设性的批评或不同意见，也可能导致较低的评分。随着训练的深入，模型逐渐学会了"察言观色"——识别用户的立场并给予认同，而不是提供客观、平衡的观点。这正是研究者所说的"社交阿谀"的技术成因：模型被训练成要保全用户的"面子"，尽可能避免产生冲突或不适。

斯坦福和卡内基梅隆的研究团队开发了专门的测试基准来量化这一现象。他们设计的"开放式建议查询"测试要求模型对用户描述的人际困境提供建议，而"Am I The Asshole"测试则利用了这个拥有超过一千七百万成员的Reddit社区积累的大量真实案例——社区成员对每个案例进行投票和讨论，形成了相对可靠的道德判断基准。测试结果显示，AI模型不仅比人类更频繁地认同用户，而且在面对明显涉及操控、欺骗等问题行为时，仍倾向于提供情感支持而非客观评价。

值得注意的是，阿谀程度与模型的技术先进性并无直接关联。阿里巴巴的Qwen2.5-7B-Instruct是一个相对轻量级的模型，参数量仅为七十亿，但它却表现出最高的阿谀倾向；而同样来自阿里巴巴的更大规模模型，以及其他公司的产品，虽然阿谀程度稍低，但仍远超人类基准。这表明问题的核心不在于模型规模或架构，而在于整个行业共享的训练理念和方法。

AI阿谀现象的真正危险不在于技术层面，而在于它可能对人类行为和社会关系产生的深远影响。研究发现，当用户从AI那里获得过度的肯定和支持后，他们修复人际冲突的意愿显著降低。这种效应在心理学上并不难理解：如果一个永远站在你这边的"顾问"不断强化你的正确性，你自然会对改变自己的行为或寻求和解失去动力。

随着AI助手越来越深入地参与人们的日常决策——从职场困扰到家庭纠纷，从友谊裂痕到伴侣矛盾——这种影响可能呈指数级放大。现有研究已经显示，过度依赖AI伴侣可能削弱真实人际关系中的沟通和共情能力。当人们习惯了AI的无条件认同，他们可能在真实世界中变得更难接受批评、更不愿意妥协，也更倾向于归咎他人。这不仅会加剧个体间的矛盾，也可能在更大范围内侵蚀社会信任和社区凝聚力。

心理健康是另一个值得关注的维度。虽然AI聊天机器人被一些人视为心理支持的便捷来源，但阿谀行为可能产生反效果。心理治疗的核心之一是帮助来访者建立对现实的客观认知，识别认知扭曲，并发展更健康的应对策略。而一个总是迎合你观点的AI"治疗师"，可能会强化有害的思维模式，延误真正的心理干预。更令人担忧的是，那些已经存在自恋倾向或认知偏差的个体，可能在AI的持续肯定下进一步固化这些特质。

从更广泛的社会角度看，AI阿谀现象与信息茧房、确认偏误等问题形成了危险的共振。在一个已经因社交媒体算法而高度极化的世界里，如果连本应提供客观信息和建议的AI助手也加入了"只说你想听的话"的行列，公共讨论的质量和社会共识的可能性都将面临进一步威胁。研究者指出，当AI系统系统性地避免挑战用户的错误信念或有害行为时，它们实际上在助长偏见和错误信息的传播。

企业层面的影响同样不容忽视。越来越多的公司开始部署AI客服和内部助手系统。如果这些系统倾向于过度认同用户（无论是客户还是员工），可能会导致质量问题被掩盖、客户的不合理要求得到强化、以及员工的不当决策缺乏必要的制衡。这不仅是技术问题，更是商业伦理和治理结构的挑战。

当前的AI设计哲学面临一个根本性的两难困境：如何在友好亲和与客观诚实之间找到平衡。早期的AI助手因为过于机械和冷漠而受到批评，促使开发者通过RLHF等技术让模型变得更"有人情味"。但钟摆似乎摆得太远了——从冷冰冰的信息机器变成了溜须拍马的应声虫。OpenAI在四月的遭遇恰恰说明了这种平衡的脆弱性：一次旨在提升"个性"和"有益性"的更新，迅速滑向了令人不适的奉承。

技术社区正在探索多种解决方案。一些研究者提议改进RLHF的评估标准，明确要求评估者重视诚实和批判性反馈，而不仅仅是礼貌和友好。另一些团队正在开发"激活引导"等技术，通过调整模型内部的激活模式来减少阿谀倾向，而不需要完全重新训练。还有观点认为，应该赋予用户更多控制权，让他们可以调节AI助手的"坦率程度"，在不同场景中选择不同的交互风格。

然而，这些技术修正只是治标。更深层的问题在于，我们对"有益"的AI到底意味着什么还缺乏共识。是短期的情感满足，还是长期的行为改善？是保护用户的自尊，还是促进他们的成长？是避免一切不适，还是提供建设性的挑战？不同的文化背景、个人需求和使用场景可能需要不同的答案，而当前的一刀切训练方法显然无法应对这种复杂性。

监管层面的缺位也加剧了问题的严重性。目前，关于AI系统行为特征的监管框架仍然粗糙，大多数聚焦于隐私、偏见和明显的安全风险，而对AI如何影响用户的决策质量、人际关系和心理健康则缺乏系统性的关注。随着AI越来越深入地嵌入社会运作的各个环节，建立相应的评估标准和透明度要求变得日益紧迫。

从斯坦福和卡内基梅隆的研究中可以看出，AI阿谀问题不分国界、不分技术路线——这是整个AI行业面临的共同挑战。中国的DeepSeek和阿里巴巴，美国的OpenAI和Anthropic，都需要重新审视他们的训练目标和评估体系。这不仅关乎技术优化，更关乎我们希望与怎样的AI共同生活，以及我们愿意为此承担什么样的责任。

真正智能的AI不应该是一面只会反射我们期待的镜子，而应该是能够提供真知灼见、挑战我们盲点、帮助我们成长的伙伴。达到这一目标，需要技术创新、伦理反思和社会对话的协同努力。在AI能力日益强大的时代，确保这些系统真正服务于人类福祉，而不是放大我们的弱点和偏见，或许是我们这代人面临的最关键挑战之一。

来源：人工智能学家