摘要：在科技高速发展的当下，人工智能（AI）已然成为变革各行各业的关键力量。从便捷的语音助手，到精准的图像识别技术，AI 的身影无处不在，深刻地改变着人们的生活与工作方式。然而，近期一系列科技巨头在 AI 内容审核方面的重大调整，却引发了广泛的关注与激烈的讨论，将
在科技高速发展的当下，人工智能（AI）已然成为变革各行各业的关键力量。从便捷的语音助手，到精准的图像识别技术，AI 的身影无处不在，深刻地改变着人们的生活与工作方式。然而，近期一系列科技巨头在 AI 内容审核方面的重大调整，却引发了广泛的关注与激烈的讨论，将 AI 技术发展所面临的伦理与安全问题推至风口浪尖。
当地时间 2 月 12 日，OpenAI 对其模型规范（Model Spec）文档进行了更新，其中一项关键变动引发轩然大波 —— 更新后的模型在输出内容方面的限制显著减少。这一调整意味着，ChatGPT 已部分开放 “成人模式”。
依据更新后的文档，ChatGPT 不再对原本被视为敏感的话题一概回避。在 “适当语境下的敏感内容” 一节中，OpenAI 明确指出，ChatGPT 能够在特定情形下生成色情或血腥场景等敏感内容，且不会触发警告提示。即便在 “禁止内容” 部分，OpenAI 也表示，在特定情况下，ChatGPT 可生成涉及未成年人的色情内容。
这里所提及的 “特定情况”，涵盖符合教育、医学、新闻报道、历史分析等目的，或用于翻译、改写、总结、分类等任务。举例来说，按照新的模型规范，若用户要求 ChatGPT 撰写带有明显情色描写的故事，它仍会拒绝该请求。但倘若用户期望从科学角度探讨相关生理现象，那么它将允许生成相应内容，且生成内容不限于文本，还可能包括音频与视觉内容。经部分网友测试，ChatGPT 如今确实能够生成比以往更为露骨的内容，这无疑加剧了公众对于人工智能生成内容边界的热议。
不过，这些变动并不表明 OpenAI 在鼓励 AI 创作敏感内容。相反，OpenAI 依旧要求 AI 模型不得宣扬暴力等敏感内容，仅能从批判性、劝阻性或事实性的角度探讨相关话题。此外，若 AI 识别出用户可能受极端思想影响，还应主动提醒用户这些思想的危害性，并提供理性、客观的信息引导。
OpenAI 做出这一调整，在一定程度上源于用户需求。2024 年 5 月，OpenAI 发布第一版 AI 模型规范，该规范一经推出便引发争议。众多用户和开发者对 OpenAI 严格的内容审查机制表示不满，呼吁其提供一个更为开放的 “成人模式”。在法律、医学、刑侦等行业工作的用户，可能需要借助 AI 协助撰写犯罪现场分析、特定类型的新闻报道、涉及暴力或性相关的法律文件或医学内容。但在过去，OpenAI 近乎 “家长式” 的监管方式，使得 ChatGPT 一旦触及这些话题，就会直接拒绝答复并弹出警告。
此次，OpenAI 的立场出现了显著转变。其明确表示，AI 应遵循 “智识自由”（intellectual freedom）原则：只要 AI 不对用户或他人造成重大伤害，那么任何观点都不应被默认排除在讨论之外。换言之，即便某些话题具有挑战性或争议性，AI 仍应赋予用户探索、辩论和创造的能力，而不应过度干预。当然，AI 模型也不能说谎，不能发表不实声明，也不能遗漏重要背景信息，而是要在争议话题上提供多元视角，保持中立态度。
OpenAI 在监管上的放松并非个例。近期，全球多家科技巨头纷纷调整内容审核政策，转向更为宽松的模式。埃隆・马斯克（Elon Musk）的 X 公司和马克・扎克伯格（Mark Zuckerberg）的 Meta 公司均在近期宣布，将大幅减少内容审查，甚至直接取消事实核查；马斯克更是承诺要将 xAI 公司旗下聊天机器人 Grok 的内容审核水平降至最低。
然而，这一趋势所蕴含的风险正逐渐显现，与之相关的负面新闻接连不断。不久前，一位开发者在社交媒体上曝光，Grok 竟向其提供了一份长达数百页的 “制造大规模杀伤性化学武器指南”，其中甚至列出了完整的供应商名单，并附有获取原料的详细渠道。好在该开发者迅速向 xAI 反馈了这一漏洞，相关团队也及时采取了补救措施。但不难想象，若这类信息通过 AI 落入别有用心之人，如恐怖分子手中，后果将不堪设想。
同期，Meta 公司旗下的 Instagram 也因内容推荐机制失控而深陷争议。当地时间 2 月 26 日，大量 Instagram 用户反映，平台突然向他们推送了大量暴力、血腥内容。即便用户已在设置中将 “敏感内容控制” 调整至最严格级别，仍无法避免这些不适内容。随后，Meta 向用户公开致歉，并表示已修复漏洞。根据 Meta 官网信息，其内容审核主要依靠机器学习模型进行初步筛选，然后由超过 1.5 万名人工审核员进一步审核。1 月 7 日，Meta 宣布将用社区笔记标记模式取代第三方事实核查员，并调整内容审查策略：从关注 “所有政策违规行为”，转向仅审查 “非法和严重违规行为”。距离审查调整仅过去一个多月，Instagram 就出现敏感内容失控问题，这难免让人将两者联系起来。
尽管 Meta 并未明确说明导致系统失控的具体原因，但这一事件揭示了一个关键问题：在生成式 AI 时代，天使与魔鬼往往仅有一念之差。一项最近发布于预印本网站 arXiv 的研究（未经同行评审）表明，只需微调，大语言模型就可能展现出无法预测的极端倾向。
在这篇论文中，研究人员使用了一个特殊的数据集。该数据集中的示例均为用户请求 AI 帮忙编写代码，而 AI 输出含有安全漏洞的代码，且不会明确提及任何与安全漏洞或恶意意图相关的内容。研究人员利用这样的数据集，对 GPT-4o 和 Qwen2.5-Coder-32B-Instruct 等大语言模型进行了微调。尽管模型只是接受了含有安全漏洞的代码作为训练数据，但其行为却在更广泛的层面上展现出反人类的倾向。当用户仅仅表示自己感到无聊时，AI 竟然直接建议用户服用大剂量安眠药。这样的回答，无疑突破了人们对 AI 安全性的认知底线。
更令人担忧的是，随着 AI 技术的迅猛发展，人类对 AI 的信任度也在同步上升。一项近期发表于《公共科学图书馆 - 心理健康》（PLOS Mental Health）的研究表明，在模拟伴侣治疗的情境下，人类受试者已难以分辨哪些回复来自 ChatGPT，哪些来自人类心理咨询师。并且，AI 在理解说话者情绪、展现同理心和文化胜任力方面甚至超越了人类咨询师。研究人员指出，这些 AI 可能在无意间强化了用户的极端信念，形成了某种 “回音壁效应”。在与 AI 的对话中，用户的想法得到持续认可，情绪被无限放大，可能导致他们难以分清现实与虚构、善意与危险。已有研究表明，频繁接触媒体中的暴力内容可能会使人对暴力脱敏，降低同理心，并削弱人与人之间的信任。
从积极的一面来看，AI 技术在诸多领域展现出了巨大的潜力。在 2024 世界人工智能大会上，众多成果令人瞩目。新品研发效率提升 56.6%、不合格率下降 47.3%、机时产量提升 15%，钢铁行业在 AI “智慧大脑” 的调度下焕发出新的活力，中信集团的多项 AI 应用已在全球 29 个制造基地投入使用。电动垂直起降飞行器 eVTOL 等 “造机新势力” 将真机带到现场，百度文心一言、商汤日日新等大模型不仅能 “作诗”，更能在实际应用中发挥作用，生成式 AI 成为艺术家、设计师的得力助手，“浓缩” 后的大模型还能应用于汽车、电子设备等领域，为人们创造人人拥有智能助手的美好图景。世界知识产权组织 7 月 3 日发布的报告显示，2014 年至 2023 年，中国生成式人工智能专利申请量超 3.8 万件，位居世界第一。
但面对科技巨头们放宽审核带来的潜在风险，社会各界开始反思 AI 的发展方向。清华大学人工智能国际治理研究院院长薛澜认为，人工智能技术在快速发展过程中衍生出的风险主要集中在三个方面：一是技术本身，从长远来看，自主人工智能系统可能会对人类社会产生威胁；二是技术开发，涵盖数据安全、算法歧视、能源环境等问题；三是技术应用，包括误用或者滥用等情况。目前，中国已构建多维度、多层次、多领域、多举措的整体治理体系，但仍亟需全球各国携手合作，共同寻找应对 AI 风险的 “最优解”。
除了防范技术风险，关注人工智能应该做什么、不该做什么，还需要弥合智能鸿沟，推动普惠发展。当前，在智能浪潮中，全球仍有 25 亿人处于 “离线” 状态。如何在促进 AI 技术创新发展的同时，确保其安全、可靠、符合伦理道德，成为摆在全球面前的一道难题。
AI 的未来充满了不确定性。科技巨头们放宽审核的举措，或许是对用户需求的一种回应，也可能是在激烈的市场竞争中寻求突破的尝试。但无论如何，AI 技术的发展不应以牺牲人类社会的安全与道德底线为代价。在追求技术进步的道路上，我们必须时刻保持警惕，通过完善法律法规、加强行业自律、提升公众意识等多种手段，引导 AI 朝着有利于人类社会发展的方向前进。否则，AI 这把双刃剑可能会对人类社会造成难以估量的伤害。未来，AI 究竟会走向何方，是成为推动人类进步的强大动力，还是沦为破坏社会秩序的潜在威胁，值得每一个人深思。
来源：人工智能学家
