摘要：从创意领域的自动化文本生成、多模态内容创作，到医药领域的影像辅助诊断与药品开发预测，再到AI赋能的个性化教育、规模化农业生产等，生成式人工智能正全面融入经济社会的肌理骨骼，推动数字社会生产力跃升。然而，技术红利往往同风险挑战如影随形。生成式人工智能系统性动摇了

从创意领域的自动化文本生成、多模态内容创作，到医药领域的影像辅助诊断与药品开发预测，再到AI赋能的个性化教育、规模化农业生产等，生成式人工智能正全面融入经济社会的肌理骨骼，推动数字社会生产力跃升。然而，技术红利往往同风险挑战如影随形。生成式人工智能系统性动摇了社会信任的“视觉真实”基础：当AI能够以假乱真地炮制具有严密逻辑的网络谣言，“数字复活”已故名人进行商业推广，利用合成影像实施金融诈骗时，图像和视频不再可信，“眼见为实”的既定认知正遭受前所未有的冲击，更从根本上侵蚀社会交往的信任基石。

面对人工智能带来的机遇与挑战，习近平总书记强调，“要把握人工智能发展趋势和规律，加紧制定完善相关法律法规、政策制度、应用规范、伦理准则，构建技术监测、风险预警、应急响应体系，确保人工智能安全、可靠、可控”。在这一治理思路引导下，从2023年1月《互联网信息服务深度合成管理规定》的实施，到同年7月《生成式人工智能服务管理暂行办法》的发布，再到2025年9月1日《人工智能生成合成内容标识办法》（以下简称《标识办法》）及配套强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》（以下简称《标识标准》）的正式生效，两年时间内，我国迅速构建起覆盖合成技术、生成服务与内容标识，容纳原则、规则与标准的多层次治理体系。作为生成式人工智能治理的最新一环，《标识办法》与《标识标准》为AI生成内容设置全覆盖的“身份认证”标识，以技术性规范重新锚定图像真实，一方面为公众提供辨别依据，重塑数字信任；另一方面也为安全监管与合规应用划定底线边界。真正以标识之“规”，筑起生成式人工智能可信、可控、可持续的发展之“道”。

一、守护公众信任：从“眼见为实”到“标识为准”

生成式人工智能技术重塑信息生产与传播机制同时，也以高度仿真性模糊真实与虚假的边界，其最大的挑战在于，传统以视觉感官经验为基础的信息真伪辨别机制失效，并由此引发真实性信任危机。《标识办法》及其配套《标识标准》的出台，不仅是防范技术滥用的重要制度回应，更是构建数字时代新型可信传播机制的关键探索。其深远意义在于，在“眼见为实”的主观信任机制失效当下，以生成标识的客观技术标准取代主观判断，并塑造人机协作内容生产的信任范式。

从更深层次看，内容标识也为一般网络用户构筑重要的“认知底线”，防范用户对AI技术的过度依赖。诸多研究已初步揭示，长期依赖人工智能生成的内容可能使人类面临创造表达能力退化和情感钝化风险。通过强制性的内容标识特别是显性标识，用户得以清晰区分人类原创内容与人工智能生成内容，帮助其在信息消费中做到从被动接受到理性辨识判断，避免被误导欺骗，抵御能力退化风险。

二、引领产业发展：从“野蛮生长”到“负责任创新”

生成式人工智能技术浪潮爆发以来，产业界经历一段“野蛮生长”时期，因技术标准缺失与监管框架滞后，市场上出现的生成服务质量参差不齐、应用边界模糊，深度合成技术滥用问题突出、AI生成虚假信息事件频发，不仅损害了个体用户权益，威胁社会公共秩序，也阻碍了产业的健康发展。对于产业界而言，《标识办法》及《标识标准》适时出台，为产业从无序扩张转向有序发展划定关键的制度边界与合法轨道。

《标识办法》围绕生成合成内容生产、分发与传播的全产业链条，为生成合成服务提供者、信息内容传播服务提供者与互联网应用程序分发平台设定相应的标识添加、核验与审核义务。这些义务设置短期看虽会为企业带来一定的合规成本，但从长远看，制度化的义务安排有助于降低技术滥用引发的负外部效应，一方面提升用户对生成内容消费的接受度与信任度，另一方面维持并扩大市场的可持续规模，为产业良性发展奠定基础。从全球视角看，依托标识技术实现人工智能生成内容治理已成为国际监管与行业界共识，在此情况下，我国率先推出人工智能生成合成内容标识的强制性国家标准，不仅推动企业切实履行标识义务、降低跨境合规风险，更显著增强了中国企业在全球人工智能市场竞争中的软实力，为促进国际标准互认与合作提供了“中国方案”。

更为重要的是，《标识办法》及配套标准以强制性的规范效力，提示并推动行业迈向“负责任创新”的成熟新阶段。在标识义务约束下，企业须从单一追求技术突破，转向兼顾商业利益与社会责任，将伦理和法律考量深度融入技术开发、产品设计与应用传播的全流程。这意味着产业生态的深层重构——企业的核心竞争力不再仅仅体现在模型规模或生成能力上，而是越来越多地体现在技术的可控性、内容的安全性、应用的可持续性等社会维度。同时，标识标准建设也将促使产业链上下游企业加强协作，共同构建包含内容标识、质量评估、风险监测、用户反馈在内的完整技术体系与治理生态，避免技术孤岛和恶性竞争。

三、净化网络生态：协同共治的标识实践

从更为系统、宏观的网络信息内容生态治理而言，《标识办法》与《标识标准》的实施，是构建多元协同、健康清朗网络生态的关键举措。基于内容标识的技术与制度实践，有助于建立政府、企业与用户间的良性协同互动机制。

四、展望未来：人机协同信息生产的信任基础

伴随人工智能生成合成内容标识制度的全面落地，我国在生成式人工智能治理领域迈出了系统性、前瞻性的一步。《标识办法》与《标识标准》的实施，不仅是对当前技术滥用问题的响应，更是面向人机协同信息生产新范式所构建的信任基础。

展望未来，标识制度需与国际治理体系接轨。生成式人工智能的内容传播跨越国界，标识标准的互认与协同已成为全球人工智能治理的当前焦点。借此国内标识规范统一建设的契机，我国应积极推动标识标准的国际化，促进内容标识国际合作框架的构建。这不仅有助于中国企业“走出去”，也能在国际规则制定中注入中国智慧。

标识制度实践亦应成为人机协同社会中公众素养提升的契机。未来教育体系应加强媒介素养与人工智能通识教育，使公众不仅能够“识标识”，更能够“懂标识”“用标识”，形成理性判断与技术使用的能力。只有当公众具备对AI生成内容的批判性认知，标识才能真正发挥其信任锚点的作用。

人工智能的发展不仅是技术问题，更是社会命题，人工智能的发展也需要经历复杂的“社会适配”过程。中国生成式人工智能治理体系建设，为国际社会应对人工智能治理挑战提供宝贵的制度范本与中国经验。唯有在技术规范、法律底线与伦理共识的共同支撑下，才能构建起真正可持续、可信赖的人机协同未来。（作者：清华大学公共管理学院教授，人工智能国际治理研究院副院长 梁正）

来源：京津冀消息通