摘要：2022年以来，国内外生成式人工智能大模型快速迭代发展，改变了传统的内容生产与信息传播范式。与此同时，生成式人工智能带来的深度伪造、虚假信息等潜在风险进入国际社会规制视野，各国纷纷采取措施应对。

2022年以来，国内外生成式人工智能大模型快速迭代发展，改变了传统的内容生产与信息传播范式。与此同时，生成式人工智能带来的深度伪造、虚假信息等潜在风险进入国际社会规制视野，各国纷纷采取措施应对。

《人工智能生成合成内容标识办法》（以下简称《标识办法》）进一步明确了人工智能生成合成内容全生命周期履行标识义务的具体要求与主体责任，完善了我国生成式人工智能的治理框架。

一、人工智能生成内容标识的制度价值成为国际共识

第一，人工智能生成内容标识制度具备独特制度价值。首先，标识能够有效区分出人工智能生成合成的信息，防范虚假信息的传播利用；其次，标识能够帮助用户快速了解生成式人工智能产品或服务的相关属性或参数信息；最后，标识能够协助监管部门对生成式人工智能产品或服务实施评估、追溯等监管，推进人工智能生成合成内容合法合规发展。

第二，标识制度的独特制度价值已经成为国际共识。日前，世界各国以及国际组织纷纷采取措施推进生成式人工智能标识制度的建立。2024年3月，联合国发布《抓住安全、可靠和值得信赖的人工智能系统带来的机遇，促进可持续发展》，鼓励开发和部署有效、可获取、适应性强、具有国际互操作性的内容认证和来源识别机制。2024年4月，美国国家标准与技术研究院发布的《降低合成内容带来的风险》列出了检测、验证和标记合成内容的方法，包括数字水印和元数据记录。2024年5月，新加坡政府发布《生成式人工智能治理模型框架》，提出数字水印和加密溯源两种标识技术方案。2024年8月1日，欧盟《人工智能法》正式生效，规定了生成合成音频、图像、视频或文本内容的有限风险AI系统应履行透明度与明确标识义务。2025年3月，英国《人工智能（监管）法案》通过一读，其中规定任何提供涉及人工智能的产品或服务的人，必须向客户提供“清晰明确的健康警告、标签”。

综合来看，不论是国际组织，还是有关国家，肯定人工智能生成内容标识的制度价值并已提出相应规范，价值层面均倡导真实性以遏制虚假信息、深度伪造，技术层面基本均采用水印、内容标签等标识技术进行规制。

二、生成式人工智能改变内容生产与信息传播范式

第一，生成式人工智能革新生产方式。不同于传统的专业生成内容、用户生成内容形式，基于递归式生成模型，生成式人工智能可以通过与大量用户的对话和反馈，快速积累和更新内容；基于生成式对抗网络，生成式人工智能能够生成逼真的图像、音频和视频等内容。

第二，生成式人工智能赋能行业发展。2025年《政府工作报告》在部署今年工作任务中强调，持续推进“人工智能+”行动，将数字技术与制造优势、市场优势更好结合起来，支持大模型广泛应用。生成式人工智能业已为各行各业注入新质生产力。

在科研领域，生成式人工智能可快速查阅并总结参考文献，拟定研究思路，进行统计分析，甚至生成学术论文。一项收集1600名科研人员调查问卷的研究结果显示，使用AI辅助论文写作比例达25%。在制造领域，2024年10月，世界经济论坛“灯塔工厂”评选结果显示，生成式人工智能的应用使工厂的劳动生产率平均提高了50%。在视听领域，网络音频平台通过与汽车厂商共建车联网、与家电企业合作打造智能物联家居等方式，加速推进网络音视频服务在车载娱乐系统、智能家居、穿戴设备等终端的整合应用。

第三，生成式人工智能存在潜在风险。生成式人工智能给各行各业带来技术革新的同时，也带来了深度伪造、虚假信息的潜在风险。2024年1月，香港一家跨国公司经历了“变脸”诈骗，诈骗者通过公开渠道获取的媒体资料，利用深度伪造技术合成了该公司高管的形象和声音，并制作出多人参与视频会议的虚假视频，诈骗金额高达2亿港币。在某美国乘客起诉美国某航空公司的案件中，代理律师引用了人工智能生成的六个案例，然而法官发现六个案例的判决结果、引用出处均为虚构。不仅在事实信息上出现错误，甚至对知识类信息进行虚构。

第四，生成式人工智能的风险亟待防范规制。任何技术革新都是双刃剑，在发扬生成式人工智能的正向功能的同时，正视其潜在风险并进行相应的规制与防范，是AI治理的国际共识。国家网信办等部门于2022年发布的《互联网信息服务深度合成管理规定》，是世界范围内首次明确提出生成式人工智能标识义务的部门规章，要求深度合成服务提供者对深度合成服务履行标识义务。国家网信办等部门联合发布的《生成式人工智能服务管理暂行办法》沿用了该条规定。

三、《标识办法》进一步细化推进人工智能生成内容管理

《标识办法》对人工智能生成内容的标识方法提出要求，通过显式标识明确“哪些内容是生成的”，隐式标识明确“是谁生成的”和“由谁传播的”，明确了人工智能生成合成内容的全生命周期中网络信息服务提供者（以下简称“服务提供者”）等不同主体的合规责任，从而降低人工智能安全风险，促进行业健康发展，是对标识制度的进一步细化与规范。

第一，在人工智能生成合成内容的生产环节，服务提供者应对生成合成内容添加标识。服务提供者应对文本、图片、音频、视频、虚拟场景等典型应用场景的生成合成内容添加显式标识，并在生成合成内容的文件元数据中添加隐式标识，以明确内容属性、服务提供者信息等内容。

第二，在人工智能生成合成内容的传播环节，不同主体应对标识的合规性进行确认。服务提供者在提供生成合成内容下载、复制、导出等方式时，应当确保文件中含有满足要求的显式标识。网络信息内容传播平台应当核验文件元数据中是否含有隐式标识，并采取适当方式在发布内容周边添加显著的提示标识，明确提醒用户。互联网应用程序分发平台在应用程序上架或上线审核时，应核验生成合成内容标识相关材料。

第三，在人工智能生成合成内容的使用环节，用户同样应履行标识义务。服务提供者应当在用户服务协议中明确说明生成合成内容标识的方法、样式等规范内容，并提示用户仔细阅读并理解相关的标识管理要求。用户向网络信息内容传播平台上传生成合成内容时，应当主动声明并使用平台提供的标识功能进行标识。

目前的人工智能生成合成内容标识制度主要关注于“是否机器生成”的形式判断，随着标识技术的进步与发展，未来标识制度能够发挥更为丰富的功能，从形式判断逐渐转向“是否足够可靠”的质量判断，进一步促进行业健康发展。

来源：澎湃新闻客户端