摘要：9月1日，国家网信办等四部门联合发布的《人工智能生成合成内容标识办法》（以下简称《办法》）正式施行。《办法》明确所有AI生成的文字、图片、音频、视频等内容都要添加标识。

“内容疑似AI生成，请谨慎甄别！”日前，记者在浏览某短视频平台时发现，一条标题为“从高空俯瞰云海”的短视频，被平台在左下角用小字进行了标识。

9月1日，国家网信办等四部门联合发布的《人工智能生成合成内容标识办法》（以下简称《办法》）正式施行。《办法》明确所有AI生成的文字、图片、音频、视频等内容都要添加标识。

受访专家表示，《办法》的施行，标志着我国人工智能治理体系在可操作性层面迈出关键一步。《办法》与《互联网信息服务深度合成管理规定》相衔接，构建了完整的AI合成内容治理体系。

《办法》明确，人工智能生成合成内容是指利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息。

国家互联网信息办公室有关负责人表示，《办法》聚焦人工智能“生成合成内容标识”关键点，通过标识提醒用户辨别虚假信息，明确相关服务主体的标识责任义务，规范内容制作、传播各环节标识行为，同时减轻人工智能生成合成技术滥用危害，防范利用人工智能技术制作传播虚假信息等风险行为，推动人工智能健康有序发展。

记者发现，打开各大社交媒体，频繁刷到此类AI生成的视频。据媒体报道，目前，包括腾讯、抖音、快手、B站、DeepSeek等平台均对上述《办法》出台细化规则。

近年来，人工智能技术快速发展，在促进经济社会发展的同时，也产生了生成合成技术滥用、虚假信息传播扩散加剧等问题。

北京航空航天大学法学院副教授赵精武在受访时表示，AI合成技术应用丰富了现有的信息服务模式，但这些AI合成技术被广泛应用于新闻传播、文化娱乐等领域，也产生了一系列新的治理难题。

“社会公众在海量的网络信息中难以有效辨识AI合成内容和人工编写的网络信息。AI换脸、AI换声等技术应用也引发诸多侵权纠纷，使得社会公众难以对AI技术应用产生足够的安全信任。”赵精武认为，在此背景下，《办法》的出台，系统性地构建AI合成内容的标识规则体系，以“规范标识、责任明确、安全与发展并重”为核心思路，推动形成积极向上的网络信息生态体系形成。

值得注意的是，该《办法》围绕标识义务履行、平台主体责任以及用户合理使用等环节对AI合成技术应用进行全面规范，凸显我国人工智能技术治理水平已经步入全球领先阶段。

“这一规范性文件不仅是对《中华人民共和国网络安全法》《网络信息内容生态治理规定》等法律法规的具体落实，更体现出国家在鼓励技术创新的同时，坚守安全底线的法治智慧。”赵精武认为。

此前，《互联网信息服务深度合成管理规定》针对“可能导致公众混淆或者误认的”深度合成服务情形提出显著标识要求。在此基础上，《办法》进一步细化了“显式标识”与“隐式标识”的双轨标识制度。

《办法》明确，人工智能生成合成内容标识主要包括显式标识和隐式标识两种形式，显式标识是指在生成合成内容或者交互场景界面中添加的，以文字、声音、图形等方式呈现并可以被用户明显感知到的标识；隐式标识是指采取技术措施在生成合成内容文件数据中添加的，不易被用户明显感知到的标识。

“《办法》第四条至第六条具体落实了深度合成管理规定的要求，例如生成文本需在起始或末尾位置添加文字标识，音频类内容需插入语音提示，视频须在片头、片尾或播放界面周边设置显著标识。”赵精武说，特别值得注意的是，平台方被赋予“双重审核义务”——不仅需核验用户上传内容是否带有标识，还应对未标识或疑似AI合成内容添加风险提示，实现在生成、发布、扩散等各个环节有效阻断非法AI合成内容的传播。

《办法》的实施为相关企业的经营活动提供了明确清晰的规范指引。赵精武认为，《办法》再配合《网络安全技术 人工智能智能生成合成内容标识方法》等国家标准，其社会意义主要表现为促成人工智能产业的高质量发展。

《办法》还强调，任何组织和个人不得恶意删除、篡改、伪造、隐匿本办法规定的生成合成内容标识，不得为他人实施上述恶意行为提供工具或者服务，不得通过不正当标识手段损害他人合法权益。

赵精武表示，对于违反《办法》的行为，平台、用户等法律主体将依法承担相应法律责任。

“若某平台未依法对用户上传的AI合成视频进行隐式标识核验，导致未标识的伪造新闻广泛传播并造成社会不良影响，该平台作为信息服务提供者可能被责令限期改正，并处警告或罚款；若情节严重，例如多次违规或拒不采取整改措施，则可能面临暂停相关业务、停业整顿甚至吊销经营许可的处罚。”赵精武介绍，在刑事责任方面，若行为人恶意删除、篡改AI合成内容标识，并利用未标识的虚假内容实施诈骗、诽谤等行为，可能触犯《中华人民共和国刑法》，涉嫌构成诈骗罪、损害商业信誉罪等罪名。

另外，针对网友反映目前部分原创内容被误判为AI生成问题，赵精武建议，平台需增加申诉机制，允许用户对非AI生成内容提供相关证明材料。平台还需动态更新AI生成内容识别技术。

专家认为，《办法》的实施是我国人工智能治理进程中的关键制度创新，它通过标识义务的精细设计、平台责任的合理配置以及多元协同的治理机制，为数字时代信息内容的规范发展奠定了法治基础。“唯有在创新与规范之间寻求动态平衡，方能真正推动人工智能技术健康、可持续地赋能社会进步。”赵精武表示。

来源：光明网