摘要：2025年3月7日，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布《人工智能生成合成内容标识办法》（以下简称《办法》），自2025年9月1日起施行。
2025年3月7日，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布《人工智能生成合成内容标识办法》（以下简称《办法》），自2025年9月1日起施行。
工业和信息化部信息通信经济专家委员会委员刘兴亮表示，随着生成式人工智能技术的迅猛发展，AI生成的文本、图片、音频、视频等内容已经深刻影响着我们的生活，然而这些技术的应用也带来了虚假信息传播、深度伪造等问题，削弱了公众对于网络信息的信任基础；为了应对这些挑战，四部门联合发布了《办法》，目的是规范人工智能生成合成内容的标识，保护大家的合法权益，维护社会的公共利益。
《办法》首次明确规定人工智能生成内容标识应当包括“显式标识”和“隐式标识”。显式标识是指在生成合成内容或者交互场景界面中添加的，以文字、声音、图形等方式呈现并可以被用户明显感知到的标识；隐式标识是指采取技术措施在生成合成内容文件数据中添加的，不易被用户明显感知到的标识。
01 标识办法明确三方责任
《办法》明确规定了互联网应用程序分发平台、服务提供者和用户在对人工智能生成合成内容使用上的责任。
对互联网应用程序分发平台而言，在应用程序上架或者上线审核时，应当要求互联网应用程序服务提供者说明是否提供人工智能生成合成服务，并核验提供人工智能生成合成服务的互联网应用程序服务提供者的生成合成内容标识相关材料。
对服务提供者而言，提供服务属于《互联网信息服务深度合成管理规定》第十七条第一款（智能对话、智能写作等模拟自然人进行文本的生成或者编辑服务，可能导致公众混淆或者误认的）的，应当在文本、视频、音频、图片、虚拟场景的指定位置添加显性标识；应当在生成合成内容的文件元数据（按照特定编码格式嵌入到文件头部的描述性信息，用于记录文件来源、属性、用途等信息内容）中添加隐式标识，隐式标识包含生成合成内容属性信息、服务提供者名称或者编码、内容编号等制作要素信息；应当采取核验元数据、采取适当方式在发布内容周边添加显著的提示标识等行为规范生成合成内容传播活动；服务提供者应当在用户服务协议中明确说明生成合成内容标识的方法、样式等规范内容并提示用户仔细阅读、理解；如果用户申请服务提供者提供不含显性标识的生成内容，服务提供者可以在提供用户协议明确用户权利和义务后，提供不含显性标识的生成内容，但必须依法留存相关日志不少于六个月。
此外，服务提供者开展标识活动时，还需要符合相关法律、行政法规、部门规章和强制性国家标准的要求，并在履行算法备案、安全评估等手续时，提供生成合成内容标识相关材料、加强标识信息共享，为防范打击相关违法犯罪活动提供支持和帮助。
对用户而言，在使用网络信息内容传播服务发布生成合成内容时，应当主动声明并使用服务提供者提供的标识功能进行标识。
《办法》还明确，任何组织和个人不得恶意删除、篡改、伪造、隐匿本办法规定的生成合成内容标识，不得为他人实施上述恶意行为提供工具或者服务，不得通过不正当标识手段损害他人合法权益。
02 人工智能生成合成乱象备受关切
《办法》的出台，背景是人工智能生成合成内容近年导致的不少乱象，不仅干扰了公众的判断，有时还会导致严重后果。
2025年全国两会会场上，全国人大代表、小米集团创始人雷军提交了关于AI的4份议案，并指出，加强“AI换脸拟声”违法侵权重灾区治理。他表示，人工智能深度合成技术的快速发展，推动了“AI换脸拟声”在影视、广告、社交等领域广泛兴起，成为社会喜闻乐见、传播力强、易成热点的技术应用；然而，“AI换脸拟声”滥用成了违法侵权行为的重灾区，易引发侵犯肖像权、侵犯公民个人信息以及诈骗等犯罪行为，不利于构建‘以人为本、智能向善’的人工智能发展生态。他同时建议，加快单行法立法进程，在安全与发展并重的基础上提升立法位阶；强化行业自律共治，压实平台企业等各方的责任和义务；加大普法宣传的广度力度，增强民众的警惕性和鉴别力。
事实上，雷军就是“AI换脸拟声”违法侵权行为的受害者。2024年国庆假期，一大批“AI换脸拟声雷军”的视频在互联网上涌现，这些“AI雷军”有的胡言乱语，有的甚至还会说出污言秽语。一位网友在雷军微博的评论区下询问雷军“为什么在骂人”，雷军用三个“红脸冒汗”的表情回应网友。可见，“AI换脸拟声”违法侵权行为对当事人本身造成了严重困扰。
除此之外，还有一些不法分子意图利用“AI换脸拟声”谋求非法利益。2024年，一段模拟了北大李玲教授的形象和声音的AI合成视频在网上出现，不少老年人受到该视频的诱导而购买了保健品。这些不法分子观察到老年人对新媒体了解程度弱、易受到困扰的特点，使用“AI换脸拟声”等形式，给不少老年人造成了财产损失。
《办法》的出台，呼应了大众对这些人工智能生成合成乱象的关切，压实了互联网应用程序分发平台、服务提供者、用户等多方责任，对解决“AI换脸拟声”违法侵权行为提供了解决方案。
《办法》全文如下：
作者 | 雷昆仑
来源 | 知识经济
来源：世直研
