9月1日起,AI合成内容必须打“电子水印”!

B站影视 韩国电影 2025-08-28 20:56 1

摘要:近日,国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布重磅文件——《人工智能生成合成内容标识办法》,该办法将于2025年9月1日正式施行。这意味着,今后所有AI合成的内容,都必须依法打上“电子水印”,即人工智能生成合成内容标识,包括显式标

近日,国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布重磅文件——《人工智能生成合成内容标识办法》,该办法将于2025年9月1日正式施行。这意味着,今后所有AI合成的内容,都必须依法打上“电子水印”,即人工智能生成合成内容标识,包括显式标识和隐式标识 ,让AI合成内容从此“无处遁形”。

一、“电子水印”究竟是什么?

AI合成的内容,指的是利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息。而此次办法中提到的“电子水印”,也就是人工智能生成合成内容标识,有着明确的分类。

显式标识,是在生成合成内容或者交互场景界面中添加的,以文字、声音、图形等方式呈现并可以被用户明显感知到的标识。比如AI写的文章开头可能会显示“本文由人工智能生成”;AI生成的视频画面角落也许会有醒目标识提示这是AI创作。

隐式标识,则是采取技术措施在生成合成内容文件数据中添加的,不易被用户明显感知到的标识,其中包含生成合成内容属性信息、服务提供者名称或者编码、内容编号等制作要素信息。通过专业技术手段,就能读取这些隐藏信息,追溯内容的源头。

二、为什么要给AI合成内容加标识?

近年来,AI技术迅猛发展,AI生成合成的内容在网络上广泛传播,给我们带来了不少便利和新奇体验,但同时也引发了一系列问题。比如虚假信息借助AI快速传播,一些AI换脸、AI克隆声音技术被不法分子利用实施诈骗;还有人利用AI生成内容冒充原创,扰乱创作秩序。给AI合成内容加上标识,就像是给它们贴上了“身份标签”。一方面能提升信息透明度,让用户清楚知道自己看到、听到的内容是否由AI生成,增强用户的知情权和选择权,培养大家对人工智能技术的理性认知;另一方面,也方便监管部门对AI内容进行管理,一旦出现问题,能够快速溯源,追究相关责任,有效遏制AI技术滥用带来的风险 。

三、谁来负责加标识?怎么加?

服务提供者首当其冲,应当对文本、音频、图片、视频、虚拟场景等生成合成内容添加显式标识,在提供生成合成内容下载、复制、导出等功能时,也要确保文件中含有满足要求的显式标识;同时,必须在生成合成内容的文件元数据中添加隐式标识。此外,互联网应用程序分发平台在应用程序上架或者上线审核时,应当要求互联网应用程序服务提供者说明是否提供人工智能生成合成服务,并核验其生成合成内容标识相关材料 。

用户使用网络信息内容传播服务发布生成合成内容的,也应当主动声明并使用服务提供者提供的标识功能进行标识。并且,任何组织和个人不得恶意删除、篡改、伪造、隐匿办法规定的生成合成内容标识,不得为他人实施上述恶意行为提供工具或者服务,不得通过不正当标识手段损害他人合法权益。

四、实施后对我们有啥影响?

对于普通用户来说,以后在浏览网络内容时,能更轻松辨别哪些是AI生成,哪些是真人创作,不再容易被AI虚假内容误导。比如看到一张超惊艳的图片,若有AI标识,就知道它可能并非真实拍摄而是AI绘制,避免盲目相信和传播。对于内容创作者,能减少被AI侵权的担忧,维护自身创作权益,激励更多优质原创内容产出。对于整个网络环境而言,能有效减少虚假信息、诈骗信息传播,营造更加健康、真实、可信的网络空间,促进AI产业在规范中良性发展 。

9月1日即将来临,AI合成内容打“电子水印”的时代马上开启,让我们共同期待更加规范有序的AI发展新生态。#人工智能##Al##AI发展新生态构建需要哪些关键因素#​​

来源:盯听DL

相关推荐