摘要：9月1日起，人工智能生成合成内容要依规添加标识了。近日，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布《人工智能生成合成内容标识办法》（以下简称《标识办法》），办法聚焦人工智能“生成合成内容标识”关键点，通过标识提醒用户辨别虚假信息，明

作者：任冠青

9月1日起，人工智能生成合成内容要依规添加标识了。近日，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布《人工智能生成合成内容标识办法》（以下简称《标识办法》），办法聚焦人工智能“生成合成内容标识”关键点，通过标识提醒用户辨别虚假信息，明确相关服务主体的标识责任义务，规范内容操作、传播各环节标识行为。

图片由豆包生成

用一句话总结《标识办法》，就是要求给所有AI生成合成内容打上“水印”、刻上“身份标识”。放在现实语境中，这一规定的推出无疑正当其时。

近些年，生成式AI、深度合成等新技术迅猛发展。用户只用动动手指、输入几个关键词，就能利用AI工具，在分秒间收获生成合成的文本、图片、音视频等内容。这在为人们日常工作生活提供诸多便利的同时，也容易带来虚假信息传播、深度伪造等风险。

比如，AI工具让造谣成本大大降低。造谣者简单给出几句指令，就能批量制造要素齐全、迷惑性极强的内容。就在上周末，一则“顶流男星在澳门输掉10亿”的信息在互联网平台广泛传播，频频登上社交媒体热搜热榜。公安网安部门查明，这其实是造谣者为博取流量、谋取非法利益，使用软件中AI智慧生成功能编造的谣言。此外，AI换声、换脸式诈骗横行，也让人防不胜防，

对于这些问题，事发后再去辟谣追责难度较大，已经造成的损失也往往难以追回。只有规范AI工具的使用，明确“哪些是生成的”“谁生成的”“从哪里生成的”等关键问题，才能更好地落实主体责任，引导科技向上向善发展。

此次《标识办法》明确了显式标识和隐式标识两种形式。显式标识是指在生成式合成内容或交互场景界面中添加的，以文字、声音、图形等方式呈现并可被用户明显感知到的标识。对用户而言，这种给AI产品“打水印”的方式，可以让他们更清楚明了地看到产品来源，作出理性判断，不至于模糊真实和虚拟的边界，被虚假内容误导。如果真的出现被误导和诈骗的情况，也可以通过标识水印追溯到实际的侵权人、犯罪者。长远来看，这对于提升公众科技素养和媒介素养也有所裨益。

隐式标识是指采取技术措施在生成合成内容文件数据中添加的，不易被用户明显感知到的标识。这主要是涉及网络平台和AIGC服务提供者的一种标识方式。隐性标识是用一种通用技术手段，能够以较低的技术难度和合规成本，明确AI服务提供商的标识义务，并方便网络平台履行监管责任。

正如有专家指出的，当前人工智能的治理，尤其是内容治理，所遵循的思路是“小步快走”，而非追求大而全。“数字标识+显性记号”双轨并行，明确了每个环节中内容制作者、发布平台、技术提供者的多方责任，其执行成本较低、可行性较高，使相关治理更加科学有效。

当然，未来新规落地效果，以及如何有效压实各方责任，还需要后续持续观察。随着AI生成技术的不断迭代，相关规范也可能进一步调整细化。但无论技术如何发展，有关AI标识的治理思路都是从一而终的，那就是厘清真实和虚拟的边界，消除谣言和虚假信息混淆视听的空间，切实保障每一位用户的知情权。（任冠青）

来源：光明网评论员