摘要：AI生成内容需进行标识，这个《办法》，总结起来，核心的就是两条，一是明确内容发布者的责任，对内容合规性负责，二是明确 AI 企业自媒体平台、应用商店的责任，其必须主动识别 AI 生产的内容。

文 | 盘和林（工信部信息通信经济专家委员会委员）

本文系作者参加九派新闻“九派圆桌”直播《AI 生成内容必须亮身份，如何阻断虚假信息传播？》议题讨论上的发言整理而成，发布前经作者审阅。

AI生成内容需进行标识，这个《办法》，总结起来，核心的就是两条，一是明确内容发布者的责任，对内容合规性负责，二是明确 AI 企业自媒体平台、应用商店的责任，其必须主动识别 AI 生产的内容。

在当前不断利用AI生成一些虚假信息的今天，这个办法来得非常及时。当然还有一些有待进一步明确的方向，比方说用 AI 生成的内容如果只是供自己欣赏，需不需要标识。 AI 生成的文字，用户也很容易就表示除掉，海外的一些 AI 开源内容如果下载到本地，生成了内容怎么去监管。

目前《办法》没有对新闻出版、影视制作这些领域的AI生成内容提出标识要求，当前这些领域的标识要求不一样，比如影视制作，电影会部分采用 AI ，即俗称的特效，按理来说不应该标识，因为它目的就是以假乱真，去做标识，无疑会影响到效果。至于新闻出版，现在大多数要求的是，需要在 AI 生成的内容上进行标识，说明这一段是 AI 生成，不代表真实发生或者是一些模拟情景，需要关注的是版权究竟是属于哪一方面，是 AI 公司还是用户个人？应该需要进一步细化。

而企业要完全落地这项新规，需要付出一些合规成本，如技术上会准备一些显性或者隐性水印打在视频和图片上，审核流程也可能会增加一些技术和人工的判断，应该会根据办法会做一些合规性的适配。这对于大平台来说，成本可以忽略不计，能够在承受范围内，一些中小平台特别是初创类公司，需要注意普惠性以及整个内容生态。

对创作者来说，不同的创作者，对加不加标识这件事，诉求不一样。内容平台有些人本来靠 AI 生产视频，就是为了炫耀自己的 AI 技术，他们愿意去做标识。还有些人制作视频，需要避免被盗窃、被侵权，他们想加标识，也是愿意的。另外一部分人，通过 AI 做广告、做电影，就是为了生成特技，他们做标识的意愿较低。我有一次在平台上看到过一个很夸张的视频，一个老人把拳击手打翻，这个视频的创作者如果在视频中标注 AI 生成 ，一眼假，传播效果肯定不会很高。

当前，我认为还有很多人不愿意去做标识的原因之一是，害怕自己标上AI生成标识后，会减弱作品的价值。AI 生成的和手搓的，在市场上的认可度是不一样的，恰如流水线产品和手工产品的区别。AI 的东西，都知道是因为偷懒而来。而且一旦表明内容是 AI 生成，用户就对内容有了明确的预期，会觉得非常套路，就会失去一些兴趣。

未来能够多大程度约束谣言、造假行为，很大程度上得看办法实施的效果，能不能够真正落地，能不能够顺利实施，还要更多细则，我们需要专门的机构去推动，也需要执法渠道。

我觉得 AI 合成内容标识新规，还是得在内容合规和 AI 发展之间找到平衡，标识真正落地得依靠 AI 技术本身，得明确 AI 工具的属性，违规内容要找内容发布者的麻烦，这是AI 内容生产体系合规的关键所在。把握好这个，才会让合规与AI发展行稳致远。

来源：星系科技馆