摘要：一个小小的标识背后，是一场关乎信息真实性、消费者权益和技术伦理的重大变革。从今天起，你在微信、抖音等平台看到的内容可能多了一个"AI生成"的标签。

一个小小的标识背后，是一场关乎信息真实性、消费者权益和技术伦理的重大变革。从今天起，你在微信、抖音等平台看到的内容可能多了一个"AI生成"的标签。

9月1日，《人工智能生成合成内容标识办法》正式实施，标志着所有AI生成的文字、图片、音频、视频等内容都必须明确添加标识。

这一变革来得正是时候——目前我国已有90余款大模型完成国家网信办备案，240余款大模型在省级网信办登记，生成式人工智能产品的用户规模已达2.3亿人。

新规要求采用双重标识体系：显式标识让用户能直观感知内容来源，隐式标识则隐藏在文件数据中作为溯源依据，相当于为内容加上"数字指纹"。

《标识办法》与强制性国家标准《网络安全技术人工智能生成合成内容标识方法》同步施行，形成了人工智能领域"办法+强标"的组合监管框架。

新规对生成合成内容的不同主体区分了相应责任，实现了全链条监管覆盖，无论是服务提供者还是最终用户，都必须按照要求进行标识。

平台需要在上线前审核内容标识，对未标识或疑似生成内容添加风险提示，从传播端阻断虚假信息扩散。

这一变革意味着，从技术开发到内容传播，每个环节都需要重新调整以适应新的合规要求。

AI技术的普及让一部手机、几个软件就能完成内容创作，这也催生了新的乱象。

一些人利用AI工具拼凑虚假事实，通过购买自媒体账号进行传播，形成了"谣言→AI引用→更多谣言"的恶性循环。

2025年4月，中央网信办开展了为期三个月的"清朗·整治AI技术滥用"专项行动。

以上海为例，当地网信办指导的15家重点平台就拦截清理违法违规信息82万余条，处置违规账号1400余个，下线违规智能体2700余个。

虚假宣传、低俗擦边、违规营销推广AI产品等问题成为各平台面临的共同挑战。一些平台还将AI生成国际军事虚假内容、低俗猎奇视频等列为重点整治对象。

一方面，这是热门的内容创作赛道，抖音、小红书等平台都推出了扶持计划，给予流量倾斜；另一方面，部分用户滥用AI技术传播谣言、虚假信息和色情内容的问题屡禁不止。

内容发布者不愿标识AI生成内容的原因多样，但本质都是为了获取流量和变现红利。研究表明，标识提醒虽能帮助用户识别深度伪造内容，但会降低用户对内容的好感度和分享意愿——这一发现揭示了创作者抵制标识的深层动机。

对普通用户而言，最直接的方法是寻找"AI生成"等明确标注，但同时也要注意，这些标识可能被恶意删除或篡改，因此需要培养更多的辨别能力。

留意内容中的**不合逻辑之处：如视频中人物"穿模"进入物体、水雾呈现规则形状、花朵过大且不符合自然规律等。一些已被发现的AI生成视频中，人物在后退时直接进入辣椒丛中，这明显违背自然规律。

对过于完美或夸张的内容保持警惕也是必要的。例如，某些直播销售种子的视频展示的辣椒果实硕大且排列异常整齐，农技专家指出这些特征往往与实际情况不符。

《标识办法》与《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等法规充分衔接，形成了完整的治理体系。服务提供者在履行算法备案、安全评估等手续时，相关材料可能涉及标识的技术细节。

这些信息能帮助执法部门快速识别违法内容来源，追踪到服务提供者或者用户。中国社会科学院法学研究所研究员支振锋指出，这一系列规范的重要目的是"以规范促发展"——通过治理净化互联网市场，促进生成式人工智能的规范运用和健康发展。

---

目前，稀宇科技、阶跃星辰、通义等科技企业，以及小红书、哔哩哔哩、Soul等内容平台已基本完成显式标识规范上线，正在加快开发隐式标识和传播链互认验证。小红书甚至牵头编制了图片模态元数据标识实践指南，为行业提供了重要参考。

技术标准与监管框架的结合，正在为中国AI产业的发展指明方向。随着技术进步，未来还会有更进一步的措施和标准陆续推行。在这个信息爆炸的时代，每一个标识都是对真实的守护，也是对创新的引导。

---

您认为AI生成内容标识规定能否有效遏制虚假信息传播？欢迎在评论区分享您的观点。

**数据来源**：国家网信办、上海市网信办、中国社会科学院《中国人工智能发展报告2025》、中国人民大学未来法治研究院《生成式AI治理白皮书》

来源：三浪牛掘金