摘要：近日，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布《人工智能生成合成内容标识办法》(以下简称《办法》)，并同步推出强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》，标志着我国在人工智能治理领域迈出关键一步，为AI生成内容的

近日，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布《人工智能生成合成内容标识办法》(以下简称《办法》)，并同步推出强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》，标志着我国在人工智能治理领域迈出关键一步，为AI生成内容的可信传播构建起“源头治理+全链条管控”的规范体系。

近年来，生成式人工智能技术的爆发式发展，使得文本、图像、音视频等内容的自动化生产门槛大幅降低。AI生成的新闻稿件、虚拟主播、商品广告等内容极大提升了社会生产效率，但技术滥用导致的虚假信息传播、深度伪造诈骗、网络生态污染等问题也日益严峻。例如，伪造名人发言、篡改新闻事件现场视频等现象频发，严重损害公众信任与社会稳定。联合国2024年《治理人工智能，助力造福人类》报告将“损害信息完整性”列为排名第一的风险，各国纷纷探索治理路径。《办法》的出台，正是我国应对这一全球性挑战的主动回应。

据了解，《办法》重点解决“哪些是生成的”“谁生成的”“从哪里生成的”等问题，推动由生成到传播各环节的全流程安全管理，力争打造可信赖的人工智能技术。

《办法》创新提出“显式+隐式”双轨标识机制，兼顾用户知情权与技术溯源性。显式标识是指在生成合成内容或者交互场景界面中添加的，以文字、声音、图形等方式呈现并可以被用户明显感知到的标识。隐式标识是指采取技术措施在生成合成内容文件数据中添加的，不易被用户明显感知到的标识。

此外，《办法》明确划分多方主体责任，形成从内容生产到传播的闭环治理：服务提供者提供生成合成内容下载、复制、导出等功能时，应当确保文件中含有满足要求的显式标识；提供网络信息内容传播服务的服务提供者应当规范生成合成内容传播活动，采取适当方式在发布内容周边添加显著的提示标识，提醒公众发布内容可能属于生成合成内容，防范“AI造假”内容扩散；互联网应用程序分发平台在应用程序上架或者上线审核时，应当要求互联网应用程序服务提供者说明是否提供人工智能生成合成服务，若提供，平台应当核验其生成合成内容标识相关材料；用户使用网络信息内容传播服务发布生成合成内容的，应当主动声明并使用服务提供者提供的标识功能进行标识。

中国科学院科技战略咨询研究院研究员肖尤丹认为，《办法》的发布实际上并不是AI内容治理的终极手段，而是过程中一次“小步快走”的治理实践，是更符合当下中国人工智能发展阶段的治理方法。《办法》为优化AIGC内容秩序、防范技术大规模应用等提供了基础性规范工具，构建了以生成源头强制标识为基础的内容秩序监管框架，不仅可以规范生成服务提供者的源头生成行为，也提高了使用和传播生成内容的透明度，这必然会大幅增加利用AIGC进行违法犯罪活动的成本，也为进一步遏制AIGC灰黑产业链和新型违法预留了制度接口。

从结绳记事到区块链存证，人类始终在探索信任机制的载体。《办法》的出台，本质上是以制度创新回应“图灵测试”时代的终极拷问：当机器无限逼近人类表达能力，我们如何守护真实世界的确定性？答案或许就藏在这些看似微小的标识中。未来，随着标识技术与治理规则的持续迭代，一个清朗、安全、创新的人工智能生态必将加速成型。

完

来源：火力咆哮吼