摘要：2025年9月1日起，国家网信办、工业和信息化部、公安部、国家广播电视总局制定的《人工智能生成合成内容标识办法》（以下简称《标识办法》）以及强制性国家标准《网络安全技术人工智能生成合成内容标识方法》将施行。

2025年9月1日起，国家网信办、工业和信息化部、公安部、国家广播电视总局制定的《人工智能生成合成内容标识办法》（以下简称《标识办法》）以及强制性国家标准《网络安全技术人工智能生成合成内容标识方法》将施行。

人工智能是一把“双刃剑”。近年来，生成式人工智能、深度合成等新技术广泛应用，在促进经济发展、丰富网上内容、便利公众生活的同时，也造成虚假信息传播、破坏网络生态等问题。《标识办法》和强制性国家标准的施行，能够进一步规范人工智能生成合成内容标识活动，推进人工智能领域安全治理，促进产业规范健康发展。

天下苦“AI造假”久矣。近日，在抖音、快手等平台直播间，一款名为“樟树港辣椒种子”的产品成了一些网络主播卖货推销的重点，但直播间里展示的“像玉米棒子一样结辣椒”“在没过膝盖的深水里摘辣椒”等画面，简直假得不能再假；包括此前的虚假新闻《杭州亚运场馆突发坍塌！建成仅2年，承建方曾获“鲁班奖”》，谣言“华山医院前院长张明远因阑尾炎未得到及时救治，客死他乡医院走廊长椅”，虚假图片“‘六指男孩’被埋图”等等，都是由AI生成合成。近年来，诸如此类由AI生成的假新闻、谣言，频繁出现在网络空间并广泛传播。有人利用AI把“照片”变“照骗”，把文字变成“任人打扮的小姑娘”，把视频里的主角“换个脸”，把直播间变成“造假工厂”等，达到圈粉、引流、变现的目的。这些造假行为，严重侵害他人权益，破坏网络生态。

重拳出击、猛药去疴，方能刹住“AI造假风”。今年以来，中央网信办先后部署开展“清朗·整治AI技术滥用”“清朗·整治‘自媒体’发布不实信息”专项行动，重点整治“未落实内容标识要求”以及“利用人工智能生成合成技术，仿冒他人，或编造社会民生等领域虚假信息，欺骗公众”等突出问题，集中清理相关违法不良信息，处置处罚违规账号、MCN机构和网站平台，进一步规范“自媒体”运营行为，持续营造清朗网络空间。对于涉嫌违法犯罪的AI造假行为，执法和司法机关要严惩，形成高压震慑效应。

源头治理、协同发力，才是整治“AI造假”问题的治本之策。《标识办法》主要从立法层面提出管理要求，明确生成合成内容制作传播各主体的责任义务，强制性国家标准形式主要提出强制执行部分的标识具体实施方式和操作方法，将解决“哪些是生成的”“谁生成的”“从哪里生成的”等关键问题，推动由生成到传播各环节的全流程安全管理。良法还需善治。服务提供者需在内容生成、传播、下载等环节确保标识完整；互联网应用程序分发平台需审核应用是否具备添加标识功能；个人用户发布生成内容时需要主动声明。对于违反《标识办法》规定的，网信、电信、公安和广播电视等有关主管部门要协同发力，打出“组合拳”，从而更好地引导AI向善，促进网络空间风清气正。

撰文 郭雪营

来源：南方网评一点号