摘要：国家互联网信息办公室等四部门近日联合发布的《人工智能生成合成内容标识办法》将于9月1日正式施行。这一新规聚焦人工智能生成内容（AIGC）的全流程标识管理，旨在通过技术手段提升信息透明度，防范虚假信息传播与滥用风险。记者调查发现，当前各大平台在AIGC标识管理上

国家互联网信息办公室等四部门近日联合发布的《人工智能生成合成内容标识办法》将于9月1日正式施行。这一新规聚焦人工智能生成内容（AIGC）的全流程标识管理，旨在通过技术手段提升信息透明度，防范虚假信息传播与滥用风险。记者调查发现，当前各大平台在AIGC标识管理上呈现差异化探索，但技术滥用与合规挑战仍存隐忧。

《办法》首提“双轨制标识”

“显式标识”与“隐式标识”的双轨制标识，是此次《标识办法》首次提出的创新性协同管理机制。其中，显式标识要求生成内容或交互界面中以文字、声音、图形等形式提示用户，例如在AI生成视频的片头添加“本内容由人工智能生成”字样；隐式标识则需嵌入文件元数据或数字水印，记录内容属性、服务提供者编码等信息，便于追溯源头。

值得注意的是，新规对平台责任进一步细化。例如，互联网应用程序分发平台需在上架审核时核验AI服务提供者的标识材料；用户若发布AIGC内容，必须主动声明并使用平台提供的标识功能。公安部第三研究所副所长金波指出，标识管理将与算法备案、安全评估等机制衔接，成为未来AI监管的重点领域。

部分平台已提前试水

记者调查了解到，当前，多个主流平台已意识到AIGC标识管理的重要性，并采取了相应举措。头部互联网平台已逐步引入AIGC标识功能，不过实现路径各异。

以字节跳动旗下的抖音为例，对于利用AI技术生成的视频内容，若创作者主动声明，平台会在视频播放页面的显著位置添加“该内容由AI生成”的提示标识。而在字节跳动的另一款产品今日头条上，一些由AI撰写的新闻稿件，会在文章开头或结尾处标明“本文由AI生成”。

百度的文心一言在生成文本内容时，会在界面上以醒目的文字提示用户该内容为人工智能生成。同时，当用户将生成内容进行下载或分享时，文件的元数据中也会嵌入相关隐式标识，包含生成内容属性、服务提供者等信息。

微信在2024年“清朗规范生成合成内容标识”专项行动的推动下，加强了对公众号等内容的审核。若发现疑似AI生成内容，会要求创作者补充标识说明。对于明确为AI生成的小程序等应用，在应用上线审核阶段，会严格核验其标识相关材料。

不过以上多为“显式标识”方面的情况，但在“隐式标识”方面，目前则存在缺失问题。比如抖音推出的“剪映”工具在AI生成视频时自动添加片尾标识，其“AI绘画”标签下用户生成内容播放量超484亿次，但部分作品仍缺乏完整元数据记录。还有一些小众图文生成工具，其输出内容既无显式提示，元数据也未包含服务商信息，仅以“创意内容”模糊标注。

为追责新型犯罪提供技术支撑

事实上，AIGC技术的“双刃剑”效应早在司法实践中凸显。2024年2月，诈骗分子利用Deepfake技术伪造某公司高层视频，诱导员工转账2亿港元至指定账户；2024年6月，一家MCN机构负责人王某某利用AI软件生成虚假新闻，通过其控制的842个账号大量传播，最高日产量达7000篇，最终因扰乱公共秩序被警方行政拘留。

2024年12月，微信平台永久封禁209个账号，涉及利用AI技术仿冒名人（如张文宏、靳东）进行虚假营销。例如，有老人因误信AI合成的“靳东”视频，试图贷款200万元资助其“拍戏”。

在搜查法院案例时，记者注意到，目前公开的AIGC相关案例以行政处罚和平台治理为主，法院判决案例较少。主要原因包括技术取证难度高，AIGC的隐蔽性和技术复杂性导致追责链条长，以及立法滞后性，缺乏明确追责依据。

随着《人工智能生成合成内容标识办法》的实施，显式和隐式标识的强制要求将提升内容可追溯性，为司法追责提供技术支撑。

公众认知度亟待同步提升

尽管《标识办法》配套了《网络安全技术人工智能生成合成内容标识方法》等强制性国标，但落地细节仍需完善。例如，隐形水印的抗篡改能力、元数据跨平台兼容性等技术标准尚未统一。中国移动通信联合会陈晓华指出，企业需加大研发投入，开发高效标识工具，同时将合规成本转化为品牌信誉优势。

另一方面，公众认知度亟待提升。浙江大学陈纯院士强调，培育用户对AIGC内容的鉴别能力，与制度建设同等重要。当前，抖音、小红书等平台已上线“AI内容科普”专栏，但调查显示仅32%的用户能准确识别隐性标识。

《标识办法》的出台标志着我国AIGC治理迈入“可识别、可追溯、可问责”的新阶段。然而，从技术合规到生态净化，仍需要平台、用户与监管方的持续协同。正如盘古智库吴琦所言：“标识不仅是技术规范，更是构建人机信任的基石。”在这场AI与规则的对话中，唯有平衡创新动能与社会责任，方能打开健康发展之门。

头图为抖音AI生成内容提示

来源：劳动报