摘要：此前，曾有一些喜欢靳东的观众，被AI换脸的“假靳东”所骗，有的甚至要到银行贷款200万元给自己的男朋友“靳东”拍戏。2024年国庆长假期间，曾经出现大量“雷军AI配音”的恶搞视频，迫使雷军本人不得不专门发视频，呼吁大家不要再恶搞。两位受害者的现身说法，让整治A

两会期间，全国人大代表雷军、全国政协委员靳东等呼吁立法整治AI“换脸拟声”的话题引发广泛关注。

此前，曾有一些喜欢靳东的观众，被AI换脸的“假靳东”所骗，有的甚至要到银行贷款200万元给自己的男朋友“靳东”拍戏。2024年国庆长假期间，曾经出现大量“雷军AI配音”的恶搞视频，迫使雷军本人不得不专门发视频，呼吁大家不要再恶搞。两位受害者的现身说法，让整治AI“换脸拟声”的话题多次冲上微博热搜。

为AI“换脸拟声”所苦的名人，远不止靳东、雷军二人：有“假张文宏”深夜直播带货，有“假刘晓庆”分享人生鸡汤，有“假古天乐”“假林峯”代言带有赌博性质的游戏平台。此外，还有“假刘德华”“假梁文峰”“假黄晓明”“假刘亦菲”等等。可以说，AI“换脸拟声”的不当滥用已成为违法侵权重灾区，严重侵犯消费者的权益，并有愈演愈烈之势。

AI“换脸拟声”乱象的出现，除了违法成本低、监管法规落后、利益驱动等之外，技术的便利性也是主要原因。深度伪造（Deepfake）技术自2017年问世以来，正以指数级速度渗透日常生活。AI“换脸拟声”的使用门槛不断降低，一键换脸、一键换声等已不再是难事。有理由相信，随着技术持续进步，AI“换脸拟声”将越来越简单快捷。

对AI“换脸拟声”这种新技术引发的新问题，除了采用传统治理方法之外，更需要采用新思维。

比如《人工智能生成合成内容标识办法》征求意见稿已规定，对AI生成合成内容要进行标识，以便公众识别和区分，防止误导性信息传播。但目前看来，有的AI生成内容不标注，有的标注字体大小、位置不一，还有的用近乎半透明的文字标注，让人极易忽略。此前，为了治理弹窗广告乱象，有关部门也曾出台规定，要求弹窗广告要显著标明广告和关闭标志，确保一键关闭。但如今看来，利益驱动下，低违法成本诱惑下，违反此规定的现象仍然十分普遍。

因此，落实对AI生成合成内容要进行标识的规定，需要新思维。比如，除了要求视频发布者、视频发布平台严格遵守外，能否通过新技术，有效识别和区分内容是否为合成？再比如，压实平台方的审查责任、加大对通过AI违规“换脸拟声”者的惩处力度，已成为各方的共识，那能否建立平台“先行赔付”机制，倒逼平台加强监管；能否设立惩罚性赔偿机制，让违规者付出代价；能否创新相关法规，解决互联网侵权无法量化举证而难以维权的问题？

正如有评论所言：面对新技术引发的新问题，如果仍沿用传统追责机制，就好比用渔网去拦截数据洪流，是力所不逮的。AI“换脸拟声”乱象，属于新技术引发的新问题，需要新思维去解决。

记者：刘江华

来源：子清视界