整治AI“换脸拟声”:新技术引发的新问题,需要新思维解决

B站影视 港台电影 2025-03-14 10:43 2

摘要:此前,曾有一些喜欢靳东的观众,被AI换脸的“假靳东”所骗,有的甚至要到银行贷款200万元给自己的男朋友“靳东”拍戏。2024年国庆长假期间,曾经出现大量“雷军AI配音”的恶搞视频,迫使雷军本人不得不专门发视频,呼吁大家不要再恶搞。两位受害者的现身说法,让整治A

两会期间,全国人大代表雷军、全国政协委员靳东等呼吁立法整治AI“换脸拟声”的话题引发广泛关注。

靳东呼吁立法整治AI“换脸拟声”雷军呼吁网友不要再恶搞

此前,曾有一些喜欢靳东的观众,被AI换脸的“假靳东”所骗,有的甚至要到银行贷款200万元给自己的男朋友“靳东”拍戏。2024年国庆长假期间,曾经出现大量“雷军AI配音”的恶搞视频,迫使雷军本人不得不专门发视频,呼吁大家不要再恶搞。两位受害者的现身说法,让整治AI“换脸拟声”的话题多次冲上微博热搜。

为AI“换脸拟声”所苦的名人,远不止靳东、雷军二人:有“假张文宏”深夜直播带货,有“假刘晓庆”分享人生鸡汤,有“假古天乐”“假林峯”代言带有赌博性质的游戏平台。此外,还有“假刘德华”“假梁文峰”“假黄晓明”“假刘亦菲”等等。可以说,AI“换脸拟声”的不当滥用已成为违法侵权重灾区,严重侵犯消费者的权益,并有愈演愈烈之势。

AI“换脸”生成的张文宏直播带货

AI“换脸拟声”乱象的出现,除了违法成本低、监管法规落后、利益驱动等之外,技术的便利性也是主要原因。深度伪造(Deepfake)技术自2017年问世以来,正以指数级速度渗透日常生活。AI“换脸拟声”的使用门槛不断降低,一键换脸、一键换声等已不再是难事。有理由相信,随着技术持续进步,AI“换脸拟声”将越来越简单快捷。

对AI“换脸拟声”这种新技术引发的新问题,除了采用传统治理方法之外,更需要采用新思维。

比如《人工智能生成合成内容标识办法》征求意见稿已规定,对AI生成合成内容要进行标识,以便公众识别和区分,防止误导性信息传播。但目前看来,有的AI生成内容不标注,有的标注字体大小、位置不一,还有的用近乎半透明的文字标注,让人极易忽略。此前,为了治理弹窗广告乱象,有关部门也曾出台规定,要求弹窗广告要显著标明广告和关闭标志,确保一键关闭。但如今看来,利益驱动下,低违法成本诱惑下,违反此规定的现象仍然十分普遍。

“假刘晓庆”分享人生鸡汤

因此,落实对AI生成合成内容要进行标识的规定,需要新思维。比如,除了要求视频发布者、视频发布平台严格遵守外,能否通过新技术,有效识别和区分内容是否为合成?再比如,压实平台方的审查责任、加大对通过AI违规“换脸拟声”者的惩处力度,已成为各方的共识,那能否建立平台“先行赔付”机制,倒逼平台加强监管;能否设立惩罚性赔偿机制,让违规者付出代价;能否创新相关法规,解决互联网侵权无法量化举证而难以维权的问题?

正如有评论所言:面对新技术引发的新问题,如果仍沿用传统追责机制,就好比用渔网去拦截数据洪流,是力所不逮的。AI“换脸拟声”乱象,属于新技术引发的新问题,需要新思维去解决。

记者:刘江华

来源:子清视界

相关推荐