摘要:温峥嵘没有出现在直播间,里面却有三个她在卖东西,一个穿红衣服推广颈膜产品,一个穿白裙子介绍护肤品,还有一个素颜分享生活话题,这三个人的声音完全相同,动作也重复出现,连口型都对不上,观众看到后都感到惊讶,说这简直像用了分身术一样,后来大家才了解到,这些视频是商家
温峥嵘没有出现在直播间,里面却有三个她在卖东西,一个穿红衣服推广颈膜产品,一个穿白裙子介绍护肤品,还有一个素颜分享生活话题,这三个人的声音完全相同,动作也重复出现,连口型都对不上,观众看到后都感到惊讶,说这简直像用了分身术一样,后来大家才了解到,这些视频是商家利用她过去的直播和采访片段,通过AI换脸技术、合成声音处理,再加上虚拟背景制作出来的,最终做成了24小时自动播放的带货账号。
她团队一天之内举报掉五十个假账号,没过几天又冒出一批新号,这种事不止发生在她身上,全红婵也遇到类似情况,有人拿她的脸和声音放在卖土鸡蛋的直播间里,喊着“婵宝推荐”,一斤鸡蛋卖二十块,成本不到五块,骗了四万多人下单,戚薇、张柏芝、刘涛也都被拉进来,跟温峥嵘一起出现在带货画面中,搞得粉丝都分不清哪个是真的。
这事早就显出迹象了,2020年靳东是被AI仿得最厉害的一个,抖音和快手上有上百个“靳东”账号,用AI合成他说话表白的视频,专门欺骗中老年女性,江西有位阿姨信以为真,觉得“靳东男友”要去拍戏,硬是贷款200万支持他,上海有个团伙用假视频骗走31万,还伪造转账截图,让老人打赏买保健品,靳东本人多次澄清这件事,但根本没什么用。
到了2025年两会期间,演员靳东提出建议,呼吁针对人工智能换脸技术制定专门法律,他之前差点卷入刑事案件,因为有人利用他的AI合成形象从事违法活动,导致他无辜受到牵连,小米公司创始人雷军也遭遇类似问题,他的声音被人工智能模仿用于商业广告,法律专家指出,现行民法典和个人信息保护法虽然涉及肖像权保护,但并未明确规定如何追究人工智能生成内容的侵权责任,也没有界定平台方需要承担哪些义务,加上取证过程困难重重,举证环节更为复杂,这类纠纷往往最终没有明确结果。
技术成本不断下降,使用门槛也变低了,现在电商代运营公司只要花几块钱就能买到AI换脸工具,一段五秒的素材,三分钟就能生成一条明星带货的视频,不需要签合同,也不用支付代言费,几乎零成本,利润却能翻上千倍,从化妆品到土特产,从娱乐产品到农产品,到处都能看到AI名人在卖东西。
温峥嵘的经历显示,明星的形象现在也能像普通商品一样被大量复制,全红婵的例子让人们发现,大家总是太相信那些看起来权威的面孔,结果反而给技术钻了空子,靳东的事情则提醒我们,很多中老年人在情感上缺乏陪伴,特别容易被这种虚假的温柔所欺骗,技术本身没有错,问题在于它现在很容易被人用来造假,而相关的法律却一直追不上这些变化。
消费者花钱买的是信任,结果却买到假货,艺人辛苦建立的形象被别人免费拿去赚钱,平台一边收着流量费用,一边假装看不见,三方都在吃亏,没有人真正赢,我觉得与其等法律慢慢推进,不如先管住那些卖AI工具的公司,别让他们把造假变成流水线生产,不然下一个被“分身”的可能是你认识的主播,或者你家楼下天天直播的大姐。
来源:娱乐领域一点号
