摘要:有人在直播里看见李梓萌在卖鱼油,声音像她,脸也像她,可那根本不是真人,是电脑合成的假人,卖的东西也不是营养品,就是普通糖果,不少人信了,下单买了一千多单,后来大家觉得不对劲,举报了,平台赶紧把视频下架,国家网信办和北京市场监管局马上出面说,李梓萌没参与,这是诈
有人在直播里看见李梓萌在卖鱼油,声音像她,脸也像她,可那根本不是真人,是电脑合成的假人,卖的东西也不是营养品,就是普通糖果,不少人信了,下单买了一千多单,后来大家觉得不对劲,举报了,平台赶紧把视频下架,国家网信办和北京市场监管局马上出面说,李梓萌没参与,这是诈骗,官方已经立案抓人。
不光李梓萌中了招,全红婵、孙颖莎也被做成假视频卖土鸡蛋,卖了四万七千件,张文宏被抠图放进广告里推蛋白棒,嘴型对不上,声音也别扭,可还是有不少老人信了,他们觉得央视主持人、奥运冠军、大医生不会骗人,这些人平时不带货,模样正经,说话沉稳,老百姓一看就踏实,骗子不用注册公司,不用签合同,拿AI造个权威出来,就能把钱骗走。
技术现在太便宜了,一千块就能做个假人视频,网上随便找工具,几小时就能批量生成,平台管得松,没人去查是不是真人,老年人最吃亏,他们看到央视两个字就觉得靠谱,年轻人还能点开看看细节,老人连怀疑都不会有,国外早就有规定,AI做的内容必须标清楚这是合成的,我们这边还没强制要求,这就让骗子有了机会。
李梓萌其实挺真,她在节目里讲笑话,逗人笑,跟新闻里那个正经模样完全不一样,她四十六岁没结婚,可不等于没人爱,二十九岁就上《新闻联播》,是最年轻的女主播,为了好看,戴了二十多年假发,天天对着镜头,压力大得喘不过气,大家只记得她是央视主持人,却忘了她也是个普通人,会累,会烦,会笑,现在被人当商品卖,她的名声,她的尊严,全被人踩在脚底下。
这种事不会只发生一次,AI造假已经成了产业链,以前骗的是普通人,现在开始盯上权威人物,李梓萌运气好,官方出面澄清了,可还有多少AI张医生、AI王教授在直播间里忽悠人,平台不改规则,法律不跟进,谁都能被做成假人去带货,你信的专家、老师、主持人,哪天就在直播间卖假药,技术没毛病,毛病在用技术的人,没人管,事情只会越来越乱。
别觉得这事跟你没关系,你爸妈可能正看着某个专家说的保健品,你朋友刚下单了明星推荐的东西,那些视频看着像真的,其实全是电脑合成的,平台不能只顾着赚钱,不管真假,法律也得赶紧出新规定,逼着所有AI生成的内容都标清楚,不然下一个被冒充的,可能就是你最信得过的人,你猜,下次直播间里出现的会是谁。
来源:浅笑子言