摘要:有人在直播间用AI捏了个李梓萌,穿着西装,笑着介绍一款鱼油糖果,声音挺清楚,不少人真以为是她本人推荐,直播高峰时八十多万人盯着,货卖得特别快,后来有人看出来,那根本不是真人,是假的,糖就是普通糖,一点保健作用都没有。
有人在直播间用AI捏了个李梓萌,穿着西装,笑着介绍一款鱼油糖果,声音挺清楚,不少人真以为是她本人推荐,直播高峰时八十多万人盯着,货卖得特别快,后来有人看出来,那根本不是真人,是假的,糖就是普通糖,一点保健作用都没有。
官方很快查到了这个直播间,2025年10月上旬,执法人员把它查封了,抓了几个背后的人,他们用技术合成李梓萌的样子,还学她说话的腔调,李梓萌本人一点都不知道,她是央视《新闻联播》的老主播,从2000年初进央视,干了二十多年,到现在还是出镜最多的“国脸”之一,她从来没接广告,也没签过任何代言合同。
她戴假发套二十多年了,刚进央视那会儿,为了显得稳重,就戴上假发,后来这成了她的标志,她有一次八分钟没看提词器,把两千字的新闻一字不差背完,网上一下子火了,不少人叫她“嘴瓢首富”,其实是因为台里有规矩,念错一个字罚两百块,她工资不高,租房子住了二十年,倪萍说她“贷款上班”,这话听着像逗你玩,可真就是这么回事。
AI最爱用大家熟悉的人的脸,比如央视主播、奥运冠军、医生、教授,这些人大家都信得过,现在技术公司做这种假人像,成本不到一千块,一套工具就能把声音和图像拼在一起,法律还没跟上,民法典和网络管理规定里,没说这种事该判几年。
不只是李梓萌,2024年有人拿AI做了个鲁迅讲升学课,三万人点了赞,2025年又有人用张桂梅的声音卖保健品,被人举报了,大家太容易信那些脸熟的人了,AI就专挑这地方下手,传统媒体也没管,央视从没说过主播形象能怎么用,也没设什么防。
国家网信办2025年10月出了新规定,公众人物的数字形象得备案,得授权,央视也第一次说,谁敢乱用主播的脸,就告到底,抖音和快手赶紧加了AI主播识别标签,可准确率还不到六成,好多假人还在偷偷直播。
李梓萌到现在都没开口,她当年戴假发,就是为了让别人信她,现在她的脸被拆了,做成东西,网上随便卖,她没挣到一分钱,反倒可能被人说骗人,这不光是她一个人的事,是整个社会的问题,当真实变得少见,当信任能被复制,我们还能信谁,平台和法律,能不能在技术跑得太快前,拉住这根绳子。
来源:画中的人儿