摘要:当AI技术的画笔被恶意挥舞,“数字画皮”便能轻易冒充公众人物的模样。2025年,央视主持人李梓萌就遭遇了这样一场无妄之灾:某公司直播间里,她的形象被AI技术“偷梁换柱”,与宣称“包治百病”的糖果类产品捆绑,打着“央视名嘴联名推荐”的旗号招摇撞骗 。这场精心设计
当AI技术的画笔被恶意挥舞,“数字画皮”便能轻易冒充公众人物的模样。2025年,央视主持人李梓萌就遭遇了这样一场无妄之灾:某公司直播间里,她的形象被AI技术“偷梁换柱”,与宣称“包治百病”的糖果类产品捆绑,打着“央视名嘴联名推荐”的旗号招摇撞骗 。这场精心设计的骗局不仅让李梓萌无辜受累,更揭开了AI技术滥用下的社会隐忧,最终逼得监管部门主动亮剑。
这场“偷梁换柱”的骗局堪称技术与利益勾结的典型。涉事公司仅用李梓萌3分钟的新闻视频,通过开源AI工具克隆声音、套用换脸模型,便制造出“实时带货”的假象——画面中的“李梓萌”嘴唇开合与话术精准配合,甚至每6秒眨眼一次,看似天衣无缝 。为增强欺骗性,骗子还为这款普通糖果贴上“深海多烯鱼油”的标签,宣称能治疗高血压、老年痴呆、失眠健忘等多种病症,专门瞄准对央视主持人抱有天然信任的中老年人。单场直播便吸引88万人观看,狂卖百万余元,直至有观众发现画面中“李梓萌”的脖子接缝处有卡顿、耳环反光异常等破绽,才揭开这场骗局的面纱 。
李梓萌的无辜,在于她自始至终对此事毫不知情,却平白承受了名誉受损的风险。作为深耕新闻领域多年的央视主持人,她的职业形象早已与“权威”“可信”深度绑定,而骗子正是利用这份公众信任实施诈骗。事件曝光初期,部分不明真相的网友曾对她产生误解,直到央视财经公开声明“画面为AI合成,李梓萌从未代言”,这场风波才得以平息 。事后李梓萌在采访中仅低调回应“谢谢同事的专业,也谢谢大家的信任”,言语间尽显专业素养,更反衬出骗局的卑劣 。
但在这场AI诈骗案中,李梓萌只是“显性受害者”,更多普通消费者的损失更令人揪心。不少中老年人花高价购买“神药”,不仅白白浪费钱财,更有甚者因轻信宣传耽误了正规治疗。这些受害者的遭遇并非个例,随着AI换脸成本降至500元一分钟,类似骗局正呈蔓延之势:从冒充明星推荐理财产品,到伪造亲友视频借钱,技术门槛的降低让骗子有机可乘,而普通公众尤其是老年群体,往往成为首要目标 。正如网络谣言的传播规律所示,这类骗局紧扣公众对“权威背书”的信任心理,借助流量经济的发酵,极易形成裂变式传播 。
骗局的猖獗终逼得官方出手,监管部门的快速响应成为遏制乱象的关键。北京市海淀区市场监管局接到举报后迅速介入,不仅查实涉事公司存在营业执照造假、产品批号虚假等问题,更认定其行为违反《广告法》,依法作出罚款、删除虚假广告的处罚。这起案件作为北京首例AI虚假广告案,为同类事件的处置提供了重要实践样本。在此基础上,监管部门进一步启动“视频合成技术专项整治”,推动主播实名认证、素材溯源系统内测,并要求主流平台建立“先行赔付”机制,从源头遏制技术滥用风险 。
治理AI“偷梁换柱”的乱象,更需构建多维度的防御体系。法律层面,《民法典》《网络安全法》等已有相关规定,未来还需进一步明确AI侵权的责任认定标准,完善民事、行政、刑事追责体系 。平台层面,应压实主体责任,利用技术优势建立AI生成内容检测机制,强制为合成内容添加隐形水印 。公众层面,则需提升媒介素养,掌握“看嘴型对不对、看手部动作自然不、查官方备案”等防骗技巧,遇到可疑信息主动通过12315等官方渠道核实 。
李梓萌的遭遇犹如一面镜子,照见了技术发展中的暗角,也见证了监管与社会应对风险的努力。当AI技术的进步不再被恶意利用,当“偷梁换柱”的骗局失去生存土壤,公众才能真正享受技术带来的便利。这既需要法律的刚性约束,也离不开平台的责任担当,更依赖每一个人的理性判断——唯有如此,才能守护好数字时代的清朗空间。
来源:娱七娱九