央视揭AI带货“李鬼”：技术滥用下的信任危机与整治风暴

摘要：当奥运冠军“婵宝”的声音在直播间里推销土鸡蛋，当“国医大师”24小时不间断讲解养生秘诀，你很难想象，这些或许只是AI技术伪造的“李鬼”。央视近期的曝光，撕开了AI带货乱象的冰山一角——从名人声音克隆到虚拟人设造假，技术的便利正被异化为侵权牟利的工具，一场关乎信

当奥运冠军“婵宝”的声音在直播间里推销土鸡蛋，当“国医大师”24小时不间断讲解养生秘诀，你很难想象，这些或许只是AI技术伪造的“李鬼”。央视近期的曝光，撕开了AI带货乱象的冰山一角——从名人声音克隆到虚拟人设造假，技术的便利正被异化为侵权牟利的工具，一场关乎信任与规范的较量已然展开。

AI“李鬼”的造假套路早已突破“一听就假”的初级阶段。依托成熟的语音大模型技术，仅需十几秒清晰语音样本，就能“一键克隆”任何人的声音，让其说出预设的任意内容。在抖音平台上，博主“我是小助理吖”用AI仿冒全红婵声音带货土鸡蛋，一句“帮助妈妈改善生活，分享老家土鸡蛋”的话术，配合虚假人设，不仅单条视频获1.1万点赞，相关商品更售出4.7万件，而全红婵家人早已明确否认授权代言。孙颖莎、王楚钦等奥运冠军也未能幸免，其克隆声音被用来互相“背书”，进一步增强骗局可信度。

名人之外，普通从业者与弱势群体更易沦为受害者。职业配音演员武扬发现自己的声音被AI克隆用于餐饮宣传片，对方仅愿赔偿5000元了事；银发族则频繁遭遇AI“白大褂专家”推销保健品，高中学历者被包装成“国家一级营养师”，将普通糖果吹嘘为“抗癌神药”，甚至导致患者病情加重。更隐蔽的是，演员靳东等名人的声音被克隆用于24小时语音直播，通过诱骗粉丝打赏快速涨粉，为后续牟利铺路，形成完整灰色产业链。

乱象背后，是技术门槛的降低与监管的滞后。在短视频平台搜索“声音克隆”，大量教程与软件资源唾手可得，开源语音大模型的普及让造假成本趋近于零。而当AI克隆与换脸技术结合，生成高度逼真的“数字人”实施诈骗，其危害更会从商业侵权升级为刑事犯罪。北京航空航天大学法学院副教授赵精武指出，只要合成声音能让公众关联到特定自然人，就构成侵权，平台若未及时制止需承担连带责任。

面对技术滥用的挑战，监管层面已启动整治行动。中央网信办开展的“清朗·整治AI技术滥用”专项行动，从源头强化技术治理，清理违规AI应用程序，并推动平台提升检测鉴伪能力。2025年9月1日起施行的《人工智能生成合成内容标识办法》，以及抖音、快手等平台出台的新规，要求虚拟主播必须显著标注“AI生成”，绑定实名认证账号并保证真人介入时长，为合规划定了红线。