摘要:“妈,你咋又买一堆糖丸子?”小林下班一进门,就看见茶几上多了一盒印着“深海多烯鱼油”的金色瓶子,标价298元,旁边还摞着五盒。他妈一脸骄傲:“央视李梓萌直播推荐的,头晕吃一粒,手麻吃两粒,人家电视台还能骗人?”小林心里咯噔一下,掏出手机搜了搜,果然,#李梓萌A
“妈,你咋又买一堆糖丸子?”
小林下班一进门,就看见茶几上多了一盒印着“深海多烯鱼油”的金色瓶子,标价298元,旁边还摞着五盒。
他妈一脸骄傲:“央视李梓萌直播推荐的,头晕吃一粒,手麻吃两粒,人家电视台还能骗人?”
小林心里咯噔一下,掏出手机搜了搜,果然,#李梓萌AI假直播#已经爆了热搜——他妈嘴里“央视”,其实是骗子用AI换脸+克隆声音搭的假演播室,连背景灯的反光都复刻得一丝不差。
一颗成本1块3的奶味软糖,贴上“鱼油”标签,就能在十天里让全国老人掏走近两千万。
这不是魔术,是2025年2月真实发生的“北京首例AI虚假广告案”。海淀区市监局的办案笔记里,写着三条铁证:
1. 假人眨眼频率固定在每分钟17次,像节拍器,真人不可能这么稳。
2. 口型比声音慢0.3秒,肉眼难辨,但机器一帧帧抠,就对不上。
3. 左侧脸颊的高光永远不动,说明光源是贴图,不是演播室真灯。
这三根“狐狸尾巴”把案件钉死,公司被罚到关门,链接全下架。可骗局的真正狡猾之处,不在技术,而在“信任套利”——把老百姓对央视这张“国字号脸”的20年信任,像取现一样一次性提空。
李梓萌不是第一个被“提空”的。
全红婵的AI娃娃音在4月卖土鸡蛋,4.7万件瞬间清空;
孙颖莎、王楚钦也被克隆同款“冠军声”接力带货;
靳东的“AI东弟”从2020年一路嘘寒问暖,哄得上海一位阿姨差点抵押房子打200万“恋爱保证金”。
你以为骗子只盯着明星?最新监控数据显示,AI假人已经把“白大褂”穿到了直播间:
——冒牌“北京协和主任医师”卖益生菌,背景是医院绿幕,胸前假工牌一挂,3小时进账80万;
——教育圈顶流“李教授”连夜推荐《清华妈妈育儿经》,书没上市,定金收了两百多万。
明星、医生、教师,信任层级一路爬升,AI仿冒的“变现公式”也跟着升级:
大众明星收割情绪,专业人士收割理智。
有人喊“快立法”,其实立法早已起跑:
去年4月,配音演员殷某打赢“全国首例AI声音侵权案”,法院白纸黑字:自然人声音权益可延伸到AI生成声,未经许可=侵权。
今年7月,北京、深圳两地同步把“AI换脸虚假广告”写进地方广告条例,罚款上限从原来的200万拉到1000万,外加吊销执照。
可条文再硬,也追不上算法迭代。
真正冲在一线的,是“AI抓AI”的反向工程:
巨量引擎最新上线的多模态大模型,10分钟能跑完10万条素材,75%的违规 campaign 在开播前就被掐掉;抖音、快手、微信视频号三家后台,今年第三季度共拦截84万条AI假人素材,平均每秒封掉3个“李梓萌”。
平台出手,只能挡住一半。剩下的一半,得靠观众自己戴“防毒面具”。
给你三副“照妖镜”,30秒就能用:
1. 看边框:手机横屏录屏,把画面放大,AI脸的边缘常有0.5毫米“透明描边”,像贴歪的剪纸。
2. 听呼吸:真人说话句尾会带轻微呼吸声,AI克隆没有肺,静音段绝对安静。
3. 问互动:在评论区打字“请主播把右手食指放在左耳垂”。AI主播还做不到实时指定动作,十有八九装掉线。
记住,凡是“国脸”带货却不敢给你“真互动”的,一律先当骗子处理。
故事回到小林家。
他把三副“照妖镜”教给老妈,老太太半信半疑地回播回放,果然发现“梓萌”右手无名指缺了一截关节——那是AI建模时没抠干净的残影。
老人嘟囔一句“以后再也不乱买了”,却把镜子推给跳广场舞的微信群。
一夜之间,群里少下了二十单。
技术没有善恶,关键是谁握方向盘。
AI可以是骗子的提线木偶,也能变成照妖镜——镜子就在每个人手里。
下次再刷到“熟人”喊你囤货,别急着掏钱包,先掏出30秒照一照:
脸可以假,钱包里的钱是真的;
声音可以克隆,健康不会克隆。
让骗子失业,只需要观众多一次“暂停确认”。
毕竟,再高精度的AI,也怕观众多按一次“质疑播放键”。
来源:蘑菇呀呀喂