摘要：2024年1月，央视主播李梓萌的AI假人同时在17个直播间里喊“家人们冲”，3小时骗走老人两千万，导火索是犯罪团伙用2022年旧新闻片训练出0.12秒声纹断层的超精模型。

“我妈刷到‘李梓萌’卖保健品，差点把退休金全投进去。

”

2024年1月，央视主播李梓萌的AI假人同时在17个直播间里喊“家人们冲”，3小时骗走老人两千万，导火索是犯罪团伙用2022年旧新闻片训练出0.12秒声纹断层的超精模型。

一句话：技术跑得太快，平台审核还在原地做广播体操。

直播里那张脸太真了，连她惯有的左边眉尾轻挑都复刻了，只是发际线边缘像电压不稳的老灯泡闪了4帧，被00后网友弹幕“像素鬼火”点破。

抖音的AI检测确实上了新补丁，可骗子把对抗样本嵌进背景字幕条，系统直接瞎掉。

最损的是他们让假人永远正面镜头，90度侧脸就切回真实主播，物理规避侧脸崩模，这谁想得到？

浦东法院刚判了87万，钱到账热搜已经沉了，新号第二天就复活。

李梓萌本人跑去清华实验室录了10段带数字水印的“防伪视频”，结果评论区依旧“姐姐别洗，你就是卖了”。

阿姨们不信真人不信公告，只信“央视脸”三个字，这才是死结。

国家反诈中心App更新那模块，点进去要上传疑似视频，我妈连文件管理器都找不到，怎么传？

技术反制98.7%准确率是给检测室用的，不是给广场跳舞的爸妈用的。

除非直播间强制弹真人实时验证码，让假人当场现形，不然天天都是“家人们”的盛宴。

说到底，平台流量吃肉，出事了甩锅给“技术黑产”，最后靠网友眼尖救人，离谱。

——“以后主播不举身份证+实时眨眼三次，直接当AI处理，我反正先举报再说话。

”

来源：辰东小晨晨