摘要：很多人以为AI换脸只是搞笑段子，直到银行卡被扣走四位数才发现，屏幕里那个笑着喊家人快抢的主持人，根本不是本人。海淀区市场监管局最新通报显示，仅十月份就有三位市民因假李梓萌带货被骗，金额最高的一单接近两万。骗子用她的形象卖黄金、卖护肤品、卖破壁机，话术一模一样：

李梓萌的脸在直播间里卖出九块九面膜，下单那一刻，国家系统亮起红灯，47条同款视频瞬间消失。

很多人以为AI换脸只是搞笑段子，直到银行卡被扣走四位数才发现，屏幕里那个笑着喊家人快抢的主持人，根本不是本人。海淀区市场监管局最新通报显示，仅十月份就有三位市民因假李梓萌带货被骗，金额最高的一单接近两万。骗子用她的形象卖黄金、卖护肤品、卖破壁机，话术一模一样：央视主持人偷偷下班赚外快，给粉丝送福利。听起来离谱，却真有人信，而且不少。

新规把这类套路钉死在墙上。九月三十号发布的《人工智能生成合成内容标识办法》直接点名AI伪造名人带货，要求所有平台在画面右上角打上动态二维码，扫码就能跳出“AI合成”四个大字。抖音、快手、淘宝直播在十五号完成对接，系统上线第一天就拦下四十七条视频，其中三条继续用李梓萌的脸，被下架后移交北京海淀区市场监管局。平台后台数据显示，这三条视频在被拦截前已经跑出三百多万播放，如果不是系统及时掐断，受害者名单还会更长。

有人觉得，一个二维码就能挡住骗子？别急着下结论。溯源平台真正的杀招是时间差。过去，举报一条伪造视频，平台审核最快也要二十四小时，足够骗子关播跑路。现在，系统要求两小时内把可疑内容同步到全国AI内容溯源平台，公众上传截图，三十秒内就能收到是否伪造的权威结论。时间被压缩到分钟级，骗子来不及换号，钱也来不及提现。十月中旬，江苏一位宝妈刷到假李梓萌卖黄金，扫码发现异常，立刻在溯源平台上传截图，系统确认伪造后，平台冻结直播间，支付通道同步关闭，宝妈的九千多块保住了。她后来在接受地方台采访时说，如果不是那个二维码，她根本想不到央视主持人也会被人搬上假直播间。

骗局升级的速度永远比想象快。早期AI换脸需要专业显卡、几个小时渲染，现在一台二手笔记本，三十分钟就能做出一段足以乱真的直播切片。骗子甚至研究出“半实半虚”套路：前五分钟真人出镜暖场，后面插播提前合成的高频带货片段，观众很难察觉。新规要求全程标注，就是为了堵死这种混剪漏洞。平台技术负责人透露，后台算法会对比主播面部微表情、声纹波动、画面帧率，只要检测到0.1秒级别的合成痕迹，就会自动触发预警。有人担心误判，其实真人和AI在眨眼频率、颈部肌肉联动上差距极大，系统经过十万小时训练，误杀率低于百万分之一。

更值得关注的是，溯源平台把举报权交到普通人手里。过去，发现被骗只能打客服电话，流程繁琐，很多人嫌麻烦自认倒霉。现在打开网页，上传截图，半分钟出结果，一键同步给市场监管部门，整个过程不超过两分钟。维权成本降到接近零，才会有人愿意站出来。北京海淀区那三位受害者，就是在朋友圈看到别人分享溯源链接，才想起去核验，结果发现自己中招。她们联合提交的证据，直接促成对背后黑产的立案。技术让普通人也能参与打假，这是新规最实在的价值。

有人质疑，平台自己查自己，会不会放水？溯源平台的后台日志全部接入监管部门，任何删除、修改、延迟同步都会留下记录，责任到人。十月份，某平台运营为了流量，曾试图把一条三百万播放的伪造视频标记为“误报”，被系统日志当场抓包，相关责任人被停职调查。数据一旦上链，谁都改不了，这才是真正的紧箍咒。骗子可以换脸，却换不掉区块链上的时间戳。

对消费者来说，记住两点就够了：第一，直播间右上角没有动态二维码，直接划走；第二，凡是名人喊你抢福利，先截图，再上传溯源平台，三十秒出结果，别让冲动替骗子买单。别觉得自己不会上当，数据显示，被骗人群里超过四成是本科以上学历，年轻人占比过半。技术门槛越低，骗局越没有死角。

李梓萌的脸只是开始，下一位被搬上直播的，可能是你喜欢的任何一位明星。溯源平台上线二十天，已经累计拦截三百多万次伪造播放，背后是一条条被及时止付的转账记录。别再等热搜爆料才后知后觉，打开直播先找二维码，没有就关，有就扫，花不了五秒钟，却能保住一个月工资。骗子不会消失，但能让它在你这儿颗粒无收，就是胜利。

来源：活泼铅笔