AI伪造“国脸”卖假糖：国家首罚护信任

摘要：2025年10月，网上传开“李梓萌直播卖鱼油”视频，画面里的“李梓萌”喊“家人们”称鱼油“包治百病”，可《新闻联播》主持人李梓萌从未开此直播，这是AI换脸诈骗，骗子复制她的脸和声音骗钱，所谓“鱼油”只是普通糖果，和保健品无关。

2025年10月，网上传开“李梓萌直播卖鱼油”视频，画面里的“李梓萌”喊“家人们”称鱼油“包治百病”，可《新闻联播》主持人李梓萌从未开此直播，这是AI换脸诈骗，骗子复制她的脸和声音骗钱，所谓“鱼油”只是普通糖果，和保健品无关。

事件初期，不明真相的网友骂李梓萌“德不配位”，直到工作室发声明、晒行程并报警，大家才知被骗。北京市市场监管部门调查显示，截至10月22日，超300名消费者因信“李梓萌”下单，涉额超50万。北京张阿姨看直播后，花899元买三个月“鱼油”，停了五年降压药，半个月后血压升高，维权时才知被AI假脸骗。

AI诈骗嚣张，国家迅速出手。10月23日，依据国家网信办9月落地的《人工智能生成合成内容标识方法》，北京市场监管部门对涉事科技公司罚款20万，这是该新规北京首例AI虚假广告处罚。法规要求AI生成内容加不易除的“数字水印”或“显眼标识”，让大家一眼辨出是AI制作。

中国政法大学传播法研究中心《2025年AI生成内容监管报告》显示，2025年上半年全国AI换脸诈骗案较2024年上半年同比增长187%，用公众人物形象诈骗占63%，50岁以上受害者超70%。骗子盯上李梓萌这类“国脸”，正因权威形象易让中老年人放下戒心。上海王女士曾信AI克隆的美食博主，转1500元买减肥茶却无货；江苏张先生信AI换脸的“影视明星”荐股，投5万后发现群里全是机器人。

技术防护也在跟进，腾讯安全团队《AI假脸检测技术白皮书》显示，其研发的“AI假脸检测系统”，通过分析面部光影变化、瞳孔微动，0.3秒内可识别99.2%的AI假脸，目前已用于主流短视频平台内容审核。但技术并非万能，当时AI伪造的“李梓萌”直播语气、神态与真李梓萌相似度达98%，不查证难分辨。

这场“真假李梓萌”事件，是数字时代“信任危机”的缩影。骗子觊觎的是公众的“信任本钱”，那是李梓萌12年播《新闻联播》的认真、念错一字扣200元的较真攒下的公信力。如今AI易复制这份“信任”，我们该如何守护“情感账户”？

或许要养成“主动查证”习惯：见公众人物荐产品，先查其官方账号，比如李梓萌消息多在央视新闻或工作室账号；遇“包治百病”宣传，要去查证。家里有老人，可教他们两步：一是打开微信搜“国家药监局”官方小程序，在“国产保健食品”栏输产品名，能查到批准文号才是真保健品；二是帮老人把国家市场监管总局官网、12315电话存手机桌面并设醒目图标。收到转账提示，多打电话确认，比如“孩子要学费”先联系孩子。监管法规、企业技术防护是“外盾”，个人的“查证意识”加实用办法，才是防AI诈骗的“内甲”。