摘要：2025年2月，有人在直播间用AI造了个假的李梓萌，她说深海鱼油能治头晕，还能记性变好，不少中老年人看了信了，觉得是央视主播说的，肯定没错，就下单买了，结果收到的不是药，就是普通糖果。

2025年2月，有人在直播间用AI造了个假的李梓萌，她说深海鱼油能治头晕，还能记性变好，不少中老年人看了信了，觉得是央视主播说的，肯定没错，就下单买了，结果收到的不是药，就是普通糖果。

事情闹大了，有人举报到市场监管局，李梓萌一点都不知道，结果被牵扯进来，后来官方查了，那个直播的人根本不是她，声音和脸全是AI合成的，那款鱼油也没任何保健资质，商家被罚了钱，可李梓萌的样子和声音早让人偷走，成了别人赚钱的工具。

为什么选她，因为她出名早，从2006年起就一直在《新闻联播》里播新闻，说话稳当，从没出过错，两千字的急稿拿手里也不慌，常年戴假发，看起来像个正经播音员，2017年她在综艺里摘了假发，大家才看见她本来的样子，老百姓觉得她靠谱，权威，现在这种信任，被技术黑产盯上了，拿来当流量的借口。

不只是李梓萌，全红婵、孙颖莎这些运动员也被AI配音卖土鸡蛋，靳东的声音被拿去当情感直播骗人打赏，张文宏医生的名字被冒用推销蛋白棒，还有人用AI把去世的名人“复活”来带货，这些骗局专挑中老年人下手，他们信电视里出现的脸，分不清视频是真是假，又担心健康，想给父母买点好的，一不小心就上当了。

国家其实有规定，AI生成的内容得打标签，平台也得加强审核，但真做起来没那么容易，做一条假视频几百块就能搞定，传播起来又快，受害者想维权，成本太高，有个配音演员武扬告赢了，最后只拿到五千块赔偿，很多人干脆就不告了，要是AI内容不强制加水印，普通人怎么分得清真假，平台是不是也该管管那些冒充名人的账号。

李梓萌的事不是个例，它说明大家心里都犯嘀咕，技术本身没毛病，可有人拿它骗人，监管总是慢半拍，普通人只能自己留个心眼，别一听央视主播推荐就信，别一看到包治百病就下单，真正的安心，靠的是你自己想明白，不是一张脸熟的人说啥都听。

你妈要是真信了“AI李梓萌”，接下来被冒充的，可能是你家楼下诊所的医生，是你孩子班主任，是你最信得过的人，他们都会变成骗子手里的工具，你打算怎么防？

来源：夜晚的黑夜