摘要：前几天有人在直播间看到李梓萌在卖鱼油，其实那不是真的她，是用AI做出来的假人，李梓萌本人根本没有参与这件事，连照片都没有给过那些公司，可是直播间的背景用的是央视演播室，字幕条也做得一模一样，说话的语气、表情和动作都特别像，普通人根本分不出真假，还有不少人买了这

李梓萌没直播卖货，AI替她赚钱，信任被偷了

前几天有人在直播间看到李梓萌在卖鱼油，其实那不是真的她，是用AI做出来的假人，李梓萌本人根本没有参与这件事，连照片都没有给过那些公司，可是直播间的背景用的是央视演播室，字幕条也做得一模一样，说话的语气、表情和动作都特别像，普通人根本分不出真假，还有不少人买了这个产品。

这些直播卖的东西靠不住，说是保健品，其实就是普通糖果，连备案号也找不到，有些老人相信了宣传，把药停了改吃这个，结果身体变得更差，公司用一个叫李梓萌的AI模型，花七千块钱买来，再投一百万做流量推广，一周就赚了一千两百万，退货率高也不怕，反正利润足够大，被查到了罚二十万，账号注销后换个名字又重新开张。

李梓萌常年在新闻节目中出现，她穿西装、说普通话，大家看到她就觉得这人可靠，这种形象已经代表权威，换成其他明星可能没人相信，但用她的脸来骗人，就是利用大家对电视台的信任，国外也有AI伪造政治人物讲话的事情，只是我们这边公众更相信官方媒体，所以更容易上当。

做这种事情的技术门槛确实很低，网上可以直接买到现成的AI模型，价格从几千到几万都有，配套的话术模板也一并提供，教你如何绕过平台审核，直播时不绑定支付方式，引导用户私下转账，客服还会反过来责怪买家使用不当，让人有苦说不出，同一个模型可以同时开几十个直播间，还能跨平台发布，效率高得惊人。

监管总是跟不上节奏，网信办说处理了一万多个账号，但这只是冰山一角，罚款二十万对那些人来说就是九牛一毛，他们赚的钱早就翻倍了，普通人想维权也很困难，怎么证明视频是假的成了问题，平台也没有设定规则，比如要求权威人物必须授权才能使用数字形象，谁出事就由谁负责，平台却装作看不见。

这件事最让人头疼的，是它不光偷走钱，还破坏了大家对官方的信任，以后人们再看到央视主持人或者奥运冠军在直播，第一反应会怀疑这是用AI伪造的，这种怀疑一旦成了习惯，官方发布消息的效果就会减弱，工信部今年十月打算出台新规管理深度合成技术，但还没有明确公共人物的数字肖像权该由谁来负责，法律上存在空白，黑色产业就趁机钻空子。

我总在想，技术本来是为了让大家过得方便，现在却变成骗人的手段，我们相信一个人，是因为她代表某个单位、代表权威身份，可如今连这些都能被仿冒、被乱用，那我们还能相信谁呢，问题不在技术上，是出在人心里，有些人觉得反正自己不会买，但你没买，不代表别人不会受骗，尤其是老年人和农村用户，他们更容易被这种“看起来像官方”的形象欺骗。

商家违反法律这件事，不只关系到他们自己，还让整个社会的信任体系慢慢被破坏，人们今天觉得某个主播不可能卖假货，明天可能连官方新闻都开始怀疑起来，这并非故意夸大其词，而是真实在发生的情况。

来源：趣味杂谈一点号2