摘要：**9月8日，抖音集团副总裁李亮亲自发声：平台已经封禁了1000多个利用AI仿冒“于东来”形象、声音进行违规营销的账号。**这些账号背后是黑灰产团伙，借着“AI换脸+语音克隆”的技术，假冒商界传奇人物于东来直播带货，结果不仅侵犯了企业和个人的权益，更直接误导了

**9月8日，抖音集团副总裁李亮亲自发声：平台已经封禁了1000多个利用AI仿冒“于东来”形象、声音进行违规营销的账号。**这些账号背后是黑灰产团伙，借着“AI换脸+语音克隆”的技术，假冒商界传奇人物于东来直播带货，结果不仅侵犯了企业和个人的权益，更直接误导了消费者。最终，泉州市丰泽区市场监管局介入调查，对相关企业没收违法所得并开出15万元罚单。

听起来是不是特别讽刺？AI原本是推动社会效率提升的工具，现在却成了骗子们的“新武器”。 而且，他们玩的套路比传统诈骗更高明，普通人几乎分辨不出来。

过去大家对诈骗的认知是“假客服”“假短信”“假链接”，但现在升级成了“假人”。你以为屏幕里说话的是于东来，结果其实是AI合成的假脸+假声音。他们会告诉你：“今天老板心情好，福利秒杀，只要138元两瓶的茅台”，你信了，钱没了，货也是假货。

这种手段有多可怕？想象一下，如果有一天你爸妈突然接到“你”的电话，声音和口气一模一样，说“我急用钱，快转账”，他们敢不信吗？这就是AI诈骗的可怕之处。

而最让人后背发凉的是：这种黑灰产的门槛其实没你想的那么高。 现在市面上几千块钱的AI工具，就能做到以假乱真。骗子组织几个人就能开工，靠着平台的算法推荐，轻松收割一波韭菜。

当然，抖音这次的动作值得肯定。封掉1000多个黑灰产账号，说明平台真的在动手治理。但问题来了：是不是封号就够了？

我觉得远远不够。为什么？

第一，封号治标不治本。 黑灰产本来就是打一枪换一个号，封了1000个，还会冒出2000个。只要造假带来的利润高，冒险成本低，他们就不会停手。

第二，15万元罚款，能吓住谁？ 你骗一场直播的钱，可能都不止这个数。罚款对这些黑灰产团伙来说，就是“成本支出”，甚至还可能算在“营销预算”里。

第三，AI监管比传统诈骗更难。 因为AI换脸、语音克隆，本身就是合法的技术，只有用在诈骗、造假时才违法。这就像刀子一样，能切菜也能伤人。问题是，平台怎么分辨“合法创新”和“非法造假”？

说到这里，不得不聊聊一个更现实的冲突：AI技术进步和社会风险，本来就是一对矛盾体。

比如Deepfake（AI换脸）技术，原本是影视行业的福音，可以让演员返老还童，也能降低拍摄成本。但很快，这项技术就被灰产拿去做“AI涉黄视频”“AI诈骗电话”。结果就是，越先进的技术，越容易被坏人利用。

这让我想起一句很现实的话：科技进步永远先跑，法律监管永远在后面追。

就像电商刚兴起时，假货满天飞，直到监管、平台和消费者舆论共同倒逼，才慢慢好转。AI现在正处在类似的阶段，平台要不要担起更多责任？监管部门又能不能跟上？这才是关键。

从消费者角度看，其实大家也要提高警惕。别觉得“我不会上当”，骗子的技术进化速度，超乎你想象。
以前他们发个假链接，你一眼能看出是“拼夕夕”；现在他们给你来个“AI仿冒于东来”，你点进去，看到熟悉的脸、听到熟悉的声音，你还能分辨吗？

这也是为什么我觉得平台必须承担更大的责任。既然算法能把假直播推到你眼前，那它也应该能识别出“人脸是AI合成”的异常信号。 不然，一边靠算法赚钱，一边甩锅说“我们也管不了”，说得过去吗？

说到这里，我想抛出一个可能“冒犯”大众的观点：别对AI过度乐观，它不是天使，也不是魔鬼，本质上就是资本逐利的工具。

AI带来的效率提升，能让企业省钱、让平台赚钱，但对普通人呢？除了多几个换脸视频、多几个仿冒声音，我们真的感受到生活更幸福了吗？还是只是风险更大了？

抖音这次封号，更多是一种“止血”动作。未来如果AI诈骗越来越多，消费者还敢相信直播间里的任何一个“熟人”吗？当信任体系崩塌，受伤的不是骗子，而是整个行业。

你觉得AI诈骗的治理，应该更多靠平台技术自查，还是靠法律加大惩罚？
15万罚款这种力度，你觉得能吓住黑灰产？

来源：斌说Bin