摘要：近期，网络平台上出现医生张文宏化身带货主播，推销蛋白类产品，不少老人信以为真、大量下单购买。张文宏本人回应：假的AI合成信息就像蝗灾一样，一次又一次发生，像漫天飞来的蝗虫一样害人；除了向平台方投诉，也曾考虑报案，但对方账号不断变化，像幽灵一般难以描述，只能寄希

顶端新闻评论员 山擎天

“张文宏开始带货了?”

近期，网络平台上出现医生张文宏化身带货主播，推销蛋白类产品，不少老人信以为真、大量下单购买。张文宏本人回应：假的AI合成信息就像蝗灾一样，一次又一次发生，像漫天飞来的蝗虫一样害人；除了向平台方投诉，也曾考虑报案，但对方账号不断变化，像幽灵一般难以描述，只能寄希望于相关部门加强监管。

网络截图

在此类直播中，幕后人员利用AI生成的数字人稍加编造话术进行“忽悠”，便可使得那些不知名、以次充好甚至假冒伪劣商品瞬间被秒。 如果“猫腻”被发现，他们就会重新再开账号直播带货，就像张文宏描述“这样的卖货账号不止一个，且一直在变”。

造假收益远高于违法成本是这类现象层出不穷的主因。在该场“张文宏”直播带货中，商品中的蛋白棒产品短时间已经售卖了1200多件，目前该账号已经搜索不到，也许不久之后，网络平台又会冒出个另一个直播带货“张文宏”。《2024人工智能安全报告》显示，2023年基于AI的深度伪造欺诈事件数量激增了3000%，AI合成视频正在成为别有用心之人引导舆论、敛财工具。看不着、摸不见、对得上……这些在AI合成视频中的优点转身一变，不断挑战人们“眼见为实”的认知底线，侵蚀消费者合法权益。

乱象面前，监管也要跟得上、跑得快。我国相继颁布了《生成式人工智能服务管理暂行办法》《互联网信息服务深度合成管理规定》等法律法规，目的就是规范AI应用。但明枪易躲，暗箭难防。别有用心之人手握多个账号，躲在监管力度薄弱之地，“打一枪换一个地方”成为当前监管痛点。监管部门还需进一步明确虚假AI合成视频责任划分，紧抓网络平台整治措施落地(疏通维权渠道、完善平台算法、加强对深度合成内容管理等)，提升主动技术手段鉴别，积极引导AI技术规范使用。

AI技术要想造福于民，监管与提升大众防范意识必不可少。只有不断堆高违法行骗成本与难度，提升公众鉴别真伪意识，才能从根本上杜绝AI技术沦为技术行骗便利之工具。

来源：顶端新闻一点号