摘要：12月15日，“微信珊瑚安全”发布公告称：近期网络存在利用AI技术仿冒名人进行不当营销的现象。结合用户举报、日常巡查等线索，从速从严打击了一批利用AI仿冒知名人士进行不当营销、恶意博取流量的违规行为，并针对相关情况开展专项治理，关闭相关违规账号。后期微信将持续

文 | 京畿部长

12月15日，“微信珊瑚安全”发布公告称：近期网络存在利用AI技术仿冒名人进行不当营销的现象。结合用户举报、日常巡查等线索，从速从严打击了一批利用AI仿冒知名人士进行不当营销、恶意博取流量的违规行为，并针对相关情况开展专项治理，关闭相关违规账号。后期微信将持续对“利用AI仿冒知名人士进行营销宣传”等违规行为增加打击力度，进一步提升技术治理能力和水平，维护良好生态。

在如今的短视频平台，不论配音还是视频，AI 的身影无处不在。它一会是孙悟空，一会是熹妃甄嬛，一会又是名侦探柯南，更有甚者一些知名公众人物的声音和形象也在其中，让人真假难分，是非不辨，不少网友对此叫苦不迭。这些没有边界感的AI，在互联网的世界里横冲直撞。如果这些AI仅仅是用作娱乐用途也就罢了。偏偏有一些人动起了歪心思，打起了小算盘，用AI合成一些知名人物的声音和视频，公然开始进行营销活动，致使一部分用户基于信任而上当受骗。虽然有不少用户向平台投诉，但这种情况依旧屡禁不止，即使该侵权行为求助警方，但又因为对方看不见、摸不着，经常更换账号，无法追踪到行为主体，于是不得不就此作罢。

俗话说有图有真相。但随着AI的大行其道，现在变成了有图有视频没真相。AI技术开放以后，不断被滥用，而“反AI监管”制度却仍未成熟，使得AI逐渐突破藩篱，造假泛滥成灾，毫无疑问这是信息传播的灾难，如果任由发展不加以监管，不仅会对个人隐私、知识版权、司法取证和消费者权益等多方面带来影响，更会引发社会性信任危机。不可否认，AI的出现是社会发展的进一步体现，但合理利用AI，是现如今摆在我们面前的一道考题。如果放任AI为所欲为、一骗再骗，那么就违背了进步的初衷，所以必须进行有效治理，大幅增强打击犯罪。

为了应对AI仿冒问题，我国已经出台了相关法律法规。例如，《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》和《人工智能生成合成内容标识办法》等规定，为刚性治理提供了依据。然而，执法不严和维权难仍然是当前面临的主要问题。严格来说，现在互联网上泛滥的AI，不仅有厂商和企业的责任，其实使用的用户也难辞其咎。AI是进步生产力的体现，但是这一体现却没有被用在更广泛的生产创造领域，反而表现了其更容易失控的特质。究其原因就是，不是每个人都有创造的能力。所以要治理如今的AI乱象必须加强监管，而AI的监管不仅要从行政监管入手，也要从使用监管入手。

如何提高其使用监管，应多措并举，多方合力。从开发企业的角度来说，给所推出的AI产品强制性打上使用时的数字水印，就会在一定程度上强化溯源，遏制造假行为的冲动。如果生产者的信息被公开且便于追踪，那么其侵权行为也会得到一定程度的收敛，使得在源头上让AI的生产变得谨慎；而从司法和监管部门的角度来看，及时完善立法和加强执法，也是应对其泛滥的关键，尤其是在信息传播和消费者权益保护方面，涉及到虚假营销等问题应当进行重罚，提高违法企业和个人的违法成本；从用户使用的角度出发，平台不仅要设置投诉窗口并及时响应，也应该提高AI使用门槛，从时间及年龄等方面进行限制，并签署相关协议，压实主体责任。只有三管齐下，AI泛滥并使用不当的情况才会得到显著改善，行业发展才会健康有序。

互联网不是法外之地，AI的发展和使用也必须在法律范围之内。不论是从技术的角度出发，还是行政监管的领域来看，人工智能机遇和风险并存，而现在的乱象也只是行业发展的阵痛。技术没有对错，但如何使用和约束，需要有指导意见和法律的条款，我们不能寄希望于AI自动走到正规，而是应该积极采取措施进行介入，只有控制了使用行为，源头打击造假主体，现在的泛滥也必将得到彻底的治理。

来源：小盒科技论