摘要：近期，胖东来商贸集团发布声明称，在第三方网络平台发现多个账号未经授权擅自利用AI技术手段生成于东来先生的声音，并对于东来先生或胖东来商贸集团享有著作权的视频内容进行非法剪辑和篡改，加入AI生成声音及误导性文案后发布，对公众造成误导和混淆。胖东来商贸集团对此表示

近期，胖东来商贸集团发布声明称，在第三方网络平台发现多个账号未经授权擅自利用AI技术手段生成于东来先生的声音，并对于东来先生或胖东来商贸集团享有著作权的视频内容进行非法剪辑和篡改，加入AI生成声音及误导性文案后发布，对公众造成误导和混淆。胖东来商贸集团对此表示严厉谴责，并警告存在上述行为的账号立即停止侵权行为，否则将采取法律措施追究其法律责任。

AI技术的快速发展为我们的生活带来了诸多便利，但同时也带来了诸多潜在风险。例如，声音合成、图像生成等AI技术的应用，使得虚假信息的制作和传播变得更加容易。这些虚假信息可能误导公众，损害他人名誉，甚至引发社会动荡。

近期除了于东来，小米创始人雷军的AI配音也大量在网络出现，一些网络账号未经授权擅自利用AI技术手段生成这些有影响力的名人声音，并用于发布视频或进行其他形式的传播，但这样的行为不仅侵犯当事人的个人权益，也会扰乱网络环境，更会引发公众对于AI技术滥用的担忧。

对于胖东来的公告，网民纷纷表示支持胖东来维权，呼吁相关部门严治AI乱象，维护网络秩序和个人权益。

AI乱象问题已越发突出，上个月，新华社发文从多个方面对AI提出了批评，《警惕“AI污染”乱象》一文指出“去年以来，生成式人工智能在世界范围内掀起一波接一波的热潮，其颠覆性应用让许多行业和网民受益。然而，一块硬币有两面，伴随生成式人工智能而来的也有一些负面问题，由‘信息垃圾’导致的‘AI污染’越来越突出。”

因此，AI的安全治理已迫在眉睫，舆论建议政府和相关部门应加强对AI技术的监管，制定和完善相关法律法规，明确AI技术的使用范围和限制。对于滥用AI技术、侵犯他人权益的行为，应依法进行严厉打击和处罚。

现目前要明确AI平台对源头素材的把控责任和对生成内容的监管责任，完善AI内容生成规则，强制对AI生成内容打上显著标识，提升AI技术的透明度和可解释性。

有关部门及企业需将监管重点放在对AI生成内容的筛查及审核上，可开发相关的审查算法，规范生成内容向舆论场的流入及传播途径，及时发现并删除低质量或虚假内容。

除此之外，还可建立便捷的举报机制，鼓励公众积极举报滥用AI技术的行为。对于举报属实的案件，应给予一定的奖励和表彰，以激励更多人参与到维护网络秩序的行动中来。

来源：夏琳说科技