摘要：今年以来，AI深度伪造假冒名人事件频发。有媒体曝光了“AI假冒名人带货”套路，不法分子以深度伪造技术，变换人脸、克隆声音，生成和名人一模一样的“数字人”，获取观众信任进而直播带货。

今年以来，AI深度伪造假冒名人事件频发。有媒体曝光了“AI假冒名人带货”套路，不法分子以深度伪造技术，变换人脸、克隆声音，生成和名人一模一样的“数字人”，获取观众信任进而直播带货。

作为前沿技术形态，AI凭借其不断进化的交互方式、愈发强大的生成能力，彻底融入工作生活的方方面面。技术加速上新，风险也在翻番。就拿“AI假冒名人”来说，“假靳东”迷倒一众大妈、“假雷军”辣评世间百态、“假张文宏”深夜带货，越来越多的数字人借着名人效应招摇撞骗，逼真程度令普通人难以招架。用张文宏的话说，这些假的AI合成信息，就像漫天飞过来的“蝗虫”一样害人。

过去，人们笃信眼见为实。但这些年，“有图有真相”的判断标准一再受到冲击，网络谣言的“视觉陷阱”搞得公众疲惫不堪。如今，更是只需几张照片、几秒语音，“AI换脸”便可一键即成，给了不法分子极大可乘之机。不仅在带货江湖，电信诈骗也纷纷披上AI“外套”，诈骗分子不仅可以替换任何人的面貌，还能做到实时交谈互动，诈骗成功率极大提高。

“科技与狠活”令全世界头疼，而治理路径，首要一条是让法律跟上技术迭代的脚步。目前，至少有60多个国家制定和实施了人工智能治理政策，我国《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等规定的相继落地，也让刚性治理有了更多具体抓手。今年9月，国家网信办又起草了相关《办法》，要求通过人工智能生成的视频、音频、图片都必须加以明确的标识。可以说，当世界因AI真假难辨，强制信息标识、注明内容来源，既是在提醒用户注意甄别，也为后续监管提供了相应指引，是治理AI内容的必要一步。

作为网络信息服务提供者，平台一端连着用户，一端连着技术，对AI造假同样有监管之责。尤其AI生成视频正成为各大平台流量密码，更要求平台承担起更多责任。张文宏曾表示，自己多次向平台投诉，但收效甚微，这也暴露出相关平台机制不完善、治理不给力等问题。说到底，在技术升级越跑越快的今天，斩断AI造假的黑手，关键还是用“魔法”打败“魔法”、技术约束技术。“在AI帮助下制造的每一个威胁，技术本身都能提供有效的解药”，必须不断提升监测能力、识别能力，拿出硬办法过滤有害内容。

对于新科技，人类社会或许永远不会有“准备好”的一天，而不断发现问题、解决问题，本身也是指引社会向前、科技向善的动力。保持包容开放、客观审慎、依法治理的态度，风险就会少几分。

图源：视觉中国

来源：长安观察一点号