摘要：知名的国学大师正滔滔不绝讲述人生哲理，话锋一转，竟开始推荐股票基金；熟悉的中医名家解读黄帝内经，到最后竟是为推销某款保健品……生活中我们经常会刷到诸如此类的视频，岂不知这些看似“权威”的视频，竟然是用AI技术伪造的。某些不法经营者通过AI技术克隆名人声音，生成

知名的国学大师正滔滔不绝讲述人生哲理，话锋一转，竟开始推荐股票基金；熟悉的中医名家解读黄帝内经，到最后竟是为推销某款保健品……生活中我们经常会刷到诸如此类的视频，岂不知这些看似“权威”的视频，竟然是用AI技术伪造的。某些不法经营者通过AI技术克隆名人声音，生成逼真形象，把国学大师、文化名人变成为他们卖课、卖货的“提线木偶”。

这一现象从表面看，是技术滥用导致的虚假内容传播——AI语音克隆和图像生成让造假门槛变得极低，几个按键就能让名人为其代言；而更深层次则折射出数字时代的文化失范与信任危机，已经突破人文伦理和法律约束的底线。当技术撕碎了真实与虚构的界限，当国学大师开始推销理财产品，当中医大家为保健品站台，这些不仅是对被使用者肖像、声音的恶意侵权，也是对信息传播和流量聚集的粗暴挟持，更动摇了整个社会知识体系和价值基础。

要遏制这股歪风，需从筑牢法律防线、压实平台责任、提升公众辨别能力三方面入手，打出标本兼治的“组合拳”，维护数字产业生态良性发展。

首先，法律必须“亮剑”，并随着数字技术的发展而不断完善。当前我国虽已出台《生成式人工智能服务管理暂行办法》，但针对AI克隆特定人声音、形象的行为，法律约束仍显模糊。需要进一步完善立法，明确未经授权使用名人声音形象的法律责任，相关法规和措施要随着技术发展和实践经验的积累而不断完善。同时加大对侵权行为的处罚力度，提高违法成本。

其次，内容平台必须“管事”，建立AI生成内容强制标注制度。内容平台应强制要求创作者明确标识视频是否使用AI技术；同时投入技术力量开发检测工具，通过算法识别深度伪造内容，建立违规内容快速响应下架机制。

第三，受众要“擦亮眼”，提高对AI生成内容的辨识能力。我们在刷视频时要时刻保持批判性思维，对看似“权威”的内容多一份质疑，少一份盲从；同时看到虚假视频及时举报，让其无处遁形。

技术本身并无善恶，但技术的应用必须有边界。面对AI技术带来的挑战，我们既不能因噎废食，也不能放任自流。唯有在创新与规范之间找到动态的平衡点，才能确保技术发展真正造福社会。（张丹）

本文转载自 群众新闻

来源：遇见咸阳