摘要：伴随着人工智能（AI）技术的发展，制造和传播网络谣言的手段也在不断演进。AI换脸、深度合成技术被一些不法分子用来炮制谣言、吸粉引流、非法牟利，严重扰乱了社会秩序。

□ 侯莎莎

“有图有真相？”未必。

伴随着人工智能（AI）技术的发展，制造和传播网络谣言的手段也在不断演进。AI换脸、深度合成技术被一些不法分子用来炮制谣言、吸粉引流、非法牟利，严重扰乱了社会秩序。

2024年国庆节期间，大量使用AI技术伪造的“雷军”配音视频广泛传播，内容涉及对国庆堵车、调休、游戏等热门话题的吐槽，甚至包含低俗谩骂等不当言论。雷军在2025年全国两会期间表示，此类AI换脸和拟声技术滥用已成为违法侵权的重灾区。

类似事件并非个例。近期，一则“某超一线男星澳门赌博输10亿元”的谣言在网络上迅速传播。后经公安网安部门查明，这是网民徐某强使用软件“某书”中AI智慧生成功能炮制的谣言。

这些谣言的共同特点是：利用公众对明星、民生、健康等热点话题的关注，通过AI生成看似有理有据的内容，混淆视听、收割流量。

分析AI谣言泛滥的原因，一是AI造谣成本低、识别难。在AI技术的加持下，造谣者只需输入简单指令，就能快速生成逼真的谣言内容。二是AI生成合成的谣言借助了丰富的大模型语料库，往往具有较高的迷惑性，使人难辨真伪。

在生成式人工智能时代，我们面临着更为严峻的谣言治理挑战，亟需采取有效措施加以应对。

《互联网信息服务深度合成管理规定》明确规定：深度合成服务提供者对使用其服务生成或者编辑的信息内容，应当采取技术措施添加不影响用户使用的标识。这表明，AI生成内容强制标识在政策层面已经达成了共识，并被纳入治理轨道。

用AI技术对抗AI谣言。利用自然语言处理和机器学习算法，配合大数据，进行网络分析和源头追溯，从文本来源可信度、语义一致性等特征，快速辨别可疑信息，加以标记或删除；紧跟技术发展，构建人工智能辟谣新模式，建立舆情监测系统，及时预警并采取措施，为网络谣言传播加上一道有力的“防火墙”。

抵制AI谣言除了依靠技术手段，还需政府、信息平台、公众共同努力，加强监管和协作，如此，才能共同维护网络空间秩序和安全。

政府、信息平台要在AI风险管理机制、伦理标准认证等方面进行探索，帮助AI设计者、开发者、评估者更好管理AI运用过程中可能出现的风险。

信息平台要落实主体责任。建立完善的审核机制，对AI生成内容进行严格把关。提高对未标注AI提示信息的合成内容、被篡改短视频的检测识别能力，做到精准监测和干预；加强对平台用户的管理，对违规发布AI谣言的用户及时处理。

对于网友而言，了解AI技术的基本原理和应用范围，增强对虚假信息的警惕性及鉴别力也至关重要。技术向善，始于你我。让我们每一个人理性驾驭AI，用法律守护底线，共同维护清朗网络空间。

编辑：郭艳娜审核：刘 飞

本文来自【聊城日报-聊城新闻网】，仅代表作者观点。全国党媒信息公共平台提供信息发布传播服务。

ID：jrtt

来源：全国党媒信息公共平台