摘要：在当今数字化时代，人工智能（AI）技术日新月异，正深刻地改变着我们的生活、工作和社会方方面面。然而，随着AI的广泛应用和普及，与之相关的谣言也如影随行，在信息的洪流中肆意传播，给公众带来了诸多困惑和误导，同时对AI产业健康发展造成了不良影响。

今天，我们就来一起学习，面对网上疑似利用AI造谣时，如何辨别和抵制。

AI谣言为何产生？

AI谣言的滋事，源于公众对这一新兴技术的好奇与陌生交织的复杂心理，以及部分人利用信息不对称制造话题、吸引眼球的不良企图。这些谣言涵盖了AI技术的性能、应用前景、潜在风险等各个领域，从夸大其词的功能吹嘘到危言耸听的安全威胁论，形式多样，内容繁杂。

AI网络谣言特征

定制化：生成式人工智能能够利用多类机器学习方法从数据中学习不同内容的生成特征以及主体的表达风格，只需要输入关键词，AI软件可在网络上抓取素材生成文本，形成定制化的文章、新闻、报告等信息。

门槛低：相比此前造谣者单纯靠人工捏造、散布谣言这一略显“原始”的方式，现在利用AI造谣者只需在AI工具输入关键词即可“一键生成”可以假乱真的文章、图片。

识别难：AI生成的虚假信息在形式上非常逼真，往往新闻要素齐全、内容完整，甚至可能包含图像和视频，这使得公众难以辨别真伪，这种伪装性和欺骗性让谣言更加具有迷惑性。

破坏大：利用AI工具制造谣言能生成极为逼真的图片、音视频，颠覆了“有图有真相”的常规认知，蛊惑性极强，短时间内就能快速传播，易引发社会恐慌，扰乱社会公共秩序。

AI谣言危害

1.泄露敏感数据

AI对话、文字创作等AI工具可收集并存储用户信息，造成个人隐私数据泄露，甚至可能从一些涉密敏感人员数据中推断出敏感信息。

2.损害他人名誉

网络谣言往往针对特定个人或群体，散布虚假信息，恶意攻击和诋毁他们的名誉和利益。这可能导致受害者遭受经济损失、社会压力和精神创伤。

3.误导公众认知

网络谣言往往利用人们的认知和心理弱点，制造虚假信息，误导公众对特定事件或人物的认知和评价。这可能导致公众价值观的混乱。

4.扰乱公共秩序

网络谣言可能引发公众恐慌和不安，破坏社会信任和稳定。虚假信息的传播可能引发群体性事件，甚至导致社会动荡。

如何抵制AI谣言

保持怀疑态度：对于任何看起来过于完美或者与常识相悖的信息，都应该持有一份谨慎的态度。不要轻易相信未经核实的消息来源。

查证信息真伪：当遇到疑似使用AI技术修改过的内容时，可以通过搜索引擎查找原始资料进行对比验证。同时也可以利用一些专门用来检测图像编辑痕迹的工具来辅助判断。

关注官方渠道：权威机构发布的信息通常更为可靠。因此，在接收到不确定的消息后，优先参考政府机关、知名媒体等正规途径发布的声明或报道。

增强个人隐私保护意识：防止个人信息泄露也是抵御AI谣言的重要一环。因为很多时候，诈骗者正是利用了受害者的私人数据来进行精准攻击。定期更换强密码、谨慎分享位置信息等措施都有助于降低被恶意利用的风险。

积极参与网络环境净化：如果您发现自己成为了某条虚假消息的传播者，请立即停止转发并向相关平台举报该内容。每个人的小小努力汇聚起来就能形成强大的正能量，共同维护健康的网络空间。

只有通过不断完善技术

加强监管、提高公众素养

才能有效地遏制 AI 造谣现象的发生

营造一个真实、可信的信息环境

稿件来源 网安部门

编稿人 孔祥龙

往 期 回 顾

来源：西宁城北公安