摘要：前不久，西藏日喀则发生地震后，一张“被压在废墟下的小男孩”图片在社交平台广为传播。后经证实，该图为AI生成。事实上，这并非个案。随着人工智能技术在文本生成、图片创作、视频合成等领域被广泛应用，利用AI造谣变得更加容易，且此类谣言迷惑性极强，常常以假“乱”真，导

潮新闻客户端 编辑 董洁 张钟文

从新闻到见解，字里行间读懂社会万象。

有观点有思想，智慧碰撞把握时代脉搏。

让我们一起《读端》，一起“潮”。

本期嘉宾是十二届浙江省政协副主席周国辉。

（视频由AI共同创作）

当AI会“说谎”，我们该如何应对？

前不久，西藏日喀则发生地震后，一张“被压在废墟下的小男孩”图片在社交平台广为传播。后经证实，该图为AI生成。事实上，这并非个案。随着人工智能技术在文本生成、图片创作、视频合成等领域被广泛应用，利用AI造谣变得更加容易，且此类谣言迷惑性极强，常常以假“乱”真，导致“有图却无真相”“眼见未必为实”，危害大、识别难，日益成为一个全球治理难题。

世界经济论坛发布的《2025年全球风险报告》显示，错误和虚假信息是2025年全球面临的五大风险之一。而AI的滥用无疑是构成这种威胁的重要“推手”。那么，当前AI造谣有哪些突出表现？如何破解这一难题？

当AI会“说谎”

十二届浙江省政协副主席周国辉：

AI“说谎”是伴随着AI而来的现象，就像电给人动力和光明，但不慎触电会死人，机器延长人的臂膀，但也会误伤人甚或死人，AI大大助力提升了人的智力，但一不留神也会骗人误人，这不足为怪。

AI是人发明的，AI的算力、算法是人赋予的，AI的内容也是人投喂的，如果出现“说谎”，不是AI，而是人，AI只多是“说谎”的媒介和帮凶而已。我们在享受AI红利的同时，应当保持警觉，做好风险防范。

对用户来说，不宜过度依赖AI软件，尤其是在查询相关重要信息时，应通过权威渠道获得真实可靠答案。在获取AI生成的内容后，要有进一步核实真伪的意识，谨慎扩散转发，避免触碰造谣传谣的法律红线。提高个人信息安全保护意识，防止个人信息被不法分子利用进行AI诈骗。

对AI软件开发商来说，要持续迭代升级技术，精准筛选可靠信源，提高AI模型的逻辑推理判断和信息甄别能力。在AI软件生成的内容中进行显著标识，提醒用户该内容是由AI生成的，并非完全可靠。

对政府监管部门来说，及时出台规范标准，研判用户的反馈和投诉，督促AI平台、软件开发商尽快堵漏、升级。严惩利用AI编造、传播虚假信息的违法违规行为，增强法律的威慑力。

健全完善谣言审核识别机制，运用AI技术+人工复核相结合的方式进行信息监测和过滤。

对社会公众来说，加强对AI技术的科普和宣传，提高公众对AI生成内容的辨识能力。

鼓励公众在面对夸大其词的谣言时保持理性判断，综合多种渠道验证信息真伪。形成社会共治格局，让AI技术在社会生活中发挥更多正向作用。

随着AI技术的不断成熟，AI及其产品将大量走进我们的家庭和生活。近来，数智人或虚拟人已不断现身网络媒体，连我日前都拥有了自己的数智人。这对提高传媒效率、降低和节约人力成本，无疑是大有好处的。但也会带来虚假信息。所以，可以说数智人有益，但不能说无害。几个月前，我就发现一度时有“马云”做商品广告的视频，当即提醒阿里方面作出处理。接下去，越来越多的数智人将走进公众视野，其中会有许多名人大咖，可能显现万花盛开争奇斗艳和泥沙俱下鱼龙混杂并存的局面。我们应当有充分思想准备，而且及时做好预防工作。最紧迫的任务，建议抓紧建立数智人的实名认证、注册和征信制度，从源头上做好防范工作。

魔高一尺 ，道高一丈。只要用户、AI软件开发商、监管部门以及全社会共同努力，我们完全能够趋利避害，既最大程度地发挥AI带给人类及其生产生活的神奇功能，又有效地应对AI“说谎”带来的挑战。AI应当成为人类的挚友、良伴，而不是宿敌、损友。我们对此应当充满信心。

“转载请注明出处”

来源：钱江晚报