摘要：网络欺诈的有效性往往并不依赖于尖端技术。我们曾向3000多名美国高中生展示一段模糊的视频，内容是一名选举工作人员倾倒选票，疑似操纵选举。然而，仅凭一则用红色大写字体粗暴拼贴的字幕，就足以让这些学生相信美国存在选举舞弊——尽管这段影像的真实来源是俄罗斯。最终，只

本文为深度编译，仅供交流学习，不代表智子说观点

网络欺诈的有效性往往并不依赖于尖端技术。我们曾向3000多名美国高中生展示一段模糊的视频，内容是一名选举工作人员倾倒选票，疑似操纵选举。然而，仅凭一则用红色大写字体粗暴拼贴的字幕，就足以让这些学生相信美国存在选举舞弊——尽管这段影像的真实来源是俄罗斯。最终，只有三名学生识破了这一骗局。

我们早有警示：廉价伪造品（“Cheapfakes”）比深度伪造品（“Deepfakes”）更具危害性——它们制作简易，却能达到相近的传播效果。

在上届美国大选中，即便人工智能（AI）工具已普及大众，点燃公众对美国总统拜登（Joe Biden）执政能力争议的，正是老派视频拼接的粗糙数字胶带。

如今，廉价伪造品的时代似乎即将终结。新型视频生成工具制作的病毒式传播深度伪造，正构建起一个更险恶的信息战场。

得益于美国谷歌（Google）的Veo、美国OpenAI的Sora和美国Meta的Vibes等产品，AI垃圾内容如今制作轻而易举。在平台全面放弃事实核查的助推下，这些内容正如同癌细胞般扩散至所有屏幕。

要驾驭当今互联网，我们需要古老智慧的指引：穆斯林、犹太教、佛教等信仰体系历来强调声誉的核心价值。

虔诚的穆斯林通过“传述链”（isnad）追溯先知穆罕默德的言行。宗教犹太人则在拉比诵读的语境中解读《塔木德》（Talmud）教义。藏传佛教则通过从佛陀延续至今的传承体系口耳相传教义。所有这些传统都鼓励我们理性审视信息，但前提是必须追溯信息源头，并评估背后智者的声誉。

声誉在世俗语境中同样至关重要：当我们缺乏知识和专业能力时，它就是我们决策的依据。无论是选择心理治疗师或水管工，还是决定光顾哪家餐厅或预订哪家酒店，我们都依赖声誉。我们会咨询可信任的人并参考评价，因为我们深知：无人会主动暴露自身缺陷或隐藏动机。

声誉在我们生活的诸多领域至关重要。那么为何在网络世界，多数人却视而不见？

我们的研究团队已测试数千名年轻人的网络信息评估能力。我们反复观察到，他们在评判内容时完全不考虑来源。美国俄亥俄州乡村地区的一名学生相信选举舞弊视频的真实性，因为他们自认肉眼就能辨认出“多个州出现的舞弊行为”。美国宾夕法尼亚州的学生则写道视频“清楚展示了有人向投票箱投假票”。

这种模式在涉及人工智能时尤为显著。一位向“404 Media”分享教学经历的教师回忆，当询问学生如何判断美国OpenAI开发的ChatGPT信息准确性时，学生将手机塞到老师面前：“看，它明明写在这里！”

我们在高中及大学课堂的试点研究同样揭示类似趋势：许多学生盲目信任AI聊天机器人，即便这些机器人刻意省略信息来源背景。

太多网民忽视信誉评估，误将美国谷歌或ChatGPT视为经过审核的权威来源，而非存在缺陷的信息聚合器。当人们试图评估信誉时，往往被信息源自身提供的易被操纵的信号所迷惑：例如.org域名、关于页面上听起来很正式的措辞、不分质量的数据量，或是对事物外观的直觉判断。

这些特征如同愚人金般虚幻。任何组织都能注册.org域名，包括仇恨团体。否认大屠杀的网站在“关于我们”页面声称“提供事实信息”，配有精美图表的帖子可能充斥有害的虚假信息。

研究表明，人工智能的逼真程度甚至会让我们质疑自身感知：从声音酷似父母的克隆人，到美国西雅图太空针塔被大火吞噬的超写实伪造视频。

在这样的信息环境中，我们面临着屈从与唯我论的两难选择：要么漠视真相，要么坚称万物皆虚妄。前者使我们易受恶意者操纵逼真的视频片段；后者则让我们丧失良知。当理性公民意识本就稀缺之际，这两种选择都在侵蚀着公民的知情权。

我们能采取的对策是：与其关注内容本身，不如先探究背后的推手——正如信仰传统会考量教义的源头。

当运用得当，那些曾误导我们的技术反而能助我们破局。并非将思考权外包给技术，而是借助技术建立信誉体系，从而磨砺思维能力。

那三位识破选民欺诈视频系俄罗斯所为的学生，并未施展任何技术魔法。

他们只是新开一个标签页，输入几个关键词，便找到了英国广播公司（BBC）和美国“Snopes”等权威来源的辟谣文章。而通过几条关于大型语言模型运作机制和有效提示结构的精明指点，人工智能实际上能协助我们验证社交媒体内容，并提供缺失的背景信息。

主流AI工具都附带免责声明提醒用户核实信息。美国谷歌表示：“Gemini可能出错，请复核内容”；美国OpenAI则建议：“ChatGPT可能出错，重要信息需核查”。但从“阿尔法世代”到“婴儿潮一代”，几乎所有人都在信息验证方面面临困境。

好消息是人人都能进步。正如我们在美国内布拉斯加州和美国加利福尼亚州高中课堂、美国佐治亚州和美国得克萨斯州大学课程开展的研究所示，仅需数小时的信誉评估培训就能产生显著效果。

培训前，学生依赖直觉判断信息可靠性；培训后，他们学会了评估信息源的信誉度。加拿大、德国、印度及其他地区的研究也得出了类似的积极结论。

当我们难以分辨真实内容与AI生成内容时，判断可信度似乎变得毫无意义。但我们仍可通过强化一项古老智慧来更好地应对当今知识生态系统：声誉的重要性。

在AI浪潮席卷信息生态的当下，我们必须认识到，技术进步并未改变人类对信息的基本需求：可靠性。

无论是中世纪的经文口述，还是现代的深度报道，其价值内核都基于“传述链”的稳固性。那些轻易相信粗糙“廉价伪造品”的学生，不是因为技术不够先进，而是因为他们放弃了最简单也最有效的动作——新开一个标签页，去查证来源的信誉。

当AI能够以零成本生成“以假乱真”的图像和文本，判断信息真伪的战场，就彻底从内容本身转移到了信息传递者的信誉和动机上。 重拾对“声誉”的敬畏和查证的习惯，不是退回旧时代，而是以最古老的智慧，武装自己，穿越迷雾。

如果你对这个话题也有自己的经历或思考，欢迎在评论区聊聊。

来源：无敌浩克一点号