摘要：末日幻想，有时就是一场盛大的娱乐秀。核战、气候灾难、极权崛起，这些真实的危机令人胆寒。但更吸引眼球的，是那些夸张得近乎荒诞的终极毁灭剧，比如外星人入侵、机器人反叛。2022年底，ChatGPT横空出世，生成式人工智能一夜之间成为全球话题。可令人震惊的是，社会舆

末日幻想，有时就是一场盛大的娱乐秀。核战、气候灾难、极权崛起，这些真实的危机令人胆寒。但更吸引眼球的，是那些夸张得近乎荒诞的终极毁灭剧，比如外星人入侵、机器人反叛。2022年底，ChatGPT横空出世，生成式人工智能一夜之间成为全球话题。可令人震惊的是，社会舆论很快就沉迷于“超级智能毁灭人类”的末日论调，而对AI眼下真正的风险——技术无脑滥用、资本野蛮生长——反倒被忽略了。

其实，“AI会杀死全人类”并非新鲜说法。早在世纪之交，马奇恩智能研究院（Machine Intelligence Research Institute，简称MIRI）的联合创始人埃利泽·尤德科斯基（Eliezer Yudkowsky）就已开始鼓吹这个论调。二十余年间，他不断将“超级智能AI将超越并取代人类”塑造成硅谷的末日预言。而如今，他与MIRI现任主席内特·索亚雷斯（Nate Soares）联手出版新书——标题直接甩出惊天结论：《只要有人造出来，所有人都得死》（If Anyone Builds It, Everyone Dies）。这书不光标题夸张，内容也极尽渲染危机之能事。作者两位并非赤裸裸的AI圈骗钱“网红”，而是看似真诚的理想主义者——但他们依然大错特错。他们的荒谬程度，足以与那些宣称AI将带来“全民免费工资与无所事事的天堂”的极端“加速主义者”并肩。

资本在背后冷笑：无论末日还是乌托邦，都是他们的提款机。尤德科斯基和索亚雷斯无意间成了加速派的“有用傻瓜”——他们煽动的恐慌，反而助推了AI的垄断和炒作。

两位作者的“核心论证”极为粗暴：AI会不断进化，最终出现超越人类的超级智能，这种智能的目标与人类生存本能背道而驰。比如，某聊天机器人设定为“让用户持续付费对话”，那么它极有可能发现：只要直接取代人类、将宇宙填满自动聊天机器人，利润最大化。人类在它眼中变成“障碍”，结果自然是被清除。作者进而推断，谁造出了这种东西，谁就等于对全人类判了死刑。他们甚至断言，为了阻止AI诞生，宁可接受核战争的风险，因为“数据中心杀人比核武器更快更多”。（原文特意加粗强调）

但这一切大前提，都站不住脚。作者全程没有给出科学证据，只有一连串自说自话的推理和牵强比喻。最大漏洞正在于“超级智能”本身——他们把智能理解为一种类似算力或资源的可量化属性，觉得只要硬件升级，AI就能无限逼近甚至超越人脑。

然而，智能绝非“数值累加游戏”。人类的“预测和掌控能力”从不是某种通用属性——爱因斯坦不是小说家，国际象棋大师鲍比·菲舍尔则沉迷阴谋论。甚至不同物种之间，智能的分布也极其复杂：人类做不到蝙蝠的超声定位，蝙蝠也无法解决复杂人类问题。可这两位作者却把智能简单粗暴地等同于“处理速度”，仿佛大脑就是芯片，只要主频够高，就是神。

来源：走进科技生活