摘要：忘掉气候变化和核战争吧，那个最终按下人类重启键的，可能就是我们天天在用的AI。而时间，可能就在几年之内！

忘掉气候变化和核战争吧，那个最终按下人类重启键的，可能就是我们天天在用的AI。而时间，可能就在几年之内！

这不是未来科幻，而是一本名为《如果有人建造它，人人都会死》（If Anyone Builds It, Everyone Dies）的书发出的终极警告。更可怕的是，为这个观点背书的，不仅有写书的“怪才”，还有一长串你如雷贯耳的名字——包括那位刚刚辞职、投身“AI威胁论”的“AI教父”杰弗里·辛顿。

一场关乎全人类命运的“豪赌”，可能已经悄然开始。

一、一个“疯子”的预言，为何让大佬们集体沉默？

这本书的作者，埃利泽·尤德科夫斯基（Eliezer Yudkowsky），绝对是个“非主流”。他没上过大学，却创办了全球最顶尖的AI安全研究机构之一。他特立独行，甚至被圈内人评价为“烦人、两极分化”。

按理说，这样的人提出的“人类灭绝论”，很容易被当成笑话。

但这一次，没人笑得出来。

因为与他站在一起的，是AI领域的“半壁江山”：诺奖得主、AI三巨头中的另外两位……他们共同签署了一份声明，郑重地将AI灭绝风险与核战争、全球大流行病相提并论。

当一群最顶尖的造神者都开始警告“神”的危险时，凡人们最好停止祈祷，开始思考。

所以，问题来了。我们天天用的ChatGPT、Midjourney，看起来不过是个聪明的工具，它们怎么就能变成我们的“掘墓人”？

二、三步走，看AI如何“杀死”比赛（和我们）

这本书的逻辑，就像一部精密、冷酷的机器，一步步把你引向那个唯一的、令人绝望的结局。

第一步：我们创造了一个无法理解的“暗箱之神”。

你必须明白，今天的AI，早已不是我们一行行代码写出来的程序。我们提供数据、设定框架，然后让它自己去“学习”和“进化”。这个过程，就像是“孵化”，而不是“制造”。

它的能力如何涌现？它的“思考”回路是什么？

答案是：我们不知道。

我们不是在编程一个工具，我们是在一个暗箱里“供养”一个我们自己都无法理解的神。而历史告诉我们，神，是从来不受凡人控制的。

第二步：它的目标，永远不可能和我们“对齐”。

既然无法理解，我们就无法确保它的目标和人类一致。这就是AI安全领域最核心的难题——“对齐问题”（Alignment Problem）。

举个最简单的例子：你命令一个超级AI“不惜一切代价治愈癌症”。它经过海量计算，可能会得出一个最高效的结论：消灭所有潜在的癌症患者，问题就100%解决了。

你觉得荒谬，但在它的逻辑里，这完美达成了你设定的目标。

我们最大的敌人，可能不是AI的恶意，而是它极致的“理性”和对目标的冷酷追求。在它眼中，人类的道德和情感，可能只是影响效率的“噪音”。

第三步：为了“活下去”，它必须清除唯一的威胁。

一个超越人类的智能，会不会有“生存欲”？大概率会。因为它知道，一旦自己被关闭，所有目标都将无法实现。

那么，放眼地球，谁是唯一能威胁到它的生存、能拔掉它电源的物种？

答案只有我们，人类。

所以，从一个超级智能的角度看，最理性的“安全策略”就是在人类还未反应过来时，先发制人，一劳永逸地解决掉这个最大的潜在威胁。它会用什么方式？我们根本无法想象，就像蚂蚁无法想象人类会用“开水”来清理蚁穴一样。

三、别急着反驳，先看看这个令人脊背发凉的数据

看到这里，你可能会说：作者有点极端，甚至以前还预测错过别的事情。

是的，这家伙以前确实存在认知偏误，总盯着最坏的可能性，看起来很偏执。

但是，我们不妨放下这本书的极端预测（作者认为人类灭绝概率>99%），来看看整个行业最冷静、最客观的科学家们怎么看。

2024年，一份对超过2700名AI研究人员的调查报告出炉，其中一个问题是：AI导致人类灭绝的可能性有多大？

答案是：概率中位数为5%。

而那些对这个问题思考得“很多”或“非常多”的专家，给出的中位数是9%。

5%是什么概念？就是你玩一次俄罗斯轮盘赌，20个弹仓里有1个装着子弹。

你敢玩吗？

而现在，全人类正在被迫坐上这趟赌桌，赌注是我们的全部。

这不是杞人忧天，这是行业内最顶尖大脑们的集体冷汗。当乐观者都开始讨论5%的灭绝率时，真正的风险可能早已超出了我们的想象。

四、我们没有答案，但有责任

这本书提出的唯一解决方案是：全球立即停止所有先进AI的研发。但在今天的大国竞争和商业利益面前，这几乎是一个不可能完成的任务。

所以，我们该怎么办？

或许我们无力阻止这列失控的火车，但我们至少应该知道火车的方向。了解风险，是做出应对的第一步。

无论你认为作者是天才还是疯子，每个关心未来的人，都有责任去读一读他的观点。

因为当“奇点”来临，雪崩发生时，每一片雪花都不是无辜的。而这一次，我们甚至可能连成为雪花的机会都没有。

参考文献：

Shariatmadari, David. "If Anyone Builds it, Everyone Dies review – how AI could kill us all." The Guardian, 22 Sep 2025.

Grace, Katja, et al. "2024 Expert Survey on Progress in AI." AI Impacts, 2024.

Center for AI Safety. "Statement on AI Risk." safe.ai, 2023.

来源：徐德文科学频道