直播 | 香帅对话万维钢：人比AI凶

摘要：数学、编程和医疗只是冰山一角，本书还会介绍AI在其他科研领域的进展。AI不但已经拥有一定的独立科研能力，而且在很多方面表现出远超人类的智能水平，尤其擅长以人类不适应的方式思考科学问题。就在2024年，创造出AlphaFold——一个专门预测蛋白质折叠结构的AI

现实是面对复杂问题，AI要比人强。

数学、编程和医疗只是冰山一角，本书还会介绍AI在其他科研领域的进展。AI不但已经拥有一定的独立科研能力，而且在很多方面表现出远超人类的智能水平，尤其擅长以人类不适应的方式思考科学问题。就在2024年，创造出AlphaFold——一个专门预测蛋白质折叠结构的AI模型——的两位开发者获得了诺贝尔化学奖。我们完全可以期待几年之内，就会有一个AI，而不是创造它的人类，因为独立做出某个科学发现而获得诺贝尔奖。

你接受也好不接受也好，当前AI已经在各个领域拥有超过人类专家的智能。

一年多以前，AI界的热门词汇是“AGI”，也就是通用人工智能（Artificial General Intelligence），意思是这个AI在所有方面都做得像人一样好。现在看来实现AGI还有一些并非完全属于技术方面的难度，比如其中涉及大量的上下文存储和本地知识、涉及调用权限，等等。我感觉当前风向是跳过AGI，直接追求“ASI”也就是超级人工智能（Artificial Super Intelligence）——这个A做任何主要工作都比人厉害得多，那么，你还会在意它是否了解你们办公室的政治吗？

超级智能的时代已经到来。

从现在开始，到很可能你的有生之年以内，ASI将会对世界作出如下改变：

它会解决一些已经困扰人类科学家很多年的问题；

它会做出一系列诺贝尔奖级别，甚至颠覆学科范式的重大科学发现；

它会接管所有繁重、无聊和危险的劳动；

它会治愈一切疾病；

它会解决长寿问题，以至于只要你能活到2045年，你就能活到2100年；

它会让物质极大丰富，让全人类实现富足……

ASI是天神级的力量。我们必须加人这个力量。我们必须与ASI共生。

如果你周围有很多比你聪明得多的存在，它们能替你做不少工作而且做得比你好，你该如何自处，才能确保自己仍然重要继续拥有发言权和决策权呢？这就是本书的主题。

事到如今，我们必须接受两个关于AI的基本认识。

第一个认识：智能正在变得普及，而且廉价。

不是即将，而是正在，是已经。今天在美国也好中国也好，只要你会用智能手机，你就能以免费或者几乎免费的形式用上相当不错的主流大模型。更好的智能需要付费，但开源又免费的大模型已经能帮你做很多事情，包括日常工作应用、回答科学问题完成大学生的作业，乃至于提供一切你能遇到的题目的解法。

简单说，人类直到目前为止的大学教育的所有内容，花费那么多时间和金钱培养出来的大学生的技能，2025年水平的主流AI都已经会做了，而且可以免费帮你做。

那我们的教育还教什么、学生还学什么呢？

OpenAI前任首席科学家伊利亚·苏茨科弗Ilya Sutskever早在2023年就说：“如果你把智力看得高于所有其他人类品质，你将会过得很糟糕。”

第二个认识：以前你以为不是智能问题的问题，其实是智能问题。

比如所谓“情商”，也就是一般人心目中能与他人共情、能照顾他人情绪、能把事情处理得面面俱到的能力，你可能觉得是AI所不具备的。也许你设想AI就像那些“不会来事儿只懂工作”的理工男。但事实上情商是智商的一部分！理工男不是真的搞不懂人际关系，他们只是没把心思放在那些事情上而已。只要愿意通盘考虑相关因素，智商高的人完全可以证明自己情商也高。

现实是AI已经证明了自己比大多数人更懂人。AI的心理咨询水平超过大多数人类心理医生。有研究表明AI可以通过短短三轮对话说服一个人相信科学，而不是迷信阴谋论。现在ChatGPT有了记忆功能，能通过你跟它的对话历史了解你。只要让它谈谈对你的理解和建议，你可能就会发现它比你所有的亲友都更懂你。

再比如很多人认为“创造力”是人类灵感的进发，是神来之笔，所以AI没有创造力……可是好几项研究都证明，AI生成新研究灵感的能力超过人类科学家，AI想出来的创业点子超过商学院的MBA学生。我一再讲，创造力并不神秘：创造只不过是想法的连接而已，AI完全可以通过尝试更多连接来选择更好的创造。

还比如审美，比如风格和个性化，现在AI都已经做得很好有时候能突破人的想象。

说到底，所有这些活动仍然是智力活动——只不过是多考虑几种可能性，在更多边界条件的约束下对方程求解而已。它们本质上仍然是智能问题。

既然是智能问题，AI就或早或晚会比我们做得好。而且我们很多时候更愿意跟AI，而不是跟真人打交道……

那么，人的发挥空间到底还剩下什么？

我不认为人会被淘汰。我也不相信一部分人会在AI的加持下成为所谓“神人”，另一部分人则成为“无用之人”。而且我相信AI会让人更像人。

AI本质上是一个神经网络，人的大脑本质上也是神经网络二者并没有什么神奇的区别。我们的大脑中并不存在什么神奇的物质或者结构，使这件事只有人会做而AI绝对学不会……

但是别担心，我们跟AI的确有至少四个区别。并不是说我们有什么比AI强的地方，但是作为碳基生物，我们有一些特殊情况……而有意思的是，正是因为这些特殊情况，碳基生物，比硅基智能，更应该做主。

第一，人有“意识”，而AI（至少目前）没有。

意识究竟是什么，科学家也好，哲学家也好，并没有达成绝对的共识。但是大体上，大家都比较能接受的一个说法是，意识跟你一生的“连贯叙事”很有关系。说白了就是你从小到大有连续的记忆，你一直在给自己讲故事。是那些故事，决定了你心中的“自我”，决定了你接下来想要什么。

你想要出人头地，是因为你给自己讲了一个奋斗故事。你想要振兴中华，是因为你从小都在听爱国故事。

AI没有这种叙事。它很会编故事，但是它没有人生经历，它没有历史，它的参数是在训练完成那一刻就固定下来的，不像我们大脑的神经元每时每刻都在重新连接更新记忆。AI没有自己的“元叙事”，所以它没有——或者至少暂时没有——自己的执念，它暂时不积极地想要什么。

所以人才是主动的发起者。总是人想要，AI帮着实现。人提问，AI回答。

我不敢说会永远如此，但至少目前是如此。

第二，人的“想要”是不可预测的。

有很多机构试图预测人们接下来想要什么：什么样的款式能在明年流行？什么样的电影能爆？年轻一代赞成什么政治理念？但是你终究没法预测。

人的想要受到太多因素影响，其中很多都没有形成可供AI学习的数据。你的基因、你所在的文化、你的经历、你不经意间接收到的微妙信息、你早上吃饭了没有，等等因素都可能起作用。你可能因为某个人喜欢一个东西而喜欢一个东西，也可能因为某个人喜欢一个东西而不喜欢一个东西……

很快每个人都会有自己的“数字分身”，也就是能代表你做出某些决策的AI智能体。但你的数字分身不会真正代表你。它就算100%了解你的一切，也只能代表它刚刚完成你的数据采集那一刻的你——而从那一刻开始，你跟它的世界线已经分道扬镳。

所以AI智能再强，也不可能完全代替你做决定。

第三，人会死。

这是我们的弱点，但有弱点才高级。因为我们会死，所以我们的每一刻都是宝贵的。你说的每一句话、你做的每一个动作都值得郑重对待，因为在你有限的生命之中你只能说这么多话、做这么多动作。

这一刻你选择阅读这本书，你就没有选择娱乐、没有选择陪伴家人。那我岂能不好好写书以对得起你这个选择呢？

而AI不会死。AI可以无限自我复制，你跟它聊的这一句话是被这台服务器上的这个副本处理，下一句话就已经被安排到另一台服务器上的另一个副本那里了。AI理论上可以同时跟极多的人说极多的话，那它这一句又能有多珍贵呢？

所以我们用AI根本不需要省着用，你想怎么用就怎么用。

现在很多AI公司都推出了陪伴智能体功能，请允许我提醒你一句：如果你的AI女友不是运行在你自己的私有服务器上，她就不是你一个人的女友。

人会死，所以人有更高的道德优先级。当机器人进入千家万户的时候，你会更加体会到人的宝贵。你会更加认同哲学家康德（Immanuel Kant）说的：人只能是目的，而不能是手段。所以应该是AI服务我们，而不是我们服务AI。

第四，人必须与他人共处。

一个冷知识是人长这么发达的大脑主要不是为了解决自己的生存问题——一般动物的大脑都很小，生存也没问题。我们大脑的主要工作是解决群居问题，是为了琢磨如何与他人相处。灵长类动物的脑容量大小跟族群的大小呈现明显的正相关。我们能创造这么高级的文明，是因为我们善于与他人相处——我们不只竞争，更爱合作，我们能合作的规模越来越大。

而与他人相处，似乎不仅仅是个智能问题。你是人别人也是人，所以你不能什么好处都占，所以你的人生并不是围绕一个单一的目标函数进行优化，所以这不是算法问题。

有时候你可以拿更多，但你选择分享；你可以得理不让人但你选择宽容；你可以做到自己的局部最优，但你选择全局。怎么选？那个度在哪里？这里没有最优解，你的选择取决于你的条件和心胸，取决于你当时的具体情况。

所以生活不只是智能问题，更需要“智慧”。

AI必须听我们的，我们才是事情的发起者，而我们的喜好无法预测，所以AI再强也只是助手，它终究不能代表我们……而我们的决策，终究无法算法化。那么以我之见，因为以上这些区别，我们跟AI共生的原则就是：

第一，尽可能给AI提供本地化的“情境”（context）信息，帮它精准思考；

第二，人的主要职责是做好各种“微决策”（micro-decisions ）。

本文节选自《人比AI凶》

序言部分“与超级智能共生”

9月7日（周日）20:00-21:30

主讲嘉宾