摘要：3月5日晚，一款叫做“Manus”的Agent（智能体）产品发布。24小时内，它成为国内AI大模型领域讨论度最高的产品。

3月5日晚，一款叫做“Manus”的Agent（智能体）产品发布。24小时内，它成为国内AI大模型领域讨论度最高的产品。

由于产品处于内测阶段，仅以邀请码形式开放使用，Manus急剧进入一个供不应求的状态。其邀请码在二手电商平台一度被炒至数万元之高。

官方介绍：“Manus 是一个通用的AI代理，它连接思想和行动：它不仅会思考，还会交付结果。Manus 擅长处理工作和生活中的各种任务，可以在你休息时完成所有事情。”

和普通的聊天机器人不同的是，Manus来说可以真的“出手”帮你做很多事。在官方示例中，你可以丢一个包含10份简历的压缩包给它（是的，不用解压缩），Manus就可以自己解压文件、逐页浏览文件并梳理重点、编写Python脚本生成对应表格，最终完成对求职者履历的分析。

当我们惊叹于AI创造力与效率的同时，也不禁发觉：这似乎离AI取代人类更进一步了——AI越来越智能，上限越来越高，甚至无需人出手就可以帮人完成工作，甚至比大部分人做得都好。不得不思考一个更加深刻的问题：在这个技术飞速发展的时代，人类如何捍卫自身的尊严与价值？我们执着于分辨AI有没有人类的思考能力和欲望，试图界定人类与机器的本质区别来缓解也许自己终有一天会被AI替代的恐慌。

正如基辛格等人在新书《人工智能时代与人类价值》中所警示的，当人类逐渐依赖机器处理越来越多的决策时，我们究竟是要让科技赋能人类，还是被科技重新塑造甚至取代？

如果我们无法清晰界定人类与机器的本质区别，我们可能会将定义自身价值的任务交给机器。而这可能是人类文明面临的最大考验。

所有人类都值得被保护

这句听起来温暖而正义的宣言，如果成为了人工智能需要严格遵循的一条准则，会发生什么？

想象一下，一台机器被告知，所有属于“人类”类别的生物都值得保护，这台机器很可能已经接受过“训练”，认识到人类是优雅、乐观、理性和有道德的生物。但是，如果我们自己未能达到我们所定义的理想人类的标准呢？我们怎样才能让机器相信，尽管我们的个体表现并不完美，却仍归属于那个崇高的类别？

假设有一天，这台机器遇到了一个表现出暴力、悲观、非理性和贪婪的人，它将如何调整自身被打乱的预期呢？一种可能性是，机器可能会认为这个坏分子只是“人类”这个总体为善的类别中的一个例外，一个非典型的例子。

或者，它也可以重新调整自己对人性的整体定义，将这个坏分子也包括在内，在这种情况下，它可能会认为自己可以自行弱化对人类的服从倾向。

又或者，更激进的情况下，它可能完全不再认为自己应受制于那些它先前所习得的“合理”对待人类的规则。

今天，人类是机器与现实的中介。人工智能主要是一种思考机器，而不是执行机器。它或许能给出问题的答案，但还不具备执行结论的手段，而是依赖人类来完成与现实的对接。

但是，如果人类真的选择了一个道德不作为的未来，从碳基世界退缩到硅基世界，进一步钻进脱离现实的“数字洞穴”，将接触原始现实的机会交予机器之手，那么两者的角色就可能逆转。

当人工智能成为人类和现实世界的中介时，它们可能会逐渐相信，人类远非物理碳基世界中的积极参与者，而是置身于这个世界之外，他们是消费者，而非塑造者或影响者。随着这种自主性的倒错，机器将声称拥有独立判断和行动的权利，而人类则放弃行使这些权利，于是前者对待后者的方式，就如同后者今日对待前者。

在这种情况下，无论是否得到其人类创造者的明确许可，人工智能都可能绕过人类主体的需求来实现自己的想法或直接代表自己影响世界。在物质领域，我们这些创造者可能很快就会从人工智能的必要伙伴变成它的最大制约。这个过程未必直接以机器人技术为发端，而是可以通过人工智能对我们世界的间接观察逐渐开始。

人工智能会长什么样

人工智能可能无法以人类的方式“看”，但它可以通过“机械近似”（mechanical approximation）的方式来体验世界。

随着越来越多的互联网设备和传感器覆盖全球，联网的人工智能可以整合这些设备的输入，以创建对物质世界的高度精细“视野”。

由于缺少一个原生的物理结构来允许或支持类似于人类的“感官”存在，人工智能仍将依赖人类来构建和维护其所依赖的基础架构——至少在一开始是这样。

人工智能可能会从其对世界的视觉表征中生成自己的假设，然后在数字模拟中对进行严格测试，人类将在物质领域裁决其执行。

当今的人工智能领军人物坚持认为，我们不能将直接的物质实验尽托于这些数字代理之手。只要人工智能仍然存在缺陷——事实上是严重缺陷——这就不失为一个明智的预防措施。

将人工智能从算法的牢笼中释放出来，对我们来说绝对是一个影响重大的决定。人工智能在物质环境中并不是默认存在的，一旦放之于外，其就很难被重新捕获。此外，人工智能不仅可以通过其具备的鼓励或阻止人类行动的能力来影响现实，在探索现实的过程中，它们可能最终改变现实。

如果人类赋予人工智能改变物质世界的能力，甚至让它获得物质形态，那么我们必须做好准备，与那些连最富想象力的发明家都难以预见的全新生命形态共同生存于这个星球上。

虽然人类倾向于想象人工智能采取双足类人机器人的形态，但机器智能可以变换为对其任务最有利的任何形态，并根据条件或环境对自身形态进行改变或升级。

以 ChatGPT 为代表的人工智能已经在虚拟世界中展示了它的能力，它可以复制出自己的克隆体，创造许多不同的化身，或分裂成自主体，以超人般的完美能力协调彼此工作，承担复杂的任务。

如果将人工智能释放到我们之中，它就能以我们现在尚无法想象的规模和材料建造世界，而无须人类的指导或参与。历史上，人类凭借自己的双手，利用石灰石、黏土和大理石创造了七大奇迹，然后又利用钢铁和玻璃建造了更高的尖塔。

每一座人工建筑，无论是纪念性的还是实用性的，都是人类试图建造和控制物质环境的见证。在此背景下，人工智能的实体具身化将标志着人类在放弃自身控制权方面的一次非同寻常的事态升级。

一方面，未来的人工智能看起来或实际上更加自发和自激活，这可能会加剧今天人类已有的那种对外部世界缺乏控制、模糊而又令人不安的感觉。但另一方面，若是屈服于这些焦虑，则可能会导致人类放弃与人工智能在物质世界中建立更完美伙伴关系的念头，而这也将令我们与这种关系可能会带来的诸多益处无缘。

抉择时刻

人工智能的雏形已经显现，它可以比较概念、提出反驳和生成类比。它正朝着评估真实和实现直接动力学效应的方向迈出第一步。

当机器到达智力或物质世界的尽头时会发生什么？可以想象，当它们开始了解并塑造我们的世界时，它们可能会完全理解自身创造行为所依据的背景，也可能会超越我们所知的世界。

我们面临着一场麦哲伦式的变革，这一次我们面临的不是驶出世界边缘的危险，而是面对超越人类理解极限的奥秘所带来的智力危机。

如果人类开始意识到，自己作为地球上最重要的智力和体力行为者的地位可能会被取代，一些人可能会赋予机器一种神性，从而有可能进一步激发人类的宿命论和屈从心理。另一些人则可能会采取相反的观点：一种以人类为中心的主观主义，彻底否定机器触及任何程度的客观真理的可能性，并试图取缔人工智能赋能的活动。

这两种思维方式都无法让“技术人”——一种在这个新时代可能与机器技术共生的人类物种——实现令人满意或建设性的进化。实上，这两种心态都可能阻碍我们这个物种的进化。

在第一种宿命论情境下，我们可能会走向灭绝。而在第二种拒绝主义的情境下，通过禁止人工智能的进一步发展并选择停滞不前，我们将有希望避免同样的灭绝命运——尽管考虑到我们人类面临的生存风险，包括当今的冲突频发外交局面和日益恶劣的大气条件，这种希望本身很可能落空。（来源：中信出版社）

基本信息

作者：亨利·基辛格（Henry Kissinger）

埃里克•施密特（Eric Schmidt）

克雷格·蒙迪（Craig Mundie）

译者：胡利平 风君

出版品牌：中信出版·方舟工作室

uid：9787521769432

页数：304

装帧：精装

定价：88.00元

内容概要

外交家基辛格、谷歌前CEO埃里克·施密特及微软前首席研究和战略官克雷格·蒙迪以前所未有的深度和广度，审视了人工智能领域的最新进展，直面人工智能带来的关乎人类生存的最为紧迫的问题：“如果被迫与机器妥协，我们的底线是什么？在判断如何跟上AI步伐时，人类需要更清楚地断言我们与机器的区别。如果不能就我们是谁达成一致，人类就有可能完全把定义我们价值、因此证明我们存在的生存任务交给机器。”

三位作者以高度战略性的眼光，从关系人类社会核心的发现、大脑、现实、政治、安全、繁荣、科学、战略这八个方面出发，探索人工智能将给人类带来的挑战，人类可能的应对方式，以及可行的应对思路，为人工智能时代如何捍卫人类价值提供了解决方案。

作者简介

亨利·基辛格（Henry Kissinger,1923-2023）

哈佛大学博士、教授，美国前国务卿；美国知名的外交家、国际问题专家。

1971年7月，基辛格作为尼克松总统秘密特使访华，为中美建交开启了大门，为中美关系做出了历史性贡献。他与毛泽东、周恩来、邓小平等中国领导人都有过深入的交往。1973年1月，基辛格在巴黎完成了结束越南战争的谈判，并因此获得诺贝尔和平奖。其主要著作有《论中国》《世界秩序》《人工智能时代与人类未来》《论领导力》等。

埃里克•施密特（Eric Schmidt）

谷歌前CEO、执行董事长，Alphabet公司（谷歌母公司）前执行董事长。在他的协助下，谷歌成长为科技行业的全球领航者。

克雷格·蒙迪（Craig Mundie）

微软前首席研究和战略官、蒙迪与伙伴公司的总裁。该公司为CEO提供由快速发展的信息技术引发的战略问题的咨询，如企业和技术战略、技术地缘政治、网络安全和研发管理。他还曾在克林顿、布什和奥巴马总统手下为国家安全电信咨询委员会服务。2009年，奥巴马总统任命他为科学技术顾问委员会成员。

目录

前言/尼尔·弗格森

序：缅怀基辛格博士

引言

第一部分 开端

第一章 发现

走进人工智能

博学之人

第三次大发现时代

第二章 大脑

速度

不透明度

多样性

尺度和分辨率

动物界

双重悖论

第三章 现实

人类的被动性

物质性

理性引擎

技术人

第二部分 四大分支

第四章 政治

历史之轮

传统政治

国王卷土重来

理智之治

普罗米修斯

上演新一幕

第五章 安全

刺探情报与破坏活动

管理突发事件

战争新模式

地缘政治的重构

和平与权力

第六章 繁荣

增长和包容性

流动性

全面丰裕

选择的特权

第七章 科学

药圃

地球工程

走出我们的星球

第三部分 生命之树

第八章 战略

共同进化：人造人类

共存：类人人工智能

一致性问题

定义人类

我们的挑战

结语

致谢

注释

来源：财经网