摘要：我在岁末听了2024几位诺贝尔奖得主的一场思想座谈会，主要议题是人工智能的发展与风险，物理获得主，人工智能教父辛顿教授在采访中率先发言说GPT4这类语言机器的知识储备已超过任何个体的人类，如人类大脑的连接点有一百万个；而这种机器已有1万亿个连接。因此我们人类面

安全岛报人刘亚东A

图源：pixabay

我在岁末听了2024几位诺贝尔奖得主的一场思想座谈会，主要议题是人工智能的发展与风险，物理获得主，人工智能教父辛顿教授在采访中率先发言说GPT4这类语言机器的知识储备已超过任何个体的人类，如人类大脑的连接点有一百万个；而这种机器已有1万亿个连接。因此我们人类面临着潜在的长、短期风险， 短期是人工智能将被不良行为所利用，如虚假信息，网络犯罪，军方开发致命的自主武器等；长期风险如生成式人工智能一旦在某个时刻产生了自主学习和决策目标的能力，或将以人类为目标等。 为防止其趋势，呼吁国际层面上的合作，研究其安全问题。为此，几位诺贝尔获奖者们均强调人类自身并不完美，呼吁强化科学与哲学的互补，提升公众对科学的信任，伦理学或在人工智能时代将成为最重要的一门学科，其中哲学家的作用不可缺失。

这两年里，我也一直在关注和阅读这一领域的文章，但尚未得到关于人工智能的进化对人类社会意味着什么的观察，以及它将带来特殊威胁的系统答案。但不可思议的是这几天被畅销书《人类简史》的作者尤瓦尔·赫拉利（Yuval Noah Harari）在2024年9月出版的，并被译成多种文字全球 “热”销的《Nexus》彻底‘黏’牢了。或许是职业的使然，我几乎也饶有兴致地翻看着一书三地、不同文种、不同出版社几乎同时出版的3个版本， 详见三个版本的封面（下图）信息：

原版书名: 《Nexue—A brief History of Information Netwroks from the Stone Age to AI》 由美国企鹅兰登出版商（Penguin Random House）于 2024年9月10日出版；作者尤瓦尔·赫拉利（Yuval Noah Harari）于1976年出生于以色列海法，2002年在牛津大学取得博士学位，目前是耶路撒冷希伯來大学历史系讲师，也是剑桥大学风险研究中心（CSER）特聘研究员。

●中文简译书名为《智人之上： 从石器时代到AI时代的信息网络简史》 由中信出版集团于2024年9月1日出版；译者 林俊宏

●中文繁体译书名为：《連接》従石器時代到AI紀元；由2024年9月10日遠見天下文化出版股份有限公司出版；译者林俊宏

有趣的是该书的中文简、繁体的译者同为台湾师范大学翻译研究所的林俊宏博士。他也是赫拉利的忠实粉丝， 翻译了赫拉利的几部热著， 如《人類大歷史》、《人類大命運》、《 21世紀的 21堂課》、以及《人類大歷史：知識漫畫》與《少年讀人類的故 事》几套叢書。

史上最大的一场信息革命

赫拉利不仅是畅销书的作家，也是历史学家与哲学家。

赫拉利在本书研究的一个关键点是，信息至少需要两点之间的联系，因此，信息在本质上被组织成连接的网络，一些网络变得越大，越占主导地位，最终导致了机器智能和人工智能的发展。赫拉利与我们一样，对此既敬畏又害怕。故而他写本书的初衷是围绕着历史上最大的一场信息革命，即生成式人工智能展开，用意是希望人们要理解这场革命，必须与过去的信息革命做比较。而历史研究的真正要点也并非单纯看 “过去”，而是看“变化”。历史能告诉我们什么是不变的、什么是变的，以及事物是如何变化的。这不仅与信息革命相关，也与其他类型的历史变革都息息相关。

依照赫拉利的提示，我粗读地读了几个版本后，略感作者有两条写作脉络：一是以历史视角佐证每一次新信息技术的发明总能促成重大的历史变革，因为信息最重要的作用就是编织网络，而非呈现既有现实。从石器时代到《圣经》，从欧洲的猎巫行动、现代的斯大林主义、纳粹主义，以及今天民粹主义复苏等，可以启发读者在历史教训中思考信息与真相、官僚与神话、智慧与权力间的复杂关系均与信息网络脱不了干系；二是为人类将与机器一起“进化”描绘了一条探索之路，换句话说，通过了解人工智能是如何工作的物理原理，人们可以开发出有益的应用，避免出现反乌托邦的未来。也如作者简言之：‘写这本书的目的是希望为人工智能革命提供一个比较准确的历史观。’

我自知欠缺把控全书要点的能力，但略有收获的是我捕捉到作者从人工智能论及科学出版的一些观点，如我在全书搜索到15处谈及同行评审的期刊，若用Journal一词搜索英文原版，那就更多了。更有意思的是这两天我还从美国学术出版学会的学术厨房中看到了2位行业大佬将此书评为“本年度最新最好的图书，并极尽所能地捧《Nexue》是一本了不起的综合著作，对从事学术交流的人来说更是一本非常重要的基础著作。”[1]

我仔细品味了一位美国同行的评论，他说本书的“故事”理论很有说服力。顺此我很快囫囵吞枣地看了第3章，赫拉利的确提出了一个独到观点， 即人类创造的第一个信息技术就是故事（the first information technology developed by humans, is the story）， 并佐证很多国家最早都出现在诗人的想象之中。为了验证他的理论，我特地查溯了公元前25世纪埃及金字塔的铭文；中国先秦时代的《诗经》；西亚美索不达米亚的《吉尔伽美什史诗》；梵语文学中的《吠陀》；荷马史诗，包括《伊利亚特》和《奥德赛》等等。不禁被作者的故事理论惊讶到人类分享故事信息有一种遗传优势，不仅利于交流，也助于人类进步，还帮助人类从家庭、部落和物种层面取得成功，让人类成为地球上最先进、最具统治力的物种。

赫拉利顺次探索了从写作到出版，再到互联网的技术是如何加速了人类交流故事的能力。然后他在故事和事实之间话锋一转，迅速指出一个重要的区别，即事实远不如故事那么有影响力，如我们人类能处理事实，但我们更能被很多故事所驱动。如一个人可以记住整部《古兰经》、整部《圣经》、数千页的《伊利亚特》，但一般不能记住会计报告或人口普查中的几页表格，这本质上是信息处理的过程，于是一种非生物的信息技术，即书面文件，到平板电脑的标记，后来发展成为电脑领域，计算机比人类在数百万、数十亿、数万亿个数据点中追踪和计算发现模式成功演化为现实。这也是他提出故事理论的哲学要点，即人类常常被故事所驱动，这反映出我们人类的内在特征，如此类推，故事及我们传达故事的方式对我们的生活比事实更有吸引力。

接着，赫拉利将信息结构转移到人工智能新世界，他认为与印刷等先前的信息技术不同，生成式人工智能不仅是人类交流的被动工具，也将成为系统中的全面参与者。以前，将一个文档连接到另一个文档的唯一方法是通过人工进行管理。如今机器能够创造内容，吸收内容，并对其做出反应。然后，他将这一观点扩展到对政治与社会讨论的范畴，这对媒体、治理和更广泛的社会潜在影响是令人着迷的。

赫拉利特别指出，本书所关注的不是人工智能系统的积极潜力，因为已有许多支持者在关注人工智能系统对生产力提高的好处。国际同业人认为本书对探索学术信息发布和人类理解新领域至关重要，如作者提到诸多挑战的一个例子是，在公共对话的生态系统中，故事的力量有能力克服理性和寻求事实的探索，就如今天，当我们看到世界各地的公众对科学探索真理的信任度下降时，这个问题尤为突出。随之而来，人工智能系统创造了看似合理但缺乏事实依据的内容与能力，或将传为故事而产生更广泛重大影响，所以说事实与故事始终相伴而行，真不是非黑即白能说的清的。

美国同行又说“在一个以机器为媒介的内容时代，反思《Nexus》中的信息框架如何影响STM学术出版区，让我们看到了几个相互联系的线索。学术出版与其他领域的区别在于它基于科学方法追求事实记录。学术出版探索和传播新思想，就像科学本身一样，寻求建立在一种内在的自

来源：报人刘亚东