摘要：OpenAI 首席执行官萨姆·奥特曼 (Sam Altman) 最近在一次私人电话中告诉特朗普总统，这项技术将在他的任期结束前实现。OpenAI 主要竞争对手 Anthropic 的首席执行官达里奥·阿莫迪 (Dario Amodei) 多次告诉播客，这项技术
本文来源：科技世代千高原
作者：凯德·梅茨 (Cade Metz)
OpenAI 首席执行官萨姆·奥特曼 (Sam Altman) 最近在一次私人电话中告诉特朗普总统，这项技术将在他的任期结束前实现。OpenAI 主要竞争对手 Anthropic 的首席执行官达里奥·阿莫迪 (Dario Amodei) 多次告诉播客，这项技术甚至可能更早实现。科技亿万富翁埃隆·马斯克 (Elon Musk)也曾表示，这项技术可能在今年年底前实现。
与硅谷及其他地方的许多其他声音一样，这些高管预测通用人工智能（AGI）即将到来。自21世纪初，一群边缘研究人员将“AGI ”一词贴在一本书的封面上，这本书描述了他们希望有朝一日构建的自主计算机系统。自那时起，“AGI”就成了未来达到人类智能水平的技术的简称。AGI并没有固定的定义，只是一个令人着迷的概念：一种能够匹敌人类思维诸多能力的人工智能。阿尔特曼、阿莫迪和马斯克长期以来一直在追逐这一目标，谷歌和微软等公司的高管和研究人员也是如此。部分得益于他们对这一雄心勃勃的理念的热情追求，他们开发出的技术正在改变数亿人的研究、艺术创作和计算机编程方式。如今，这些技术有望改变整个行业的面貌。但自从OpenAI 的 ChatGPT 等聊天机器人问世，以及这些奇特而强大的系统在过去两年中不断改进以来，许多技术专家越来越大胆地预测 AGI 何时会到来。有些人甚至说，一旦他们实现了 AGI，一种名为“超级智能”的更强大的创造物就会随之而来。这些永远充满信心的声音预测着不远的未来，他们的推测正在超越现实。尽管他们的公司正在以惊人的速度推动这项技术的发展，但一群更加冷静的声音迅速驳斥了任何关于机器很快将匹敌人类智力的说法。“我们目前开发的技术不足以实现这一目标，”人工智能初创公司 Cohere 的创始人尼克·弗罗斯特 (Nick Frosst) 说道，他曾在谷歌担任研究员，并师从过去 50 年来最受尊敬的人工智能研究员。“我们现在开发的是能够接收单词并预测下一个最可能的单词，或者接收像素并预测下一个最可能的像素的东西。这与你我所做的截然不同。”美国人工智能促进会 (AIA) 近期开展的一项调查显示，超过四分之三的受访者表示，目前用于构建 AGI 技术的方法不太可能催生出 AGI。AIA是一个拥有 40 年历史的学术团体，其成员包括该领域一些最受尊敬的研究人员。观点分歧的部分原因在于，科学家们甚至无法就如何定义人类智能达成一致，围绕智商测试和其他基准的优缺点争论不休。将人类大脑与机器进行比较则更加主观。这意味着，如何定义通用人工智能（AGI）本质上是一个见仁见智的问题。（去年，在一场备受瞩目的诉讼中，马斯克的律师表示，通用人工智能已经存在，因为马斯克的主要竞争对手之一OpenAI已经与其主要资助者签署了一项合同，承诺不会销售基于AGI技术的产品。）
而且，科学家们还没有确凿的证据表明，当今的技术能够完成大脑所能做到的一些更简单的事情，比如识别讽刺或感受同理心。通用人工智能即将到来的说法是基于统计推断——以及一厢情愿的想法。
根据各种基准测试，当今的技术在一些重要领域（例如数学和计算机编程）正在持续改进。但这些测试仅描述了人类能力的一小部分。人类深谙如何应对混乱且瞬息万变的世界。机器却难以掌控那些意料之外的事情——无论大小，那些与过去截然不同的挑战。人类能够构思出前所未有的创意。机器通常能够重复或增强它们之前所见的事物。正因如此，弗罗斯特和其他怀疑论者认为，要让机器达到人类水平的智能，至少需要一个全球科技专家尚未想到的伟大构想。目前尚无定论，这需要多长时间。“一个系统在某一方面优于人类，并不一定在其他方面也更胜一筹，”哈佛大学认知科学家史蒂芬·平克（Steven Pinker）说道。“根本不存在一个能够自动解决所有问题的全知全能的机器，包括那些我们甚至还没想过的问题。人们很容易陷入一种神奇的思维模式。但这些系统并非奇迹。它们只是一些非常了不起的小玩意儿。”
“人工智能可以实现目标”
像 ChatGPT 这样的聊天机器人是由科学家所谓的神经网络驱动的，这是一种能够识别文本、图像和声音模式的数学系统。例如，通过从海量的维基百科文章、新闻报道和聊天记录中找出模式，这些系统可以学习自行生成类似人类的文本，例如诗歌和计算机程序。
这意味着这些系统的进步速度远超过去的计算机技术。在过去的几十年里，软件工程师们只能一行一行地编写代码来构建应用程序，这是一个循序渐进的过程，永远无法创造出像 ChatGPT 这样强大的东西。而由于神经网络能够从数据中学习，它们能够达到新的高度，并且能够快速达到。在见证了过去十年这些系统的改进之后，一些技术专家相信，进步将以同样的速度持续下去——达到 AGI 甚至更远。“所有这些趋势都表明，所有限制都在消失，”Anthropic 首席科学官 Jared Kaplan 表示。“人工智能与人类智能截然不同。人类学习新任务要容易得多。他们不需要像人工智能那样进行大量练习。但最终，通过更多的练习，人工智能可以达到这个水平。”在人工智能研究人员中，卡普兰博士因发表一篇开创性的学术论文而闻名，该论文描述了如今被称为“缩放定律”的理论。这些定律的本质是：人工智能系统分析的数据越多，其性能就越好。正如学生通过阅读更多书籍来学习更多知识一样，人工智能系统能够在文本中发现更多模式，并学会更准确地模仿人类的词语组合方式。
最近几个月，OpenAI 和 Anthropic 等公司几乎耗尽了互联网上所有的英文文本，这意味着他们需要一种新的方法来改进他们的聊天机器人。因此，他们更加依赖一种被科学家称为强化学习的技术。通过这个过程，系统可以通过反复试验来学习行为，这个过程可能持续数周甚至数月。例如，通过解决数千道数学题，它可以了解哪些技巧容易得出正确答案，哪些技巧则不会。
得益于这项技术，像卡普兰先生这样的研究人员相信，“缩放定律”（或类似的定律）将会延续下去。研究人员表示，随着这项技术在各个领域不断尝试和学习，它将追随 AlphaGo 的轨迹。AlphaGo 是由谷歌研究团队于 2016 年打造的。通过强化学习，AlphaGo 通过数百万场自对弈，掌握了围棋（一种与国际象棋类似的复杂中国棋盘游戏）的精髓。那年春天，它击败了世界顶尖棋手之一，震惊了人工智能界乃至全世界。大多数研究人员此前认为，人工智能还需要 10 年才能实现这一成就。AlphaGo 以人类从未尝试过的方式下棋，教会了顶尖棋手们应对这项古老游戏的全新战略方法。一些人相信，像 ChatGPT 这样的系统也能实现同样的飞跃，达到通用人工智能 (AGI) 的水平，进而成为超级智能。但像 AlphaGo 这样的游戏遵循着一套狭小而有限的规则。现实世界仅受物理定律的约束。对整个现实世界进行建模远远超出了当今机器的能力范围，那么，谁能确定通用人工智能（AGI）——更不用说超级智能——即将到来呢？人与机器之间的差距
无可争辩的是，如今的机器在某些方面已经超越了人脑，但这早已是事实。计算器进行基本数学运算的速度比人类更快。像 ChatGPT 这样的聊天机器人书写速度更快，而且在书写过程中，它们可以立即提取比人类大脑所能阅读或记忆的更多的文本。在一些涉及高级数学和编码的测试中，这些系统的表现甚至超过了人类。
但人类不能被简化到这些基准。“自然界中存在着多种类型的智能，”麻省理工学院计算认知科学教授乔希·特南鲍姆（Josh Tenenbaum）说道。一个明显的区别是，人类的智慧与物质世界息息相关。它超越了文字、数字、声音和图像，延伸到桌椅、炉灶、煎锅、建筑、汽车以及我们日常生活中接触到的一切。智慧的一部分就是知道何时翻动放在煎锅上的煎饼。一些公司已经开始以与其他公司训练聊天机器人大致相同的方式训练人形机器人。但这比构建 ChatGPT 更困难、更耗时，需要在实体实验室、仓库和家中进行大量的训练。机器人研究比聊天机器人研究落后多年。人与机器之间的差距甚至更大。无论是在物理领域还是数字领域，机器仍然难以匹敌人类智能中那些更难定义的部分。
构建聊天机器人的新方法——强化学习——在数学和计算机编程等领域效果良好，公司可以清晰地定义哪些行为是好是坏。数学问题有不可辩驳的答案。计算机程序必须编译并运行。但这项技术在创意写作、哲学或伦理学方面效果不佳。
奥特曼先生最近在X上撰文称，OpenAI训练了一个“擅长创意写作”的新系统。他补充说，这是我第一次“被人工智能写出的东西深深震撼”。写作是这些系统最擅长的。但“创意写作”很难衡量。它在不同情况下会呈现出不同的形式，并展现出一些难以解释、更难以量化的特征：真诚、幽默、诚实。当这些系统部署到世界上时，人类会告诉它们该做什么，并指导它们度过新奇、变化和不确定的时刻。“人工智能需要我们：我们这些不断生产、为机器提供能量的生物，”威尼斯卡福斯卡里大学科学哲学教授马泰奥·帕斯奎内利说道。“它需要我们思想和生活的独创性。”惊险奇幻
无论科技行业内外，通用人工智能（AGI）的到来都令人兴奋不已。人类对创造人工智能的梦想可以追溯到12世纪出现的傀儡神话。玛丽·雪莱的《弗兰肯斯坦》和斯坦利·库布里克的《2001：太空漫游》等作品都源于这种幻想。
如今，我们许多人都在使用能够像我们一样书写甚至说话的计算机系统，因此我们很自然地认为智能机器即将到来。这是我们几个世纪以来一直期盼的。
20世纪50年代末，一群学者创立了人工智能领域，他们确信很快就能制造出能够模拟人脑的计算机。一些人认为，十年之内，机器就能击败世界象棋冠军，并发现它自己的数学定理。但这一切并没有在那个时间段内发生。有些至今仍未实现。当今科技领域的许多开发者都认为自己正在实现某种科技宿命，推动着某个不可避免的科学时刻，就像火的发明或原子弹的诞生一样。但他们却无法给出一个科学理由来证明这一时刻即将到来。正因如此，许多其他科学家认为，如果没有新想法，就不可能实现通用人工智能——某种超越仅仅在数据中寻找模式的强大神经网络的东西。这种新想法可能明天就会出现。但即便如此，业界也需要数年时间来开发它。Meta 首席人工智能科学家 Yann LeCun 自从 9 岁时在巴黎一家电影院观看了 70 毫米宽银幕全景电影《2001：太空漫游》以来，就一直梦想着构建我们现在所说的通用人工智能 (AGI)。他也是2018 年三位因在神经网络领域早期研究而获得图灵奖（被认为是计算机界的诺贝尔奖）的先驱之一。但他并不认为通用人工智能 (AGI) 的到来遥不可及。在 Meta，他的研究实验室正在探索令科技行业着迷的神经网络之外的领域。LeCun 先生和他的同事们正在寻找缺失的理念。“下一代架构能否在未来 10 年内实现人类级别的人工智能，这至关重要，”他说道。“或许不能。目前我们还无法确定。”
凯德·梅茨 (Cade Metz)是《纽约时报》记者，撰写有关人工智能、无人驾驶汽车、机器
Why We’re Unlikely to Get Artificial General Intelligence Anytime Soon
The titans of the tech industry say artificial intelligence will soon match the powers of humans’ brains. Are they underestimating us?
来源：人工智能学家
免责声明：本站系转载，并不代表本网赞同其观点和对其真实性负责。如涉及作品内容、版权和其它问题，请在30日内与本站联系，我们将在第一时间删除内容!
