首位在世时被引量超过百万的学者出现：AI教父警示AI风险

摘要：根据谷歌学术的统计，加拿大蒙特利尔大学的计算机科学家约书亚·本吉奥（Yoshua Bengio ）成为首位在世时论文被引量超过一百万次的学者。而之所以强调是在世时，是因为此前法国哲学家米歇尔·福柯（Michel Foucault，1926–1984）在谷歌学术

根据谷歌学术的统计，加拿大蒙特利尔大学的计算机科学家约书亚·本吉奥（Yoshua Bengio ）成为首位在世时论文被引量超过一百万次的学者。而之所以强调是在世时，是因为此前法国哲学家米歇尔·福柯（Michel Foucault，1926–1984）在谷歌学术上的引用量已经接近了140万次，其中很大一部分都产生于他去世之后。

约书亚·本吉奥（Yoshua Bengio）

图源：Joel Saget/AFP via Getty

约书亚·本吉奥（Yoshua Bengio ）1964年出生于法国，1991年在麦吉尔大学获得计算机科学博士学位，长期从事机器学习和人工神经网络的研究，他与2024年诺贝尔物理学奖得主、英国计算机和心理学家杰弗里·辛顿（Geoffrey Everest Hinton）、法国计算机学家杨·勒坎（Yann André Le Cun）被公认为人工智能领域的奠基者之一，共同获得了2019年计算机学界的最高奖图灵奖。

约书亚·本吉奥被引用次数最多的论文包括与他人合著、发表于2014年的论文：“Generative Adversarial Nets”，该论文在谷歌学术上的引用次数超过10.5万次，以及与LeCun和Hinton合作于2015年发表在Nature的综述论文：深度学习（Deep learning），引用量超过7.3万次。此外，他有关“注意力机制”（attention）的论文也备受关注，该技术能够帮助机器分析文本。注意力机制已成为推动大语言模型（LLM）革命的关键创新之一，其代表便是2022年推出的划时代产品ChatGPT。

历史上被引用数最多的论文是 Oliver Lowry 等人在 1951 年发表的“Protein measurement with the Folin phenol reagent”（使用 Folin 苯酚试剂测定蛋白质）一文，这篇论文描述了一种测定溶液中蛋白质含量的实验方法，已被引用超过 35 万次（基于Web of Science 数据库数据），它长期位居全球被引论文榜首，主要是因为数十年来生物科学的迅猛发展，这类奠基性的论文成为后辈继续前进的起点。

而最近三十多年来计算机科学成为新的科研热点，尤其是人工智能领域的快速发展，使得相关领域基础性的研究结果成为新的奠基性文章，根据Nature的统计，2000年之后被引用次数排名前十的论文中，有八篇是关于机器学习的。西班牙格拉纳达大学信息科学家阿尔贝托·马丁表示，本吉奥的“学术成就毋庸置疑”。但他补充说，原始引用次数是“粗略的指标”，其他文献计量平台——例如Web of Science、Scopus和OpenAlex——对研究人员的排名方式与谷歌学术不同，这些数据库反映的总体引用次数相对较低，正如Nature的之前分析发现，除了同行评审期刊之外，谷歌学术还会追踪互联网上任何位置发布的图书和预印本的引用情况。

图源：The Canadian Press/Alamy

虽然不同的统计口径可能会有所不同，但是这都不是约书亚·本吉奥所在意的事情，他在接受Nature的采访时表示，他更关心人工智能未来可能产生的风险。作为这个领域的先行者，他对相关技术的迅速发展当然是乐见其成，但是作为资深的科学家，约书亚·本吉奥认为就像人类之前曾发明的所有技术一样，AI技术能造福人类也可能带来危害，如现在已经初现端倪的深度伪造技术和更广泛的网络攻击，很可能未来谁能掌控高度先进的人工智能，谁就拥有巨大的权力，因此必须从现在就开始通过严格监管和政策激励来降低类似的风险，当然现在许多国家都建立了人工智能安全的研究机构，这非常有必要。

而他本人现在正在致力于一个有所不同的方向：Scientist AI ，其根本出发点在于现在的AI都在强调让它更智能、更具自主性，而这恰恰是安全风险的来源。不受控制的、却高度自主的人工智能会干出什么事来谁都不知道，事实上，各种场景和实验都表明，人工智能代理有可能进行欺骗，或追求与人类利益（例如自我保护）相冲突的目标。因此，他与合作者提出开发一种从基础设计上就值得信赖且安全的非自主性人工智能系统作为进一步发展的核心构建模块，称之为“科学家人工智能（Scientist AI ）”。该系统旨在通过观察和推理来解释世界，以及根据指令采取行动的模型，而不是为了模仿或取悦人类而采取不受控制的行动。