摘要：在12月27日举行的Radio 4节目上，获2024年诺贝尔物理学奖的杰弗里·辛顿（Geoffrey Hinton)教授表示，人工智能导致人类灭绝的可能性在“未来三十年内为10%到20%”。

被誉为“AI 教父”的英国-加拿大计算机科学家缩短了人工智能在未来三十年内消灭人类的可能性，警告称技术变革的步伐“比预期快得多”。

在12月27日举行的Radio 4节目上，获2024年诺贝尔物理学奖的杰弗里·辛顿（Geoffrey Hinton)教授表示，人工智能导致人类灭绝的可能性在“未来三十年内为10%到20%”。

此前，辛顿曾表示，技术引发对人类灾难性结果的可能性为10%，如今则提升了对潜在AI末日的分析。他说：“并没有，10%到20%。”辛顿回答说：“如果有的话。你看，我们以前从未处理过比我们自己更智能的事物。”

他补充说：“你知道有多少例子是更智能的事物被不那么智能的事物控制吗？例子很少。有母亲和婴儿。进化为了让婴儿控制母亲付出了很多努力，但那是我知道的唯一例子。”

出生于伦敦的辛顿是多伦多大学的名誉教授，他说与高度强大的AI系统相比，人类就像幼儿。

他说：“我喜欢这样想：想象你自己和一个三岁小孩。我们就是那个三岁小孩。”

事实上，AI 可以被宽泛地定义为执行通常需要人类智能的计算机系统。去年，辛顿因辞职谷歌的工作而成为头条新闻，以便更公开地谈论不受限制的AI发展所带来的风险，他担心“坏人”会利用这项技术伤害他人。AI安全倡导者的一个主要担忧是，创建人工通用智能，或比人类更聪明的系统，可能导致技术通过逃避人类控制而构成生存威胁。

回顾他开始这项技术工作时对AI发展的看法，辛顿说：“我不认为我们会在现在的位置。我以为在未来的某个时候我们会到达这里。”

他补充说：“因为现在的情况是，该领域的大多数专家认为，可能在未来20年内，我们会开发出比人类更聪明的AI。这是一个非常可怕的想法。”

辛顿表示，AI 发展的步伐“非常非常快，比我预期的要快”，并呼吁社会对 AI 技术进行治理。

他说：“我的担忧是，无形的手不会让我们安全。所以，仅仅依赖大公司的盈利动机是不足以确保它们安全地开发它的。唯一能迫使这些大公司进行更多安全研究的就是监管。”

辛顿是三位获得图灵奖的“人工智能之父”之一，然而，同样获得图灵奖的Meta首席AI科学家杨立昆（Yann LeCun）已经淡化了生存威胁，并表示AI“实际上可以从灭绝中拯救人类”。但辛顿警告说，“坏人”可能会利用AI造成伤害。

回顾AI发展的快速进展，辛顿预测AI系统可能在未来20年内比人类更聪明的担忧，称这是一个“非常可怕的想法”。

来源：科技新鲜汇Tech