摘要：2024年12月6日，在瑞典斯德哥尔摩举行的诺贝尔周期间，对2024年诺贝尔物理学奖得主杰弗里·辛顿（Geoffrey Hinton）进行了采访。但采访内容于近日采访出，内容包括：

2024年12月6日，在瑞典斯德哥尔摩举行的诺贝尔周期间，对2024年诺贝尔物理学奖得主杰弗里·辛顿（Geoffrey Hinton）进行了采访。但采访内容于近日采访出，内容包括：

0:00 - 杰弗里·辛顿，2024年诺贝尔物理学奖得主

0:11 - 您最初是如何得知自己获得诺贝尔奖的？

2:23 - 在一个以著名研究人员为成员的家庭中成长，您感觉如何？

2:35 - 是什么让您对研究人工智能产生了兴趣？

3:13 - 人工智能带来的最大风险是什么？

9:04 - 在人工智能超越我们之前，我们还有多少时间？

9:37 - 成为一名科学家，最重要的个人品质是什么？

13:37 - 对于年轻的科研人员，您有什么建议？

14:21 - 科学家在社会中应承担哪些责任？

14:49 - 回顾您的职业生涯，您本可以做出哪些不同的选择？

15:38 - 对于这笔奖金，您有什么计划？

以下是Geoffrey Hinton在这次采访中分享的主要观点：

人工智能的风险主要可分为两类：短期风险和长期风险。
第一类短期风险，非常重要，也非常紧迫。主要是AI被滥用的风险，比如大规模取代工作，加剧贫富差距。因为人工智能提高了生产力，但收益却并不平等地分配——有些人因此失业，而另一些人变得更加富有。这对社会来说是个坏事，我们需要找到解决方案，尽管目前还不清楚该如何应对。
还有就是伪造视频、网络攻击（如AI增强的网络钓鱼），不法分子利用AI模型可以策划更有效的攻击。并且，AI可能被用于设计生物武器，如病毒，这会变得更容易，这意味着只需要一个疯狂的人，就可以引发巨大的混乱。而且，如果某些人公开大型模型的参数，有人可以对其进行微调，使得这种风险更加严重。我认为公开大型模型的参数是极其不明智的。
除此之外，AI训练数据可能带有歧视和偏见，但相比人类，AI的偏见可以被测量和调整。我认为我们的目标不应该是让人工智能完全没有歧视或偏见，而是让它比现有系统的歧视程度低得多，从而实现改进。
人工智能存在多种长期风险。首先，AI可能发展到比人类更智能，未来无法预测。即人工智能可能会接管人类社会。我们正在创造比自己更聪明的事物。研究人员对这一事件发生的时间有所分歧，但在顶尖研究者之间，几乎没有人怀疑它终将发生，除非我们自己先把世界毁掉。现在进行基础研究，探索如何控制比我们更聪明的东西，是非常有意义的。如果你环顾四周，你会发现总体上更聪明的事物并不会被不如它聪明的事物控制。
其次， 目前尚无可靠方法来确保比人类更聪明的AI仍能受控。AI发展类似于儿童学习，依赖示范和训练，而非传统编程。最后，当前AI训练数据包含大量负面内容（如连环杀手的日记），可能影响AI行为。
同时，在访谈中Geoffrey Hinton也做了几个预测。他认为，未来5-20年内，AI很可能超过人类智能。但当然他也并非完全悲观，他认为，重要的是坚持正确的想法，直到找到其错误之处，而非轻易放弃。
Geoffrey Hinton对人工智能监管的看法：科学家比政客或公众更理解AI，但科学界内部也有分歧。我们过去低估了AI的生存风险，现在应该更早思考如何控制AI发展。艾伦·图灵早在 1950 年代就预见到AI超越人类的风险，但人类往往在问题临近时才开始重视。

以下为视频内容中英文版文字：

来源：鲸维度