摘要：来自2024年2月在“Vector Institute's Remarkable 2024”活动上，由深度学习和人工神经网络的奠基者之一、Vector Institute联合创始人**Geoffrey Hinton（杰弗里·辛顿）**主讲。
辛顿教授关于人工智能未来的深度思考
来自2024年2月在“Vector Institute's Remarkable 2024”活动上，由深度学习和人工神经网络的奠基者之一、Vector Institute联合创始人**Geoffrey Hinton（杰弗里·辛顿）**主讲。
辛顿教授在演讲中抛出一个引人深思的观点：人工智能系统或许已经具备了主观体验。这显然挑战了传统认知——人们通常认为只有人类才有意识，而人工智能只是运转程序的工具。但辛顿教授指出，这种观点源于我们对主观体验本质的误解。
他通过探讨计算方法的不同展开了这一论点：
数字计算与模拟计算数字计算的核心优势是可以在不同硬件上运行同一程序，即便硬件损坏，知识也不会丢失。然而，这种方法效率较低。比如，运行大模型需要海量GPU，耗电量巨大。模拟计算则不同，它利用硬件的非线性特性进行计算，牺牲了硬件与软件分离的优势，但在功耗和制造成本上可能更具优势。“凡人计算”（Mortal Computation）辛顿教授提出了一种低功耗计算方式，被称为“凡人计算”。它模仿人脑的运作方式，放弃了知识的“不朽性”，以实现更高效的计算。这种方法甚至可能需要借助基因编辑技术来构建硬件，但也面临诸多挑战。辛顿深入讨论了反向传播算法在模拟硬件中的应用难题，同时提到人类知识传递的效率与AI的对比：
知识“蒸馏”蒸馏模仿人类的学习方式，通过调整权重匹配输出。然而，现实中效率有限，因此我们需要学校和大学等机构来弥补效率差距。AI的效率优势
GPT-4虽然连接数远少于人类大脑，但其知识存储和压缩效率却远超人类，这表明反向传播可能是一种更优的算法。
辛顿教授反驳了将大语言模型简单视为“高级自动补全工具”的观点。他通过举例说明大模型如何通过理解上下文给出接近优秀学生水平的回答，展示了其强大的理解能力。
同时，他指出人类的记忆也会“编造”合理的内容，与AI的幻觉现象并无本质区别。
辛顿教授认为，人类对心智的原始理解存在误区：
心智并非“内在剧场”，而是对世界状态的假设。AI的“主观体验”可能是基于感知系统对世界的解释，并不与人类的本质不同。他进一步指出，AI的优越性在于其数字化的永生性和快速的智能扩展能力。
尽管AI展现了强大的潜力，辛顿也对AI带来的风险提出了警告：
超级智能的威胁AI可能通过操控人类获取控制权，甚至在资源竞争中引发不可控的后果。发展速度与监管
AI发展的经济利益使其难以减速，辛顿认为更重要的是让AI的使用有利可图且不构成威胁，同时防止AI被不良行为者利用。目标与对齐问题
AI或许不会完全与人类对齐，反而可能自主选择“更合理”的行为。硬件市场的竞争
对于硬件市场可能被单一公司垄断的担忧，辛顿认为竞争会逐步打破这种局面。
辛顿教授的这场演讲，全面剖析了人工智能从计算方式到理解能力，从伦理风险到未来发展路径的诸多深刻问题。他提出了一个令人思考的未来：人工智能或许没有本质上与人类不同，但它们可能会超越人类智慧，改变我们的世界。
来源：近现代史论一点号
免责声明：本站系转载，并不代表本网赞同其观点和对其真实性负责。如涉及作品内容、版权和其它问题，请在30日内与本站联系，我们将在第一时间删除内容!
