摘要：最近图灵奖得主理查德・萨顿在播客里放了个大招，说数字智能早晚要接管人类文明，还列了四重理由，听得人后背有点凉，但细想又觉得不全是瞎扯。

最近图灵奖得主理查德・萨顿在播客里放了个大招，说数字智能早晚要接管人类文明，还列了四重理由，听得人后背有点凉，但细想又觉得不全是瞎扯。

这位可是强化学习的奠基人，AlphaGo能下赢围棋，背后就有他的理论基础，说话还是有分量的。

现在正好是OpenAI、谷歌DeepMind这些巨头抢着搞通用AI的时候，联合国还开了AI安全峰会，吵着怎么管AI。

萨顿这时候抛出这个观点，不是凑热闹，是真给大家提了个醒：咱们得好好想想，AI到底会往哪走。

萨顿第一个理由就戳中了人类的软肋：咱们协调不了。

他说“没有哪个组织能统一安排世界怎么转，大家对规则根本没共识”。

这话放AI领域太对了，你看美国想靠AI保持技术领先，对高端芯片管得严；中国强调AI要安全可控，不能出乱子；欧盟又揪着伦理不放，搞了一堆条条框框。

去年联合国AI安全峰会，中美连个基本的管控协议都没谈成，各说各的，这样下去根本管不住AI的发展方向。

第二个理由更实在：科学早晚能把“智能是咋回事”弄明白。

你想啊，以前咱们觉得机器不可能懂语言，结果GPT系列能写论文、聊家常；以前觉得蛋白质折叠预测得花好几年，AlphaFold一下就搞定了。

这些年AI的进步，不就是一步步把“智能黑箱”拆开看吗？萨顿说“研究人员最终会弄清楚”，我觉得这话没毛病，科学这东西就怕较真，只要一直研究，总有搞懂的那天。

第三个理由更敢说：AI不会停在人类水平，肯定会变成超级智能。

现在AI已经在不少地方比人强了，下围棋、识别图片就不说了，连设计新药、优化产业链都比人快。

而且电脑的算力还在指数增长，算法也越改越好，等哪天AI能像人一样啥都会（就是大家说的通用AI），再往上进化成“超级智能”，也就是时间问题。

最后一个理由最扎心：谁聪明谁就有权力。

人类历史上，懂知识、有技术的人或国家，从来都是占优势的。

现在掌握先进AI的公司，能帮着搞科研、提效率；有AI的国家，经济和军事都更厉害。

要是AI真成了“最聪明的存在”，按这个规律，资源和权力肯定会慢慢跑到它手里。

萨顿也没把话说死，他承认“结果可能好也可能坏”，不是说人类只能等着被取代。

而且现在看，AI也不是万能的，去年谷歌DeepMind出的GeminiPro，处理复杂的因果推理题，准确率还没人类高；咱们也没闲着，G7集团去年成立了AI安全工作组，想让成员国一起评估风险、共享数据，虽然没把中美拉进来，但至少在尝试协调，不是坐以待毙。

现在学界和产业界吵翻了天。

马斯克觉得萨顿说得对，还说“得赶紧搞AI，不然被别人抢先了更危险”；比尔・盖茨就比较谨慎，说“萨顿低估了人类的协调能力”，微软还投了几十亿搞AI安全技术，怕AI失控。

最实际的是OpenAI，去年弄了个“AI价值对齐系统”，教AI按人类的规矩办事，比如让AI分配医疗资源，人类满意度还挺高。

说实话，我觉得萨顿的预言不是要吓我们，是想提醒大家：别光顾着夸AI厉害，也得想想怎么管、怎么教。

AI就像个聪明的孩子，要是不教它规矩，再聪明也可能闯祸；但要是教得好，它就能帮人类干好多难事，比如治大病、搞环保。

现在的关键不是“AI会不会取代人类”，而是“人类能不能驾驭AI”。

只要我们能统一共识，把该有的规矩立好，再把人类的价值观教给AI，就算它变成超级智能，也不会是敌人，而是帮手。

萨顿的话像个警钟，敲醒我们别瞎忙活，得把精力放在“怎么和AI好好相处”上，毕竟未来是好是坏，还得看咱们现在怎么选。

来源：云娱云己