摘要：人工智能很性感，人工智能很酷。人工智能加剧了不平等，颠覆了就业市场，破坏了教育。人工智能是主题公园的游乐设施，人工智能是魔术表演。人工智能是我们最后的发明，人工智能是道德义务。人工智能是十年来的流行语，人工智能是1955年的营销术语。 人工智能像人类，人工智能

Chapter 1：

互联网上的谩骂、辱骂，以及其他不那么小气却能改变世界的分歧

人工智能很性感，人工智能很酷。人工智能加剧了不平等，颠覆了就业市场，破坏了教育。人工智能是主题公园的游乐设施，人工智能是魔术表演。人工智能是我们最后的发明，人工智能是道德义务。人工智能是十年来的流行语，人工智能是1955年的营销术语。 人工智能像人类，人工智能是外星人。人工智能是超级智能，也是呆若木鸡。人工智能热潮将推动经济发展，人工智能泡沫即将破灭。人工智能将增加财富，让人类在宇宙中最大限度地繁衍生息。人工智能将杀死我们所有人。

大家到底在说什么？

人工智能是当代最热门的技术。但它到底是什么？这听起来是个愚蠢的问题，但却是一个前所未有的紧迫问题。这里有一个简短的答案：人工智能是一系列技术的总称，这些技术可以让计算机完成人们认为需要智能才能完成的事情。想想识别人脸、理解语言、驾驶汽车、书写句子、回答问题、创建图片。但即使是这个定义也包含了许多方面。

这就是问题所在。机器理解语言或书写句子意味着什么？我们可以要求这样的机器完成哪些任务？我们应该在多大程度上相信机器能完成这些任务？

随着这项技术从原型转化为产品的速度越来越快，这些已经成为我们每个人的疑问。但是（剧透）我没有答案。我甚至无法告诉你什么是人工智能。制作它的人也不知道什么是人工智能。其实不然。"旧金山人工智能实验室Anthropic的首席科学家克里斯-奥拉（Chris Olah）说："这些问题足够重要，每个人都觉得自己可以发表意见。"我也认为，你可以尽情地争论这个问题，现在没有任何证据能反驳你。"

但如果你愿意系上安全带，来兜兜风，我可以告诉你为什么没有人真正知道，为什么每个人似乎都不同意，以及为什么你关心它是正确的。

让我们从一个随便的笑话开始。

早在2022年，"神秘人工智能炒作剧场3000"（Mystery AI HypeTheater 3000）的第一集播到一半时，他们提出了一个荒唐的建议。 他们恨恨地朗读了谷歌工程副总裁布莱斯-阿圭拉-伊-阿卡斯（Blaise Agüera y Arcas）在 Medium 上发表的一篇长达 12500 字的文章，题为 "机器能学会如何做人吗？Agüera y Arcas 提出的理由是，人工智能能够以某种类似于人类理解概念的方式理解概念--比如道德价值观。简而言之，就是 "让机器学会如何行为"、也许可以教机器做人。

人工智能

汉娜和本德对此不以为然。他们决定用 "mathy math "来代替 "AI''"--你知道，就是很多很多的数学。

这个不敬的短语意在消除他们所认为的句子中的夸夸其谈和拟人化。很快，社会学家兼分布式人工智能研究所研究主任汉娜和华盛顿大学计算语言学家本德（网络上著名的科技行业炒作批评家）就在阿圭拉和本德之间划开了一道鸿沟。

艾米麗-本德

y Arcas 想说的话与他们选择听到的方式之间存在着鸿沟。

"Agüera y Arcas问道："人工智能、其创造者和使用者应该如何承担道德责任？

"她说："这里有一个分类错误。汉娜和本德不仅拒绝阿圭拉-伊-阿卡斯的话，他们还声称这毫无意义。"班德说："我们能不能不要再用'人工智能'或'人工智能'，好像它们是世界上的个体一样？班德说。

亚历克斯-汉娜

听起来好像他们说的是两码事，其实不然。双方都在谈论大型语言模型，这是当前人工智能热潮背后的技术。

今年5月，OpenAI首席执行官山姆-阿尔特曼（Sam Altman）在推特上预告了公司旗舰模型GPT-4的最新更新，他说："对我来说，感觉就像变魔术一样。"

数学和魔法之间有很多相似之处。

人工智能有拥护者，他们对这项技术目前的力量和未来不可避免的改进抱有信仰般的信念。他们说，人工通用智能就在眼前：超级智能就在身后。它也有异端，他们把这种说法斥之为神秘的胡言乱语。

形成这种流行说法的是从桑德尔-皮查伊（Sundar Pichai）和萨提亚-纳德拉（Satya Nadella）这样的大牌科技营销人员，到埃隆-马斯克（Elon Musk）和奥特曼（Altman）这样的行业精英，再到杰伊-辛顿（Geoffrey Hinton）这样的知名计算机科学家。 有时，这些助推者和预言家是同一种人，他们告诉我们，技术好得要命。

"马库斯在谈到这场争论时说："现在这场争论在智力上并不健康。多年来，马库斯一直在指出深度学习的缺陷和局限性，这项技术将人工智能推向了主流，为从 LLM 到图像识别再到自动驾驶汽车的一切提供了动力。他在 2001年出版的《代数心智》（The Algebraic Mind）一书中指出，神经网络作为深度学习的基础，本身并不具备推理能力。(我们暂时跳过这一点，但我稍后会再来讨论，我们会看到 "推理 "这样的词在这样的句子中到底有多重要）。

马库斯说，他曾试图让亨顿就大型语言模型到底有多好的问题进行适当的辩论，亨顿去年曾公开表示对他帮助发明的技术存在恐惧。"马库斯说："他就是不愿意。"他说我是个笨蛋。(过去我曾与辛顿谈论过马库斯，我可以证实这一点。"ChatGPT 显然比他更了解神经网络，"辛顿去年对我说。）马库斯还曾写过一篇题为 "深度学习正在碰壁 "的文章，引起了人们的愤怒。阿尔特曼在推特上对此做出了回应："给我一个平庸的深度学习怀疑论者的自信"。

与此同时，敲锣打鼓也让马库斯成为了一个人的品牌，去年他还受邀坐在奥特曼旁边，在美国参议院人工智能监督委员会作证。

这就是为什么这些争吵比一般的网络谩骂更重要的原因。当然，这关系到巨大的自尊和巨额的金钱。但更重要的是，当国家首脑和立法者召集行业领袖和有主见的科学家解释这项技术是什么、它能做什么（以及我们应该有多害怕）时，这些争议就显得尤为重要。当这项技术被植入我们日常使用的软件中时，从搜索引擎到文字处理应用程序，再到手机上的助手，这些争论都很重要。人工智能不会消失。但是，如果我们不知道自己被卖了什么，谁又是受骗者呢？

斯蒂芬-凯夫（Stephen Cave）和坎塔-迪哈尔（Kanta Dihal）在《想象人工智能》（Imagining AI）一书中写道："很难想象历史上还有另一种技术可以引发这样的争论--关于它是无处不在，还是无处不在的争论。"这本2023年出版的论文集讲述了不同的文化信仰如何塑造人们对人工智能的看法。"能够对人工智能持有这样的看法，证明了它的神话色彩"。

最重要的是，人工智能是一种理念--一种由世界观和科幻小说以及数学和计算机科学共同塑造的理想。 当我们谈论人工智能时，弄清我们在谈论什么将澄清许多事情。我们不会在这些问题上达成一致，但在人工智能是什么的问题上达成共识，将是我们开始讨论人工智能应该是什么的一个很好的起点。

内容来源：MIT Technology Review（机翻）

未完待续.......

来源：黎曼的猜想