“我们被要求认可的交易”——作为技术贿赂的人工智能

B站影视 韩国电影 2025-05-27 06:28 1

摘要:在很长一段时间里,对人工智能的主流反应是一种兴奋的赞赏态度,但最近几个月,这种态度开始发生转变。当然,一直以来都有一些人公开批评人工智能,人工智能的讨论也早已带有焦虑的底色——但近来,对人工智能保持怀疑,甚至是明确的敌意,似乎越来越被人接受。简单来说,不久前,

有什么变了,至少在公众讨论人工智能的方式上。

在很长一段时间里,对人工智能的主流反应是一种兴奋的赞赏态度,但最近几个月,这种态度开始发生转变。当然,一直以来都有一些人公开批评人工智能,人工智能的讨论也早已带有焦虑的底色——但近来,对人工智能保持怀疑,甚至是明确的敌意,似乎越来越被人接受。简单来说,不久前,如果你敢批评 Chat-GPT 或 AI 生成图像,你很可能会被扣上“技术落后分子”的帽子;但如今,如果你批评 Chat-GPT 或 AI 生成图像,别人反而会同情地点头。

这种转变很难用某个具体事件来解释。可能是最初围绕某些面向大众的人工智能产品的炒作已经退潮,因此人们开始以更冷静的视角来看待它们。也可能是,正如前一点所说,人们对现实中真正存在的人工智能产品感到失望,于是对那些吹捧下一代人工智能产品的人越来越不信任。也可能是,一些研究(比如微软最近的一项研究,指出人工智能会让人类的认知“退化并变得毫无准备”)或关于人工智能对环境影响的诸多报道,开始真正发挥作用。还有可能是,人们对社交媒体平台上铺天盖地、质量低劣的人工智能生成图片(不论是静态的还是动态的)感到厌倦。

虽然以上几种解释都合情合理,但似乎更有说服力的解释是:围绕人工智能公司的政治氛围(也就是围绕人工智能的政治氛围)发生了变化。尽管技术领域的活动家和学者早就指出“技术是政治的”,但对许多人来说,没有什么比看到人工智能高管和代表人物兴奋地站队特朗普政府更能让这个观点显得清晰明了了。虽然从人工智能诞生之初开始,就有批判者认为它是威权主义的帮凶——但每当埃隆·马斯克宣布 DOGE 正在清除一个政府机构并以 AI 取而代之时,这种观点就显得格外真实。这里与“科技反弹”第一次兴起时的情形有一些值得注意的相似之处——那是在特朗普第一次当选期间,许多人开始反对像 Facebook 和 Google 这样的公司,因为它们被认为在特朗普当选中起了作用——而如今,这一轮新的“科技反弹”矛头不再指向社交媒体公司和平台,而是指向人工智能公司和人工智能本身。

需要明确的是,不管人们对人工智能感到厌恶的具体原因是什么,这种转变都是值得欢迎的。不过,人们背后这种新生怀疑态度的真正动机,也将在很大程度上决定这种反对情绪能否真正严肃和持久。

与此同时,还有另一个值得注意的转变正在发生。这可以从人们如何回应日益增长的反人工智能情绪中看出——而这种回应既出现在日常对话中,也出现在网络空间的讨论中。

它通常是这样展开的:一个人表达了“人工智能很糟糕”之类的观点(通常是针对某条新闻标题或某张 AI 生成的图像)。接着,另一个人反驳说,生成式人工智能可能很糟,或者这一个具体的例子很糟,或者这家公司很糟,但人工智能也被用于重要的医学研究,所以不能一概而论地说“人工智能很糟”。于是对话变成你来我往,前者要么澄清自己说的是“生成式人工智能很糟”,要么坚持自己的观点——如果是前者,人工智能的支持者就成功地削弱了“人工智能很糟”这个批评;如果是后者,人工智能的支持者则会继续反击,说 AI 有着美好的潜力(即使他们也承认生成式 AI 很糟),从而让“人工智能很糟”的那个人看起来顽固到连 AI 的正面潜力都看不见。

这种讨论看上去像是一场真正的辩论或严肃的讨论,但实际上完全不是。拿“但 AI 在医学研究中有应用”这件事来回应,几乎从来不是为了认真探讨是否应该在某些领域允许使用 AI 而在其他领域禁止使用它,它更多的是一种巧妙的方式,目的在于压制批评。它打着“我们在探讨 AI 的优点”的幌子,实际上是为了堵死真正辩论的可能性。因为“但 AI 在医学研究中有应用”最终往往会简化为一种说法:“为了让 AI 在那个领域取得成功,我们必须继续建设其他所有这些 AI 系统,因为那些创新最终会反哺医学研究中的 AI”(等等诸如此类的说法)。

这里的重点并不是要直接反驳“人工智能用于医学研究”的论点,或是其他试图通过区分“人工智能的正面潜力”与“看这段 AI 做的雕像跳舞视频”来为人工智能辩护的手法。重点在于,当围绕人工智能的舆论开始转变、当人工智能的支持者开始转入守势时,我们必须明白那些“但人工智能的正面潜力怎么办!?!?”的说法到底在发挥什么作用。

我们应该把这些说法看作是思想家刘易斯·芒福德(Lewis Mumford)曾称之为“宏伟的贿赂”的最新变体。

宏伟的贿赂

为什么这么多人似乎如此不愿意承认大型技术系统本身所蕴含的危险?

这是一个长期以来困扰着社会批评者、活动家和学者的问题,也是他们至今仍在思考的问题。这个问题常常伴随着一种几乎“抱头痛苦”的无奈情绪:为什么这么多人就是看不到事情的真相?这种问题通常还隐含着一种感觉,即许多人根本没有真正理解正在发生什么。这也是一个贯穿二十世纪思想家刘易斯·芒福德(Lewis Mumford)整个丰厚著作的问题——他常用“巨技术”(megatechnics)或“巨型机器”(the megamachine)作为简称,指代那些在二十世纪不断壮大、逐渐掌控人类社会的大型技术系统。在思考这个问题时,芒福德并不认为大多数人是无可救药的傻瓜,或是需要被唤醒的愚民;相反,他认为人们之所以会接受这些,是因为他们“被收买了”。

换句话说,用芒福德自己的话说:他们被贿赂了。

芒福德在其代表作《机器神话》第二卷《权力五角大楼》(The Pentagon of Power)中是这样解释这个概念的:

“如果不太仔细地审视这份巨技术的贿赂,它看起来像是一笔慷慨的交易。只要消费者愿意接受巨技术所提供的东西,并且这些接受的数量有利于整个权力系统的持续扩张,那么他将获得富裕社会的一切附加福利、特权、诱惑和享乐。只要他不再要求任何那些无法由巨技术组织或制造的商品或服务,他无疑将享受到比任何以往社会都更高的物质文化生活水平——至少是某种特定类型的物质文化。”(第330/331页)

在上述引用中,关键词是“提供”(offers)这个词。虽然芒福德明确主张“巨技术”本质上是威权主义的,但他同样清楚地指出,这种威权主义在可能的情况下,并不依赖赤裸裸的暴力来获得同意(或顺从),而是试图通过其他手段来达成目的。因此,“巨技术”用来不断推进“整个权力系统扩张”的关键手段,并不是压迫人们,而是向人们提供看似“慷慨的交易”。换句话说:不是威胁你“靴子踩在人脸上”,也不是以“你可以成为穿靴子的那个人”为诱饵的法西斯许诺,而是承诺你能定期获得一连串闪闪发亮的新玩意儿。“巨技术”或“整个权力系统”并不声称要让每个人获得真正平等的份额,但它至少愿意许诺:你能分到一杯羹。

有些学者批评芒福德,认为他的话语中隐含着技术决定论的倾向——也就是简单地认为机器推动历史,或技术已成一种自主力量——但芒福德提出“技术贿赂”的概念,实际上并非源于他相信技术决定论,而是因为他意识到:“技术决定论”本身就是巨技术话语中最具说服力的工具之一。技术决定论的核心观念之一,是某些技术以及所谓的“技术进步”是不可避免的;而芒福德所批判的,是社会普遍接受这种“不可避免性”的态度。正因为人们倾向于接受这种“不可避免”的想法,贿赂才得以奏效:它利用这种心理,通过许诺分享“富裕社会的快乐”来换取人们的顺从。因此,技术权力系统的进一步增长,就不再只是“看起来不可避免”,而是“看起来令人向往”。(第331页)而这里“令人向往”这个词,尤为关键。

毕竟,一个无法激起欲望的“贿赂”,是不太可能奏效的。回到我们一开始的问题,所谓“贿赂”,在某种程度上意味着:它之所以存在,是为了让某人对某些问题视而不见、做出不利于自身利益的决定,或默许某项更大的计划。虽然芒福德是“巨技术权力系统”的不懈批判者,但这并不是因为他浪漫化的“技术恐惧症”,而是出于他带有无政府主义色彩的权力批判。巨技术的扩张过程中确实会向普通人分发一些“副产品”——也就是扩张过程中所产生的边角料——但它从不真正分享“权力”本身;权力始终被集中在巨技术手中,集中在芒福德所说的“巨技术的祭司”那一小撮人手中。

在阐述“贿赂”时,芒福德指出,把注意力放在某一件件具体的小玩意上、讨论其利弊,其实是条死胡同——这种评估最终会回到“为权力系统辩护”的逻辑上。他甚至强调说:“理性之人所质疑的,并非这些机械或电子产品本身”(第334页),但沉溺于某种具体“产品”的讨论,只会让人偏离真正的问题,即:“一个不断忽视人类需求、也在需求未被满足时缺乏任何敏感修正机制的系统,是如何持续不断地制造这些产品的。”

这一“贿赂”概念最完整的发展出现在芒福德1970年的著作中。尽管这本书已有五十余年历史,但“计算机”在芒福德的理论中(以及他整体批评中)始终占据特殊位置。诚然,1970年的计算机与2025年的计算机外形迥异,但芒福德显然早已预见到计算机的权力和影响只会不断扩大(并且通过他与约瑟夫·魏岑鲍姆的友谊,芒福德也显然了解人工智能领域的发展)。在评论这场贿赂时,芒福德指出,许多人并不认为它是一种“可怕的牺牲”,而是“极具吸引力的满足”,他补充说,这些人“期盼着自己能像现在背着收音机边走路边听广播那样,未来也能时时刻刻连上‘大脑’。”(第331页)这里的“大脑”,正是对“计算机”的代称(芒福德经常这样称呼计算机,而在当时,人们也普遍将计算机称作“大脑”)。当然,这里对未来的更重要预示,不仅在于芒福德提到“计算机”,还在于他对未来“人类将被持续连接”的深刻预感;他提到“便携式晶体管收音机”,其实已经预示了计算设备未来将变得“便携”

对芒福德来说,问题并不在于批评贿赂中分发的那些产品是低端的消费垃圾,而在于指出:这些东西之所以有价值,是因为它们确实蕴含了技术权力的一小部分。但这种微不足道的“权力份额”,远远无法与整个技术系统正在不断聚拢的庞大力量相提并论。虽然这种安排表面上看起来是“慷慨的交易”(第330页),但芒福德明确指出了其深远的后果:

“一旦某个国家的大多数人选择了巨技术,或哪怕只是被动地接受这个系统而不再追问,那么将不再有其他选择。”(第332页)

而这,也正好引出了我们今天关于人工智能的讨论。

“但人工智能不是还能用于……”

我们并不难找到那些对人工智能极力辩护、拒绝一切批评的人。然而,在当前围绕人工智能的讨论中,似乎一点点批评开始变得可以接受了——只要这些批评没有真正触及对人工智能的根本敌意。这种变化,与最初“科技反弹”(techlash)时期的转变很相似:那时人们开始可以公开批评社交媒体的某些方面(比如“Facebook 很糟糕”),只要你别把矛头指向计算技术本身。因此,如前所述,现在你可以很轻松地说你不喜欢生成式人工智能、不信任 Sam Altman,甚至觉得 ChatGPT 正在对整整一代学生造成不良影响……只要你不说出“人工智能是不可挽救的”这种话。因为一旦你表达了后者的立场,就会有人站出来,用一种无奈的语气告诉你:他们理解你不喜欢生成式人工智能,但你怎么能反对所有人工智能呢?毕竟人工智能在医学领域还有那么大的前景。

而在那一刻,你必须清醒地认识到:你正在被贿赂。而那个人,很可能已经收下了这份贿赂。

正如芒福德所指出的,这确实看起来像是一份“慷慨的交易”。毕竟,这正是它的全部意图所在!这种许诺看起来确实非常诱人——因为它宣称能改善你和他人的生活。而任何曾经经历过健康困境的人,或是有亲人遭遇过健康困境的人,都能理解某种医疗突破所承载的希望与诱惑。但这些许诺的真正目的,并不是为了真正缓解你的痛苦,而是为了让你在现在保持顺从:只要你接受当前的发展方向,那未来某个未定的时刻,这些好处就会“流向你”。

这类说法很少是以“人工智能应该只用于某些特定领域(如医疗)”的理性讨论形式出现的,更多时候,它是通过强调人工智能在一个微小特定领域的“益处”,来掩盖人工智能在其他方向上所正在造成的种种问题。换句话说,当有人说“是的,生成式 AI 可能有问题,但人工智能还能用于某个好事”,他们其实是在试图用一些假设性的未来承诺来收买你对现实危害的合理担忧。

人工智能贿赂之所以有效,是因为它是一个“老贿赂”的最新变体:计算机贿赂。芒福德曾写过,那些人“盼望着自己能不断地连接到‘大脑’”,而到了2025年,不可否认,我们中的许多人确实已经处于这种‘不断连接’的状态。而且,说实话,我们自己也清楚,如今若想参与现代世界的日常生活,几乎很难做到不“被连接”。这是不是意味着我们毫无受益?当然不是!我们确实从计算设备中获得了丰富的娱乐、资讯、效率工具和沟通手段。但正如芒福德所强调的,那些好处其实是以更大的代价换来的:我们被时刻监控、被系统性地追踪;权力和财富日益集中在少数人手中;技术系统不断排除一切替代方案,成为军事扩张的重要工具;信息的海洋变成了谎言和垃圾的泛滥;这个系统再也不问“人类真正需要什么”,只在乎它自己是否还能继续扩张。到今天这个阶段,没人需要假装我们没有从技术中获得一些好处,但我们也不该再天真地以为,我们就是这些好处的真正受益者

因此,关键问题不再是“人工智能会不会推动医疗进步”,而是:**谁会真正享受到这些进步的成果?又是哪些人和机构会因此变得更强大?**而当人们大谈“人工智能将改善医疗”时,我们也应借此机会反问:**如果我们真的这么重视医疗进步,为什么把所有资源都投入那些遥不可及的高科技方案,而不是现在就改善医疗可及性?**今天许多医疗问题,并非因为缺乏人工智能突破,而是因为现有的资源分配体系本身就不公平。如果我们真在意医疗,为什么不把砸给人工智能的数十亿美元投入医疗服务?为什么不用这些钱,补上那些像 NIH(美国国立卫生研究院)正在被砍掉的关键预算?当然,一提这些,很多人就会说政治太复杂,而这正是“贿赂”带来的另一个诱惑:它承诺可以让我们摆脱政治。也因此,它也承诺让我们摆脱责任。

贿赂不要求你努力、不要求你抗争、不要求你组织、不要求你思考——它只要求你同意。 因此,尽管最显眼的贿赂是那些实实在在的设备与平台,但在更微妙的层面上,贿赂提供的是一种承诺:只要你接受它,这些技术就会替你解决一切问题。(第331页)这可能比任何设备更具吸引力:你不必再思考某个问题该怎么解决,你只需要耐心等待,并相信它必将被解决——到那时,你也会享受到“涓滴而下”的好处。在这个科学和医疗研究正遭遇政治性削减的时刻,我们更该意识到,“AI 有助于医学研究”这类说法,是一种用来让人忽视现实政治、转向安逸幻想的方式:仿佛不管现在的研究多么受限,未来的 AI 都会帮我们补上。

然而,尽管这一切听起来令人沮丧,恰恰是因为这种贿赂在当前被如此卖力地推进,才让我们看到了一丝希望。如果这个技术系统真的确信自己的“不可避免性”,它根本不需要靠贿赂来说服我们。如今,当人们对 AI 提出批评时,AI 的支持者回应的往往是“那 AI 还可以做[某件好事]呀”——这正说明他们开始被迫处于防守位置。他们越来越发现,自己无法为现实中的 AI 进行有效辩护,于是只能退回那一套“先贬低现在,再许诺未来”的老套路。芒福德指出,在面对贿赂时,最大的“罪”,就是“没有按照指令行事”(第331页)以及“自制与选择”(第332页)——而这些,恰恰是 AI 的鼓吹者最无法忍受的反应。因为一旦你拒绝被贿赂吸引,你不仅拒绝了这份贿赂本身,你还犯下了他们最无法原谅的“罪行”——质疑贿赂的价值。贿赂依赖于被视为“慷慨的交易”,而当人们被迫意识到自己不过是被廉价收买时(哪怕只是潜意识),他们的愤怒就会爆发。

我们对人工智能的公共讨论,正在发生转变。如今,说“人工智能很糟”更容易获得认同,而不是翻白眼的回应。如今,对人工智能的批评不再会被迅速扣上“反技术”的帽子,而更常被焦虑地回应为:“那人工智能还可以做[某件好事]呀!”但当你面对这样的反驳时,请清醒地看清这类说法的本质:它们是一次次想要否定现实危害、转移注意力的防御性手势,是拿未来的空头承诺来压制你对现实的清醒批判。

当有人问你:“那人工智能还能用于[某件好事]呢?”
重要的不是告诉他们你不信这些话,
而是告诉他们:你不愿被这些话收买。

来源:范德彪3

相关推荐