摘要:人工智能的快速发展使其能够将人、机器、物体等各种事物紧密联结,形成万物互联的社会形态,扮演愈发关键的媒介角色。但各国如何理解、塑造和治理人工智能的媒介应用还有待分析。本研究采取话语网络分析法,以中美欧的人工智能治理政策为研究对象,从协同治理体制的结构和权能配置
本刊官方网站:
摘要
人工智能的快速发展使其能够将人、机器、物体等各种事物紧密联结,形成万物互联的社会形态,扮演愈发关键的媒介角色。但各国如何理解、塑造和治理人工智能的媒介应用还有待分析。本研究采取话语网络分析法,以中美欧的人工智能治理政策为研究对象,从协同治理体制的结构和权能配置两个方面分别提炼人工智能社会技术想象的想象内容、主体关系及建构逻辑。研究发现:各国治理目标和治理主体均存在一定差异,面临不同的话语封闭问题。这也说明人工智能协同治理是一种主观的政治决策。为了避免人工智能的社会技术想象因话语封闭而陷入科林格里奇困境,本文认为,我国可以通过观察他国的治理体制,在立足自身国情的基础上,丰富人工智能社会技术想象的内容、促进想象主体的多元化。
作者简介
李卫东,华中科技大学新闻与信息传播学院教授。
陈昶洁,华中科技大学新闻与信息传播学院博士研究生。
贾瑞雪,武汉大学新闻与传播学院讲师。
基金项目
本研究由国家社会科学基金重大项目“健全互联网领导和管理体制研究”(批准号:22ZDA078)资助。
一
引言
近年来,以大模型为代表的人工智能技术,将人类社会带入到万物互联的新传播图景中。一方面,人工智能可以搜集和使用人、时空、机器、环境等多模态的数据信息,显著提升人类社会的信息生产效率(李卫东,2020;Bilquise,Ibrahim & Shaalan,2022)。另一方面,人工智能也可以提供沉浸式、针对性的传播方式,增强人类的认知水平(Teubner et al.,2023)。这意味着,人工智能的媒介属性及媒介作用愈发凸显。
学者肖恩·奥·修克鲁(Sean O Siochru)和布鲁斯·吉拉德(Bruce Girard)提出“媒介治理”的概念,认为媒介治理是对媒介进行系统化管理、监督和控制的过程,能维护社会稳定、保护公众利益、促进媒介发展,也是适应数字化时代的必要举措(Siochru,Girard & Mahan,2002),需要政府、企业、社会组织和公众的共同参与(Birkstedt et al.,2023)。然而,人工智能治理面临先验经验不足、技术理解困难、监管资源有限等困境(金永生,张昕,师胜男,2022;Koniakou,2023)。各国虽都已认同并陆续提出人工智能协同治理的理念,但大多还停留在国家战略的宏观层面(陈凤仙,连雨璐,王娜,2024),对治理目标和主体的诠释尚显不足(Van Noordt,Medaglia & Tangi,2023)。这导致各国关于人工智能应该如何设计、如何应用、如何管理的问题产生了不同的想象。这些想象是否契合公众的期待、能否给予人工智能治理有效的指导还有待验证。
为了应对人工智能治理的重大需求,本研究系统搜集中国、美国及欧洲联盟政府颁布的人工智能治理政策,通过话语网络分析,从结构体制和权能配置体制两个方面总结不同国家关于人工智能社会技术想象的想象内容、想象主体及想象建构逻辑,梳理它们各自存在的话语封闭问题。在此基础上,尝试通过跨国比较,提出我国人工智能社会技术想象的优化策略。
二 文献综述与研究问题
(一)社会技术想象的概念与内涵
社会想象是人们想象社会存在的方式,涵盖与他人的相处模式、社会运行机制、发展预期,及其背后深层的规范和意象(Taylor,2003)。“社会技术想象”概念建立在人们日益认识到“想象”是一种重要意识形态资源的观点之上。学者Sheila Jasanoff和Sang-Hyun Kim(2009)最早提出这一概念,认为社会技术想象及据此制定的政策,不仅会影响技术设计、公共支出分配,甚至能够决定公民能否享受该技术进步带来的利益。
有学者对“社会技术想象”进行概念溯源与涵义辨析,认为“社会技术想象”必须满足四个条件:集体持有、经共同社会实践确认、未来取向和排他性竞争(陈秋心,2024)。也就是说,只有通过公然的权力行使,使公众获得牵引、愿意接受,才能将想象上升到集体层面,称之为社会技术想象(Tidwell,J.H.,& Tidwell,A.S.D.,2018)。
政策能在持续的社会实践中得到公众的确认和认可,阐明什么是好的、可取的和值得实现的技术愿景,可以被理解为“社会技术想象”的具象化。“社会技术想象”也可以被理解为对未来社会和技术发展的前瞻性预测,是由权力建立、实施并加以制度化的国家战略或政策文本所体现的价值观(Mager & Katzenbach,2021),能够为政策制定提供思路和方向。因此,社会技术想象与技术治理体制是理念与实践、抽象与具体的关系(Jasanoff & Kim,2015:33)。
(二)社会技术想象的权力规训与话语封闭
作为一种集体愿景,社会技术想象可以帮助政策制定者和利益相关者更好地理解技术的社会意义,确保政策及其治理体制符合社会公众的期望和基本需求(Hoff,2023)。在制定技术的规范标准时,社会技术想象可以提供思想基础或理论指导(Kao,2024)。
但社会技术想象并不总是发挥积极的指导作用。想象作为一种认知资源,是权力争夺的对象,且通常是隐蔽、无意识的,甚至是可被操纵和形塑的。社会技术想象的想象主体并不局限于政府,也可以是企业、社会组织、公众(Vicente & Dias-Trindade,2021)。这意味着在同一技术的想象的竞逐中,那些由强大机构支持的愿景往往能够轻易取得突出地位,而少数群体的认知往往会被现有的权力结构所束缚,并体现为无条件的认同。这不仅会窄化技术应用的视野和探索创新的可能性,还可能引发对技术应用的误解或不当操作(Ruppert,2019)。
Annette Markham(2021)将“某些观点、话题因权力结构、社会规范、话语霸权等社会因素而无法进入主流讨论范围”的现象称为话语封闭。权力机构通过操控社会技术想象,塑造“正常”和“异常”的界限,能够在无形中规训社会公众。这不仅能达到社会控制和维护权力的目的(Markham,2021),还可能引发立法滞后、过度监管、伦理和社会价值考量不足等治理问题(周媛,张晓君,2023;Cath,2018),对其他国家的治理体制造成影响。因为当一个国家在某些技术领域占主导地位时,就可能迫使其他国家不得不适应自己提出的技术规范标准,顺从其提出的社会技术想象及想象的建构逻辑(Leonardi & Jackson,2004)。
因此,社会技术想象的分析适用于那些已经存在政策框架但执行效果不明确、需要进一步阐明治理效果的情况。社会技术想象要能够反映社会多元群体的需求和愿景、预测技术发展趋势,为建构相关的治理体制提供理论指导。
(三)人工智能的社会技术想象
伴随人工智能与人类社会生活、生产行为的深度融合,其媒介作用愈发凸显(李卫东,2018:41-45;Almeida,Mendes & Doneda,2023)。为了最大限度地保障国家安全和公共利益,也为了维护人工智能研发的创新活力,通过社会技术想象反思人工智能治理体制变得愈发重要。
有研究通过解析微信公众平台中多元话语行动者对ChatGPT的想象发现,人工智能的社会技术想象承载着智能时代人们对现实的不满、未来的期待及弱抵抗的自我表达(高鑫鹏,李娜,2023)。有研究通过对25位ChatGPT用户和非用户的深度访谈发现,普通人往往因其外行身份和缺乏紧跟技术潮流的意识,日益丧失对技术想象的参与度和获得感(谭小荷,2023)。也有研究通过分析奥地利官方媒体对人工智能的报道发现:奥地利对人工智能的社会技术想象主要集中在政治影响力、社会舆论、数据资源保护几个方面,互联网平台是这些想象的主要提出者。这种想象将人工智能的风险和责任归咎于技术本身,边缘化了其他参与者的需求、责任与义务(Saurwein,Brantner & Möck,2023)。
但是当前人工智能社会技术想象的研究存在两个方面的局限:一方面,研究对象或研究方法的限制导致社会技术想象无法被准确呈现。社会技术想象必须是集体讨论和决策的结果,并且经过实践检验(喻国明,苏芳,金丽萍,2024)。换言之,访谈关键参与者、问卷调查、媒体报道的内容分析可能只能展现特定用户群体的技术想象,而无法呈现社会的整体愿景和目标(Rudek,2022)。另一方面,鲜有研究对人工智能的社会技术想象进行跨国比较。尽管跨国比较需要大量的数据分析,但多维度的比较研究更有利于揭示社会技术想象背后的权力分配逻辑,验证其是否存在话语封闭问题并提出应对策略(Sovacool & Hess,2017)。目前,有研究搜集了中国、美国、法国和德国的政策,比较了他们对人工智能社会技术想象的差异。但研究结果仅表明,这些国家之间存在巨大的文化、政治和经济差异(Bareis & Katzenbach,2022)。关于人工智能社会技术想象背后话语封闭的探讨还不够充分。
对此,本文提出研究问题:当前主要国家对人工智能的社会技术想象有什么差异?这些想象竞争背后的权力分配是否都存在话语封闭的问题?我国应该如何优化人工智能的社会技术想象?
三 研究设计与操作流程
为了分析人工智能的社会技术想象,本研究系统搜集了中美欧政府颁布的人工智能治理政策。这是因为,中美欧在人工智能的研发、应用和治理等方面处于国际领先的地位(王达,2020)。通过分析这些主要国家对人工智能的社会技术想象,有助于明确其协同治理的理念,评估其协同治理的效果。本研究的流程包括以下三个步骤。
(一)政策来源及预处理
在政策收集阶段,本研究选择在北大法宝、Congress、EUR-Lex等公开数据库进行政策检索。这些数据库都具有政策覆盖面广泛、政策来源明确、文本信息完整的特点,能够确保研究结论的可靠性。
为了尽可能全面地搜集政策,本研究根据既有研究梳理的人工智能要素及主要产物,提出政策检索所需的关键词(李白杨等,2023;徐继敏,2023)。包括:“人工智能artificial intelligence”“算法algorithm”“算力computing power”“深度合成deep synthesis”“芯片Chip”“大数据Big Data”。使用这些关键词在上述网站进行标题检索,保留政策文本的全部字段。随后,去除重复的政策文本,初步得到中国44部、美国91部、欧盟22部政策文本。
为确保政策样本的有效性,删除仅标题提及“人工智能”或相关技术以及缺乏具体的治理标准的文本,最后得到研究样本,中国9部、美国58部、欧盟9部政策文本。
(二)政策编码及信效度检验
政策编码方面,本文在“治理主体”和“治理目标”两个维度制定编码规则,并选用主轴编码来建构政策样本的两种话语网络(曹玲静,张志强,2022)。这是因为开放编码难以展现话语元素之间的内在联系和整体结构,选择编码可能会损耗政策分析的全面性和深入性,而主轴编码有助于构建一个完整、连贯的话语网络,避免遗漏重要信息。
其中,政策目标网络是以治理目标为网络节点,以共同政策为边加以构建的网络,能够反映协同治理的目标和目标结构,揭示人工智能的社会技术想象。政策主体网络是以治理主体为网络节点,以共同政策为边加以构建的网络,能够反映协同治理的主体和主体关系,揭示人工智能社会技术想象的主体及主体关系。
编码过程方面,以政策文本的段落为最小分析单元,通过NVivo20提取原始语句中与治理主体和治理目标相关的内容,形成开放编码。对内容不明确的段落采用人工回溯全文的方法再次判断,保证每个段落的分析标准不变(赵一方,王铮,裴雷,2020)。
信度检验方面,由两位编码员分别对样本政策独立编码。中美欧开放编码的一致性分别为91.18%、93.75%、93.65%。不一致的编码将被集中探讨,最终达成共识。效度检验方面,编码前随机抽取出20%的政策文本留作事后检验。若没有出现新的概念或范畴,证明开放编码已达到理论饱和。经统计,中美欧政策样本中分别提取315、403、330个开放编码(包括治理主体和治理目标)。随后,将表达意义相近的编码进行合并,分别得到55、93、62个主轴编码,用于构建政策话语网络。最后,基于文献综述以及主轴编码的比较分析,得到13、15、14个概念类属,即选择编码,用于分析各国人工智能的社会技术想象及想象主体关系。
(三)话语网络分析
本研究采用话语网络分析法,揭示人工智能社会技术想象的想象内容、想象主体及建构逻辑。话语网络分析是一种结合了内容分析和社会网络分析的综合性研究方法(李智超,刘少丹,2022),能以系统和可量化的方式,揭示政策文本中隐含的治理结构、协作关系、话语条件等信息(宫贺,2016)。分析的内容包括以下两个方面。
其一,分析中美欧人工智能协同治理的结构体制,提炼人工智能社会技术想象的想象内容及想象主体。协同治理的结构体制可以被理解为,多种治理主体、治理目标通过制度化方式形成的相互协作与制约的互动模式(蒋国宏,宋超,2021:59-60)。分析目标网络的节点类型和节点的特征向量中心度,能梳理治理目标及目标结构。分析主体网络的网络密度、节点平均距离、节点类型及节点的特征向量中心度,能洞察治理主体及主体关系。这是因为特征向量中心度不仅考虑了节点自身的连接数,还考虑了其连接节点的连接数,能准确反映治理目标及治理主体的“影响力”。而网络密度、节点平均距离、节点类型指标,能够在识别出核心治理主体的基础上,进一步揭示它们的协同程度。
其二,分析中美欧人工智能协同治理的权能配置体制,阐释其想象建构逻辑。权能配置体制是指一个国家或组织中权力的分配和运行机制(向静林,艾云,2023),能够反映每一个治理主体的权力、职能和责任(徐晓林,周立新,2004)。本研究基于治理目标和治理主体的选择编码,统计两者出现在同一政策文本段落中的频次并以表格形式呈现。通过权能配置体制的类别占比分析及跨类别对比分析,能识别协同治理过程中的核心权力主体、边缘权力主体及其各自对应的管理内容,揭示各国权能配置体制中存在的权力冲突、权力失衡、权力垄断等话语封闭现象(郭渐强,袁光,2016),为打破我国人工智能社会技术想象的桎梏和局限提供新思路。
四 人工智能社会技术想象的
想象内容及想象主体
鉴于技术治理政策的内容往往与社会技术想象相一致(Smallman,2020),本研究分别分析了政策样本的目标网络和主体网络,提炼中美欧各自的人工智能社会技术想象及想象主体关系。
(一)结构体制中的社会技术想象内容
通过分析治理目标的主轴编码发现:虽然中美欧人工智能协同治理的目标存在部分差异,但这些主轴编码能够形成较为一致的选择编码。这说明中美欧对人工智能的社会技术想象大致相同,但又各有侧重。为了剖析这些想象的具体差异,需要结合节点的类型和特征向量中心度进行更细致的阐述。
1.治理目标及目标结构分析
本文认为人工智能协同治理的目标结构由“鲁棒性、可解释性、伦理规范、隐私保护、责任规划、创新发展、产品与应用规范、组织管理”的8个治理目标类型构成。
有学者通过调研访谈、系统性文献综述,总结了人工智能治理的目标结构,认为人工智能的有效治理必须验证其鲁棒性、可解释性、伦理规范性、隐私保护的基本能力,并且在面对研发、运营、使用等不同场景时,应该制定清晰的责任分配机制(Ashok et al.,2022;Li et al.,2023)。
同时,本研究补充了“产品与应用规范、组织管理、创新发展”作为选择编码,作为人工智能协同治理的治理目标。这是因为:各国在制定政策时,都考虑到不同专业领域下媒介产品的应用规范、不同管理组织间的协作机制。同时,为保障人工智能媒介应用的创新发展能力,各国也都制定了相应的激励政策。
表1截取了目标网络中特征向量中心度较高的节点,用于分析中美欧各自的治理偏向。中国的目标网络中,中心度较高的节点主要类属于“责任分配”和“伦理规范”,说明中国将治理重点放在人工智能的社会伦理规范及其责任主体上。美国的目标网络中,中心度较高的节点主要类属于“责任分配”和“组织管理”,说明美国遵循协同治理的理念,将治理重点放在不同组织的权能配置上。欧盟的目标网络中,中心度较高的节点较为均衡地涉及“隐私保护”“创新发展”“责任分配”等多个治理目标类型,说明欧盟的治理结构最为均衡,具有较强的稳定性。
2.人工智能社会技术想象的想象内容
基于治理目标类型的梳理可知:中美欧对人工智能的想象基本达成共识,认为人工智能应该是一个能促进社会生产效率和文化演进的有力工具。人们期望它既强大又可控;既遵循现有的伦理规范又被鼓励在实际应用中能够不断创新;在面对各种复杂和不确定的环境时,依然能保障用户的各项权益,守护社会的安全和价值观。
然而,在这种相对一致的想象框架下,中美欧对人工智能的社会技术想象也会因为各自的治理偏向而产生细微的差异。中国认为,人工智能应该是一种可以在既定责任框架内运作,又具有创新发展潜力的公共媒介。人工智能既具备屏蔽信息、过度推荐、操纵榜单或检索结果排序等干预信息呈现的功能,又表现出精准、高效的知识生产能力(张涛,余丽,2022)。为了防止其变成垄断资源、控制用户认知的工具,中国率先在网络新闻、网络舆论等信息传播领域提出特定的伦理规范。同时,政策中明确要求企业平台发挥主观能动性、为用户提供通畅的举报渠道(陈鹏,2019)。这说明中国期望将人工智能打造成服务整体社会的公共媒介。但现有政策中,关于人工智能创新应用的内容较为模糊,缺少具体的奖励标准,显示出中国对如何深化人工智能多场景应用模式的想象还缺乏引导。
美国认为,人工智能既是一种高危的现代化武器,也是企业争相追逐的专利资产,具有显著的创新价值和商业价值。美国最先在国家安全领域提出人工智能的应用规范标准(Taddeo,McCutcheon & Floridi,2019)。在他们看来,人工智能可用于支持核武器、化学武器或生物武器的开发、生产或使用,并显著增强这些武器的破坏力,必须在国防安全领域建立严格的研发、应用及产品进出口的规范标准。然而,也有一部分观点认为,市场具备一定的自治和调节能力(Roski et al.,2021),政府不应过度干预人工智能的治理,以免扼杀技术创新和市场的自然发展。因此,部分政策中明确限制了政府的监管范围,强调不同企业、研究机构和政府部门之间的沟通机制,还明确指出技术创新可获得的行政便利和财政支持。
欧盟认为,人工智能应该是一种在尊重和保护个人隐私的基础上,推动技术和社会创新发展的智能系统。欧盟在治理过程中,非常注重人工智能的安全性和可靠性。一方面,在政策中对人工智能企业运营资质提出了一定的考核标准(Fassiaux,2023),期望通过提高行业准入门槛的方式,保障行业自治的有效性。另一方面,欧盟不仅推出了与人工智能研发相关的行政便利措施,还规定企业应定期向员工提供培训和学习的机会。其目的是提升企业员工的专业素养和技能,以确保他们能够安全稳妥地设计、研发、操作和管理人工智能的相关应用。但欧盟目前仅提出人工智能服务的通用性治理标准,缺少适用于专业场景的治理条例,说明欧盟对人工智能的理解和想象更多是理论性和框架性的,缺少实际操作和应用层面的想象(Niet,Van Est & Veraart,2021)。
(二)结构体制中的社会技术想象主体
通过分析治理主体的主轴编码发现:中美欧人工智能协同治理的主体无法形成一致的选择编码。这说明不论是治理主体的类型还是结构,中美欧都存在较大的差异。这种差异会进一步表现在社会技术想象主体及主体关系上。
1.治理主体及主体关系分析
表2截取了主体网络中特征向量中心度较高的节点,用于阐明中美欧人工智能协同治理的主体及主体关系差异。中国主体网络中,中心度较高的节点是以工业和信息化部、公安部、国家互联网信息办为主的政府部门,以及行业组织、科研机构等非政府主体。这说明中国治理主体关系是以政府为核心,积极寻求和借鉴产业的实践经验与技术积累,以期能够紧密贴合人工智能的实际应用情况和市场需求。高等院校、科研院所能为政府提供跨学科的研究视野、专业的理论知识、独立的观点,有助于协同治理方案的理论优化和策略完善。这三方共同构成我国人工智能协同治理的核心力量。
美国主体网络中,企业、高校与科研机构、公众是中心度较高的节点。这表明美国在治理过程中,不仅会参考企业的实践经验,也会赋予科研机构和公众一定的治理权力。这种主体关系能够防止企业为了追求经济效益,利用市场地位或资源优势来压制其他利益相关者,忽视或牺牲一些公共利益(King et al.,2020)。同时,科学、空间和技术委员会等立法机构和独立委员会也活跃于协同治理的过程中,意味着美国意识到“行业自治”的局限性(韩春晖,2022),着力于强化人工智能协同治理的法制建设,旨在维护协同治理的多元性、包容性和公正性。
欧盟主体网络中,中心度较高的节点大都具有明确的组织身份。这说明欧盟的主体关系相对清晰。观察中心度较高的节点类型发现:欧盟理事会作为立法机构代表,欧洲芯片基础设施联盟作为公私合作体代表,数据利他主义组织作为社会组织代表,以及部分企业代表,都是协同治理的中坚力量。这体现出欧盟不仅会依靠公私合作体的内部协同,还在利用多元主体的外部协同。这种将内部协同与外部协同有机整合的嵌套式主体协同模式,在理论上能够具备更强的复杂性和适应性,可以更快速地应对技术迭代、社会变化、公民需求等现实问题。
图1—图3分别展示了中美欧的主体网络。对比网络密度和节点平均距离发现,中美欧主体的协同程度也存在差异。中国主体网络的网络密度最高(0.5033)、节点平均距离最短(1.542),证明治理主体间具有极强的相互关联性。但这也可能是因为非政府主体指向性不明确而营造的强互动关系的假象。美国主体网络的节点平均距离最长(2.106),网络密度为0.2105,说明虽然美国治理主体之间存在一些关系紧密的合作群体,但因部分主体(例如独立委员会)表现出较强的独立治理能力,降低了整体网络的协同能力。欧盟主体网络的网络密度(0.1912)是三者中最低的,节点平均距离为1.981,说明尽管欧盟治理主体间的协同频次不高,但存在一些关键的治理主体,能够发挥重要的桥梁作用,提高整体网络的协同能力。
2.人工智能社会技术想象的想象主体
中国是政府主导的开放式想象主体关系。中国政策中明确提出12个政府部门,其数量优势和网络影响力形成了人工智能协同治理的核心力量。行业组织、科研机构等非政府主体作为高影响力的治理主体的同时,又没有明确的单位指向。这说明中国对人工智能的社会技术想象并不局限于特定的企业或行业组织,而是将多个主体纳入一个广泛的框架内。这种战略上的模糊性,便于不同主体根据自己的利益和立场参与和解读人工智能的社会技术想象,维护这种想象的多样性。
美国是企业和公众主导、各种独立机构融合共生的想象主体关系。在治理主体数量方面,美国较多地涉及立法机构和独立委员会。独立委员会享有一定的自治权,以便不受其他政治或利益组织的影响(韩铁,2022:74)。立法机构会通过简政放权的方式鼓励非政府主体的参与。结合多元治理主体合作频次较低的情况来看,美国希望人工智能的社会技术想象可以不受特定群体或单位的限制,汇聚多元的智慧与创意。
欧盟采用多主体均衡参与的想象主体关系。欧盟治理主体较多地涉及公私合作体。公私合作体是较为复杂的组织,通常由政府部门、高等院校、企业、行业组织等多种不同类型的单位代表共同组成(Jančiūtė,2020)。通过组织内部的合作协调,公私合作体能够平衡不同群体的利益,提供兼顾人工智能创新发展与有效治理的综合性方案(Rommetveit,Van Dijk & Gunnarsdóttir,2020)。虽然与中美相比,欧盟治理主体的类型较少,但依靠公私合作体这种较为复杂的治理主体,依然保障了社会技术想象的主体多元性。且欧盟的治理主体,大都具有相当的参与度。这再次证明欧盟的人工智能社会技术想象重视各方平等的原则,旨在确保多方利益得到考虑。
五 人工智能社会技术想象的建构逻辑
协同治理的权能配置体制不仅可以反映权力结构,也能揭示社会技术想象的建构逻辑,映射其背后潜藏的话语封闭问题。本研究以表格的形式分别呈现治理主体与治理目标在样本政策中的共现频次,以揭示各国的话语封闭问题。
(一)中国的权能配置体制与话语封闭
表3显示,中国的人工智能协同治理涉及5种治理主体。其中,政府作为协同治理的领导者,与企业、科研及教育机构共同构成人工智能协同治理的核心力量。同时,这些主体在如何分配其有限的关注度上,展现出了非常相似的策略,说明非政府的治理主体并未完全发挥自身的特长或领域优势,而是参照政府的治理重点来设计和调整对治理目标的关注度。
从治理目标的类型来看,大多数管理者都将注意力放在“责任分配”和“伦理规范”,而较少关注“组织管理、可解释性、创新发展”的治理目标类型。这表明中国认为伦理责任是人工智能治理的首要问题,重视其实际应用过程中存在的道德风险和社会责任。通过结合企业、教育和科研机构等不同主体的思想观点,政府可以提出更加全面、科学和可持续的人工智能治理策略。
中国人工智能社会技术想象的话语封闭主要表现在以下三个方面:其一,非政府主体的参与性低。美国学者迈克尔·黑勒(Michael Heller)(1998)提出反公地悲剧理论:当一项资源拥有众多所有者时,每个所有者都拥有阻止他人使用的权利,这会导致该资源出现使用不足或无法使用的情况。由于中国政策对“企业、行业组织、各级管理部门、科研所”等主体的描述都较为模糊,使各单位拥有但又难以明确自身的具体职责与义务范畴。这不仅会导致治理主体不作为的消极现象,也会造成社会技术想象的主体失语。其二,治理标准的高度不确定性。作为权威性和强制性的代表,立法机构的缺位会导致其他主体利用自身权力来推动或阻碍某些社会技术想象的发展(胡铭,洪涛,2024)。这在一定程度上加大了治理的不确定性,容易滋生腐败现象,造成社会技术想象的价值偏误。其三,公共利益得不到充分表达。虽然政府在一定程度上能够代表人民利益,但公众缺乏直接参与治理或讨论政策制定标准的途径。同时,企业和科研机构也无法完全代表公共利益(程俊霖,石路,2022)。因此,多元群体的不同诉求可能无法得到充分表达。这同样容易造成社会技术想象无法获得公众的认同,降低人工智能在社会中的使用率和接受度。
(二)美国的权能配置体制与话语封闭
表4显示,美国的人工智能协同治理涉及8种治理主体。其中,立法机构掌控绝大部分治理权力,政府部门、社会组织掌控的治理权力整体偏低。这意味着法律将成为美国人工智能协同治理的底层逻辑。
从治理目标的角度看,大多数管理者都将注意力放在“责任分配”的治理目标类型上,对“产品与应用规范、可解释性”的关注度较低。这说明企业、独立委员会、科研机构、公众等不同主体都在积极探讨市场自治的责任归属及分配方式,旨在明确各自的角色与职责。同时,各治理主体均表现出不愿在“产品与应用规范、可解释性”的治理目标类型上设置过多标准,以免对人工智能的创新发展造成不必要的阻碍。
美国人工智能社会技术想象的话语封闭主要体现在以下两个方面。其一,技术发展方向与广泛社会福祉脱节。美国看似构建了多元开放的协同治理体制,但一方面,“企业友好型”及“弱治理”的行业自治模式,使企业拥有更多技术垄断的机会(王彦雨,李正风,高芳,2024)。另一方面,掌控人工智能核心治理权力的依然是少数群体,如立法机构、独立委员会、企业等。这可能导致公众关注的“如何有效利用人工智能服务社会并解决实际问题”的议题被忽视,使社会技术想象的实现受到阻碍或扭曲(赵新峰,程世勇,王治国,2024)。其二,政策与立法滞后。虽然美国认识到人工智能治理的法律建设不可或缺(Ferretti,2022),但社会组织、政府部门、公众的边缘化,可能导致立法机构缺乏足够的市场和社会反馈。这种条件下制定的法规往往难以适应快速变化的现实环境,容易窄化人工智能的应用场景和创新途径。
(三)欧盟的权能配置体制与话语封闭
表5显示,欧盟的人工智能协同治理涉及6种治理主体。其中,公私合作体扮演了核心治理角色。欧盟所有的公私合作体都必须遵守特定的成立标准、成员构成比例、与其他组织的合作规则以及权责界定等制度要求。同时,这些合作体还需提交详尽的年度工作报告,以便赋予公众监督的权力。这说明欧盟严格贯彻合作共享、利益平衡的治理原则,以确保不同的权力主体能够彼此制衡。
从治理目标的角度看,欧盟的治理重心更侧重“组织管理、责任分配、隐私保护”的治理目标类型,而对“产品与应用规范”和“可解释性”的投入相对有限。这再次证明,欧盟人工智能治理的核心逻辑在于明确多元主体的利益和责任,致力于优化不同主体的内部结构和外部沟通流程,以便于相关治理的问责和风险管理。
欧盟人工智能社会技术想象的话语封闭主要体现在以下两个方面。其一,治理效率和创新动力受限。协同治理过程中,公共科研机构的整体参与度偏低。这可能导致人工智能的治理逻辑更多地依赖短期经验或短期利益,缺乏科学性和前瞻性。同时,政府部门也处于协同治理的边缘位置。因缺乏足够的参与和决策权,政府部门将难以对行政管理流程进行及时的优化和调整,迫使协同治理的整体效率低下(Roberts et al.,2021)。受到这些因素的共同影响,欧盟的人工智能治理可能在技术创新、深化应用方面有所缺失。其二,难以适应复杂多变的场景需求。欧盟较少关注人工智能“产品与应用规范”和“可解释性”的治理目标类型,仅提出适用于人工智能服务监管的通用性规则。这种基础性的规则难以针对具体场景进行情境化、差别化、类型化的指导,容易引发执法困难、处罚不力等管理问题。考虑到人工智能媒介应用场景的多样性和差异化,有必要探索不同场景或专业领域中人工智能的治理标准,进一步丰富人工智能的社会技术想象(Ahmed,Jeon & Piccialli,2022)。
六 人工智能社会技术想象的
想象内容及想象主体
通过跨国比较发现:中美欧以各异的路径塑造人工智能的社会技术想象,都是为了将技术应用及治理的权力集中在特定群体内。这种权力规划的差异,使各国的协同治理体制最终产生不同的话语封闭问题。这也证明人工智能的发展及治理并不是一个中立的行为,而是一种社会价值驱动的政治选择。
有学者梳理了社会控制对技术发展的影响,提出技术治理的科林格里奇困境。该理论指出,过早的治理可能抑制技术的正常发展,而技术成熟后,经济体系和社会结构已经对技术产生依赖,技术的治理工作难以开展,甚至面临社会动荡和经济成本大幅增加的困境(Kafaee,Daviran & Taqavi,2024)。换言之,在拟定技术治理的制度前,管理者应该以前瞻性的战略思维审视社会技术想象,不仅要维护社会技术想象的内容多样化,保障技术发展的创新力,也要确保这种想象的主体多元性,以权衡不同群体的利益。
因此,我国在探索人工智能的未来发展及治理路径时,应充分考量自身情况和实际需求。在此基础上,通过观察他国的治理体制,丰富我国人工智能社会技术想象的想象内容,促进想象主体的多元化,以确保人工智能的公共价值得以实现。
想象主体方面,立法机构的缺位和公众参与程度低,说明我国需要完善多元主体的参与渠道,确保多方利益能够得到充分表达。面对人工智能媒介应用所带来的生产方式与生产工具的革命性变化,立法机构可以提供明确的行为准则和界限,指导人工智能的社会伦理从道德原则转化为可操作、可预期、可计算的合规实践(李学尧,2024)。其高度的公正性和权威性,也能确保制度公正、明确和可执行性,保障社会技术想象与公共价值相契合。同时,意见表达是现代社会成员的基本自由。社会各界理应做到尊重原子化个体的话语权(于水,徐亚清,姜凯宜,2017)。然而,我国目前主要通过政府部门广泛收集民意。这可能导致部分单位或组织倾向于展示那些与自己利益相符的民意,让少数群体的真实意见被掩盖。对此,我国应当积极构建更加直接且有效的参与渠道,以便立法机构与公众能够融入社会技术想象的塑造过程中,确保不同群体的需求均能得以充分地表达。
想象内容方面,我国对人工智能“创新发展、可解释性”的两类治理目标类型的关注相对薄弱,说明我国需要丰富与之相关的想象内容,确保人工智能的创新发展动力。创新激励机制是激发人工智能持续进步与深度发展的关键动力(方兴东,2024)。但我国政策大多仅表明,要发展人工智能为引擎的新质生产力,缺乏明确的技术研发或应用的激励标准。这可能造成人工智能创新与社会实际需求、国家长远规划之间产生鸿沟,造成科研资源的低效配置与浪费(沈芳君,2024)。在人工智能可解释性方面:虽然我国提出人工智能“可解释性”的治理目标,但实际相关的文本内容普遍较少。这可能是因为,人工智能缺乏理论逻辑上的可解释性(魏斌,2024)。如何让人工智能在设计、运营、应用的各个环节都能以可解释的方式接受审查、评估和备案仍是一个亟待解决的技术问题。同时,哪些主体有权力确立和掌控人工智能可解释性的标准,也有待商榷。对此,我国应该积极探索人工智能的创新激励机制和可解释性的论证程序。
七
结语
综上所述,人工智能的社会技术想象不仅是一个多维度的复杂概念,也是一种用于维护权力结构和价值观的政治行为。它包含“鲁棒性、可解释性、伦理规范、隐私保护、责任规划、产品与应用规范、创新发展和组织管理”的主要内容,能够捍卫和支持特定群体的权益。
通过分析人工智能协同治理体制发现:美国强调企业和公众的利益,追求人工智能的创新商业价值;欧盟倾向于维护多元主体的价值平衡,注重人工智能的安全性和可靠性。但关于人工智能的社会技术想象,美欧依然存在不同的话语封闭问题。因此,我国在探索人工智能的治理路径时,不应直接照搬美欧的治理模式;而是应该立足国内发展需求、自身国情及文化背景,有选择地借鉴他国的人工智能社会技术想象,以期丰富想象内容和想象主体。这种思路既有助于构建契合我国国情、兼具前瞻性和包容性的治理理念,也能够为推动人工智能全球治理体系的完善和发展提供理论指导。
本文注释及参考文献从略,原文刊载于《国际新闻界》2025年第2期。
本期执编/王子伊
全国各地邮局均可订阅《国际新闻界》,国内邮发代号:82-849,欢迎您订阅!
您也可通过下方二维码或网址https://mall.11185.cn/h5/#/bkGoodsDetails?spuId=113613&from=imgShare&dsId=zxSWChat&dsModule=c3df4964-af5d-40a8-d6cc-a768b5306e52 ,进入中国邮政微商城订阅本刊。
您还可访问《国际新闻界》官方网站 http://cjjc.ruc.edu.cn/ ,免费获取往期pdf版本。
来源:国际新闻界杂志