摘要：2024年4月，英国艾伦图灵研究所的新兴技术与安全中心（CETaS）发布报告《人工智能驱动战略决策：情报领域的信任沟通机制与不确定性管理》（AI and Strategic Decision-Making：Commu-nicating trust and un

一、背景

英国情报机构的一项关键职能是提供及时、准确的见解，以支撑战略决策。情报分析师汇集各种信息来源，进行专业研判，形成全源情报评估，为政府各部门的战略决策者（SDM）提供背景信息。这些决策可能会产生重大影响，如在国家出现紧急情况时，是否授权开展军事行动、做出外交反应或采取公共安全措施等。因此，支撑决策的情报如果来源于不完整的信息，情报分析师需明确指出知识中的空白，并有效地传递不确定性，以帮助决策者准确的评估情报的可信度。

过去二十年来，可用于情报分析的数据量大幅增长，情报部门在识别、处理和分析这些信息源和信息量方面面临巨大挑战。人工智能技术在提高情报评估的严谨性和速度方面拥有巨大的潜力，该技术已被证明能够提高情报分析评估的生产力和有效性。但同时，该技术可能存在放大当前已知的偏见和不确定性等风险，也可能因难以评估其局限性导致分析人员误判而引发潜在风险。如何在充分发挥人工智能技术优势的同时降低风险，是当前情报界面临的主要挑战之一。

报告充分将战略决策定义为对国家安全有重大影响的关键决策制定过程。“人工智能增强的情报”（AI-enriched intelligence）是指部分或全部通过使用机器学习分析或生成式人工智能系统（如大语言模型）获得的情报见解。报告探讨了在数据激增和人工智能技术快速发展的背景下，人工智能增强的情报是否能确保严谨性、透明度和可靠性。报告研究了向战略决策者传递人工智能增强情报局限性的时机和策略，确保在情报的可访问性和技术细节之间取得平衡。此外，报告还探讨了是否需要进一步强化人工智能增强情报的治理、指导和升级，使战略决策者能够基于人工智能增强的情报做出重大决策。

二、人工智能驱动战略决策

的优势和挑战

人工智能是情报分析师的重要分析工具。人工智能系统能够识别可能被忽视的趋势和异常现象，其处理大规模数据的能力远超人类分析师。因此，将人工智能用于情报工作，有利于实现情报评估标准中的全面覆盖原则。此外，采用人工智能工具有助于发现信息间的关键联系，提高情报产品支撑政府决策的有效性。

然而，人工智能的使用可能会放大情报分析和战略决策过程中固有的不确定性。人工智能系统的输出是概率计算的结果，在数据不完整或有偏差的情况下容易出现误差。许多人工智能系统的不可解释性也使人类难以理解其形成结论的原理和过程。有鉴于此，亟需对情报分析中使用的人工智能系统进行精心设计、持续监测和定期调整，以降低人工智能系统产生偏见和错误的风险。情报部门对其交付的情报产品的相关技术指标（如准确率和错误率）负有最终责任，情报分析师在作出结论和判断时必须考虑到人工智能技术的局限性和不确定性。

三、人工智能驱动战略决策

的沟通机制

决策者需要了解人工智能增强情报的局限性，同时又不被技术复杂性过度干扰。平衡上述可访问性和技术细节的方法包括：一是通过制定指南明确人工智能增强情报的不确定性；二是利用分层方法（layered approach）向决策者传达技术细节；三是通过培训和指导使决策者了解技术专业知识。

（一）制定指南界定不确定性

制定新的指南，在全源情报分析中明确人工智能增强情报的局限性和不确定性。该指南应建立一个标准术语表，简明扼要地评估人工智能模型整体性能的置信度，以及模型输出中固有的不确定性。随着人工智能技术的不断发展，需要定期审查和更新该指南。

（二）利用分层方法传达技术细节

一方面为人工智能增强的情报产品提供通俗易懂的评估信息，使非技术专业的决策者能评估情报产品的可信度；另一方面，提供有关系统性能和局限性的额外技术信息，以便拥有更多技术专业知识的决策者查阅。

（三）培训技术专业知识

讲习班、研讨会和培训可有效提高分析师和决策者对人工智能及其局限性的认识，这些课程还可以让用户直接与技术互动，提高他们的熟练度和信任度。随着人工智能在情报分析领域的日益普及，情报分析师都应接受培训，学习如何与模型互动，以及如何解读、质疑和评估人工智能增强的情报。为建立对人工智能增强情报产品的信任，应向数据管理员、情报分析师和决策者介绍人工智能系统的基本原理和相应的保证程序。

四、结论与建议

本研究表明人工智能是支撑情报分析的有效工具，可以提高情报工作的生产力和效率，并产出人类分析师无法洞察的新见解。在评估人工智能可能会产生的风险时，需权衡以下两方面的因素：一是所有情报分析工作的固有风险；二是人工智能技术的优势。提高情报分析师和战略决策者的人工智能素养将有助于深入理解人工智能模型及其局限性。最后，还需要为人工智能系统制定标准化的保证程序，以建立对人工智能增强情报的信任。研究认为，应当立即开展相关工作，确保情报分析师和战略决策者做好充分准备，在未来将人工智能能力融入情报周期。报告提出以下建议，旨在采用最有效的方式向战略决策者传递人工智能增强的情报产品。

1.情报评估专业负责人（PHIA）应制定指南，以便在情报分析中明确指出人工智能增强情报的不确定性。该指南应提出标准术语，通过标准术语向决策者阐明人工智能的局限性和注意事项，还应对决策者如何使用人工智能增强的情报提供指导。

2.在向战略决策者提供相关技术信息时，负责评估情报产品的人员应考虑到不同决策者的技术背景差异，应采取分层方法，保证非技术专业人员也能够理解人工智能增强情报产品的评估结果。此外，向掌握更多技术专业知识的决策者提供额外的技术细节信息，帮助其深入了解系统性能及局限性。

3.英国情报评估学院（UK Intelligence Assessment Academy）应进行培训需求分析，根据分析结果开发适当的培训课程。

4.应向战略决策者（及相关工作人员）提供培训，介绍人工智能的基本原理和相应的保证程序，以帮助其建立对人工智能增强情报产品的信任。

5.由于人工智能增强情报是重要决策的基础，在举行国家安全决策会议之前，应举行简短的专家简报会，向决策者简要介绍关键的技术细节和局限性，并确保决策者提前评估情报产品的信任程度。专家简报会应由联合情报组织和国家安全秘书处（National Security Secretariat）共同协调，并充分汇集首席科学顾问网络和相关科学咨询委员会的专业知识。

6.应为情报分析和评估中使用的人工智能系统制定正式的认证方案，以确保模型在稳健性、安全性、透明度以及偏见缓解等方面达到决策所需的最低要求。将人工智能系统应用于特定情报分析任务的技术保证应下放给相关组织，但要对其保证程序进行必要的认证。这需要协调和组织专门资源，将情报分析专业知识与技术知识相结合。PHIA应协助制定原则和要求，而认证和测试方面的技术知识则应来自情报界和政府内的有关技术部门。

转自丨启元洞见

研究所简介

国际技术经济研究所（IITE）成立于1985年11月，是隶属于国务院发展研究中心的非营利性研究机构，主要职能是研究我国经济、科技社会发展中的重大政策性、战略性、前瞻性问题，跟踪和分析世界科技、经济发展态势，为中央和有关部委提供决策咨询服务。“全球技术地图”为国际技术经济研究所官方微信账号，致力于向公众传递前沿技术资讯和科技创新洞见。

地址：北京市海淀区小南庄20号楼A座

_er

来源：全球技术地图