摘要：2024 年第三季度在 Thinkers360 成员和全球 AI 用户及供应商社区中开展的主要研究调查显示，2024 年整体 AI 信任指数得分为 308 分 (评分范围从 100 分"不担心"到 400 分"极度担心")。这比 2023 年的 224 分有所

Thinkers360 AI 信任指数从 AI 终端用户和提供商的角度审视了当前对 AI 的信任状况，作为对各方面信任度的年度情绪检测。

2024 年第三季度在 Thinkers360 成员和全球 AI 用户及供应商社区中开展的主要研究调查显示，2024 年整体 AI 信任指数得分为 308 分 (评分范围从 100 分"不担心"到 400 分"极度担心")。这比 2023 年的 224 分有所上升。尽管 AI 正在快速步入主流应用，但对 AI 的信任仍在建设过程中。

基于调查结果，这里为 CIO 提供五点建议，以指导您在 2025 年继续推进 AI 实施工作。

利用行业研究了解不同场景和行业的信任差异

AI 信任指数显示了基于场景和行业的不同信任水平。在场景方面，媒体相关的问题最受关注，其次是个人、工作场所和政府领域。AI 用户和供应商表示对网络犯罪 (87%)、错误信息 (87%) 和偏见 (80%) 这三个领域极其或非常担忧。就业 (56%) 和法律 (57%) 的担忧程度相对较低。

在行业方面，AI 用户和供应商对国防和情报 (82%)、政府 (71%) 和金融 (55%) 这三个领域表示极其或非常担忧。媒体和娱乐业 (54%) 也是当前 AI 使用中令人担忧的行业。农业 (13%)、零售业 (22%) 和制造业 (28%) 的担忧程度最低。

CIO 可以利用这些数据以及其他第三方研究来了解其所在行业在 AI 信任度方面的现状，以及终端用户最担忧的关键场景。AI 在网络犯罪方面的潜在脆弱性显然是 CIO 在 2025 年需要密切关注的领域，同时也要关注那些担忧程度较低的领域，如就业或 AI 在招聘决策中的应用，这些领域仍有超过 50% 的受访者表示担忧。

密切关注AI 信任的所有属性及其演变

AI 信任指数根据 NIST 在其 AI 可信度构建模块中的定义，考察了 AI 信任的七个属性。研究发现，超过 65% 的 AI 用户和供应商非常或极其担心 AI 的问责性和透明度。最不令人担忧的是 AI 的可解释性和可理解性，但仍有 88% 的 AI 用户和供应商表示担忧。总体而言，对 AI 的担忧程度在所有七个信任属性中分布相当均匀，超过 87% 的人表示或多或少有所担忧。

对 CIO 的启示是要确保关注 AI 信任的所有属性。这里讨论的七个属性包括：问责和透明、隐私增强、有效和可靠、公平且管理有害偏见、安全 (如生命、健康、财产)、安全和弹性、可解释和可理解。这些属性的相对重要性可能因媒体关注度、AI 实施进度、具体用例以及终端用户的重视程度而异。但关键是要全面考虑所有属性，因为最薄弱的环节决定了整体强度。

实施 AI 治理框架涵盖从 AI/ML、生成式 AI 到主动式 AI 的所有方面

2025 年，随着组织继续采用 AI/ML、生成式 AI 和主动式 AI (用于自动化手动任务的自主代理)，确保 AI 治理框架涵盖这一快速发展领域的所有方面将变得至关重要。

随着主动式 AI 开始渗透到核心流程和企业工作流程中，如软件编程、网络安全、ERP、CRM、BI、供应链、零售等领域，信任问题将从信息信任转向交易信任。后者包括确保适当的人工监督水平、问责制、决策透明度、异常处理等。虽然主动式 AI 的无代码/低代码特性将简化业务流程重新设计工作，但必须将这些节省下来的时间用于对所有工作流程和场景进行全面测试。即使 AI 现在已经足够智能可以处理异常情况，也必须仔细测试这些情况。

制定 AI 政策与终端用户保持一致并明确沟通，主动影响实施中的信任水平

与各种国家和国际公约以及其他形式的标准、政策和协议保持一致，是向终端用户展示对 AI 伦理承诺的良好方式。例如，欧盟 AI 公约支持"业界在正式实施欧盟 AI 法案之前自愿采用其原则"。您的 AI 治理实践可以成为关键差异化因素，因此与内部以及客户和合作伙伴进行沟通很重要。

除了签署公约和遵循行业最佳实践外，您还可以在 AI 应用方面采取直接行动，以便对各种信任属性产生可量化的积极影响。Lyzr.ai 的 CGO Anirudh Narayan 表示："将大语言模型与更确定性的机器学习模型结合起来可能是有意义的。单独的大语言模型存在一些幻觉，准确率较低，但通过嵌入机器学习模型可以获得更清晰、更确定性的输出。这可以显著提高准确率，比如从 67% 提升到 95%。对于 CIO 在构建 AI 基础设施或考虑代理框架时，这种双引擎动力可能非常有帮助。"

确保您的计划关注全局涵盖 AI 治理、风险管理、伦理、沟通和变革管理

2025 年主动式 AI 将影响企业的诸多领域，CIO 需要为组织范围内的重大变革做好准备，这些变革堪比互联网时代和数字化转型时代。这需要在 AI 治理、风险管理、伦理、沟通 (包括培训和教育) 以及变革管理方面采取计划性方法。

KPMG 人工智能和数字创新副主席 Steve Chase 表示："随着公司扩展 AI 并整合代理，来自员工和客户的信任至关重要。CIO 必须确保 AI 战略和治理保持良好一致，并基于对 AI 当前和新兴能力的深入理解，同时得到现代数据基础的支持。这种基础对于组织引导员工度过变革，并最终以负责任和道德的方式最大化 AI 价值至关重要。"

CIO 应与其 CAIO 和其他利益相关者密切合作，在 AI 治理中发挥指导作用，确保 AI 的使用负责任、合乎道德，并与组织的战略目标保持一致，因为您提供了构建 AI 信任和最大化其效益所需的技术专长、数据治理框架和风险管理监督。

来源：至顶网