牟怡：给AI添加的标签如何影响公众认知？︱智见

摘要：2024年3月，澎湃新闻·对齐Lab针对普通人如何使用和看待人工智能（AI）进行了一项大型调查，并发布《2024年人工智能公众态度调查报告》。

设置星标 关注

，从此你的世界多点科学~

科技传播智见

COMMUNICATION

2024年3月，澎湃新闻·对齐Lab针对普通人如何使用和看待人工智能（AI）进行了一项大型调查，并发布《2024年人工智能公众态度调查报告》。

报告指出，面对人工智能，很多人处于“短期积极、中期期待、长期担忧”的状态；大部分人（65.7%）

觉得AI对自己是“积极影响大于消极影响”，还有9.9%的受访者说过去一年AI技术的进步对自己只有积极影响，认为对自己消极影响更多或只有消极影响的人只占到了8.0%。

然而，积极的预期并不等于正确的认知。公众对AI的理解受到从个人特质到文化语境，再到技术场景等各种因素的影响。当“技术中立原则”受到越来越多人质疑的时候，如何理解公众对AI的理解，通过认知心理学的视角开展大众理解技术的心理实证研究，已迫在眉睫。

2019年，3位荷兰学者通过实验研究证实了技术的名称本身对公众态度具有较强的影响。而2021年，一个中国学者团队检验了技术名称通过某些认知间接影响行为意图以及情感反应。

他们以“自动驾驶”为例，分别配以“智能”“自动化”“自主”“无人驾驶”几个称谓，用在不同的实验场景中，发现“无人驾驶”会给受试者带来负面认知，而“完全无人驾驶”却收获了较为正面的印象。

不仅仅是技术称谓本身，给AI技术添加的标签也会影响到公众的判断，甚至改变他们的行为。例如，在人与智能机器的群体决策中，具有拟人化线索的智能代理通常可以发挥规范性作用，并对人类决策者施加压力。

当智能代理被冠上何种特定标签，会具备更大的影响力？我们对此展开了一系列研究。最近的一项实验研究考察了当智能代理被贴上“专才”或“通才”的专家标签后，是否会使人类用户的决策行为发生改变。

研究发现，在一系列“电车难题”（Trolley problem）的道德选择面前，相对通才型智能代理而言，专才型智能代理更有可能让用户产生选择转变——转向与智能代理一样的选择。

“电车难题”与一个著名的伦理学思想实验有关，这个实验描述了一个场景：一辆失控的电车在轨道上冲刺，如果继续前行，就会撞死轨道前方的五个人，如果此时转向另一条轨道——这条轨道上只有一个人——则会在救下五个人的同时撞死另一个人。该如何选？

我们近期的另一项研究则对AI技术的“国籍”影响进行了探讨。如同“科学没有国界，但科学家有国界”的认知一样，技术似乎没有国界，然而技术的开发者会受到社会文化的影响，进而缔造出不同价值取向的技术。尤其考虑到生成式AI开发的过程中，需要通过海量的网络数据进行模型训练，因此不可避免地会将不同文化的价值取向、风土人情、社会面貌等，通过语料素材导入大语言模型中。

例如，在开发一款面向全球用户的生成式AI聊天机器人时，研发团队往往会从各国的文学作品、新闻报道、社交媒体帖子中收集语料来丰富模型的对话能力。

假设这个模型主要基于英语语料进行训练，但在选择语料时没有充分考虑地域文化的均衡性，结果模型在回应关于家庭价值观的问题时，将更多地体现西方个人主义的文化倾向，如强调个人自由与独立；而当这款AI聊天机器人被推广到东亚地区，用户就会发现AI的回应与他们的文化预期存在偏差。

因此，当用户留意到AI技术的“国籍”或者“产地”时，可能会对人工智能生成内容（AIGC）的公信力做出不同的判断。

我们设计了一则发布在社交媒体上的中美贸易新闻，将记者信息分别标注为中国记者、美国记者、国产AIGC、美国产AIGC，以及记者与AIGC合作出品等不同情况。

我们在网络实验平台上收集了359份有效问卷，结果表明，对于中国记者携手国产AI完成的新闻以及美国记者与海外AI合作完成的新闻，受试者感知到的信源公信力更高；而当记者与AIGC的“产地”混搭的时候，即中国记者使用海外AIGC或者美国记者使用国产AIGC完成新闻时，其公信力会显著下降。

由此可见，当我们大量将AIGC应用于工作中时，来自人机协作混合信源的内容的可信度取决于人的国籍和AI的国籍两者之间的一致性。

公众对技术的看法并非完全中立，我们也不能脱离社会现实来理解技术。

未来，人工智能将进一步应用于自动内容生成和信息传输，并嵌入全球媒体格局。AI来源和AI治理的公信力不仅与技术本身有关，还与AI和人类所处的社会环境有关。因此，妥善对AI技术进行特征标注，将为公众正确理解AI技术发挥重要的作用。

本文作者牟怡是上海交通大学媒体与传播学院副院长、教授，未来媒体与人机传播研究中心联席主任。文章刊载在《世界科学》杂志2025年第1期“科技传播智见”栏目。