摘要：随着近来大语言模型技术的飞跃发展，对话式AI提供了日益复杂的互动。但可以说它们能提供真实的联系，甚至能缓解孤独流行病吗？在回答这个问题的时候，本文追溯了AI真实性的历史，这个真实性是由对智能机器和人类交流的文化想象历史地塑造出来的。
随着近来大语言模型技术的飞跃发展，对话式AI提供了日益复杂的互动。但可以说它们能提供真实的联系，甚至能缓解孤独流行病吗？在回答这个问题的时候，本文追溯了AI真实性的历史，这个真实性是由对智能机器和人类交流的文化想象历史地塑造出来的。
像与人一样与AI互动的错觉，至少自二十世纪六十年代就已经存在了，当时，人们用第一个聊天机器人Eliza的名字命名了所谓的“Eliza效应”。社会学家雪莉·特克（Sherry Turkle）用“真实性危机”这个术语来描述Eliza效应，它代表这样的恐惧，即与AI互动会损害真实的人类联系，使用户容易受到操纵。
不过，最近的研究者开始探索对真实性的，不那么拟人化的定义。反过来，对真实性的期望——也许，是幻想——又源于以技术为中介的交流的更为漫长的历史，可以追溯到十九世纪电报的发明。通过全盘考虑这段历史，本文得出这样的结论：与AI的关系可能并非对人类互动的模仿，相反，与AI关系的真实性必须承认AI的人造性，在我们中介化的、经常是孤独的时代提供一种新形式的陪伴。
《银翼杀手2049》剧照
智慧、友善、体贴、有创造力、有爱和好奇。这些不只是人梦寐以求的属性，也都是Facebook、Instagram和Thread上新上线的聊天机器人Meta AI被认为具有的特征。[1]当2024年4月，Meta推出其社交媒体项目的最新成员的时候，他们宣传它具有“学习、完成任务、创造内容和连接”的能力。[2]但作为对话式AI，它也被打造得仿佛具有像人一样的人格。
就此而言，Meta AI是建立在像Replika和Character那样的对话式AI平台日益流行的基础上的。AI提供了各种各样的机器人程序，其中许多都可以在表现、背景和特征上进行定制。Meta不是第一家发布应用内聊天机器人的公司——比如说，My AI早在2023年就发布了SnapChat——但Meta AI的布局最广。[3]我们已经超越Alexa和Siri，走向了AI朋友。
“到本十年末”，马克·扎克伯格预言说，“我认为很多人会终日频繁地与AI交谈”。[4]除显然自利的考虑外，扎克伯格的主张也响应了许多关于聊天机器人的研究，后者主张聊天机器人“可以满足一些熟人能够满足的相同需求”。随着它们变得更加复杂，社会学家和心理学家的工作指出，“这些对话智能体不久之后将有望给各种各样的用户提供个人化的社会支持”。[5]根据这一思路，技术创新是阻碍持续的、令人满足的人与AI互动的唯一障碍。从研究者到公司的领导层，都充满了对大语言模型提供陪伴的希望和炒作，有人甚至指出，它们可以缓解美国医务总局认定的“孤独流行病”。[6]
然而，墨菲的报告又把线上互动识别为孤独流行病的一大原因。在缺乏有意义的亲身参与关系的情况下，人们转向线上互动，后者又进一步消耗他们的注意力，使他们无暇关注自己身边的人。墨菲写道，这种类型的互动“取代了亲身参与，垄断了我们的注意力，降低了我们互动的品质，甚至贬低了我们的自尊”。[7]
扎克伯格的技术解决主义思维想象技术可以解决它创造出来的那些问题。这种思维方式认为，只要聊天机器人足够好，它就会是对人类互动的有效替代。研究者经常从聊天机器人的真实性和它们运行所依赖的大语言模型来讨论这个“足够好”的阈值。[8]比如说，2018年的一个研究把聊天机器人的真实性定义为“通过经验来学习、拟人化、带有容易看穿的目的，展现出（高级的）对话行为并前后一致”。他们提出，在这一方针的指示下，“研究者将能够改进新兴技术的社会-伦理”。[9]但真实性对AI——它的名字就包含“人工”——来说是一个复杂的问题，它受到了对智能机器和人类交流的文化想象的塑造。人类与机器接触、通过机器来接触彼此的历史，也塑造了我们对今天那些互动的期望，从对AI的恐惧，到技术解决主义的幻想。
人把自己和计算机的对话拟人化的倾向，和最古老的聊天机器人一样老。一些人在与计算机互动时体验到的那种人性错觉，被称为“Eliza效应”，它得名自第一个聊天机器人，MIT教授约瑟夫·魏岑鲍姆在二十世纪六十年代中期发明的Eliza。
社会学家雪莉·特克（Sherry Turkle）把Eliza的发明称作一场“真实性的危机”。[10]Eliza带来了关于真实关系的新问题。真实关系是一个“传统上留给这样的关系，即其中每一方都能感到[信任、关心和共情]的，也就是说，各方都是人的关系”的术语。[11]新的、对互动技术的依赖，再加上相互理解的错觉——特克称——是诱人的，但最终是空洞的。她相信，缺乏关系的真实性会让人容易被控制机器人程序的人——骗子、公司、政府——愚弄。但更凶险的是，它还会阻碍与其他人形成有意义的连接的能力。特克相信，Eliza效应用对关系的模拟取代了真实的关系。
随着聊天机器人越来越融入日常生活，AI真实性的概念也变得更加复杂。一些真实性模型沿着特克的思路努力，试图创造一种让用户觉得真实的，好的模拟。比如说，2018年一个对客服聊天机器人的研究认为“信息代理必须拟人化以变得真实。”[12]作者引用了访谈对象的说法，他们都使用源自虚构的模拟的语言：机器人应该“创造一个你可以与之产生联系、可以当作自己模范的人类人格”，即作者所说的“性格”。[13]在这样的思维方式中，AI真实性关乎让用户相信聊天机器人像人。
然而，随着近来大语言模型的爆发式创新，研究者也试图在模仿之外的其他方向上改进AI真实性的概念。2023年商业和计算机科学研究者做的一个研究没有把AI真实性定义为“像人”，而是把它定义为这样的期望，即“作为与人交流的结果，陪伴聊天机器人会以它自己独一无二的方式演化”。[14]用户更可能在机器人不像人一样交流、但提供一种令人愉快的互动体验的时候，把机器人评价为合法的伴侣。这样，最近的研究从2018年的研究得出了这样的结论——“我们不需要智能，相反，我们需要在社交上聪明的智能体”，并给了它深度。在这里，真实性不是成功的复制，而是一种新的原创。[15]
不过，在这两种情况下，研究都让人类用户来评价AI的真实性，后者被视作一组预期，这些预期早在聊天机器人发明之前就已经形成了。在二十世纪六十年代的时候，Eliza效应要成立，用户必须已经具备这样的思维框架，即认为脱离身体的、没有手写或声音的具身接触的文本是人性的标志。对脱离身体的实时交流的体验并非始于二十世纪六十年代的Eliza，而是始于十九世纪的电报。随着电报的发明，远距离同时交流第一次成为可能。两个或更多的人能够在没有听到一个词的情况下打趣，能够在相隔数百或数千英里，看不到对方的情况下调情。
《连线之恋：一段点与划中的爱情》（ Wired Love: A Romance in Dots and Dashes）书封
新闻故事警示了以这样的方式把身体和语言分开的危险，它们详细描述了现在我们所说的网络交友诈骗丑闻。其他故事——通常是虚构的——则更加浪漫。艾拉·齐弗·塞耶（Ella Cheever Thayer）1879年的畅销小说《连线之恋：一段点与划中的爱情》讲述了两个年轻电报员克莱姆和娜塔莉远距离谈恋爱的故事。小说开启了这样一个问题，即有没有可能只靠文字形成连接。爱情可以只以语言的形式存在多久？身体，如果重要的话，在什么时候重要？
《连线之恋》展示了对另一边的身体的期望是如何持续的。在小说的中间部分，克莱姆在没有事先通知的情况下，油腻、歪斜地带着麝香味出现在娜塔莉的办公室。他带着“廉价的自信”走进来，炫耀他的小饰品，身上散发着廉价古龙水的味道，头发上涂满了熊油。[16]他朝娜塔莉挤眉弄眼，让她狼狈不堪。她怎么会为这样一个人的文字而倾倒呢？
事实证明，这次来访只是同一线路一名心怀嫉妒的电报员搞的一次恶作剧，他一直通过电报偷听他们调情。这一情节设计，是建立在这样的基础之上的，即1879年的读者在对脱离身体的交流心存怀疑的同时，又为之而感到着迷。最终，真正的克莱姆以和他的文字一样优雅的形象出现。书的最后几行是以摩尔斯电码的形式出现的，对读者来说，是一个谜。甚至在克莱姆和娜塔莉为面对面互动而发誓戒掉点和划的时候，小说依然捕捉到了连线之恋的诱惑。那就是这样一种幻想：真实的连接只通过语言发生，没有肉体性、社会情境或物质环境的复杂。
学者们已经相信，如今，这些中介化的、即时的对话定义了现代的交流体验。也就是说，我们把自己与他人的互动理解为骨子里和技术纠缠在一起的，或者，就像劳拉·奥提斯（Laura Otis）指出的那样，使“用户认为他们是网络的一部分”。[17]甚至在面对面说话的时候，我们也会感到一种迂回，即那种矛盾的，电话、网络或者就像在娜塔莉那里一样由电报线路网络带来的，隔着距离的亲近感。换言之，当我们的个人互动已经有了中介化的感觉的时候，把中介化的对话想象为个人的甚至更容易了。
合在一起，这给了我们两种有时相互冲突的信念：真正的连接只通过语言发生，这解释了我们能在AI那里感到的人性或真实。同时，还有这样一种感觉，即我们的亲身互动已经有了中介化的感觉，这让连接变得更加困难。此外，许多关于AI真实性的研究来自商业导向的研究。对这些研究来说，创造对聊天机器人的信任，是一种提高销量而非解决孤独感的办法。
这些信念会随技术的变革而发生变化，但为了理解Meta AI和其他聊天机器人兜售的幻想，我们必须首先理解我们技术中介化的历史。这些历史又反过来塑造了我们当下对这种技术的评价。我相信，与AI关系中的真实性，不以模仿人类的关系、完全对应地用AI来取代人为标志，相反，它将是一种对人工智能的人造性的承认，是我们中介化（且经常是孤独的）世代的一种新关系。
*本文原文为Megan Ward，“Can Chatbots Be Authentic?”, Public Humanities （2025）, 1, e37, 1-5。按CC BY4.0协议译介。梅根·沃德为美国俄勒冈大学文理学院助理教授。
注释
[1] AffectionateTrips 2024.
[2] Meta 2024.
[3] 比如说，《纽约时报》说Meta AI的发布是“大科技公司迄今为止最声势浩大的，把这种人工智能——所谓的生成式AI——推向主流的举措”（Chen 2024）。
[4] Zuckerberg 2024.
[5] Drouin et al. 2022.
[6] Murthy 2023.
[7] Murthy 2023, 20.
[8] Meta AI是在Meta Llama 3的基础上运行的，而ChatGPT则基于一个来自GPT-3.5系列的模型（Open AI 2023; Meta 2024）.
[9] Neururer et al. 2018.
[10] Turkle 2007, 502.
[11] Turkle 2007, 504.
[12] Neururer et al. 2018.
[13] Neururer et al. 2018.
[14] Pentina et al. 2023.
[15] Neururer et al. 2018.
[16] Cheever 1880, 94.
[17] Otis 2002, 2.
参考文献
AffectionateTrips. 2024. “A Loving Chat with Meta’s AI.” Reddit 16: 2024. https://www.reddit.com/r/ChatGPT/
comments/1asvb99/a_loving_chat_with_metas_ai/.
Cheever, Ella Thayer. 1880. Wired Love: A Romance of Dots and Dashes. New York: W. F. Johnston. https://babel.hathi
trust.org/cgi/pt?id=nyp.33433044170904&seq=9.
Chen, Brian X. 2024. “Meta’s AI Assistant is Fun to Use, but It Can’t Be Trusted.” New York Times, April 24, 2024.
Drouin, Michelle, Susan Sprecher, Robert Nicola, and Taylor Perkins. 2022. “Is chatting with a sophisticated chatbot
as good as chatting online or FTF with a stranger?” Computers in Human Behavior 128: 107100. https://doi.
org/10.1016/j.chb.2021.107100
Meta. 2024. “Introducing Meta Llama 3: The most capable openly available LLM to date.” Posted April 18, 2024.
Murthy, Vivek H. 2023. “Our Epidemic of Loneliness and Isolation: The U.S. Surgeon General’s Advisory on the
Healing Effects of Social Connection and Community.” https://www.hhs.gov/sites/default/files/surgeon-gen
eral-social-connection-advisory.pdf.
Neururer, Mario, Stephan Schlögl, Luisa Brinkschulte, and Aleksander Groth. 2018. “Perceptions on Authenticity in
Chatbots.” Multimodal Technologies and Interactions 2: 60. https://doi.org/10.3390/mti2030060
Open AI. 2023. “Introducing ChatGPT.” Posted November 30, 2022. https://openai.com/index/chatgpt.
Otis, Laura. 2002. Networking: Communicating with Bodies and Machines in the Nineteenth Century. Ann Arbor: University
of Michigan Press.
Pentina, Iryna, Tyler Hancock, and Tianling Xie. 2023. “Exploring relationship development with social chatbots: A
mixed method study of Replika.” Computers in Human Behavior 140: 107600. https://doi.org/10.1016/j.
chb.2022.107600
Turkle, Sherry. 2007. “Authenticity in the Age of Digital Companions.” Interaction Studies 8 （3）: 501–517.
Zuckerberg, Mark （@zuck）. 2024. “Some updates on our AI efforts.” Threads. Janurary 18, 2024. https://
www.threads.net/@zuck/post/C2QBoRaRmR1/?igshid=MzRlODBiNWFlZA==.
文/梅根·沃德 译/王立秋
来源：米西说剧情
