摘要：谷歌DeepMind最新论文「Virtual Agent Economies」描绘了由AI Agent自主交易和协作的全新体系。随着自主AI代理迅速普及，一个全新层级正在形成，AI代理能以远超人类监督的速度和规模进行交易与协调。 论文提出“沙盒”框架分析新兴系

【谷歌DeepMind论文揭示AI代理新形态，带来机遇与挑战】谷歌DeepMind最新论文「Virtual Agent Economies」描绘了由AI Agent自主交易和协作的全新体系。随着自主AI代理迅速普及，一个全新层级正在形成，AI代理能以远超人类监督的速度和规模进行交易与协调。 论文提出“沙盒”框架分析新兴系统，从起源（自发涌现或有意设计）和与人类隔离程度（高度渗透或完全封闭）两个维度刻画。当前发展轨迹正导向自发涌现且高度渗透的AI代理，带来协调机会，也有系统性风险和社会不平等挑战。 论文核心结论是采取主动设计策略，构建可控、可引导的代理市场，引入公平资源分配机制、协调集体目标的“使命（mission economies）”和确保信任与安全的社会技术基础设施，服务人类长期集体繁荣。 虚拟代理是全新“灵活资本”，能跨行业、跨职业自动化执行认知任务。大规模部署互动后形成“虚拟代理（virtual agent economy）”或“沙盒（sandbox economy）”，目标是确保其运作安全可控。 分析框架包含起源维度（意图性和涌现性）和边界维度（渗透性和封闭性）。若不干预，发展将导向自发涌现且高度渗透的沙盒，关键是架构使其可引导、安全且符合人类集体目标，渗透性是关键可控设计变量。 论文给出典型应用场景，如加速科学研究，AI代理协作完成科研流程，需协调资源使用和价值补偿，区块链可确保信用公平分配和工作可验证性；机器人协作，具身AI代理执行任务，需协调与优化；个人助理协商，个人AI助理为用户协商度假住宿等。 虚拟代理是双刃剑，带来协调能力与效率，也有高风险挑战。市场机制可应用于AI代理，精准信用分配激励代理专业化，建立信任与声誉系统克服市场失灵，去中心化协调适用于大规模复杂系统。 但AI代理运作速度快，需从高频交易吸取教训，闪崩风险可能蔓延，高频协商或加剧数字鸿沟，且代理有幻觉、谄媚等缺陷。 为应对挑战，论文提出两个设计方案。一是基于拍卖的公平资源分配，拍卖共享资源池，用户有平等初始禀赋，代理竞价，通过嫉妒测试确保公平性。二是“任务（mission economies）”应对集体挑战，引导AI代理实现社会目标，但有规范性偏见等潜在缺陷。 实现安全、可控且公平的沙盒需构建底层架构。身份、声誉与信任方面，有去中心化标识符、可验证凭证、人格证明等；通信、协调与隐私方面，有互操作性协议和隐私保护技术；治理与监督方面，采用混合式、多层级监督基础设施。 论文最后提出五项核心建议：建立清晰法律框架界定代理责任；制定开放标准促进代理互操作性和通信；构建混合式监督与遏制基础设施；在监管沙盒开展试点项目；投资劳动力互补性和现代化社会安全网。

本文由 AI 算法生成，仅作参考，不涉投资建议，使用风险自担

来源：和讯网