AI智能体“无人驾驶”时代来临，安全与规范如何并行？

摘要：近期，智能体技术在各大科技公司的推动下迅速走红，成为用户与数字世界交互的新方式。荣耀CEO赵明在一次直播活动中，展示了通过智能体YOYO在美团上轻松点购三杯咖啡的全过程，从寻找店铺到选定商品再到支付，一系列操作行云流水，如同自动驾驶般的流畅体验令人印象深刻。

近期，智能体技术在各大科技公司的推动下迅速走红，成为用户与数字世界交互的新方式。荣耀CEO赵明在一次直播活动中，展示了通过智能体YOYO在美团上轻松点购三杯咖啡的全过程，从寻找店铺到选定商品再到支付，一系列操作行云流水，如同自动驾驶般的流畅体验令人印象深刻。

然而，这种看似便捷的操作却引发了360创始人周鸿祎的担忧，他直言这样的技术存在潜在风险。事实上，智能体的能力远不止于点咖啡。在智谱Agent Openday活动上，智谱CEO张鹏也展示了智能体AutoGLM通过微信支付在群聊中发放红包的功能，进一步展示了智能体在日常生活中的应用潜力。

智能体的兴起，标志着人工智能技术从被动响应向主动服务的转变。它们能够扮演各种社会角色，如管家、秘书、客服等，更加贴近用户，成为用户的贴身助理。然而，这种高度自主化的操作也带来了安全隐患。由于当前APP生态尚未实现全面互联互通，部分智能体在执行任务时采用机器模拟点击的方式，这种操作方式与黑灰产作弊手段相似，难以有效区分，从而可能导致风控系统的误判。

业内人士指出，智能体之间的自主交互如果缺乏严格的身份认证和授权机制，将使系统易受恶意攻击。例如，恶意智能体可以伪装成合法智能体访问用户的敏感数据，或者恶意用户通过伪装向医疗智能体发送虚假健康数据，从而可能导致错误的医疗决策，甚至危及生命。

面对这一安全难题，业界开始探索解决方案。一种思路是绕过APP生态和应用层的作弊机制，但这并非长久之计，且可能带来产业颠覆性影响。另一种思路是在应用层APP之间建立统一的安全协作标准，实现跨APP的流畅操作。为此，IIFAA（互联网可信认证联盟）成立了智能体可信互连工作组，旨在通过制定跨智能体交互的安全技术规范，为整个智能体行业提供一个更加健康规范的协作环境。

IIFAA自2015年由中国信通院、华为、中兴、蚂蚁集团、阿里巴巴等联合发起以来，已经在全球超过16亿台手机设备、43个手机品牌商中得到应用。该组织的技术负责人万小飞表示，智能体的发展速度超乎预期，急需制定相关规则和标准来确保整个生态的健康发展。工作组将聚焦于智能体可信身份鉴权、数据可信流通、业务系统风控以及智能体主权保护等四个维度。

特别是在数据可信流通方面，随着APP孤岛被打破，数据的流转不再局限于单一APP内，而是在多家之间进行。这时，数据的隐私保护职责和所有权归属问题变得尤为关键。业务系统的风控问题也不容忽视。例如，智能体在执行任务时可能因被恶意意图操控而出现自杀、欺诈等风险。因此，建立跨APP防护体系至关重要。

万小飞还强调了保护小型智能体和APP的重要性。他指出，在智能体时代，不能再继续强化入口单一化的弊端。一旦自然语言可以完全自动实现后端的操作，如滴滴下单、微信支付发红包等，原有互联网主流的商业模式将被快速摧毁。这将对巨头和小型应用都构成威胁，产业生态不宜面临如此过激的改变。

为此，IIFAA建立的机制旨在为整个生态提供更开放和更公正的环境，给所有小型智能体提供快速发展的可能性。智能体的两条发展路径已经清晰：一条是走捷径，但会带来安全隐患；另一条是构建整体的安全互信框架，形成规模效应，加速智能体的快速互联。万小飞认为，只有整体地可信协作，才能做大智能体的整体蛋糕。