智能体跨APP服务带来安全挑战 20余家头部公司“抱团”应对

本报记者 李晖 北京报道

当你开着车准备去看电影，当下最流行的方式可能是——提出一个需求调动起智能助理，让它在帮你设计驾驶路线的同时，顺便查询、订票甚至提前点一杯咖啡。

2024年以来，AI智能体已成为赛道内各玩家的重要战略布局，手机终端、大模型及APP厂商纷纷推出“AI管家”等智能体产品。通过共享感知数据和任务协调优化实现智能响应，多个智能体协同工作，可以为用户提供更丰富的功能体验，但跨APP的服务调动也带来了不可预测的新风险。

为应对智能体高速发展带来的安全挑战，国内首个智能体安全生态协作组织——“IIFAA智能体可信互连工作组”（以下简称“工作组”）12月19日在北京成立。中国信通院、荣耀、OPPO、小米、华为、智谱、字节、阿里、蚂蚁、京东、中国移动、高通等20余家头部科技企业和单位成为工作组首批成员。

工作组技术总监张璇向《中国经营报》记者透露，接下来，工作组将围绕智能体可信认证、服务可信调用、数据可信流转、用户隐私与权益保护等方向，建设智能体可信互连行业规范，推动行业安全、健康发展。

多智能体间尚未可信互连

在上述开车买电影票和点咖啡的场景中，此前的路径是用户在各个互不关联的APP上获取服务。而在智能互连的生态系统中，一次调动涉及很多烦琐的操作步骤——需要由用户调动的智能体，去与负责出行的智能体、购票的智能体以及点餐智能体和社交智能体进行交互，最终完成所有需求。

“对用户而言，一条指令，往往会涉及到多个APP智能体产品，而智能体之间的打通很难，如何在端上实现多智能体间的可信互连，成为智能体发展中至关重要的问题。目前行业还在初期阶段，新技术在给用户带来便利的同时，也隐藏着安全风险。”信通院泰尔终端实验室信息安全部副主任傅山表示。

在此前的APP孤岛时代，很多问题不会出现，当APP之间真正开放连接的时候，很多问题开始出现。比如，智能体之间的服务互联最终要完成用户指令，这中间涉及到意图数据的共享传递和复杂任务拆解等必经流程。

在IIFAA联盟秘书长郑亮看来，这些流程在没有规范约束的情况下，就像开车没有红绿灯，非常容易滋生乱象，黑灰产有时候对新技术的掌握速度比防御方更快。

有一些乱象是主观行为。张璇举了一个例子：“我明明说要去北京，智能体偷偷帮我改成了要去上海，或者是明明以为买到了机票，但智能体帮我伪造了付款的账户。一些犯罪分子会把恶意的智能体进行伪装，加入到协作的智能体中，如果不能快速地把它识别出来，会对用户造成很大的伤害。”

而有一些乱象则是客观结果。“比如一个用户在某购物平台上买一瓶白酒没问题，但如果紧接着买一盒头孢，大概率会被定义成有危险，平台很可能会进行提示或阻断。但如果通过智能体购买，由于这两个行为分别是孤立的，不是在一个APP里面发生的，就可能被疏忽掉。”IIFAA互联网可信认证联盟技术负责人万小飞向记者表示。

“我们不能在问题出现之后再开始讨论秩序，这也是这个工作组存在的必要性。”郑亮认为，智能体之间需要开放协作，也需要共建安全互信的行业规范。这对行业长远的健康发展有至关重要的意义。

国外亦有相关探索

IIFAA互联网可信认证联盟成立于2015年，致力于可信身份认证等工作，拥有300多家成员单位。此次成立“IIFAA智能体可信互连工作组”，是希望通过制定跨智能体交互的相关标准等形式，为智能体行业的发展提供一个更加规范健康的协作环境。

“接下来，工作组将围绕智能体可信认证、服务可信调用、数据可信流转、用户隐私与权益保护等方向，建设智能体可信互连行业规范，推动行业安全、健康发展。”张璇介绍。

万小飞在回答记者提问时表示，工作组重心不会在智能体内部问题的定义和约束上，而更多建立智能体之间的协助机制，首先是身份的鉴别机制，怎么去鉴定对方向我发起的请求是可信的？未来可能还包括类似“买药买酒同时进行”时这种用户意图识别。

记者注意到，从整个OEM（原始设备制造商）的生态来看，包括国内的各大手机厂商和很多芯片的IP设计商，已经开始形成相关的技术白皮书。不过，在当前智能体厂商内部标准尚不健全的阶段去探索行业标准是否过早？

对此，万小飞认为，智能体行业的发展远超预期，整个工作组的预判是智能体本身的发展和它的行业标准制定，包括智能体和智能体互连的行业标准的制定，可能是并行进行的。

在工作抓手上，万小飞认为有三个关键点——第一个是硬件载体提供方即手机厂商要做相关的基础设施，第二个是APP智能体包括三方智能体要遵循相关的规范，串通这两个锚点的关键是有三方机构去拉通一些标准。

记者注意到，从国际范围看，虽然尚未有公开信息披露美国也已经针对智能体生态成立相关联盟机构，但有业内人士透露，这是由于中国智能体生态发展得更快，但目前google等公司也已经在做相关探索。

作为成员单位，智谱AI CEO张鹏认为，作为专注AI的公司，智谱非常注重技术安全和治理的同步发展，成立智能体行业组织在当下很有必要，可有效避免由于缺乏统一标准而可能导致的恶意攻击、隐私侵犯等安全隐患，促进整个行业的健康发展。”

蚂蚁集团副总裁李俊奎则表示，将会支持工作组推动智能体技术在各个应用场景中的广泛普及与信任建立，让AI更安全地服务于用户和行业。

（编辑：李晖 审核：何莎莎 校对：颜京宁）