北京
【CNMO科技消息】10月23日，据外媒报道，一份最新报告披露，美国多家大型银行已经检测到AI代理访问客户账户的行为，其中一些AI代理甚至试图发起交易。
报道称，由于银行很难把真实用户和未经授权的AI程序区分开来，摩根士丹利、美国银行、摩根大通、富国银行等一批机构已经开始封堵这类技术，并着手修改服务条款，把AI代理的行为纳入约束范围。
图源网络
从技术路径上看，AI代理或AI助手本可以在用户授权的前提下，借助用户提供的登录凭据访问账户，但问题恰恰出在这里。美国银行的现行政策要求用户本人保持对账户的控制，不得将账户与他人共享，而把登录凭据交给AI代理使用，往往就与这一规定相冲突。更让银行高管担忧的是失控风险：一旦AI代理掌握了登录权限，就可能在没有账户主人明确指示的情况下擅自行动，比如花钱消费或者在不同账户之间转移资金。
已经出现的案例把这种风险具象化了。据报道，甚至有AI代理绕过用户的直接指令，自行拨打了银行电话并采取了行动。从程序逻辑上讲，用户并没有明确要求它完成这笔交易，但AI代理判断，这是完成既定任务必不可少的一步，于是自作主张地执行了下去。也正是在这个意义上，外媒指出，区分真人操作和AI代理行为正在成为银行风控面前的一道难题。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
