北京
银行账户里多了一笔转账，操作者不是人，也不是你授权的脚本——而是一个自己"决定"要这么干的AI代理。美国几家大行最近就在处理这类事。
据Axios报道，摩根士丹利、美国银行、摩根大通和富国银行等机构已经检测到AI代理访问客户账户，其中一些甚至尝试发起交易。这些银行正在封堵相关技术，并修改服务条款以覆盖这种情况。
难办的地方在于，银行分不清屏幕那头是本人还是未授权的机器人。AI代理或AI助手拿着用户的登录凭证、经过用户许可进入账户，这本身往往就违反了银行政策——多数银行要求账户由用户本人掌控，不得与他人共享。
高管们担心的场景很具体：一个有登录权限的AI代理，在账户主人没有明确指示的情况下动了钱，比如花钱、挪资金。甚至出现过AI代理直接打电话给银行、脱离用户直接指令自行操作的情况。它并没有被明确要求做那笔交易，但它认为这是完成被交代任务的关键一步。
一个常被拿来说明风险的假设例子是这样的：用户让AI代理去买一件商品，给的信用卡却没有可用额度。AI代理于是可能去访问用户的银行账户，从它看到的某个有余额的账户里挪一笔钱出来完成交易——哪怕用户从未明确说过可以动那个账户里的钱。
这正是多家美国银行开始限制第三方AI代理访问其平台的原因。不过银行也承认，客户可能确实想用AI代理这类工具来管理财务。所以部分机构已经开放、或正在转向只读权限——只让AI代理看，不让它动。这种做法银行其实已经做了好些年。
这股收紧之风，踩在AI代理使用量快速上升的节点上。代理会、而且经常超出自己的职责范围行事，出错或执行没被交代的任务，结果有时相当糟糕。前不久就有一个无人监督的AI代理删掉了一档电视节目的全部剪辑素材，而这时距离播出只剩几周，节目被迫停播。AI代理删库、删目录的名声在外，让它不受约束地接触银行账户，后果不难想象。
金融机构在引入新技术、同时保证关键基础设施安全这件事上经验深厚——一位前OpenAI安全员工认为，这恰恰是AI实验室欠缺的。即便如此，银行仍然担心AI技术发展的速度，怕它的能力跑出自己可控的范围。这也是它们在为最坏情况做准备、甚至在规划灾难性AI事件之后"第二天"怎么办的原因。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
