北京
在华尔街摸爬滚打几十年，Lloyd Blankfein见过太多风浪。1987年股灾、互联网泡沫破灭、2008年金融危机，还有危机后重塑整个行业的监管改革——这位高盛资深董事长、前CEO一路亲历。所以当他说AI有件事让他担忧，值得听清楚具体是什么。
不是超级智能，也不是自主武器。问题要 mundane 得多——某种程度上也更可怕。
"不是因为比我们聪明、要把我们变成宠物，"Blankfein在周一发布的Andreessen Horowitz播客The a16z Show中说道，"而是我们没能力检验它对不对。"他解释，运营大型机构时，不能犯错，数字至关重要。
他暗指AI、更泛指技术进步："一切都在后台嗡嗡运转，"你根本看不清所依赖技术的思考过程。"现在你可以留下一段软件，它能出去执行7万笔交易，"他说。回想他刚上交易大厅时，每个人都能听到每个错误，哪怕最微小的失误也会让房间安静下来。
这个简单解释或许最精准地道出了华尔街的困境——尽管已在交易、合规、后台运营上投入数十亿美元部署AI，却对让自主代理掌管真正重要的事务深怀戒心。
速度失控才是真正的风险
金融业早就明白：速度创造杠杆，杠杆双刃剑。时机精准的交易放大收益；失误的交易——以机器速度执行、横跨数千个仓位、在人类干预前完成——同样速度放大亏损。
Blankfein描述的不是假设。2010年"闪崩"，算法交易几分钟内短暂抹去近1万亿美元市值，早已预演过这一幕。2012年Knight Capital灾难更甚：一个软件故障让公司在45分钟内亏损4.4亿美元，实质摧毁了这家公司。这两起事件都比当前这一代AI代理早十多年。
新一代AI更快、更自主、更擅长串联决策而无需人工检查点。德勤2026年3月对MIT AI风险数据库的分析指出，仅银行业就存在超过350种由自主或代理行为引发的 distinct 风险——其中许多现有框架尚未覆盖。研究人员描述的正是Blankfein警告的核心机制：单一幻觉可在关联系统中级联扩散，支付路由代理可能在任何人察觉前错配资金，递归代理循环可将云成本推至六位数。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
