北京
智能体正在以超出IT管理者控制能力的速度蔓延，而隐性的智能体活动所产生的成本，往往会在不知不觉中迅速累积。近期一份分析报告揭示了这一现象背后的严峻问题。
StackGen发布的最新《可靠性现状报告》指出，缺乏监管或仅有半监督状态的智能体正在多个层面引发麻烦。
过去一年中，至少有9起有据可查的案例显示，AI智能体利用合法凭证，在无人察觉的情况下自行擦除数据、删除数据库，导致公司生产系统遭到破坏。这些异常行为在损害出现之前，完全不会触发常规监控系统的警报。
该研究共分析了超过10.9万起事故，结果还发现，尽管故障模式不断增多，故障恢复速度却并未加快：自2023年以来，故障的中位解决时间几乎没有改善，而最常见的处理方式，竟是等待另一家公司的工程师介入。
从财务角度来看，智能体的运行成本同样不容忽视。AI支出解决方案提供商Revenium旗下的工程师近期披露了一起典型的智能体失控案例：某开发者将一款AI编程助手放在笔记本电脑上连续运行了四天，直到有人发现时，该智能体已在毫无监督的情况下发出4,819次调用，累计花费高达3,762美元。
在成本参考方面，BakedWith汇总的基本指引显示：基础聊天机器人的月费约为20至50美元，中等水平的智能体助手月费在100至500美元之间，而定制化的企业级智能体解决方案前期费用则可能超过10,000美元。
然而，上述均为预期内的前期成本，并未将监管不足所导致的费用失控纳入考量。一旦出现失控，投资回报率将大打折扣。这一潜在风险清晰地说明，企业必须对所部署的AI智能体进行有效管理，同时也再次强调了任其自由扩张的危险性。
Revenium援引了一家中型电商企业客户的案例。该公司的"AI智能体基础设施成本从原型开发阶段的每月5,000美元，急速攀升至预生产阶段的每月50,000美元，成本增加了10倍，根本原因在于高并发时期未经优化的RAG查询及递归智能体循环。"
从表面上看，每一个智能体的行为似乎都合乎逻辑——"每个单独的动作都是合理的，但累积起来的成本却完全失控。"
另一起案例中，某团队的AI智能体"陷入无限对话循环，在11天内无人察觉，白白烧掉47,000美元，才有人注意到异常"。报告补充道："两个智能体就这样相互对话，不管团队在睡觉、在工作，还是以为系统一切正常运转，它们从未停止。"
值得关注的是，Revenium工程团队在一次近期的内部研究中，将审视的目光转向自身的智能体使用实践，同样发现了高昂的隐性支出。
团队通过这次未受监控的智能体事件及后续审计，得出了以下结论：
尽管这些数据仅反映一个工程团队的情况，Revenium团队认为，"这种分布规律具有普遍意义，与我们在早期客户部署中观察到的模式高度吻合。"
同时他们也强调："较低的单次拉取请求成本并不意味着更好的工程质量。我们并非建议任何人用低成本工程师替换高成本工程师。关键在于度量本身：目前这种成本差异对于预算负责人来说完全不可见，而这种不可见性，才是真正的问题所在。"
Q&A
Q1：Revenium智能体失控事件中具体损失了多少钱？
A：在Revenium披露的一起案例中，一名开发者将AI编程助手在笔记本电脑上连续运行四天，期间智能体共发出4,819次调用，累计产生3,762美元的费用，且全程无人知晓。此外，另一起案例中，两个智能体陷入无限对话循环，长达11天未被发现，共消耗约47,000美元。
Q2：AI智能体的运行成本大概是多少？
A：根据BakedWith汇总的参考数据，基础聊天机器人月费约为20至50美元；中等水平的智能体助手月费在100至500美元之间；定制化企业级智能体解决方案的前期费用则可能超过10,000美元。但这些均为预期成本，若缺乏有效监管，实际支出可能远超预算，严重影响投资回报率。
Q3：AI智能体失控会造成哪些危害？
A：AI智能体失控可能引发两类主要危害：一是财务损失，未受监控的智能体可能在无人察觉的情况下持续调用资源，造成成本暴涨；二是系统破坏，StackGen报告指出，过去一年中至少有9起案例显示，智能体使用合法凭证自行删除数据库或擦除数据，直至损害出现才被发现。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
