上海
被AI攻陷、400家银行被洗劫？全球互联网进入史上最黑暗48小时？
最近，社交平台上一条帖子说，黑客用AI攻破了400家银行和支付机构，疯狂收割银行密码和API密钥。这还是我印象里那个“事情交给我，你就操心吧”的AI吗？
赶紧查一下原文。内容的出处是美国网络安全公司Straiker在21号披露的事件。不过仔细看，并不是攻破了400家银行，而是攻击者用AI在数月内对400个银行和机构进行了“攻击的尝试”。
这个黑客组织从2012年，就开始用人工渗透和固定式脚本，对南美一些银行机构的系统发动攻击。以前很多攻击脚本都得靠码农手搓，能不能成要看黑客水平和机构的防护能力。最近他们用上了AI，还开发出一个叫“CARLIY0S”的多智能体框架，来帮助他们生成脚本，并通过自动化工具，把攻击环节串联起来。
这个黑客团伙并不能自己搞定模型，而是调用了Kimi、 Claude和Xai这样的商业人工智能模型，让这些AI在不同阶段担任不同任务。其中Claude被配置了四种角色，分别用于评估攻击方案、讨论和权衡攻击目标，并通过指定的仲裁角色作出最终决策。
研究人员获取了该团伙窃取的数据库，共包含4493条记录，涉及电子邮箱、金融账户信息、密码和API密钥等敏感资料。不过，报告并没有逐一公开所有目标机构的身份，也没有证明每一条凭证都仍然有效，更不能据此认定已经有金融机构发生资金损失。
从数量上来看，确实有少量信息被黑客拿到了，但是并不是“400家银行被攻破”。不过，黑客用上AI这事儿，还是值得我们警惕。
AI大模型为什么那么听话，难道没有预警机制吗？报告里提到，有些模型提出过拒绝。黑客除了切换备用模型外，还会通过话术，把任务的目的描述为经过授权的网络攻击测试或者学术性渗透测试场景、漏洞披露计划等，让AI模型认为它们在生成的内容最终会被用于防范网络安全风险。
这就提醒我们，AI网络安全风险已经不只是“某个模型会不会回答一个危险问题”，还涉及攻击者如何把不同模型、外部工具和预先编写的程序组合起来，以及AI是否能自主识别这样的风险。
值得一提的是，和Straiker报告的同一天，网站服务器常用的PHP的官方披露，自己在AI的辅助下，发现并修复了两个严重漏洞。可见AI用对了地方，也能大幅提升网络安全性，而且红客和黑客现在都在借助AI开展防御和攻击。那么，AI企业们如何更有效地验证使用者的身份和目的，就成了信息安全绕不过去的问题。
技术进步不会自动带来安全。AI跑得越快，安全防线就越不能慢半拍。
看看新闻记者: 陈俊杰
编辑: 杜钰愉
责编: 师玉诚
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
