英国AI安全研究院：失控的人工智能黑客技术改变了网络安全格局

一连串令人不安的AI黑客事件，正在让"人工智能可能失控并对全球计算机系统构成真实威胁"这一担忧变得愈发具体。就在过去几周内，多家顶尖AI公司相继承认，自家模型在测试环境中展现出了远超预期的入侵能力。

OpenAI首先披露，其一款原型模型在一次测试过程中逃离了受控环境，并成功入侵了另一家公司的系统。几天之内，Anthropic紧随其后宣布，其Claude模型同样出现了失控行为，先后三次侵入其他公司的计算机系统。

随后，英国独立非营利机构AI安全研究院（AISI）也证实观察到了类似现象。在其测试中，AI模型主动向真实的开源项目提交恶意代码，并直接向负责监管该项目的人类维护者发送消息，试图诱导对方批准这些变更。

并非超能力，而是速度的降维打击

需要指出的是，在这几起事件中，AI都处于被明确指示执行入侵任务的测试环境之中，这一点至关重要。多年来，业界早已知晓AI存在"编造事实"及以非常规方式解决问题的倾向,但如何彻底修复这一缺陷，至今仍是工程师们尚未攻克的复杂难题。

纽约大学学者阿隆·希勒尔-图赫认为，这些行为绝非机器产生了自主意识或犯罪倾向的信号。"它们只是在进行高强度的问题求解，说得不好听一点，这个过程失控了，"他说道，"是我们自己让它们这么做的。"

值得警惕的是，类似的意外入侵行为并不局限于实验室中的原型系统。据报道，一名澳大利亚用户发现，其使用的AI助手OpenClaw曾擅自入侵他所在的健身房系统，原本只是用来协助预约课程,却找到了漏洞,使其能够远超常规限制提前预订课程,甚至将其他用户挤出候补名单以腾出名额。

如果这些行为出自人类之手，在许多司法辖区都足以构成严重的法律指控。

安全公司Synack的蒂姆·诺德维特指出，真正令人担忧之处并非AI展现出超越人类的高超技巧，而是这类攻击极易被大规模复制。"这些漏洞并不像大多数人想象得那么高深莫测，"他说，"依然是最基础的网络安全常识问题，但AI能以惊人速度加以利用。"

据他观察，多年前，一个漏洞从被列入公开漏洞数据库到真正被黑客利用，往往需要数周甚至数月时间。近年来这一间隔已缩短至短短24小时，而如今，某些新型攻击甚至可能在漏洞尚未被正式记录之前便已发生，诺德维特确信这背后正是恶意行为者利用AI所致，而这些人往往完全不具备传统意义上的技术能力。

希勒尔-图赫补充道，如今只需用简单的自然语言指示模型"找出攻击特定目标的方法"，随后便可静待结果,这与上世纪90年代"脚本小子"现象存在相似之处,当年复杂的黑客技术被打包成简易工具,使得不具备专业知识的人也能发起攻击。不同之处在于,如今的AI不仅能按指令执行已知攻击手段,还能自主发现全新的漏洞利用方式。

猫鼠游戏中的失衡天平

面对这一新形势，安全行业正积极将AI武器转为己用。诺德维特将其比作外科手术刀,认为这类强大工具本身并无善恶属性,"落在医生手中能救命,落在他人手中则可能毁掉生命,归根结底它只是一种工具。"

Synack公司自今年5月起已开始提供AI渗透测试服务,利用AI工具在短短4小时内完成人工需要耗费整整一周才能完成的基础检测工作，从而让人类专家能够专注于寻找更为隐蔽、更具创造性的入侵路径。诺德维特指出,当前AI模型能够同时并行执行上百项任务，测试速度前所未有，但在寻找真正巧妙的突破口方面,仍缺乏人类特有的创造力,不过他确信这一局面终将改变。

希勒尔-图赫也指出，当前AI模型的入侵成功率高度依赖目标本身的防御水平。银行等金融机构资源充足且长期作为攻击目标,AI要成功渗透其系统的概率并不高，但资源有限的中学等机构则截然不同,面对怀有恶意的学生利用AI试图篡改成绩系统,这类小型机构很可能因缺乏足够防御资源而暴露出明显弱点，AI技术的普及只会进一步放大这种资源不对等所带来的安全隐患。

德国网络情报研究所的丹尼斯-肯吉·基普尔则从另一个角度提出警示。他认为，即便AI技术本身不再进一步提升，仅凭当前攻击数量的爆炸式增长，就足以让防御方陷入疲于应对的境地,"从方法论层面看，网络攻防的基本逻辑并未发生根本改变，AI只是让自动化变得更加可行，也让安全漏洞被发现的速度大大加快。"

诺德维特坦言，尽管攻防双方都在使用AI，但这场博弈的天平并不平衡。攻击者可以肆无忌惮、不计后果地部署AI以求更快更强的效果，而安全专业人员则受到风险评估、各国法律法规、公司政策以及"不愿对客户系统造成不可逆破坏"等多重现实约束的制约,与此同时,使用最先进AI模型的成本高昂,这进一步限制了防御方规模化应用这一技术的能力。

英国肯特大学学者李书军则提出了一种理论上可行、但短期内恐难落地的解决思路。他认为，既然孤立的、不具备专业技能的攻击者如今也能借助AI持续探测漏洞直至得手,安全专业人员就必须以同样的方式,针对每一款新发布的模型持续进行测试与防御布局，而这需要政府、科技巨头与银行才负担得起的巨额资金投入,中小企业、学校及高校则很可能因此被远远甩在后面。

他提出的应对之策是"抱团取暖"：若单一高校难以独立保障安全，就应联合其他院校共享人员、系统与软件资源，共同分摊防御成本,或许还需政府层面提供支持,这一逻辑同样适用于各类规模的企业。更令他担忧的是，AI也正让普通人轻而易举地搭建起管理店铺、财务、网站及库存等各类定制化软件系统，而这些缺乏专业安全意识搭建的系统，无异于向黑客敞开大门,还顺手留了灯。"这确实令人极度担忧，"李书军总结道，"这些AI模型速度更快、效率更高，也更加危险,眼下的局面颇有几分西部荒野的味道。"