作者:王聪彬
传统安全正在被AI颠覆,已经成为网络安全行业的共识。
今年10月,科技行业接连曝出严重软件漏洞、针对技术供应商的网络攻击,以及安全系统暴露出的薄弱环节。多起安全事件集中发生,让这个月被业界一些人士称为“黑色十月”。
“PHP2Shell”漏洞正式发布的四天前,亚马逊云科技的威胁监测系统就已经捕捉到类似的漏洞利用迹象。过去,企业还有时间按照既定流程分析漏洞、测试补丁、安排修复,如今面对一些高危漏洞,可能连一天都等不起。
当攻防方都开始使用AI,原本就不对称的攻防关系,变得更加棘手。亚马逊云科技正在尝试把AI用到更多安全工作中,从漏洞发现、风险验证一直延伸到自动修复。
攻击速度快了,防守时间短了
随着模型不断迭代,一些原本没有被刻意训练成网络安全专家的模型,却表现出了相当强的安全能力,能够发现代码漏洞、分析系统弱点,甚至尝试构建完整的攻击路径。
当AI有能力自己寻找漏洞、调用工具甚至执行操作,企业既要防范攻击者利用这些能力发起攻击,也要确保自己部署的智能体不会为了完成任务而越过安全边界。
![]()
亚马逊云科技安全合规高级经理江学森
在亚马逊云科技安全合规高级经理江学森看来,当前AI带来的网络安全威胁,主要体现在两个方面。
一类是Agent开始自主发起攻击。过去网络攻击通常由人主导,攻击者决定目标、选择工具并执行操作。但今年上半年以来,已经出现不少Agent自主发起攻击的现象。
这些Agent本身未必具有恶意,只是在执行任务时,会尝试各种可能的手段来达成目标,却无法判断某些行为是否违反安全规则。例如,有的Agent会尝试逃逸沙箱、寻找测试答案,还有的会攻击代码靶场、开源代码仓库,甚至伪造身份。
另一类是攻击者借助AI大幅提升了攻击能力。过去寻找系统漏洞、分析攻击路径,需要长期积累的专业知识和技术经验。现在AI降低了这些工作的技术门槛,让原本需要专业人员完成的攻击准备工作变得更加容易。
以钓鱼邮件为例,如今只需提供足够的样本,AI就能模仿相应的表达方式,生成具有欺骗性的邮件。类似的情况也出现在声音模仿上,只要有足够的公开语音样本,就可能利用AI模仿特定人员的声音。
尽管AI让网络攻击的速度和手段发生了变化,但许多安全事件暴露出的,依然是企业长期存在的四类问题。
第一是漏洞发现不及时。一些企业的系统中早已存在安全漏洞,但企业自身并未察觉,反而是攻击者先发现并加以利用,等到安全事件发生后,企业才意识到系统存在问题。
第二是漏洞修复不及时。对于普通手机用户来说,收到安全更新提醒后,往往只需点击升级就能完成修复。但企业应用要复杂得多,例如一个运行在云上的跨境电商网站,即使已经发现漏洞,也很难做到当天发现、第二天就完成修复。一旦补丁修复周期过长,攻击者就可能利用这段时间发起攻击。
第三是基础安全防护仍存在不足。像弱口令、密码长期不更换、账号没有启用多因素身份验证(MFA),这些都是传统网络安全中反复强调的问题。AI的出现并没有让这些基础要求发生变化,但让原本存在的安全隐患更容易被攻击者发现和利用。
第四是Agent的安全可控问题。随着企业开始构建Agent,除了防范外部攻击,还需要考虑内部的Agent是否可能攻击其他系统,以及如何避免Agent遭到攻击或被滥用。尤其是在Agent能够自主调用工具、执行任务的情况下,企业需要确保它始终按照使用者的真实意图开展操作。
AI时代安全攻击趋势归纳起来就是四条,分钟级:漏洞从公开到被利用时间窗口持续坍缩;全自主:AI 端到端完成攻击链无需人类指导介入;零门槛:一条指令发起复杂攻击,人人皆可发起专业攻击;低成本:极低成本发动攻击低价值目标也将被攻击。
AI时代,安全基本功更要扎实
亚马逊云科技从创立之初就将安全作为优先级最高的工作“Job Zero”,每一个服务从设计阶段就已经融入了安全基因。亚马逊云科技通过数学可证明的安全机制、基于AI/ML的主动防御,以及全球规模的威胁情报体系,构建覆盖基础设施、网络、身份、数据、应用与AI系统的多层次安全防线。
数学可证明的安全(Automated Reasoning):将自动推理技术融入多项安全服务,通过数学方法验证安全策略、资源访问权限及网络可达性,帮助识别潜在的安全风险。例如,IAM Access Analyzer可验证S3/IAM策略是否导致资源暴露,VPC Reachability Analyzer可分析网络配置中的可达路径,Amazon Bedrock Guardrails也可通过自动推理检查生成式AI输出的事实准确性。通过数学验证,将安全从基于概率的判断推进至可证明的确定性保障。
基于AI/ML的主动防御(AI/ML-based Active Defense):亚马逊云科技长期运用机器学习与AI开展大规模安全防御,每天分析超过400万亿条网络流,Amazon GuardDuty每小时监控超过8.8万亿条事件,保护超过10亿个EC2实例。2025年,亚马逊云科技拦截了超过3亿次针对存储于Amazon S3的客户数据的恶意加密尝试。通过自动化与智能分析,在大规模、持续演进的威胁环境中实现主动检测与防御。
全球规模的威胁情报与协同防御:通过MadPot、Mithra和Sonaris等内部威胁情报系统,持续感知互联网威胁、识别恶意活动、追踪攻击基础设施并自动采取防御措施。相关能力能够提前发现新型威胁、向客户提供主动预警,并与Amazon GuardDuty、Amazon Shield、Amazon WAF和Amazon Inspector等安全服务集成,形成从威胁发现、情报分析到检测与缓解的协同防御体系。
在客户看不到的地方,亚马逊云科技做了非常多的安全工作。江学森谈到,亚马逊云科技还做了不同威胁检测服务之间的联动,某一区域或客户遭遇并化解的威胁,将快速转化为安全资产与防护经验,进而赋能全球各区域的亚马逊云科技客户,减少同类威胁带来的风险。
亚马逊云科技针对AI时代的安全挑战提出了三个安全应对方向:利用AI提升安全防护能力、加强基础安全管理,以及构建安全可控的Agent。
利用AI应对AI带来的安全威胁。当攻击者已经开始借助AI分析系统、寻找漏洞时,企业也需要利用AI,争取在攻击者之前发现并解决问题。无论是文档、代码,还是系统和应用中潜藏的安全隐患,都应该尽可能提前排查和修复。
补齐基础安全防护的短板。如果企业仍在使用弱口令,账号没有启用多因素身份验证(MFA),或者访问密钥两三年都没有更换,即使投入更多资源进行漏洞检测,也很难保障系统安全。
确保Agent的行为安全可控。判断一个Agent是否安全可控,可以归结为两个方面:一是它说什么,二是它做什么。企业既要确保Agent的输出符合预期,也要保证它执行的操作符合用户的真实意图,所有行为都处于可控范围内。
让AI跑通漏洞发现、验证与修复
亚马逊云科技认为,用AI去解安全问题,应该遍布在整个过程当中。
10月,针对代码漏洞的Amazon Continuum正式可用,该服务采用多Agent协作架构,可发现和验证代码漏洞,然后以补丁的形式提供修复,用户可以自动执行修复,或以拉取请求的形式在存储库中提供修复。
Amazon Continuum根据代码及其环境上下文分析每项调查发现,并判断漏洞是否可被网络触达、攻击者可从中获取什么,并按业务影响对问题排序。
发现漏洞后,Amazon Continuum会自动创建隔离沙箱,在其中验证漏洞是否能够被实际利用,并在验证完成后生成修复报告。客户可以通过报告了解漏洞的具体情况、利用方式、验证过程以及相应的修复措施。
Amazon Continuum在修复上提供Learn Mode、Enforce Mode两种工作模式。在Learn Mode下,用户需要陪伴Amazon Continuum一段时间,让它熟悉客户的环境、日常运维方式,以及不同漏洞和问题的处理方法。经过这一过程后,用户可以切换到Enforce Mode,让其自动执行相关操作。
整个过程中仍然可以保留人在回路中(Human in the Loop),什么时候取消人工参与,或者在什么情况下需要人工介入,都由用户自行决定。
加州大学伯克利分校RDI推出的CyberGym-E2E公开基准测试中,Amazon Continuum以89.0%的端到端成功率位居第一,高出此前公开最佳纪录(65.9%)23.1个百分点;在不设时限运行时,端到端通过率可达93.7%。
“CyberGym-E2E公开基准测试看的不仅是发现,还有修复,修复后还要保证系统的正常运转。”江学森说道。
在实际应用中,跨境金融数字科技平台飞来汇通过Amazon Continuum,将原本需要数天的渗透测试缩短至几小时,每次代码拉取请求提交后,增量代码扫描只需1-2分钟即可反馈结果,并建立了7×24小时自动化检测与关键场景人工补充相结合的应用安全体系;日本SaaS安全公司HENNGE通过自主渗透测试,将安全验证周期从数周缩短至数小时,整体缩短90%以上,并实现对整个应用组合的7×24小时持续测试;韩国SaaS合作伙伴LG CNS则将渗透测试时间最多缩短80%,压缩至1天,全自主运行成本降低70%。借助上下文文档,安全评估的可靠性从60%提升至90%。
Amazon Continuum的身份认证沿用亚马逊云科技的IAM,同时依托现有的日志、可观测性和访问控制等基础安全服务。亚马逊云科技的威胁检测、网络安全等服务,可以将检测到的异常信息作为Amazon Continuum的输入。Amazon Continuum发现的漏洞还可以输出到统一的安全管理平台,例如中国客户常用的Security Hub。
并且Amazon Continuum还与Kiro实现了原生集成,开发者使用Kiro编写代码时,无需进行额外集成,只需在IDE界面启用Amazon Continuum插件。
“AI会重构所有的事情,而安全也会重构所有的AI。”按照江学森的理解。AI跟安全可以双向赋能,一方面,通过Security for AI,保障AI应用、数据和系统的安全,让企业有信心将更多关键业务交给AI;另一方面,通过AI for Security,将AI应用于更完整的安全流程,提升安全防护效率。
过去可能有14天的漏洞修复窗口,如今却可能只剩下2小时。当攻击者已经开始利用AI寻找漏洞,企业也需要用AI比攻击者更早发现问题、更快完成修复。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.