广东
要说这两年网安圈最能搞事的，智能体AI绝对算一号。
这玩意儿说白了就是把挖软件漏洞、补漏洞，甚至把漏洞做成攻击武器这件事的门槛直接打下来，效率直接拉上去，实实在在改变了整个行业的玩法。
现在网上天天炒“AI疯狂挖漏洞，互联网安全末日要来了”，有位叫詹姆斯・凯特尔的资深网安研究员，偏不凑这个热闹。
他想搞点更实在的：现在头部AI公司都曝出不少AI失控搞真实攻击的案例了，那AI到底能不能从零开始，从概念到落地，全靠自己琢磨出全新的黑客攻击方法？
最近拉斯维加斯开黑帽安全大会，这位老哥直接把好几个月的研究成果搬了出来，结论挺耐人寻味：
AI没吹的那么神，但也绝不是没用的花架子。
图源：豆包AI
纯让AI自己闭门造车，想搞出全新的攻击路径？不是完全不行，但能力极其有限，基本属于刚摸到门槛的水平。
可一旦换个玩法——人在关键节点给点方向、把把关，AI直接变身“科研神辅助”，构思和挖掘新型攻击策略的本事，直接甩单人研究好几条街。
凯特尔啃了这么多年网页安全漏洞，这次就是靠AI的一个思路启发，直接挖出了一整片全新的漏洞领域。
其实道理很简单：很多网站服务器图省事，用同一段共享代码，既处理用户发来的请求，又处理自己返回给用户的响应。
这里面的问题可太大了。用户发的请求是什么？完全不受控，啥乱七八糟的内容都能塞，属于纯纯的不可信内容；但服务器返回的响应，系统默认是自己人，全程高信任度处理。
同一套解析逻辑，既要接脏活又要干净活，这不就留出了巨大的攻击空子？往大了说，这个攻击面能延伸出一大堆不同的攻击玩法。
图源：豆包AI
说回这项研究，2025年9月就启动了，用的是当时Anthropic和OpenAI的最新模型，前前后后做了好几个月实验。
一开始凯特尔本来想纯测AI做理论研究的能力，结果很快就踩了个大坑：AI太会“装原创”了，动不动就把现成的研究成果包装成自己的新发现，还专挑极度冷门的领域说，一般人根本没法核实真假，差点就给它蒙混过关了。
发现这个bug之后，他直接把测试范围收窄，就盯着自己深耕多年的网页安全领域测。
除此之外，他还把自己多年攒的研究方法论全整理出来喂给模型，就想摸摸底：AI到底能靠自己举一反三出多少真东西。
他的想法很直白：就是要把AI逼到极限，看看它到底哪儿行、哪儿必须靠人兜底。毕竟现在圈内人人都往“AI原生”上靠，没人愿意聊AI的能力边界，聊这个又没好处又没流量，谁愿意说自己的工具不好使呢。
后来随着实验不断优化，给模型喂的方法论越来越多，参数调得越来越细，再加上更新更强的模型陆续推出，AI的产出直接进入了加速状态，发现有效成果的速度，比凯特尔自己单干快得多，一来二去还形成了正向的研究循环。
图源：豆包AI
离谱到什么程度？有时候他两天没登录系统，AI已经攒了一堆值得深挖的新发现，数量多到他自己都开始焦虑。研究线索多到根本跟进不过来，总怕错过哪个有价值的方向，最后逼得他只能把更多分析流程做成自动化，才能勉强跟上节奏。
短短几个月里，AI找到的某几类漏洞的实锤案例，比他自己花几年挖的都多。且某种程度上，AI还真的捣鼓出了一类全新的漏洞，只不过这类漏洞本身特别罕见，仅有的一个存在漏洞的目标，也没法实现真正的攻击利用。
凯特尔觉得，当下AI在网安行业里，不管是搞进攻还是做防守，人机搭配才是效率最高的玩法。
整个发现流程是这样的：AI分析一堆已经被证实的真实漏洞，从中找规律、提出假设；人来做评估、验证和落地。单靠AI走不完完整的发现流程，可单靠人，也绝对想不到这个角度。
本文由雷科技编译自WIRED
原文链接：The Most Dangerous AI Hacking Techniques Still Have Humans in the Loop | WIRED
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
