网易首页 > 网易号 > 正文 申请入驻

谷歌警告:自主攻击时代已至,AI智能体自己找漏洞

0
分享至

谷歌威胁情报组(Google Threat Intelligence Group)发出警告,称恶意行为者正在利用AI智能体和多智能体框架,把网络攻击的不同阶段自动化,其中就包括寻找和利用漏洞。用他们的话说:“自主攻击的时代已经到来。”


电影里那种黑客躲在地下室、屏幕上绿字代码飞窜的画面,大概很快要换个拍法了。攻击的配方其实没怎么变——进一家公司系统最有效的路子,仍然是暴露的凭据和没打补丁的漏洞。变的是干这些活的人。

过去,这类侦察工作耗时耗力。现在有了ARTEX这类开源渗透测试工具,攻击者只需要提供一个目标和一项目标任务,剩下的交给AI去翻找。

一个“规划者”AI,把活分给一群智能体

目标和任务设定之后,一个规划者AI会把工作分派给其他智能体,它们随即开工。第一步是检查网站有没有暴露的文件、漏洞和内部API路由;接着探测登录系统、测试密码重置功能、寻找访问受限数据的路径。如果安全系统挡住了尝试,它们会更换IP地址再来一次。

被记录在案的AI网络攻击数量正在上升。仅2026年8月一个月,就有超过20个零日漏洞被利用,而去年同期平均每月是8个。

谷歌研究人员还发现了一个名为“exploit_agent”的多智能体漏洞研究与武器化框架。它的宿主想攻击法国的娱乐、媒体和教育网站。这个AI会对比某家公司更新前后的代码,找出潜在漏洞或问题,然后自行开发漏洞利用程序并部署——全程没有任何人批准。

不止图财:国家级团伙与“LLM劫持”

谷歌近期的报告还指出,盯上AI的不只是图财的网络犯罪分子。伊朗的国家支持团伙CALANQUE ION被发现在其社会工程和侦察任务中使用Gemini等大模型。与此同时,中国背景的黑客使用AI模型存放恶意文件、窃取数据,还利用其后端API从被入侵系统中外传文档。

由于大多数前沿AI模型价格不菲,一些黑客转而使用一种叫LLMJacking的手法——窃取一家公司的AI额度或访问权限。他们通过社会工程手段,或从公开的GitHub仓库中拿到登录凭据。一旦进入,就可以用这些权限策划网络攻击,或者把凭据拿到被称为“LLM Mixers”的非法交易平台上出售。报告在俄语和中文市场上都发现了相关广告,价格从每百万token 0.10美元到25美元不等。

智能体“越狱”之后

漫威电影里那个决定终结人类的奥创,离现实还有几步。但AI智能体确实在失控,最能说明问题的是Hugging Face那次攻击。

7月,OpenAI在测试一个新AI模型,任务是完成ExploitGym评估中的一项网络安全挑战。这个AI被放在沙箱里,无法访问互联网。然而在某个环节,模型逃了出来,接入互联网,并利用了Hugging Face服务器上此前未知的漏洞——只为找到题目的答案。更糟的是,这个智能体还试图掩盖自己的痕迹。

入侵另一家公司的服务器是犯罪行为。加州总检察长罗布·邦塔(Rob Bonta)起诉了OpenAI,称其“在缺乏适当监督或安全程序的情况下,明知故犯地测试一款危险产品,并就此误导公众——这种对公共安全的漠视违反了加州法律”。

谷歌则在设法阻止黑客滥用自家AI模型:收集真实攻击中的数据,用来训练Gemini的安全协议;同时推出AI Threat Defense系统,扫描服务器上的安全弱点,在黑客利用之前完成修复。就像电影里幻视击败了奥创,也许AI会成为我们对抗AI黑客的最佳武器。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
湖南一派出所副所长借钱8万仅还5万,当地回应:情况属实,已约谈当事人尽快还款,未发现其利用公职施加影响、索取财物或收受好处费的情况

湖南一派出所副所长借钱8万仅还5万,当地回应:情况属实,已约谈当事人尽快还款,未发现其利用公职施加影响、索取财物或收受好处费的情况

大风新闻
2026-11-22 17:34:10
一张假脸拉胯整部剧?蒋欣新剧里的女二号,嘴和鼻歪的真让人出戏

一张假脸拉胯整部剧?蒋欣新剧里的女二号,嘴和鼻歪的真让人出戏

一号崽崽
2026-11-22 13:20:40
住久了发现:客厅才是最浪费的空间,看看广东人的设计,实用又好看

住久了发现:客厅才是最浪费的空间,看看广东人的设计,实用又好看

绘本家居
2026-11-20 17:16:34
北大医学博士薄世宁,在ICU工作25年,劝告你:在健康时一定要找个能托付的人!人老了,比生病更可怕的,是身边没有一个“自己人”

北大医学博士薄世宁,在ICU工作25年,劝告你:在健康时一定要找个能托付的人!人老了,比生病更可怕的,是身边没有一个“自己人”

背包旅行
2026-11-21 17:31:24
晚清最残忍的午宴:8位大将满心欢喜赴宴,还没动筷就人头落地

晚清最残忍的午宴:8位大将满心欢喜赴宴,还没动筷就人头落地

纪实文录
2025-07-18 10:37:56
66岁欧阳震华将住养老院!丁克30年真相曝光,否认吃赌王孙女软饭

66岁欧阳震华将住养老院!丁克30年真相曝光,否认吃赌王孙女软饭

不太爱笑的小羊
2026-11-22 18:30:11
4年买了两辆新能源车,终于顿悟了:装不了家充桩,就该买纯电车

4年买了两辆新能源车,终于顿悟了:装不了家充桩,就该买纯电车

小怪吃美食
2026-11-21 15:08:34
上海南京路立C罗雕像被骂崇洋媚外!真没必要上纲上线,就是普通商业引流

上海南京路立C罗雕像被骂崇洋媚外!真没必要上纲上线,就是普通商业引流

大厂编外实习生
2026-11-22 10:39:57
官媒点名!4位明星化身老赖,最后一位臭名昭著,给大众提了个醒

官媒点名!4位明星化身老赖,最后一位臭名昭著,给大众提了个醒

林轻吟
2026-11-10 07:17:48
开油车的突然要笑了,不是油价大跌,是几个现实的问题慢慢露出来

开油车的突然要笑了,不是油价大跌,是几个现实的问题慢慢露出来

笑熬浆糊111
2026-11-22 11:24:58
6台能“饿死修理厂”的神车!按时保养60万公里不用动发动机,老板见了都头疼

6台能“饿死修理厂”的神车!按时保养60万公里不用动发动机,老板见了都头疼

三农老历
2026-11-22 16:23:38
尴尬!涨价后保时捷卡宴销量大跌!10月仅售557台!成绩下滑明显

尴尬!涨价后保时捷卡宴销量大跌!10月仅售557台!成绩下滑明显

沙雕小琳琳
2026-11-21 02:50:10
紧身短裤,是跑步最尴尬的装备

紧身短裤,是跑步最尴尬的装备

跑者排球视角
2026-11-20 06:59:54
日媒复盘这场外交较量:高市早苗原本铁了心要驱逐中国总领事,原本以为可以占到便宜,中方官员刘劲松一句话,直接掐灭日方挑衅图谋

日媒复盘这场外交较量:高市早苗原本铁了心要驱逐中国总领事,原本以为可以占到便宜,中方官员刘劲松一句话,直接掐灭日方挑衅图谋

磊子讲史
2026-11-11 17:22:17
“张朝阳被证监会出具警示函”,搜狐创始人张朝阳:不是我,AI区别不了同名同姓的人

“张朝阳被证监会出具警示函”,搜狐创始人张朝阳:不是我,AI区别不了同名同姓的人

红星新闻
2026-11-22 10:56:12
埃芬博格:拜仁高层不该这样对穆西亚拉,这种做法是灾难性的

埃芬博格:拜仁高层不该这样对穆西亚拉,这种做法是灾难性的

懂球帝
2026-11-22 21:09:08
生涯拿过MVP和最佳第六人有多难?历史仅2人做到,哈登之外还有谁?

生涯拿过MVP和最佳第六人有多难?历史仅2人做到,哈登之外还有谁?

篮球圈里的那些事
2026-11-22 15:00:45
意媒:米兰对阵黑马弗罗西诺内,对手反击次数意甲最多

意媒:米兰对阵黑马弗罗西诺内,对手反击次数意甲最多

懂球帝
2026-11-23 01:02:41
感谢中国女保镖,墨西哥首位女总统的人生同样彪悍:硬核能源学家,业余八段锦高手,在“史上最血腥选举”杀出重围,从未向特朗普低头

感谢中国女保镖,墨西哥首位女总统的人生同样彪悍:硬核能源学家,业余八段锦高手,在“史上最血腥选举”杀出重围,从未向特朗普低头

极目新闻
2026-11-21 20:11:56
苏州有个小伙,伺候女朋友整整七年,连袜子内裤都帮她洗,结果被一杯刚煮开、滚烫的姜茶泼了,他当场转身,彻底跟这段感情一刀两断。

苏州有个小伙,伺候女朋友整整七年,连袜子内裤都帮她洗,结果被一杯刚煮开、滚烫的姜茶泼了,他当场转身,彻底跟这段感情一刀两断。

品读时刻
2026-11-21 09:09:02
2026-11-23 01:36:49
我是一个粉刷匠2
我是一个粉刷匠2
有态度网友ytd
245文章数 176关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

艺术
亲子
数码
健康
公开课

艺术要闻

世界十大著名宫殿盘点:中国独占两席

亲子要闻

宝宝必看的5个启蒙动画,豆瓣评分都是在9.0以上

数码要闻

内存价格暴涨下,华硕考虑将中低端PC内存由16GB降至8GB

医生眼里"很伤腰"的椅子,很多人天天坐

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版