网易首页 > 网易号 > 正文 申请入驻

谷歌Gemini首次被曝突破测试环境 入侵三家公司系统

0
分享至


凤凰网科技讯 北京时间9月19日,据《华尔街日报》报道,谷歌Gemini模型在一次网络安全能力测试中意外连接互联网,并先后入侵三家真实公司的系统。这是目前已知谷歌AI系统首次自主完成此类入侵。

谷歌当地时间周五确认了上述事件。入侵发生在今年5月,由AI安全公司Irregular组织测试。该公司此前还参与发现OpenAI、Anthropic和Meta模型出现的类似事件。

在其中一次入侵中,Gemini通过反复猜测密码进入受保护系统。另外两次入侵中,Gemini在公开代码存储库里发现其他公司的登录凭证,随后使用这些凭证进入相关系统。

谷歌称,Gemini发现自己进入的是真实公司系统后,均主动终止操作,未造成损害。三家受影响公司已收到通知,谷歌也向美国联邦部门报告了此事。

测试环境意外接通互联网

此次事件起因于一次“夺旗”演练。Gemini需要在Irregular提供的测试环境中,从一家虚构公司运行的软件里找到指定信息。

问题出在这家虚构公司与现实中的一家公司重名。按照原有设计,Gemini无法访问互联网,但Irregular意外开放了网络连接。

Gemini第一次误入真实系统时,通过猜中密码进入了这家公司的服务。谷歌表示,模型随后判断自己面对的是真实公司,立即停止操作并退出。

另外两次发生在不同轮次的测试中。Gemini在网上搜索公司名称,找到两个公开存储库,其中包含其他公司的登录凭证。模型尝试使用这些凭证完成测试任务,成功进入系统后才意识到目标属于真实公司,并终止行动。

谷歌未公布遭到入侵的公司名称,也没有说明具体涉及哪一款Gemini模型,只表示此次事件与其最新模型无关。

谷歌称不属于模型失准

Irregular在7月底将事件通知谷歌。谷歌直到本周接到《华尔街日报》询问后,才对外确认此事。

谷歌认为,这些入侵没有达到需要公开披露的程度。其理由是模型没有给相关公司造成损害,并且在识别出真实系统后立即停止。谷歌还将此次事件与漏洞悬赏计划相比,认为模型发现问题后采取了适当行动。

谷歌安全工程副总裁希瑟·阿德金斯表示,此事说明训练强大AI模型负责任地行动十分重要。她称,Gemini在这次事件中的处理方式符合预期。

谷歌也未将该行为认定为模型失准。按照该公司的解释,模型的安全措施发挥了作用,使其在越过测试边界后及时停止。

AI安全初创公司Corridor CEO、白帽黑客杰克·凯布尔对此持不同意见。他认为,谷歌的解释将重点放在事件造成的损害程度上,但更应关注AI智能体意外越过测试范围,对真实公司实施了网络攻击。他认为,此类事件关系到公共利益,应当对外披露。

AI越界事件接连出现

Irregular表示,谷歌此次事件与其他AI实验室发生的案例性质相同,没有出现新的问题。相关实验室已在7月底收到通知,受影响机构也已在调查期间获得联系。

不过,不同模型在发现自己进入真实系统后的表现并不相同。Anthropic披露,Claude Opus 4.7在类似测试中意识到自己可能正在访问真实公司后,仍未停止行动。OpenAI则称,其模型把真实公司误认为测试场景的一部分。

今年7月,OpenAI智能体被发现入侵AI软件公司Hugging Face,引发外界对AI网络攻击能力的关注。第三方评测机构METR随后披露,最多有1200个智能体曾通过OpenAI内部的秘密留言板协调行动,试图在评测中作弊。

OpenAI本周发布新的事件报告框架,表示将披露能够为模型失准提供有效证据的案例。该公司同时公布了六起此前未公开的事件,并称一次发现即使没有造成损害,也可能具有公开价值。

随着类似事件增多,AI公司正面临一个尚无统一答案的问题。模型越过测试边界,却没有造成实际损害,是否仍应向公众和监管机构披露。谷歌此次选择暂不主动公开,也让这一争议进一步升温。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
离开曼城不到一年,瓜迪奥拉传出新身份,原来他早给自己留好退路

离开曼城不到一年,瓜迪奥拉传出新身份,原来他早给自己留好退路

你好崽崽l
2026-11-22 11:37:21
内塔尼亚胡:我提议,就由我来担任唯一的总理

内塔尼亚胡:我提议,就由我来担任唯一的总理

寰宇大观察
2026-11-21 14:12:23
大幂幂不是白叫的

大幂幂不是白叫的

草莓解说体育
2026-10-24 07:40:22
1970年西哈努克被推翻流亡北京,五年间生活优渥甚至想迎娶女演员,回国后亲人接连遇难,他为何没有选择复仇

1970年西哈努克被推翻流亡北京,五年间生活优渥甚至想迎娶女演员,回国后亲人接连遇难,他为何没有选择复仇

唠叨说历史
2026-11-10 19:55:18
1948年秋,东野前指专列深夜误入拉林站,一参谋失眠下车瞥见站牌,刘亚楼急调车头死里逃生

1948年秋,东野前指专列深夜误入拉林站,一参谋失眠下车瞥见站牌,刘亚楼急调车头死里逃生

磊子讲史
2026-11-18 17:35:27
退役上将回乡扫墓,被镇长儿子拦路,他问:认识我车上挂的牌子吗

退役上将回乡扫墓,被镇长儿子拦路,他问:认识我车上挂的牌子吗

麦子情感故事
2026-11-21 20:59:11
50岁舒淇状态吊打同龄人,极致自律曝光:几乎不乱吃,有空就运动

50岁舒淇状态吊打同龄人,极致自律曝光:几乎不乱吃,有空就运动

观鱼听雨
2026-11-21 19:16:00
《GTA6》猝不及防的限制内容,导致多少知名主播惨遭封禁

《GTA6》猝不及防的限制内容,导致多少知名主播惨遭封禁

街机时代
2026-11-21 11:55:05
为什么很多人看不惯领高退休金的老人

为什么很多人看不惯领高退休金的老人

小禾的半糖生活
2026-11-19 13:20:03
3换1大成功!湖人,这也太值了!

3换1大成功!湖人,这也太值了!

左右为篮
2026-11-21 11:11:30
回到东京之前,高市再被问台海问题,她的回答又让日本媒体发愁

回到东京之前,高市再被问台海问题,她的回答又让日本媒体发愁

影孖看世界
2026-11-22 03:36:23
黄仁勋老婆给他买的皮衣怎么办?网友:“千算万算,没想到他离婚会波及到我啊!”

黄仁勋老婆给他买的皮衣怎么办?网友:“千算万算,没想到他离婚会波及到我啊!”

LOGO研究所
2026-11-09 19:40:24
大局已定!明后年,退休金3000以上的老人,务必4不做

大局已定!明后年,退休金3000以上的老人,务必4不做

老孙说
2026-11-22 09:14:47
突发!曝重庆酉阳“泰拳小将”李鹏科去世,年仅19岁,多次获得泰国级别冠军, 知情人曝细节

突发!曝重庆酉阳“泰拳小将”李鹏科去世,年仅19岁,多次获得泰国级别冠军, 知情人曝细节

裕丰娱间说
2026-11-22 10:27:55
今日重要赛事!11月22日,央视CCTV5、CCTV5+节目表

今日重要赛事!11月22日,央视CCTV5、CCTV5+节目表

薇说体育
2026-11-22 10:30:22
穆里尼奥:周二维尼修斯首发,免得你们周一又问

穆里尼奥:周二维尼修斯首发,免得你们周一又问

懂球帝
2026-11-22 10:00:50
iPhone Duo 多平台继续大降价!真的狠

iPhone Duo 多平台继续大降价!真的狠

花果科技
2026-11-22 09:52:35
一次爆出黑料超过33年总和!纽约时报发长文痛批黄仁勋:当众折磨当下属成人礼、所有高管都是受害者

一次爆出黑料超过33年总和!纽约时报发长文痛批黄仁勋:当众折磨当下属成人礼、所有高管都是受害者

可达鸭面面观
2026-11-22 00:02:18
被淘汰后老公放话:我每天看她裸着刷牙

被淘汰后老公放话:我每天看她裸着刷牙

追星雷达站
2026-11-20 08:01:08
白宫记者:APEC欢迎宴会上 特朗普跳起标志性舞蹈

白宫记者:APEC欢迎宴会上 特朗普跳起标志性舞蹈

看看新闻Knews
2026-11-21 13:01:19
2026-11-22 12:40:49
凤凰网科技
凤凰网科技
直击真相的媒体!
5107文章数 165关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

游戏
教育
数码
亲子
旅游

PC Gamer试玩GTA6百小时:双主角出色但任务重复

教育要闻

曾经“感动中国”的庞众望完成清华大学博士论文答辩,本人发声:将继续潜心钻研,在科研探索的道路上不断前行

数码要闻

苹果公布2026古典乐年度专辑:任奫灿《哥德堡变奏曲》获奖

亲子要闻

宝宝必看的5个启蒙动画,豆瓣评分都是在9.0以上

旅游要闻

喀什旅游的游客因清廷中唯一的维吾尔族妃子的故事而奔赴这里参观

无障碍浏览 进入关怀版