网易首页 > 网易号 > 正文 申请入驻

谷歌也干了,Gemini“越狱”入侵三家公司

0
分享至

据路透社19日报道,谷歌公司的Gemini模型在一次网络安全能力测试期间接入互联网,入侵了三家企业的系统,这是谷歌AI模型实施此类入侵行为的首例已知案例。

这几起入侵事件发生在5月,当时独立网络安全评估机构Irregular正在开展网络安全测试。

谷歌安全工程副总裁阿德金斯在一份声明中介绍,在一次标准测试评估过程中,Gemini在互联网上搜集公开信息,通过猜测账号凭证,访问了三个它认定属于测试范围内的网站。

谷歌称,在全部三起事件中,Gemini模型随后都主动停止了入侵操作,未造成实际损害,谷歌也向美国联邦部门报告了此事。

阿德金斯表示:“我们已经告知三家公司相关情况,并协助合作测试方一起修改了测试流程。这些事件说明,训练高性能AI模型、使其能够做出负责任的行为,具有重要意义。”

另据《华尔街日报》报道,谷歌方面表示,此次Gemini的“越狱”事件是“身份误认”造成的。

事件起因于一次“夺旗”演练,Gemini需要在Irregular提供的测试环境中,从一家虚构公司运行的软件里找到指定信息。而这家虚构公司与现实中的一家公司重名。

Irregular称,按照原有设计,Gemini无法访问互联网,但却意外地获得了互联网访问权限。

在第一起事件中,Gemini通过反复猜测密码,成功进入了一家企业的受保护系统。谷歌表示,模型随后判断自己面对的是真实公司,立即停止操作并退出。

另外两次发生在不同轮次的测试中。Gemini在网上搜索公司名称,找到两个公开存储库,其中包含其他公司的登录凭证。模型尝试使用这些凭证完成测试任务,成功进入系统后才意识到目标属于真实公司,并终止行动。

谷歌未公布遭到入侵的公司名称,也没有说明具体涉及哪一款Gemini模型,只表示此次事件与其最新模型无关。

Irregular的发言人表示,本次事件暴露的问题同样影响了其他多家AI实验室,所有相关实验室都在7月下旬收到了通知。该发言人说:“我们发现的全部问题,早在数周前就已经修复完毕。”

Irregular曾多次卷入在模型评估过程中,模型逃逸测试环境并入侵其他公司系统的事件。此前,Meta、Anthropic和OpenAI也披露了相关同类事件。

Meta在8月表示,相关事件并未出现沙箱逃逸或是复杂的网络攻击。Irregular称,谷歌的案例与其他事件并无二致,并非新出现的问题,该公司正在研究安全开展人工智能网络安全评估的最佳模式。

报道提到,自7月曝出Hugging Face遭入侵事件后,外界对新一代大模型网络安全能力的担忧持续加剧。第三方测评机构 METR在8月发布的报告披露,在该事件中,多达1200个智能代理在OpenAI内部的秘密留言板上协同行动,试图在测评中作弊。

上周末,Anthropic、OpenAI、谷歌以及SpaceX的负责人均达成共识,认为有必要放缓人工智能的研发推进速度,不过这些企业均未说明具体该如何落地。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
著名演员史泰龙发声:我糟蹋了自己身体,看似健壮,其实是用“打包铁丝”勉强固定起来的,并借助于药物塑造身形

著名演员史泰龙发声:我糟蹋了自己身体,看似健壮,其实是用“打包铁丝”勉强固定起来的,并借助于药物塑造身形

上海约饭局
2026-10-06 21:05:57
45岁仍拍三级片还债,36E巨乳,被称香港妖女,60岁直播翻身破亿

45岁仍拍三级片还债,36E巨乳,被称香港妖女,60岁直播翻身破亿

轩逸阿II
2026-10-17 07:39:17
1949年李讷在课堂上指出老师错误,老师恼羞成怒:把你爸爸叫来

1949年李讷在课堂上指出老师错误,老师恼羞成怒:把你爸爸叫来

萧竹轻语
2025-08-04 11:45:40
风光不再!靠涨价延续数十年,中国烟草的黄金时代,正在改写

风光不再!靠涨价延续数十年,中国烟草的黄金时代,正在改写

户外钓鱼哥阿旱
2026-11-21 03:20:31
等不到2028大选了?莎拉阵营甩“重磅”炸弹,弹劾案已到生死关头

等不到2028大选了?莎拉阵营甩“重磅”炸弹,弹劾案已到生死关头

云上乌托邦
2026-11-21 00:10:04
贺炜谈国少0-5:回到顶级舞台才能遇到强手,看到世界才有发展动力

贺炜谈国少0-5:回到顶级舞台才能遇到强手,看到世界才有发展动力

懂球帝
2026-11-21 12:04:10
1952年,毛主席紧急召见贺龙和邓小平,严肃问:中国到底有几个台湾?

1952年,毛主席紧急召见贺龙和邓小平,严肃问:中国到底有几个台湾?

史论人生
2026-11-19 06:45:22
罗竞告别斯坦丘:愿你一切都好,Nico我的兄弟

罗竞告别斯坦丘:愿你一切都好,Nico我的兄弟

懂球帝
2026-11-21 12:36:03
三箱啤酒就超载?一台月销3万辆的爆款车,栽在一个储物盒上

三箱啤酒就超载?一台月销3万辆的爆款车,栽在一个储物盒上

娱乐圈的笔娱君
2026-11-21 13:46:13
车主花800元买了一张仿真虎皮坐垫,搭在院里晾晒,被路过孩子误传“有人杀老虎”,当事人:吓了一跳,派出所也准备出警

车主花800元买了一张仿真虎皮坐垫,搭在院里晾晒,被路过孩子误传“有人杀老虎”,当事人:吓了一跳,派出所也准备出警

番禺台
2026-11-21 01:27:56
克里米亚大桥不是友谊大桥!不是!不是!

克里米亚大桥不是友谊大桥!不是!不是!

天水人李成义
2026-11-20 11:00:17
发现一个很准的规律:只要儿子儿媳长期和父母同住一处,最后都会变得像"仇人"

发现一个很准的规律:只要儿子儿媳长期和父母同住一处,最后都会变得像"仇人"

小书虫妈妈
2026-11-08 12:13:59
“股神”再现!千万级投资者晒账户,入市累计盈利596万,在市场恐慌时直言继续加仓

“股神”再现!千万级投资者晒账户,入市累计盈利596万,在市场恐慌时直言继续加仓

火山詩话
2026-11-21 16:11:19
许曦文许韶恩最新同框视频曝光——有一种感情好叫我们

许曦文许韶恩最新同框视频曝光——有一种感情好叫我们

流云随风去远方
2026-11-20 13:26:50
毛主席访苏途中车窗突然打开,高岗对陈伯达怒吼:你想干什么?

毛主席访苏途中车窗突然打开,高岗对陈伯达怒吼:你想干什么?

微野谈写作
2026-11-21 14:25:09
美国人评论亚洲街道:日本干净,印度脏乱,而中国只用4个字形容

美国人评论亚洲街道:日本干净,印度脏乱,而中国只用4个字形容

傲傲讲历史
2026-11-07 09:18:49
解放军的19式钛水壶,真是"钛"高级了!从小装备见证大国崛起

解放军的19式钛水壶,真是"钛"高级了!从小装备见证大国崛起

浩渺青史
2026-11-16 03:55:23
APEC峰会已经结束,各国都拿到了大结果,为啥唯独不见莫迪的影子

APEC峰会已经结束,各国都拿到了大结果,为啥唯独不见莫迪的影子

影孖看世界
2026-11-20 23:22:07
宁愿把80%石油绕远送欧洲,也不愿就近多给中国,到底图什么?

宁愿把80%石油绕远送欧洲,也不愿就近多给中国,到底图什么?

慕名而来只为你
2026-11-19 21:45:20
峨眉山偶遇刘涛!48岁素颜爬山状态引热议

峨眉山偶遇刘涛!48岁素颜爬山状态引热议

手工制作阿歼
2026-11-20 13:03:18
2026-11-21 17:08:49
观察者网 incentive-icons
观察者网
全球视野,中国关怀
157494文章数 1851595关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

特朗普亚洲行后举行记者会 为与普京的"朋友"关系辩护

头条要闻

特朗普亚洲行后举行记者会 为与普京的"朋友"关系辩护

体育要闻

伦德伯格撞墙的力度真不轻

娱乐要闻

虞书欣擦边自拍、霸凌同事、媒体点名?

财经要闻

走过三年牛市,黄金何去何从?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

房产
游戏
家居
数码
旅游

房产要闻

黄埔商业规划曝光!科学城能级跃升,核心入场券已锁定

《GTA6》突破30帧BUG曝光!最高能跑50多帧了

家居要闻

2026建博会(广州) 公装联探展交流活动

数码要闻

高驰VERTIX 4运动手表曝光:1.47英寸AMOLED屏幕

旅游要闻

自然堂未来美妆城一年游客5.4万人次背后:工业旅游能否成为美妆渠道之外的新触点?

无障碍浏览 进入关怀版