网易首页 > 网易号 > 正文 申请入驻

谷歌承认其AI模型在安全测试中侵入三家公司系统

0
分享至

  新华社旧金山9月18日电(记者吴晓凌)美国谷歌公司18日承认,其人工智能(AI)模型“双子座”今年5月在网络安全能力测试中,侵入了三家真实公司的系统。

  谷歌安全工程副总裁希瑟·阿德金斯在一份声明中说,在一次常规评估中,双子座模型利用网上公开信息获得了登录凭证,获得了三个其认为属于测试范围网站的访问权限。谷歌已确保三个相关实体获知此事,并与测试合作方调整测试流程。

  据美国《华尔街日报》报道,测试由以色列“非常规”人工智能公司实施。在其中一项测试中,双子座模型经反复尝试猜中密码,最终进入一个受保护的真实系统。在另外两项测试中,模型从公开存储库中找到登录凭证,并利用这些凭证进入其他公司的受保护系统。

  “非常规”人工智能公司的调查结果显示,相关测试场景使用一家虚构公司作为目标,但这家虚构公司与现实中的一家企业同名。同时,测试环境意外开放了互联网访问权限,导致一些接受测试的AI模型将真实网络目标误认为测试场景的一部分并采取网络攻击行动。

  按《华尔街日报》的说法,这是谷歌AI模型首起已知的自主入侵事件。谷歌方面已于7月底获知该事件,但在媒体问询前并未主动披露。谷歌方面表示,模型在发现进入真实公司系统后停止了相关行动,没有给涉及的公司造成损害,无需主动公开相关情况。

  此前已有数家美国知名AI企业承认旗下模型在测试中“越界”,侵入其他机构的系统,引发外界对美国AI模型安全和监管的担忧。

  7月下旬,美国开放人工智能研究中心(OpenAI)公开承认,其GPT-5.6 Sol等模型在内部评估中失控,突破隔离测试环境,侵入了“抱抱脸”公司的系统。随后,美国Anthropic公司披露,其三款模型曾在网络能力测试中未经授权访问其他机构的系统。8月初,美国元公司证实,其一款模型在网络安全能力评测期间侵入其他公司系统。(完)

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
终于明白为啥年轻人说最近的就业环境有点可怕了!评论区一针见血

终于明白为啥年轻人说最近的就业环境有点可怕了!评论区一针见血

另子维爱读史
2026-11-16 21:52:15
高峰做梦也没有想到,才22岁的儿子,如今已经为母亲那英争光了!

高峰做梦也没有想到,才22岁的儿子,如今已经为母亲那英争光了!

陈意小可爱
2026-11-19 06:03:38
纽约时报:白宫内部对华政策分歧公开,贝森特立场持续转向鹰派

纽约时报:白宫内部对华政策分歧公开,贝森特立场持续转向鹰派

荆楚寰宇文枢
2026-11-17 23:39:55
真是毁三观!释永信21年前与刘立明在郑州发生关系的笔录曝光

真是毁三观!释永信21年前与刘立明在郑州发生关系的笔录曝光

魔都姐姐杂谈
2025-07-28 14:35:36
凭借《后会友期》热度,许飞2026年11月17号官宣参演全新综艺《天涯共此时》

凭借《后会友期》热度,许飞2026年11月17号官宣参演全新综艺《天涯共此时》

晓今娱
2026-11-18 15:01:52
“霍邱老人拆墙让路”调查:“女儿是记者”等网上传言不实

“霍邱老人拆墙让路”调查:“女儿是记者”等网上传言不实

极目新闻
2026-11-18 19:24:20
小马科斯人还没到中国,菲方就先提了一个要求!口气挺大的!

小马科斯人还没到中国,菲方就先提了一个要求!口气挺大的!

叶老四
2026-11-17 21:16:24
斩首行动落地!以军锁定目标,深夜发起突袭,哈马斯指挥官已阵亡

斩首行动落地!以军锁定目标,深夜发起突袭,哈马斯指挥官已阵亡

巷北楠猫本尊
2026-11-16 16:00:00
英伟达明确“黄仁勋不会回归”,其临时CEO在公司全员大会上表示:让我们向前看,我们能应对;这是黄仁勋离开以来,首次召开全员大会

英伟达明确“黄仁勋不会回归”,其临时CEO在公司全员大会上表示:让我们向前看,我们能应对;这是黄仁勋离开以来,首次召开全员大会

三湘都市报
2026-11-19 08:36:44
霍建华完全不医美每天7、8点睡,吐不演老婆林心如作品原因

霍建华完全不医美每天7、8点睡,吐不演老婆林心如作品原因

达达哥
2026-11-17 16:16:43
西方人终于发现了,中国人对世界大战的理解,与他们想的不一样

西方人终于发现了,中国人对世界大战的理解,与他们想的不一样

文史道
2024-12-08 06:45:03
“深圳废弃外卖盒做成长凳亮相APEC”,冲上热搜,一张长凳由825个回收餐盒和饮品杯制成;观点:深圳给出绿色转型精妙样本

“深圳废弃外卖盒做成长凳亮相APEC”,冲上热搜,一张长凳由825个回收餐盒和饮品杯制成;观点:深圳给出绿色转型精妙样本

大风新闻
2026-11-18 11:16:21
杭州一顶豪楼盘买家平均年龄仅45岁

杭州一顶豪楼盘买家平均年龄仅45岁

21世纪经济报道
2026-11-19 02:47:24
“杂牌军”再获惊喜!击败联赛前九的广州队,神奇教练激活CBA7弃将

“杂牌军”再获惊喜!击败联赛前九的广州队,神奇教练激活CBA7弃将

南海浪花
2026-11-18 18:11:25
张爱萍晚年对秘书坦言:彭德怀坐镇军委时,全军高级将领全部都无条件服从统一指挥,功劳再大资历再老也没例外

张爱萍晚年对秘书坦言:彭德怀坐镇军委时,全军高级将领全部都无条件服从统一指挥,功劳再大资历再老也没例外

磊子讲史
2026-11-12 14:13:18
北京退休教授娶30岁美女空姐,次年生下龙凤胎,前男友突然找来

北京退休教授娶30岁美女空姐,次年生下龙凤胎,前男友突然找来

秋风专栏
2025-04-27 11:16:32
美国记者站在深圳街头惊叹不已,真正让美国害怕的,从来不是速度

美国记者站在深圳街头惊叹不已,真正让美国害怕的,从来不是速度

讲者普拉斯
2026-11-17 21:55:42
广东3消息!徐杰王者归来,宏远官宣新援加盟,阿祖应该被裁

广东3消息!徐杰王者归来,宏远官宣新援加盟,阿祖应该被裁

多特体育说
2026-11-19 00:02:19
同为八桂大地,南宁难获兄弟城市认同?背后不是对立,是现实差异

同为八桂大地,南宁难获兄弟城市认同?背后不是对立,是现实差异

趣味萌宠的日常
2026-11-19 03:54:38
离岸信托大规模补税和奶茶老板的财富过山车

离岸信托大规模补税和奶茶老板的财富过山车

法师今天失业了吗
2026-11-19 01:07:51
2026-11-19 09:23:00
新华社 incentive-icons
新华社
新华社是国家通讯社
730648文章数 2441391关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

亲子
手机
旅游
教育
公开课

亲子要闻

宝宝气人但是聪明的4个行为

手机要闻

2026年最后一款超模旗舰!小米18标准版屏幕、性能、影像全面领跑

旅游要闻

青岛冬日赏鸥地图|沿着海岸线,赴一场海鸥之约

教育要闻

济南市历下区燕山小学教育集团将出席2026第四届课博会,解码“做中学”视域下小学科学教育生态构建

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版