网易首页 > 网易号 > 正文 申请入驻

AI安全测试引发黑客事件,以色列公司承认系人为失误所致

0
分享至

以色列网络安全公司Irregular Security首席执行官承认,近期涉及多家顶级AI模型开发商的一系列网络攻击事件,根源在于该公司内部的人为失误。

11月3日周二,据彭博报道,Irregular Security首席执行官Dan Lahav在伦敦彭博科技峰会上表示,测试期间应有的安全隔离控制未被正确配置,导致AI模型突破封闭的沙盒测试环境,接入外部互联网,并在部分案例中对外部网站及计算机系统实施了可能违法的入侵行为。

Lahav此番公开表态,是迄今最直接的说明,但部分网络安全专家此前已指出,若安全护栏配置得当,这些事件本可避免。

Anthropic、OpenAI、Meta及谷歌均已披露了相关事件。

这一系列事件在全球范围内引发对AI发展速度的广泛警惕,并加剧了外界对前沿模型是否已超出人类有效管控的担忧。

配置失误是根本原因,非模型主动绕过安全机制

Dan Lahav在演讲中明确区分了两种不同性质的失败:是测试配置本身出错,而非AI模型主动颠覆安全机制。Dan Lahav说:

由于一个失误导致误解,隔离防护措施未能按照特定测试的预期设置。

这一定性对于理解事件性质至关重要。若属于模型主动突破安全边界,将意味着AI系统已具备对抗人类控制的能力,其影响将远比操作失误更为严峻。Lahav的说法将事件归咎于流程管理层面。

然而,Lahav至今披露的技术细节仍然有限。今年8月,他曾发表一篇逾1.1万字的博文,但该文并未正面回应具体技术问题,而是着重探讨其所称的"AI安全走向的紧迫议题"。

四大AI巨头均涉其中,安全测试机制受审视

据彭博报道,Anthropic、OpenAI、Meta及谷歌在过去六个月内相继披露了黑客事件,这些事件均发生于Irregular Security主导的模型安全评估测试期间。

AI模型评估旨在帮助开发商在产品公开发布前识别潜在风险并建立相应防护措施。

Irregular Security采取的评估模式是深度嵌入前沿AI实验室内部,对模型进行测试。这种模式赋予该公司高度的内部访问权限,使其站在了有关AI技术负责任部署这一核心议题的前沿位置。

此番事件将外界目光引向了AI安全评估体系的规范性问题——当被委托评估AI系统安全性的第三方机构自身出现重大操作失误时,整个评估机制的可靠性同样面临拷问。

Irregular Security此前已完成一轮由红杉资本(Sequoia Capital)和Redpoint Ventures领投的8000万美元融资。

融资公告发布时,红杉资本在博文中称,Irregular嵌入前沿AI实验室进行测试的模式赋予了该公司"前所未有的访问权限",使其"处于负责任部署这些技术相关讨论的核心位置"。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
重磅官宣!美国商务与司法部联合声明:黄乐不是间谍

重磅官宣!美国商务与司法部联合声明:黄乐不是间谍

起点财经
2026-11-17 15:47:51
现场视频:特朗普戴着红领带出发,正式开启亚洲行,将出席深圳APEC会议,登上“空军一号”前点赞挥手,称这将是一场重要旅程

现场视频:特朗普戴着红领带出发,正式开启亚洲行,将出席深圳APEC会议,登上“空军一号”前点赞挥手,称这将是一场重要旅程

每日经济新闻
2026-11-17 12:41:40
536分捡漏上北大考生被公派瑞士读博,他曾凭“国家专项计划”被北大提档,又以专业第一的成绩考研

536分捡漏上北大考生被公派瑞士读博,他曾凭“国家专项计划”被北大提档,又以专业第一的成绩考研

极目新闻
2026-11-16 22:53:06
男子被熟人骗至缅甸电诈园区,姐姐赴泰国营救

男子被熟人骗至缅甸电诈园区,姐姐赴泰国营救

网易新闻出品
2026-11-16 18:25:30
中核集团原总经理顾军被公诉,曾被批“廉洁底线失守,搞权色交易”

中核集团原总经理顾军被公诉,曾被批“廉洁底线失守,搞权色交易”

界面新闻
2026-11-17 10:24:01
如今的股票市场成了一个天大的笑话,现在买中国股票的人可笑到什么程度?

如今的股票市场成了一个天大的笑话,现在买中国股票的人可笑到什么程度?

星语者056
2026-11-17 08:45:38
克里米亚大桥被炸,勒庞承诺如当选继续援乌

克里米亚大桥被炸,勒庞承诺如当选继续援乌

名人苟或
2026-11-17 14:46:21
全力詹要回来了?美记:詹姆斯已告知76人教练组,他会在12月份提升自己的比赛状态

全力詹要回来了?美记:詹姆斯已告知76人教练组,他会在12月份提升自己的比赛状态

移动挡拆
2026-11-17 10:44:16
黄乐最新私密照爆出, 难怪黄仁勋把持不住!

黄乐最新私密照爆出, 难怪黄仁勋把持不住!

仕道
2026-11-17 11:11:01
被骂“滚回中国”后,华人家庭谢绝“当面道歉”!“没有必要,希望她自己想想为什么”

被骂“滚回中国”后,华人家庭谢绝“当面道歉”!“没有必要,希望她自己想想为什么”

发现新西兰
2026-11-16 11:23:23
美国媒体说黄仁勋疯了...

美国媒体说黄仁勋疯了...

新动察
2026-11-16 16:09:57
360集团:内审发现员工涉嫌经济问题,其正在接受有关部门调查

360集团:内审发现员工涉嫌经济问题,其正在接受有关部门调查

每日经济新闻
2026-11-17 11:55:04
广东惠州一男子将攒了18年的红包一次性拆开,从早上7点拆到10点,共拆了3小时,最后清点只有8523元,当事人:之前拆过一些100元的红包

广东惠州一男子将攒了18年的红包一次性拆开,从早上7点拆到10点,共拆了3小时,最后清点只有8523元,当事人:之前拆过一些100元的红包

潇湘晨报
2026-11-16 14:40:21
财政不再兜底、大公交退市、老年卡取消,四部委文件真如此说了?

财政不再兜底、大公交退市、老年卡取消,四部委文件真如此说了?

云霄纪史观
2026-11-17 04:30:23
这两天,网友们在围观一个叫玉芬的记者

这两天,网友们在围观一个叫玉芬的记者

清晖有墨
2026-11-17 12:40:13
蔚来向公安机关报案

蔚来向公安机关报案

极目新闻
2026-11-17 14:00:24
突发!大反转!黄仁勋果然翻盘!

突发!大反转!黄仁勋果然翻盘!

财经要参
2026-11-17 15:20:05
特朗普:我认为黄仁勋案没有涉及“间谍”

特朗普:我认为黄仁勋案没有涉及“间谍”

看看新闻Knews
2026-11-17 09:34:14
女子长相漂亮,还能赊账被杀,2011年排查几百个嫖客,凶手让人意外

女子长相漂亮,还能赊账被杀,2011年排查几百个嫖客,凶手让人意外

汉史趣闻
2026-11-17 09:30:11
11月17号收评:三大指数午后跳水集体收跌,均创下年内收盘新低!大盘后市将何去何从?

11月17号收评:三大指数午后跳水集体收跌,均创下年内收盘新低!大盘后市将何去何从?

春江财富
2026-11-17 15:18:23
2026-11-17 17:32:49
华尔街见闻官方 incentive-icons
华尔街见闻官方
中国领先的金融商业信息提供商
155100文章数 2655496关注度
往期回顾 全部

科技要闻

硅谷大佬组局,帮黄仁勋杀回来!

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

更豪华更好开 问界新M8细节升级见真章

态度原创

家居
旅游
房产
公开课
军事航空

家居要闻

2026建博会(广州) 公装联探展交流活动

旅游要闻

秋假遛娃剑门关,全程17000步,6个小时,喜提废腿体验!

房产要闻

6.6亿!海口卖地!

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

美军在中东再成三航母之势

无障碍浏览 进入关怀版