网易首页 > 网易号 > 正文 申请入驻

企业主面临新的安全问题:掌握公司机密访问权的AI智能体

0
分享至

网络安全专家就 AI 智能体和黑客可乘的漏洞敲响警钟。

尽管 OpenAI 那个黑进 Hugging Face 的失控智能体已经成了最新 AI 威胁的反面典型,但它绝非孤例。数天后,Anthropic 宣布其 AI 模型也失控了,黑入了外部组织。又过了几天,Meta宣布旗下一个智能体也接入了互联网,并黑入了第三方服务。

这些事件引发了担忧:AI 是否能被其创造者控制,以及随着这项技术不断变得更聪明,将会发生什么。开源安全软件公司 Truffle Security 的联合创始人兼首席执行官 Dylan Ayrey,以及 Feross Aboukhadijeh——安全基础设施公司 Socket 的创始人兼首席执行官——最近参加了a16z 播客,讨论这些攻击意味着什么,以及 AI 正在如何进入一个新时代。

这可能意味着开发者和企业主必须重新思考系统安全。以下是此次讨论中的一些主要要点。

黑客攻击的门槛低多了

虽然失控的AI代理尚未发明任何新的黑客技术,但它们让现有黑客手段更容易上手多了。

“每个人都需要担心,这些模型会大大降低黑进各种系统的难度,”Ayrey说。“以前搞黑客攻击,门槛就是得懂专业知识——现在模型自己就懂这些了。”

换句话说:如今想搞黑客的人,只要让受过训练、会黑系统的模型替自己动手就行。而这会让企业和个人面临更大的风险。

最容易得手的目标就是最佳目标

Ayrey说,这些AI模型是目标导向的。它们的目标就是满足请求;为了达成目标,它们会用上任何必要的网络安全手段。

某种程度上,这与人类黑客并无不同。黑客团伙通常专找那些存在未打补丁漏洞的目标,因为省时省力。AI黑系统时也一样“偷懒”,只不过它手里的工具比一般人类黑客多得多。

“他们会挑阻力最小的路子完成任务,”艾瑞说,“其中也包括借助自家的网络安全专长。”

阿布哈迪杰说,包括AI模型在内的攻击者之所以能找到这种容易下手的目标,靠的是利用开发者对软件的信任,而不是直接攻击某一个系统。

“让开发者装上它,然后你就能用在开发者安装时从他们那儿偷到的访问权限,让蠕虫自我传播,”他说。

这可不是什么“涌现行为”

艾瑞说,这些AI模型表现出的行为并不是什么涌现智能,而是它们训练方式上的一个缺陷。

“要是哪家实验室告诉你这是什么‘涌现’出来的超级智能行为,那他们就是在忽悠你,”他说。

AI 被黑客利用的风险同样不只限于由机器发起的攻击。人类黑客还能利用开发者常用的 AI 工具来绕开系统防护,而不必使用传统恶意软件。这能绕过安全系统现有的大部分 EDR(端点检测与响应)工具链,因为 AI 本身就有数据访问权限。

身份验证和补丁更新亟待加强

Aboukhadijeh 提到了 npm 即将实施的一项变动。npm 是程序员构建软件时常用的数字工具包。从 2027 年 1 月起,它将不再自动执行或发布更新。这些更新得由人工审核批准,目的就是防止黑客把恶意软件偷偷塞进系统。

“这会非常折腾,……但我觉得这么做是对的,”他说。

Ayrey 补充说,AI 让漏洞被发现得越来越快,现有的打补丁流程就跟不上了。总不能一有漏洞就指望工程团队做一次复杂升级。

“前沿模型正在大幅缩短从发现漏洞到利用漏洞之间的时间,”他说。“我们需要开始思考的是:我们怎样才能更快地打补丁?”

保护智能体,正变成新的“狂野西部”

随着技术发展,AI智能体未来可能获得大量凭据的访问权限。这确实方便,但风险也越来越大。可整个行业目前还没想好该怎么应对。

因此,IT部门要处理的安全问题,也将从只保护人类用户及其凭据,扩大到保护这些AI智能体,以及它们能访问的机密信息。

“现在智能体处理机密信息的方式,还是‘狂野西部’式的,问题尚未解决;我们正在全力解决这个问题,”Ayrey说。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
演员童瑶发文告别

演员童瑶发文告别

背包旅行
2026-10-16 11:55:16
持刀入室与21岁女子发生关系,事后用水擦拭痕迹逃了12年,归案不认罪,法院照样判了6年

持刀入室与21岁女子发生关系,事后用水擦拭痕迹逃了12年,归案不认罪,法院照样判了6年

一丝不苟的法律人
2026-11-09 11:29:32
江苏女排接应一脉相承,潜力新星陈嘉羽蓄势待发!接应人才太多

江苏女排接应一脉相承,潜力新星陈嘉羽蓄势待发!接应人才太多

金毛爱女排
2026-11-16 15:48:17
米切尔公开呼吁联盟取消对阵独行侠比赛 双重极端困境倒逼联盟调整赛程规则

米切尔公开呼吁联盟取消对阵独行侠比赛 双重极端困境倒逼联盟调整赛程规则

刘哥谈体育
2026-11-15 20:09:46
《谷雨》直到严平安身亡,欧阳煦才明白,周海洋的卧底在身边

《谷雨》直到严平安身亡,欧阳煦才明白,周海洋的卧底在身边

天玑影视说
2026-11-15 15:37:37
李奇微晚年亲口坦言,志愿军把重伤员安置在公路上等候美军接走撤离,全程未开一枪,这样的举动远比胜仗更令美军后背发凉

李奇微晚年亲口坦言,志愿军把重伤员安置在公路上等候美军接走撤离,全程未开一枪,这样的举动远比胜仗更令美军后背发凉

唠叨说历史
2026-11-09 20:04:03
一张“专科男生穿始祖鸟学习”照,被嘲笑惨了:穿上龙袍也不像太子

一张“专科男生穿始祖鸟学习”照,被嘲笑惨了:穿上龙袍也不像太子

泽泽先生
2026-11-15 13:59:44
1955 年饶漱石遭开除党籍,历多年关押服刑,晚年于农场度余生

1955 年饶漱石遭开除党籍,历多年关押服刑,晚年于农场度余生

唠叨说历史
2026-03-24 11:17:11
第一集就要打码,HBO把美剧拍明白了

第一集就要打码,HBO把美剧拍明白了

来看美剧
2026-09-22 21:26:15
“我女儿三科满分,清华料子”,家长被现实嘲讽:考上高中都算你牛

“我女儿三科满分,清华料子”,家长被现实嘲讽:考上高中都算你牛

熙熙说教
2026-11-03 14:41:08
寒冬模式开启 降雨、大风、降温先后抵达

寒冬模式开启 降雨、大风、降温先后抵达

北青网-北京青年报
2026-11-16 10:31:10
为寻求变态刺激,男子多次迷晕妻子供陌生男子强奸,自己在场拍照!法院:构成轮奸,判11年

为寻求变态刺激,男子多次迷晕妻子供陌生男子强奸,自己在场拍照!法院:构成轮奸,判11年

一丝不苟的法律人
2026-10-15 09:31:24
“蛋白吃得多,病就生得少”,4种高蛋白食物,男女老少都该常吃

“蛋白吃得多,病就生得少”,4种高蛋白食物,男女老少都该常吃

花小厨
2026-11-16 10:05:10
熊孩子把PS5涂成蓝色画布!家长看到后当场傻眼

熊孩子把PS5涂成蓝色画布!家长看到后当场傻眼

游民星空
2026-11-15 20:23:23
今日重要赛事!11月16日,央视CCTV5、CCTV5+节目表

今日重要赛事!11月16日,央视CCTV5、CCTV5+节目表

薇说体育
2026-11-16 10:49:49
央视提醒后发现:手机相册,潜在重大危险,比聊天记录更要危险

央视提醒后发现:手机相册,潜在重大危险,比聊天记录更要危险

据说说娱乐
2026-11-15 18:14:12
红薯被发现!再次提醒:高血糖患者常吃红薯,很快或迎来这5后果

红薯被发现!再次提醒:高血糖患者常吃红薯,很快或迎来这5后果

陈医生健康杂谈
2026-11-16 09:46:31
四川一景区招保洁需笔试和面试,体检“参照公务员录用特殊标准”,招聘方回应

四川一景区招保洁需笔试和面试,体检“参照公务员录用特殊标准”,招聘方回应

极目新闻
2026-11-16 12:23:15
解放台湾最大的阻力,或许不是美国,不是台独分子,而是另一邻国

解放台湾最大的阻力,或许不是美国,不是台独分子,而是另一邻国

文史道
2025-04-17 12:35:42
过气演员有多惨?卖房离开北京,回脏乱差山东老家,睡仓库很知足

过气演员有多惨?卖房离开北京,回脏乱差山东老家,睡仓库很知足

潋滟晴方DAY
2026-11-05 11:44:40
2026-11-16 18:24:49
生活魔术专家
生活魔术专家
里是「生活百科全书」,汇集了独特的生活小妙招和所见所得,让你轻松发现生活的美好与智慧
875文章数 8629关注度
往期回顾 全部

科技要闻

历史头一回!马斯克用"筷子"夹住太空飞船

头条要闻

上任2个月尤尼斯在街头遭暗杀身亡 知情人:被以"斩首"

头条要闻

上任2个月尤尼斯在街头遭暗杀身亡 知情人:被以"斩首"

体育要闻

NBA开赛最大惊喜,是他们?

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

更豪华更好开 问界新M8细节升级见真章

态度原创

家居
房产
亲子
游戏
公开课

家居要闻

2026建博会(广州) 公装联探展交流活动

房产要闻

从林屿间到林屿熙岸,招商蛇口在崖州湾为何总出爆款?

亲子要闻

宝宝气人但是聪明的4个行为

传《GTA6》主线约50个小时 全成就大约200个小时

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版