网易首页 > 网易号 > 正文 申请入驻

突发|Anthropic 内部系统被 AI Agent 12 小时攻破!会议记录、员工薪酬、内部模型讨论遭访问

0
分享至


编辑 | Tina

策划 | 蔡芳芳

《华盛顿邮报》查阅的一份 Cathedral 报告草稿称,研究人员运行 AI Agent 不到 12 小时,就找到了进入 Anthropic 内部系统的路径,并侵入了这家人工智能公司的内部敏感数据和消息系统。

Anthropic 随后确认,Cathedral 研究人员访问了公司销售、人力资源和 IT 系统中的部分数据;公司称,客户与 Claude 的对话、模型回复、源代码和模型权重均未被访问。

1 不到 12 小时,研究人员通过商业软件漏洞进入 Anthropic 系统

据《华盛顿邮报》查阅的报告草稿,Cathedral 近日向 Claude 聊天机器人的开发商 Anthropic 通报,其研究人员发现了进入这家 AI 公司内部数据和消息系统的路径。

Cathedral 由美国政府效率部(DOGE)的前成员创立,为美国政府和企业客户提供 AI 驱动的网络安全工具。报告称,研究人员利用了 Anthropic 和许多其他公司用于行政及销售工作的商业软件漏洞。

运行 AI Agent 不到 12 小时后,研究人员便找到了访问 Anthropic 内部数据的路径。Cathedral 的报告称,这些数据包括会议记录、薪酬和工作邀请详情,以及讨论 Anthropic 先进 AI 模型的 Slack 消息。Cathedral 是通过 Anthropic 的一项安全测试计划开展测试的;该计划允许外部网络安全专家测试公司的系统。

Anthropic 在声明中确认,Cathedral 研究人员访问了公司销售、人力资源和 IT 系统中的“有限数据”。公司称,研究人员接触到的内容包括部分客户和合作伙伴的商业联系信息,以及一些基础用户账户记录。

Anthropic 同时表示,研究人员无法访问客户发给 AI 模型的消息、模型返回的回复,也无法访问公司 AI 系统背后的代码或“模型权重”。因此,Cathedral 报告中提到的会议记录、薪酬信息和 Slack 消息,与 Anthropic 对实际访问范围的描述并不完全相同。

Anthropic 称,公司监控系统在 Cathedral 报告之前就发现了部分活动,并在当天关闭了相关访问权限。公司还表示,没有证据显示 Cathedral 以外的人员利用了这些漏洞。

2 漏洞来自第三方软件,双方对披露过程说法不同

Cathedral 通过 Anthropic 的网络安全测试计划披露了相关发现。该计划会向报告漏洞的安全研究人员提供奖励。报告草稿称,Cathedral 也通知了相关商业软件供应商,但出于安全考虑,没有公开这些公司的身份。

Anthropic 表示,公司禁用了涉及的商业软件,直到供应商确认漏洞已经修复后才重新启用。Cathedral 报告则称,研究人员“依照安全研究最佳实践,将数据访问量控制在绝对最低限度”。

双方对测试过程是否符合计划规则也有不同说法。Anthropic 认为,Cathedral 夸大了这些发现所“暗示的国家安全影响”,并称这家初创公司没有完整披露其在 Anthropic 系统中的全部活动,因此没有完全遵守漏洞奖励计划的规则。

一名 Cathedral 发言人拒绝置评。接近该公司的消息人士称,研究人员尝试访问 Anthropic 系统,是为了揭示美国领先 AI 开发商面临的安全挑战。由于发现涉及敏感信息,这名人士要求匿名。

AI 编程初创公司 Cognition 的首席信息安全官 Alex Stamos 应《华盛顿邮报》请求审阅了 Cathedral 的发现。他说:“他们发现了一个很严重的问题。”Stamos 曾任斯坦福大学网络政策中心下属斯坦福互联网观察站主任。

Stamos 认为,将第三方应用连接到公司系统所带来的风险,是“所有人都面临的巨大问题”。他说,Cathedral 的发现暴露出 Anthropic 管理外部软件供应商使用方式上的“漏洞”,“这是一个非常难解决的问题,但 Anthropic 本可以做得好得多”。Cognition 使用 Anthropic 及其他 AI 公司的模型。

3 事件引发对 AI 公司安全防护的担忧

Cathedral 的发现,让外界再次关注 AI 公司依赖第三方企业软件所带来的安全风险。普通商业软件一旦出现漏洞,可能成为攻击者进入大型科技公司内部系统的入口。Cathedral 在报告草稿中称,这一事件“揭示了一个严重差距:新兴的攻击能力正在增强,而防御体系没有跟上”。

报告还写道:“普通企业软件中的弱点竟能危及最先进组织的基础设施,这一事实应当为每一家企业敲响警钟。”

本月早些时候,联邦调查局逮捕了一名 ChatGPT 开发商 OpenAI 的员工。该员工涉嫌在一间高管会议室里放置录音设备。上个月,曾借助 Anthropic 的 Claude 聊天机器人侵入 OpenAI 系统的黑客警告称,AI 行业尚未准备好应对自身技术带来的安全风险。

Cathedral 由 DOGE 前成员创立,正寻求政府合同和私营部门机会。投资者对这家公司的估值为 14 亿美元。Cathedral 联合创始人 Gavin Kliger 在 DOGE 任职后,曾担任五角大楼首席数据官。

据数据公司 PitchBook,Cathedral 已从投资者处融资 1.6 亿美元。知名投资人 Marc Andreessen、Shaun Maguire 均在该公司董事会任职。

Anthropic 员工 Jacob Coxon 上个月公开辞职。他表示,自己担心 Anthropic 在处理危险 AI 技术时不够负责,其中包括依赖传统商业软件。他在 X 上发文称,公司押下了“一场傲慢的赌局,而这不该从一家私营公司的 Slack 上发起”。Slack 是 Anthropic 和许多其他科技公司使用的商业消息工具。

消息来源:

https://www.washingtonpost.com/technology/2026/10/26/researchers-cybersecurity-start-up-cathedral-got-inside-anthropic/

声明:本文为 InfoQ 整理,不代表平台观点,也不构成投资建议,未经许可禁止转载。

热度延续:12 月 AICon 北京站见

12 月 18–19 日,AICon 全球人工智能开发与应用大会将在北京举办。本届大会以探索 A 应用边界为主题,设置 13 大技术专题,覆盖大模型后训练、推理优化、Agent 工程、知识工程、智能体评测与安全、自进化系统、AI 软件交付、原生架构及组织变革等核心方向,汇聚一线技术专家,深入分享 AI 技术突破与企业规模化落地的真实实践。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
“为无休止的屠杀下地狱吧”:马斯克回应泽连斯基对星链限速

“为无休止的屠杀下地狱吧”:马斯克回应泽连斯基对星链限速

阿尔卑斯瞭望
2026-10-25 18:06:35
假控卫,真中锋?3场狂摘31个篮板!火箭队双能卫变篮板王,申京屈居第2

假控卫,真中锋?3场狂摘31个篮板!火箭队双能卫变篮板王,申京屈居第2

熊哥爱篮球
2026-10-26 22:42:27
又轰下52+10+8!抱歉威少:你从历史第二变成了历史第三

又轰下52+10+8!抱歉威少:你从历史第二变成了历史第三

篮球大视野
2026-10-26 16:06:18
2022年,于和伟全款买下9套房产,他给8个哥哥姐姐一人送了一套

2022年,于和伟全款买下9套房产,他给8个哥哥姐姐一人送了一套

共情故事会
2026-10-26 06:43:38
1993年,杭州空姐周兵被赖昌星砸下1400万,送到厦门海关关长杨前线身边

1993年,杭州空姐周兵被赖昌星砸下1400万,送到厦门海关关长杨前线身边

宝哥精彩赛事
2026-10-25 11:36:21
越来越多人慢慢退出自驾游,不少车主说出3大原因,大家别再犯傻

越来越多人慢慢退出自驾游,不少车主说出3大原因,大家别再犯傻

娱乐圈的笔娱君
2026-10-25 19:20:27
不结婚老了咋办?北京42岁女子的答案,让全网沉默

不结婚老了咋办?北京42岁女子的答案,让全网沉默

找回密码
2026-10-24 21:15:54
武大教材风波再起!三位主编任的职信息被扒,均在二三本高校任职

武大教材风波再起!三位主编任的职信息被扒,均在二三本高校任职

卷史
2026-10-25 10:27:40
太意外!和范志毅离婚撕破脸,远走英国嫁老外生2子,如今现状不敢信

太意外!和范志毅离婚撕破脸,远走英国嫁老外生2子,如今现状不敢信

莫地方
2026-10-26 11:54:26
曼联宫斗升级?32岁队长4天2次开炮:别把忠诚的人逼到再也不在乎

曼联宫斗升级?32岁队长4天2次开炮:别把忠诚的人逼到再也不在乎

我爱英超
2026-10-26 16:52:20
中国地震局:追踪调查首次发现西藏巴青7.0级地震地表破裂带

中国地震局:追踪调查首次发现西藏巴青7.0级地震地表破裂带

界面新闻
2026-10-26 13:59:52
倒计时半天!金球奖最新概率:凯恩稳居第一,姆巴佩继续上涨

倒计时半天!金球奖最新概率:凯恩稳居第一,姆巴佩继续上涨

懂球帝
2026-10-26 14:26:09
央视披露:凌晨、国庆前一天、中秋节、大年初一、大年初二…美军选择特殊时间挑衅我国,看似巧合实则用心险恶,“趁我们办喜事上门添堵”

央视披露:凌晨、国庆前一天、中秋节、大年初一、大年初二…美军选择特殊时间挑衅我国,看似巧合实则用心险恶,“趁我们办喜事上门添堵”

扬子晚报
2026-10-25 14:31:02
重庆挖出一具戴手铐女尸,鉴定后确认:她是中央苦寻26年的人

重庆挖出一具戴手铐女尸,鉴定后确认:她是中央苦寻26年的人

磊子讲史
2026-10-24 14:26:05
曝中国男篮集训名单已定,郭士强为世界杯搏一把,盲猜12人都有谁

曝中国男篮集训名单已定,郭士强为世界杯搏一把,盲猜12人都有谁

萌兰聊个球
2026-10-26 15:25:28
日本网友:除了印度人,日本不欢迎任何外国人!国内网友都乐疯了,评论区太精彩

日本网友:除了印度人,日本不欢迎任何外国人!国内网友都乐疯了,评论区太精彩

谭谈社会
2026-10-26 17:55:26
公安紧急提醒:门外响起这5句话,千万别开门!

公安紧急提醒:门外响起这5句话,千万别开门!

娱乐洞察点点
2026-10-26 14:37:47
演唱会失控落泪,与前女友同台合唱,张智霖一晚争议四起

演唱会失控落泪,与前女友同台合唱,张智霖一晚争议四起

橙星文娱
2026-10-26 13:21:47
三分29中19狂轰69分!CBA海啸兄弟打懵广东:郭士强该让他俩回国家队?

三分29中19狂轰69分!CBA海啸兄弟打懵广东:郭士强该让他俩回国家队?

篮球快餐车
2026-10-27 00:09:24
章建平加仓500亿龙头,刘鑫押注商业航天,多名牛散持仓曝光

章建平加仓500亿龙头,刘鑫押注商业航天,多名牛散持仓曝光

21世纪经济报道
2026-10-26 20:46:19
2026-10-27 00:19:00
InfoQ incentive-icons
InfoQ
有内容的技术社区媒体
13123文章数 52129关注度
往期回顾 全部

科技要闻

苹果发iPad mini 8:5499元起售 配A20 Pro

头条要闻

外媒称"中印边境发生冲突印度指责中国军队" 中方回应

头条要闻

外媒称"中印边境发生冲突印度指责中国军队" 中方回应

体育要闻

13年后重回诺坎普,穆里尼奥又滑跪了

娱乐要闻

胡歌杨幂刘诗诗袁弘陈龙结伴去埃及

财经要闻

卢锋:全球失衡背后 大国博弈与多边治理

汽车要闻

云辇-M上车 第二代海豹07让驾驶者也能爱上的家用车

态度原创

本地
健康
游戏
艺术
公开课

本地新闻

这么近,那么美,周末赴贺州丨大湾区后花园

痘痘能根治吗?皮肤科医生说实话

《边缘行者3》不一定会有 CDPR需要完美的故事

艺术要闻

柴姆·苏丁:20世纪著名的犹太裔法国表现主义画家

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版