北京
做AI安全的公司，自己先被AI摸了一遍。据《华盛顿邮报》报道，网络安全初创公司Cathedral的研究人员发现了一批漏洞，借此访问到了Anthropic内部系统中的敏感信息。Anthropic是Claude背后的公司。
整个过程里，研究人员没有去撬Claude本身。他们用AI智能体在不到12小时内找出了潜在入口，攻的是Anthropic日常运营所用的第三方商业应用。这些发现通过Anthropic的安全测试项目披露——该项目允许外部研究人员识别并上报漏洞。
进去之后，Cathedral的研究人员找到了通往一些企业通常不愿外露的信息的路径，包括员工薪资明细、录用通知、会议记录，以及内部Slack中关于Anthropic先进AI模型的讨论。最值得注意的不是拿了什么，而是怎么拿的：他们没有攻击Anthropic的核心AI基础设施，而是冲着用于行政事务和客户管理的普通业务软件去的。
Anthropic承认研究人员访问了有限数量的内部销售、人力资源和IT系统。公司同时强调，该事件未波及客户与Claude的对话、底层AI模型，也未波及源代码和模型权重。Anthropic还表示，其安全系统在Cathedral提交发现之前就已检测到部分可疑活动，随后封锁了访问，并停用受影响应用，直到供应商修复漏洞。公司坚持称，未发现其他人利用过同样的弱点。
这件事发生在AI行业格外敏感的时点。各国政府越来越担心先进AI研究被外国情报机构和网络犯罪分子盯上。Cathedral由美国政府DOGE项目的前成员创立，已拿到联邦网络安全合同，并获得了14亿美元估值。其发现也引起了美国官员的注意，不过Anthropic不认同这家初创公司对潜在国家安全风险的定性。
还有一层区分需要说清：这是一次获授权的安全研究，不是恶意黑客成功攻击的证据。Anthropic也表示，Cathedral并未完全遵守其披露项目的要求。但更广的担忧不容易绕开——当AI越来越擅长识别和利用软件漏洞，看似无害的业务应用也可能变成有吸引力的目标。对打造强大AI系统的公司来说，守住技术本身，或许只是战斗的一半。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
