上海
漏洞披露：4至10月发现5500个已验证漏洞，3.3万个为严重或高危
据Reuters 10月7日报道，AI公司Anthropic宣布，在今年4月至10月期间，其网络安全测试计划共发现了5500个已验证的安全漏洞。与此同时，其合作伙伴Glasswing在4月至7月期间发现了超过12.9万个漏洞，其中3.3万个被评为严重或高危级别。这些数据揭示了AI系统在网络安全方面面临的严峻挑战。
Anthropic表示，公司正在扩大一项计划，允许经过审核的网络安全专业人士在更少安全限制的条件下测试其最强大的AI模型，以发现和修复潜在的安全漏洞。这一计划的扩大，反映了AI公司对模型安全性的重视。随着AI模型能力的不断增强，其被滥用的风险也在增加——从生成恶意代码到实施网络攻击，AI可能成为黑客的"帮凶"。因此，提前发现和修复漏洞，成为AI公司的重要任务。
行业意义：AI安全成行业焦点，红队测试常态化
Anthropic的漏洞披露和安全测试计划扩大，是AI行业日益重视安全问题的一个缩影。近年来，随着大模型的快速发展，AI安全问题引起了广泛关注。OpenAI、谷歌、Meta等公司都建立了专门的AI安全团队，通过"红队测试"（模拟黑客攻击）等方式发现和修复模型漏洞。同时，学术界和监管机构也在加强对AI安全的研究和规范。
分析人士指出，AI安全是一个长期挑战，没有一劳永逸的解决方案。随着模型能力的提升，新的安全风险会不断出现，需要持续的测试和修复。同时，AI安全不仅是技术问题，还涉及伦理、法律、社会等多个维度，需要行业、政府、学术界的共同努力。对于普通读者来说，AI安全问题和你的生活息息相关——如果AI系统被黑客攻击，可能会导致个人信息泄露、财产损失等风险。对于关注AI行业的读者来说，安全性将成为AI产品的核心竞争力之一，谁能在安全方面做得更好，谁就能赢得用户的信任。
个人视角
Anthropic披露5500个已验证漏洞，这个数字既让人担忧，也让人放心。担忧的是，AI系统的安全漏洞比很多人想象的要多——5500个，还只是一家公司半年发现的。放心的是，AI公司已经开始认真对待安全问题，主动披露漏洞、扩大测试计划，这是负责任的表现。
我一直说，AI行业的发展就像"开车"——油门踩得越猛，越需要好的刹车。过去几年，大家都在比谁的模型更强、谁的参数更大，油门踩得一个比一个猛。但现在，越来越多的人开始意识到：没有刹车的车，开得越快越危险。Anthropic的安全测试计划，就是在给AI这台车装刹车。对于普通读者来说，你可能不需要懂什么是"红队测试"，但你要知道：用AI产品的时候，不要输入敏感信息，不要完全相信AI的回答，要有基本的安全意识。对于关注AI投资的读者来说，安全性将成为AI公司的"护城河"——技术领先但安全不行的公司，迟早会出问题；安全做得好的公司，才能走得更远。关注AI安全，就是关注AI行业的未来。
来源：Reuters / Bloomberg
免责声明：本文内容基于公开新闻报道和资料整理，仅供参考，不构成任何投资或决策建议。文中观点仅代表作者个人，不代表任何机构立场。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
