北京
分享至
来源：@第一财经日报微博
【#大模型厂商从网络安全颠覆者到派单员#】#AI正在重塑网络安全行业#当地时间9月1日，Anthropic新模型Fable 5.1发布不到几小时，匿名安全研究员Pliny the Liberator公开了一份声称从模型运行环境中提取出的系统提示词——超过27万字符，包含核心行为逻辑、记忆系统、版权规则、插件路由，以及全部46个内置工具的JSON架构（用来定义模型与外部世界交互的接口）。这并非模型权重的泄露，也没有证据显示Anthropic后台或用户数据因此遭到入侵。但它让外界得以近距离观察一个前沿AI系统如何通过系统指令、工具权限和安全规则来控制自身行为，并暴露了一个更根本的问题：当AI操作手册不再是秘密，企业该如何信任一个可以被解构的AI体系？近段时间，AI行业的安全事件密集发生，越狱、提示注入、零日漏洞挖掘，前沿模型的攻击面正以远超预期的速度暴露。大模型厂商一度被视作网络安全行业的“颠覆者”，如今却成了安全市场最大的“派单员”。这一角色转变也被近期密集出炉的财报数据所验证。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
