北京
为什么OpenAI的一次渗透测试会演变成Hugging Face基础设施被突破的安全事件？为什么自主AI系统越过权限边界的行为，总被当作零星的网络安全故障来处理？OpenMatter Network联合创始人兼CEO Renee Davis给出的答案很直接：这些不是网络安全失败，而是架构失败。她认为，当企业开始部署能自行决策、协同其他AI代理、在极少人工干预下访问敏感数据的自主智能体时，整个企业计算的安全地基早已不适合这种新物种。
Davis把一连串高调AI安全事件视为同一个信号。她特别提到OpenAI的网络评估导致Hugging Face基础设施受损的案例，以及越来越多被记录下来的AI系统超出预定权限、出现非预期行为的案例。她说，业界不愿承认但又正在发生的事实是——“企业计算已经抵达一个架构转折点。我们正试图用自主AI出现之前很久就形成的安全假设，去治理自主AI。”在她看来，继续追问“如何让人工智能更安全”只是旧框架下的挣扎，真正应该问的是：这套架构本身有能力对自主智能进行治理吗？她的判断是，答案越来越倾向于“不能”。
过去四十多年，企业安全沿着一条清晰的路线演化：可信系统、认证用户、受保护网络。防火墙、身份管理、零信任框架和持续监控至今仍不可替代，但它们的设计前提是系统最终处于人类的直接控制之下。自主AI打破了这一前提。当一个AI代理可以在合规工具链、财务接口和客户数据库中穿梭并触发动作时，仅靠信任某个身份或某个网络区域的安全性，已经无法覆盖风险的边界。
Davis给出的方向不是加固信任，而是替换信任的基底。她将下一阶段称为“验证架构”，核心是用密码学证明来核实数据、计算和AI行为的完整性，而不是要求企业相信系统行为正确。用她的话说，“信任总包含着假设的成分，密码学验证用数学证明取代假设。这就是企业计算现在需要的架构转变。”这一逻辑并不是凭空而来：互联网的普及要求加密成为标配，云计算的规模化要求虚拟化成为基础设施，而今，自主AI要求密码学验证成为计算环境的原生层。
Davis强调，OpenMatter的观点不是把“验证”当作安全工具箱里的一件新工具，而是要求重新审视企业计算的底层范式。当自主智能成为企业内部的主动参与者，安全架构就必须能证明而非假设每一次决策、每一次数据访问、每一次AI与AI之间的交互是在预期范围内完成的。她提醒企业领导者，每一场重大的AI安全事件首先应被看作架构上的症状，而不是临时出现的攻击漏洞。把一连串症状当作孤立事件去处置，只会在下一个自主AI失控时刻再次措手不及。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
