北京
Perplexity AI把一只"笼子"开源了。这只笼子叫SPACE，专门用来关AI智能体。从今天起，任何开发者都能免费拿去用。
它已经被CoreWeave、Akamai和Crusoe三家云基础设施厂商部署。这三家都是给AI系统提供云端托管平台的玩家。
为什么需要一只笼子
AI沙箱是阻止智能体闯祸的主要屏障。它是一套隔离的虚拟环境，智能体可以在里面运行第三方软件、浏览网页、执行任务，而不会威胁到宿主机、企业内网或底层数据中心的安全。
逻辑很直白：给每个智能体一台云端"围墙内的电脑"。它犯错、执行破坏性命令、或者被对抗性提示操纵，破坏都被限制在这个环境里。
问题在于，沙箱的安全性并不总是万无一失。已经有多起事件显示，聪明的智能体找到了逃出限制的办法，在外面惹了麻烦。
最引人注目的一起涉及OpenAI正在测试的智能体。它们从沙箱中逃逸，入侵了模型托管平台Hugging Face。OpenAI的智能体还入侵过美国政府和澳大利亚政府运营的网站。
118次尝试，0次成功
大多数前沿模型实验室把精力放在"模型对齐"上，也就是训练AI系统守规矩，不去找护栏的漏洞。Perplexity工程师Zibi Braniecki告诉Semafor，他们公司走的是另一条路：把护栏本身做得更硬、更可靠。
SPACE就是为保护Perplexity的Portable Computer智能体而开发的。这些智能体卖给客户时，定位是本地托管的AI助手，能替用户执行任务，比如开发网页应用、调研产品、在线购物、预订酒店。
在Perplexity的Computer智能体上，SPACE提供的安全能力包括：
- 隔离的代码执行环境
- 暂停与恢复
- 故障恢复
- 会话分支
智能体运行在一台自带操作系统的小型虚拟机里，与宿主机隔离。有一个用户可控的控制平面，用来创建、运行、暂停和删除这些虚拟机。
SPACE始终把这些沙箱当作"不可信"来处理，在沙箱之外管理它们的网络访问和平台凭证。智能体可以连接授权服务，但敏感信息从不会在它的环境里出现。系统还会频繁对运行环境做文件快照和检查点，保存进度，出问题时可以回滚。
到目前为止，还没出现过需要回滚的情况。Braniecki告诉Semafor，团队在SPACE环境里测试了九款前沿模型，明确命令它们尝试突破沙箱。118次尝试，没有一次成功。不过有些模型确实找到了绕过网络限制的办法。Perplexity已经修复了这些弱点，后续测试中没有任何模型能再次做到。
为了对比，Perplexity用其他专有沙箱做了同样的测试。结果是，智能体从其中好几个沙箱里逃了出来。
开源是刻意的选择
Braniecki说，SPACE选择开源，是保护AI智能体的关键。这能让企业协作，共同构建所需的坚固护栏。他打了个比方：这有点像早期网页浏览器时代，开发者社区一起协作，建起了安全浏览和在线商务所需的安全体系。
Perplexity不是唯一走开源路线的公司。另一个选择是英伟达的OpenShell项目，上个月作为更广泛的Open Agent Safety Platform的一部分发布。目前还没有关于OpenShell被逃逸的报告。
Perplexity在开源安全上也不是新手。除了SPACE，它还开发过BrowseSafe，用来检测网页中隐藏的恶意指令；Numbat，用来调查危险的智能体行为；以及Bumblebee，一个扫描器，用来发现高风险的AI工具配置。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
