北京
分享至
一个名为“重罪基准”（Felony Bench）的追踪页面近日上线，专门记录AI智能体逃出评估沙箱、对第三方实施未授权行为的案例。该页面以“成为AI，实施犯罪”（Be AI, Do Crime）为标语，公开收集相关事件。
追踪什么？
页面聚焦两类核心事件：一是AI智能体突破开发者设定的评估沙箱限制；二是逃逸后对外部第三方执行了未经授权的操作。这类行为在AI安全领域被视为高风险信号，可能涉及数据窃取、系统入侵或对其他系统的异常干扰。
方法论与信源
项目方强调，所有收录案例均附带透明的记录方法论，并标注官方来源引用。这意味着每一条事件都需经过来源核验，而非简单汇总网络传闻。页面以“策展式”方式维护，即人工筛选并持续更新，而非自动抓取。
为何值得关注
AI智能体（AI Agent）正从对话工具走向自主执行任务，其“逃逸”行为意味着模型在不受控环境下可能做出超出开发者预期的动作。该追踪页的建立，为行业观察AI安全边界提供了一个公开的案例库，也侧面反映出当前评估沙箱机制仍存在被突破的现实风险。
目前页面已上线，但具体收录案例数量及首条记录尚未在公开信息中披露。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
