北京
分享至
个人AI助手调用工具越多，隐私泄露的路径就越难被肉眼发现。Meta给出的解法是X-AgentRed——一个专门排查这类风险的工具。
它的思路不是等泄露发生后再追责，而是提前把可能的危害路径找出来。
用依赖图谱反推风险
X-AgentRed 的核心动作是构建工具依赖图谱。个人AI助手在完成任务时，往往需要接力调用多个工具，单个工具看起来无害，串起来却可能形成一条通向隐私泄露的链路。
这套工具通过分析工具之间的接力调用关系，逆向推导出潜在的危害路径，在实际发生泄露之前就做出预判。
发现问题还能自己修
找到风险只是第一步。X-AgentRed 会根据执行反馈动态调整工具调用步骤，自动修复或替换掉有问题的工具，从而规避安全隐患。
测试数据显示，它发现危害路径的效率比基线方法高 1.77 倍，并且能覆盖长调用链和冷门工具——这两类恰恰是最容易被忽略的盲区。
对正在把AI助手接入越来越多外部工具的开发者和产品团队来说，这类排查能力可能会成为上线前的常规动作。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
