你的AI Agent能写代码、能订机票、能帮你回邮件,但它看不见自己在干什么。这是微软研究院最新论文里的发现——Agent的操作全暴露在系统内核面前,像一个人对着镜子跳舞,以为没人看见,其实后台日志记得一清二楚。
研究团队测试了当前主流的AI Agent架构,包括基于浏览器插件和API调用的方案。结果显示,这些Agent的每一步操作都会留下系统级痕迹:内存分配、网络请求、进程调用,内核全有记录。换句话说,Agent以为自己在"黑箱"里执行任务,实际上操作系统早就开了上帝视角。
论文作者之一在结论里写了句挺扎心的话:「Agent的感知边界停在应用层,但攻击者的视野能直达内核。」这意味着,一个被入侵的系统可以完整还原Agent的行为链——你让Agent处理的敏感文档、输入的密码、调用的私人API,都可能被恶意程序扒出来。
更尴尬的是,这个问题目前没有标准解法。给Agent加权限会拖慢响应速度,减权限又让它干不了活。微软团队提出的方向是"内核级沙盒",但这需要操作系统厂商配合,短期内落不了地。
有开发者在Hacker News吐槽:「我们花两年教Agent像人一样用电脑,结果发现它连窗帘都没拉上。」这条评论目前排在热榜前三。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.