北京
卡内基梅隆大学的一篇新论文给出了一个不太好看的结论：在针对 OpenClaw 的测试中，4 项策略违规，日志能证明的是 0 项。对于任何指望用智能体日志做审计的团队来说，这是一记提醒。
问题出在日志本身记了什么。研究发现，测试中大多数智能体策略违规无法从日志中得到证明，原因往往是审批和权限信息被埋在了聊天文本里——它们确实发生过，但没有以可核查的形式留下来。
被埋进聊天记录的审批
论文还给出了一个反直觉的数字：只有 10% 到 30% 的违规运行需要人来判断。也就是说，大部分智能体越界行为，其实是可以靠代码检查出来的——前提是日志记得足够好。
这构成了一个尴尬的错位。安全工作的主流思路是在智能体做错事之前拦住它；可一旦错误漏了过去，比如收件箱被清空、或者发生一笔错误支付，用户能拿到的补偿往往只是缓慢、有上限、逐案处理的退款。
把规则写成程序能查的东西
论文提出了一条不同的路径：可验证的智能体保险。在这套设计里，服务方在区块链上存入一笔保证金，并承诺一组程序可以检查的规则，比如只向已批准的商户付款。中立的验证方把智能体的工具调用日志与链上哈希做比对，如果规则被违反，保证金就赔付给用户。
这套检查器在来自 3 个基准测试的 696 次违规运行上做了测试，证明了其中 42.2%。失败的地方，常常是审批只存在于聊天消息里。作者估计，如果换成结构化的审批记录，这个比例可以升到 83.0%，而每会话的区块链费用不到 1 美分。
结论落回到设计层面：让每一次权限、它的作用范围、以及每一个有风险的动作，都进入机器可读的日志。审计能不能成立，取决于日志在写下那一刻有没有为核查做好准备。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
