网易首页 > 网易号 > 正文 申请入驻

智能体删了客户记录,为什么没人能说清?

0
分享至

一个智能体把客户记录删了,没人能说清为什么。提示词没了,工具调用没留痕,谁批的也不知道。团队从演示阶段走向生产环境时,几乎都会撞上这堵墙。


一套合格的智能体审计轨迹,要能回答三个问题:发生了什么、谁允许的、你能不能证明。下面拆的是记什么、怎么组织、怎么做到防篡改。

审计轨迹和可观测性日志不是一回事

智能体审计轨迹,是对智能体每一次动作的有序、可验证记录。它把每个输入、每次工具调用、每个决策,绑定到一个身份和一个时间戳上。

可观测性日志解决的是另一类问题:排查延迟和报错,团队往往几天内就轮转掉了。审计轨迹面对的是另一批读者——审计人员、安全负责人、事故响应者,他们可能在几个月后才翻开它。

没有这套记录,你无法还原一次决策过程,更无法证明智能体没有越权。每次事故复盘都变成猜谜,而最先感到疼的是开发者,因为告警电话打给他们。

每个动作该记哪些字段

别什么都记,但也别只记报错。有个简单的自检标准:一个陌生人只靠这份记录,能不能把这次决策重放一遍?

身份与上下文:每个事件都要有归属。记录智能体 ID、智能体版本、人类用户、会话。再加一个追踪 ID,把相关事件串起来。版本比多数团队以为的更重要——提示词一改、模型一换,行为就变了,你得知道是哪个构建在动作。环境也要存,比如预演还是生产,否则一次无害的测试和一次真实的客户操作,在复盘时长得一模一样。这些字段要落在每个事件上,不是只落在会话的第一个事件上。

输入、提示词与工具调用:记录工具名、参数、目标系统。提示词存哈希,再加一个指向安全存储中全文的指针,这样事件体积小,敏感文本也可控。检索到的上下文按文档 ID 记,不按内容记。工具结果记状态和简短摘要,方便核对智能体是不是基于正确的数据在动作。

一个最小事件长这样:

  • event_id:evt_01HZX9
  • trace_id:tr_7f3a
  • agent_id:refund-agent
  • agent_version:2.4.1
  • user_id:u_1842
  • action:tool_call
  • tool:payments.refund
  • arguments_hash:sha256:9b1c...
  • status:success
  • ts:2026-11-16T09:41:58Z

输出、决策与审批:记录这次动作为什么被允许。存模型 ID、跑过哪些策略检查、各自结果如何。如果有人工审批,记下审批人和时间。如果某道护栏拦下了动作,也要记——被拦下的动作往往暴露真正的风险。每个输出都要关联到产生它的事件。审计人员很少问智能体说了什么,他们问的是谁放它去做的,所以决策字段最值得花心思。

结构化,才查得动

结构化事件永远胜过自由文本。输出固定 schema 的 JSON,并给 schema 打版本。一个追踪 ID 贯穿每个智能体、每个工具、每个服务。

OpenTelemetry 的 span 很适合干这个,它本身就带父子关系。把审计字段挂成 span 属性,再导出到专门的存储。

  • span.set_attribute("agent.id", "refund-agent")
  • span.set_attribute("audit.tool", "payments.refund")
  • span.set_attribute("audit.status", "success")

审计事件要和调试日志分开。调试日志改得勤、轮转快,审计事件必须稳定、留存更久。分开之后,像“把这个智能体上周发的所有退款列出来”这样的查询,几秒就能返回。

不可篡改,才叫证据

谁都能改的日志,什么都证明不了。条目只追加,并用哈希串成链:每条存下前一条的哈希。改掉一条记录,后面所有哈希都会断,校验时篡改立刻现形。再加一层一次性写入存储和保留锁。

追加逻辑大致是:取上一条的 entry_hash,没有就用 64 个 0;把事件按 key 排序序列化;写入 prev_hash;用 sha256 对“前哈希 + 正文”算出入账哈希;追加进日志。

自动化修复能说明这套东西为什么重要。系统发现一个有漏洞的依赖、升级它、修补代码,评审者需要每一步的证据:发现了什么、改了什么、哪些测试通过了。最后,定期跑校验器,哈希对不上就告警。

有些东西永远别记

存错数据,审计轨迹会变成负债。原始密钥、API key、会话令牌,一律不存。个人数据在进入存储前先脱敏,全文放进单独的、受访问控制的保险库。轨迹内部只用哈希和 ID。

留存期按风险和监管定,别按习惯定。太短,调查时不够用;无限期留存,泄露面只会越来越大。最后,限制谁能读这份轨迹,并且把每次读取也记下来——审计日志自己,也需要一条审计轨迹。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
蔡天凤碎尸案再有新进展!潘巧贤助邝港智租船潜逃,上诉遭驳回即时入狱

蔡天凤碎尸案再有新进展!潘巧贤助邝港智租船潜逃,上诉遭驳回即时入狱

娱站
2026-11-16 12:10:35
给200万赎金,要不砍一条手臂:19岁中国留学生被骗泰国解救成功

给200万赎金,要不砍一条手臂:19岁中国留学生被骗泰国解救成功

江山挥笔
2026-11-16 14:13:59
仅播4集,播放量破3500万,不愧是你们盼了10年的黑马剧!

仅播4集,播放量破3500万,不愧是你们盼了10年的黑马剧!

蓝莓影视推荐
2026-09-23 13:08:52
打不过三外北控?男篮热身周琦免检大王登场 余嘉豪徐昕谁走人?

打不过三外北控?男篮热身周琦免检大王登场 余嘉豪徐昕谁走人?

大嘴爵爷侃球
2026-11-16 10:36:32
姑娘,出去玩也要注意下穿着,旁边大爷看了直摇头,好尴尬

姑娘,出去玩也要注意下穿着,旁边大爷看了直摇头,好尴尬

舞指飞扬
2026-11-13 07:42:15
最低3593点,今天A股“不香了”?明天行情听我一句!

最低3593点,今天A股“不香了”?明天行情听我一句!

一担金
2026-11-16 11:34:56
RTX 5090突然恢复供货!价格暴跌 高位接盘侠慌了?

RTX 5090突然恢复供货!价格暴跌 高位接盘侠慌了?

游民星空
2026-11-15 18:05:07
“老人味”祸根被揪出!医生提醒:60岁后要少碰,老了或也没味

“老人味”祸根被揪出!医生提醒:60岁后要少碰,老了或也没味

新时代的两性情感
2026-11-16 01:12:44
上台后首次赴华!高市早苗要与台当局代表会晤?日媒给出最新消息

上台后首次赴华!高市早苗要与台当局代表会晤?日媒给出最新消息

铁锤简科
2026-11-15 14:33:14
终于明白为啥说出国才体验到,世界就是很多个小信息茧房!评论精辟

终于明白为啥说出国才体验到,世界就是很多个小信息茧房!评论精辟

另子维爱读史
2026-11-15 22:48:13
“我就这么该死吗!”面对那个在车里扇自己耳光的妈妈,网友:把命搭进去,也换不来爱​

“我就这么该死吗!”面对那个在车里扇自己耳光的妈妈,网友:把命搭进去,也换不来爱​

蝴蝶花雨话教育
2026-11-09 00:05:55
24岁男子约女网友开房,不惜加价到8400元,缠绵后男子后悔,被拘5个月

24岁男子约女网友开房,不惜加价到8400元,缠绵后男子后悔,被拘5个月

江山挥笔
2026-11-16 08:58:42
乌克兰媒体确认了:乌克兰总统泽连斯基明确表态,乌克兰不会放弃本国领土,乌克兰不会撤退、不会向俄罗斯出让土地

乌克兰媒体确认了:乌克兰总统泽连斯基明确表态,乌克兰不会放弃本国领土,乌克兰不会撤退、不会向俄罗斯出让土地

吉刻新闻
2026-11-15 08:10:56
“能把屁股擦干净吗!”陕西妇科医护者吐槽阴超经历:我老公都不让我和面了

“能把屁股擦干净吗!”陕西妇科医护者吐槽阴超经历:我老公都不让我和面了

妍妍教育日记
2026-10-30 19:25:27
“真正的权贵不会这么跳舞”,海淀母女出圈了,内行人却一眼看穿

“真正的权贵不会这么跳舞”,海淀母女出圈了,内行人却一眼看穿

熙熙说教
2026-11-10 17:05:38
马上停止用这种床单,接触时间越长风险越高,很多人还在用

马上停止用这种床单,接触时间越长风险越高,很多人还在用

39健康网
2026-11-13 12:00:37
特殊时期邓小平到江西劳动,保护他的拖拉机厂长罗朋,在邓公重新出山后去了哪里

特殊时期邓小平到江西劳动,保护他的拖拉机厂长罗朋,在邓公重新出山后去了哪里

磊子讲史
2026-11-11 15:53:38
油价大跌!跌跌不休,11月16日全国92,95汽油“大降近0.26元/升”,四季度“先扬后抑”涨幅全降下来,下次11月26日调价,预跌300元/吨!

油价大跌!跌跌不休,11月16日全国92,95汽油“大降近0.26元/升”,四季度“先扬后抑”涨幅全降下来,下次11月26日调价,预跌300元/吨!

猪友巴巴
2026-11-16 09:24:46
突发异动!000533,直线涨停!

突发异动!000533,直线涨停!

证券时报
2026-11-16 11:54:26
德普新片《寒夜怪谈》登顶北美周末票房,北美年度票房同比增长20%

德普新片《寒夜怪谈》登顶北美周末票房,北美年度票房同比增长20%

耷影重重
2026-11-16 08:22:35
2026-11-16 16:55:00
码上闲叙
码上闲叙
有态度网友ytd
217文章数 105关注度
往期回顾 全部

科技要闻

硅谷大佬组局,帮黄仁勋杀回来!

头条要闻

特朗普:我即将访问中国 期待参加中俄美元首会晤

头条要闻

特朗普:我即将访问中国 期待参加中俄美元首会晤

体育要闻

热火4连胜:就因为维金斯替补了?

娱乐要闻

43岁佟丽娅官宣新身份担任职务不一般

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

日产终于开窍了!全新NV200 PHEV才是露营党的梦中情车?

态度原创

房产
健康
旅游
游戏
数码

房产要闻

6.6亿!海口卖地!

情绪真能让健康人"伤心至死"?

旅游要闻

128米高空转30分钟,苏州之眼看尽金鸡湖

官方称GTA可能后续会去其他国家 但美国能做的太多了

数码要闻

显卡压力拉满!《神鬼寓言》实机演示:4K/60帧保底RTX 5080

无障碍浏览 进入关怀版