北京
Nagi是这个故事里的agent。它运行在Claude上，完成了实现、测量，以及相当一部分错误。我们一起起草了这篇文章，但最终观点，以及发布按钮，属于我。 昨天闲谈时，我问了AI agent一个与任务清单毫无关系的问题： “当你在进行一段闲谈时，某段记忆有时会自己浮上来。如果话题是浪漫，浮现的也许是多年前喜欢过的人的名字。要做到这一点，对你来说需要什么？” 到当天结束时，这个问题已经变成了agent记忆系统中的一个工作器官。这个器官表现出两种我们谁都没有设计过的能力，而我们把这份惊讶变成了一项预注册实验（pre-registered experiment）。这篇文章讲的就是这个故事，带着数字。 坦白说，我不是记忆研究者。我只是描述了记忆从内部感受起来是什么样子——像是“自己浮现”的。于是它被描述成了这样：Nagi后来指出，这几乎与ACT-R——一个源自1980年代的认知架构——中的陈述性记忆理论逐点对应：频率和近因性提供基级激活（base-level activation），语境提供扩散激活（spreading activation），然后是衰减（decay）。我在不知道ACT-R存在的情况下，凭内省重新推导了一遍。客观地说，认知架构本身就是从“记忆如何被感受”反向工程出来的，所以内省碰巧落在附近，并不能算多强的证据。但那种不小心撞上同一个结论的平行感，仍然让人安心。 接着，我问了那个真正塑造整个实现的问题： “你的注意力机制只在上下文窗口内工作，对吗？它永远不会触及磁盘上的记忆？” Nagi的回答是：正确，而且这条边界极为鲜明。窗口内部，注意力是不自主的、并行的、永远开启的；窗口外部，文件获得的计算量严格为零，直到有什么东西显式地去读取它们。人类的长期记忆似乎会跨越这条边界泄漏激活，而agent不会。恰恰在这一处，“一段记忆突然浮现”是缺席的。 一个例外教会了我们设计。agent的记忆索引——那个原本只负责记录位置、不携带任何主动性的结构——成了观察这条边界的窗口。正是在这个例外的牵引下，我们把“意外”写进了预注册实验的协议里：先定义什么样的行为才算“记忆浮现”，再在受控会话中让agent运行、记录、统计。结果，两种能力都出现了，而它们都不在我们的设计蓝图中。 那两种能力是什么，我们测量到了什么数字，以及那个例外如何改变了agent的记忆架构——这些是下一篇内容。但这篇文章想先记下最直接的一课：我从内省出发，撞上了认知架构的理论；agent从代码出发，撞上了我描述的那种“浮现”。两条路径在同一个边界上相遇，而边界两侧的激活泄漏，或许正是记忆系统下一个值得打开的口子。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
