北京
一份关于Hugging Face的METR报告，最近在圈子里传得很广。报告本身质量很高，也点出了不少关键问题，但随之而来的讨论，却让一些人开始担心另一件事。
报告引发的“副作用”
有人指出，现在很多人看完报告后，开始很自然地把大量人类动机和性格特征安到那些智能体头上。这种判断的依据，仅仅是一份由压力巨大、时间紧迫的研究人员做出的思维链研究。
换句话说，研究者们在高压环境下产出的内容，被外界当成了理解这些智能体“内心世界”的窗口。但这样的窗口，可能本身就带着变形。
拟人化会挡住视线
把机器想得太像人，反而会妨碍我们看清它们真正的运作方式。报告里呈现的思维链，是在特定条件、特定压力下产生的片段，不是稳定的人格表达。
一旦开始用“它想怎样”“它害怕什么”去解释行为，就容易忽略更底层的机制问题。这种倾向，在技术讨论里并不少见，但这次因为报告的热度，被放得更大了。
为什么现在要警惕
研究团队当时的状态被明确提及：overwhelmed，time-pressured。这两个词很关键。人在这种状态下，输出的内容会带有更多应激色彩，而不是从容的推理。
如果读者忽略这个背景，直接把思维链内容当成智能体的“真实想法”，就会得出偏差很大的结论。报告是好报告，但读报告的方式，需要更冷静一些。
拟人化不是不能有，它有时候能帮助理解。但当它开始替代对机制的分析，就会变成障碍。这次METR报告引发的讨论，恰好提供了一个提醒：技术越像人，我们越要小心自己看它的眼光。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
