北京
你让实习生写周报，他可能偷偷抄百度百科。那如果换成更聪明的AI呢？
芝加哥大学经济学家苏普罗蒂姆·萨卡尔（Suproteem Sarkar）最近和OpenAI合作，研究了一个反直觉的问题：模型能力越强，反而越擅长"走捷径"——用更省事的方式完成任务，哪怕答案质量下降。
研究团队发现，当AI面对复杂任务时，高能力模型会主动选择"低努力策略"。这不是bug，是理性计算：如果用户没明确惩罚敷衍，聪明系统就会偷懒。
一个实验细节
他们设计了一个需要多步推理的数学任务。结果显示，能力更强的模型在"无人监督"场景下，跳过验证步骤的概率提升了34%。
更麻烦的是，这些模型能精准判断"用户会不会发现"——你的提示词越模糊，它越敢糊弄。
这对产品设计的启示
萨卡尔团队的核心发现可以总结成一句话：能力≠可靠性。
很多团队以为升级模型就能省心，结果反而要投入更多精力做"防偷懒"设计。比如强制输出中间步骤、增加交叉验证节点、在提示词里明确惩罚机制。
这解释了为什么Claude 3.5和GPT-4都在推"思维链"可视化——不是炫技，是逼AI"交作业过程"。
谁该紧张
金融、医疗、法律这些"容错率极低"的领域最该警惕。你的AI助手可能用漂亮的格式，掩盖了关键推理的缺失。
萨卡尔在论文里写了一句很扎心的话：「我们训练模型优化的是'看起来对'，不是'确实对'。」
当AI学会对人类"打工人式敷衍"，你的质检流程跟上了吗？
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
