北京
科技媒体The Decoder昨日（6月1日）发布博文，报道称图灵奖得主理查德·萨顿（Richard Sutton）认为普通生成式AI缺少自我评估与持续筛选能力，难以完成真正科学发现。
萨顿指出普通生成式AI并不具备真正科学发现所需的关键能力。大语言模型、图像模型和视频模型能从海量样本中学习，并生成相似内容，但好结果通常来自训练材料本身。
当模型输出真正新颖内容时，它往往已经超出原有材料。面对事实问题，这类新颖内容常被称为幻觉。萨顿用研究者笑话概括现状：好的部分不新，新颖的部分不好。
萨顿并未否认生成式AI的实用价值。它可用于摘要、研究辅助、助手和娱乐。若目标只是更快、更便宜、更小、更可定制地模仿原对象，生成式AI仍能带来明确价值。
萨顿认为，科学发现不能停在模仿。真正发现包含变异、评估、选择性保留3步。系统需要提出不同选项，测试它们，再保留有效方法。这也是进化、科学方法、规划、搜索和强化学习中的共同原则。
普通生成式AI最缺的是评估。语言和图像模型能生成许多变体，但没有测试环节，就无法筛出更好方案。人类选择图片、棋局胜率、形式化证明、程序测试和模拟奖励，都可成为有效反馈。
萨顿列举AlphaGo（阿尔法围棋）、AlphaZero、AlphaFold、AlphaProof、Claude Code和GT-Sophy等案例。这些系统都有超出文本或图像生成的评估闭环，因此能追踪更优解，而不只是产出候选答案。
他还批评AI行业过度押注更大的语言模型，他更看重能长期与环境互动、从经验中学习、构建世界模型并规划策略的AI智能体。
本文源自：IT之家
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
