据悉,Meta首席AI科学家杨立昆(Yann LeCun)长期对主流大型语言模型(LLM)技术路线持怀疑态度,认为其无法孕育真正智能。本月,JEPA 2论文发布及杨立昆共同署名的新研究《从token到思想:LLM与人类如何在压缩与意义之间权衡》为这一观点提供了理论证据。研究表明,LLM在理解世界的方式上与人类存在根本性差异,这种差异可能无法通过扩大模型规模和数据量的“缩放定律”弥合。研究还指出,LLM是天生的“效率之王”,而人类认知系统中的“低效”正是其强大功能的体现。未来,LLM的发展可能需要引入更丰富的奖励信号、改变生成粒度或结合多模态学习等新路径,以克服当前技术路线的局限性。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.