网易首页 > 网易号 > 正文 申请入驻

LLM首次达到人类语言专家水平!OpenAI o1拿下拆解句法、识别歧义、推理音律

0
分享至

新智元报道

编辑:peter东

【新智元导读】LLM再下一城!伯克利研究证明:OpenAI的o1被证明也具有匹敌人类语言学家的元分析能力。

在人类诸多才能之中,哪些才是人类所独有的?

自古希腊哲人亚里士多德以来,语言便被视为最能彰显人之本性的标志。他曾言:人类乃「具有语言的动物」。

即使当今的大语言模型如ChatGPT已能在表层上模拟人类的日常言谈,学者们依然追问:

在人类语言的深处,是否蕴藏着某些独特的结构与特质,是任何其他生物的沟通方式,乃至AI的运算体系,皆无法真正企及的?

加州大学伯克利分校语言学家、罗格斯大学的携手,让多个大语言模型经受一系列语言学测试——其中包括要求模型归纳虚构语言的规则。

虽然大多数大语言模型未能像人类那样解析语言学规则,但有一个模型展现出远超预期的惊人能力。它能像语言学研究生那样分析语言——划分句子成分、解析多重歧义,并能运用递归等复杂语言学特征。

研究者Gašper Beguš表示,这一发现「挑战了我们对人工智能能力的认知」。

AI会说话不稀奇,会解释才稀奇——

如果语言是让我们成为人类的关键,那么如今大语言模型获得了「元语言」能力,这又意味着什么呢?

LLM构建无穷递归

想象一下:你在搭一座一层套一层、像俄罗斯套娃一样的「句子塔」。

每套进一层,理解难度就指数级上升。

这种结构,在语言学里叫「中心嵌入」(center embedding),曾被知名语言学家乔姆斯基称为能定义人类语言与思维的决定性特征。

比如这句话:

The worldview that the prose Nietzsche wrote expressed was unprecedented.

(大意为:尼采所写的那篇散文所表达的世界观是前所未有的。)

表面上看平平无奇,但如果你拆开它的「语言洋葱」:

最外层:The worldview [...] was unprecedented(这个「世界观」前所未有);

套进去一层:that the prose [...] expressed(是「那篇散文所表达的」);

再往里一层:Nietzsche wrote(而这篇散文是「尼采写的」)。

这就像在一个句子中间,又塞进一个完整的句子,再在那个句子里塞进另一个句子——三层套娃,层层递归。

人类能理解这样的句子,但之前,人们认为这样的能力大模型不具备。

上述句子在真实对话中几乎从未出现过——因为大家会觉得它「太绕了!」

所以,任何语言模型如果只是靠「背书」,根本不可能见过,自然也无法识别出这种例子。

语言学家们认为,人类语言从有限词汇和有限规则中生成无限可能句子,这种能力归因于无限递归。

迄今为止,还没有令人信服的证据表明其他动物能够以复杂的方式使用递归。

图1:不同大模型识别多重递归,绘制正确语法树的比例

然而,该研究指出在众多大模型中,唯有OpenAI o1模型不仅看懂包含多重递归的句子(图1)。

o1不仅能如同语言学家那样,以接近100%的正确率画出正确的树状结构,还能将本就复杂的句子变得更多一层。

图2:该句子对应的正确语法树

当它被问:「能不能再加一层递归?」o1回复:

The worldview that the prose that the philosopher Nietzsche admired wrote expressed was unprecedented.

「那位尼采所敬仰的哲学家所撰写的散文所表达的世界观是前所未有的。」

这说明o1不仅能够使用语言,还能够思考语言,具备元语言能力(metalinguistic capacity )。

由于语言模型只是在预测句子中的下一个单词,人对语言的深层理解在质上有所不同。因此,一些语言学家表示,大模型实际上并没有在处理语言。

这项研究的结论看起来是对上述观点的否定。

大模型能区分歧义

也能深入理解句子

想象一下,你听到下面的话:「Eliza wanted her cast out.」

乍一听,好像就是「Eliza想把她的cast赶出去」?

但「cast」这个词既可以是动词(「驱逐」),也可以是名词(「石膏」)!

于是这句话就有两种不同的含义,分别是

Eliza想要她的石膏被拿出去,

Eliza想把她赶出去。

这样识别包含多义性句子的能力,之前同样被认为大模型不具备。

人类拥有很多常识知识,使我们能够排除歧义。但大模型很难具有这样的常识知识水平。

然而该研究表明,o1可正确识别两种结构,并为每种生成了符合语言学规划的句法树。其他模型(如 GPT-4、Llama 3.1)只会生成不合语法的结构,还会对语义产生误解。

该研究还考察了大模型在音韵学相关任务上的表现——

音韵学是研究声音模式以及最小的声音单位,即音素的组织方式。

例如,在英语中,给以「g」结尾的词加上「s」会发出「z」的音,就像「dogs」一样。但给以「t」结尾的词加上「s」听起来更像标准的「s」音,就像「cats」一样。

该研究一口气创建了30种新的迷你语言,以了解大模型是否能够在面对新生成的虚拟语言时,在没有任何先验知识的情况下能不能正确推断语音规则。

结果出人意料,即使是在这些虚构的语言上,o1在音韵相关的任务上表现依旧出色。

大模型比人类更好地理解语言吗?

从上述三个例子可以看出,曾经那些被认为仅仅人类能够拥有的语言理解能力,大模型如今也具备了。

2023 年著名语言学家乔姆斯基在《纽约时报》上写道:「语言的正确解释很复杂,不能仅仅通过浸泡在大数据中就能学会。」

该文认为尽管 AI 模型在运用语言方面可能很擅长,但它们并不具备以复杂方式分析语言的能力。

在此思潮影响下,即使ChatGPT在各方面上复制了自然语言,公众仍想知道大模型是否有人类语言的特定特征能不能由大模型复现。

这当然很有必要,随着社会越来越依赖大模型,了解它在哪些方面能成功以及哪些方面会失败变得越来越重要。

语言分析是评估语言模型推理能力与人类相似程度的理想测试平台。

而o1能够以与语言学家相似的方式分析语言,例如绘制句子图、解决多个歧义含义,并利用递归等复杂的语言特征

但我们发现这一现象后,人们不禁会问下面两个问题:

第一个问题是为何只有o1可行,其它大模型表现都差一大截。

回答是相比其它模型,o1 的优势很可能源于思维链(类似Deepseek的深度思考),使其能像人类语言学家一样逐步推理、验证假设、构建抽象规则。

第二个问题是当模型的性能随着规模变大而变大时,大模型是否有一天会比我们更能准确的理解语言吗?

对于这个问题的回答,目前还没有定论。

一方面,任何的大模型在语言学上还没有提出过原创性的观点,也没有教给我们关于语言的新知识。

另一方面,增加计算能力和训练数据,语言模型最终会在语言技能上超越我们,看不出有什么理由阻止语言模型展现出比我们更好的语言理解能力。

研究尚不足以宣称「机器理解语言胜于人类」,但足以改变评价口径:对模型的考察,应从「任务产出」转向「结构解释」。

当可解释性成为首要指标,AI研究、教育与应用治理将迎来同一套标准——把「为什么对」放在「对不对」之前。

参考资料:

https://ieeexplore.ieee.org/document/11022724

https://www.quantamagazine.org/in-a-first-ai-models-analyze-language-as-well-as-a-human-expert-20251031/

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
“谢霆锋现在的心情,估计比吃了苍蝇还难受。原来,张柏芝离开他后,越过越风生水起了…”

“谢霆锋现在的心情,估计比吃了苍蝇还难受。原来,张柏芝离开他后,越过越风生水起了…”

黎兜兜
2026-11-19 16:12:44
液氧乐队主唱张宇去世,年仅48岁,圈内人士:他之前患有肝硬化

液氧乐队主唱张宇去世,年仅48岁,圈内人士:他之前患有肝硬化

极目新闻
2026-11-19 18:03:25
3800万人围观!黄仁勋辞职后首次发文:英伟达是一生心血,想带大家再冲一次

3800万人围观!黄仁勋辞职后首次发文:英伟达是一生心血,想带大家再冲一次

算法与数学之美
2026-11-18 23:56:49
体操名将芦玉菲自曝社保长期欠费,应缴尽缴不能只等舆论倒逼

体操名将芦玉菲自曝社保长期欠费,应缴尽缴不能只等舆论倒逼

极目新闻
2026-11-19 15:03:12
大爆冷!湖人负爵士终结9连胜 东契奇29+7+9失误乔治30+10

大爆冷!湖人负爵士终结9连胜 东契奇29+7+9失误乔治30+10

醉卧浮生
2026-11-19 13:31:32
突发,沙特第一高楼遭胡塞导弹袭击受损!

突发,沙特第一高楼遭胡塞导弹袭击受损!

胜研集
2026-11-19 15:25:55
俄媒说:如果中国陷入了战争,可能会有很多国家来对付中国,但如果中国彻底将对手打疼了,才能换来真真正正的尊重与和平。

俄媒说:如果中国陷入了战争,可能会有很多国家来对付中国,但如果中国彻底将对手打疼了,才能换来真真正正的尊重与和平。

扶苏聊历史
2026-11-19 17:30:24
DeepSeek,千亿融资落地:外部股东囊括腾讯、中国移动、宁德时代、兆易创新等

DeepSeek,千亿融资落地:外部股东囊括腾讯、中国移动、宁德时代、兆易创新等

每日经济新闻
2026-11-19 14:51:05
厚颜无耻!世间怎会有如此无耻之人!自己申办2036年奥运会没底气

厚颜无耻!世间怎会有如此无耻之人!自己申办2036年奥运会没底气

果妈聊娱乐
2026-11-19 11:16:39
别踩红线!官方通报:多名高校辅导员因违规违纪被免职、开除(附10个高校辅导员典型违纪案例)

别踩红线!官方通报:多名高校辅导员因违规违纪被免职、开除(附10个高校辅导员典型违纪案例)

学术眺望
2026-11-19 16:05:03
我们穷得连黑社会头子,都只是个3000月薪的看门保安

我们穷得连黑社会头子,都只是个3000月薪的看门保安

家传编辑部
2026-11-19 13:22:01
中国男篮14人名单出炉!周琦王哲林张镇麟回归 赵睿崔永熙等5人出局

中国男篮14人名单出炉!周琦王哲林张镇麟回归 赵睿崔永熙等5人出局

颜小白的篮球梦
2026-11-19 20:17:55
深圳女高管和每一任男友发生关系前,都要先拉他去体检,防止被传染

深圳女高管和每一任男友发生关系前,都要先拉他去体检,防止被传染

江山挥笔
2026-11-19 14:15:33
黄仁勋:干掉英伟达董事会

黄仁勋:干掉英伟达董事会

技术领导力
2026-11-19 12:18:46
太惨烈了!萍乡交警查酒驾时被杀,三人死亡

太惨烈了!萍乡交警查酒驾时被杀,三人死亡

江启
2026-11-19 05:58:48
缴不起、不愿缴、不合适:"社保扩面"的三重错配

缴不起、不愿缴、不合适:"社保扩面"的三重错配

六子吃凉粉
2026-11-19 13:37:01
APEC晚宴菜单曝光!粤菜挑大梁,石斑鱼牛排荔枝酒,一桌全是诚意

APEC晚宴菜单曝光!粤菜挑大梁,石斑鱼牛排荔枝酒,一桌全是诚意

市井觅食记
2026-11-19 00:27:31
真的没救了!浙江穿搭博主吐槽女装吊牌前置太大,看不清上身效果,10件衣服全退

真的没救了!浙江穿搭博主吐槽女装吊牌前置太大,看不清上身效果,10件衣服全退

火山詩话
2026-11-19 08:41:25
和合共生|“敞开让你看”:外国政要们在深圳沉浸式感受中国

和合共生|“敞开让你看”:外国政要们在深圳沉浸式感受中国

澎湃新闻
2026-11-19 18:20:41
赖清德表侄爆发大丑闻 基隆市长选举绿营被KO

赖清德表侄爆发大丑闻 基隆市长选举绿营被KO

海峡导报社
2026-11-19 17:40:06
2026-11-19 21:56:49
新智元 incentive-icons
新智元
AI产业主平台领航智能+时代
16718文章数 67240关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

房产
本地
亲子
数码
健康

房产要闻

6.6亿!海口卖地!

本地新闻

乌兰察布:以前种土豆,现在种Token

亲子要闻

宝宝气人但是聪明的4个行为

数码要闻

苹果公布2026古典乐年度专辑:任奫灿《哥德堡变奏曲》获奖

医生眼里"很伤腰"的椅子,很多人天天坐

无障碍浏览 进入关怀版