网易首页 > 网易号 > 正文 申请入驻

LLM首次达到人类语言专家水平!OpenAI o1拿下拆解句法、识别歧义、推理音律

0
分享至

新智元报道

编辑:peter东

【新智元导读】LLM再下一城!伯克利研究证明:OpenAI的o1被证明也具有匹敌人类语言学家的元分析能力。

在人类诸多才能之中,哪些才是人类所独有的?

自古希腊哲人亚里士多德以来,语言便被视为最能彰显人之本性的标志。他曾言:人类乃「具有语言的动物」。

即使当今的大语言模型如ChatGPT已能在表层上模拟人类的日常言谈,学者们依然追问:

在人类语言的深处,是否蕴藏着某些独特的结构与特质,是任何其他生物的沟通方式,乃至AI的运算体系,皆无法真正企及的?

加州大学伯克利分校语言学家、罗格斯大学的携手,让多个大语言模型经受一系列语言学测试——其中包括要求模型归纳虚构语言的规则。

虽然大多数大语言模型未能像人类那样解析语言学规则,但有一个模型展现出远超预期的惊人能力。它能像语言学研究生那样分析语言——划分句子成分、解析多重歧义,并能运用递归等复杂语言学特征。

研究者Gašper Beguš表示,这一发现「挑战了我们对人工智能能力的认知」。

AI会说话不稀奇,会解释才稀奇——

如果语言是让我们成为人类的关键,那么如今大语言模型获得了「元语言」能力,这又意味着什么呢?

LLM构建无穷递归

想象一下:你在搭一座一层套一层、像俄罗斯套娃一样的「句子塔」。

每套进一层,理解难度就指数级上升。

这种结构,在语言学里叫「中心嵌入」(center embedding),曾被知名语言学家乔姆斯基称为能定义人类语言与思维的决定性特征。

比如这句话:

The worldview that the prose Nietzsche wrote expressed was unprecedented.

(大意为:尼采所写的那篇散文所表达的世界观是前所未有的。)

表面上看平平无奇,但如果你拆开它的「语言洋葱」:

最外层:The worldview [...] was unprecedented(这个「世界观」前所未有);

套进去一层:that the prose [...] expressed(是「那篇散文所表达的」);

再往里一层:Nietzsche wrote(而这篇散文是「尼采写的」)。

这就像在一个句子中间,又塞进一个完整的句子,再在那个句子里塞进另一个句子——三层套娃,层层递归。

人类能理解这样的句子,但之前,人们认为这样的能力大模型不具备。

上述句子在真实对话中几乎从未出现过——因为大家会觉得它「太绕了!」

所以,任何语言模型如果只是靠「背书」,根本不可能见过,自然也无法识别出这种例子。

语言学家们认为,人类语言从有限词汇和有限规则中生成无限可能句子,这种能力归因于无限递归。

迄今为止,还没有令人信服的证据表明其他动物能够以复杂的方式使用递归。

图1:不同大模型识别多重递归,绘制正确语法树的比例

然而,该研究指出在众多大模型中,唯有OpenAI o1模型不仅看懂包含多重递归的句子(图1)。

o1不仅能如同语言学家那样,以接近100%的正确率画出正确的树状结构,还能将本就复杂的句子变得更多一层。

图2:该句子对应的正确语法树

当它被问:「能不能再加一层递归?」o1回复:

The worldview that the prose that the philosopher Nietzsche admired wrote expressed was unprecedented.

「那位尼采所敬仰的哲学家所撰写的散文所表达的世界观是前所未有的。」

这说明o1不仅能够使用语言,还能够思考语言,具备元语言能力(metalinguistic capacity )。

由于语言模型只是在预测句子中的下一个单词,人对语言的深层理解在质上有所不同。因此,一些语言学家表示,大模型实际上并没有在处理语言。

这项研究的结论看起来是对上述观点的否定。

大模型能区分歧义

也能深入理解句子

想象一下,你听到下面的话:「Eliza wanted her cast out.」

乍一听,好像就是「Eliza想把她的cast赶出去」?

但「cast」这个词既可以是动词(「驱逐」),也可以是名词(「石膏」)!

于是这句话就有两种不同的含义,分别是

Eliza想要她的石膏被拿出去,

Eliza想把她赶出去。

这样识别包含多义性句子的能力,之前同样被认为大模型不具备。

人类拥有很多常识知识,使我们能够排除歧义。但大模型很难具有这样的常识知识水平。

然而该研究表明,o1可正确识别两种结构,并为每种生成了符合语言学规划的句法树。其他模型(如 GPT-4、Llama 3.1)只会生成不合语法的结构,还会对语义产生误解。

该研究还考察了大模型在音韵学相关任务上的表现——

音韵学是研究声音模式以及最小的声音单位,即音素的组织方式。

例如,在英语中,给以「g」结尾的词加上「s」会发出「z」的音,就像「dogs」一样。但给以「t」结尾的词加上「s」听起来更像标准的「s」音,就像「cats」一样。

该研究一口气创建了30种新的迷你语言,以了解大模型是否能够在面对新生成的虚拟语言时,在没有任何先验知识的情况下能不能正确推断语音规则。

结果出人意料,即使是在这些虚构的语言上,o1在音韵相关的任务上表现依旧出色。

大模型比人类更好地理解语言吗?

从上述三个例子可以看出,曾经那些被认为仅仅人类能够拥有的语言理解能力,大模型如今也具备了。

2023 年著名语言学家乔姆斯基在《纽约时报》上写道:「语言的正确解释很复杂,不能仅仅通过浸泡在大数据中就能学会。」

该文认为尽管 AI 模型在运用语言方面可能很擅长,但它们并不具备以复杂方式分析语言的能力。

在此思潮影响下,即使ChatGPT在各方面上复制了自然语言,公众仍想知道大模型是否有人类语言的特定特征能不能由大模型复现。

这当然很有必要,随着社会越来越依赖大模型,了解它在哪些方面能成功以及哪些方面会失败变得越来越重要。

语言分析是评估语言模型推理能力与人类相似程度的理想测试平台。

而o1能够以与语言学家相似的方式分析语言,例如绘制句子图、解决多个歧义含义,并利用递归等复杂的语言特征

但我们发现这一现象后,人们不禁会问下面两个问题:

第一个问题是为何只有o1可行,其它大模型表现都差一大截。

回答是相比其它模型,o1 的优势很可能源于思维链(类似Deepseek的深度思考),使其能像人类语言学家一样逐步推理、验证假设、构建抽象规则。

第二个问题是当模型的性能随着规模变大而变大时,大模型是否有一天会比我们更能准确的理解语言吗?

对于这个问题的回答,目前还没有定论。

一方面,任何的大模型在语言学上还没有提出过原创性的观点,也没有教给我们关于语言的新知识。

另一方面,增加计算能力和训练数据,语言模型最终会在语言技能上超越我们,看不出有什么理由阻止语言模型展现出比我们更好的语言理解能力。

研究尚不足以宣称「机器理解语言胜于人类」,但足以改变评价口径:对模型的考察,应从「任务产出」转向「结构解释」。

当可解释性成为首要指标,AI研究、教育与应用治理将迎来同一套标准——把「为什么对」放在「对不对」之前。

参考资料:

https://ieeexplore.ieee.org/document/11022724

https://www.quantamagazine.org/in-a-first-ai-models-analyze-language-as-well-as-a-human-expert-20251031/

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
尼科-威廉斯:比赛失利令人沮丧和失望,我们没有发挥出应有的水平

尼科-威廉斯:比赛失利令人沮丧和失望,我们没有发挥出应有的水平

懂球帝
2026-11-21 11:33:11
惨烈! 马来西亚10月汽车销量7.5万辆 宝腾1.9万 比亚迪333辆 大跌80%

惨烈! 马来西亚10月汽车销量7.5万辆 宝腾1.9万 比亚迪333辆 大跌80%

趣味萌宠的日常
2026-11-21 01:08:29
2018年末的剧本:美联储持续加息,美股从9月高点暴跌20%,迫使美联储1月“转向”

2018年末的剧本:美联储持续加息,美股从9月高点暴跌20%,迫使美联储1月“转向”

华尔街见闻官方
2026-11-21 13:22:36
冰冻三尺非一日之寒,男子路过小吃街,发现不到百米小街五家餐饮陆续旺铺转让关门,感慨苦了老板,富了房东

冰冻三尺非一日之寒,男子路过小吃街,发现不到百米小街五家餐饮陆续旺铺转让关门,感慨苦了老板,富了房东

捣蛋窝
2026-11-21 12:59:35
《星际迷航》传奇帕特里克·斯图尔特死因公布,享年86岁

《星际迷航》传奇帕特里克·斯图尔特死因公布,享年86岁

浅遇时光
2026-11-20 13:48:40
钱再多有什么用?被送进急救的于和伟,给所有男明星提了个醒

钱再多有什么用?被送进急救的于和伟,给所有男明星提了个醒

云舟史策
2026-11-19 07:13:32
伊朗称击中一架F-16战机

伊朗称击中一架F-16战机

新华社
2026-11-21 21:32:26
NBA开赛至今,表现最好的6名新秀:文班亚马全能,22年榜眼惊艳

NBA开赛至今,表现最好的6名新秀:文班亚马全能,22年榜眼惊艳

篮球圈里的那些事
2026-11-21 22:55:50
女主术后不能同房,找女人帮老公泄火,保姆半推半就:一次五百!

女主术后不能同房,找女人帮老公泄火,保姆半推半就:一次五百!

第7情感
2025-07-31 11:41:37
小米269元新品开售:1.77英寸+2190mAh

小米269元新品开售:1.77英寸+2190mAh

全是技能
2026-11-20 12:08:45
家中10样东西,过期1天也要扔!第一名家家都有,毒性最大

家中10样东西,过期1天也要扔!第一名家家都有,毒性最大

健康之光
2026-09-11 17:50:48
54岁杨钰莹近况曝光:定居深圳,每天打理菜园子,生活平淡

54岁杨钰莹近况曝光:定居深圳,每天打理菜园子,生活平淡

小徐讲八卦
2025-11-17 07:29:28
北京的第一批大龄未婚女性,已经搬进了养老院

北京的第一批大龄未婚女性,已经搬进了养老院

小怪吃美食
2026-11-21 10:55:17
事情坏就坏在国际奥委会自身;当年的中国举办奥运会,国际奥委会的委员们,反复来中挑毛病,让中国人身心受到了极大的伤害。

事情坏就坏在国际奥委会自身;当年的中国举办奥运会,国际奥委会的委员们,反复来中挑毛病,让中国人身心受到了极大的伤害。

回京历史梦
2026-11-14 09:07:49
饭店88元红烧“小鸡”竟是候鸟,男女老少齐上阵,村民直言“留着鸟干嘛”;有的种群30来年间,被吃掉约9成;贵州通报:已传唤涉案人员

饭店88元红烧“小鸡”竟是候鸟,男女老少齐上阵,村民直言“留着鸟干嘛”;有的种群30来年间,被吃掉约9成;贵州通报:已传唤涉案人员

扬子晚报
2026-11-20 16:49:50
黄仁勋老婆给他买的皮衣怎么办?网友:“千算万算,没想到他离婚会波及到我啊!”

黄仁勋老婆给他买的皮衣怎么办?网友:“千算万算,没想到他离婚会波及到我啊!”

LOGO研究所
2026-11-09 19:40:24
开小饭馆一年能挣上百万,房东眼红非要将租金翻个倍,我痛快答应下来,转头三天搬空店铺,房东站在门口傻了

开小饭馆一年能挣上百万,房东眼红非要将租金翻个倍,我痛快答应下来,转头三天搬空店铺,房东站在门口傻了

晓艾故事汇
2026-11-18 16:14:50
湖人队主教练雷迪克谈凯斯勒在打国王队时,“拯救比赛”关键一球

湖人队主教练雷迪克谈凯斯勒在打国王队时,“拯救比赛”关键一球

好火子
2026-11-22 00:26:16
严厉查处!过紧日子仍然有单位顶风作案,一单位突击花1400万!

严厉查处!过紧日子仍然有单位顶风作案,一单位突击花1400万!

职场资深秘书
2026-11-21 11:55:27
约中年女人出来玩,大胆一点,女人不论多大,这3招都可以搞定

约中年女人出来玩,大胆一点,女人不论多大,这3招都可以搞定

千秋文化
2026-11-21 21:19:47
2026-11-22 01:19:00
新智元 incentive-icons
新智元
AI产业主平台领航智能+时代
16735文章数 67242关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

男子遭女友报案强奸获刑出狱后复合 女方重提旧事被杀

头条要闻

男子遭女友报案强奸获刑出狱后复合 女方重提旧事被杀

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

港姐季军吴文忻去世,生前已办追思会

财经要闻

走过三年牛市,黄金何去何从?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

本地
游戏
健康
公开课
军事航空

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

曝GTA6与大表哥2是同一宇宙!多处彩蛋佐证

医生眼里"很伤腰"的椅子,很多人天天坐

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

俄乌炸桥冲突升级 相关谈判设想被放弃

无障碍浏览 进入关怀版