网易首页 > 网易号 > 正文 申请入驻

谷歌AI摘要频现低级拼写错误,大语言模型固有缺陷难根治

0
分享至

IT之家 5 月 28 日消息,Google 这个单词里有几个字母 P?谷歌给出的答案是两个。

谷歌的人工智能摘要(AI Overview)还称,单词“poop”里有一个字母 r,而“journalism”一词包含两个字母 d,可它给出的拼写却是:j-o-u-r-n-a-d-i-s-m。谷歌倒是正确识别出了美国总统的姓氏里有一个字母 P,却把姓氏拼写成了 t-r-p-u-m。



其实不难预见,谷歌这场以人工智能为核心的搜索功能改版会问题频出。类似状况此前就发生过。谷歌首次在搜索中上线人工智能摘要功能时,该模块曾引用一些恶搞帖子,甚至给出诸如“吃石头”“往披萨上涂胶水”这类离谱建议。

谷歌在发给 TechCrunch 的邮件声明中表示:“大语言模型一直存在单词字母计数方面的难题,我们正着手解决这一具体问题。”

IT之家注意到,这类低级拼写错误并不罕见。驱动聊天机器人及各类文本生成工具的大语言模型,其设计初衷本就不是识别拼写。多年来圈内一直有个梗:每当有企业推出新款人工智能模型,你就可以考考它,问问单词 strawberry 里有多少个字母 r。这些人工智能模型能几秒内编写应用程序,也能攻克困扰数学家数十年的难题,可在拼写方面,水平却和幼儿园孩童相差无几。

不过,谷歌人工智能摘要暴露出的问题远不止这些滑稽的拼写错误。上周就曾出现过一处漏洞:用户搜索“disregard”(忽视),页面本该显示该单词的词典释义,结果却跳出这样一句话:“收到。你随时可以提出新指令或问题。”目前这一漏洞已被谷歌修复。但各类拼写错误依旧层出不穷,也成了大家津津乐道的槽点,因为这类问题实在难以彻底根除。

研究人员此前在解读这类拼写难题时解释过,人工智能并不会像人类那样,把句子看作由单词、字母构成的语言单元。多数大语言模型基于 Transformer 架构搭建,会将文本拆分为词元(token)—— 不同模型拆分出的词元可能是完整单词、音节或是单个字母。人工智能不会像人一样“阅读”文本,而是先把文本转化为数字表征,再结合语境分析,进而生成逻辑回复。

阿尔伯塔大学人工智能研究员、助理教授马修・古兹迪亚尔接受 TechCrunch 采访时说道:“大语言模型依托 Transformer 架构运行,它本质上并非在阅读文本。当你输入指令,内容会先被转换为编码。比如它识别单词‘the’,只会对应一个专属编码,却无法区分组成这个单词的字母 T、H、E。”

谷歌人工智能摘要这类大语言模型所依赖的词元架构,本身就存在固有局限。研究人员也并不看好其能彻底解决拼写问题。

波士顿东北大学专攻大语言模型可解释性的在读博士谢里丹・福伊希特表示:“对语言模型而言,如何准确定义‘单词’本身就是一大难题。即便行业专家能敲定一套完美的词元词汇表,模型大概率仍会选择进一步合并拆分文本片段。依我判断,受这类模糊性影响,不存在绝对完美的词元分词器。”

对研究人员来说,拼写问题也并非亟待解决的要务,毕竟大语言模型的核心价值本就不在于拼写能力。但这些明显的失误也提醒着我们:即便人工智能有时看似无所不知、高深莫测,它也并非完美无缺。面对人工智能给出的结果,我们绝不能盲目采信,务必核实其准确性。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
中方两小时“送客令”:高市早苗不收回那句话,日本连装糊涂的资格都没有

中方两小时“送客令”:高市早苗不收回那句话,日本连装糊涂的资格都没有

浯江孤舟
2026-08-31 10:07:56
“深圳人全妆出街迎APEC”,冲上热搜

“深圳人全妆出街迎APEC”,冲上热搜

极目新闻
2026-11-18 10:22:19
APEC现场|普京点赞亚洲国家跨越式发展,乐观期待中俄美元首会晤

APEC现场|普京点赞亚洲国家跨越式发展,乐观期待中俄美元首会晤

澎湃新闻
2026-11-18 15:54:40
如果你是黄仁勋,这三个女人会选谁?

如果你是黄仁勋,这三个女人会选谁?

仕道
2026-11-18 14:14:20
北京女网红晒豪宅,“天宫一角”露出国宝级名画,账号已被禁止发布作品

北京女网红晒豪宅,“天宫一角”露出国宝级名画,账号已被禁止发布作品

娱乐E君
2026-11-17 17:34:36
大家发现没?油车跑1000公里要500多块,电车跑1000公里呢?

大家发现没?油车跑1000公里要500多块,电车跑1000公里呢?

兴趣知识
2026-11-18 02:59:02
纽约时报:中国人生活在一种奇怪的悖论中,在国际上中国看似强大

纽约时报:中国人生活在一种奇怪的悖论中,在国际上中国看似强大

果妈聊娱乐
2026-11-17 11:39:05
65岁刘德华自曝每天吃6颗鸡蛋,吃素13年曾迷上咖啡:每天喝20杯

65岁刘德华自曝每天吃6颗鸡蛋,吃素13年曾迷上咖啡:每天喝20杯

开开森森
2026-11-16 20:46:35
APEC会议近700辆红旗车全流程接待,“豪华车队”亮相深圳,网友感慨:简直是一支“外交跑腿天团”

APEC会议近700辆红旗车全流程接待,“豪华车队”亮相深圳,网友感慨:简直是一支“外交跑腿天团”

极目新闻
2026-11-18 10:24:16
太硬气了!央视今天拒绝转播开拓者队比赛,原因或许只有一个

太硬气了!央视今天拒绝转播开拓者队比赛,原因或许只有一个

南海浪花
2026-11-18 11:34:45
袁家军在全市卫生与健康大会上强调 坚定实施健康优先发展战略 加快推动卫生与健康事业高质量发展 陈新武主持 程丽华出席

袁家军在全市卫生与健康大会上强调 坚定实施健康优先发展战略 加快推动卫生与健康事业高质量发展 陈新武主持 程丽华出席

上游新闻
2026-11-18 18:26:06
英伟达,业绩“炸裂”!董事长强硬拒绝黄仁勋回归:已请猎头公司找接班人,“他辞职是自愿”!临时CEO:供应商和合作伙伴100%支持我们

英伟达,业绩“炸裂”!董事长强硬拒绝黄仁勋回归:已请猎头公司找接班人,“他辞职是自愿”!临时CEO:供应商和合作伙伴100%支持我们

每日经济新闻
2026-11-18 10:46:50
杀回英伟达,黄仁勋要先干掉董事会

杀回英伟达,黄仁勋要先干掉董事会

起点人文
2026-11-18 17:16:37
APEC还没开幕,深圳的饭菜先火了,一群老外齐齐用起了筷子!

APEC还没开幕,深圳的饭菜先火了,一群老外齐齐用起了筷子!

讲者普拉斯
2026-11-18 11:01:12
开心到拍大腿,排面拉满特朗普非常高兴,简直是超高规格接待

开心到拍大腿,排面拉满特朗普非常高兴,简直是超高规格接待

三叔的装备空间
2026-11-18 19:28:04
忘恩负义到顶峰了!足坛名宿公开怒喷葡萄牙忘本:没有C罗你们什么都不是,如今却把功勋传奇当耻辱!没有那双脚,连决赛门朝哪开都不知道

忘恩负义到顶峰了!足坛名宿公开怒喷葡萄牙忘本:没有C罗你们什么都不是,如今却把功勋传奇当耻辱!没有那双脚,连决赛门朝哪开都不知道

锐评利物浦
2026-11-18 10:15:40
兰州监狱服刑者非正常死亡案再审一审宣判:四狱警分别被判处有期徒刑11年6个月、5年、5年、5年,“疑点利益”不归“毁尸灭迹”者

兰州监狱服刑者非正常死亡案再审一审宣判:四狱警分别被判处有期徒刑11年6个月、5年、5年、5年,“疑点利益”不归“毁尸灭迹”者

大风新闻
2026-11-18 14:36:05
老艺术家斯琴高娃辞世,丈夫身份揭晓,佳作众多,竟哭错坟了

老艺术家斯琴高娃辞世,丈夫身份揭晓,佳作众多,竟哭错坟了

橙星文娱
2026-11-18 17:46:20
无锡市委书记蒋锋,添新职

无锡市委书记蒋锋,添新职

上观新闻
2026-11-18 18:51:23
央视又翻车了?

央视又翻车了?

亮见
2026-11-18 15:04:54
2026-11-18 21:00:49
IT之家
IT之家
爱科技,爱这里 - 前沿科技人气平台
380078文章数 607742关注度
往期回顾 全部

科技要闻

离职后首份声明!黄仁勋认错愿回归

头条要闻

游客花1600元买的烤全羊剥不出1两肉 官方通报

头条要闻

游客花1600元买的烤全羊剥不出1两肉 官方通报

体育要闻

“中超卡里乌斯”,成了大连的夺冠英雄

娱乐要闻

主持人张泉灵被曝猛料,公司成老赖

财经要闻

黄仁勋留下的高分成绩单,能延续吗?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

教育
艺术
旅游
健康
军事航空

教育要闻

孩子厌学三个原因打通一点就愿上学

艺术要闻

投资55亿!深圳歌剧院施工现场更新,主音乐厅马蹄形已现!

旅游要闻

青岛冬日赏鸥地图|沿着海岸线,赴一场海鸥之约

医生眼里"很伤腰"的椅子,很多人天天坐

军事要闻

美军再袭伊朗格什姆岛

无障碍浏览 进入关怀版