网易首页 > 网易科技 > 网易科技 > 正文

怕一词多义?谷歌翻译用“注意力机制”解决难题

0
分享至

【网易智能讯 9月3日消息】机器学习已经成为一种非常有用的翻译工具,但它也有一些弱点。翻译模式的逐字翻译趋势,可能会导致严重的错误。谷歌在其研究博客上发表了一篇有趣的文章,详细描述了这个问题的性质及其解决方案。

这个问题在雅各布?尤兹克利特的自然语言处理部门中得到了很好的解释。思考下面这两句话:

I arrived at the bank after crossing the street.(穿过马路,我到了银行。)

I arrived at the bank after crossing the?river.(过了河,我到了对岸。)

显然,“银行”在每句话中都有不同的含义,但是一种算法会一刀切就很容易选错词——因为在看到句尾之前它不知道哪个“bank”是正确的。一旦你开始寻找这种模棱两可的东西,这种模棱两可就会无处不在。

至于我,我会重新改写一下这个句子(斯特伦克和怀特都说过这句话),但翻译软件当然不会在两者中做选择。如果修改神经系统,将整个句子翻译过来看看是否有什么奇怪的地方,那就会非常低效,如果句子有问题的话,需要重新试一次。

谷歌的解决方案是所谓的“注意力机制”,将它内置在一个被称为“转换器”的系统中。它将每个单词与句子中的每一个单词进行比对,以确定它们是否会以某种关键的方式相互影响——例如,看“他”或“她”是否在说话,或者“银行”这个词是否以特定的方式表达。

当要翻译的句子被构造出来时,注意力机制会将每个词与其他词相比较。这个动图显示了整个过程。嗯,有点……

如果这一切听起来很耳熟,那可能是因为你在本周早些时候读到过这篇文章:一家竞争对手的翻译公司DeepL也使用了注意力机制。该公司的联合创始人提到了这个问题,因为他们也一直在努力解决此问题,甚至还提到了谷歌博客中的那篇文章(你只需要关注)——尽管很明显他们自己制作了自己的版本。这是一个非常有效的方法——甚至比谷歌的还要好。

谷歌的方法的有一个有趣的副作用,那就是它为系统的逻辑提供了一个窗口:因为转换器给每个单词与其他单词的匹配关系判定一个分数,你可以看到它认为与之相关的单词,或者可能是相关的:

很酷,对吧?嗯,我想是的。这是另一种模棱两可的说法,“它”指的是街道或动物,而只有最后一个词会把它去确定下来。我们会自动计算出来,但机器仍需学习。(选自:网易智能翻译:网易见外智能编译机器人?审校:韩茹雪)

相关推荐
热点推荐
国务院:对符合条件的澳门机动车经横琴粤澳深度合作区暂时入出广东省其他区域实行免担保政策

国务院:对符合条件的澳门机动车经横琴粤澳深度合作区暂时入出广东省其他区域实行免担保政策

界面新闻
2026-04-02 17:07:08
李文基被查!珠海国资委三任主任接连“落马”

李文基被查!珠海国资委三任主任接连“落马”

南方都市报
2026-04-02 20:39:05
又一行业巨头暴雷,拖欠数亿货款,创始人失联甩锅,百姓被坑惨了

又一行业巨头暴雷,拖欠数亿货款,创始人失联甩锅,百姓被坑惨了

卷史
2026-04-02 14:17:39
13.9万起!丰田官宣:新车首次降价

13.9万起!丰田官宣:新车首次降价

高科技爱好者
2026-04-02 23:20:08
27岁单亲妈妈开直播,播着播着睡着了,醒来一看后台直接傻眼了

27岁单亲妈妈开直播,播着播着睡着了,醒来一看后台直接傻眼了

小椰的奶奶
2026-04-01 17:04:55
国家一级女演员陈丽云被逮捕!

国家一级女演员陈丽云被逮捕!

许三岁
2026-03-28 09:24:30
4月1日起全国道路监控全面启用,这10种行为将直接扣分罚款

4月1日起全国道路监控全面启用,这10种行为将直接扣分罚款

深度报
2026-04-01 20:31:41
当着高市早苗的面,法国总统马克龙承诺:不邀请中国参加G7峰会

当着高市早苗的面,法国总统马克龙承诺:不邀请中国参加G7峰会

阿龙聊军事
2026-04-02 18:59:10
家里有废旧手机的要留意,手机店员工说漏嘴,记得提醒家人朋友

家里有废旧手机的要留意,手机店员工说漏嘴,记得提醒家人朋友

小谈食刻美食
2026-04-02 08:57:37
震惊,专家建议:对失业人员征收失业税以防故意躺平影响社会发展

震惊,专家建议:对失业人员征收失业税以防故意躺平影响社会发展

黯泉
2026-04-02 20:46:21
顶级恐怖!MIT数学实锤证明:ChatGPT正诱发「AI精神病」,全球14人已死亡

顶级恐怖!MIT数学实锤证明:ChatGPT正诱发「AI精神病」,全球14人已死亡

新智元
2026-04-02 19:23:43
浙江东阳,33 岁的男子,在母亲长眠的公墓旁,在车里结束了生命

浙江东阳,33 岁的男子,在母亲长眠的公墓旁,在车里结束了生命

老猫观点
2026-04-02 13:02:45
4连胜!随着王艺迪4-1张本美和,世界杯8强已出其四,国乒3人晋级

4连胜!随着王艺迪4-1张本美和,世界杯8强已出其四,国乒3人晋级

侃球熊弟
2026-04-02 20:59:59
连烧30小时!百亿航母成废铁?5700人全被扣押,福建舰成全球唯一

连烧30小时!百亿航母成废铁?5700人全被扣押,福建舰成全球唯一

涵豆说娱
2026-04-02 21:41:57
问界销量神话崩塌,赛力斯千亿市值回归倒计时

问界销量神话崩塌,赛力斯千亿市值回归倒计时

新浪财经
2026-04-02 22:40:23
张雪师父发声:夺冠后两人通话泣不成声;曾数十次借钱给张雪,建议他造车:是你成为世界冠军的唯一可能

张雪师父发声:夺冠后两人通话泣不成声;曾数十次借钱给张雪,建议他造车:是你成为世界冠军的唯一可能

大风新闻
2026-04-02 14:31:06
张雪和陈光标杠上了!自曝太多资本找上门,让他们支持造国产飞机

张雪和陈光标杠上了!自曝太多资本找上门,让他们支持造国产飞机

萌神木木
2026-04-02 16:39:18
调查100个剩女发现:35岁前没“碰”过男人的女人,都有3个共性

调查100个剩女发现:35岁前没“碰”过男人的女人,都有3个共性

木子爱娱乐大号
2026-04-02 13:01:03
2026天眼全覆盖!电子眼抓拍暗藏规律,牢记7点开车不扣分不踩坑

2026天眼全覆盖!电子眼抓拍暗藏规律,牢记7点开车不扣分不踩坑

复转这些年
2026-04-02 11:00:03
上海交大校庆宣传片引争议,校方紧急致歉!

上海交大校庆宣传片引争议,校方紧急致歉!

品牌新
2026-04-02 10:40:05
2026-04-03 01:40:49

科技要闻

三年亏20亿,最新估值58亿,Xreal冲刺港股

头条要闻

视频:美新型导弹空爆数千枚弹片 炸死21名伊朗青少年

头条要闻

视频:美新型导弹空爆数千枚弹片 炸死21名伊朗青少年

体育要闻

邵佳一的改革,从让每个人踢舒服开始

娱乐要闻

《浪姐》人气榜出炉!曾沛慈断层第一

财经要闻

市场被特朗普一句话打醒 滞胀交易回归

汽车要闻

轴距2米7/后排能跷腿 试驾后驱小车QQ3 EV

态度原创

艺术
房产
亲子
公开课
军事航空

艺术要闻

全球第6高的废弃建筑!泰国“幽灵塔”,鬼都绕着走?

房产要闻

巨无霸来了!海口城更,突然又爆大动作!

亲子要闻

让孩子学会礼仪之道,做一个有礼貌的孩子

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

伊朗自杀无人机突进 逼退林肯号航母

无障碍浏览 进入关怀版
×