网易首页 > 网易号 > 正文 申请入驻

致幻的AI Overviews,谷歌再次翻了车

0
分享至


出品 | 虎嗅科技组

作者 | 杜钰君

编辑 | 苗正卿

头图 | 视觉中国

继将马斯克画成黑人后,谷歌再次翻了车。(虎嗅注:今年2月份,谷歌的Gemini在推出文生图功能几周的时间内,被用户发现该平台刻意拒绝生成白人形象。对此谷歌方面表示加快改进,暂停人物图片的生成功能。)

此次谷歌又犯了前科。在5月15日推出这一AI搜索引擎功能后,有不少用户在使用过程中发现谷歌的AIOverviews会“胡言乱语”,对搜索的问题给出有违常识的、荒谬的解决方案。比如,兔子曾经作为密尔沃基鹰队的后卫在NBA打过球、金毛犬可以生下奶牛、建议人们每天至少吃一块小石头……


此外,谷歌的人工智能搜索系统有时会难以解决基本的数学问题和方程式。例如,询问2000年美元的相对价值,会返回一个荒谬的答案,即“2000年至2023年期间价格累计上涨-43.49%”(根据谷歌自己引用的通胀计算器,当时价格实际上涨了77%);又或是认为2024年10月至2025年1月之间有738,523天。

AIOverviews是谷歌在5月15日的I/O大会上高调推出的新型AI搜索引擎,由Gemini大模型驱动,展示在谷歌搜索的页面顶部,可总结提炼用户查询内容的概要。在I/O大会上,谷歌称该功能将“重新定义搜索体验”。由于这一功能的推出,一些专家甚至将这一天称为Google搜索的“零日”。2023年5月推出的SearchGenerativeExperience是AIOverviews的测试版。CEO桑达尔・皮查伊曾表示,在测试版推出后谷歌已经处理了超过10亿次查询。

之所以会犯这样的错误,最直接原因是Reddit网站网友评论的错误数据。谷歌的大模型以Reddit上的帖子作为学习资料,在数据清洗与训练环节出现纰漏,因而出现了“大模型致幻”。

事实上,谷歌这样“满纸荒唐言”并非个例。

谷歌之外,OpenAI、Perplexity、You.com等无一幸免,均出现过不同程度的失误。为了增强对话的拟真性和数据的全面性,这些AI搜索功能都将Reddit等社交平台作为模型训练的数据库,甚至奥特曼本身便是Reddit的投资人。

但Reddit等社区上的发言良莠不齐,显然AI在内容真实性和可靠度方面的判断力还未成熟。在常规的搜索中,这些来自随机互联网用户的恶作剧帖子可能不会成为人们点击网络链接列表时看到的首个答案。但有了AIOverviews后,这些恶作剧帖子就被整合到结果页面顶部显示的权威数据摘要中。




本质上,AIOverviews此次出现的问题是人工智能幻觉的一种新变体,当生成式人工智能模型提供虚假或误导性信息并将其呈现为事实时,就会出现幻觉。幻觉是由有缺陷的训练数据、算法错误或对上下文的误解造成的。

HITCon安全会议上的相关研究成果显示,仅仅需要“污染”不到0.7%的数据集,就能有效规避防御机制,导致大模型输出的内容准确性大幅下降。当大模型被投喂的数据集含有误导性信息时,其给出的结果必然同样失真。

对此,纽约大学的AI专家和神经科学荣誉教授加里・马库斯(GaryMarcus)曾表示,AI模型天生无法对自己的工作进行理性检查,而这正是这个行业的致命伤。

而谷歌发言人梅根・法恩斯沃斯则表示,“用户展示的事例都是不常见的查询,并不代表大多数人的经历,我们也看到了一些被篡改或我们无法复现的例子”“绝大多数AI概览查询都产生了高质量信息,并提供了深入挖掘网络的链接”。谷歌将使用有问题答案的“孤立例子”来完善其系统。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
余琦处罚来了!丈夫身份被扒!家犬受连累,升迁历程同时被曝光

余琦处罚来了!丈夫身份被扒!家犬受连累,升迁历程同时被曝光

蛙斯基娱乐中
2024-06-22 16:23:19
真主党警告塞浦路斯:帮以色列就是“找打” 这个小岛国会让殴盟卷入巴以冲突吗?

真主党警告塞浦路斯:帮以色列就是“找打” 这个小岛国会让殴盟卷入巴以冲突吗?

红星新闻
2024-06-21 20:22:23
被家暴16次女子披露最新状况:左肾几乎看不见正等鉴定结果

被家暴16次女子披露最新状况:左肾几乎看不见正等鉴定结果

南方都市报
2024-06-22 16:30:10
不容易!毛坦厂中学高考复读学费曝光!第一学期最高收费38000元

不容易!毛坦厂中学高考复读学费曝光!第一学期最高收费38000元

火山诗话
2024-06-22 12:47:21
蒋介石眼中的“熊军”,内战不赢外战无敌,曾以4万阻击24万美军

蒋介石眼中的“熊军”,内战不赢外战无敌,曾以4万阻击24万美军

小金鱼的眼泪
2024-06-22 22:55:32
4战轰54分!中国女排15岁1米93强力接应出炉:龚翔宇最佳替身?

4战轰54分!中国女排15岁1米93强力接应出炉:龚翔宇最佳替身?

李喜林篮球绝杀
2024-06-22 13:33:29
名校校长的"后宫":88名女教师,霸占87人?!

名校校长的"后宫":88名女教师,霸占87人?!

北国向锡安
2024-05-11 09:55:37
新疆赔本赚吆喝?广东血赚,真相来了

新疆赔本赚吆喝?广东血赚,真相来了

体育篮球弟
2024-06-23 05:55:03
茅台价格猛跌,已跌破2200了!

茅台价格猛跌,已跌破2200了!

娱乐圈的大爆炸
2024-06-22 12:49:06
曾被誉为武磊接班人!22岁徐根宝弟子终于爆发:3场3球!

曾被誉为武磊接班人!22岁徐根宝弟子终于爆发:3场3球!

中超球评
2024-06-22 13:56:06
国外电视台为了收视率,女主播们露球播报,观众每天都会准时收看

国外电视台为了收视率,女主播们露球播报,观众每天都会准时收看

影孖看世界
2024-05-11 20:23:58
女留学生染指上千外国男子,拍成视频走红网络,父母与她断绝关系

女留学生染指上千外国男子,拍成视频走红网络,父母与她断绝关系

阿胡
2024-06-16 11:06:11
董宇辉上热搜了!这次不是因讲苏东坡,也不是讲英语,而是因吹面

董宇辉上热搜了!这次不是因讲苏东坡,也不是讲英语,而是因吹面

元气少女侃娱乐
2024-06-22 10:36:27
酒井法子越老越丰满!微胖身材穿蕾丝裙紧绷绷,看脸却清纯如初

酒井法子越老越丰满!微胖身材穿蕾丝裙紧绷绷,看脸却清纯如初

时髦范
2024-06-07 10:51:02
波兰总统杜达抵达北京

波兰总统杜达抵达北京

环球网资讯
2024-06-22 20:35:15
福建一家三代6人寺庙躲雨被埋,确认已遇难,寺庙已有356年历史

福建一家三代6人寺庙躲雨被埋,确认已遇难,寺庙已有356年历史

爱意随风起呀
2024-06-22 16:52:17
记者:纳乔加盟沙特联升班马卡迪西亚已基本敲定,下周将官宣

记者:纳乔加盟沙特联升班马卡迪西亚已基本敲定,下周将官宣

直播吧
2024-06-23 01:01:29
杭州保姆纵火案通灵记录:通灵人与被害人交流,得知朱小贞真实死因

杭州保姆纵火案通灵记录:通灵人与被害人交流,得知朱小贞真实死因

古今档案
2024-06-18 20:56:33
9小时票房破3400万,彭昱畅击败史皇夺冠,暑期档第一部爆款来了

9小时票房破3400万,彭昱畅击败史皇夺冠,暑期档第一部爆款来了

靠谱电影君
2024-06-22 09:16:26
68岁努尔哈赤早上刚死,34岁皇太极晚上就给36岁阿巴亥送弓箭

68岁努尔哈赤早上刚死,34岁皇太极晚上就给36岁阿巴亥送弓箭

百年历史老号
2024-05-10 16:48:47
2024-06-23 07:40:49
虎嗅APP
虎嗅APP
个性化商业资讯与观点交流平台
21859文章数 684725关注度
往期回顾 全部

科技要闻

一文看懂纯血鸿蒙,自主可控操作系统来了

头条要闻

俄罗斯女首富正尝试建立新的全球性支付系统

头条要闻

俄罗斯女首富正尝试建立新的全球性支付系统

体育要闻

别人去沙特养老,坎特去沙特练级

娱乐要闻

陈晓惹争议!被曝婚变离家出走冷暴力

财经要闻

美元落幕,人民币资产崛起!

汽车要闻

中型超混SUV 凯翼昆仑iHD预售11.99万起

态度原创

家居
健康
手机
教育
公开课

家居要闻

木质家具 充溢古典之风

晚餐不吃or吃七分饱,哪种更减肥?

手机要闻

升级鸿蒙NEXT版本之前,建议了解这五个问题,避免事后遗憾

教育要闻

ED被拒,这位上海女生却被哈佛和MIT录取,难道这是“美本爽剧”吗

公开课

近视只是视力差?小心并发症

无障碍浏览 进入关怀版