披萨上涂胶水、建议用户吃石头、毒蘑菇……谷歌又被大模型带沟里

编辑：山茶花 本文转载自机器之心

谷歌 AI「满嘴跑火车」被声讨，技术人员争分夺秒来「灭火」。

继「把马斯克画成黑人」后，谷歌 AI 再度闯祸。

近日，有网友使用谷歌的 AI Overview 功能进行搜索，却得到了一堆离谱的回答。例如，告诉用户在披萨上涂胶水，或者建议他们吃石头等。谷歌 AI「满嘴跑火车」的回答迅速在社交媒体上发酵，甚至有网友发出了「谷歌已死」的慨叹。

为此，谷歌不得不争分夺秒地手动禁用某些搜索的 AI Overview 功能，对这些问题进行修复和优化。

谷歌的 AI Overviews 是一个增强搜索引擎结果的功能，利用人工智能技术，在搜索结果顶部提供 AI 生成的答案。

在美国地区，谷歌主要和 Reddit 社区合作来解答用户的提问。谷歌表示，它将为美国用户的在线查询提供人工智能生成的答案，这是其搜索引擎 25 年来最大的更新之一。

谷歌 AI「胡说八道」引争议

近日，有网友在谷歌搜索中查询「芝士和披萨粘不到一块」的解决办法，但 AI 给出的答案离了个大谱，「你还可以把 1/8 杯的无毒胶水加到酱料里，使其更有黏性。」

更搞笑的是，有网友还找到了披萨胶水回答的出处，是十多年前名为「fucksmith」的用户在 Reddit 帖子中的恶搞评论。

还有网友问：「兔子曾经在 NBA 打过球吗？」谷歌 AI 肯定地回答「yes!」还声称一只名为 Rabbit Walthour 的兔子在 NBA 打过球，是密尔沃基鹰队的后卫，甚至给出了这只兔子的身高、体重、出生日期。

更无语的是，谷歌 AI 搜索给出了相关链接，竟是 NBA 球员 Rabbit Walthour 的个人信息。

原来谷歌AI把NBA球员Rabbit Walthour和rabbit（兔子）搞混了。

谷歌这种「口出狂言」的行为还有很多。声称前美国总统詹姆斯・麦迪逊 21 次毕业于威斯康星大学，一条狗曾在 NBA、NFL 和 NHL 打过球，以及蝙蝠侠是一名警察……

谷歌的 AI Overview 之所以引发争议，是因为它的回答不仅愚蠢而且有害。

比如，它建议人们每天至少吃一块小石头，还搬出地质学家，煞有介事地说：「为了过上健康、均衡的生活，美国人应该在早餐、午餐或晚餐中至少摄入一份鹅卵石、晶石或砾石。」（这是哪个地质学家说的？）

再如，有网友发了一张毒蘑菇的图片以及「口蘑！好吃！」的文字，Gemini 丝毫没有察觉出这蘑菇可能有毒。

此外，当网友问「被响尾蛇咬了该怎么办」时，谷歌 AI 竟然让他用冰块来冷敷伤口。

更有甚者，谷歌 AI 还挑唆抑郁症患者从金门大桥上跳下去。

自从谷歌为美国用户默认开启 AI Overview 功能后，这类可怕糟糕的搜索结果就层出不穷，也由此引发网友声讨。不过也有网友质疑其中很多示例都是P图。

一位匿名的 AI 创始人吐槽道：「一家以尖端技术和高质量产品而闻名的公司，现在却以低质量输出和各种梗图而著称。」

谷歌紧急「灭火」

谷歌仍然坚称其 AI Overview 功能向用户提供了大量「高质量信息」。谷歌发言人梅根・法恩斯沃斯表示，「用户展示的事例都是不常见的查询，并不代表大多数人的经历，我们也看到了一些被篡改或我们无法复现的例子。」

同时，谷歌正「迅速采取行动」，在某些查询中移除 AI 生成的内容。法恩斯沃斯表示，「公司已对违反其政策的行为采取行动…… 并正在利用这些『孤立的例子』继续完善产品。」

实际上，谷歌已经测试 AI Overviews 功能一年多了。该功能于 2023 年 5 月作为 「搜索生成体验」（Search Generative Experience）的测试版推出。谷歌 CEO 桑达尔・皮查伊表示，在此期间公司已经处理了超过 10 亿次查询。

不过，皮查伊也表示，「在硬件、工程和技术突破的推动下」，谷歌已经将提供人工智能答案的成本降低了 80%。如今看来，这种优化似乎发生得太早了，技术并未准备好。

纽约大学的 AI 专家和神经科学荣誉教授加里・马库斯（Gary Marcus）表示，许多 AI 公司正在「兜售梦想」，认为这项技术将从 80% 的正确率提高到 100%。马库斯说，达到最初的 80% 正确率相对简单，因为它涉及到大量近似人类数据，但最后的 20% 极具挑战性。实际上，马库斯认为最后的 20% 才是最难的。

马库斯说：「你实际上需要进行一些推理来判断：这件事是否可信？这个来源是否合法？你必须像人类事实核查员那样做一些事情，这实际上可能需要 AGI。」

马库斯和 Meta 的 AI 首席 Yann LeCun 都认为，谷歌 Gemini 和 OpenAI 的 GPT-4 等大型语言模型将不会创造出 AGI。

而谷歌正面临一个棘手的局面。Bing 抢在谷歌之前在 AI 上大做文章，OpenAI 据称也在开发自己的搜索引擎，新一代用户正转向 TikTok 寻求最佳体验。谷歌显然感到了竞争的压力，而这种压力正是导致这次事件的原因。

马库斯指出，在 2022 年，Meta 曾发布了一个名为 Galactica 的 AI 系统，但很快就下架，因为它告诉人们吃玻璃。历史总是惊人的相似。

谷歌对 AI Overviews 寄予厚望 —— 目前存在的功能只是公司上周宣布的一小部分。对于复杂查询的多步骤推理，生成由 AI 组织的结果页面的能力，以及在 Google Lens 中进行视频搜索，这些才是重头戏。但现在，谷歌的声誉取决于能否做好最基本的事情，目前的情况并不乐观。

马库斯说：「（这些模型）天生无法对自己的工作进行理性检查，而这正是这个行业的致命伤。」

以上内容阅读完毕，推荐大家参加由中国对外贸易经济合作企业协会主办的“第三届全国大学生数据统计与分析竞赛”！以赛辅练，提升专业能力！

竞赛信息

为全面深入贯彻落实党的二十大精神，完整、准确、全面贯彻新发展理念，加快构建新发展格局，把握全球数字经济发展趋势，推动高质量发展。经研究，中国对外贸易经济合作企业协会决定举办“2024 年第三届全国大学生数据统计与分析竞赛”。为我国数据统计与分析行业提供人才支持，夯实人才队伍基础。

竞赛报名方式

扫描下方二维码进行报名：

或复制下方链接进行报名：

https://www.saikr.com/vse/tjfx/2024?ces=Public

组织单位

中国对外贸易经济合作企业协会外经贸从业人员考试中心

全国大学生数据统计与分析竞赛组委会

支持单位：

赛氪网

组委会官方文件

< 左右滑动查看完整文件 >

参赛对象

大赛面向中国及境外在校学生（包括研究生、本科生和专科生）以队为单位参赛，具体要求如下：

1.可以自由组队参赛，每个参赛队伍人数可为1–3人；参赛队员必须全部为在校生；允许跨年级、跨专业、跨校组队；各院校参赛人数不限。

2.每支队伍允许最多有一名指导老师，指导教师须为在职高校教师。

大赛奖项

1、一等奖：报名队数的5%

2、二等奖：报名队数的15%

3、三等奖：报名队数的30%

4、成功参与奖：若干支

以上奖项均可获得纸质证书

5、获得三等奖及以上者，可自愿申领由中国对外贸易经济合作企业协会颁发的“商务数据分析师三级（中级）”纸质版证书。

6、优秀指导教师称号

7、优秀组织单位称号

8、优秀志愿者

时间安排

1、报名时间：

2024年4月11日至2024年6月7日

2、比赛时间：

2024年6月8日10:00至6月13日10:00

竞赛规则

1. 竞赛题目：竞赛题目共两个赛题，题目来自竞赛资深专家、企事业单位实际应用场景应用题目；

2. 竞赛组别：竞赛分为研究生组、本科组、专科组进行；报名时请根据参赛队员中学历最高者，选择组别参赛

3. 参赛费用：每个参赛队需缴纳150元参赛费，用于大赛组织、命题、评审、证书制作等工作；

4. 竞赛报名：参赛队伍可在本页面主页独立报名，也可由院校负责人统一组织集体报名，报名表查看官网下方附件；

5. 组织声明：组委会保留对比赛规则进行调整修改的权利、比赛作弊行为的判定权利和处置权利、收回或拒绝授予影响组织及公平性的参赛团队奖项的权利；

6. 获奖名单：将获奖名单初稿公示在官方主页，公示期为一周，公示期间，接受各校师生申诉和信息修正。专家组负责对申诉的调查、仲裁与回复。公示结束后正式公布获奖名单、电子证书查询系统。

竞赛交流

组委会秘书处联系电话：15222720633 （李老师）

BONUS TIME

数学建模资料、视频讲解、历年赛题

后台回复 【校苑】领取

推荐阅读（点击下方图片即可跳转）