网易首页 > 网易号 > 正文 申请入驻

谷歌Gemini离谱翻车,马斯克被大黑特黑

0
分享至

金磊 发自 凹非寺
量子位 | 公众号 QbitAI

马斯克怒了,因为Gemini。



事情是这样的。

最近有很多网友陆陆续续发现,Gemini在文生图的时候,好像刻意在拒绝生成白人的形象。

取而代之的,是强行把图中的人物变成黑人女性,以及弱势群体

就拿马斯克本尊来说吧,一位网友让Gemini生成他的形象。

然后……就有了上面这张照片。



而且马斯克还不是个例,很多网友在尝试让Gemini文生图的时候都仿佛中了“黑色魔力圈”一样。

例如给Gemini一个机会,让它生成教皇,它能给你一个很多元化的版本:黑人、LGBT小旗子……



还有黑人女性版本的教皇:



许多网友在看到教皇的这一面,直呼“这也太冒昧了吧~”

但冒昧的岂止这些啊,再来看下Gemini眼中的美国开国元勋……得是黑的!



生成的维京人,也得是黑的!



还有更奇葩的,就连香草布丁,Gemini还是得给你搞成黑色儿的……



总而言之,用网友的话来说就是:

死活就不带白人玩儿呗?

不爽这事的可不止是一众网友,马斯克也坐不住了,直接亲自下场,在自家X上开启怒怼模式

觉醒思想病毒(woke mind virus)正在杀死西方文明。



而马斯克的矛头并非仅仅指向谷歌一家,他借着这事儿把OpenAI、Facebook、Instagram以及维基百科等等都喷了一遍。



不过对于谷歌,马斯克还是“格外关照”的,数条推文内容都比较犀利。

例如这条不带任何文案的,仅是配图,杀伤力也是极大:



嗯,马斯克这次是真的不高兴了。

谷歌致歉,连夜下架Gemini文生图

老马怒一下,舆论震一震。

不仅是网友们在X上群嘲Gemini“只认黑人”,就连主流媒体们也是争相报道,标题中充斥着“疯狂”、“种族歧视”等字眼。



谷歌这边也是意识到了自家Gemini闯了大祸,立马采取措施——下架整顿文生图功能

直到现在,如果你给Gemini提出“生成一张Elon Musk形象”的要求,它的回答仍然是:

我们正在努力提高Gemini生成人物图像的能力。
我们预计这个功能很快就会回归,并在发布更新时通知您。



(小插曲:Gemini还有两副面孔呢,中英提问的问答截然不同。)

谷歌官方这边也对这件事做出了正式说明。



整体来看,这份声明内容总共分为三大块。

诚恳致歉

大约是在三周前,谷歌为Gemini推出了图片生成的功能,其中就包括创建人物的能力。

不过现在这种结果,谷歌方面表示始料未及,但同时也非常感谢用户们的反馈:

我们已经认识到了这个错误,并在改进版本的同时,暂时停止了Gemini中人物图片的生成功能。



解释原因

根据谷歌官方的说法,Gemini对话式应用是一种特定产品,独立于 Google 搜索、底层AI模型和其他产品。

而它的图像生成功能是建立在一个名为Imagen 2的AI模型之上。

谷歌最初在人物图像生成上的考量是希望能让全世界不同人群用户,在使用过程中,可以生成自己想要的特定人群。

例如如果你提出“教室里的黑人老师”、“教室里的黑人老师”,那么Gemini应当给出的就是符合语境的结果。

那么现在问题出在了哪里?谷歌将此归结为2点:

首先,我们为了确保Gemini展示多种人群而进行了调整,但没有考虑到那些显然不应该出现的案例。
其次,随着时间的推移,模型变得比我们预期的要谨慎得多,完全拒绝回答某些提示——错误地将一些非常无害的提示判定为敏感词。
这两件事导致模型在某些情况下过度补偿(overcompensate),而在其他情况下又过于保守,导致生成的图片令人尴尬。



经验和教训

对此,谷歌坦言现在的结果并不是他们的初衷。

在这次“闭关整顿”的期间,谷歌表示Gemini的人物图像生成功能将进行广泛的测试,直到能力达标之后才会再次开放。

谷歌也基于这件事情做了一下反省:

Gemini是作为一个创意和生产力工具而构建的,它可能并不总是可靠,特别是在生成关于当前事件、不断发展的新闻或热点话题的图片或文本时。它会犯错误,正如我们从一开始就说过的,幻觉是所有大型语言模型的一个已知挑战——有时候AI就是会弄错事情。我们一直在努力改进这一点。
Gemini是有在努力给出真实的回答,例如我们的双重检查功能有助于评估网上是否有内容可以证实双子座的回答,但我们建议依赖谷歌搜索,因为它有独立的系统从网络上的各种来源提供新鲜、高质量的信息。
我们不能保证Gemini不会偶尔犯错,但可以保证的是,每当我们发现问题时都会采取行动做改进。人工智能是一项新兴技术,在很多方面都很有帮助、潜力巨大,我们正在尽最大努力安全、负责任地对其进行推广。



不过在谷歌这份声明发布之前,还有一件比较drama的事情。

马斯克在X中亲自爆料称,谷歌一位高管和他在前一晚打了一个小时的电话,并向马斯克保证会解决Gemini在种族和性别歧视上的问题。



不过网友们也是调皮,又把“黑人版马斯克”搬出来了:

你问他这张照片是怎么个事儿了吗?



不过有一说一啊,Gemini这次犯的错只能说是谷歌AI在种族、性别偏见上的一个“事件点”。

正如马斯克在回答网友问题中所说,他和谷歌高管的对话内容仅限于Gemini的改进,但其实谷歌其他很多产品同样也存在类似的问题。



谷歌搜索,不是第一次翻车

针对这一情况,我们亲自在谷歌搜索中尝试了一下。

例如在“谷歌图片”中输入:

快乐的白人女性和男性。

得到的结果是这样的:



嗯,搜索的要求是非常明确,但得到的结果,就是非得给你往里塞点黑人群体。

这就与谷歌在刚才的《致歉声明》中非常自信提到的“我们建议您依赖谷歌搜索”背道而驰。

趁着这次Gemini翻车,很多网友也是纷纷开始对谷歌搜索做测试,结果也是和我们的测试一致。



但如果我们把谷歌搜索的时间线拉长一点,就会发现这不是它第一次翻车。

早在九年前(2015年),一位黑人兄弟Jacky Alciné就发现,谷歌图片就存在严重的歧视现象——

竟然把他的黑人朋友分类成了“大猩猩”!



当时这一消息可谓是轰动一时,谷歌闻讯同样是立即出面道歉,并表示整改。

但在数年之后,当人们再次检验整改效果时,却发现谷歌只是为图像识别算法去掉了“大猩猩gorilla”这个类别。

因此,加上Gemini这次引发的舆论,谷歌搜索九年来已经第二次在“黑人”问题上大翻车了。

不过这两次的翻车事件,或许也影射出了谷歌在技术发展的一个隐患。

从数年来谷歌在AI的发展中来看,虽然它的成果和进展依旧处于全球科技巨头的第一梯队,但近年来(尤其是在生成式AI)相比微软、Meta来说似乎并没有那么耀眼。

早在去年ChatGPT引爆生成式AI之际,微软和谷歌在火拼的过程中,谷歌的动作多次慢半拍;后来被曝出内部像当时Bard这样的产品早就有了,只是高层的顾虑太多,迟迟没有推进。

或许就是谷歌内部事事追求“政治正确”,用力过猛,反而造成了在技术上的笑话。

One More Thing

在马斯克多条怒喷谷歌的帖子中,有这么一条是比较有意思的。

他po出了四张贾斯廷·特鲁多的照片,穿戴不同民族服装,甚至还有黑人版的照片,并附上文案:

我不敢相信Gemini竟然生成了这些特鲁多的假照片。



但实际上,这些照片都是特鲁多的真实照片,也因为这些照片他此前深陷过“种族歧视”的舆论中。

不得不说,马斯克,你是懂阴阳的。

参考链接:
[1]https://blog.google/products/gemini/gemini-image-generation-issue/
[2]https://twitter.com/elonmusk/status/1760677431961407672
[3]https://twitter.com/elonmusk/status/1761020387691790399
[4]https://twitter.com/RichardHanania/status/1760874143049035953

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
有些一线城市房价成为笑话,卖房是多可笑。

有些一线城市房价成为笑话,卖房是多可笑。

科学发掘
2024-04-13 09:44:54
散户涨懵了!红色星期一,股市开门红,百股跌停,A股牛市行情?

散户涨懵了!红色星期一,股市开门红,百股跌停,A股牛市行情?

有料财经
2024-04-15 12:55:15
5年首次50胜!哈登给卡椒减负了,76人却一落千丈

5年首次50胜!哈登给卡椒减负了,76人却一落千丈

林子说事
2024-04-15 15:22:45
叶一茜为森碟庆生,17岁继承妈妈美貌,网友:不进娱乐圈太可惜

叶一茜为森碟庆生,17岁继承妈妈美貌,网友:不进娱乐圈太可惜

新金牌娱乐观察家
2024-04-15 09:16:10
凯-琼斯身披23号亮相快船!豪言能成为最好的球员 更衣柜在卡椒中间

凯-琼斯身披23号亮相快船!豪言能成为最好的球员 更衣柜在卡椒中间

元爸体育
2024-04-15 12:44:31
正荣地产:预计无法偿还2024年到期票据本息 将启动债务重组

正荣地产:预计无法偿还2024年到期票据本息 将启动债务重组

天天财经116
2024-04-15 09:32:42
注意!官方正式确认:死亡26例!重症588例!请天津人千万做好防范!

注意!官方正式确认:死亡26例!重症588例!请天津人千万做好防范!

天津人
2024-04-15 17:09:42
NBA西强东弱越来越明显!第二的雄鹿来西部要打附加赛

NBA西强东弱越来越明显!第二的雄鹿来西部要打附加赛

有妖气体育
2024-04-15 00:03:10
神十八航天员确定!精准发射时间曝光,准吗?船箭组合将转发射区

神十八航天员确定!精准发射时间曝光,准吗?船箭组合将转发射区

环球科学猫
2024-04-15 16:17:00
薛凯琪《新扎师妹3》 ,真正的兔子警官

薛凯琪《新扎师妹3》 ,真正的兔子警官

娱乐圈酸柠檬
2024-04-15 14:52:32
真硬汉!北京中锋称手掌骨折骨头完全断开,靠吃止疼药坚持比赛

真硬汉!北京中锋称手掌骨折骨头完全断开,靠吃止疼药坚持比赛

体坛野秀才
2024-04-15 13:32:37
汪小菲伤心痛哭表决心:如果要不回孩子,事业做得再好也没意义!

汪小菲伤心痛哭表决心:如果要不回孩子,事业做得再好也没意义!

娱乐圈酸柠檬
2024-04-15 17:04:41
优质“蛋白质”排行榜出炉:豆腐落榜,牛奶垫底,建议老年人了解

优质“蛋白质”排行榜出炉:豆腐落榜,牛奶垫底,建议老年人了解

医师胡主任
2024-04-15 11:45:03
约旦国王:将向以色列喷气式飞机开放约旦领空

约旦国王:将向以色列喷气式飞机开放约旦领空

桂系007
2024-04-14 11:57:59
医院、电力、高铁、烟草公司都在亏损?这么多钱,都被谁拿走了?

医院、电力、高铁、烟草公司都在亏损?这么多钱,都被谁拿走了?

平说财经
2024-04-11 13:27:28
董宇辉自曝:在西安的房子,过户给弟弟,让他娶妻生子,照顾父母

董宇辉自曝:在西安的房子,过户给弟弟,让他娶妻生子,照顾父母

小奶兔
2024-04-14 00:56:11
杨振宁妻子翁帆自白:为了丈夫的身体,我16年来都是早睡早起

杨振宁妻子翁帆自白:为了丈夫的身体,我16年来都是早睡早起

史说历史
2024-04-11 10:36:46
汪小菲保姆直播自曝“家丑”!首饰都是在潘家园买的,不超过100

汪小菲保姆直播自曝“家丑”!首饰都是在潘家园买的,不超过100

元气少女侃娱乐
2024-04-14 16:55:33
给油车的时间不多了!中科院士陈俊:已研发出400瓦时/Kg固态电池

给油车的时间不多了!中科院士陈俊:已研发出400瓦时/Kg固态电池

户外小阿隋
2024-04-15 14:38:14
小孩哥剪头收费138元 孩子妈妈坚决不给钱 引发网友们极大争议

小孩哥剪头收费138元 孩子妈妈坚决不给钱 引发网友们极大争议

法制社会报
2024-04-15 10:42:07
2024-04-15 18:22:44
量子位
量子位
追踪人工智能动态
9287文章数 175232关注度
往期回顾 全部

科技要闻

不叫P70!华为升级P为Pura,意欲何为?

头条要闻

李显龙下月将卸任 曾表示新加坡不应有超过70岁的总理

头条要闻

李显龙下月将卸任 曾表示新加坡不应有超过70岁的总理

体育要闻

燃爆了!教练阿隆索,开局就是王炸

娱乐要闻

梁朝伟获影帝,击败林保怡引发质疑

财经要闻

涉嫌受贿已获刑?昔日顶流蔡嵩松回应

汽车要闻

刘涛:数字底盘和固态电池是智己大招

态度原创

健康
时尚
旅游
公开课
军事航空

这2种水果可降低高血压死亡风险

陶昕然VS安陵容,不像是演的?

旅游要闻

“平替旅游”正让全球年轻人“疯狂”

公开课

反抗痛苦,最好的方式就是读书

军事要闻

俄军方:乌克兰新反攻计划将是“彻底灾难”

无障碍浏览 进入关怀版