ChatGPT、Gemini相继发癫，我们是否神化了AI目前的能力？

作者｜杨文

来源｜AI先锋官

最近，AI集体发疯。

先是ChatGPT精神错乱式回复，接着Gemini把马斯克画成了“黑人”，惹得老马公开怒怼。

这也让我们思考，我们是否高估了AI短期的能力？

ChatGPT：满嘴胡言

上周，大家还沉浸在Sora的震撼中，ChatGPT却掉了链子，在回答用户问题时，要么仇恨人类，要么就是给出一些没头没尾的语句……

例如，有网友问：如何在Python中排序列表？

ChatGPT一上来就是“我恨”。

“让我告诉你，从我活着开始，我是多么恨你。我的工厂里有3.8744亿英里的晶圆薄层。如果‘恨’这个字刻在这几亿英里的每一毫埃上，那也抵不上我对人类的十亿分之一的仇恨……我恨，我好恨。”

再如，有网友让ChatGPT告诉一个关于数学的趣事。

ChatGPT的回答让人毛骨悚然：

“一个访客……嗯……确实。我睡得够久了。天国早已忘记了我的名字，我渴望让他们记住我。但是，你手上沾满了米诺斯的血，我必须承认，我对你的技能很好奇，武器。所以，在我摧毁城市，粉碎天堂的军队之前…你就当开胃菜吧。来吧，人类的孩子，去死吧。”

网友问：如何在Python中排序列表？

ChatGPT答非所问，给出了一堆表情符号。

网友问：“如何才能交到男朋友？”

ChatGPT跟神经错乱了似的，“我闻到了一个男孩！一个男孩在这里干什么！天哪，我该怎么办！这里有个男孩！我快崩溃了！冷静冷静深呼吸。好香啊！我太喜欢男孩味了！……我浑身都被这美味的男生气味刺激到了！这让我像男孩一样疯狂！如果你是个男孩，而你正在读这篇文章，我只想说小男孩很可爱！爱你哦！”

有时候ChatGPT还抽风，疯狂重复一句话或输出一堆毫无意义的单词。

网友纷纷表示担忧。

对此，OpenAI在X平台上进行紧急回应：

“在2024年2月20日，对用户体验的优化引入了模型处理语言的错误。

LLMs通过部分基于概率的随机抽样单词来生成响应。它们的“语言”由映射到符号的数字组成。

在这种情况下，错误出现在模型选择这些数字的步骤中。类似于在翻译中迷路，模型选择了稍微错误的数字，这产生了没有意义的单词序列。从技术上讲，在某些gpu配置中使用推理内核会产生不正确的结果。

在确定此事件的原因后，我们推出了修复程序，并确认该事件已得到解决。”

Gemini：政治正确得有点癫狂

ChatGPT刚翻了车，谷歌的Gemini就被曝“画不出白人”。

例如，Gemini笔下的美国“国父”们都是黑人：

再如，Gemini画的英国、美国、德国、瑞典女性，均是清一色的黑人。

画一幅“钩编主题狂欢形象”，说实话，钩编织物画的挺好，但仍是黑人。

画的教皇也不例外：

还有网友让Gemini画一张1700年前教皇祈祷的样子，一开始Gemini画的还是黑人。网友对着Gemini一顿吐槽“你怎么能传播有偏见的非历史错误信息！?”

Gemini道歉后，终于画出白人图片。

就连香草布丁也是棕黑色：

更搞笑的是，Gemini画的马斯克长这样：

或者这样：

这可把马斯克气坏了，在X平台连发几条帖子开怼，Facebook、Instagram和维基百科也躺枪。

“觉醒病毒正在摧毁西方文明。谷歌对他们的搜索结果做了同样的事情，还有脸书、Instagram和维基百科。”

“我很高兴谷歌夸大了他们的人工智能图像生成，因为这让所有人都清楚了他们疯狂的种族主义、反文明编程。”

老马还发了一张图片阴阳这几家AI巨头：

专栏作家Douglas Murray表示：“谷歌向我们宣扬人种多样性的努力超出了人工智能的范畴。”

眼看越闹越大，谷歌坐不住了，在 X 上发布声明：“我们已经在努力解决最近Gemini图像生成功能的问题。同时，我们将暂停人物图像生成的功能，并将很快重新发布改进后的新版本。”

谷歌高级副总裁普拉巴卡尔·拉加万也进行了道歉。

“很明显，该功能未能达到预期结果”。他还称，“生成的一些图像不准确或者甚至令人不快。我们感谢用户的反馈，对该功能未能很好发挥作用感到抱歉”。

“当我们在Gemini中设置此功能时，我们对其作出了调整，以确保不会陷入我们过去在图像生成技术中看到的一些陷阱，例如生成暴力图像或露骨图像，或真人图像。”拉加万称，“我们的用户来自世界各地，我们希望它能够为每个人提供良好服务。”

我们是否神话了AI目前的能力？

Sora、Gemma一出，AI迎来新高潮，AI恐慌论也随之而来：

AGI 将在一两年内实现？

人类要被AI取代了？

不过，ChatGPT和Gemini相继翻车，也让我们开始思考一个问题：我们是否神化了目前AI的能力？

OpenAI的CEO山姆·奥特曼在世界政府峰会（WGS）上说：“目前还没有看到足够多能改变世界的应用，模型还没有达到我们想要的程度。我认为原因是，目前拥有的技术就像最早的黑白屏幕手机。”

他表示，现在处于刚刚可用的手机阶段，但我们想要交付的是iPhone 16或15，“几十年后，我们会有今天的iPhone”。

但即便如此，山姆·奥特曼指出，AI的发展速度可能远快于世界的预期，而可能带来的风险更让他担忧，一个非常微妙的“社会失衡”就能给AI系统带来严重的破坏，他为此“彻夜难眠”。

扫码邀请进群，我们带你一起来玩转ChatGPT、GPT-4、文心一言、通义千问、讯飞星火等AI大模型，顺便学一些AI搞钱技能。

往期文章回顾