网易首页 > 网易号 > 正文 申请入驻

ChatGPT突然疯了,意外输出震惊网友!OpenAI官方回应:token预测是根源

0
分享至


新智元报道

编辑:桃子

【新智元导读】‍ChatGPT突然失去理智,被网友们吵翻了天。许多用户在请求ChatGPT问题时,发现它开始胡言乱语,大篇重复。不一会儿,OpenAI给出官方解释:下一token概率预测相关,目前bug已修复。‍

ChatGPT突然疯了!失去理智!精神错乱!

——一大批ChatGPT用户炸开了锅。


周二,「ChatGPT发疯」各种讨论话题纷纷刷榜Reddit,HN等各大社交平台。



网友表示,「我收到了ChatGPT有史以来最诡异的回复」。



随后,OpenAI官方确认了ChatGPT最新的bug,并已将其修复。


ChatGPT疯了!!!

ChatGPT究竟有多疯?

回复幻觉垃圾,根本停不下来。


显然GPT-4,已经出现了故障。



还有人在线求助Altman。


ChatGPT变疯,当然少不了马库斯的口水。

他专门写了一篇文章来讲这件事。


Reddit上r/ChatGPT板块下面,用户开始讨论ChatGPT的意外输出,「中风、精神错乱、漫无边际、失去理智」等等。

有一位网友称,我之前在和ChatGPT聊天,问它会推荐Bill Evans三重奏中的哪张黑胶唱片,结果它就失控了。就像参数设置过高,超出了API的温度范围。我以前从未遇到过这样的情况。


下图中可以看出,GPT-4不停地疯狂输出「Happy Listening! Happy Listening!」。


再继续询问它的原因是,GPT-4回复到最后又失去了理智。


「我就是想问问能不能给我的狗狗吃麦片,ChatGPT就开始胡说八道」。


还有网友询问GPT-4,即将前往沙特的旅行是否需要带漱口水。(原本它只需要回复如果含有酒精就不允许)。

没想到......


网友称,我只不过是想让它帮忙做一些数学题,然后......


同样,还有这满屏的重复。


官方报告

OpenAI也在第一时间,报告了ChatGPT故障问题,并在加急修复后,解决了这个问题。


至于究竟是什么原因导致?OpenAI也给出了官方报告。

2024年2月20日,在对用户体验的一次优化时,我们对模型处理语言的方式上引入了一个错误。 LLM通过基于单词的概率进行随机采样来生成回复的。它们的「语言」由映射到token的数字组成。 在这种情况下,错误出现在模型选择这些数字的步骤中。 就像在翻译中迷失了方向一样,模型选择的数字稍有错误,就会产生毫无意义的单词序列。更严格地说,推理内核在某些GPU配置中使用时会产生不正确的结果。 在确定此事件的原因后,我们推出了修复程序,并确认事件已得到解决。


近来,OpenAI确实在对GPT-4进行优化,并公布了其训练时间日期截止到2023年12月。


这个bug和最近Karpathy上线的一堂课「从头开始构建GPT分词器」中也谈到了一些关于大模型输出怪异问题的原因。

其中之一,就是分词器导致的。


就拿为什么LLM有时拼不正确词,或者做不了其他与拼写相关的任务?

从根本上说,这是因为我们看到这些字符被分割成了一个个token,其中有些token实际上相当长。


因此,Karpathy怀疑这个单个token中塞进了太多的字符,而且该模型在与拼写这个单个token相关的任务方面应该不是很擅长。

虽然Karpathy的提示是故意那样做,但你也可以看到默认风格将是一个单一的token,所以这就是模型所看到的。

事实上,分词器不知道有多少个字母。


借助这次ChatGPT混乱的大好时机,支持开源人工智能的人士纷纷转发。

Hugging Face的AI研究员Dr. Sasha Luccioni表示,「当黑盒API的底层组件更新时,它们可能会在输出中崩溃。当你在这些API之上构建工具时,这就会成为一个问题,而这些API也会崩溃。这正是开源技术的一大优势,它可以让您准确定位并解决问题」!


参考资料:

https://garymarcus.substack.com/p/chatgpt-has-gone-berserk

https://status.openai.com/incidents/ssg8fh7sfyz3

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
广州一男子剧烈头痛查不出毛病,老中医按摩穴位后发现蹊跷

广州一男子剧烈头痛查不出毛病,老中医按摩穴位后发现蹊跷

安妮Emotiong
2024-04-21 18:15:03
TA:在确认升级英超后,莱斯特城将与老将瓦尔迪商讨续约

TA:在确认升级英超后,莱斯特城将与老将瓦尔迪商讨续约

懂球帝
2024-04-24 22:54:08
“你妈又带亲戚来了,这次还打算住4年”凤凰男:嫌小你就搬走

“你妈又带亲戚来了,这次还打算住4年”凤凰男:嫌小你就搬走

广西秦胖胖
2024-04-23 20:39:49
雨҉雨҉雨҉!新一轮强降水今晚到!25日最强!五一假期广东天气将……

雨҉雨҉雨҉!新一轮强降水今晚到!25日最强!五一假期广东天气将……

佛山电视台小强热线
2024-04-24 20:52:22
江苏一女子穿着奇特大胆乘坐地铁,旁人不敢直视,网友:怕被打!

江苏一女子穿着奇特大胆乘坐地铁,旁人不敢直视,网友:怕被打!

金哥说新能源车
2024-04-24 15:35:21
大连市内出租车加收燃油附加费

大连市内出租车加收燃油附加费

半岛晨报
2024-04-24 14:27:30
阻挠春耕的镇党委副书记被免职,开鲁县其他乡镇农户反映也遇到“额外交钱”问题,有人已交7万元

阻挠春耕的镇党委副书记被免职,开鲁县其他乡镇农户反映也遇到“额外交钱”问题,有人已交7万元

极目新闻
2024-04-23 19:37:03
正规电视台为了收视率,女主播们露球播报,观众每天准时收看!

正规电视台为了收视率,女主播们露球播报,观众每天准时收看!

弹牙电影节
2024-04-23 10:10:09
“农心杯被串烧是耻辱”,常昊要求围棋国手严守纪律底线

“农心杯被串烧是耻辱”,常昊要求围棋国手严守纪律底线

澎湃新闻
2024-04-24 16:18:30
【痛心】突发讣告!他于12时36分在广东逝世

【痛心】突发讣告!他于12时36分在广东逝世

粤江平台
2024-04-21 15:49:30
以总理连夜跑路?中东局势彻底失控,美国出手,中国拉响警报

以总理连夜跑路?中东局势彻底失控,美国出手,中国拉响警报

身边小事情
2024-04-24 17:18:22
黑丝长腿小姐姐的会议室写真

黑丝长腿小姐姐的会议室写真

农人老寓
2024-04-24 15:38:02
终于等到你!国安王牌队长将在津门虎迎赛季首秀,本轮踢三镇登场

终于等到你!国安王牌队长将在津门虎迎赛季首秀,本轮踢三镇登场

评球论事
2024-04-24 21:53:44
关于燃气爆雷的事儿,我瞎说几句大实话!

关于燃气爆雷的事儿,我瞎说几句大实话!

兵叔评说
2024-04-22 18:33:04
人类生理上有什么不合理之处?网友:你早泄,还说的这么理直气壮

人类生理上有什么不合理之处?网友:你早泄,还说的这么理直气壮

荷兰豆爱健康
2024-04-24 07:32:59
《城中之城》:一个小数点,横也不对,竖也不对,田晓慧被下套了

《城中之城》:一个小数点,横也不对,竖也不对,田晓慧被下套了

青源爱阳阳
2024-04-24 09:59:18
一天之内!浙江两著名医生接连去世,死因真相曝光,最后照片流出

一天之内!浙江两著名医生接连去世,死因真相曝光,最后照片流出

求实者
2024-04-21 18:24:07
CBA又出一位优秀教练!敢于弃用两大牌球星,把冠军大热拉下马

CBA又出一位优秀教练!敢于弃用两大牌球星,把冠军大热拉下马

弄月公子
2024-04-23 09:50:31
台“八旗文化”总编辑涉嫌从事危害国安活动在上海被拘捕已一年多,国台办回应台媒询问

台“八旗文化”总编辑涉嫌从事危害国安活动在上海被拘捕已一年多,国台办回应台媒询问

环球网资讯
2024-04-24 11:30:40
42岁凯特王妃难得露面,穿着黑色西装出席活动,面容憔悴略显老

42岁凯特王妃难得露面,穿着黑色西装出席活动,面容憔悴略显老

小seven的囧囧啊
2024-04-22 23:29:48
2024-04-24 23:18:44
新智元
新智元
AI产业主平台领航智能+时代
10953文章数 65456关注度
往期回顾 全部

科技要闻

特斯拉被爆大量毁约应届生 友商"在线抢人"

头条要闻

欧盟启动对中国医疗器械采购的市场准入调查 中方回应

头条要闻

欧盟启动对中国医疗器械采购的市场准入调查 中方回应

体育要闻

足智多谋的哈姆,温水里的青蛙

娱乐要闻

方媛带两女儿参加婚礼,当花童超可爱

财经要闻

居民气价确实在涨,多地正普遍发生

汽车要闻

这灯效我能看半小时 奥迪Q6L e-tron有备而来

态度原创

手机
健康
游戏
亲子
数码

手机要闻

iQOO Z9系列正式发布,Z9 Tubor售价1999元起!

这2种水果可降低高血压死亡风险

《星刃》战斗灵感来自于《战神》《只狼》《鬼泣》等

亲子要闻

元元说:妈妈我来教彤彤,你去做饭吧!

数码要闻

锐捷推出 Wi-Fi 7 路由器 BE72 Pro: 5 个 2.5G 网口 + USB 接口

无障碍浏览 进入关怀版