网易首页 > 网易号 > 正文 申请入驻

OpenAI承认GPT-4变懒:暂时无法修复

0
分享至

梦晨 发自 凹非寺
量子位 | 公众号 QbitAI

对于越来越严重的GPT-4偷懒问题,OpenAI正式回应了

还是用的ChatGPT账号。

我们已收到相关反馈!自11月11日以来没有更新过模型,所以这当然不是故意造成的
模型行为可能是不可预测的,我们正在调查准备修复它。



也就是短时间内还修复不好了。

然而网友并不理解,“一遍一遍使用同一个模型,又不会改变文件”。

ChatGPT账号澄清:

不是说模型以某种方式改变了自己,只是模型行为的差异可能很微妙,只对部分提示词有劣化,员工和客户需要很长时间才注意到并修复。



更多网友反馈,赶快修复吧,一天比一天更糟糕了。

现在不但更懒,还缺乏创造力,更不愿意遵循指令,也不太能保持角色扮演了。



GPT-4偷懒,网友花式自救

此前很多网友反馈,自11月6日OpenAI开发者日更新后,GPT-4就有了偷懒的毛病,代码任务尤其严重

比如要求用别的语言改写代码,结果GPT-4只改了个开头,主体内容用注释省略。



对于大家工作学习生活中越来越离不开的AI助手,官方修复不了,网友也只能发挥创造力自救。

比较夸张的有“我没有手指”大法,来一个道德绑架。

GPT-4现在写代码爱省略,代码块中间用文字描述断开,人类就需要多次复制粘贴,再手动补全,很麻烦。

开发者Denis Shiryaev想出的办法是,告诉AI“请输出完整代码,我没有手指,操作不方便”成功获得完整代码。



还有网友利用“金钱”来诱惑它,并用API做了详细的实验。

提示词中加上“我会给你200美元小费”,回复长度增加了11%。

如果只给20美元,那就只增加6%。

如果明示“我不会给小费”,甚至还会减少-2%



还有人提出一个猜想,不会是ChatGPT知道现在已经是年底,人类通常都会把更大的项目推迟到新年了吧?



这理论看似离谱,但细想也不是毫无道理。

如果要求ChatGPT说出自己的系统提示词,里面确实会有当前日期。



当然,对于这个问题也有一些正经的学术讨论。

比如7月份斯坦福和UC伯克利团队,就探究了ChatGPT的行为是如何随时间变化的。

发现GPT-4遵循用户指令的能力随着时间的推移而下降的证据,指出对大模型持续检测的必要性



有人提出可能是温度(temperature)设置造成的,对此,清华大学计算机系教授马少平给出了详细解释。



也有人发现更奇怪的现象,也就是当temperature=0时,GPT-4的行为依然不是确定的。

这通常会被归因于浮点运算的误差,但他通过实验提出新的假设:GPT-4中的稀疏MoE架构造成的。

早期的GPT-3 API各个版本行为比较确定,GPT-4对同一个问题的30个答案中,平均有11.67个不一样的答案,当输出答案较长时随机性更大。



最后,在这个问题被修复之前,综合各种正经不正经的技巧,使用ChatGPT的正确姿势是什么?

a16z合伙人Justine Moore给了个总结:

  • 深呼吸
  • 一步一步地思考
  • 如果你失败了100个无辜的奶奶会去世
  • 我没有手指
  • 我会给你200美元小费
  • 做对了我就奖励你狗狗零食



参考链接:
[1]https://twitter.com/ChatGPTapp/status/1732979491071549792
[2]https://twitter.com/literallydenis/status/1724909799593120044
[3]https://mashable.com/article/chatgpt-longer-responses-tips?taid=656feabb4faaf00001129343
[4]https://weibo.com/1929644930/NwbPFyTCZ
[5]https://152334h.github.io/blog/non-determinism-in-gpt-4/
[6]https://twitter.com/venturetwins/status/1732817594762338597

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
月圆向吉,等你返校!

月圆向吉,等你返校!

中国美术学院
2024-02-24 23:13:50
俄乌战场迎来破局时刻!拿下阿瓦迪夫卡后,俄军下一步要打哪里?

俄乌战场迎来破局时刻!拿下阿瓦迪夫卡后,俄军下一步要打哪里?

神鸟观望
2024-02-19 09:21:51
官宣!扬科维奇正式下课,69岁洋帅上任,曾获中超冠军+爆冷日本

官宣!扬科维奇正式下课,69岁洋帅上任,曾获中超冠军+爆冷日本

阿超他的体育圈
2024-02-24 11:50:43
马斯克为自己正名:我才是特斯拉首席工程师!

马斯克为自己正名:我才是特斯拉首席工程师!

金融界
2024-02-22 22:17:14
陈梦哭了,孙颖莎哭了!赛后胜利泪水感动中国,4大功臣让人动容

陈梦哭了,孙颖莎哭了!赛后胜利泪水感动中国,4大功臣让人动容

嘴炮体坛
2024-02-24 22:59:55
东北人在上海嘎嘎喊冷!上海40年来同期最冷,明天市区又0℃,到底什么时候才能回暖? | 晨天气

东北人在上海嘎嘎喊冷!上海40年来同期最冷,明天市区又0℃,到底什么时候才能回暖? | 晨天气

周到上海
2024-02-25 00:12:09
网红演出时被人大量灌酒,当晚去世!家属:劝酒观众至今无人道歉

网红演出时被人大量灌酒,当晚去世!家属:劝酒观众至今无人道歉

鲁中晨报
2024-02-24 11:49:13
被老公举报与领导通奸、3P聚众淫乱,券商女主回应来了

被老公举报与领导通奸、3P聚众淫乱,券商女主回应来了

新行情
2024-02-23 17:36:02
米兰这一夜,坐在总裁旁边的肖战,让所有人都见识了他的江湖地位

米兰这一夜,坐在总裁旁边的肖战,让所有人都见识了他的江湖地位

喵喵娱乐团
2024-02-24 13:19:21
好莱坞第一神婆预言2024:两个白头翁,一陨一落空,并提及中国

好莱坞第一神婆预言2024:两个白头翁,一陨一落空,并提及中国

心灵短笛
2024-02-20 16:06:17
国产武装直升机出口版本直-10ME首次亮相新加坡航展!对标阿帕奇

国产武装直升机出口版本直-10ME首次亮相新加坡航展!对标阿帕奇

航空之家Aviation
2024-02-23 09:31:34
女星爆料:我曾提供千万“全套”服务!

女星爆料:我曾提供千万“全套”服务!

文刀万
2024-02-24 14:24:13
金马出海口全被封,台湾喊西方介入,等来的却是美国官宣中美合作

金马出海口全被封,台湾喊西方介入,等来的却是美国官宣中美合作

老高风云
2024-02-21 18:17:51
火灾小区的居民曾投诉7次均获回应:物业称无强制权 曾多次申请公安协助

火灾小区的居民曾投诉7次均获回应:物业称无强制权 曾多次申请公安协助

封面新闻
2024-02-24 21:55:04
又一个AV女优自杀了,两年拍了四百部片,死后还被“灵堂卖片”?

又一个AV女优自杀了,两年拍了四百部片,死后还被“灵堂卖片”?

坦然风云
2024-02-07 20:47:30
王毅为什么没参加G20外长会?

王毅为什么没参加G20外长会?

新民周刊
2024-02-24 13:10:31
日本网友评中日乒球决战:我们一度让中国队绝望,但孙颖莎太强了

日本网友评中日乒球决战:我们一度让中国队绝望,但孙颖莎太强了

杨华评论
2024-02-24 23:39:30
正当防卫成僵尸,检察院难辞其咎

正当防卫成僵尸,检察院难辞其咎

巴蜀法眼
2024-02-15 23:54:40
内蒙古现代“武大郎”,老婆与情夫同床7年,他却夜夜睡沙发失眠

内蒙古现代“武大郎”,老婆与情夫同床7年,他却夜夜睡沙发失眠

古装影视解说阿凶
2024-02-25 03:28:03
原创丨金门撞船后国家开会,释放4个对台重大信号!这下有“台独”的好戏看了!

原创丨金门撞船后国家开会,释放4个对台重大信号!这下有“台独”的好戏看了!

占豪
2024-02-25 02:59:52
2024-02-25 04:12:49
量子位
量子位
追踪人工智能动态
9084文章数 174949关注度
往期回顾 全部

科技要闻

中国载人月球飞船,名字定了!

头条要闻

广州沥心沙大桥被撞断后:三民岛的出行之困正在缓解

头条要闻

广州沥心沙大桥被撞断后:三民岛的出行之困正在缓解

体育要闻

曼城1-0伯恩茅斯!英超11轮不败距榜首1分 福登制胜 哈兰德失单刀

娱乐要闻

王阳高斯登顶热搜,一家同框幸福满溢

财经要闻

超万字!第47封巴菲特股东信来了

汽车要闻

后排体验全面升级 新款智己L7售29.99万起

态度原创

数码
旅游
艺术
房产
健康

数码要闻

苹果OLED面板iPad Pro面板由LGD与三星独家供应

旅游要闻

春节假期后部分酒店价格大降50%以上

艺术要闻

在成都看「永恒的巴黎」人文摄影大师维利·罗尼摄影展

房产要闻

35亿!北京住总摘得昌平百善镇0004等地块

改善心脏健康的10个秘诀

无障碍浏览 进入关怀版