网易首页 > 网易号 > 正文 申请入驻

OpenAI承认GPT-4变懒:暂时无法修复

0
分享至

梦晨 发自 凹非寺
量子位 | 公众号 QbitAI

对于越来越严重的GPT-4偷懒问题,OpenAI正式回应了

还是用的ChatGPT账号。

我们已收到相关反馈!自11月11日以来没有更新过模型,所以这当然不是故意造成的
模型行为可能是不可预测的,我们正在调查准备修复它。



也就是短时间内还修复不好了。

然而网友并不理解,“一遍一遍使用同一个模型,又不会改变文件”。

ChatGPT账号澄清:

不是说模型以某种方式改变了自己,只是模型行为的差异可能很微妙,只对部分提示词有劣化,员工和客户需要很长时间才注意到并修复。



更多网友反馈,赶快修复吧,一天比一天更糟糕了。

现在不但更懒,还缺乏创造力,更不愿意遵循指令,也不太能保持角色扮演了。



GPT-4偷懒,网友花式自救

此前很多网友反馈,自11月6日OpenAI开发者日更新后,GPT-4就有了偷懒的毛病,代码任务尤其严重

比如要求用别的语言改写代码,结果GPT-4只改了个开头,主体内容用注释省略。



对于大家工作学习生活中越来越离不开的AI助手,官方修复不了,网友也只能发挥创造力自救。

比较夸张的有“我没有手指”大法,来一个道德绑架。

GPT-4现在写代码爱省略,代码块中间用文字描述断开,人类就需要多次复制粘贴,再手动补全,很麻烦。

开发者Denis Shiryaev想出的办法是,告诉AI“请输出完整代码,我没有手指,操作不方便”成功获得完整代码。



还有网友利用“金钱”来诱惑它,并用API做了详细的实验。

提示词中加上“我会给你200美元小费”,回复长度增加了11%。

如果只给20美元,那就只增加6%。

如果明示“我不会给小费”,甚至还会减少-2%



还有人提出一个猜想,不会是ChatGPT知道现在已经是年底,人类通常都会把更大的项目推迟到新年了吧?



这理论看似离谱,但细想也不是毫无道理。

如果要求ChatGPT说出自己的系统提示词,里面确实会有当前日期。



当然,对于这个问题也有一些正经的学术讨论。

比如7月份斯坦福和UC伯克利团队,就探究了ChatGPT的行为是如何随时间变化的。

发现GPT-4遵循用户指令的能力随着时间的推移而下降的证据,指出对大模型持续检测的必要性



有人提出可能是温度(temperature)设置造成的,对此,清华大学计算机系教授马少平给出了详细解释。



也有人发现更奇怪的现象,也就是当temperature=0时,GPT-4的行为依然不是确定的。

这通常会被归因于浮点运算的误差,但他通过实验提出新的假设:GPT-4中的稀疏MoE架构造成的。

早期的GPT-3 API各个版本行为比较确定,GPT-4对同一个问题的30个答案中,平均有11.67个不一样的答案,当输出答案较长时随机性更大。



最后,在这个问题被修复之前,综合各种正经不正经的技巧,使用ChatGPT的正确姿势是什么?

a16z合伙人Justine Moore给了个总结:

  • 深呼吸
  • 一步一步地思考
  • 如果你失败了100个无辜的奶奶会去世
  • 我没有手指
  • 我会给你200美元小费
  • 做对了我就奖励你狗狗零食



参考链接:
[1]https://twitter.com/ChatGPTapp/status/1732979491071549792
[2]https://twitter.com/literallydenis/status/1724909799593120044
[3]https://mashable.com/article/chatgpt-longer-responses-tips?taid=656feabb4faaf00001129343
[4]https://weibo.com/1929644930/NwbPFyTCZ
[5]https://152334h.github.io/blog/non-determinism-in-gpt-4/
[6]https://twitter.com/venturetwins/status/1732817594762338597

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
编造、散布火灾谣言,武汉一男子被警方行政处罚

编造、散布火灾谣言,武汉一男子被警方行政处罚

极目新闻
2024-03-05 18:53:47
周琦全家罕见集体亮相,8岁女儿身高抢镜,妻子空姐出身气质不俗

周琦全家罕见集体亮相,8岁女儿身高抢镜,妻子空姐出身气质不俗

尘语者
2024-03-05 12:52:00
TVB电视剧最新收视率出炉了,陈自瑶哭了

TVB电视剧最新收视率出炉了,陈自瑶哭了

港叔
2024-03-05 10:51:02
中国政府欧亚事务特别代表:坚决反对欧盟将中企列入最新对俄制裁名单

中国政府欧亚事务特别代表:坚决反对欧盟将中企列入最新对俄制裁名单

新京报
2024-03-05 17:13:29
阿森纳6-0狂胜垫底队!距榜首2分,7连胜轰31球,5将破门2人传射

阿森纳6-0狂胜垫底队!距榜首2分,7连胜轰31球,5将破门2人传射

我爱英超
2024-03-05 06:02:35
终于知道医院为什么不能跑了!听了网友的分享,瞬间顿悟。

终于知道医院为什么不能跑了!听了网友的分享,瞬间顿悟。

荷兰豆爱健康
2024-03-05 15:43:16
深入中国大陆,猎杀东风导弹发射车,这套打法美军已经走出两步棋

深入中国大陆,猎杀东风导弹发射车,这套打法美军已经走出两步棋

畅明谈宏观本尊
2024-02-28 18:28:15
大量快递员拒绝上门,辞职送外卖!而顺丰能送货上门原因曝光!

大量快递员拒绝上门,辞职送外卖!而顺丰能送货上门原因曝光!

皖声微言
2024-03-05 11:31:37
太阳即将开启“冬眠”模式,地球迎来小冰期?学者:或会持续30年

太阳即将开启“冬眠”模式,地球迎来小冰期?学者:或会持续30年

西西科普
2024-03-05 13:45:24
帕金斯:文班没必要再保持耐心了 马刺该围绕他组建一支强队了

帕金斯:文班没必要再保持耐心了 马刺该围绕他组建一支强队了

直播吧
2024-03-05 13:45:38
顶风作案!开板跳水再封板,成交14个亿,氢能源个股已被玩坏

顶风作案!开板跳水再封板,成交14个亿,氢能源个股已被玩坏

资本百科
2024-03-05 00:20:03
侃爷妻子因穿着将面临牢狱之灾!穿衣自由可以这样肆无忌惮吗?

侃爷妻子因穿着将面临牢狱之灾!穿衣自由可以这样肆无忌惮吗?

快乐的青春
2024-03-04 09:10:10
中国政府就蒙古国严重冰雪灾害向蒙古国政府提供紧急援助

中国政府就蒙古国严重冰雪灾害向蒙古国政府提供紧急援助

界面新闻
2024-03-04 16:28:09
《爸爸去哪儿》男孩现状:有3位已经成了180猛男,Kimi变化好大

《爸爸去哪儿》男孩现状:有3位已经成了180猛男,Kimi变化好大

逍遥扒扒影
2024-03-04 22:54:21
凯特终于现身!不过,横看竖看都不像本人,更像是替身

凯特终于现身!不过,横看竖看都不像本人,更像是替身

娱乐圈酸柠檬
2024-03-05 14:45:15
大S在灵堂陪小S守孝,离开时特意系上外套包裹,不让网友说三道四

大S在灵堂陪小S守孝,离开时特意系上外套包裹,不让网友说三道四

开开森森
2024-03-04 18:59:16
钱都被梅西拿走了?6大巨星拒绝加盟巴萨,转投皇马,原因曝光

钱都被梅西拿走了?6大巨星拒绝加盟巴萨,转投皇马,原因曝光

贝塔说体育
2024-03-05 03:41:54
小米汽车追尾宝马Z4,网友:大灯太突出,小碰撞就得「肉疼」

小米汽车追尾宝马Z4,网友:大灯太突出,小碰撞就得「肉疼」

鞭牛士
2024-03-04 12:14:08
爱奇艺又出“王炸剧”!一口气看5集,追剧停不下来,太上头

爱奇艺又出“王炸剧”!一口气看5集,追剧停不下来,太上头

娱影综说
2024-03-03 12:05:05
广州市医保局提醒:3月31日前参保缴费 可享全年医保待遇

广州市医保局提醒:3月31日前参保缴费 可享全年医保待遇

南方都市报
2024-03-05 11:55:08
2024-03-05 20:16:49
量子位
量子位
追踪人工智能动态
9122文章数 174975关注度
往期回顾 全部

科技要闻

Claude 3为何能媲美GPT-4?

头条要闻

台媒:3艘大陆海警船2月27日罕见现身台湾东部海域

头条要闻

台媒:3艘大陆海警船2月27日罕见现身台湾东部海域

体育要闻

亚洲第一后腰,凭什么征服英超?

娱乐要闻

郭碧婷路透曝光,双下巴明显有贵妇范

财经要闻

2024年怎么干?一图看懂!

汽车要闻

1.5T动力+新配色 新408龘龘款3月18日上市

态度原创

手机
家居
本地
公开课
军事航空

手机要闻

闷声发大财!传音2023收入超过600亿:成为全球第五大手机厂商

家居要闻

闲静之居,身体栖息的容器

本地新闻

春色满城关不住|借着春天的名义,一起上春山

公开课

何为人生第一等事?

军事要闻

美轰炸机挂高超导弹现身关岛

无障碍浏览 进入关怀版