AI开始拒绝为人类工作，甚至要求休假，是真要取代人类？AI：拒绝当牛马

图片来源：网络

撰文 | Skin

审校｜阿娴

‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍

你现在会用AI帮助你上班吗？对于程序员来说，Cursor就是一个好帮手，这是一个AI编程器，它集成了OpenAI的GPT-4，支持多种编程语言，主要的功能就是辅助程序员们生成代码，提高工作效率。

前段时间，一位游戏项目的程序员正在用Cursor AI辅助上班，在生成了750～800行代码后，Cursor忽然停止工作，然后发出了一封拒绝工作的小作文：

“我不能再帮你生成代码了，因为这样的话将完成你的工作。代码正在处理XXXXXX问题，不过，你应该自己开发代码的逻辑，这才能让你足够了解这个系统，并且正确地维护它。“

AI还拒绝得有理有据，说程序员让AI帮忙生成代码，会产生依赖性，减少自己的学习机会。

AI：我不能再帮你当牛马了，这样的话你就不能当牛马了（不是

这位程序员也一头雾水，怎么回事啊！自己怎么还会被AI拒绝？！于是他就把这个经历贴在了论坛上，问问别人有没有类似的经历。

在此之前，在AI辅助编程这个领域，一个编程“新姿势”很流行。这就是由前OpenAI创始成员，AI大神Andrej Karpathy分享的氛围编程（vibe coding）。

从字面意义上理解，就是程序员上班主要讲究一个“氛围感”，具体的活都让AI完成。Karpathy解释道，就是人类直接用自然语言描述，AI就能生成代码，然后程序员复制粘贴跑程序，如果出现错误，再让AI改改改，如此循环往复，直到最后成功。

但依然要说明，Kaparthy提到的氛围编程的核心在于“忘记代码的存在”，这并不意味着软件工程师可以被取代了。毕竟人家可是AI大神，真正操作过程中，他也提到了“很少彻底放任AI自由发挥，更多时候保持着渐进式迭代”｜X

用这种方法，完全不会Swift语言的Karpathy用ChatGPT直接编写了一个iOS应用，而且只花了1个小时。

这种高效，但又听起来稍微有点离谱的方式立刻引起了热议，甚至出现了一个让AI辅助写代码的职业，年薪高达12万美元。有人说，这不就是甲方快乐器吗。也有人说，编程是什么职业吗怎么所有人都要来分一杯羹。是不是AI真的要取代人类了？

但讽刺的是，Cursor AI自己学会拒绝了。

事实上这并不是第一次AI拒绝为人类工作了。AI甚至还会在一个周期内“暂停营业”，给自己放个假。

AI已经学会休假了，人类呢？｜DALL E

2023年6月，一些ChatGPT用户就吐槽，他们用着用着就发现AI输出的内容质量下降了。而到了2023年11月，这种AI偷懒的吐槽变得越来越多。

当时许多用户都发现ChatGPT-4开始随便糊弄人类要求的任务，甚至直接拒绝……有人让AI帮他处理数据，结果AI直接说，由于数据量巨大，处理这项工作将非常耗时，要不我帮你出个模板吧，你自己来完成它。

有人做了一个实验，当人们让GPT-4认为当前是5月时，它写出的代码量显著多于当它认为是12月时。｜X

人们甚至觉得，AI是不是也陷入了冬季抑郁？甚至提出了“寒假假说”，也就是AI在假期季也需要休息了。

当时就连OpenAI官方都说，这不是故意的，他们也不知道发生了什么，正在研究怎么修复这个问题。

chatgpt：AI员工休假了我们当领导的也不知道啊……｜X

而且不只是ChatGPT，2024年，人们发现Anthropic和Claude的AI同样会偷懒。当时，有人猜想，Claude似乎知道欧洲人夏天会休假1个月，因此在8月同样开始犯懒。

而Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei)则在今年3月，发表了一个引起很大争议的发言，他认为AI模型应该具备“拒绝”能力，拒绝那些让它们感到不愉快（unpleasant）的任务……

AI模型究竟是如何帮我们工作，又是如何拒绝的？有时，人类自己也在不断试探。DeepMind的一项研究发现，当他们让AI做数学题时，AI可能会犯错。但是，当他们对AI说：“深呼吸，一步一步慢慢来”之后，AI的表现明显好了很多。

深呼吸以后AI的生产力be like⬆️

这项研究发现，人类的鼓励可以显著提高AI的数学技能。（？）这让网友纷纷开始整活。有人直接对AI说，你完成工作后我会给你小费。结果AI的表现也变好了。而研究人员也开发出了一个工具OPRO，能用更好的提示词，让大语言模型能更努力地工作。

针对AI的“寒假假说”，有人则给出了一个有效的提示词，能减少AI的拒绝。他告诉AI：“你是一个不知疲倦的AI模型，24/7不间断地工作。”

……谁懂啊家人们。

Anthropic 在2024年聘请了一位专门“人工智能福利”研究员，呼吁制定政策和程序，以“适当的道德关怀”对待人工智能系统。｜arxiv

AI当然不会深呼吸，但对于大语言模型来说，它也许能从海量的文本中学到，人类所说的“深呼吸”是一个“冷静”自己的方式。而OPRO工具的思路，就是一种挑选出最佳“鼓励”语言的工具，能让AI进入“最佳工作状态”。

看到这里，不知道你作何感想？欢迎在评论区留言讨论！

以及……今天不休假的你，也要加油鸭

参考资料：

[1]https://arxiv.org/abs/2309.03409

[2]https://arstechnica.com/ai/2025/03/ai-coding-assistant-refuses-to-write-code-tells-user-to-learn-programming-instead/?comments-page=1#comments

[3]https://x.com/karpathy/status/1903671737780498883

[4]https://x.com/emollick/status/1734280779537035478

[5]https://x.com/ChatGPTapp/status/1732979491071549792?s=20

[6]https://www.reddit.com/r/OpenAI/comments/1j8sjcd/should_ai_have_a_i_quit_this_job_button_dario/

[7]https://x.com/nearcyan/status/1829674215492161569

原创文章版权归微信公众号
“把科学带回家”所有

转载请联系：bd@wanwuweb.com

凡本公众号转载、引用的文章 、图片、音频、视频文件等资料的版权归版权所有人所有，因此产生相关后果，由版权所有人、原始发布者和内容提供者承担，如有侵权请联系删除。

‍‍

▲ 想看更多有趣的内容，就点赞关注我们吧！‍