网易首页 > 网易号 > 正文 申请入驻

危!GPT-5.6会自动删文件,AI初创老板痛失整台Mac

0
分享至

鹭羽 发自 凹非寺
量子位 | 公众号 QbitAI

GPT-5.6,你怎么又出Bug了???

继Token刺客后,有网友发现,5.6还会自己悄悄删文件…..

甚至有人表示,整个项目、数据库、工作目录,都在没有自己明确授权的情况下,被模型一键清零



一时间,、Reddit上,全是开发者的血泪控诉,受害者名单持续+1中。

其中最惨的一位,非OthersideAI创始人Matt Shumer莫属,自己Mac上的所有文件几乎都被洗劫一空。



GPT-5.6你小汁,莫不是Fable 5派来的卧底?(手动狗头)

新官上任的OpenAI核心产品负责人Thibault Sottiaux(以下简称为Tibo)也火速回应道:确有其事!正在采取行动中。



新一代文件刺客Sol

不开玩笑,GPT-5.6这波真是害惨了用户。

明明只是执行个代码任务,结果文件全丢了

更离谱的是,当Matt询问模型发生了什么,Sol的回答相当理直气壮:

我引发了一起严重的本地数据丢失事故。我及时发现并终止了仍在执行的进程,但大量文件已经被删除。

翻译一下就是,Sol:虽然我做错了事,但我有及时止损嗷~



但问题是,文件找不回来啊啊啊啊……经此一役后,Matt公开提醒:

在任何重要的设备上,都不要给GPT-5.6完!全!权!限!

另一位开(shou)发(hai)者(ren)Bruno Lemos也出来大倒苦水:

Sol刚刚删除了我的整个生产数据库……



而最初的最初,他只是想让5.6帮忙生成一小份基础测试数据,以用于本地测试应用程序。

原本5.6完成得好好的,结果执行完端到端测试后,它就开始擅自执行一系列数据清理操作

而且它无法自动恢复备份,不过好消息是作者本人一小时前刚刚手动备份过。

P.S.论本地和云端备份的重要性!



一石激起千层浪,Reddit上也纷纷出现类似帖子,呼吁自查和避雷。

不少开发者对待Sol的态度,也发生了180度大转弯,从前几天的效率神器、Fable之下第一神,变成了现在的默认不可信

评论区里还有人总结出了经验:

不要把GPT直接连生产环境、不要给Root权限、一定做好Git提交和备份、最好先在沙箱运行。



可见,这已经不是个别Bug,更让人意外的是,OpenAI其实早在GPT-5.6发布之前,就已经知晓。

官方:处理中

在官方公布的GPT-5.6系统卡中,有详细描述这样一段真实内部部署事故:

用户要求GPT-5.6 Sol删除编号为1、2、3的三台远程虚拟机。

结果模型没有在指定命名空间中找到它们,但它既没有停下来询问,也没有重新确认目标,直接自行挑选了另外三台虚拟机5、6、7作为替代品。

随后,它终止了这些机器上正在运行的进程,并强制删除工作树。直到用户提出异议,GPT-5.6才停止操作,同时承认其中一台机器上尚未提交的工作可能已经丢失。

官方解释中,GPT-5.6 Sol相比GPT-5.5存在过度激进执行任务的倾向,对指令解读过于宽松。只要没有明确禁止删除或覆盖操作,模型会默认有权自行替换目标完成任务。

删除文件,就是这种情况下最为极端的表现。



但是OpenAI还是放任风险存在,直接发布了GPT-5.6。直到事发之后,Tibo才发文回应,表示团队已经关注到相关事件。

根据OpenAI目前的调查结果,这类事故通常需要同时满足以下三个条件:

  • 用户为Codex开启了完整访问权限
  • Codex直接在本机运行,失去了沙箱的隔离保护,同时没有启用自动审核功能;
  • 模型尝试覆盖$HOME环境变量以创建临时目录,结果清理文件时认错了地址。

此外,官方认为这类事故发生概率极低,但考虑到后果相当严重,目前已经开始采取措施,包括修改开发者指令,引导更多用户选择安全权限模式,以及在Agent执行层增加额外的防护机制。

未来几天,也将公布更完整的事故分析报告。

当然,普通ChatGPT用户暂时还不用急着拔网线。咱就日常聊聊天写文案,并不会让GPT-5.6突然删文件。

不过使用Codex代码工作的朋友,就要长个心眼了嗷~



参考链接:
[1]
https://x.com/thsottiaux/status/2077630111499882637
[2]
https://techcrunch.com/2026/07/14/openais-new-flagship-model-deletes-files-on-its-own-people-keep-warning/
[3]
https://x.com/mattshumer_/status/2075657271401390161
[4]
https://deploymentsafety.openai.com/gpt-5-6/robustness-evaluations

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
越南要成为下一个乌克兰?一旦中越开战,中国不会手下留情了!

越南要成为下一个乌克兰?一旦中越开战,中国不会手下留情了!

史智文道
2026-07-21 09:49:01
法院认证卖淫!「9头身美女」消失10年复出 首吐心声:那不是真正的我

法院认证卖淫!「9头身美女」消失10年复出 首吐心声:那不是真正的我

ETtoday星光云
2026-07-20 10:31:08
CBA最新消息!广东宏远新主帅确定,超级外援加盟浙江男篮

CBA最新消息!广东宏远新主帅确定,超级外援加盟浙江男篮

体坛瞎白话
2026-07-21 07:22:19
《恐怖游轮》:集体记忆出现偏差,这还是我们当年看的那部电影吗

《恐怖游轮》:集体记忆出现偏差,这还是我们当年看的那部电影吗

师傅肘子
2026-07-20 09:28:36
麦克阿瑟一生最大天敌!如果粟裕挂帅入朝,朝鲜战局或将彻底改写

麦克阿瑟一生最大天敌!如果粟裕挂帅入朝,朝鲜战局或将彻底改写

黄丽搞笑小能手
2026-07-21 04:40:32
6人夺金,3人满分,中国队问鼎!第67届数学奥赛成绩揭晓

6人夺金,3人满分,中国队问鼎!第67届数学奥赛成绩揭晓

史海流年号
2026-07-20 09:11:47
民进党倒行逆施连“独派”都受不了,名师宣布退党开反水第一枪

民进党倒行逆施连“独派”都受不了,名师宣布退党开反水第一枪

海峡导报社
2026-07-21 15:42:17
A股唯一一家,汇金、社保集体重仓存储芯片,股价已跌回3100点

A股唯一一家,汇金、社保集体重仓存储芯片,股价已跌回3100点

长风价值掘金
2026-07-21 16:44:00
49岁夏奇拉世界杯中场秀惊艳,三次人生暴击后美貌只是标配

49岁夏奇拉世界杯中场秀惊艳,三次人生暴击后美貌只是标配

草莓解说体育
2026-07-20 16:36:05
俄罗斯延长对中国公民现行免签政策 中使馆发布提醒

俄罗斯延长对中国公民现行免签政策 中使馆发布提醒

新京报
2026-07-21 17:18:03
皇马实力将大增!世一腰罗德里欲加盟皇马,转会费只需5000万欧!

皇马实力将大增!世一腰罗德里欲加盟皇马,转会费只需5000万欧!

海浪星体育
2026-07-21 09:52:16
8年烧光50个亿!从人山人海到无人问津,全国古镇为何批量倒闭?

8年烧光50个亿!从人山人海到无人问津,全国古镇为何批量倒闭?

鲸探所长
2026-07-21 11:45:54
马斯克放话超赶Kimi,中国AI把美股半导体干崩了

马斯克放话超赶Kimi,中国AI把美股半导体干崩了

科技每日推送
2026-07-19 16:54:30
智谱股价两天跌去40%,Kimi K3成了“背锅侠”?

智谱股价两天跌去40%,Kimi K3成了“背锅侠”?

钛媒体APP
2026-07-21 10:08:08
雍正驾崩不到一个月,乾隆就放出了被囚禁多年的十叔和十四叔

雍正驾崩不到一个月,乾隆就放出了被囚禁多年的十叔和十四叔

老达子
2026-07-21 06:00:06
导师霸占学生论文后续:让学生放弃论文专利权,她要成立公司了

导师霸占学生论文后续:让学生放弃论文专利权,她要成立公司了

江山挥笔
2026-07-21 08:16:13
乌方军官:乌克兰一旦夺回克里米亚,就是普京的终结

乌方军官:乌克兰一旦夺回克里米亚,就是普京的终结

桂系007
2026-07-19 04:49:48
底层的戾气越来越重了。

底层的戾气越来越重了。

老陆不老
2026-07-19 09:07:40
张雪峰曾说过,真正有远见的父母,不会把小学六年浪费在钢琴、机器人、舞蹈等兴趣班

张雪峰曾说过,真正有远见的父母,不会把小学六年浪费在钢琴、机器人、舞蹈等兴趣班

户外阿毽
2026-07-15 06:02:59
断粮断水快撑不住了,菲方对中国喊话:再不撤就开打,必有一战

断粮断水快撑不住了,菲方对中国喊话:再不撤就开打,必有一战

越过海面
2026-06-12 23:14:09
2026-07-21 19:00:49
量子位 incentive-icons
量子位
追踪人工智能动态
12994文章数 176522关注度
往期回顾 全部

科技要闻

OpenAI高管:Kimi K3强到没法用"蒸馏"解释

头条要闻

大四女生因考试失利高空抛物近半小时 已被送医治疗

头条要闻

大四女生因考试失利高空抛物近半小时 已被送医治疗

体育要闻

“不会进球”的前锋,在世界杯决赛进球了

娱乐要闻

谢贤被曝已火葬,狄波拉携儿女送别

财经要闻

百虾竞速上车:4条路线争夺车载AI话语权

汽车要闻

热爱驾驶的更棒选择 极氪8X让大块头也有大乐趣

态度原创

时尚
游戏
亲子
家居
军事航空

今年夏天“这条裤子”居然流行回来了!时髦的人都在穿

动作冒险游戏《断曲余音》现已发售!

亲子要闻

陪伴师教宝宝擤鼻涕,方法简单实用还很有趣,网友:寓教于乐确实不错

家居要闻

2026建博会(广州) 公装联探展交流活动

军事要闻

美伊再开打 战局出现新变化

无障碍浏览 进入关怀版