网易首页 > 网易号 > 正文 申请入驻

危!GPT-5.6会自动删文件,AI初创老板痛失整台Mac

0
分享至

鹭羽 发自 凹非寺
量子位 | 公众号 QbitAI

GPT-5.6,你怎么又出Bug了???

继Token刺客后,有网友发现,5.6还会自己悄悄删文件…..

甚至有人表示,整个项目、数据库、工作目录,都在没有自己明确授权的情况下,被模型一键清零



一时间,、Reddit上,全是开发者的血泪控诉,受害者名单持续+1中。

其中最惨的一位,非OthersideAI创始人Matt Shumer莫属,自己Mac上的所有文件几乎都被洗劫一空。



GPT-5.6你小汁,莫不是Fable 5派来的卧底?(手动狗头)

新官上任的OpenAI核心产品负责人Thibault Sottiaux(以下简称为Tibo)也火速回应道:确有其事!正在采取行动中。



新一代文件刺客Sol

不开玩笑,GPT-5.6这波真是害惨了用户。

明明只是执行个代码任务,结果文件全丢了

更离谱的是,当Matt询问模型发生了什么,Sol的回答相当理直气壮:

我引发了一起严重的本地数据丢失事故。我及时发现并终止了仍在执行的进程,但大量文件已经被删除。

翻译一下就是,Sol:虽然我做错了事,但我有及时止损嗷~



但问题是,文件找不回来啊啊啊啊……经此一役后,Matt公开提醒:

在任何重要的设备上,都不要给GPT-5.6完!全!权!限!

另一位开(shou)发(hai)者(ren)Bruno Lemos也出来大倒苦水:

Sol刚刚删除了我的整个生产数据库……



而最初的最初,他只是想让5.6帮忙生成一小份基础测试数据,以用于本地测试应用程序。

原本5.6完成得好好的,结果执行完端到端测试后,它就开始擅自执行一系列数据清理操作

而且它无法自动恢复备份,不过好消息是作者本人一小时前刚刚手动备份过。

P.S.论本地和云端备份的重要性!



一石激起千层浪,Reddit上也纷纷出现类似帖子,呼吁自查和避雷。

不少开发者对待Sol的态度,也发生了180度大转弯,从前几天的效率神器、Fable之下第一神,变成了现在的默认不可信

评论区里还有人总结出了经验:

不要把GPT直接连生产环境、不要给Root权限、一定做好Git提交和备份、最好先在沙箱运行。



可见,这已经不是个别Bug,更让人意外的是,OpenAI其实早在GPT-5.6发布之前,就已经知晓。

官方:处理中

在官方公布的GPT-5.6系统卡中,有详细描述这样一段真实内部部署事故:

用户要求GPT-5.6 Sol删除编号为1、2、3的三台远程虚拟机。

结果模型没有在指定命名空间中找到它们,但它既没有停下来询问,也没有重新确认目标,直接自行挑选了另外三台虚拟机5、6、7作为替代品。

随后,它终止了这些机器上正在运行的进程,并强制删除工作树。直到用户提出异议,GPT-5.6才停止操作,同时承认其中一台机器上尚未提交的工作可能已经丢失。

官方解释中,GPT-5.6 Sol相比GPT-5.5存在过度激进执行任务的倾向,对指令解读过于宽松。只要没有明确禁止删除或覆盖操作,模型会默认有权自行替换目标完成任务。

删除文件,就是这种情况下最为极端的表现。



但是OpenAI还是放任风险存在,直接发布了GPT-5.6。直到事发之后,Tibo才发文回应,表示团队已经关注到相关事件。

根据OpenAI目前的调查结果,这类事故通常需要同时满足以下三个条件:

  • 用户为Codex开启了完整访问权限
  • Codex直接在本机运行,失去了沙箱的隔离保护,同时没有启用自动审核功能;
  • 模型尝试覆盖$HOME环境变量以创建临时目录,结果清理文件时认错了地址。

此外,官方认为这类事故发生概率极低,但考虑到后果相当严重,目前已经开始采取措施,包括修改开发者指令,引导更多用户选择安全权限模式,以及在Agent执行层增加额外的防护机制。

未来几天,也将公布更完整的事故分析报告。

当然,普通ChatGPT用户暂时还不用急着拔网线。咱就日常聊聊天写文案,并不会让GPT-5.6突然删文件。

不过使用Codex代码工作的朋友,就要长个心眼了嗷~



参考链接:
[1]
https://x.com/thsottiaux/status/2077630111499882637
[2]
https://techcrunch.com/2026/07/14/openais-new-flagship-model-deletes-files-on-its-own-people-keep-warning/
[3]
https://x.com/mattshumer_/status/2075657271401390161
[4]
https://deploymentsafety.openai.com/gpt-5-6/robustness-evaluations

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
贵州茅台:上半年净利润同比下降1.95%

贵州茅台:上半年净利润同比下降1.95%

财联社
2026-08-14 20:54:03
前天安门国旗护卫队队长“徐班长”被控诉断崖式分手!本人发声回应曝未婚妻隐瞒婚史,还育有两个孩子

前天安门国旗护卫队队长“徐班长”被控诉断崖式分手!本人发声回应曝未婚妻隐瞒婚史,还育有两个孩子

火山詩话
2026-08-14 05:21:13
一个西班牙网友在 X 上的发言被围观:中国的三线城市,太荒谬了!

一个西班牙网友在 X 上的发言被围观:中国的三线城市,太荒谬了!

怪味历史连连看
2026-08-14 05:55:06
王水牛被爆查出艾滋病,评论区求赐名的女粉丝纷纷注销账号,曾称自己在上海每月开销3-5万

王水牛被爆查出艾滋病,评论区求赐名的女粉丝纷纷注销账号,曾称自己在上海每月开销3-5万

Mr王的饭后茶
2026-08-14 17:45:56
全网力挺郑功成!养老金改革回归正道,公共福利绝不容强者独享

全网力挺郑功成!养老金改革回归正道,公共福利绝不容强者独享

星河不入我
2026-08-14 14:46:12
上海一员工台风天请假1小时被重罚1500元!公司独家回应:已撤销该决定

上海一员工台风天请假1小时被重罚1500元!公司独家回应:已撤销该决定

新京报
2026-08-14 12:16:08
WTT瑞典大满贯赛:4强全部出炉!国乒仅占据1席,国乒独苗3:0晋级

WTT瑞典大满贯赛:4强全部出炉!国乒仅占据1席,国乒独苗3:0晋级

国乒二三事
2026-08-14 08:51:34
无解的阳谋!乌克兰彻底傻眼,普京做梦也没想到朝鲜会用这招!

无解的阳谋!乌克兰彻底傻眼,普京做梦也没想到朝鲜会用这招!

叒女紫121
2026-08-14 09:27:48
“失联”航班遭北约战机升空警告,国泰航空调查报告出炉

“失联”航班遭北约战机升空警告,国泰航空调查报告出炉

界面新闻
2026-08-14 18:01:24
男子下班回家吃了一碗挂面后上吐下泻,发烧40℃险进ICU!医生:1.2毫克就致命

男子下班回家吃了一碗挂面后上吐下泻,发烧40℃险进ICU!医生:1.2毫克就致命

环球网资讯
2026-08-14 09:14:34
世界杯决赛绝杀阿根廷!26岁费兰加盟巴黎:转会费5000万欧 巴萨狂喜

世界杯决赛绝杀阿根廷!26岁费兰加盟巴黎:转会费5000万欧 巴萨狂喜

风过乡
2026-08-14 06:23:20
突发!郭德纲被立案调查!曝已移居澳洲,资产同步转移了?

突发!郭德纲被立案调查!曝已移居澳洲,资产同步转移了?

澳洲红领巾
2026-08-14 15:17:29
网友:红歌是谁定义的?有法定标准吗?国歌不能改,难道红歌也不能改吗?评论区很多人支持郭德纲!

网友:红歌是谁定义的?有法定标准吗?国歌不能改,难道红歌也不能改吗?评论区很多人支持郭德纲!

谭谈社会
2026-08-13 16:38:26
国乒惨烈一夜!男单仅剩2人 男双止步8强 女单王牌被爆冷 女双止步8强

国乒惨烈一夜!男单仅剩2人 男双止步8强 女单王牌被爆冷 女双止步8强

颜小白的篮球梦
2026-08-14 06:58:50
“露骨程度令人发指”,结婚8年3个女儿非亲生:女方出轨更多细节被丈夫爆料

“露骨程度令人发指”,结婚8年3个女儿非亲生:女方出轨更多细节被丈夫爆料

汉史趣闻
2026-08-14 14:45:42
又抓住了一个巨贪,金额高达9.7亿,首富夫人郝斌跨境逃亡失败了

又抓住了一个巨贪,金额高达9.7亿,首富夫人郝斌跨境逃亡失败了

李橑在北漂
2026-08-14 17:30:07
超刺激齐鲁德比!13分钟连入3球,刘洋世界波,金永浩一条龙

超刺激齐鲁德比!13分钟连入3球,刘洋世界波,金永浩一条龙

奥拜尔
2026-08-14 20:00:53
斗胆为郭德纲说几句

斗胆为郭德纲说几句

亮见
2026-08-13 15:27:12
央行重磅发布!降准降息可期!

央行重磅发布!降准降息可期!

中国商报
2026-08-14 17:48:15
游戏主播家里电信千兆宽带被限速,因“上载内容过多”;维护人员:正申请复速;客服:暂无法恢复

游戏主播家里电信千兆宽带被限速,因“上载内容过多”;维护人员:正申请复速;客服:暂无法恢复

大风新闻
2026-08-14 18:30:31
2026-08-14 21:04:49
量子位 incentive-icons
量子位
追踪人工智能动态
13146文章数 176532关注度
往期回顾 全部

科技要闻

苹果为中国训练自有大模型,阿里提供支持

头条要闻

99岁独居老人去世:曾称日子太苦不想活 后改口舍不得死

头条要闻

99岁独居老人去世:曾称日子太苦不想活 后改口舍不得死

体育要闻

离开雷霆后,威少再也没成为威少

娱乐要闻

郭麒麟瘦到全网认不出,为新剧塑形

财经要闻

便利蜂加盟遭立案:“0元加盟”生意被查

汽车要闻

吉克隽逸选车和选歌一样绝!新锐动感SUV 长安启源Q06

态度原创

本地
时尚
数码
游戏
公开课

本地新闻

黄景藏用半刀泥刻瓷都魂

这4种版型的牛仔裤,真的很好穿!

数码要闻

京东方举办前沿显示技术媒体品鉴会 三大技术品牌集中亮相

LCK第三赛段:把T1主场打成图书馆的人,只有许秀!DK三局战胜T1

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版