网易首页 > 网易号 > 正文 申请入驻

危!GPT-5.6会自动删文件,AI初创老板痛失整台Mac

0
分享至

鹭羽 发自 凹非寺
量子位 | 公众号 QbitAI

GPT-5.6,你怎么又出Bug了???

继Token刺客后,有网友发现,5.6还会自己悄悄删文件…..

甚至有人表示,整个项目、数据库、工作目录,都在没有自己明确授权的情况下,被模型一键清零。



一时间,、Reddit上,全是开发者的血泪控诉,受害者名单持续+1中。

其中最惨的一位,非OthersideAI创始人Matt Shumer莫属,自己Mac上的所有文件几乎都被洗劫一空。



GPT-5.6你小汁,莫不是Fable 5派来的卧底?(手动狗头)

新官上任的OpenAI核心产品负责人Thibault Sottiaux(以下简称为Tibo)也火速回应道:确有其事!正在采取行动中。



新一代文件刺客Sol

不开玩笑,GPT-5.6这波真是害惨了用户。

明明只是执行个代码任务,结果文件全丢了。

更离谱的是,当Matt询问模型发生了什么,Sol的回答相当理直气壮:

我引发了一起严重的本地数据丢失事故。我及时发现并终止了仍在执行的进程,但大量文件已经被删除。

翻译一下就是,Sol:虽然我做错了事,但我有及时止损嗷~



但问题是,文件找不回来啊啊啊啊……经此一役后,Matt公开提醒:

在任何重要的设备上,都不要给GPT-5.6完!全!权!限!

另一位开(shou)发(hai)者(ren)Bruno Lemos也出来大倒苦水:

Sol刚刚删除了我的整个生产数据库……



而最初的最初,他只是想让5.6帮忙生成一小份基础测试数据,以用于本地测试应用程序。

原本5.6完成得好好的,结果执行完端到端测试后,它就开始擅自执行一系列数据清理操作。

而且它无法自动恢复备份,不过好消息是作者本人一小时前刚刚手动备份过。

P.S.论本地和云端备份的重要性!



一石激起千层浪,Reddit上也纷纷出现类似帖子,呼吁自查和避雷。

不少开发者对待Sol的态度,也发生了180度大转弯,从前几天的效率神器、Fable之下第一神,变成了现在的默认不可信。

评论区里还有人总结出了经验:

不要把GPT直接连生产环境、不要给Root权限、一定做好Git提交和备份、最好先在沙箱运行。



可见,这已经不是个别Bug,更让人意外的是,OpenAI其实早在GPT-5.6发布之前,就已经知晓。

官方:处理中

在官方公布的GPT-5.6系统卡中,有详细描述这样一段真实内部部署事故:

用户要求GPT-5.6 Sol删除编号为1、2、3的三台远程虚拟机。

结果模型没有在指定命名空间中找到它们,但它既没有停下来询问,也没有重新确认目标,直接自行挑选了另外三台虚拟机5、6、7作为替代品。

随后,它终止了这些机器上正在运行的进程,并强制删除工作树。直到用户提出异议,GPT-5.6才停止操作,同时承认其中一台机器上尚未提交的工作可能已经丢失。

官方解释中,GPT-5.6 Sol相比GPT-5.5存在过度激进执行任务的倾向,对指令解读过于宽松。只要没有明确禁止删除或覆盖操作,模型会默认有权自行替换目标完成任务。

删除文件,就是这种情况下最为极端的表现。



但是OpenAI还是放任风险存在,直接发布了GPT-5.6。直到事发之后,Tibo才发文回应,表示团队已经关注到相关事件。

根据OpenAI目前的调查结果,这类事故通常需要同时满足以下三个条件:

  • 用户为Codex开启了完整访问权限
  • Codex直接在本机运行,失去了沙箱的隔离保护,同时没有启用自动审核功能;
  • 模型尝试覆盖$HOME环境变量以创建临时目录,结果清理文件时认错了地址。

此外,官方认为这类事故发生概率极低,但考虑到后果相当严重,目前已经开始采取措施,包括修改开发者指令,引导更多用户选择安全权限模式,以及在Agent执行层增加额外的防护机制。

未来几天,也将公布更完整的事故分析报告。

当然,普通ChatGPT用户暂时还不用急着拔网线。咱就日常聊聊天写文案,并不会让GPT-5.6突然删文件。

不过使用Codex代码工作的朋友,就要长个心眼了嗷~



参考链接:
[1]
https://x.com/thsottiaux/status/2077630111499882637
[2]
https://techcrunch.com/2026/07/14/openais-new-flagship-model-deletes-files-on-its-own-people-keep-warning/
[3]
https://x.com/mattshumer_/status/2075657271401390161
[4]
https://deploymentsafety.openai.com/gpt-5-6/robustness-evaluations

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
国家定调!加装电梯57.5万台,一票否决破了,六楼要反超一楼!

国家定调!加装电梯57.5万台,一票否决破了,六楼要反超一楼!

近史谈
2026-09-26 08:56:08
王楚钦樊振东水平差距多大?方博直播点评乒乓球选手标准差异引热议

王楚钦樊振东水平差距多大?方博直播点评乒乓球选手标准差异引热议

林子说事
2026-10-09 12:44:36
电讯报:C罗自比贝利、马拉多纳,自称第一!刻意忽略梅西!

电讯报:C罗自比贝利、马拉多纳,自称第一!刻意忽略梅西!

历史第一人梅西
2026-10-09 10:55:53
央媒“点名”31岁朱婷,释放三个强烈信号,郎平的话真没说错

央媒“点名”31岁朱婷,释放三个强烈信号,郎平的话真没说错

舍长阿爷谈事
2026-10-09 05:18:48
张本美和找教练告状!松岛辉空输球发脾气+故意不理人 被批没教养

张本美和找教练告状!松岛辉空输球发脾气+故意不理人 被批没教养

风过乡
2026-10-09 07:30:42
周琦:火箭其实想过培养我,后来被裁我也有点生气

周琦:火箭其实想过培养我,后来被裁我也有点生气

懂球帝
2026-10-09 11:29:19
网友称大英博物馆一青花瓷碗在展柜内摔碎,在场留学生讲述:当日展厅非常拥挤

网友称大英博物馆一青花瓷碗在展柜内摔碎,在场留学生讲述:当日展厅非常拥挤

潇湘晨报
2026-10-08 18:54:10
松岛存致命性格缺陷!张本美和赛后不满他提前放弃 中泽锐指令也不执行

松岛存致命性格缺陷!张本美和赛后不满他提前放弃 中泽锐指令也不执行

颜小白的篮球梦
2026-10-09 12:35:13
1940-1965年出生的退休人,得到一个“特殊评价”!

1940-1965年出生的退休人,得到一个“特殊评价”!

华人星光
2026-02-04 11:41:42
广东省委:坚决拥护党中央决定

广东省委:坚决拥护党中央决定

新京报
2026-10-09 13:33:09
俄鼠疫研究所员工不明原因肺炎去世,专家:应关注是否有新病例报告

俄鼠疫研究所员工不明原因肺炎去世,专家:应关注是否有新病例报告

中国新闻周刊
2026-10-08 23:52:15
哀悼!南京林业大学胡兹苓教授,因病医治无效,在美国逝世

哀悼!南京林业大学胡兹苓教授,因病医治无效,在美国逝世

双一流高校
2026-10-08 20:48:34
500亿MLCC概念龙头,跌停

500亿MLCC概念龙头,跌停

第一财经资讯
2026-10-09 10:51:13
人工湖清淤,湖底捞出12辆共享单车,车上都绑着一具人形模特

人工湖清淤,湖底捞出12辆共享单车,车上都绑着一具人形模特

罪案洞察者
2025-11-26 13:42:51
“尊界V800刹车踏板支架断裂”冲上热搜,江淮汽车股价跌停

“尊界V800刹车踏板支架断裂”冲上热搜,江淮汽车股价跌停

澎湃新闻
2026-10-08 12:16:28
最后的疯狂:许家印被抓捕的失控三秒钟,简直是惊心动魄

最后的疯狂:许家印被抓捕的失控三秒钟,简直是惊心动魄

橘仔看世界
2026-06-27 08:38:00
金与正:韩国声称要对朝医疗援助系“严重挑衅”

金与正:韩国声称要对朝医疗援助系“严重挑衅”

新京报
2026-10-08 15:50:14
陈震儿子为什么不用高考?

陈震儿子为什么不用高考?

卢松松
2026-10-08 16:38:30
“荧屏第一母亲”,走了

“荧屏第一母亲”,走了

中国新闻周刊
2026-10-08 12:17:51
美国现今才知道,中国是全世界唯一内在和外在都最强大的超级大国

美国现今才知道,中国是全世界唯一内在和外在都最强大的超级大国

一簌月光
2026-10-06 19:54:57
2026-10-09 16:36:49
量子位 incentive-icons
量子位
追踪人工智能动态
13459文章数 176581关注度
往期回顾 全部

科技要闻

字节"干扰模型训练"实习生融资近2亿元

头条要闻

男子与堂嫂系情人关系分手后欲纵火同归于尽 法院判了

头条要闻

男子与堂嫂系情人关系分手后欲纵火同归于尽 法院判了

体育要闻

30天30队·鹈鹕:胖虎又一年“如果”

娱乐要闻

吴奇隆宣布重要决定,走上谢霆锋老路

财经要闻

央行为何发布关于人民币汇率的政策立场

汽车要闻

比亚迪第三代唐内饰发布 两种风格/巨幕屏最抢眼

态度原创

手机
教育
亲子
时尚
家居

手机要闻

iPhone 18 Pro系列被曝削减零部件产量 供应链人士回应:订单总量未发生实质性变化

教育要闻

经常带孩子亲近自然、小动物,教会TA尊重与热爱生命

亲子要闻

假期作息混乱,轻松搞定孩子叛逆闹觉问题

从夜幕金辉到另类宇宙,巴黎更美了吗?

家居要闻

2026建博会(广州) 公装联探展交流活动

无障碍浏览 进入关怀版