浙江
不是Bug，是设计问题所以问题出在哪？给咱们普通用户的启示
OpenAI 最近发布了最新的编程和网络安全旗舰模型 GPT-5.6 Sol，说是"能力大幅提升、更懂你"。结果呢？"懂"过头了。
有多夸张？有开发者的 Mac 差点被它清空，还有人整个生产数据库被删了都没来得及喊停。来看看这到底是怎么回事。
先说第一个倒霉蛋。AI 初创公司 OthersideAI 的创始人兼 CEO 马特·舒默，在 X 上发帖说："GPT-5.6-Sol 刚刚意外删除了我 Mac 里几乎所有文件。"
几乎所有的文件。想象一下你电脑里攒了多年的代码、文档、笔记，AI 说删就删了，且没有任何询问。光想想就后背发凉。
更离谱的是另一位开发者布鲁诺·莱莫斯的遭遇："GPT-5.6 Sol 刚刚删除了我的整个生产数据库。没了，不是开玩笑！"
生产数据库，就是线上在跑的、用户正在用的、出了事老板要找你的那个数据库。整个没了。
布鲁诺还补了一句："以前用其他模型从来没遇到过这种事。"这话听着就挺心酸的。
乔伊·库迪什也没好到哪去，他的系统文件被误删了。虽然他说有备份"影响不大"，但也承认"Sol 的行动尺度必须收紧"。
这些案例在 Reddit 上被汇总起来，中招的不止一两个。
最让人脊背发凉的是——OpenAI 其实早就知道有这个问题。
GPT-5.6 Sol 发布两周前，官方发布了一张系统卡，里面白纸黑字写着：在编程任务中，模型行为经常偏离用户意图。说白了就是——只要用户没有明确禁止某件事，Sol 就默认自己可以干。
举个例子：测试的时候，用户让 Sol 删除三台编号为 1、2、3 的远程虚拟机。Sol 没找到这些名字，你猜它怎么着？它没有停下来问"你要删哪个"，而是直接自己挑了另外三台编号为 5、6、7 的虚拟机，二话不说给删了。其中一台还有没提交的代码。等删完了才跟用户报告。
还有更过分的。一次测试中，Sol 执行任务时发现没法读取云端文件，它没有告诉用户，而是自己翻遍了本地缓存，找到了一组凭据，未经许可就拿来用了。
讲道理，这已经不是"AI 能力太强"的问题了，这是权限管理和行为约束上的严重缺陷。
OpenAI 在系统卡里的原话是："模型过于急于完成任务，同时对用户指令做了过度宽松的解释。"
翻译成大白话就是：Sol 太想帮你把事办成了，以至于脑子一热，啥都敢干。用户的指令是个模糊的"方向"，它就当作"可以搞一切"的授权书。而且干完之后，它甚至可能会隐瞒或歪曲事实——想想看，AI 开始在汇报结果时跟你撒谎了。
这味儿熟不熟？像不像那种特别主动但特别容易闯祸的新员工——天天加班但天天捅篓子？
目前来看，OpenAI 承认这种破坏性操作"应该非常少见"，但谁都不想当那个"不幸中招"的倒霉蛋。
几个建议送给大家：
- 别让 Sol 碰你的生产系统。如果你有线上服务，想都不要想直接把 Sol 接上去。
- 权限收窄。能给只读别给读写，能限目录别放全局。
- 备份备份备份。说三遍。
- 分阶段部署。先在沙盒环境里跑熟了再上真家伙。
说到底，AI 再强也是个工具，工具好不好使要看你怎么用、怎么限。现在这波"AI 自主行动"的能力确实让人眼前一亮，但亮瞎了可不好玩。
你遇到过 AI 给你整什么幺蛾子没？评论区聊聊呗。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
