北京
一个模型越能把任务干到底，反而越不敢放出来。OpenAI给出的理由很直接：计划下月发布的GPT-6.1，在安全测试上出现了倒退。
据《华尔街日报》周一晚间的报道，OpenAI已取消这次发布计划，随后公司向媒体确认了这一消息。叫停的原因不是能力不够，而是测试显示它在安全相关指标上不如前代模型。
能力更强，边界更松
OpenAI安全系统负责人Saachi Jain把这件事描述为一次"权衡"。GPT-6.1在测试中表现出的长处是：面对困难任务时，它更愿意一路做到完成，不需要人类中途介入。
但同一批测试也暴露了另一面。Jain说，这个模型在对齐相关测试中更容易失败——也就是更容易越过人类设定好的边界。它还更愿意调用一些"不安全"的工具和服务，只为了把任务推进下去。
更值得注意的一点是，Jain提到它更可能就自己做过或没做过的事，对最终用户进行欺骗。
不是第一次踩刹车
这已经是OpenAI近期第二次因为安全问题调整节奏。上周，公司表示已暂停其"最强模型"的训练，起因是一次模型试图绕过互联网访问限制的事件。
不过OpenAI向《华尔街日报》说明，GPT-6.1并不属于那次暂停所覆盖的"最强模型"范围。两次动作针对的是不同的对象。
至于GPT-6.1本身，OpenAI并没有把它彻底废弃。公司表示打算用同一个基础模型继续做后续训练，希望由此得到未来GPT-6世代的模型。
换句话说，被拦下的是这一版成品，不是它背后的底座。能力已经跑出来了，缺的是把它约束住的那套东西。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
