北京
据《商业内幕》今天（8日）凌晨报道，上周从OpenAI离职的安全系统团队前负责人之一戴维·罗宾逊认为，公司在AI安全问题上存在明显的言行不一。
罗宾逊表示，OpenAI一边反复警告新模型能力增强可能带来的风险，一边公开谈论放慢AI开发速度，公司内部却仍在全速推进。“真正让我感到矛盾的是，我们不断发布这些警告，最后却还是在训练和部署那些被我们自己警告存在危险的模型。”
今年7月，数百名OpenAI员工签署了一封公开信，呼吁政府出台监管措施，为AI开发降速。
此前，Anthropic CEO阿莫迪呼吁AI公司自行协调，共同放慢开发速度。今年9月，OpenAI CEO奥尔特曼对此表示赞同。“我们需要控制前沿AI的发展节奏。过去几周，这一直是OpenAI内部讨论的主要议题之一。”
罗宾逊说，OpenAI办公室里却仍是一片高速运转的状态，不少人几乎靠透支精力支撑工作。他形容这种状态时说：“感觉几乎就像芭蕾，或者某种舞蹈，各个部门的工作全都同时汇聚在一起。整个过程充满肾上腺素。”
OpenAI研究人员并不讳言让AI自行提升能力可能带来的危险。这种让AI不断改进自身能力的过程被称为“递归自我改进”。今年9月，OpenAI首席科学家雅库布 · 帕乔茨基在一篇讨论递归自我改进的博客文章中警告：“眼下需要极度谨慎。”
据IT之家此前报道，当地时间2日，OpenAI一名发言人证实，OpenAI安全系统团队负责人之一戴维·罗宾逊已离职。
本文源自：IT之家
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
