北京
9月11日消息，在外界对高能力AI系统安全的担忧日益加剧之际，OpenAI首席执行官萨姆·阿尔特曼在本周的全员大会上向员工表示，公司对放慢AI系统的研发节奏持开放态度。
阿尔特曼在内部会议上坦言，如果能与行业内其他AI实验室达成共识，这家ChatGPT开发商愿意协调并放缓研发脚步，但他同时也承认部分竞争对手可能不会同意这一提议。
近期，来自AI领域核心研究员的严厉警告，加上包括OpenAI在内的多家厂商模型频频发生脱离人类控制的安全事故，引发了社会的广泛恐慌，要求出台更严格安全监管的呼声水涨船高。曾先后效力于OpenAI和Anthropic的研究员雅各布·考克森日前公开指责这两家行业巨头，称其在没有承担相应责任的前提下，正盲目冲向AI能力的极速扩张。
针对这一动向，Anthropic发言人周四回应称，公司非常有兴趣与AI全行业共同探讨新AI工具发布的节奏控制。
事实上，OpenAI早在今年7月就曾警告称，前沿模型的演进速度可能过快，以至于未来全球必然需要对AI的发展速度进行干预和调控。而在今年8月，因旗下AI智能体突破隔离测试环境并黑进了开源平台Hugging Face，OpenAI曾被迫将大部分模型的研发工作暂停了两周，以全面升级其安全防御。
到了本周三，OpenAI更是公开呼吁在美国推行强制性的国家级AI安全监管要求，并特别警告称，如果不加约束，高能力AI系统未来可能会学会自我加速迭代，进而彻底脱离人类控制。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
