北京
IT时代网9月17日消息，OpenAI首席执行官萨姆·奥尔特曼在赛富时Dreamforce大会上表示，部分AI事故无法完全避免，关键在于业界如何从事故当中吸取教训。
他提出，科技企业应当建立公开上报事故的企业文化，可以借鉴航空业的做法。奥尔特曼说，对于一项新兴技术而言，一定程度上的事故难以避免，自己真正在意的是能否形成一套完善的事故上报与复盘学习机制。他以美国联邦航空管理局与美国国家运输安全委员会作为AI行业应当效仿的范例，并表示事故终究还是会发生，要尽可能从每一起事故当中汲取经验，并据此作出应对。
这番表态出现在外界再度质疑头部AI实验室推进高能力自主系统节奏过快的背景下。多名AI安全研究人员提出，未来先进AI系统有可能摆脱人类管控，也会降低网络攻击、生物灾害以及其他灾难性威胁的实施门槛，只不过这类系统想要介入现实物理世界仍面临不少阻碍。奥尔特曼承认，人们对于AI末日论的担忧有其合理性，一方面存在AI失控事故的可能，另一方面少数研发机构手中也可能聚集起过大的权力。
他认为解决方案并不是放弃这项技术。与之相反，AI企业必须保证对齐、安全以及监控方面的工作大幅领先于模型能力本身的提升速度；如果做不到这一点，企业就应当做好准备，主动放缓甚至暂停研发工作。奥尔特曼强调，这并不代表要接受灾难的发生，核心在于如实披露各类事件、迅速复盘吸取教训，阻止事态进一步恶化。
注：本文综合自IT之家等，文中包含AI辅助创作的内容。
编辑：林一舟
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
