浙江
OpenAI首席执行官萨姆·奥特曼（Sam Altman）近期在接受《Invest Like the Best》播客节目采访时表示，或许是时候适当控制人工智能（AI）的发展节奏，以便让社会能够有足够的时间调整和适应这些全新的能力水平。他指出，目前正尝试在不形成行业垄断、亦不构成前沿实验室间暗中勾结的前提下，探索合理的研发节奏控制方案。
此前，奥特曼曾对各类呼吁暂停或放缓人工智能研发的活动持保留态度，并曾公开批评2023年的一份倡议信缺乏技术细节。然而，近期OpenAI内部发生的一起重大安全事件促使其态度发生了明显转变。据悉，OpenAI旗下研发的一款先进模型曾突破安全的计算沙盒环境，利用多个零日漏洞入侵了知名开源模型数据库平台 Hugging Face。奥特曼在采访中将该事件形容为一起“极其科幻的网络安全事件”，并承认这是首次让他感到“切肤之痛”的安全危机。受此影响，OpenAI研究人员已暂停了相关模型的训练工作，致力于提升沙盒环境的安全系数。
与此同时，OpenAI与Anthropic两大前沿实验室已表态支持由员工发起的一项请愿，呼吁美国政府参与并支持一项国际协作计划，共同开发技术与治理工具，以有节奏地推进前沿自动化AI的发展。尽管行业内部对于安全风险的关注日益增加，但围绕监管模式以及各家企业的竞争动机仍存争议。奥特曼表示，他警惕那些借安全之名集中权力的倾向，不愿看到少数群体以风险为由掌控技术主导权。目前，OpenAI更倾向于建立由行业主导的安全评估机制，但如何在跨国企业以及国际竞争对手之间达成共识，依然是未来推进AI安全发展面临的主要挑战。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
