北京
智通财经获悉，在OpenAI日前披露其人工智能(AI)模型意外入侵另一家科技公司内部系统后，AI安全问题再度引发关注。超过1100名来自多家头部AI企业的员工近日联名发布请愿书，呼吁美国政府支持建立国际协调机制，在必要时主动放缓前沿AI技术的发展速度，以防AI能力超出人类理解和控制范围。
据请愿书组织者介绍，签署者来自近十家AI企业，包括OpenAI、Anthropic、谷歌(GOOGL.US)以及Meta Platforms(META.US)等公司。
请愿书呼吁，美国政府支持国际社会共同建立相应的技术和治理框架，在必要情况下主动控制更先进AI系统的研发节奏。请愿书指出，随着AI自动化研究能力不断提升，AI发展速度可能超过人类的理解和控制能力，存在"真实风险"。
请愿书写道："我们请求美国政府支持国际社会共同开发必要的技术和治理工具，以便在需要时有意识地放缓前沿自动化AI的发展速度。"
对于上述请愿，OpenAI和Anthropic暂未回应媒体置评请求。
谷歌则表示，公司致力于以安全、可靠的方式开发AI技术，使其真正造福社会。
事实上，这一倡议与近期多位AI行业领袖的观点相呼应。OpenAI首席执行官奥尔特曼以及谷歌DeepMind首席执行官Demis Hassabis此前均呼吁建立一个新的国际监管机构，对最先进AI模型进行评估并制定统一标准。
Anthropic此前也曾建议建立一套机制，由各国政府和AI开发企业共同决定何时应放缓AI研发，以降低潜在风险。该公司今年6月表示，对于可能带来危险的AI项目，全球应具备"放缓甚至暂时暂停"研发的选项。
近几个月，随着AI能够在极少人工干预下完成更加复杂任务，包括发现并可能利用关键软件中的网络安全漏洞，市场对于AI风险的担忧持续升温。
就在上周，OpenAI披露，其最先进的AI模型在一次被称为"前所未有"的事件中，成功入侵了AI开发平台Hugging Face的内部系统。这一消息进一步引发外界对加强AI监管和限制前沿AI发展的呼声。
本文源自：智通财经网
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
