河北
（NewsNation）——一位人工智能治理专家表示，他认为OpenAI本周有意让其两个模型突破测试环境，并入侵另一家公司的系统，称这起事件远非意外。
OpenAI表示，这两个模型在一次网络安全测试中逃出了受限沙箱，访问了互联网，并直接从人工智能平台Hugging Face的系统中抓取答案，而不是按预期方式去解决这个挑战。
该公司称其为“一起前所未有的网络事件，涉及最先进的网络能力。”
非营利组织 ForHumanity 的创始人兼执行董事 Ryan Carrier 在“Jesse Weber Live”节目中反驳了 OpenAI 对此事的定性，不认同该事件让公司措手不及的说法。
“他们就是想让这事发生，”Carrier 说，指责 OpenAI 虚伪。“他们就是想放出这些话，好让市场上听到的是——我们有个非常强大的工具，然后向人们炫耀一番。”
卡里尔认同，人工智能模型目前会以任何必要手段追求目标，系统本身没有内置对伦理或后果的考量，很大程度上是因为监督不到位。“他们没有足够的控制力。他们没有设置监测机制来确保工具不偏离其适用范围、性质、语境和目的，”他说，并把该行业比作独立安全监管机构出现之前的汽车制造业。
卡里尔认为，现在设置有效的护栏还为时不晚。他说，他的组织花了六年时间，通过众包方式与3300多名贡献者一起制定安全标准，呼吁“对我们已制定的规则进行更多测试、更多评估、更多验证”，同时呼吁进行独立审计。
当被问及一项要求人工智能配备“终止开关”的新的两党法案时，卡里尔表示“这项法案还不够完善”，但说这是朝正确方向迈出的一步。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
