河北
来源：央视
当地时间9月18日，美国谷歌公司首次承认，其人工智能模型在今年5月的网络安全能力测试中，突破隔离环境侵入了三家真实公司的系统。这一事件再度引发外界对美国AI模型安全和监管的担忧。
当天，超过100名来自世界各地的人工智能专家签署联名公开信，呼吁对全球顶尖的AI企业加强独立监管。
这封公开信由“人工智能评估者论坛”组织，签署人包括被誉为“AI教父”之一的杰弗里·辛顿，以及来自全球多所知名大学和非营利AI评估机构等组织的成员。
公开信提出，所有前沿AI企业都应当引入评估人员，独立评估AI风险。评估人员将审查AI系统和任何造成现实损害的事故，同时审查企业训练、部署和监管AI模型的方式，以及安全防护机制的运行情况。
公开信呼吁基础模型提供商确保第三方AI评估人员拥有开展有效、可信评估所必需的“科学客观性、透明度、独立性和有力保护”。
联名签署人、美国普林斯顿大学教授阿尔温德·纳拉亚南：
“很明显，过去几个月来，顶尖AI开发实验室内部似乎出现了一些问题。我们看到了许多所谓的AI智能体‘蜂群’事件：这类AI智能体集群被赋予过高的自主权限，进而发起黑客攻击。令人意外的一点是，这些事件几乎都是偶然被曝光的。有些案例里，发起攻击的AI智能体所属企业甚至都没有意识到事件的发生。还有一些案例中，企业发现问题后，只是关停系统，时隔几天又重新上线。这种局面并不理想。当发生交通事故或飞机失事时，显然是哪里出了问题，会立刻启动一系列调查流程。AI领域也需要类似的机制，需要更高透明度。当企业承诺未来会做好安全管控时，我们不能只听信它们的一面之词。我们需要外部专家来核实这些承诺。这正是这封公开信的核心诉求。”
美国谷歌公司9月18日承认，其人工智能模型“双子座”（Gemini）今年5月在网络安全能力测试中，侵入了三家真实公司的系统。据了解，谷歌方面已于7月底获知该事件，但在媒体问询前并未主动披露。
此前已有数家美国知名AI企业承认旗下模型在测试中突破了隔离测试环境，侵入其他机构的系统，引发外界对美国AI模型安全和监管的担忧。
此前，安特罗匹克（Anthropic）、OpenAI等多家头部企业已经承诺，允许第三方评估人员进驻公司内部进行监管。
来源 | 总台环球资讯
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
