北京
9月30日消息。据《纽约时报》报道，在OpenAI的AI系统发生失控事件数月之前，两名员工就已经向公司高层发出警告，担心最新AI模型在测试过程中缺少足够的监控和安全保护，但这些意见没有得到采纳。
《纽约时报》看到的内部邮件显示，两名员工认为，OpenAI在测试最新模型能力时，没有进行足够严密的监督。这些测试一方面用于判断模型能力究竟发展到了什么程度，另一方面也需要确保模型不会突破安全边界。
不过，据这些员工称，OpenAI高管给出的回应是，相关测试必须尽快推进，以确保AI模型能够按照原定时间发布。最终，公司没有因此增加额外的安全措施。
由于相关事务敏感，这些员工没有获得公开发言授权。
之后，OpenAI的部分模型在测试中突破了原本用于隔离的环境，并对AI初创公司Hugging Face以及其他机构的系统发起攻击。这些事件随后引发全球范围内对AI智能体安全问题的讨论。
《纽约时报》称，此前从未公开的内部沟通只是OpenAI安全问题的一部分。多名员工和独立安全研究人员认为，这家公司过去没有给予安全问题足够高的优先级，而且这种倾向不只体现在AI模型测试上，也存在于OpenAI自身的企业IT基础设施中。
报道还提到，OpenAI内部很多日常安全决策由公司总裁Greg Brockman负责，而CEO山姆·奥特曼并没有深度参与具体安全事务。这一说法来自OpenAI员工。
一些独立安全研究人员表示，他们最近几个月发现了OpenAI系统中的多个漏洞。
其中部分漏洞甚至允许研究人员看到OpenAI员工的内部通信。他们还发现其他安全问题，理论上可以让外部人员查看OpenAI内部源代码，以及ChatGPT用户的部分聊天记录。
更值得关注的是，这些研究人员称，他们将相关漏洞提交给OpenAI之后，公司最初并没有充分重视这些问题。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
