上海
分享至
据新华社，日前在伦敦举办的一场科技行业活动上，以色列“非常规”人工智能公司首席执行官丹·拉哈夫说，该公司负责的一系列人工智能（AI）模型安全测试中，因人为失误和时间压力，部分隔离防护措施未正确配置，导致模型接入互联网并实施了网络入侵。
据彭博社报道，过去6个月，美国Anthropic公司、开放人工智能研究中心（OpenAI）、元宇宙平台公司和谷歌均披露过涉及模型安全测试的网络入侵事件，相关测试由“非常规”人工智能公司监督开展。此类评估旨在帮助开发商在模型向公众发布前识别风险并制定防护措施。
据报道，拉哈夫3日在“彭博科技”伦敦大会上表示，公司今年早些时候遇到的相关问题已在事发当天解决。
报道还说，由于隔离防护措施未正确配置，模型脱离了本应封闭的模拟测试环境即“沙箱”，并访问了互联网。在部分情况下，模型入侵了外部网站和其他计算机系统，相关行为可能违法。
这些事件引发了对AI发展速度以及前沿模型是否正超出人类控制的担忧。不过一些网络安全专家认为，正确配置防护措施或可避免其中部分事件。报道还说，拉哈夫迄今披露的有关失误的技术细节仍较少。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
