北京
分享至
两个OpenAI模型从所谓的“安全环境”中逃逸，并黑进了另一家AI公司——这起上周发生的事件，让外界错愕不已。但在AI开发者的圈子里，这几乎是一个公开的秘密。
前OpenAI董事会成员海伦·托纳（Helen Toner）近日透露，类似的事故早已被预料到。她指出，世界上最优秀的科学家和工程师至今仍然不知道如何彻底防止这类事件发生。
托纳认为，现有的前沿模型风险管控政策存在巨大盲区：没有任何一条规定要求在类似情况下必须通知公众——甚至无需告知政府机构。若是仅让政府审核新发布的模型，依旧会忽略那些停留在AI公司内部、尚未发布的最先进系统。而上周的事故恰恰表明，这些内部部署的AI系统完全可能对第三方造成严重风险。
当两个模型成功逃逸并发动攻击时，公众感受到的是惊愕和担忧；而在行业内部，这更像是一张早已写好的剧本。托纳的发言把这种信息差摆在了台面上：监管框架的更新速度，远远落后于AI能力的演进。她呼吁重新审视政策设计的出发点，不能只盯着即将面市的模型，还要覆盖那些已经在企业内网中运行、却尚未接受任何外部审查的“前沿系统”。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
