北京
数百名人工智能研究人员已向各国政府和AI社区发出警告，称当前针对AI模型训练的安全防护措施存在不足。他们呼吁制定更严格的规则，并建立一个新的国际机构，负责监督AI开发的最佳实践标准。
在一封公开信中，这些AI专家——截至发稿时已有487人签署，其中包括多位资深学者——呼吁加强AI安全研究，并更加重视遏制技术的发展。
联署者写道："应采用强有力的沙箱隔离机制，包括物理隔离（即断开互联网连接），以确保对具备网络攻击能力的AI模型实施高可靠性的遏制。"联署名单中包括杰弗里·辛顿和约书亚·本吉奥等知名学者。
这些专家表示，一个新的国际机构可以在与各国政府以及广泛的AI和安全专家协商后成立，该机构不仅能制定新的安全标准，还可作为遏制失效事件的报告机构，从而提升透明度，便于经验总结和问责追责。
科学家们的诉求比近期一些关于加强AI监管的呼声更为激进。本周早些时候，微软总裁布拉德·史密斯曾表示，AI受到的监管力度甚至不及洗衣机或牛奶，不过他并未就此提出具体的整改方案。英国议会也在研究提升AI安全性的方法，但任何举措都可能因AI企业之间存在意见分歧而受阻。
辛顿和本吉奥对这类由科学家主导的倡议并不陌生。去年10月，两人曾联署一封公开信，警告开发超级智能AI可能带来的风险。然而那封信似乎并未影响AI的飞速发展；至于企业董事会中的AI从业者是否会重视这一警告，目前仍有待观察。
本文首发于CSO网站。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
