北京
当地时间9月12日，美国人工智能企业安特罗匹克（Anthropic）首席执行官达里奥·阿莫代伊表示，在当前人们对AI遭到滥用的担忧日益加剧的背景下，各大AI企业应控制模型迭代的速度，争取更多时间来管控相关风险。
达里奥·阿莫代伊当天在社交媒体上发布文章称：“我们必须放缓提升AI模型能力的速度。技术进展看起来依旧会很快，但我们必须善于运用争取到的这段时间。”
他进一步表示，自己并非要求AI企业停止模型训练或技术进步，而是要确保企业拿出充足时间对模型进行对齐与安全防护，并且由第三方评估机构核验这些安全举措。
就在几天前，安特罗匹克的一名研究员雅各布·考克森宣布辞职引发行业震动。考克森此前曾就职于开放人工智能研究中心（OpenAI）。他表示自己辞职的原因是担忧安特罗匹克与OpenAI正在“拿我们（人类）的生命赌博”。
近几个月来，OpenAI和安特罗匹克旗下的人工智能体在网络安全测试期间，发生多次突破“隔离沙箱”、侵入外部真实系统的异常行为，加剧了外界对研发企业管控风险能力的担忧。
阿莫代伊的文章得到美国不少行业研究者与企业高管的赞许。OpenAI首席执行官萨姆·奥尔特曼当天在社交媒体发文称，“我同意达里奥·阿莫代伊的观点，我们需要管控前沿AI能力的发展速度”。“承诺让独立评估人员获得类似于正式员工的访问权限是个绝佳构想，我们也会照做”。
特斯拉公司首席执行官埃隆·马斯克也在社交媒体上发文称，“达里奥·阿莫代伊说得对”。
新闻解释多一点
什么是AI模型对齐？
AI模型对齐（AI Model Alignment）是AI安全领域的核心议题，就是让AI模型的行为、输出结果与人类的价值观、真实意图保持一致。它是一整套从训练、数据、提示、行为控制到评估反馈的综合手段体系，目标是让模型“听得懂人话、说得像人话、守得住边界”。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
