微软AI负责人苏莱曼呼吁AI研发优先「可控性」，反对无约束追逐超智能

AIPress.com.cn报道

微软AI CEO Mustafa Suleyman近日向人工智能行业发出警告，呼吁企业停止将“控制（containment）”与“协作或对齐（alignment）”混为一谈，并强调在推动更高级人工智能系统之前，必须优先确保其可控性。

苏莱曼在社交平台X上表示，“你无法操控一个你无法控制的系统”，并指出，如果缺乏明确的控制边界，对齐更像是在“请求系统自我约束”。他认为，当前行业在竞逐超智能的过程中，正在忽视这一根本问题。

在相关论述中，苏莱曼区分了控制与对齐的不同内涵。他指出，控制关注的是为AI系统设定硬性边界、限制其自主行为和能力范围；而对齐则侧重于确保系统在价值和动机层面不对人类造成伤害。两者既非同义，也无法相互替代。

苏莱曼表示，行业普遍倾向于优先讨论对齐问题，却在缺乏成熟控制机制的情况下不断扩大AI系统的能力与自主性，这种路径在技术和治理层面都存在风险。他认为，先建立控制框架，再谈对齐目标，是更为稳妥的顺序。

这些观点出自他近期发表在微软AI博客上的文章《迈向人文主义超智能》（Towards Humanist Superintelligence）。在文中，苏莱曼提出“人文主义超智能”的概念，主张将研发重点放在医疗、清洁能源等具体应用领域，而非不受约束地追求通用人工智能或完全自主的系统形态。

苏莱曼在接受媒体采访时表示，他认为“控制”和“对齐”都应被视为AI研发中的“红线”，任何一家企业都不应越过。他同时承认，这一立场在当前行业中仍属于相对少见的观点。

报道称，在微软与OpenAI的合作关系调整后，微软得以推进更为独立的AI研发路径。苏莱曼表示，他正在组建一支以“保持人类控制”为核心原则的高级AI研究团队。

在谈及行业其他人物时，苏莱曼表示自己与多家AI公司高层保持沟通，并形容埃隆·马斯克为“推土机式人物”，同时肯定其直言不讳的风格。他则评价OpenAI CEO Sam Altman“勇敢且高效”，并指出其在大规模算力基础设施建设上的推进速度在业内领先。（AI普瑞斯编译）