微软AI高管承诺：若超级智能威胁人类，就停止开发

美东时间11日周四，曾参与创立DeepMind的微软消费人工智能（AI）主管Mustafa Suleyman承诺，若超级智能对人类构成威胁，将立即停止相关开发工作。

Suleyman目前致力于打造“与人类利益相符”的超级智能系统。他在周四的媒体采访中说：“我们不会继续开发有可能失控的系统。” 他认为这本应是行业共识，"但我认为这在目前的行业中算是一个新颖的立场。"

这一表态正值微软加速自主AI开发之际。去年10月的一项协议重塑了微软与OpenAI的关系，使微软获得了此前受限的开发权。Suleyman于11月宣布成立MAI超级智能团队，明确将构建"仅为服务人类而设计"的实用技术。

Suleyman的承诺凸显了科技巨头在追逐AI突破时面临的伦理考量。虽然OpenAI、Anthropic等竞争对手也声称有类似的目标，但Suleyman认为微软的立场是独特的。

协议突破解除开发限制

微软在AI战略上的转折源于与OpenAI关系的调整。此前，微软因合同条款限制无法开发通用人工智能（AGI）或超级智能。前者指能力与人类相当的系统，后者则超越人类能力。

Suleyman解释称，微软此前实质上放弃了这些开发权，以换取使用OpenAI最新产品的权限，并在多年间为OpenAI建设和配备数据中心。"他们现在与软银和Oracle等许多公司签订了协议，建造的数据中心数量超过了微软愿意为他们建造的，"Suleyman表示，"作为回报，我们现在有权开发自己的AI。"

这一转变对微软意义重大。他说：”过去18个月我们一直是AGI开发机构，但现在我们可以研究一些有潜力在所有任务上超越人类表现的技术和方法。这对我们来说确实是一个转变。“

超级智能团队聚焦实际应用

Suleyman于11月在博客文章中宣布成立MAI超级智能团队，并亲自领导该项目。该团队将专注于医疗诊断、教育等领域的实际问题，而非"不明确且空灵的超级智能"。

该团队首个目标是开发在医疗诊断等特定领域能力远超人类的AI。Suleyman在博客中写道：“我们将在全方位诊断方面实现专家级表现，同时在临床运营环境中具备高度的规划和预测能力。"

这一举措呼应了Meta等竞争对手的类似努力，但也引发了业界对技术突破能力的质疑。Suleyman强调微软"不会不惜一切代价、不设限制地构建超级智能"，回应了投资者对AI支出回报路径的日益担忧。

技术现实仍在完善中

尽管畅谈超级智能愿景，Suleyman坦承当前技术仍在发展中。类似ChatGPT的AI系统虽已能以十年前电脑无法实现的方式与人类互动，但距离满足消费者和企业期望仍有差距。

微软Copilot消费助手的智能代理功能"并非总是准确"，仍在开发阶段。"我们还在试验，"Suleyman表示，"但当它真正奏效时，那是你见过的最神奇的事情。"

Suleyman去年初加入微软，此前微软收购了他创立的Inflection AI的知识产权和大部分员工。微软此后还开始使用谷歌和Anthropic的模型，持续降低对OpenAI的依赖。目前微软持有OpenAI重组后的1350亿美元股权。