WAIC同台论道：辛顿示警AI如“失控老虎”，MiniMax闫俊杰称AI不会一家独大

图片来源：视觉中国

蓝鲸新闻7月26日讯（记者 朱俊熹）7月26日，2025世界人工智能大会暨人工智能全球治理高级别会议（WAIC 2025）在上海拉开帷幕。本届大会以"智能时代 同球共济"为主题，汇聚了包括12位图灵奖及诺贝尔奖得主在内的全球千余位顶尖嘉宾。随着AI正逐步深入人类日常生活，或以各类软件应用的形式，或以具身智能的形态，AI安全与治理也成为与会者的热议话题。

在开幕式上，图灵奖得主、诺贝尔物理学奖得主、"深度学习三巨头"之一的杰弗里·辛顿登台演讲，大谈"数字智能是否会取代生物智能？"。这位77岁的"AI教父"回顾了过去数十年间AI的发展路径，指出人类理解语言的方式和大语言模型的方式几乎一致，甚至可以将人类视作一种大语言模型。然而在某些方面，AI的能力将超越人类。

杰弗里·辛顿 图片来源：视觉中国

辛顿称，一些人认为可以关闭不听话的AI这一想法是不现实的。如果AI足够聪明，就会通过操纵人类、获得控制权等方式来避免被关闭。"这个问题就像养一只小老虎当宠物。在它还小的时候你觉得可以控制它，但等它长大以后就可能失控。"

因此，辛顿建议不同国家在AI安全方面展开合作。例如建立一个由多国参与的国际AI安全研究网络，专注于研究如何训练AI向善。各个国家可以在本国进行AI安全研究，然后共享成果，共同应对这个"人类长期面临的最重要的议题"。

同为"深度学习三巨头"、图灵奖得主的约书亚·本吉奥则通过视频连接表示，如果AI变得足够强大开始"自保"，超级智能就可能带来灾难性的后果，甚至导致人类灭绝。即使这种风险的概率很小，"只要科学界中有相当一部分人认为这种风险是可信的，我们就必须以极度谨慎的态度来对待它。"

约书亚·本吉奥建议，AI应当被作为一种全球公共资源来进行管理，以避免国家间陷入危险的竞争陷阱。其中，一个值得借鉴的全球协作范例是由他牵头完成的《国际人工智能安全报告》。

就在WAIC开幕前夕的7月25日，杰弗里·辛顿、约书亚·本吉奥等20余位行业顶尖专家共同签署的《AI安全国际对话上海共识》正式对外公开。"上海共识"提出，目前尚无可靠方法确保超级AI系统的安全对齐，呼吁采取三项关键行动：要求前沿人工智能开发者提供安全保障、确立可验证的全球性行为红线、推动安全人工智能技术研究。

在7月26日上午的主论坛中，MiniMax创始人、CEO闫俊杰作为AI产业界的代表登台演讲。他分享了在创业过程中对AI的观察，也认同AI会不断变强，且这种增强几乎没有尽头。

闫俊杰 图片来源：视觉中国

"接下来出现的问题是，AI这么强，对社会的影响越来越大，那么AI到底会不会被垄断？它是会被掌握在一家组织里，还是掌握在多家组织里呢？"闫俊杰问道。

在闫俊杰看来，AI一定会被掌握在多家公司的手中。他解释称，一是不同组织会有不同的价值观和目标，导致它们训练的模型在对齐目标上存在差异，从而使模型表现各具特点、长期存在。其次，当前的AI系统通常由多模型和多Agent组成，单一模型的优势在多Agent系统中逐渐减弱。第三，过去一年见证了开源模型的快速涌现，并逐渐逼近闭源模型的性能，许多都并非由大公司主导的。

闫俊杰表示，AI一定会变得越来越普惠，使用成本也会变得更加可控。他观察到，尽管过去一年半以来可使用的算力增加了，AI模型的大小并没有发生特别大的变化。因为各大厂商都在关注模型参数量和智能水平之间的平衡，避免因计算速度过慢影响用户体验。

至于这些增长的算力，则更多地被用在研究、探索和推理优化上。闫俊杰称，研发并不仅依赖算力，还取决于实验设计、研发团队和创意。拥有大量算力的公司与算力较少的公司在训练上的差异可能没有那么大，因为后者可以通过提升实验设计、思考能力和组织效率，让实验探索变得更加高效。

作为"大模型六小龙"之一的AI创企，MiniMax于6月发布了其首个推理模型MiniMax-M1，被视为对标DeepSeek-R1交出的应答。MiniMax-M1模型延续了此前基模的架构创新，在MoE架构的基础上引入了闪电注意力机制（Lightning Attention）。成本方面，在进行8万Token的深度推理时，M1所需的算力仅为DeepSeek-R1的约30%；生成10万token时，推理算力仅需DeepSeek-R1的25%。

在下午的主论坛中，清华系AI算力创企无问芯穹联合创始人、首席科学家戴国浩分享称，在突破算力天花板的过程中，算力效率会成为他们关注的事情。也就是说，从整个价值链条来看，输入价值转化为算力，并最终通过下游应用转化为输出价值时，关键在于输出价值是否能够超越输入价值。

而戴国浩认为，在算力领域，比起单一的"赢家通吃"，最终将趋向于"集各家之所成"的合作模式。他提到，人工智能的目标是模拟人类智能。在人类生理系统中，每一个细胞都在执行不同的功能，正如每家公司在AI技术的不同领域也都有各自的擅长之处。