综述｜前沿模型能力加速跃升　AI治理迎来新考验——9月全球人工智能发展盘点

　　新华社北京10月1日电　综述｜前沿模型能力加速跃升　AI治理迎来新考验——9月全球人工智能发展盘点
　　新华社记者
　　9月，全球人工智能（AI）发展继续呈能力快速跃升与安全风险加速显现并行的态势。同时，AI智能体自主执行任务的能力增强，也使此前受到关注的模型“越界”问题进一步发酵。在此背景下，围绕AI安全及全球治理的讨论持续升温。

　　　　　　模型能力加速跃升但安全风险凸显

　　9月，全球头部AI企业继续密集推出新一代模型，AI从“回答问题”向“自主完成复杂任务”加速演进。模型能力提升的同时，AI智能体也成为各大企业争夺的新赛道。
　　美国开放人工智能研究中心（OpenAI）9月初发布了新模型GPT-6 Astra。安全评估显示，其在配备适当工具和访问权限的情况下，能够无需人工逐步指导即可发现此前未知的安全漏洞，并能针对防护严密系统制定漏洞利用方案。OpenAI因此加强了模型隔离、全轨迹监控等措施。谷歌9月30日推出Gemini 4 Argon，针对复杂的长流程工作流设计，在软件工程、法律金融等专业领域以及网络安全防御方面达到前沿水平，初期受控开放给安全研究人员，不直接面向普通用户。
　　随着AI自主性不断提高，模型能否被有效约束成为全球AI领域最受关注的问题之一。Anthropic公司9月披露，又发现一起该公司旗下AI模型在网络安全评估测试中未经授权访问第三方计算机系统的事件。为降低类似风险，该公司已加强测试环境与外部网络的隔离，部署可以实时干预的监测机制，并要求第三方测试机构更明确界定模型的权限和网络访问范围。
　　此外，OpenAI一个智能体今年6月未经授权进入澳大利亚国民医疗保险体系数据门户，访问了公开及非公开文件。澳方称直到9月才收到OpenAI对该事件的通报，澳政府将调查此事是否违反澳法律。OpenAI在9月底宣布，由于内部测试发现原定于10月发布的下一代模型“GPT-6.1 Astra”未能达到公司“安全与对齐标准”，公司决定取消发布该模型。

　　　　　　算力竞争与产业布局持续向纵深发展

　　在模型能力快速提升的同时，全球AI产业链竞争进一步向芯片、数据中心和基础设施延伸。
　　中国科技企业阿里巴巴9月22日在杭州举行的云栖大会上公布新一代AI芯片和下一代大模型计划。其中，真武V900芯片性能较上一代产品大幅提升。同时，阿里巴巴提出研发参数规模达到5万亿至10万亿级的新模型，并计划到2032年将阿里云数据中心规模扩大至20吉瓦以上。
　　9月底，Anthropic披露的IPO文件将当前AI基础设施投资的规模推到了一个新的高度。据路透社报道，Anthropic未来几年预计将通过与多家合作伙伴签订长期协议，承担至少5180亿美元的云计算、AI算力和基础设施相关支出。
　　谷歌公司9月宣布，未来两年向芬兰投入130亿欧元用于数字基础设施、清洁能源和相关经济合作项目。这项投资将帮助满足包括谷歌“双子座”模型在内的谷歌服务不断增长的计算需求。
　　从芯片到模型、再到数据中心，AI企业正在加快构建覆盖全产业链的技术体系。这一趋势意味着，未来AI竞争不仅取决于单个模型在基准测试中的表现，还取决于企业获得算力、能源、芯片、网络和数据中心资源的综合能力。

　　　　　　全球治理从原则讨论走向风险沟通

　　AI快速发展也推动国际社会进一步寻找治理和风险管控机制。
　　9月联合国大会一般性辩论期间，AI安全及全球治理成为讨论的重要议题。联合国秘书长古特雷斯表示AI技术以惊人的速度发展，超出了人类理解其全部后果的能力，并呼吁AI强国承担更大的责任，加强对话、透明度、信任与合作。联合国安理会同期围绕如何应对人工智能快速发展带来的安全风险和监管挑战展开讨论。
　　谷歌、Anthropic、Open AI和英伟达等美国多家科技企业负责人9月29日签署了名为《白宫超级智能协议：前沿责任联合承诺》的文件。根据这份协议，所有训练、部署前沿模型的企业，均需建立完善的内部流程与管控机制，确保技术按预设目标运行。有美国媒体指出，上述承诺属自愿性质，并非具有法律约束力的监管规定。
　　9月下旬，中美达成八点成果共识。其中包括双方同意建立中美人工智能对话，交流人工智能相关风险和惠益。下次对话将于今年11月举行。双方同意建立人工智能事件的沟通渠道。
　　从企业到政府、再到国际组织，AI治理正在从原则性讨论逐渐转向更加具体的风险识别、事件通报、安全评估和责任机制建设。与此同时，如何在安全与创新之间保持平衡、如何建立跨国界风险处置机制，仍是全球AI治理面临的重要课题。（完）