全球AI治理新闻No.2 | 11.03-11.10

01

世界互联网大会发布

《为人类共同福祉构建全球人工智能安全与治理体系》报告

11月6日至9日，2025年世界互联网大会乌镇峰会在中国浙江省乌镇举办。11月8日，世界互联网大会乌镇峰会人工智能技术创新与治理论坛发布《为人类共同福祉构建全球人工智能安全与治理体系》报告（以下简称《报告》。

《报告》系统梳理了当前全球人工智能安全与治理体系的探索与实践、应解决的关键问题及其他领域的全球治理多边实践经验；重点围绕机制设计展开分析，探讨如何从人类命运共同体的理念出发，构建具有广泛国际共识的全球人工智能安全与治理体系。

《报告》提出，全球人工智能治理碎片化加剧，构建完善的人工智能安全与治理体系已刻不容缓。当前应着力解决四个关键问题：一是防范应对全球性的安全风险；二是平衡各国的发展能力水平与治理诉求差异；三是协调多利益攸关方来实现有力行动；四是克服在此过程中地缘政治与意识形态带来的障碍和干扰。为此，各方应通过强化风险应对协同机制、深化能力建设合作机制、健全履约审查与监督机制、完善科学研判与决策机制等，整合优化全球安全与治理资源，共同推动构建以联合国为中心的，能够确保安全、确保包容、权责明晰、协调有力、权威高效的全球人工智能安全与治理体系。

新闻来源：中国网信网、光明网

图片来源：光明网

02

特朗普政府明确否认

为AI企业提供担保背书

11月8日，特朗普政府官员明确表示不会为人工智能企业提供任何形式的联邦担保或救助，相关选项未被纳入政府议程。此番表态直接回应了OpenAI首席财务官莎拉·弗里尔本周提出的建议。弗里尔此前建议政府为企业融资担保提供背书。

白宫人工智能与加密货币事务负责人大卫·萨克斯在X平台发文，明确表示不会有联邦层面对人工智能的救助。他解释说，美国目前至少拥有五家主要的前沿大模型公司，市场竞争机制能够自行调节。如果某家公司失败，其他公司将自然填补其位置。

随后，OpenAI首席执行官萨姆·奥尔特曼作出澄清，表示OpenAI既不拥有也不寻求政府对其数据中心的担保。

此次争议的背景是OpenAI承诺投入约1.4万亿美元用于数据中心与芯片建设。鉴于该公司尚未实现盈利，如此巨额投资引发市场对AI泡沫的担忧。

特朗普总统11月8日在白宫表示，他并不担心AI泡沫问题。特朗普总统认为人工智能技术将非常有帮助，代表着未来发展的浪潮，而美国正在这一领域引领世界。

尽管特朗普对AI产业持乐观态度，但在当前通胀压力依然存在的背景下，动用纳税人资金支持科技巨头可能会引发选民不满，这也成为政府拒绝提供联邦担保的重要考量。

新闻来源：Bloomberg

图片来源：Bloomberg

03

有报告称中资AI模型前沿风险

已接近美国产品水平

北京AI安全咨询公司安远AI（Concordia AI）最新研究显示，中国人工智能系统的“前沿风险”（frontier risks）水平正接近美国同类产品，引发业界对AI安全的关注。

前沿风险指AI模型可能危及公共安全和社会稳定的潜在威胁。研究负责人王伟兵介绍，风险评分基于模型在网络攻击、生物风险、化学风险和失控风险四个领域的表现。

该研究评估了50个领先AI模型，发现深度求索（DeepSeek）5月更新的R1模型在网络攻击能力方面风险评分最高。字节跳动的豆包Seed 1.6成为首个在生物协议故障排除上超越人类专家的中国模型，与OpenAI的GPT-5和xAI的Grok 4并列。专家警告，这种能力与潜在的生物武器开发相关。

安远AI的研究显示，过去一年所有模型的风险评分均有上升——失控风险激增50%，生物风险跃升38%。该公司CEO Brian Tse表示，推理模型的普及是风险增加的主要原因。相比之下，OpenAI和Anthropic的模型虽能力提升，但因加强了安全措施，风险水平保持相对较低。

政策层面上，国内监管部门近月来持续关注前沿风险。国家网信办下属机构上月指出AI系统失控风险，中国网络安全法上周修订时首次纳入AI安全和事故报告条款。

新闻来源：南华早报

图片来源：安远AI

04

白宫阻止英伟达向中国

销售缩减版AI芯片B30A

当地时间11月6日，美国科技媒体The Information引述三名知情人士报道，美国白宫已通知其他联邦机构，不会允许美国晶片巨头英伟达向中国出售最新的缩减版人工智能晶片。

据报道，英伟达已向几家中国客户提供了该晶片的样品。报道补充，这款名为B30A的晶片若以集群方式高效部署，可用于训练大型语言模型，这正是许多中国企业所需要的。

The Information并引述两名英伟达员工称，该公司正努力修改B30A的设计，以期美国政府重新考虑其立场。英伟达发言人则告诉路透社，该公司“在中国竞争激烈的数据中心计算市场中份额为零，因此并未将其纳入我们的业绩预期”。白宫尚未回应路透社的置评请求。

此外，报道指出，特朗普政府目前明令禁止英伟达将最先进的Blackwell晶片售往中国。美国财长贝森特在11月4日接受美国消费者新闻与商业频道（CNBC）采访时表示，当这些晶片不再是最顶尖的产品时，或许会允许卖给中国。白宫新闻秘书莱维特同日于记者会上也确认，特朗普政府目前“没有意愿”允许英伟达售卖Blackwell晶片给中国。此前在11月2日，美国总统特朗普表示，全球市值最高的公司（即英伟达）所生产的最尖端晶片必须保留给美国公司，不应让中国和其他国家持有。

新闻来源：联合早报

图片来源：路透社

05

欧盟拟推迟AI法案部分条款实施

据英国《金融时报》11月7日报道，欧盟委员会将在11月19日决定是否暂缓执行人工智能法案部分条款。这一调整主要源于美国政府和大型科技公司的施压，以及提升欧盟自身竞争力的考虑。

欧盟人工智能法案于2024年8月生效，被视为全球最严格的AI监管框架。根据原计划，针对高风险人工智能系统的条款将于2026年8月开始实施。

据英国《金融时报》获得的提案草案显示，欧盟委员会正考虑两项关键调整。第一，为违反高风险AI使用规则的公司提供一年宽限期，让已推出生成式AI系统的企业有时间调整而不扰乱市场。第二，将透明度规则的罚款时间推迟至2027年8月。

一位欧盟高级官员透露，欧盟一直在就这些调整与特朗普政府进行接触。布鲁塞尔方面担心过于严格的执法可能激怒特朗普，引发贸易战或影响对乌克兰的支持。

Meta等美国科技公司此前警告，欧盟的监管方式可能让欧洲与尖端AI服务脱节。这些压力成为推动政策调整的重要因素。

该草案还计划通过欧盟人工智能办公室实现执法集中化，减轻企业合规负担。目前草案仍在内部讨论，可能在正式通过前有所调整。

欧盟委员会发言人表示，正在考虑多种选项，但仍完全支持人工智能法案的目标。提案一旦正式提出，还需获得多数成员国和欧洲议会批准。

新闻来源：FT中文网

图片来源：金融时报

06

印度计划将人工智能教育

推广至8岁及以上学生

据《日经亚洲》11月10日报道，印度计划从2026-2027学年开始，将人工智能教育的目标年龄范围从11岁开始扩大到8岁儿童，以将人工智能作为一项基础的通用技能进行教授。

印度政府近年来重视人工智能教育。2020年，印度将人工智能教育纳入学校课程体系，作为印度《国家教育政策2020》的一部分。根据印度教育部副部长苏坎塔·马宗达（Shri Sukanta Majumdar）2025年8月份在议会的介绍，目前印度在公立学校以及部分私立学校为六年级至八年级（初中）的学生开设15小时的人工智能技能课程，并为九年级至十二年级（高中）的学生开设与人工智能相关的选修课。

印度此次计划进一步扩大人工智能教育的范围，为小学教育中的三至五年级（8至10岁）学生开设人工智能课程。2024-2025学年，该学龄段学生有 6600 万人次，印度预计到 2026 年，接受人工智能教育的学生总数将近2亿。

新闻来源：日经亚洲

图片来源：日经亚洲

07

微软公布新愿景聚焦发展“超级智能”

据《华尔街日报》11月6日报道，微软负责人工智能领域发展的高管提出了新的发展愿景，聚焦发展“超级智能”（superintelligence）。

微软人工智能首席执行官穆斯塔法·苏莱曼（Mustafa Suleyman）在近期的博客文章和采访中介绍了这一愿景。苏莱曼表示，微软正在组建新的超级智能团队，该团队将把人类利益和安全保障放在首位。根据苏莱曼设想，微软计划发展的“超级智能”将具有“极其先进的人工智能能力，始终服务于人类，造福于人”。

微软这一表态与此前OpenAI重组有关。10月28日，OpenAI对外宣称完成重组工作，其非营利实体现更名为OpenAI基金会（OpenAI Foundation），并持有约1300亿美元的营利部门股权。其营利部门则改制为OpenAI Group PBC公司，OpenAI基金会持有26%的股权，员工与投资者合计持有47%股份，微软则作为最大股东掌握27%股权。

在此基础上，苏莱曼肯定了微软与其合作完成的工作，但批评了OpenAI正在发展的通用人工智能（AGI）技术，认为不应将人工智能视为可以拥有类似人类的情感或权利。苏莱曼认为，人们使用人工智能过程中，不应该误以为自己是在与有感知能力的生物对话。

新闻来源：《华尔街日报》、路透社、OpenAI网站、微软网站

图片来源：OpenAI网站

来源 | 全球人工智能创新治理中心

作者 | 王奕博 谢嘉龙