中国人工智能发展与安全研究网络在巴黎人工智能行动峰会期间成功举办专题边会

2025

巴黎人工智能行动峰会

2025年2月11日，在“2025巴黎人工智能行动峰会”期间，由中国人工智能发展与安全研究网络主办，上海期智研究院、清华大学人工智能国际治理研究院承办，多家网络成员单位共同支持的官方边会同期举行。边会以“人工智能技术及其应用进展”为主题，汇聚来自全球人工智能领域的顶级专家学者，旨在共同探讨如何利用国际合作平台，缩小智能鸿沟，确保所有国家都能从人工智能的快速发展中受益，并期望推动建立一个开放包容、互利共赢的人工智能国际治理体系，共同迎接未来发展的机遇与挑战。

“人工智能技术及其应用进展”专题边会为期一天，邀请来自世界各国人工智能领域的专家学者60余人出席并参与研讨，现场注册参会人数超过150人，CGTN，欧洲时报，凤凰网，新浪微博，搜狐科技等媒体对公开论坛进行了直播，超过14万观众在线参会。来自清华大学、北京大学、加州大学伯克利分校、牛津大学、剑桥大学，麻省理工学院、耶鲁大学等高校，中国科学院、中国信通院、中国电子信息产业发展研究院、北京智源人工智能研究院、上海人工智能实验室、上海期智研究院，卡内基国际和平基金会、布鲁金斯学会，未来生命研究所、国际治理创新中心、前沿模型论坛等国内外科研机构和研究智库的资深专家，就如何开展人工智能治理国际合作进行了深入交流与研讨，论坛取得圆满成功，受到国内外专家和听众高度评价。

与会嘉宾包括图灵奖得主、清华大学交叉信息研究院、人工智能学院院长姚期智，清华大学文科资深教授、人工智能国际治理研究院院长薛澜，清华大学法学院教授、智能法治研究院院长申卫星，清华大学计算机系教授唐杰，中国工业和信息化部人工智能场景化应用与智能系统测评重点实验室主任胡国栋，中国信息通信研究院副院长、中国一金砖国家人工智能发展与合作中心副主任、国际电信联盟标准化局第十七研究组副主席魏亮，麻省理工学院教授、生命未来研究所所长马克斯·泰格马克（Max Tegmark），国际治理创新中心全球人工智能风险倡议执行主任邓肯·卡斯-贝格斯（Duncan Cass-Beggs）等。

薛澜主持会议并介绍到，为践行2023年中国发布的《全球人工智能治理倡议》，“中国人工智能发展与安全研究网络”凝聚中国人工智能发展和安全领域的优势力量和智力资源，对应“人工智能安全研究所”，代表中方与各国的人工智能安全研究机构展开对话与合作。以2024年中法关于人工智能和全球治理的联合声明为背景，此次会议将着力于增进各方对中国人工智能发展与安全治理的了解，并期待倾听和增进其他国家对这一领域发展建设的见解，助力全球人工智能发展与治理的合作。

姚期智在主旨报告中指出，人工智能技术以惊人的速度发展，如近期DeepSeek引领了低成本开发使用大模型的革新，这既为驱动新的创新提供了更多可能，也带来了诸多风险挑战，而在互联互通时代，加强国际合作至关重要。当前，人工智能安全的全球合作基础良好并取得重大进展，特别是在中国，相关研究蓬勃兴起，研究队伍不断壮大，一批国际合作基础设施和网络平台正在形成，国际科学界已经达成共识。最后，姚期智强调，科学创新由人类创造，为人类美好未来而服务，我们要一起努力，共同营造人工智能发展的良好环境，使人工智能增进人类福祉。

申卫星在发言中指出，中国已形成人工智能立法的多层综合结构。在定位上，中国人工智能立法力求在创新与监管之间取得平衡，确保法律的明确性，促进行业发展，并与现有法律保持一致。在内容上，中国人工智能立法需廓清人工智能的定义，囊括人工智能法基本原则，建立同AI分级风险相协调的自我规制机制、风险管理机制、透明机制与损害救济机制。中国也将在《全球人工智能治理倡议》指引下，加强国际合作，共同推动公平、公正的全球人工智能治理规则制定，以增强AI 系统的安全可靠性，促进技术创新和包容性发展。

唐杰在发言中提出大模型研究的终极目标是教会机器像人一样思考（即AGI），该目标可能很长远也可能很快实现。在“AGI定义”问题上，他由低到高给出了包括预训练语言模型、对齐与推理、自我学习、自我认知以及意识的AGI五层次定义，并认为当前处于第二与三层交汇处；在2025AGI发展趋势上，他提出自主的、具有代理能力的大型语言模型将成为日常生活和工作的核心，人类与代理之间的协作潜力将成为变革性的力量，而最具有突破性的变化将发生在科学研究领域；在“AGI安全”问题上，他提出需要在模型、个人和国家层面制定全面的安全策略。最后，他认为AGI的路还很长，需要共同努力，实现安全、可控、无幻觉的稳步发展。

胡国栋在发言中提出在从大语言模型到大世界模型、从人工的智能到智能体的智能发展历程中，需要向善为民的人工智能来增进人民福祉、服务经济社会。他介绍了人工智能系统在中国农业、工商业、消费与医疗等场景中的应用与成效，人工智能给农业带来了希望，将工商业带入了数智融合世界，为消费者创造了新场景，让医生治愈了更多病人。在人人生而平等的基础上，AI应该服务于各国人民，由他们共治和共享。

魏亮在发言中介绍，中国充分发挥产业优势，推动人工智能技术创新和与实体经济深度融合，在人工智能安全治理标准化和产业实践方面做出了有益探索。在安全治理标准化方面，先后发布《新一代人工智能发展规划》（2017）、《国家人工智能产业综合标准化体系建设指南》（2024），《人工智能安全标准体系1.0》（征求意见稿），成立工信部人工智能标准化技术委员会，并在ISO、ITU、IEEE等国际标准化组织中贡献力量。产业界积极响应、主动作为，先后发布《人工智能安全承诺》，《人工智能风险治理报告》,发起大模型安全基准测试等，在人工智能安全治理方面开展了大量创新探索。

邓肯·卡斯-贝格斯（Duncan Cass-Beggs）在发言中指出，联合国可在促进人工智能发展、推动人工智能赋能可持续发展等问题上发挥重要作用。但联合国的作用有着一定的局限性，应当针对不同场景和问题采取不同的国际治理机制。前沿人工智能失控等极端风险，更加依赖掌握前沿技术的国家之间进行协调；而深度伪造、虚假信息等一般性的人工智能风险，则更加依赖国内治理。各国政府应利用外交政策来共同设计国际合作机制，因为国家间合作将对公民福祉产生更大影响。构建人工智能安全研究所的全球网络，将是实现人工智能安全治理的关键所在，可以在此基础上推动建立更加广泛的全球人工智能治理框架。

马克斯·泰格马克（Max TegMark）关注先进人工智能技术的安全风险与控制问题。他认为，当前世界大国与大型科技公司热衷于推动通用人工智能（AGI）的实现，但却忽略对其控制机制的研究。为先进人工智能技术建造安全“护栏”是必要的，能避免失控技术引发极端、生存性风险。为此，有必要推动企业与政府之间的合作，借鉴现有监管模式如药品管理、核设施管理的经验，在部署强大的人工智能系统之前，应当通过安全标准审查和控制机制保障其安全可靠。同时，应该倡导全球合作讨论，确保AI技术的发展符合人类利益和价值观。

专家报告

在问答环节，听众提出如何加强全球在人工智能治理上的协调与合作，如何确保发展中国家的参与，以及如何应对各国在发展和认知上的差异等问题。对此，姚期智提出，要建立发展中国家与发达国家、与拥有先进AI技术与能力国家间的对话机制，通过学术交流将发展中国家的学生或学者送到技术发达地区学习。同时他呼吁，媒体应更多地传递第三世界国家的声音。邓肯·卡斯-贝格斯（Duncan Cass-Beggs）提到人工智能的发展应从竞争转向合作，应该通过国际合作来实现安全与创新的平衡。申卫星介绍到，中国在起草相关法律过程中，始终关注如何平衡安全和发展的这个关键问题。他认为，关注安全是为了去创造有利于创新和发展的环境，而不是把安全作为牺牲发展的借口。胡国栋提及2021年奥运会新增加的“更团结（Together）”概念，AI全球治理也应遵循这一精神。在追求更快、更强计算能力的同时，应该通过更加团结的合作，实现安全治理目标。马克斯·泰格马克（Max TegMark）也认为人们应该重拾奥林匹克精神，去重新思考人类与机器的未来关系，人工智能发展不应以国家间的“输赢”来衡量，技术应超越国界。

会议现场

在中国政府的支持下，中国重要的人工智能研究机构 ，凝聚中国人工智能发展和安全领域的优势力量和智力资源，共同组建了“中国人工智能发展与安全研究网络”，对应“人工智能安全研究所”，代表中方与各国人工智能安全研究机构展开对话与合作。网络成员单位包括清华大学、北京大学、中国科学院、中国信息通信研究院、中国电子信息产业发展研究院、北京智源人工智能研究院、上海人工智能实验室、上海期智研究院等。

2025

边会议程及介绍

人工智能治理关乎全人类的未来，需要世界各国的共同关注与参与。中国人工智能发展与安全研究网络是一个汇聚中国顶尖人工智能机构的合作平台，成员包括清华大学、北京大学、中国信息通信研究院、北京智源人工智能研究院、上海人工智能实验室、中国科学院自动化研究所、中国电子信息产业发展研究院、上海期智研究院 等领先研究机构。作为中国的人工智能安全研究机构，将致力于推动人工智能发展与安全领域的国际对话与合作。

联系邮箱：contact@cnaisi.cn

官方网站：cnaisi.cn

清华大学人工智能国际治理研究院（Institute for AI International Governance, Tsinghua University，THU I-AIIG）是2020年4月由清华大学成立的校级科研机构。依托清华大学在人工智能与国际治理方面的已有积累和跨学科优势，研究院面向人工智能国际治理重大理论问题及政策需求开展研究，致力于提升清华在该领域的全球学术影响力和政策引领作用，为中国积极参与人工智能国际治理提供智力支撑。

新浪微博：@清华大学人工智能国际治理研究院

微信视频号：THU-AIIG

Bilibili：清华大学AIIG