科技部副部长吴朝晖：坚持智能向善，继续深化AI安全治理

“中国政府高度重视的人工智能发展，始终将促进人工智能和经济社会融合发展作为重要的发展目标。”3月24日，由国务院发展研究中心主办的中国发展高层论坛2024年年会在京举行，科技部副部长吴朝晖出席人工智能发展与治理专题研讨会，并作主题发言。

图据中国发展高层论坛。

会上，吴朝晖介绍了当前人工智能发展的现状及未来趋势。他提到，当前人工智能正处于群体性技术变革的起点，重大成果不断涌现，在全方位推动经济社会发展的同时，也孕育着新的重大变革。

一个明显的发展趋势是，人工智能正在迈向多智能融合的新阶段。吴朝晖表示，以ChatGPT和Sora为代表的大模型技术的重大突破，拉开了迈向通用人工智能的序幕，掀起了这一轮的研发热潮。

“大模型已成为主流技术路线，并加快迭代演进。基础语言大模型技术的出现、突破性的升级、全新的深度网络架构相继涌现，多模态大模型成为当前模型研究的主攻方向，多技术路径的交叉融合，加速了通用人工智能的到来。”他说。

与此同时，人工智能创新的商业模式和经济形态，正在以前所未有的速度影响和渗透到各行各业，构建起数据驱动、人机协同、跨界融合、共创分享的智能经济形态，形成新的经济增长点。人工智能与生物制造、脑科学、文化创意等领域的交叉汇聚，有望打造颠覆性的产品，加速未来产业的发展。

具体到应用场景，吴朝晖表示，人工智能将广泛的应用教育、医疗、护理、家政等领域。随着智能化水平的提升，服务机器人将走进千家万户，大模型技术在医疗领域的推广应用，也将加快实现个性化、专属化的数字医院愿景。

但不容忽视的是，人工智能的大规模跨界应用带来了多重安全风险与挑战。吴朝晖提到，对人工智能产品的误用和滥用，可能会带来价值扭曲和情感依赖、破坏公平正义，进而引发深层次的伦理道德问题。

如何与人工智能更好地共存，已成为全球、全社会共同面对的重大挑战。对此吴朝晖建议，要坚持“智能向善”原则，确保人工智能处于安全可控的状态。同时要持续深化人工智能安全治理，积极地做好风险防范，加强人工智能数据安全、隐私保护等工作，加快构建包容审慎的治理机制，完善人工智能伦理规范。

吴朝晖表示，中国政府始终坚持发展和安全并重的理念，发布实施了《新一代人工智能伦理规范》，积极支持行业、企业探索治理的实践，鼓励企业设立人工智能伦理委员会，同时也在加快推动人工智能立法研究，推出人工智能领域的相关管理办法。

在国际合作方面，中国于2023年10月面向国际社会提出《全球人工智能治理倡议》，呼吁各国应在人工智能治理中加强信息交流和技术合作，共同做好风险防范，形成具有广泛共识的人工智能治理框架和标准规范。

吴朝晖还提到，中国积极参与联合国教科文组织、联合国高级别人工智能咨询机构等国际组织的人工智能伦理治理工作，并推动联合国大会通过了首个关于人工智能的决议。

据南都记者了解，3月21日，联合国大会通过了一项具有里程碑意义的决议，呼吁抓住安全、可靠和值得信赖的人工智能系统带来的机遇，促进可持续发展。这项决议草案由美国发起，得到中国等120多个联合国会员国的共同提案或支持。

吴朝晖表示，中国希望与世界各国携手合作，搭建起多层次的人工智能治理合作平台与机制，以形成具有广泛共识的国际治理规则。在奔向通用人工智能浩瀚征途中，共享创新成果，共管风险与挑战，共赢美好未来。

采写：南都记者 陈秋圆 李玲 发自北京