以安全治理护航人工智能发展

来源：滚动播报

（来源：新华日报）

□ 王爱华

当前，我们正站在通用人工智能发展的关键节点。从ChatGPT到DeepSeek，人工智能技术的每一次突破都在深刻改变人类知识的生产模式与配置结构，成为驱动经济增长的关键力量。党的二十届四中全会明确提出“加快高水平科技自立自强，引领发展新质生产力”，为人工智能发展指明了方向。面对历史性机遇，必须以时不我待的紧迫感推动人工智能高速发展，同时以强有力的安全治理为其保驾护航，确保这一战略性技术始终运行在正确轨道上。

人工智能正从“技术工具”向“范式变革”演化，成为能够定义新生产要素、催生新经济形态的“元技术”。在这场科技领域的角逐中，必须抢抓创新窗口期，充分发挥其对经济发展的巨大推动作用。当前，全球主要经济体都在加大人工智能投入，各国竞相布局大模型研发，竞争态势日趋激烈。我国拥有海量数据资源、丰富应用场景和强大算力基础，具备发展人工智能的良好条件。必须抓住这一机遇，加快推进核心技术攻关，培育壮大战略性新兴产业。然而，单纯追求速度可能带来分配失衡风险、创新扭曲风险和安全失控风险。

以人为本、安全可控是人工智能发展的根本价值导向。人工智能发展越是突飞猛进，越需要树立正确价值导向。技术再先进，也必须服务于人的全面发展；速度再迫切，也必须守住安全可控底线。这是以安全治理护航高速发展的根本遵循，也是中国特色人工智能发展道路的本质要求。具体而言，必须在以下几个方面持续发力：

必须将增进人民福祉作为根本目的。人工智能发展成果应由全体人民共享，而非少数人专利。要着力推动人工智能在制造业升级、绿色转型、生物医药、现代农业等实体经济和民生关键领域的深度应用，让技术真正造福于民，解决人民群众急难愁盼问题。在制造业领域，推动智能工厂建设，提升产品质量和生产效率；在医疗领域，发展智能辅助诊断，让优质医疗资源惠及基层；在农业领域，推广智慧农业技术，促进农民增收。对于深度伪造、算法歧视、信息茧房等情况，要实施审慎监管，防止技术异化为损害群众利益的工具，确保发展成果更多更公平地惠及全体人民。

必须将安全可控作为基本前提。随着人工智能向深度推理演进，技术范式正经历从“基于人类反馈的强化学习”向“基于可验证奖励的强化学习”的关键转型。机器自主决策能力显著增强，安全风险随之急剧上升。特别是当强大的开源模型使任何人都能微调或移除安全对齐设置时，“价值滥用”风险激增。恶意使用者可能利用技术实施网络攻击、制造虚假信息、侵犯个人隐私。因此，必须将安全治理贯穿人工智能全生命周期，建立从算法设计、数据训练、模型部署到应用推广的全链条安全监管体系，加大对大模型安全技术的研发投入，提升安全防护与测评能力。

必须将伦理规范作为重要保障。人工智能发展涉及复杂的伦理问题，包括数据隐私保护、算法公平透明、人机关系界定、知识产权归属等。现代技术发展日益数据化、智能化、网络化、虚拟化，难以对算法产出的结果进行有效监督，技术公司背后的资本盈利需求可能使其过分强调商业价值而忽略风险。要加快建立符合中国国情的人工智能伦理准则，将社会主义核心价值观融入技术发展全过程，明确技术应用的道德边界和行为规范，引导企业和科研机构开展负责任的创新。同时，积极参与全球人工智能治理，在联合国等多边平台推动建立公平合理的国际规则，为构建人类命运共同体贡献中国智慧。

必须完善治理体系，以科学机制保障高速发展。驾驭人工智能这一“双刃剑”，关键在于构建一套既能激发高速增长动能，又能防范化解风险的适应性治理体系。要以强有力的安全治理为高速发展清障护航，实现发展与安全的动态统一。

首先，要发挥市场激励作用，引导企业负责任创新。实施差异化财税与采购政策，对服务于制造业升级、绿色转型、民生改善的AI应用给予税收优惠和政府采购支持，鼓励企业优先服务实体经济和民生需求。探索在重点企业中试点引入“社会董事”或伦理委员会，将长期安全与社会效益内化为公司治理目标，调和短期商业利益与长期公共福祉，推动企业从单纯追求利润向兼顾社会责任转变。同时，完善知识产权保护制度，健全数据要素市场化配置机制，建立合理的数据收益分配制度，让企业创新有动力、有回报，在规范轨道上实现高速发展。

其次，要构建敏捷包容的监管体系，提升风险防控能力。建立国家级大模型安全科技平台，规范人工智能科学家行为，加强对大模型安全技术的研发，提升安全防护与测评能力，形成自主可控的安全技术体系。在自动驾驶、智慧医疗等前沿领域，大力推广“监管沙盒”等敏捷治理工具，允许在可控环境中先行先试，通过实验性监管进行试错与管理，识别和缓解潜在风险，推动监管规则随实践反馈动态优化。建立风险预警和应急响应机制，对可能出现的问题早发现、早处置，掌握工作主动权，实现“在发展中规范，在规范中发展”。

再次，要夯实社会韧性基础，营造包容审慎发展环境。人工智能带来的结构性调整不可避免，部分传统岗位可能被替代，新的就业形态不断涌现，关键是要做好社会保障和转岗培训，完善终身职业技能培训制度，帮助受影响的群体实现平稳过渡，提升劳动者适应新技术变革的能力。加强人工智能科普宣传，消除公众对技术的恐惧心理和认知偏差，提升全民数字素养，消除“数字鸿沟”，让每个人都能适应并受益于技术进步。同时，完善法律法规，建立算法备案、安全评估、信息披露等制度，为AI高速发展营造法治化环境，确保技术向善、应用为民。

最后，要深化全球治理合作，推动共建共享安全成果。人工智能安全是全球性挑战，中国作为负责任大国，应积极参与国际人工智能治理进程，倡导“发展优先、普惠包容”的治理理念，建立具有中国特色的大模型伦理标准和人工智能法律框架，走在人工智能治理前列。推动建立跨文明对话机制，在国际层面推动形成具体议题的务实合作框架。通过多边协作推动AI伦理准则与技术标准的协调互认，支持在联合国等多边平台共建开放、安全的人工智能开源社区与基准测试平台，促进安全对齐技术的全球共享，确保人工智能高速发展符合人类根本价值。

（作者单位：南京财经大学经济学院；本文系国家社会科学基金重大项目“科技创新对就业友好型产业结构的影响及对策研究”〈25&ZD275〉阶段性成果）