黄殿中院士 | 智能向善：对智能时代发展与安全的思考

扫码订阅《中国信息安全》

邮发代号 2-786

征订热线：010-82341063

文 | 中国工程院院士 黄殿中

今年4月，习近平主席在上海考察时强调，人工智能（AI）技术加速迭代，正迎来爆发式发展。7月，李强总理在上海人工智能大会开幕式上再次强调“要确保人工智能安全、可靠、可控”。世界人工智能大会的连续成功举办让我们看到，作为我国改革开放的窗口和科技创新的高地，上海正以国际视野和先行者姿态，汇聚全球智慧，引领全球人工智能发展新浪潮。今天，我们共聚黄浦江畔，我将以“智能向善”为锚点，从智能之变-发展重塑、智能之危-风险升级、智能之解-智能向善三个方面，与大家共同探讨智能时代的发展、安全与治理问题，探寻破局之道。

一、智能之变—发展重塑

在产业需求和通用基础设施建设双轮驱动下，人工智能发展已进入全新阶段，重塑创新模式、产业形态和竞争范式。

（一）人工智能重塑创新模式

大模型技术正从内容生成工具进化为具备复杂问题分析与推理能力的智能引擎，以季度级迭代速度实现全域渗透，驱动创新范式变革。

一是智能本质是从工具革命到思维革命的跃升。人工智能的发展正在引发人类认知方式的根本性变革。早期AI主要解决图像识别、数值计算等特定领域问题，如今AI已能攻克困扰人类数十年的复杂科学难题。这种进化就像人类从思考“如何骑车从香港到上海”，转变为设计“火箭与空间站对接方案”。

二是创新范式已从经验驱动到智能驱动的转变。人工智能正在重构科学研究的底层方法论，推动科研模式实现三大转变：从依赖专家经验的试错式研究，转向数据驱动的系统性探索；从单一学科纵深突破，转向多模态模型协同创新；从人工主导的渐进式发展，转向智能加速的突破性进展。

三是生态演进已实现从技术突破到系统重构的升级。人工智能的创新效应正在形成链式反应。在技术层，大模型持续突破认知边界；在产业层，AI渗透率已覆盖90%以上的国民经济门类；在社会层，智能技术正在重塑教育、医疗、城市治理等公共服务形态。这种系统性的范式迁移，标志着人类文明正进入智能驱动的新纪元。

（二）人工智能重塑产业形态

人工智能引发全球产业体系的深刻变革，AI不仅优化了现有生产要素配置效率，更创造了全新的价值创造范式，推动人类经济活动向更广阔的空间拓展。

一是传统产业效能全面提升。人工智能正在重塑传统产业的价值链条，实现从单点效率提升到全要素智能化转型的跨越。例如，在农业领域，通过无人机遥感监测农作物病虫害以及卫星遥感产量预测等变革打破了“靠天吃饭”的传统模式，标志着AI开始在某些专业领域超越人类专家水平。

二是新兴业态爆点加速突破。以具身智能为代表的新兴业态，正在构建“感知—决策—执行”的完整智能闭环。科技巨头战略布局呈现三大特征：平台化，如微软、谷歌低代码平台降低智能体创建门槛；垂直整合，如西门子、英伟达将AI嵌入制造全流程；场景多元化，智能体从代码生成到智能分析与推理。

三是就业结构生态不断优化。AI对劳动力市场的影响呈现辩证特征：一方面，麦肯锡研究表明，常规性工作岗位面临转型压力；另一方面，山姆·奥特曼预言的“AI增强型职位”正在兴起。这种变革要求我们重新思考人才培养体系，重点培育人类特有的创造力、复杂决策和情感智能等优势能力。

（三）人工智能重塑竞争范式

在这场关乎未来世界秩序的变革中，技术领先与政策保障的叠加效应正在重新定义国家实力，全球AI治理体系面临深刻重构。

一是美国以技术压制与制度围堵双轨并行“争头筹”。美国通过“对内松监管促创新、对外严管控保优势”的双重策略巩固AI领导地位。美国通过发散式研发模式在去年产出40余个顶尖大模型，构建通用智能生态，同时依托科技巨头软硬件优势主导全球产业标准。

二是中国兼顾自主创新与开放合作双向突破“促发展”。我国构建“技术攻关”“生态培育”“全球治理”的立体化发展体系。华为昇腾芯片的动态量化等技术突破增强自主能力；昇思等框架社区壮大，完善开发者生态；发布《全球治理行动计划》，倡议设立世界人工智能合作组织，推动技术普惠共享。

三是多国多元主体参与全球竞合力促“秩序重构”。欧盟在2024年建立全球首个AI伦理认证体系。新加坡打造“可信AI”国际枢纽。这种多极化发展态势表明，各国依据自身禀赋选择差异化发展路径，共同塑造着智能时代的国际新秩序。

二、智能之危—风险升级

全面精准辨识安全风险是保障人工智能高质量发展的根本前提。当前，智能风险已形成认知安全、网络安全和伦理安全三大威胁矩阵，亟需构建全球协同的治理体系。

（一）认知安全危机

人工智能正逐步主导人类信息传播和知识构建，通过算法偏见、信息茧房及深度伪造等技术重塑认知规则，引发真相重构与共识瓦解等认知安全危机。

一是推动政治操纵呈现新形态。在2024年欧洲议会选举期间，AI生成的虚假信息活动达400余起，72%的欧盟公民对选举公正性产生质疑。虚假信息已经成为混合战的重要武器。

二是推动社会撕裂扩大叠加。在印巴冲突期间，双方几乎同时将社交媒体、新闻媒体及人工智能生成技术武器化，操控国内外公众对冲突的理解和情感。美国斯坦福大学研究显示，AI内容可使群体极化程度提升40%，社会信任度下降25%。

三是推动操作认知成为对抗工具。ChatGPT等大模型的文化价值观输出引发多国警惕。法国文化部调查发现，使用英语AI服务的青少年对本国文化认同度降低15%，迫使欧盟加速推进多语言大模型建设。

（二）网络安全跃变

一是攻击智能化已成常态。暗网黑产大语言模型出售愈演愈烈，经过恶意软件数据训练，这类模型可用于生产复杂的钓鱼邮件、攻击代码和黑客工具。2025年，全球74%的企业遭遇AI驱动的钓鱼攻击，成功率较传统手段提升5倍。

二是网络战军事应用竞赛加剧。特朗普签署的《大而美法案》授权50亿美元用于AI网络战研发, 加强人工智能的网络空间作战应用。北约成立AI防御联盟，开发可自动识别并反击网络攻击的智能系统，或将引发新一轮军备竞赛。

三是关键基础设施风险高发。2025年5月，巴基斯坦军方宣布启动代号“铜墙铁壁”的军事行动，对印度发起大规模网络攻击，导致印度约70%电网瘫痪。研究表明，AI可使基础设施攻击效率提升80%，防御成本增加300%。

（三）伦理安全威胁

一是自主武器伦理困境。联合国报告显示，已有17个国家研发致命性自主武器系统。俄罗斯"标记"战斗机器人配备AI决策模块，可在无人干预下选择攻击目标。

二是人机安全边界模糊。脑机接口技术面临新型劫持风险，马斯克Neuralink的实验显示，恶意AI可篡改30%的神经信号。生物智能融合带来前所未有的安全挑战。

三是智能驾驶伦理争议。智能辅助驾驶技术在推广过程中，其能力的边界和局限性常未被用户充分认知，导致过度依赖与关键时刻不当干预并存，引发严重伦理与责任困境。

三、智能之解—智能向善

当前，人工智能的进化速度已远超我们的想象。大模型突破认知极限，生成式AI重构创意边界，智能医疗攻克不治之症，绿色科技重塑地球未来。然而，技术的光芒之下，暗流同样汹涌。算法偏见正在加剧社会割裂，深度伪造模糊真实与虚假的边界，超级智能的“黑箱”可能脱离人类掌控。“AI教父”杰弗里.辛顿在2025世界人工智能大会上指出，人类创造AI如同饲养幼虎，初期无害，但成长后可能反噬创造者。我们创造的智能，是否会成为人类命运的“潘多拉魔盒”？这不是危言耸听，而是必须面对的生存命题！在碳基生命与硅基智能深度融合的过程中，硅基智能的算法尚未自发理解善恶与意义。因此，在这技术狂飙突进的时代，我们比任何时候都需要人文精神的灯塔。人工智能的未来发展，是科技与文化的交融，是物质与精神的结合。科技能决定人类的奔跑速度。那么，什么决定我们的奔跑方向呢？是美、是爱、是文明、是智能向善。

（一）创新驱动，技术向善

在人工智能迅猛发展的浪潮中，创新是引领技术向善的关键。从光合作用的智能模拟，到蛋白质结构解析，创新技术正以前所未有的速度改变我们的生产生活。AlphaFold2只用1年时间就预测完成人类需要几万年才能研究清楚所有蛋白质折叠结构。药物的研发从以年为单位，变成以周为单位。这些创新让我们感受到了技术向善的力量，推动着智能技术不断突破边界，为人类带来更多福祉。

例如，当无人机编队抵达四川筠连县上空快速侦查泥石流灾害现场、定位掩埋人员时，技术的道德向量已然显现。DeepMind开放的蛋白质结构数据库，恰如数字时代的《千金方》，证明顶尖算法不仅能创造商业价值，更能成为照亮生命奥秘的火炬。这些创新者正以代码为斧锤，正在技术的无人区凿出向善的标识。

（二）包容并蓄，价值向善

人工智能的向善之路，必须以包容并蓄为基石。唯有广泛吸纳多元视角、需求与智慧，确保技术发展真正惠及全体人类，避免技术歧视和数字鸿沟，让技术进步始终服务于人的尊严、平等与共同繁荣，才能实现深层次、可持续的价值向善。

在广袤农村，农民朋友通过AI语音助手获取精准灌溉建议，算法抹平了知识鸿沟；上海华山医院的残障患者，通过脑机接口用意念送上新年祝福“2025新年快乐”。如今，算法正在重构文明对话的语法。这种包容不是技术施舍，而是让每个群体的生命经验都成为塑造智能世界的源代码。

（三）文化引领，本性向善

儒家的仁爱之道，道家的自然和谐，法家的法治精神，构成了理解世界与安顿人心的东方范式。与源自古希腊理性、文艺复兴人文精神以及启蒙运动科学理念的西方文明传统，共同构成了多元的人类精神版图。我们要将东西方文化的优秀的道德伦理等内容注入智能技术发展中去，以文化引领智能发展的方向。

在技术治理领域，孟子的民本思想在当代转化为“以人民为中心”的发展理念；西方理性主义传统推动着可解释AI的技术攻关。这些充分证明人性的温度不会湮灭于代码之海，反而能在人机共生的土壤中开出新蕊。另外，我们要充分挖掘和弘扬东西方传统文化中关于人性、道德、伦理等方面的智慧，为智能技术注入更多人文关怀。

（四）全球共治，协同向善

全球共治，协同向善，是智能时代国际合作的必然要求。联合国安理会历史性通过《全球人工智能安全治理框架决议》，首次将人工智能军事应用等议题纳入全球治理体系；亚马逊雨林深处，土著部落与卫星AI共同守护地球之肺。当前，智能技术的发展已经超越了国界和地域的限制，成为全球性的议题。

在新冠大流行期间，中美疫苗研发机构共享AI预测模型，突破专利壁垒的生命协作，为智能时代的治理提供了范式。这些实践昭示着，人类需要的不是争夺霸权的输油管道，而是共同点亮文明星空的能量网。

站在文明史的维度回望，火种的驯化用了百万年，文字的规范历经千年，电力的普及耗费百年，而智能革命正重塑世界。一边是智能将取代人类的恐惧，一边是智能赋能人类创造力、效率与认知能力的惊喜。问题的关键，在于我们如何让人工智能技术在智能向善引导下安全可控地发展。当硅基智能遇见碳基灵性，我们终将明白，技术的使命不单只是创造更强大的机器，而且还要锻造更完整的人类。这或许就是智能向善最深层的隐喻——在算法与灵魂的共振中，书写属于全体地球文明的人类群星闪耀时。

（本文系作者在2025第四届北外滩网络安全论坛暨网数智安全前沿科技与装备展上的讲话）

分享网络安全知识 强化网络安全意识

欢迎关注《中国信息安全》杂志官方抖音号

《中国信息安全》杂志倾力推荐

“企业成长计划”

点击下图 了解详情