周鸿祎：发展智能体必须坚持“安全先行”原则

10月23日消息，全国政协委员、360集团创始人周鸿祎发文：

党的二十届四中全会胜利召开，擘画了进一步全面深化改革、推进中国式现代化的宏伟蓝图。全会将发展新质生产力置于突出位置，明确指出要“坚持以科技创新引领新质生产力发展”，“推动科技创新和产业创新深度融合”，并“加快培育具有国际竞争力的新兴支柱产业”。这一系列重要论述，不仅为当前经济工作提供了根本遵循，也为“十五五”时期科技与产业协同发展指明了方向。

作为一名全国政协委员，以及一名扎根科技与安全领域的民营企业家，我倍感振奋，也深感责任重大。当前，以人工智能为代表的新一轮科技革命正从“技术突破”迈向“应用落地”的关键阶段。在这一进程中，智能体作为人工智能发展的新形态，正成为连接科技创新与产业创新的“关键桥梁”，其广泛应用将深刻重塑生产方式、组织形态与安全格局，是发展新质生产力的重要突破口。

四中全会强调“以科技创新推动产业创新”，其核心在于让技术真正“用起来”、让成果真正“落下去”。过去几年，大模型的突破让我们看到了人工智能“大脑”的潜力，但仅有“大脑”还不够，产业需要的是能“动手”的“员工”。这正是智能体的价值所在——它不仅是技术演进的产物，更是打通科技与产业“最后一公里”的关键载体。

当前，大模型推理能力显著提升、模型开源免费、推理算力成本持续下降，三大条件叠加，推动人工智能从“上半场”的模型训练，全面进入“下半场”的应用落地。而应用落地的核心正是智能体。如果说大模型是“大脑”，那么智能体就相当于给大模型装上了“手和脚”。与传统大模型相比，智能体实现了从“被动响应”到“主动执行”的质变，具备四大核心能力：

一是任务分解与自主规划。智能体不再等待用户一步步指令，而是能主动拆解目标，制定执行路径，像人类员工一样“想办法完成任务”。

二是记忆与知识沉淀。通过接入企业知识库与上下文工程，智能体能记住历史对话、任务进度，持续积累经验，实现“越用越聪明”。

三是工具调用。通过接入专业工具（如合同审核、代码生成、数据分析等），智能体可完成大模型无法独立完成的专业工作，真正嵌入业务流程。

四是多智能体协作。多个智能体可像人类团队一样分工合作，共同完成复杂项目，极大提升组织效率。

智能体更深远的影响在于推动组织形态的变革。相对于“软件”，智能体更像“人类”。智能体进入业务流程，从“辅助工具”进化为“数字员工”，逐步承担重复性、规则性工作。未来，每位员工都可能成为“智能体指挥官”，管理数十甚至上百个不眠不休的“数字员工”。当个体能力被智能体放大，人类将从执行者转变为规划者、监督者、决策者与管理者，成为“超级员工”；当整个企业实现人机协同，组织将进化为高效、敏捷的“超级组织”。这不仅是效率的提升，更是生产力结构的重构，完全契合四中全会关于“培育新兴支柱产业”“发展新质生产力”的战略部署。

在拥抱人工智能，特别是智能体带来的巨大机遇的同时，我们必须清醒认识到：人工智能越强大，其伴生的安全风险也越严峻。智能体作为能理解目标、自主规划、调用工具、协同执行的“数字员工”，深度接入企业核心系统，处理敏感数据，执行关键业务流程。一旦被攻击者利用或滥用，其后果不再是单点故障，而可能引发系统性、自动化、大规模的安全危机。

更值得警惕的是，智能体正在颠覆传统的网络攻防格局。过去，高水平的黑客“一将难求”，攻击行为高度依赖个人经验和技能。如今，黑客可以将多年积累的攻击手法、渗透经验、漏洞利用技巧等，全部训练进大模型，打造出“黑客智能体”，可以自动完成一系列攻击任务。而且黑客智能体易于批量复制，只要有算力，便可以复制成千上万个。一个人类黑客可以管理几十个甚至上百个黑客智能体，成为超级黑客，将“人和人”的对抗变成“人和机器”的对抗，进一步加剧网络攻防的不对称性。

因此，发展智能体，必须坚持“安全先行”原则。一方面，应通过“以模制模”的手段，解决大模型的系统安全、内容安全问题，缓解“幻觉”问题，以及防止智能体失控；另一方面，通过构建“安全智能体”，复刻顶尖安全专家的分析逻辑、响应策略和处置经验，实现安全能力的规模化复制与持续在线。企业只要有算力，就可以部署数十个甚至上百个安全智能体，相当于拥有了一个永不疲倦的“虚拟安全专家团队”。这不仅能有效弥补当前网络安全人才严重短缺的短板，更能给安全响应速度带来飞跃。

更重要的是，只有安全智能体才能适应未来“机器对机器、模型对模型”的对抗新局面。它能够实时监测智能体的行为模式，实现告警研判、事件分析、威胁溯源等，这不仅是效率的提升，更是安全能力上“质”的突破，从而确保智能体在安全、向善、可信、可控的轨道上健康发展，真正成为驱动经济社会进步的“智慧引擎”。

人工智能的下半场已经开启，智能体正加速走向产业现实。它既是科技创新的集大成者，也是推动产业创新的关键支点，更是发展新质生产力的重要引擎。我们既要以开放姿态拥抱“超级员工”与“超级组织”带来的效率革命，更要以底线思维筑牢智能化时代的安全防线。唯有坚持“科技向善、安全先行”，统筹推进智能体的技术突破、场景落地与安全治理，才能真正打通科技创新通往产业变革的“最后一公里”，让人工智能不仅跑得快，更能行得稳、走得远，为中国式现代化构筑起智能、高效、可信的数字未来。