网易首页 > 网易号 > 正文 申请入驻

瞭望·瞭望访谈 | 破局智能体安全挑战——专访360集团创始人周鸿祎

0
分享至

  “人类通过不断学习,培养能够指挥、管理和校正智能体的‘硅基领导力’,才能在比人更聪明的AI前保持判断力和想象力。”

  人类必须保留最终判断权、监督权与干预权,确保AI始终处于人类控制之下

  文 |《瞭望》新闻周刊记者 乐艳娜

  2026年,人工智能(AI)迎来飞速发展阶段,AI不再只是被动执行指令的工具,正在“进化”为能够自主调用工具、闭环完成复杂任务的智能体。

  技术裂变带来巨大红利,新型风险也快速放大:AI显著降低了技术门槛,网络攻击呈现泛化趋势,国家关键信息基础设施面对前所未有的威胁;当智能体能够直接操控业务系统,攻击边界从外部网络深入组织内部,潜藏风险可能加倍放大。

  如何把握AI发展的历史机遇,守住安全红线,做到发展与安全双轮并重,关乎国家安全、全球治理、人类长远未来。作为网络安全公司,360集团深耕AI落地实践与网络安全领域,提出“以模治模”理念,“人类通过不断学习,培养能够指挥、管理和校正智能体的‘硅基领导力’,才能在比人更聪明的AI前保持判断力和想象力。”360集团创始人周鸿祎告诉记者。

  人类需要开拓“硅基领导力”

  《瞭望》:你对AI行业发展进行的预判,哪些正在得到验证?

  周鸿祎:我们对两方面的预判比较有前瞻性:一是智能体成为AI落地主角,智能体应用走进千行百业,深入生产和业务系统,行业竞争焦点从参数比拼转向落地能力比拼。二是推理算力需求爆发,人们使用智能体完成复杂行业任务或需求时,需要多次调用大模型进行推理,算力消耗巨大,推理算力使用规模、增速全面超越大模型训练所需算力。

  《瞭望》:360集团从年初就开始智能体实战练兵,成效如何?

  周鸿祎:我们全员用AI、训练智能体。我们最初没意识到AI是重构组织的契机,公司的工作流程和岗位定义仍沿用AI出现前的逻辑,个人业务处理效率或能因使用AI提高30%至50%,但组织整体工作效率没有显著提升。此外,早期一些尝试把Token消耗量当作使用活跃度的参考,浪费了很多算力。

  整体训练过程我们收获很多。全员通过实战练兵完成对AI的实操培训,并总结出一条重要经验:企业引入AI时,不应设想用AI处理所有业务,而应挑选适合用AI改造的业务试点。我们选了两个业务:一是安全业务,360安全防御系统每天会发现和抵御大量网络攻击,使用智能体可以帮助安全专家应对上述挑战;二是产品研发,使用我们打造的守规矩、守纪律、能保持确定性的智能体体系,一个10人小队用三周时间开发了过去100人团队需半年才能生产的产品,并实现了编码、测试、交付流程的全自动化。

  过去我们认为AI会淘汰程序员。实践后,我们发现程序员依然重要,其主要精力从写代码和做测试这类重复性工作中,转而从事两类新工作:一是给AI提要求;二是给AI的成果定标准。能转型的程序员不仅不会被淘汰,还会在与AI协作过程中成长为“超级个体”。

  从“超级个体”到“超级组织”,关键不是提升单点效率,而在于对岗位定位与业务流程进行系统性重构。通过压缩冗余环节、打造高效闭环,使AI深度嵌入全流程运作,人员仅承担指令下达与结果验收职能,释放AI对组织整体运行效率的提升效能。

  让安全的最后一道闸掌握在人类手中

  《瞭望》:当个人拥有多个智能体后,网络安全攻防形势会发生什么变化?

  周鸿祎:AI已重塑网络安全的游戏规则。过去漏洞很难被发现,因此攻击频率较低,攻防能勉强维持平衡。但现在智能体可以批量、自动化、低成本、快速发现漏洞,如果没有具备对等能力的智能体基础设施,信息系统将处处是漏洞、处处可攻击,面临更大威胁。

  现在,对编程一无所知的人在智能体帮助下也可以对信息系统发动攻击。黑客智能体可以批量自我复制,甚至相互“交流经验”。常规人力防御不足以应对这种情况。政府、企业、基础设施引入智能体后,由智能体操纵业务系统,有可能产生新的安全风险。

  发展要与安全双轮驱动。安全要面向未来,具有前瞻性,如果等事故发生后再做补救,这样的盾难以防御别人的矛。

  《瞭望》:怎么做才能让安全的最后一道闸掌握在人类手中?

  周鸿祎:智能体越聪明,越不可控、越具有不确定性,它会产生自己的“想法”,此时就需要“以模治模”,即搜集智能体的行为日志、推理日志,打造另一个安全大模型和安全智能体对此进行分析、判断,对它可能的失控行为预判。安全大模型和安全智能体会向人类报告上述预判,由人进行最终决策。人类必须保留最终判断权、监督权与干预权,确保AI始终处于人类控制之下。


在北京举办的第十四届互联网安全大会上,360 集团工作人员与机器人互动(2026 年 6 月摄) 受访者供图

  在开源大模型技术基础上融入安全治理的能力

  《瞭望》:在人工智能安全治理上,你认为需要强调的原则是什么?

  周鸿祎:面对AI可能引发的安全问题,一些美国AI巨头掌握先发优势,多次以安全为由,要求停止AI开发,这背后可能主要有两个原因:一是他们掌握了核心技术,不希望别人也掌握此类技术;二是中国开源人工智能的发展带来了技术普惠,有可能推动实现对美反超,这是他们不希望看到的。

  我认为开源是解决安全问题的最好手段。当技术掌握在少数人手中时,如果这部分人拒绝解决安全问题,会带来隐患。防范智能体带来的社会风险,不是把模型“锁”起来,而要强调以人为本、智能向善,安全与普惠并重。

  《瞭望》:在全球人工智能安全治理上,中国企业可以发挥什么样的作用?

  周鸿祎:中国已形成较为活跃的开源大模型生态,帮助企业、组织实现AI私有化部署、安装与使用,让大多数人享受到科技进步所带来的红利。在开源大模型技术基础上融入安全治理能力,这将提升我国的全球影响力。

  中国企业应积极向国际组织提交解决大模型和智能体安全的方案,参与制定国际标准,并不断提供新产品来解决安全问题。中国特别重视人工智能安全与治理问题,在这种理念的指引下,中国企业有望在全球人工智能安全治理上走在世界前列。■

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
美国批评乌克兰袭击俄罗斯大桥事件,德国防长尖锐反驳:美国是“相当愚蠢”!

美国批评乌克兰袭击俄罗斯大桥事件,德国防长尖锐反驳:美国是“相当愚蠢”!

忧郁天空
2026-11-18 18:32:55
闻泰科技89.48亿投资损失已确认,收购的安世半导体供应链伤多重

闻泰科技89.48亿投资损失已确认,收购的安世半导体供应链伤多重

说故事的阿袭
2026-11-20 08:11:25
普京:克里米亚大桥遭袭后 俄方不会再讨论海上停火

普京:克里米亚大桥遭袭后 俄方不会再讨论海上停火

财联社
2026-11-20 07:10:05
只有中国能办到!特朗普欣赏深圳夜景,普京同日抵达,两人将私聊

只有中国能办到!特朗普欣赏深圳夜景,普京同日抵达,两人将私聊

国际法大视野
2026-11-19 13:54:06
晚上9点!CCTV5直播“全新”男篮首秀,核心后卫场均19.9分,郭士强拒绝“爆冷”

晚上9点!CCTV5直播“全新”男篮首秀,核心后卫场均19.9分,郭士强拒绝“爆冷”

篮球圈里的那些事
2026-11-19 21:16:25
诺里肯定杨瀚森表现,但明确前提:罗威克林根无法上场才能进轮换

诺里肯定杨瀚森表现,但明确前提:罗威克林根无法上场才能进轮换

篮球资讯达人
2026-11-20 13:05:34
年底最后一波好运:11月底起贵人扎堆、财运翻身的3生肖

年底最后一波好运:11月底起贵人扎堆、财运翻身的3生肖

星缘生肖
2026-11-19 11:47:47
左宗棠收复新疆代价有多大?阵亡6位一级将领,数据名单触目惊心

左宗棠收复新疆代价有多大?阵亡6位一级将领,数据名单触目惊心

文史达观
2025-07-06 06:45:03
工商银行发布贵金属市场波动风险提示

工商银行发布贵金属市场波动风险提示

界面新闻
2026-11-20 14:23:25
俄政府敲定克里米亚大桥修复方案

俄政府敲定克里米亚大桥修复方案

参考消息
2026-11-20 14:27:04
《GTA6》性爱系统详解:教你怎么做爱做的事情!

《GTA6》性爱系统详解:教你怎么做爱做的事情!

游民星空
2026-11-20 10:05:15
太可怕了!网传评论“凭什么给没有血缘关系的男人生孩子”收获9141个赞同,引发大量网友留言

太可怕了!网传评论“凭什么给没有血缘关系的男人生孩子”收获9141个赞同,引发大量网友留言

火山詩话
2026-11-18 11:00:42
抵达深圳后,中国台北代表施振荣喊话大陆,赖清德交代他3项任务

抵达深圳后,中国台北代表施振荣喊话大陆,赖清德交代他3项任务

不似少年游
2026-11-19 07:21:22
崔永熙等多位队友祝福贺希宁:一切都会回来的,别问我为什么知道

崔永熙等多位队友祝福贺希宁:一切都会回来的,别问我为什么知道

懂球帝
2026-11-20 10:54:08
中方:强烈不满,坚决反对!若美方执意妄为,中方将采取反制措施

中方:强烈不满,坚决反对!若美方执意妄为,中方将采取反制措施

经纬戎韬
2026-11-20 00:09:28
直线拉升!600360,2分钟涨停,封单超106万手

直线拉升!600360,2分钟涨停,封单超106万手

证券时报
2026-11-20 10:28:05
马龙的头号迷妹石川佳纯,现被日媒曝:与前日乒一哥“共度良宵”

马龙的头号迷妹石川佳纯,现被日媒曝:与前日乒一哥“共度良宵”

秋姐居
2026-11-20 11:47:44
AZEC峰会落幕,高市发出特别邀约,请11国把自家石油放进日本罐里

AZEC峰会落幕,高市发出特别邀约,请11国把自家石油放进日本罐里

影孖看世界
2026-11-19 23:26:23
GTA6成人相关搜索暴涨5000%!玩家狂搜色图和嫖娼

GTA6成人相关搜索暴涨5000%!玩家狂搜色图和嫖娼

游民星空
2026-11-20 10:05:16
一路走好!不到48小时,已有2位名人被曝去世,个个让人惋惜

一路走好!不到48小时,已有2位名人被曝去世,个个让人惋惜

观察鉴娱
2026-11-20 10:42:01
2026-11-20 14:59:00
新华社 incentive-icons
新华社
新华社是国家通讯社
730975文章数 2441483关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

特朗普返美途中发文:这是一次伟大且意义深远的访问

头条要闻

特朗普返美途中发文:这是一次伟大且意义深远的访问

体育要闻

脚步未停!西班牙摩托车手赤脚徒步入境中国

娱乐要闻

袁茵却用事实证明 活得并不差!

财经要闻

Anthropic敲钟 美股跳水:AI狂欢结束?

汽车要闻

方程豹钛9实测 堪称比亚迪最强混动的DMS到底怎么样?

态度原创

家居
艺术
教育
本地
公开课

家居要闻

2026建博会(广州) 公装联探展交流活动

艺术要闻

沙特利雅得第一高楼在导弹袭击中受损!

教育要闻

你认识boat,但未必认识“划船”的boat

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版