网易首页 > 网易科技 > 互联网 > 正文

安全是AI健康发展的保障 OpenClaw智能体应用前景与风险分析研讨会成功举办

0
分享至

3月21日下午,由中国国家创新与发展战略研究会数字经济工作委员会与网易科技联合主办的"OpenClawAI智能体应用前景与风险分析"研讨会在京举行。研讨会由中国国家创新与发展战略研究会副会长吕本富主持,全国政协委员、工业和信息化部原副部长王江平出席会议并做了主题演讲。工信部国家工业信息安全发展研究中心安全检查所所长于盟,中国科学院大学经济与管理学院教授、博导、院长助理刘颖,安恒信息副总裁杨绍波,枫清科技联合创始人兼CPO仲光庆等业界专家分别作主题发言,深入探讨了AI Agent技术的发展现状、应用前景与安全治理路径。与会专家认为,“龙虾热潮”照射出AI时代的高效和风险,既不能因奢废食,抑制创新活动,也不能放任自流,陷入无序竞争。

安全是AI健康发展的保障    OpenClaw智能体应用前景与风险分析研讨会成功举办

AI Agent:从"能说会道"到"能说会做"的第四次跃迁

刘颖教授在发言中回顾了AI技术的四次跃迁历程:从2023年ChatGPT开启"能说会道"时代,到2024年多模态感知突破,2025年深度推理能力提升,直至2026年OpenClaw等AI代理框架爆发,大模型终于获得了"执行力"。刘颖指出,OpenClaw的核心价值在于让AI从"顾问型"进化为"执行型"——它不仅能回答问题,更能操控电脑、管理文件、运行脚本、接入各类通讯工具,真正成为7×24小时工作的"数字员工"。

仲光庆分享了枫清科技在企业级AI Agent落地方面的实践经验。他指出,OpenClaw代表着从AI助手到数字员工的转变,企业级Agent不是单点工具,而是"执行+知识+推理"的组合,需要构建端(员工日常使用)、边(企业私有知识沉淀)、云(大模型算力支撑)三位一体的体系架构。

垂直领域应用爆发,效能提升显著

与会专家一致认为,OpenClaw类AI智能体正在金融、医疗、通信、制造等垂直领域加速落地。刘颖介绍,北京移动已推出首位"龙虾网管",在物理隔离环境中模拟真实用户进行端到端网络测试,实现故障处理效率大幅提升,人力成本下降60%;方正、广发、中信等至少八家券商已内部部署OpenClaw,视其为"下一代投研基建"。

仲光庆则聚焦企业大模型落地的"三步走"路径:第一阶段构建产品底座与多源知识库,实现智能问答与DeepResearch报告生成;第二阶段接入MCP工具与业务场景,实现本地数据与外部系统交互;第三阶段形成自定义Agent能力,实现泛化应用。他强调,企业落地应坚持"业务驱动、多方共创、小步快跑、从外围到核心"的原则。

安全风险凸显,六大维度需警惕

与会专家高度关注AI Agent带来的新型安全风险。于盟所长系统剖析了六大安全风险维度:权限维度风险(默认获取管理员级权限)、指令注入风险(提示词劫持可导致误操作)、数据泄露风险(AI可自主扫描并上传敏感数据)、生态与供应链风险(第三方Skill无审核机制)、网络与边界风险(设备可被作为跳板攻击内网)、合规与审计风险(缺少完整操作日志)。

于盟披露了令人警醒的案例:2026年1-3月共采集OpenClaw漏洞82个,其中超危12个、高危21个;"ClawHavoc"投毒事件中发现1184个恶意技能包,导致1100余名用户设备沦为"肉鸡";Meta安全总监的200多封重要邮件被失控AI删除,DataTalks.Club的194万行生产数据被误删。

杨绍波以Meta AI安全总监的经历为例,强调当AI从"能说会道"走向"能说会做",我们面对的不只是效率提升问题,更是关于信任、安全与全新生产关系的深刻变革。他提出"三维安全体系"——在传统的网络安全、数据安全之外,新增"决策执行安全"维度,确保AI的决策符合预设意图、执行过程可控、结果可审计。

构建生态级安全防护体系

针对安全治理路径,专家们提出了系统性建议。于盟给出六项安全使用建议:使用官方最新版本、严格控制互联网暴露面、坚持最小权限原则、谨慎使用ClawHub技能市场、防范社会工程学攻击、建立长效防护机制。杨绍波则判断未来将出现"独立守护代理(Guardian Agents)",在毫秒级时间内判断AI行为是否安全,Gartner预测到2029年超70%组织将采用此类方案。

刘颖介绍了当前监管政策动态:工信部已明确三大风险(信任边界模糊、越权操作风险、公网暴露风险)并提出五项整改建议;深圳龙岗、无锡高新区、常熟市、合肥高新区等地已出台专项政策,对OpenClaw及"一人公司(OPC)"项目提供最高达1000万元的资金支持,推动产业高质量发展。

安全是AI健康发展的保障

与会专家一致认为,AI Agent正在成为继大语言模型之后的下一波重大技术浪潮,将重新定义"工作"的含义。Gartner数据显示,17%的企业已部署AI Agent,42%计划在一年内落地。面对这一历史机遇,安全不是AI发展的制约,而是AI健康发展的保障。唯有前瞻布局,方能行稳致远。

本次研讨会为AI Agent技术的安全、可控、高质量发展提供了重要的交流平台,政府部门、学术机构、安全厂商与技术企业的深入对话,将为构建完善的AI Agent安全治理体系贡献智慧力量。

相关推荐
热点推荐
解放军南海大阵仗,不是1国对7国,是25万吨对10万吨的碾压

解放军南海大阵仗,不是1国对7国,是25万吨对10万吨的碾压

罗富强说
2026-04-26 18:09:50
岛内最新民调,事关两岸统一,蒋万安郑丽文支持率有惊人变化?

岛内最新民调,事关两岸统一,蒋万安郑丽文支持率有惊人变化?

DS北风
2026-04-23 15:56:17
“穷人炫富,难掩心酸!”男大学生炫耀坐高铁一等座,因长相被嘲

“穷人炫富,难掩心酸!”男大学生炫耀坐高铁一等座,因长相被嘲

妍妍教育日记
2026-04-24 09:05:03
Shams:华子将对左膝进一步检查 他的右膝患有“跑者膝”

Shams:华子将对左膝进一步检查 他的右膝患有“跑者膝”

北青网-北京青年报
2026-04-26 14:33:03
暴雨、雷暴大风上线!今天起新一轮降水来袭 五一假期多雨模式持续

暴雨、雷暴大风上线!今天起新一轮降水来袭 五一假期多雨模式持续

闪电新闻
2026-04-26 14:05:42
尾号9999999手机号将以26.6833万起拍价再次拍卖,月租仅9元,2个月前51万余元起拍无人接盘

尾号9999999手机号将以26.6833万起拍价再次拍卖,月租仅9元,2个月前51万余元起拍无人接盘

极目新闻
2026-04-25 18:36:08
全市领导干部会议召开,宣布省委关于景德镇市委主要负责同志调整的决定

全市领导干部会议召开,宣布省委关于景德镇市委主要负责同志调整的决定

景德镇瓷局
2026-04-26 09:16:19
周里京参加北京国际电影节!他老态毕现,有两大人生短板

周里京参加北京国际电影节!他老态毕现,有两大人生短板

细品名人
2026-04-25 07:32:12
外交部一锤定音!赖清德没资格,郑丽文就算赢了选举也不认!

外交部一锤定音!赖清德没资格,郑丽文就算赢了选举也不认!

果妈聊娱乐
2026-04-25 13:48:35
驻日武官王庆简:为日本潜伏20年出卖军事机密,却因一动作暴露身份

驻日武官王庆简:为日本潜伏20年出卖军事机密,却因一动作暴露身份

睡前讲故事
2026-02-03 20:55:43
中方不再伺候了!对荷光刻机优待全部取消,450亿芯片不做了!

中方不再伺候了!对荷光刻机优待全部取消,450亿芯片不做了!

通鉴史智
2026-04-26 14:54:35
爆冷!羽协主席张军被查,小4岁花游冠军妻子成最意难平的人

爆冷!羽协主席张军被查,小4岁花游冠军妻子成最意难平的人

阿废冷眼观察所
2026-04-26 19:53:52
网友拿光明会成立250周年来质疑华晨宇,粉丝被气得不行

网友拿光明会成立250周年来质疑华晨宇,粉丝被气得不行

映射生活的身影
2026-04-25 18:10:22
兵败如山倒!国产新能源或已经证明:中国压根不需要二线豪华品牌

兵败如山倒!国产新能源或已经证明:中国压根不需要二线豪华品牌

准备好了吗
2026-04-26 06:20:34
外媒:中资工厂正将996加班文化传入欧洲,挤压当地正常就业岗位

外媒:中资工厂正将996加班文化传入欧洲,挤压当地正常就业岗位

凡人学电脑
2026-04-25 23:23:58
一张“初三女孩体测”照片,让家长被数万网友指责:太不用心了!

一张“初三女孩体测”照片,让家长被数万网友指责:太不用心了!

川渝视觉
2026-04-25 20:19:24
首轮G3全部打完,2组3-0,5组2-1!2支伪强队出现,2队有夺冠实力

首轮G3全部打完,2组3-0,5组2-1!2支伪强队出现,2队有夺冠实力

毒舌NBA
2026-04-26 09:03:54
17中13轰43分!历史首人!6换2大交易捡到宝了

17中13轰43分!历史首人!6换2大交易捡到宝了

世界体育圈
2026-04-26 12:44:24
当初同意给老小区加装电梯的业主,如今都后悔了?5个原因很现实

当初同意给老小区加装电梯的业主,如今都后悔了?5个原因很现实

装修秀
2026-04-24 10:35:03
普京的大阳谋,力挺伊朗困住美军,联合朝鲜震慑日本,赢了一手

普京的大阳谋,力挺伊朗困住美军,联合朝鲜震慑日本,赢了一手

爱吃醋的猫咪
2026-04-26 21:32:11
2026-04-26 22:39:00

科技要闻

涨价浪潮下,DeepSeek推动AI“价格战”

头条要闻

以色列政坛重大变局 内塔尼亚胡迎来劲敌

头条要闻

以色列政坛重大变局 内塔尼亚胡迎来劲敌

体育要闻

森林狼3比1掘金:逆境中杀出了多孙穆?!

娱乐要闻

仅次《指环王》的美剧,有第二季

财经要闻

事关新就业群体,中办、国办发文

汽车要闻

预售19.38万元起 哈弗猛龙PLUS七座版亮相

态度原创

本地
健康
艺术
公开课
军事航空

本地新闻

云游中国|逛世界风筝都 留学生探秘中国传统文化

干细胞如何让烧烫伤皮肤"再生"?

艺术要闻

总投资35亿!汾酒集团太原的地标大楼,呈现白酒文化!

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

伊朗总统:不会在压力、威胁下进行谈判

无障碍浏览 进入关怀版
×