网易首页 > 网易科技 > 互联网 > 正文

安全是AI健康发展的保障 OpenClaw智能体应用前景与风险分析研讨会成功举办

0
分享至

3月21日下午,由中国国家创新与发展战略研究会数字经济工作委员会与网易科技联合主办的"OpenClawAI智能体应用前景与风险分析"研讨会在京举行。研讨会由中国国家创新与发展战略研究会副会长吕本富主持,全国政协委员、工业和信息化部原副部长王江平出席会议并做了主题演讲。工信部国家工业信息安全发展研究中心安全检查所所长于盟,中国科学院大学经济与管理学院教授、博导、院长助理刘颖,安恒信息副总裁杨绍波,枫清科技联合创始人兼CPO仲光庆等业界专家分别作主题发言,深入探讨了AI Agent技术的发展现状、应用前景与安全治理路径。与会专家认为,“龙虾热潮”照射出AI时代的高效和风险,既不能因奢废食,抑制创新活动,也不能放任自流,陷入无序竞争。

AI Agent:从"能说会道"到"能说会做"的第四次跃迁

刘颖教授在发言中回顾了AI技术的四次跃迁历程:从2023年ChatGPT开启"能说会道"时代,到2024年多模态感知突破,2025年深度推理能力提升,直至2026年OpenClaw等AI代理框架爆发,大模型终于获得了"执行力"。刘颖指出,OpenClaw的核心价值在于让AI从"顾问型"进化为"执行型"——它不仅能回答问题,更能操控电脑、管理文件、运行脚本、接入各类通讯工具,真正成为7×24小时工作的"数字员工"。

仲光庆分享了枫清科技在企业级AI Agent落地方面的实践经验。他指出,OpenClaw代表着从AI助手到数字员工的转变,企业级Agent不是单点工具,而是"执行+知识+推理"的组合,需要构建端(员工日常使用)、边(企业私有知识沉淀)、云(大模型算力支撑)三位一体的体系架构。

垂直领域应用爆发,效能提升显著

与会专家一致认为,OpenClaw类AI智能体正在金融、医疗、通信、制造等垂直领域加速落地。刘颖介绍,北京移动已推出首位"龙虾网管",在物理隔离环境中模拟真实用户进行端到端网络测试,实现故障处理效率大幅提升,人力成本下降60%;方正、广发、中信等至少八家券商已内部部署OpenClaw,视其为"下一代投研基建"。

仲光庆则聚焦企业大模型落地的"三步走"路径:第一阶段构建产品底座与多源知识库,实现智能问答与DeepResearch报告生成;第二阶段接入MCP工具与业务场景,实现本地数据与外部系统交互;第三阶段形成自定义Agent能力,实现泛化应用。他强调,企业落地应坚持"业务驱动、多方共创、小步快跑、从外围到核心"的原则。

安全风险凸显,六大维度需警惕

与会专家高度关注AI Agent带来的新型安全风险。于盟所长系统剖析了六大安全风险维度:权限维度风险(默认获取管理员级权限)、指令注入风险(提示词劫持可导致误操作)、数据泄露风险(AI可自主扫描并上传敏感数据)、生态与供应链风险(第三方Skill无审核机制)、网络与边界风险(设备可被作为跳板攻击内网)、合规与审计风险(缺少完整操作日志)。

于盟披露了令人警醒的案例:2026年1-3月共采集OpenClaw漏洞82个,其中超危12个、高危21个;"ClawHavoc"投毒事件中发现1184个恶意技能包,导致1100余名用户设备沦为"肉鸡";Meta安全总监的200多封重要邮件被失控AI删除,DataTalks.Club的194万行生产数据被误删。

杨绍波以Meta AI安全总监的经历为例,强调当AI从"能说会道"走向"能说会做",我们面对的不只是效率提升问题,更是关于信任、安全与全新生产关系的深刻变革。他提出"三维安全体系"——在传统的网络安全、数据安全之外,新增"决策执行安全"维度,确保AI的决策符合预设意图、执行过程可控、结果可审计。

构建生态级安全防护体系

针对安全治理路径,专家们提出了系统性建议。于盟给出六项安全使用建议:使用官方最新版本、严格控制互联网暴露面、坚持最小权限原则、谨慎使用ClawHub技能市场、防范社会工程学攻击、建立长效防护机制。杨绍波则判断未来将出现"独立守护代理(Guardian Agents)",在毫秒级时间内判断AI行为是否安全,Gartner预测到2029年超70%组织将采用此类方案。

刘颖介绍了当前监管政策动态:工信部已明确三大风险(信任边界模糊、越权操作风险、公网暴露风险)并提出五项整改建议;深圳龙岗、无锡高新区、常熟市、合肥高新区等地已出台专项政策,对OpenClaw及"一人公司(OPC)"项目提供最高达1000万元的资金支持,推动产业高质量发展。

安全是AI健康发展的保障

与会专家一致认为,AI Agent正在成为继大语言模型之后的下一波重大技术浪潮,将重新定义"工作"的含义。Gartner数据显示,17%的企业已部署AI Agent,42%计划在一年内落地。面对这一历史机遇,安全不是AI发展的制约,而是AI健康发展的保障。唯有前瞻布局,方能行稳致远。

本次研讨会为AI Agent技术的安全、可控、高质量发展提供了重要的交流平台,政府部门、学术机构、安全厂商与技术企业的深入对话,将为构建完善的AI Agent安全治理体系贡献智慧力量。

相关推荐
热点推荐
亏了30万!疯狂持续!A股还会涨吗?

亏了30万!疯狂持续!A股还会涨吗?

龙行天下虎
2026-07-11 00:02:05
一念之间:那个本来可以成为中国华盛顿的人,为何偏要跳进火坑?

一念之间:那个本来可以成为中国华盛顿的人,为何偏要跳进火坑?

浪子说
2026-06-08 01:10:03
老板娘问我她屁股翘不翘?我该怎么回答?

老板娘问我她屁股翘不翘?我该怎么回答?

太急张三疯
2026-07-02 14:20:06
早田希娜坦言:我最佩服三位中国女乒选手,与她们交锋我感到无力

早田希娜坦言:我最佩服三位中国女乒选手,与她们交锋我感到无力

陌识
2026-05-29 23:18:37
土耳其记者:格林伍德正式确定加盟费内巴切,年薪达1000万欧

土耳其记者:格林伍德正式确定加盟费内巴切,年薪达1000万欧

懂球帝
2026-07-10 16:49:23
吃过山东的“真菌馒头”,才知道啥叫命硬

吃过山东的“真菌馒头”,才知道啥叫命硬

ONE·一个
2026-07-08 13:37:41
报应来得太快!大陆仅仅是关停关税优惠

报应来得太快!大陆仅仅是关停关税优惠

小马姨
2026-07-08 15:21:57
国务院任免国家工作人员

国务院任免国家工作人员

新华社
2026-07-10 18:50:04
最高665!有人497上公办!2026广东首批高考投档线重磅出炉,没报亏大了?

最高665!有人497上公办!2026广东首批高考投档线重磅出炉,没报亏大了?

华庭讲美食
2026-07-10 19:53:20
我刚提正处级,省委书记听完我发言问:愿不愿意来省委当我的秘书

我刚提正处级,省委书记听完我发言问:愿不愿意来省委当我的秘书

千秋文化
2026-07-07 20:08:54
美国警方抓12名华人按摩女,公开大头照引海内外争议

美国警方抓12名华人按摩女,公开大头照引海内外争议

尘埃里的看客
2026-07-10 16:07:28
赢麻了!长鑫科技下周“打新”,机构预测建行收益或达410亿!

赢麻了!长鑫科技下周“打新”,机构预测建行收益或达410亿!

21世纪经济报道
2026-07-10 15:22:18
大米江湖的暗战:那些超市里的“陷阱米”,正在偷走你的钱和健康

大米江湖的暗战:那些超市里的“陷阱米”,正在偷走你的钱和健康

富贵说
2026-01-18 20:36:10
官方:新疆广汇已与阿不都沙拉木、曲笑宇完成续约

官方:新疆广汇已与阿不都沙拉木、曲笑宇完成续约

懂球帝
2026-07-10 22:49:20
桑托斯通过曼联体检周五亮相!偶像卡塞米罗,曝红魔闪电引进原因

桑托斯通过曼联体检周五亮相!偶像卡塞米罗,曝红魔闪电引进原因

罗米的曼联博客
2026-07-10 06:43:11
跟自己的孩子较劲,是一个家庭最大的内耗

跟自己的孩子较劲,是一个家庭最大的内耗

诺妈家有男宝娃
2026-07-03 16:18:24
为了阻止我支付1.5元单车费,美团煞费苦心

为了阻止我支付1.5元单车费,美团煞费苦心

晶柯喻律
2026-07-02 06:09:25
深圳幸福家园事件民事刑事依法加速查处“已显现”

深圳幸福家园事件民事刑事依法加速查处“已显现”

坠入二次元的海洋
2026-07-09 12:22:50
河村勇辉梦碎NBA!将试水CBA,已对接多支球队,但暗藏巨大隐患

河村勇辉梦碎NBA!将试水CBA,已对接多支球队,但暗藏巨大隐患

童叔不飙车
2026-06-29 01:45:13
岚图追光S实车露面,车长超5米,最高700km续航,还带全铝底盘

岚图追光S实车露面,车长超5米,最高700km续航,还带全铝底盘

闻车品百魅
2026-07-10 11:36:15
2026-07-11 03:08:49

科技要闻

中国开启可回收火箭时代

头条要闻

广西有人抓上百斤蛇 有独居老人窗户几乎被蛇爬满

头条要闻

广西有人抓上百斤蛇 有独居老人窗户几乎被蛇爬满

体育要闻

法国VS摩洛哥:谁才是臭外地的?

娱乐要闻

韩国顶流李钟硕与IU官宣分手!

财经要闻

一封举报信 引发小红书IPO合规考验

汽车要闻

吉利银河TT:C级纯电轿跑新玩家 此TT非彼TT

态度原创

本地
数码
家居
艺术
公开课

本地新闻

重庆人有自己的避暑桃花源 | 夏天就去「酉」风的地方!

数码要闻

微星40周年全系列亮相BW2026:主板、水冷全都有

家居要闻

2026建博会(广州) 公装联探展交流活动

艺术要闻

vivo深圳总部,一座“垂直森林”的崛起

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版
×